中山大學(xué)計(jì)算機(jī)學(xué)院網(wǎng)絡(luò)空間安全研究所所長(zhǎng)、中山大學(xué)人工智能研究院副院長(zhǎng)盧偉教授

習(xí)近平總書(shū)記指出：“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全，確保人工智能安全、可靠、可控。”人工智能作為一項(xiàng)創(chuàng)新性、革命性的技術(shù)，將不可避免地對(duì)國(guó)家和社會(huì)發(fā)展帶來(lái)一系列影響。一方面，人工智能技術(shù)可以在維護(hù)與保障國(guó)家安全方面發(fā)揮新形式、高效率的作用；另一方面，人工智能的脆弱性、不可解釋性和不定向性等特點(diǎn)會(huì)給社會(huì)穩(wěn)定和國(guó)家安全帶來(lái)全新的潛在風(fēng)險(xiǎn)與挑戰(zhàn)。高松校長(zhǎng)在2023年秋季工作會(huì)議上指出：“助力國(guó)家創(chuàng)新體系提升整體效能，是學(xué)校科研高質(zhì)量?jī)?nèi)涵式發(fā)展的重要任務(wù)”。因此，探索人工智能技術(shù)在促進(jìn)區(qū)域協(xié)同發(fā)展、經(jīng)濟(jì)建設(shè)與社會(huì)治理等方面的可能性，以及應(yīng)對(duì)人工智能安全風(fēng)險(xiǎn)并把握人工智能發(fā)展的戰(zhàn)略主動(dòng)，是新時(shí)代我國(guó)國(guó)家安全治理所面臨的一個(gè)重要議題。

新一代人工智能，機(jī)遇與挑戰(zhàn)并存

人工智能生成內(nèi)容（AIGC）作為新興技術(shù)，正在逐漸成為實(shí)體經(jīng)濟(jì)發(fā)展的重要推動(dòng)力。目前，AIGC技術(shù)已經(jīng)能夠生成新聞、評(píng)論、廣告、產(chǎn)品描述等多種形式的內(nèi)容。同時(shí)，它正在重塑傳統(tǒng)的內(nèi)容生產(chǎn)方式和商業(yè)模式，通過(guò)引入新的生產(chǎn)力工具，促進(jìn)了內(nèi)容制作、營(yíng)銷(xiāo)與商業(yè)運(yùn)作等領(lǐng)域的廣泛變革。然而，AIGC技術(shù)的應(yīng)用同樣伴隨著挑戰(zhàn)和風(fēng)險(xiǎn)。特別是，AIGC技術(shù)可能會(huì)產(chǎn)生不真實(shí)或不準(zhǔn)確的內(nèi)容，導(dǎo)致信息泛濫、思維誤導(dǎo)，甚至可能侵犯用戶(hù)的個(gè)人隱私或名譽(yù)。針對(duì)這些問(wèn)題，中山大學(xué)計(jì)算機(jī)學(xué)院的人工智能與安全研究所團(tuán)隊(duì)等就AIGC可能引起的數(shù)據(jù)安全問(wèn)題，如流通數(shù)據(jù)的隱私、生成內(nèi)容的質(zhì)量與安全、版權(quán)和惡意用戶(hù)的攻擊等開(kāi)展深入研究，致力于推動(dòng)新技術(shù)安全發(fā)展與應(yīng)用。隨著大模型開(kāi)放使用和AIGC深度應(yīng)用，對(duì)數(shù)據(jù)處理、算法設(shè)計(jì)、計(jì)算能力等方面提出了更高要求，也對(duì)安全、隱私和倫理提出了更多挑戰(zhàn)。只有在確保數(shù)據(jù)安全和隱私保護(hù)、健全人工智能倫理與安全的前提下，才能讓AI技術(shù)真正釋放應(yīng)用價(jià)值。

面向國(guó)家安全新需求，技術(shù)與監(jiān)管并重

在大模型時(shí)代，信息技術(shù)與互聯(lián)網(wǎng)的飛速發(fā)展，安全威脅更加多樣和隱蔽。一方面，在防御針對(duì)大模型的隱私數(shù)據(jù)泄露和內(nèi)容安全問(wèn)題，計(jì)算機(jī)學(xué)院網(wǎng)絡(luò)空間研究所團(tuán)隊(duì)不斷完善AIGC攻防理論，通過(guò)結(jié)合技術(shù)研究與實(shí)際應(yīng)用，旨在開(kāi)發(fā)高效的新型防御技術(shù)，以應(yīng)對(duì)新型隱私泄露威脅。同時(shí)，積極開(kāi)發(fā)先進(jìn)的主動(dòng)探測(cè)技術(shù)，用于識(shí)別模型中的漏洞和弱點(diǎn)，從而主動(dòng)加強(qiáng)對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施的隱私數(shù)據(jù)和內(nèi)容安全的保護(hù)。另一方面，鑒于人工智能技術(shù)在安全領(lǐng)域的重要性，特別是在監(jiān)控和身份驗(yàn)證等關(guān)鍵應(yīng)用場(chǎng)景中的作用，參與制訂了行業(yè)標(biāo)準(zhǔn)。中山大學(xué)計(jì)算機(jī)學(xué)院在引導(dǎo)和規(guī)范新技術(shù)應(yīng)用的同時(shí)，全力維護(hù)廣大人民群眾的隱私數(shù)據(jù)安全和切身利益，促進(jìn)國(guó)家網(wǎng)絡(luò)新技術(shù)健康發(fā)展。

發(fā)揮技術(shù)優(yōu)勢(shì)，助力區(qū)域經(jīng)濟(jì)發(fā)展

從時(shí)代演進(jìn)的視角出發(fā)，人工智能領(lǐng)域的技術(shù)快速進(jìn)步正孕育著新機(jī)遇與新的發(fā)展前景。特別是以ChatGPT等大模型為代表的技術(shù)在理論與應(yīng)用層面的顯著進(jìn)展，正在全球范圍內(nèi)推動(dòng)新一代人工智能的蓬勃發(fā)展，這不僅為經(jīng)濟(jì)社會(huì)發(fā)展注入了新的動(dòng)力，也在根本性地改變?nèi)祟?lèi)的生產(chǎn)和生活方式。中山大學(xué)作為學(xué)術(shù)研究的前沿陣地，正積極參與到這一領(lǐng)域相關(guān)理論科學(xué)研究之中。計(jì)算機(jī)學(xué)院科研團(tuán)隊(duì)正把握這一新時(shí)代科技革命的脈動(dòng)，加強(qiáng)組織科研，培養(yǎng)相關(guān)技術(shù)和理論人才，開(kāi)拓獨(dú)具特色的研究途徑和理論體系。計(jì)算機(jī)學(xué)院致力于推動(dòng)校企合作，立足大灣區(qū)的強(qiáng)大人才儲(chǔ)備、經(jīng)濟(jì)基礎(chǔ)、區(qū)位優(yōu)勢(shì)和超級(jí)計(jì)算中心的高性能設(shè)備、計(jì)算體系，進(jìn)一步促進(jìn)互聯(lián)網(wǎng)、人工智能和大數(shù)據(jù)科研理論與實(shí)體經(jīng)濟(jì)相融合。通過(guò)產(chǎn)學(xué)合作、校企聯(lián)合培養(yǎng)等發(fā)展模式，為全國(guó)的高校持續(xù)性發(fā)展和國(guó)家經(jīng)濟(jì)發(fā)展提供新的思路。在這個(gè)過(guò)程中，中山大學(xué)遵循“集中力量辦大事”的原則，整合資源創(chuàng)辦人工智能研究院，從學(xué)校層面統(tǒng)籌大智能相關(guān)學(xué)科，以充分發(fā)揮人工智能在新一輪科技革命和產(chǎn)業(yè)變革中所發(fā)揮的驅(qū)動(dòng)力量，堅(jiān)持將新一代人工智能作為各個(gè)行業(yè)推動(dòng)產(chǎn)業(yè)優(yōu)化升級(jí)、科技跨越式發(fā)展、生產(chǎn)力整體提升的關(guān)鍵技術(shù)基礎(chǔ)，為國(guó)家實(shí)現(xiàn)高質(zhì)量、高增速、高水平的發(fā)展貢獻(xiàn)力量。

新一代人工智能技術(shù)引發(fā)的革命性變革和生產(chǎn)力躍遷具有全球性影響，因此不論是關(guān)于人工智能安全治理問(wèn)題還是在其推動(dòng)發(fā)展方面的潛力，都必須在全球范圍內(nèi)加以考量和應(yīng)對(duì)。計(jì)算機(jī)學(xué)院將秉承“勇于擔(dān)當(dāng)，敢于突破”的理念，致力于人工智能與安全理論研究，并在加速人工智能技術(shù)在經(jīng)濟(jì)領(lǐng)域的應(yīng)用和產(chǎn)業(yè)化進(jìn)程中，著力構(gòu)建一套完善、公平、安全且可控的國(guó)際標(biāo)準(zhǔn)，為人工智能技術(shù)安全、可控、健康、可持續(xù)性的發(fā)展保駕護(hù)航，為全球人工智能發(fā)展注入正能量，展現(xiàn)中國(guó)在科技共享和全球化問(wèn)題中的大國(guó)擔(dān)當(dāng)。

文稿終審：計(jì)算機(jī)學(xué)院 馬嘯