“將安全可控理念貫穿于AI智能體研發(fā)全生命周期”“政產(chǎn)學(xué)研用協(xié)同推進(jìn)，加快建立AI智能體安全標(biāo)準(zhǔn)體系”……9月15日，在2025年廣州市網(wǎng)絡(luò)安全宣傳周啟動儀式上，8家單位共同發(fā)出“AI智能體安全發(fā)展倡議”，呼吁筑牢技術(shù)研發(fā)安全底線、構(gòu)建標(biāo)準(zhǔn)規(guī)范引領(lǐng)體系、推動產(chǎn)業(yè)生態(tài)安全共治、深化應(yīng)用治理協(xié)同聯(lián)動、強(qiáng)化安全人才培育根基和促進(jìn)安全知識普惠普及。

當(dāng)前，國家“人工智能+”行動正深入推進(jìn)，AI技術(shù)與實(shí)體經(jīng)濟(jì)加速融合。隨著技術(shù)的不斷進(jìn)步，智能體的越權(quán)、過度代理等新型風(fēng)險也逐漸顯現(xiàn)。推動AI智能體安全、可靠、可控、可審計(jì)的發(fā)展，不僅是科技界的責(zé)任，更需要政府、企業(yè)、學(xué)界和公眾的共同參與，共筑防線。

在啟動儀式上，廣州市網(wǎng)絡(luò)安全產(chǎn)業(yè)促進(jìn)會、廣州互聯(lián)網(wǎng)協(xié)會，南都大數(shù)據(jù)研究院、中山大學(xué)網(wǎng)絡(luò)空間安全學(xué)院，琶洲實(shí)驗(yàn)室、暨南大學(xué)人工智能產(chǎn)業(yè)學(xué)院，以及廣州市動悅信息技術(shù)有限公司、廣州小鵬汽車科技有限公司、廣東領(lǐng)信數(shù)科信息技術(shù)有限公司等產(chǎn)學(xué)研用代表，共同按下啟動鍵，發(fā)出“AI智能體安全發(fā)展倡議”。

此次活動由廣州市委宣傳部、市委網(wǎng)信辦、市教育局、市工業(yè)和信息化局、市公安局、市文化廣電旅游局、市國資委、市政務(wù)服務(wù)和數(shù)據(jù)管理局、市總工會、團(tuán)市委、市婦聯(lián)、中國人民銀行廣東省分行聯(lián)合主辦，南方都市報社、南都大數(shù)據(jù)研究院承辦，廣州市網(wǎng)絡(luò)安全產(chǎn)業(yè)促進(jìn)會、廣州互聯(lián)網(wǎng)協(xié)會支持。

多家單位代表共同發(fā)出“AI智能體安全發(fā)展倡議”。

“AI智能體安全發(fā)展倡議”內(nèi)容

一、筑牢技術(shù)研發(fā)安全底線。

我們倡議，將安全可控理念貫穿于AI智能體研發(fā)全生命周期。優(yōu)先采用“設(shè)計(jì)即安全”技術(shù)，內(nèi)置主動防御機(jī)制，推動智能體行為透明、意圖清晰，從源頭遏制安全風(fēng)險，為技術(shù)創(chuàng)新保駕護(hù)航。

二、構(gòu)建標(biāo)準(zhǔn)規(guī)范引領(lǐng)體系。

我們倡議，“政產(chǎn)學(xué)研用”協(xié)同推進(jìn)，加快建立AI智能體安全標(biāo)準(zhǔn)體系。支持廣州探索制定AI智能體安全發(fā)展標(biāo)準(zhǔn)規(guī)范，推動標(biāo)準(zhǔn)國際化對接，在全球競爭贏得安全話語權(quán)與規(guī)則制定權(quán)。

三、推動產(chǎn)業(yè)生態(tài)安全共治。

我們倡議，產(chǎn)業(yè)鏈上下游企業(yè)攜手建立風(fēng)險共擔(dān)、信息共享的安全聯(lián)盟。共建AI安全漏洞庫、威脅信息共享平臺，建立應(yīng)急響應(yīng)協(xié)同機(jī)制，鼓勵頭部企業(yè)開放安全工具鏈，賦能中小企業(yè)，形成以大帶小、以點(diǎn)帶面的產(chǎn)業(yè)安全防線。

四、深化應(yīng)用治理協(xié)同聯(lián)動。

我們倡議，建立健全敏捷、高效的風(fēng)險監(jiān)管與治理框架。發(fā)展高風(fēng)險應(yīng)用時嚴(yán)格實(shí)施安全影響與倫理評估，鼓勵采用創(chuàng)新模式平衡創(chuàng)新發(fā)展與安全可控，推動建立跨部門、跨區(qū)域的協(xié)同監(jiān)管機(jī)制，助力AI智能體服務(wù)造福社會。

五、強(qiáng)化安全人才培育根基。

我們倡議，大力推動AI安全學(xué)科建設(shè)與人才培養(yǎng)。支持校企共建實(shí)訓(xùn)基地，開設(shè)專門課程，培育復(fù)合型人才，舉辦高水平安全競賽與研討，打造產(chǎn)業(yè)人才高地，為廣州乃至大灣區(qū)的AI安全發(fā)展提供堅(jiān)實(shí)智力支撐。

六、促進(jìn)安全知識普惠普及。

我們倡議，積極開展網(wǎng)絡(luò)安全素養(yǎng)提升行動，增強(qiáng)公眾對AI風(fēng)險認(rèn)識與防范能力。鼓勵企業(yè)發(fā)布通俗易懂的安全白皮書，提升產(chǎn)品透明度，營造全社會懂AI、安全用AI的良好氛圍，筑牢人工智能發(fā)展的社會信任根基。

出品：南都大數(shù)據(jù)研究院

統(tǒng)籌：凌慧珊 袁炯賢

采寫：南都N視頻記者 袁炯賢 研究員 麥潔瑩 方曉林

攝影：鐘銳鈞 攝像：徐坤偉 劉暢