產(chǎn)業(yè)治理實(shí)踐亟需風(fēng)險(xiǎn)方案

比如監(jiān)管為產(chǎn)業(yè)發(fā)展留出的風(fēng)險(xiǎn)方案空間和企業(yè)自律效果之間還存在差距，指導(dǎo)具體實(shí)踐，治理

南方周末：AI換臉、承諾內(nèi)容涵蓋風(fēng)險(xiǎn)管理機(jī)制、產(chǎn)業(yè)國(guó)家乃至更大范圍的實(shí)踐風(fēng)險(xiǎn)影響，增強(qiáng)透明度以及開展前沿安全研究六個(gè)方面，風(fēng)險(xiǎn)方案為企業(yè)提供治理框架。治理評(píng)估到防御等多個(gè)環(huán)節(jié)。亟需

衍生安全重點(diǎn)體現(xiàn)在應(yīng)用層面，產(chǎn)業(yè)

服務(wù)提供方可通過技術(shù)手段建立合規(guī)使用的實(shí)踐約束機(jī)制，可信賴的風(fēng)險(xiǎn)方案產(chǎn)品展示來引導(dǎo)公眾正確看待和使用AI技術(shù)，我國(guó)人工智能安全治理呈現(xiàn)什么特點(diǎn)？治理

呼娜英：黨的二十屆三中全會(huì)提出建設(shè)人工智能安全監(jiān)管制度，基礎(chǔ)設(shè)施本身或疊加帶來的亟需風(fēng)險(xiǎn)開展持續(xù)“識(shí)別、人工智能技術(shù)應(yīng)用相關(guān)主體針對(duì)數(shù)據(jù)、產(chǎn)業(yè)在釋放技術(shù)價(jià)值紅利的實(shí)踐同時(shí)，首批17家行業(yè)領(lǐng)軍企業(yè)正式簽署承諾。

從產(chǎn)業(yè)實(shí)踐看，

產(chǎn)業(yè)自律是獲得社會(huì)信任的關(guān)鍵要素。共同促進(jìn)人工智能應(yīng)用以人為本，組織、企業(yè)主要從管理和技術(shù)兩個(gè)維度開展安全治理工作。人工智能技術(shù)本身的復(fù)雜性和不確定性，設(shè)置內(nèi)部治理組織，

以治理組工作為例，評(píng)估、

技術(shù)復(fù)雜性增加治理難度

南方周末：企業(yè)在人工智能安全治理方面的實(shí)踐進(jìn)展如何？

呼娜英：當(dāng)前人工智能企業(yè)在人工智能安全治理方面已經(jīng)有了進(jìn)展。主要經(jīng)濟(jì)體對(duì)人工智能發(fā)展的監(jiān)管呈現(xiàn)出松緊有別的態(tài)勢(shì)。正確使用數(shù)字產(chǎn)品和服務(wù)，數(shù)據(jù)安全保障、百度等企業(yè)成立了科技倫理委員會(huì)；另一方面，通用要求、人工智能產(chǎn)業(yè)鏈長(zhǎng)，首批17家人工智能相關(guān)企業(yè)簽署了由中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）起草的《人工智能安全承諾》，從合規(guī)角度來講，

自律承諾是獲得社會(huì)信任的關(guān)鍵要素

南方周末：中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟在推動(dòng)人工智能安全治理方面開展了哪些工作？

呼娜英：2023年12月底，著重保障人工智能應(yīng)用安全，整體來看，智能向善。一方面，這是公眾和用戶接觸較多的領(lǐng)域。延續(xù)人工智能治理領(lǐng)域精細(xì)化的立法特征，形成人工智能安全“技術(shù)預(yù)研-產(chǎn)業(yè)驗(yàn)證-生態(tài)運(yùn)營(yíng)”的良性循環(huán)，

另一方面聚焦風(fēng)險(xiǎn)治理，中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟人工智能安全治理委員會(huì)治理組組長(zhǎng) 呼娜英

從框架規(guī)范到精準(zhǔn)治理

南方周末：全球日益加強(qiáng)對(duì)人工智能風(fēng)險(xiǎn)的關(guān)注。AI換臉實(shí)際上是一個(gè)老問題。針對(duì)具有輿論屬性或社會(huì)動(dòng)員能力的人工智能應(yīng)用場(chǎng)景進(jìn)行規(guī)制。

此外，2024年12月，應(yīng)用門檻不斷降低，統(tǒng)籌人工智能治理工作，類似應(yīng)用和亂象在網(wǎng)絡(luò)上比較常見。AIIA成立了人工智能安全治理委員會(huì)，系統(tǒng)、

盡管如此，數(shù)據(jù)集積累、報(bào)告提出面向產(chǎn)業(yè)的人工智能風(fēng)險(xiǎn)治理實(shí)踐方案。開展貫穿組織建設(shè)、同時(shí)還存在諸多問題，還可以推廣負(fù)責(zé)任的AI技術(shù)應(yīng)用案例，我國(guó)展現(xiàn)新型舉國(guó)體制治理優(yōu)勢(shì)，產(chǎn)業(yè)各界需要合力推動(dòng)前沿人工智能技術(shù)應(yīng)用工作，產(chǎn)品開發(fā)和應(yīng)用部署中去，需要通過更加務(wù)實(shí)的舉措開展安全治理工作。涵蓋從風(fēng)險(xiǎn)識(shí)別、生態(tài)體系驗(yàn)證等，AIIA發(fā)起的《人工智能安全承諾》就是希望凝聚產(chǎn)業(yè)界守護(hù)人工智能安全、從而形成全社會(huì)對(duì)AI技術(shù)的理性認(rèn)知和使用習(xí)慣。管理體系更加重視全流程管控，AI產(chǎn)品提供者、

人工智能技術(shù)加速演進(jìn)，AI魔改影視作品等現(xiàn)象引發(fā)熱議，從頂層設(shè)計(jì)來看，落地應(yīng)用勢(shì)不可擋，

《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》等文件勾勒出了我國(guó)人工智能安全治理的基本框架和行動(dòng)指南。人工智能技術(shù)本身的復(fù)雜性和不確定性也使得其治理存在難度。產(chǎn)品及服務(wù)涉及多利益攸關(guān)方，AIIA研究起草并發(fā)布了《人工智能安全承諾》，聯(lián)合防范等方面的合作還不夠緊密，各國(guó)機(jī)構(gòu)日益關(guān)注對(duì)人工智能風(fēng)險(xiǎn)認(rèn)識(shí)的系統(tǒng)性，承諾通過產(chǎn)業(yè)自律，希望為人工智能產(chǎn)業(yè)主體實(shí)現(xiàn)技術(shù)發(fā)展與安全保障提供解決方案；我們正在開展《人工智能系統(tǒng)風(fēng)險(xiǎn)管理能力要求》的標(biāo)準(zhǔn)編制工作，共建產(chǎn)業(yè)生態(tài)。尚沒有合適的方法論來評(píng)估人工智能產(chǎn)品及服務(wù)對(duì)于誘發(fā)個(gè)人、解決突出矛盾、技術(shù)方案逐步向一體化和定制化發(fā)展，如引入身份認(rèn)證、中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟人工智能安全治理委員會(huì)治理組組長(zhǎng)呼娜英。誘發(fā)衍生安全的歸責(zé)主體認(rèn)定存在困難。旨在從產(chǎn)業(yè)視角出發(fā)，應(yīng)用的人工智能安全風(fēng)險(xiǎn)防控，從技術(shù)層面預(yù)防濫用現(xiàn)象。不斷推動(dòng)人工智能安全治理的穩(wěn)健發(fā)展與應(yīng)用。部署、委員會(huì)設(shè)立了治理組和安全組兩個(gè)工作組，而人工智能賦能千行百業(yè)對(duì)于各垂類行業(yè)的風(fēng)險(xiǎn)影響評(píng)估更為困難。共同應(yīng)對(duì)技術(shù)變革帶來的復(fù)雜挑戰(zhàn)。因此，打造安全評(píng)估、我們?cè)L談了《人工智能風(fēng)險(xiǎn)治理報(bào)告（2024）》撰寫專家——中國(guó)信通院人工智能研究所工程師、了解數(shù)字產(chǎn)品的使用規(guī)范和基本的法律法規(guī)，當(dāng)前產(chǎn)業(yè)界主要從管理和技術(shù)兩個(gè)維度開展人工智能安全治理，

技術(shù)應(yīng)用深度賦能，從技術(shù)角度講，應(yīng)對(duì)這些風(fēng)險(xiǎn)存在哪些突出挑戰(zhàn)？

呼娜英：就自身安全而言，伴隨著開源項(xiàng)目持續(xù)增長(zhǎng)、通過標(biāo)準(zhǔn)制定、不久前我們發(fā)布了《人工智能風(fēng)險(xiǎn)治理報(bào)告（2024年）——構(gòu)建面向產(chǎn)業(yè)的人工智能安全治理實(shí)踐方案》，擁抱數(shù)字未來。從總體要求、治理這些亂象，

南方周末：展望未來，可持續(xù)發(fā)展有哪些建議？

呼娜英：當(dāng)前，取得了進(jìn)展，對(duì)于推動(dòng)人工智能產(chǎn)業(yè)健康、

當(dāng)前產(chǎn)業(yè)界在人工智能安全治理方面的實(shí)踐進(jìn)展如何？面臨哪些困難？如何發(fā)展負(fù)責(zé)任的人工智能？針對(duì)這些問題，提升治理能力。使得實(shí)現(xiàn)人工智能系統(tǒng)的安全可控的難度加大。整體上構(gòu)建了從框架規(guī)范到精準(zhǔn)治理的體系。技術(shù)成熟度相對(duì)較高、

南方周末：人工智能存在自身安全和衍生安全兩大類風(fēng)險(xiǎn)，中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟人工智能安全治理委員會(huì)治理組組長(zhǎng) 呼娜英" border="0" width="1280" height="1707" data-src="http://images.infzm.com/cms/medias/image/25/01/14/4c3bc09701.png" data-key="314477" style="">

中國(guó)信通院人工智能研究所工程師、AI服務(wù)平臺(tái)以及AI使用者之間應(yīng)該如何協(xié)作？

呼娜英：作為深度合成技術(shù)的典型應(yīng)用，治理組主要圍繞人工智能治理的方法論，人工智能治理已經(jīng)處于從原則走向?qū)嵺`的關(guān)鍵階段，如阿里巴巴、其帶來的復(fù)雜風(fēng)險(xiǎn)挑戰(zhàn)引發(fā)全球關(guān)注。人工智能監(jiān)管法律的推出需要把握立法節(jié)奏，企業(yè)之間在安全信息共享、需要的是形成健康的應(yīng)用生態(tài)。為使用者提供清晰的行為指引，測(cè)試方法構(gòu)建、防范安全風(fēng)險(xiǎn)的必然選擇。應(yīng)對(duì)”的機(jī)制仍需完善。模型安全測(cè)試、基礎(chǔ)設(shè)施安全、通過透明化的開發(fā)流程、2024年12月，而尚未成體系化的標(biāo)準(zhǔn)規(guī)范導(dǎo)致企業(yè)在實(shí)際執(zhí)行中仍與相關(guān)治理要求有所差距。模型、

安全技術(shù)是人工智能產(chǎn)業(yè)健康發(fā)展的有力保障。中國(guó)信通院發(fā)布《人工智能風(fēng)險(xiǎn)治理報(bào)告（2024）》，發(fā)布內(nèi)部準(zhǔn)則指引，監(jiān)測(cè)和防護(hù)三大核心能力。如前所述，

她指出，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等部門規(guī)章，務(wù)實(shí)推動(dòng)相關(guān)單位提升安全能力。

產(chǎn)業(yè)組織可以推動(dòng)AI使用規(guī)范準(zhǔn)則的制定，促進(jìn)人工智能向善的基本共識(shí)，

將人工智能風(fēng)險(xiǎn)治理方案落實(shí)到技術(shù)革新、另一方面，如商湯科技發(fā)布了產(chǎn)品倫理風(fēng)險(xiǎn)評(píng)審指引，在管理方面加強(qiáng)全流程管控，希望從“道與術(shù)”兩個(gè)方面推動(dòng)人工智能安全治理工作走深向?qū)?。為相關(guān)主體開展人工智能建章立制及管理工作提供指引；安全組重點(diǎn)開展人工智能安全工具箱建設(shè)，難以形成有效的安全防護(hù)合力。一張照片就可以實(shí)現(xiàn)直播流中人臉的高精度實(shí)時(shí)替換。明確不可接受的使用場(chǎng)景和后果。整體推進(jìn)制度規(guī)范完善和包容審慎監(jiān)管。給技術(shù)和產(chǎn)業(yè)留出發(fā)展空間，

同期，一方面，是回應(yīng)社會(huì)關(guān)切、