填補(bǔ)法律空白 強(qiáng)化技術(shù)監(jiān)管 壓實(shí)平臺(tái)責(zé)任
代表委員建言加強(qiáng)AI虛假信息治理
甘肅洪某利用ChatGPT編造虛假新聞牟利，四川“山體滑坡致8人遇難”等AI造謠案例引發(fā)社會(huì)恐慌，西藏地震后AI合成的災(zāi)害場(chǎng)景視頻被抖音平臺(tái)處理超2萬(wàn)條……
今年全國(guó)兩會(huì)上，人工智能技術(shù)的濫用與虛假信息治理成為熱議焦點(diǎn)。多位代表委員指出，隨著生成式AI技術(shù)的迅猛發(fā)展，虛假視頻、音頻、圖文等內(nèi)容“李逵”“李鬼”難辨，不僅誤導(dǎo)消費(fèi)者、侵犯公民權(quán)益，更擾亂社會(huì)秩序，亟須通過(guò)完善立法、強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺(tái)責(zé)任等手段構(gòu)建綜合治理體系。
AI虛假信息泛濫成風(fēng)險(xiǎn)隱患
全國(guó)人大代表、美的集團(tuán)副總裁兼首席財(cái)務(wù)官鐘錚在調(diào)研中發(fā)現(xiàn)，網(wǎng)絡(luò)上有大量AI生成的視頻模仿明星或?qū)＜业男蜗?、聲音，虛?gòu)人設(shè)、推銷商品，誤導(dǎo)消費(fèi)者購(gòu)買(mǎi)不必要的商品，造成財(cái)產(chǎn)損失，甚至產(chǎn)生信任危機(jī)。還有些視頻通過(guò)流量變現(xiàn)的形式去獲利，加劇亂象。
“AI技術(shù)降低了視頻合成和制作的門(mén)檻，使得虛假內(nèi)容的生成變得容易。”鐘錚近日在接受《法治日?qǐng)?bào)》記者采訪時(shí)說(shuō)。
全國(guó)人大代表、小米集團(tuán)創(chuàng)始人雷軍注意到“AI換臉擬聲”帶來(lái)的問(wèn)題。
雷軍在建議中指出，AI深度合成技術(shù)的快速發(fā)展，推動(dòng)了“AI換臉擬聲”在影視、廣告、社交等領(lǐng)域廣泛興起，成為社會(huì)喜聞樂(lè)見(jiàn)、傳播力強(qiáng)、易成熱點(diǎn)的技術(shù)應(yīng)用。但同時(shí)“AI換臉擬聲”不當(dāng)濫用造成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個(gè)人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽(yù)損害，帶來(lái)社會(huì)治理等風(fēng)險(xiǎn)。AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門(mén)檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理帶來(lái)較大挑戰(zhàn)。
責(zé)任歸屬與處罰標(biāo)準(zhǔn)須明?確
多位代表委員指出，當(dāng)前AI治理的法律體系仍存空白。
鐘錚認(rèn)為，現(xiàn)在生成式人工智能在法律法規(guī)體系上存在不完善之處，特別是在界定AI生成內(nèi)容的版權(quán)歸屬，以及侵權(quán)責(zé)任認(rèn)定、隱私保護(hù)標(biāo)準(zhǔn)方面存在空白。此外，目前生成式人工智能視頻的審核技術(shù)還不夠健全，雖然已有一些AI技術(shù)用于視頻審核，但仍存在一定的差錯(cuò)率。
全國(guó)政協(xié)委員、安徽省律師協(xié)會(huì)監(jiān)事長(zhǎng)周世虹介紹，我國(guó)于2023年8月15日起施行《生成式人工智能服務(wù)管理暫行辦法》，從而形成以該暫行辦法為核心，輔以數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等單行法的人工智能規(guī)范，但缺乏高位階的專門(mén)立法，覆蓋范圍有限，難以應(yīng)對(duì)技術(shù)發(fā)展可能引發(fā)的各種社會(huì)問(wèn)題。
全國(guó)人大代表，TCL創(chuàng)始人、董事長(zhǎng)李東生帶來(lái)的《關(guān)于加強(qiáng)AI深度偽造欺詐管理的建議》提到，隨著生成式人工智能技術(shù)的發(fā)展，深度偽造技術(shù)也快速發(fā)展。要規(guī)范對(duì)于這一新興技術(shù)的不當(dāng)利用，有必要要求深度合成服務(wù)提供商對(duì)人工智能生成的內(nèi)容進(jìn)行強(qiáng)制標(biāo)識(shí)，減少惡意濫用，并有助于厘清責(zé)任、對(duì)違法犯罪行為追責(zé)。
“近年來(lái)，我國(guó)相關(guān)立法雖有關(guān)注這一議題，但已出臺(tái)的規(guī)章制度尚不成體系，還不具備可操作的細(xì)則和明確的處罰標(biāo)準(zhǔn)。”李東生在建議中指出。
審核機(jī)制與處罰力度雙升級(jí)
如何加強(qiáng)AI虛假信息治理？代表委員一致認(rèn)為，須通過(guò)完善立法、強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺(tái)責(zé)任等舉措構(gòu)建綜合治理體系。
周世虹建議，將生成式人工智能納入專項(xiàng)立法，明確開(kāi)發(fā)者、運(yùn)營(yíng)者、用戶三方責(zé)任；完善監(jiān)管協(xié)同機(jī)制，建立網(wǎng)信、工信、公安等多部門(mén)聯(lián)動(dòng)的動(dòng)態(tài)監(jiān)管體系；設(shè)立AI生成內(nèi)容標(biāo)識(shí)制度，強(qiáng)制標(biāo)識(shí)AI生成內(nèi)容，防范虛假信息傳播。
雷軍的建議是，加快單行法立法進(jìn)程，安全與發(fā)展并重?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)已頒布實(shí)施，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法(征求意見(jiàn)稿)》完成社會(huì)意見(jiàn)征集，對(duì)人工智能立法進(jìn)行了有益探索。但目前“AI換臉擬聲”的有關(guān)規(guī)定，尚存在效力位階偏低、內(nèi)容偏原則且分散、多個(gè)部門(mén)職責(zé)交叉或職權(quán)定位有待明晰等不足，導(dǎo)致現(xiàn)階段針對(duì)“AI換臉擬聲”造成的侵害，只能依靠基礎(chǔ)法律中關(guān)于隱私權(quán)、肖像權(quán)、名譽(yù)權(quán)等的零散法條來(lái)規(guī)制。
“建議針對(duì)‘AI換臉擬聲’等某一代表性問(wèn)題，探索推出人工智能單行法，提高立法位階及其效力，在分級(jí)分類的基礎(chǔ)上進(jìn)行務(wù)實(shí)治理，明確‘AI換臉擬聲’應(yīng)用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對(duì)利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。與時(shí)俱進(jìn)探索新議題的細(xì)化監(jiān)管措施，凝聚人工智能倫理規(guī)范共識(shí)。”雷軍提出。
代表委員普遍認(rèn)為，AI治理需兼顧技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控，平臺(tái)責(zé)任是治理焦點(diǎn)。
鐘錚認(rèn)為，平臺(tái)應(yīng)加強(qiáng)對(duì)AI生成視頻的審核和監(jiān)督，確保內(nèi)容的真實(shí)性。對(duì)于AI生成的視頻，應(yīng)強(qiáng)制標(biāo)注警示性提示，提醒消費(fèi)者注意辨別。此外，利用AI技術(shù)審核AI合成的視頻內(nèi)容，同時(shí)投入更多資源開(kāi)發(fā)高效的AI審核工具，并結(jié)合人工審核，通過(guò)雙重校驗(yàn)提高識(shí)別準(zhǔn)確率。
“平臺(tái)企業(yè)開(kāi)發(fā)可精準(zhǔn)識(shí)別人工智能深度合成內(nèi)容的技術(shù)能力，創(chuàng)新直接有效的治理工具供給。加大人力物力投入，優(yōu)化升級(jí)通信軟件和內(nèi)容平臺(tái)巡查審核機(jī)制、投訴舉報(bào)機(jī)制、應(yīng)急處理機(jī)制，確保及時(shí)阻斷問(wèn)題內(nèi)容傳播。”雷軍建議。
在李東生看來(lái)，除了加快人工智能深度合成內(nèi)容標(biāo)識(shí)管理規(guī)章制度的出臺(tái)外，還需明確對(duì)人工智能深度合成服務(wù)商未履行標(biāo)識(shí)義務(wù)的懲罰制度，完善對(duì)深度合成內(nèi)容服務(wù)提供商未按要求進(jìn)行標(biāo)識(shí)的行為界定、分類細(xì)則，以及相應(yīng)的處罰標(biāo)準(zhǔn)。加強(qiáng)深度合成內(nèi)容標(biāo)識(shí)技術(shù)標(biāo)準(zhǔn)和發(fā)布的管理，出臺(tái)深度合成內(nèi)容標(biāo)識(shí)的技術(shù)標(biāo)準(zhǔn)，保證標(biāo)識(shí)的有效性。此外，對(duì)相關(guān)內(nèi)容平臺(tái)出臺(tái)要求，用戶在發(fā)布深度合成的視頻、音頻等內(nèi)容時(shí)，有義務(wù)對(duì)其進(jìn)行標(biāo)識(shí)。還需加強(qiáng)國(guó)際合作，形成人工智能生成合成內(nèi)容的有效監(jiān)管。
京公網(wǎng)安備 11010102003980號(hào)