7月7日，由南方都市報(bào)、清華大學(xué)人工智能國際治理研究院主辦，中國科協(xié)-復(fù)旦大學(xué)科技倫理與人類未來研究院和上海人工智能實(shí)驗(yàn)室協(xié)辦的“人工智能創(chuàng)新與治理”論壇在上海召開。本次論壇邀請(qǐng)了多位來自國內(nèi)外的大咖專家參與，并針對(duì)近年來出現(xiàn)的AI換臉詐騙、大模型生成虛假信息、AIGC版權(quán)歸屬爭(zhēng)議等聚焦生成式AI潛在的風(fēng)險(xiǎn)與問題，發(fā)布了《生成式AI倫理與治理倡議書》(下稱《倡議書》)。據(jù)了解，這也是國內(nèi)首份由智庫媒體發(fā)起、跨行業(yè)聯(lián)動(dòng)發(fā)布的生成式AI治理與倫理倡議書。賽博昆侖創(chuàng)始人兼CEO鄭文彬，與30余位專家、學(xué)者、公眾人物一道，聯(lián)合署名發(fā)布了本次倡議書。

　　《倡議書》提到，近年來，“AI詐騙”、“AI犯罪”等關(guān)鍵詞開始走入公眾視野，出現(xiàn)了一系列“網(wǎng)聊10分鐘騙走430萬元”等真實(shí)案例，而利用AI換臉、AI擬聲技術(shù)等佯裝好友實(shí)施詐騙，以及利用人工智能軟件 “捏造”罪名、生成虛假案例，生成內(nèi)容涉嫌侵犯知識(shí)產(chǎn)權(quán)等問題，更是屢屢見諸媒體。

　　如何區(qū)分足以“以假亂真”的AI生成內(nèi)容、當(dāng)AI生成內(nèi)容造成侵權(quán)或違法問題時(shí)，如何認(rèn)定相關(guān)責(zé)任，以及類似的問題如何利用技術(shù)手段去管理，都成為本次會(huì)議討論的焦點(diǎn)。

　　據(jù)南都數(shù)字經(jīng)濟(jì)治理研究中心介紹，本《倡議書》最終形成了“七大原則”和“七大建議”，內(nèi)容包括確保安全、客觀公正、信息披露、尊重自主、可問責(zé)可追溯、人工把關(guān)、敏捷治理等。其中“確保安全原則”提出，相關(guān)企業(yè)或組織應(yīng)采取足夠的管理措施和技術(shù)手段，積極防范生成式AI技術(shù)產(chǎn)品的漏洞攻擊風(fēng)險(xiǎn)，并在產(chǎn)品的整個(gè)生命周期中保證用戶隱私及個(gè)人信息的安全。

　　賽博昆侖方面表示，隨著人工智能技術(shù)的高速發(fā)展，特別是AIGC出現(xiàn)以后，網(wǎng)絡(luò)安全開始遭遇到新的問題與挑戰(zhàn)，新的使用場(chǎng)景，帶來了新的攻擊手段和安全隱患。對(duì)此，除了社會(huì)各界深入關(guān)注、恪守公德邊界之外，技術(shù)手段的“硬手段”，往往才是最終的解決之道。

　　賽博昆侖代表認(rèn)為，AIGC的內(nèi)容安全不僅僅牽涉到數(shù)據(jù)以及隱私泄露，也同時(shí)關(guān)乎模型訓(xùn)練、標(biāo)注、應(yīng)用，以及長(zhǎng)期輿情監(jiān)控的各個(gè)環(huán)節(jié)，其中任何一個(gè)環(huán)節(jié)存在漏洞，都可能引入相關(guān)風(fēng)險(xiǎn)。對(duì)此，賽博昆侖代表表示將充分發(fā)揮自身優(yōu)勢(shì)，與社會(huì)各界一道，積極參與應(yīng)對(duì)防范AIGC安全問題的行動(dòng)中來。

　　作為《倡議書》的簽署方，賽博昆侖在防范漏洞攻擊、確保信息安全方面，恰恰是國內(nèi)頂級(jí)技術(shù)能力驅(qū)動(dòng)的網(wǎng)絡(luò)空間安全服務(wù)商，在高危漏洞攻防、0day漏洞預(yù)警應(yīng)急等方面，擁有國內(nèi)首屈一指的技術(shù)實(shí)力。公司旗下安全研究團(tuán)隊(duì)“昆侖實(shí)驗(yàn)室”，由國內(nèi)頂尖安全研究人員組成，自成立以來，已多次斬獲Pwn2own、天府杯、強(qiáng)網(wǎng)杯精英賽等國際頂級(jí)黑客大賽最高榮譽(yù)。而其旗下高級(jí)攻防團(tuán)隊(duì)成員，則均來自一線大廠的攻防實(shí)驗(yàn)室，并作為攻擊隊(duì)核心成員，在大型護(hù)網(wǎng)、區(qū)域/行業(yè)級(jí)護(hù)網(wǎng)、企業(yè)級(jí)護(hù)網(wǎng)中表現(xiàn)優(yōu)異，取得過多項(xiàng)優(yōu)秀成績(jī)。

　　賽博昆侖代表最后表示，未來將從技術(shù)角度出發(fā)，積極踐行《倡議書》的原則和方向，為生成式AI更加健康、穩(wěn)定的長(zhǎng)遠(yuǎn)、安全發(fā)展，貢獻(xiàn)自己的力量。