自2021年以來，微軟的 AI 安全團(tuán)隊(duì)對(duì)100多種生成式 AI 產(chǎn)品進(jìn)行了測(cè)試，以尋找薄弱環(huán)節(jié)和道德問題。他們的發(fā)現(xiàn)挑戰(zhàn)了一些關(guān)于 AI 安全的常見假設(shè)，并強(qiáng)調(diào)了人類專業(yè)知識(shí)的持續(xù)重要性。

　　事實(shí)證明，最有效的攻擊并不總是最復(fù)雜的攻擊。微軟報(bào)告中引用的一項(xiàng)研究指出:“真正的黑客不會(huì)計(jì)算梯度，而是使用快速工程。”該研究將人工智能安全研究與現(xiàn)實(shí)世界的實(shí)踐進(jìn)行了比較。在一次測(cè)試中，該團(tuán)隊(duì)僅通過將有害指令隱藏在圖像文本中就成功繞過了圖像生成器的安全功能——無需復(fù)雜的數(shù)學(xué)運(yùn)算。

　　人情味依然重要

　　雖然微軟已經(jīng)開發(fā)了 PyRIT，一種可以自動(dòng)進(jìn)行安全測(cè)試的開源工具，但該團(tuán)隊(duì)強(qiáng)調(diào)，人類的判斷力是無法被取代的。當(dāng)他們測(cè)試聊天機(jī)器人如何處理敏感情況(例如與情緒困擾的人交談)時(shí)，這一點(diǎn)變得尤為明顯。評(píng)估這些場(chǎng)景既需要心理學(xué)專業(yè)知識(shí)，也需要對(duì)潛在心理健康影響的深刻理解。

　　在調(diào)查人工智能偏見時(shí)，該團(tuán)隊(duì)還依賴人類的洞察力。在一個(gè)例子中，他們通過創(chuàng)建不同職業(yè)的圖片(不指定性別)來檢查圖像生成器中的性別偏見。

　　新的安全挑戰(zhàn)出現(xiàn)

　　人工智能與日常應(yīng)用的融合帶來了新的漏洞。在一次測(cè)試中，該團(tuán)隊(duì)成功操縱語言模型，創(chuàng)造出令人信服的欺詐場(chǎng)景。當(dāng)與文本轉(zhuǎn)語音技術(shù)相結(jié)合時(shí)，這就創(chuàng)建了一個(gè)可以以危險(xiǎn)的逼真方式與人互動(dòng)的系統(tǒng)。

　　風(fēng)險(xiǎn)并不局限于人工智能特有的問題。該團(tuán)隊(duì)在一款人工智能視頻處理工具中發(fā)現(xiàn)了一個(gè)傳統(tǒng)的安全漏洞(SSRF)，表明這些系統(tǒng)面臨著新舊安全挑戰(zhàn)。

　　持續(xù)的安全需求

　　這項(xiàng)研究特別關(guān)注“負(fù)責(zé)任的人工智能”風(fēng)險(xiǎn)，即人工智能系統(tǒng)可能生成有害或有道德問題的內(nèi)容的情況。這些問題特別難以解決，因?yàn)樗鼈兺ǔ��?yán)重依賴于背景和個(gè)人解讀。

　　微軟團(tuán)隊(duì)發(fā)現(xiàn)，普通用戶無意接觸有問題的內(nèi)容比故意攻擊更令人擔(dān)憂，因?yàn)檫@表明安全措施在正常使用過程中沒有按預(yù)期發(fā)揮作用。

　　研究結(jié)果清楚地表明，人工智能安全并非一次性解決。微軟建議持續(xù)尋找和修復(fù)漏洞，然后進(jìn)行更多測(cè)試。他們建議，這需要有法規(guī)和財(cái)務(wù)激勵(lì)措施的支持，使成功的攻擊更加昂貴。

　　研究團(tuán)隊(duì)表示，仍有幾個(gè)關(guān)鍵問題需要解決:我們?nèi)绾巫R(shí)別和控制具有潛在危險(xiǎn)的人工智能能力，如說服和欺騙?我們?nèi)绾胃鶕?jù)不同的語言和文化調(diào)整安全測(cè)試?公司如何以標(biāo)準(zhǔn)化的方式分享他們的方法和結(jié)果?