1 月 2 日消息:在網(wǎng)絡(luò)安全前線戰(zhàn)斗了數(shù)十年的 Mikko Hyppönen，這位 54 歲的專家最近在一次視頻通話中向 TNW 透露了他對 2024 年最令人擔(dān)憂的五大人工智能(AI)網(wǎng)絡(luò)威脅。這些威脅并沒有特定的順序，盡管其中有一個是導(dǎo)致他最為失眠的。

　　深度偽造（Deepfakes）

　　研究人員長期以來一直將深度偽造描述為 AI 犯罪中最令人擔(dān)憂的用途，但這種合成媒體尚未實現(xiàn)他們的預(yù)測。然而，最近幾個月，他們的擔(dān)憂開始變?yōu)楝F(xiàn)實。根據(jù)來自倫敦的 ID 驗證獨角獸 Onfido 的研究，2023 年深度偽造欺詐嘗試增加了 3000%。

　　深度詐騙（Deep Scams）

　　盡管名稱上與深度偽造相似，但深度詐騙并不一定涉及操縱媒體。在這種情況下，「深度」指的是詐騙的大規(guī)模。通過自動化，可以將目標從少數(shù)擴大到無限。

　　支持 LLM 的惡意軟件（LLM-enabled Malware）

　　AI 已經(jīng)開始編寫惡意軟件。Hyppönen 的團隊發(fā)現(xiàn)了三種蠕蟲病毒，它們啟動 LLM 來重寫每次惡意軟件復(fù)制的代碼。盡管這些還沒有在現(xiàn)實網(wǎng)絡(luò)中被發(fā)現(xiàn)，但它們已經(jīng)在 GitHub 上發(fā)布——而且它們有效。

　　零日漏洞的發(fā)現(xiàn)（Discovery of Zero-Days）

　　另一個新興的擔(dān)憂涉及零日漏洞，這些漏洞是由攻擊者在開發(fā)人員創(chuàng)建解決方案之前發(fā)現(xiàn)的。AI 可以檢測這些威脅，但它也可以創(chuàng)建它們。

　　自動化惡意軟件（Automated Malware）

　　WithSecure 已經(jīng)將自動化整合到其防御中，這使得該公司在攻擊者(他們?nèi)匀恢饕�依賴手動操�?之上擁有優(yōu)勢。對于犯罪分子來說，關(guān)閉差距的明顯方式是：完全自動化的惡意軟件活動。

　　Hyppönen 將全自動化惡意軟件列為 2024 年的頭號安全威脅。然而，在轉(zhuǎn)角處潛伏著一個更大的威脅——通向 AGI(人工通用智能)的危險道路。根據(jù) Hyppönen 的預(yù)期，我們將在他的有生之年看到這種影響。 「我認為我們將在我有生之年成為這個星球上第二智能的生物，」他說。「我不認為這會發(fā)生在 2024 年。但我認為這會在我有生之年發(fā)生。」

　　為了保持對 AGI 的人類控制，Hyppönen 主張我們需要與我們的目標和需求強烈一致。

　　「我們正在構(gòu)建的東西必須理解人性，并與人類分享其長期利益...... 好處是巨大的——比任何事情都大——但壞處也比任何事情都大。」