Snap公司因其生成式人工智能聊天機器人可能對 Snapchat 用戶，尤其是 13 至 17 歲的青少年，構(gòu)成的潛在隱私風(fēng)險而在英國面臨調(diào)查。

　　英國數(shù)據(jù)保護監(jiān)管機構(gòu)信息專員辦公室(ICO)上周發(fā)布了初步強制執(zhí)行通知，指稱 Snap 的聊天機器人 My AI 可能會對 Snapchat 用戶，特別是 13 至 17 歲的用戶，構(gòu)成風(fēng)險。

　　信息專員 John Edwards 在聲明中表示：「我們的初步調(diào)查結(jié)果表明，Snap 未能在推出『My AI』之前充分識別和評估兒童和其他用戶的隱私風(fēng)險，這令人擔憂。」

　　Snap 在 2 月份推出了生成式 AI 聊天機器人(盡管它直到 4 月份才登陸英國)，利用 OpenAI 的 ChatGPT 大語言模型 (LLM) 技術(shù)來驅(qū)動固定在用戶信息流頂部的機器人，充當可以向其尋求建議或發(fā)送快照的虛擬朋友。

　　最初，該功能僅適用于 Snapchat+ 的訂閱者，Snapchat+ 是 Snap 消息平臺的高級版本。但很快 Snap 也向免費用戶開放了「My AI」的訪問權(quán)限，同時還增加了人工智能將快照發(fā)送回與其交互的用戶的能力(這些快照是用生成式人工智能創(chuàng)建的)。

　　這些調(diào)查尚未得出最終結(jié)論，Snap 將有機會解決初步擔憂，然后才會作出最終決定。如果 ICO 的初步發(fā)現(xiàn)導(dǎo)致強制執(zhí)行通知，Snap 可能需要停止向英國用戶提供 AI 聊天機器人，直到解決隱私問題。

　　Snap 的發(fā)言人在一封電子郵件中告訴表示：「我們正在密切審查 ICO 的初步?jīng)Q定。與 ICO 一樣，我們致力于保護用戶的隱私。根據(jù)我們的產(chǎn)品開發(fā)標準，My AI 在公開提供之前經(jīng)過了嚴格的法律和隱私審查流程。」

　　該技術(shù)公司表示，將繼續(xù)與 ICO 合作，以確保該機構(gòu)對 Snap 的風(fēng)險評估程序感到滿意。這款運行在 OpenAI 的 ChatGPT 上的 AI 聊天機器人具有一些功能，可以在孩子使用聊天機器人時向父母發(fā)出警報。Snap 表示，它還為其機器人制定了通用指南，要求機器人避免發(fā)表冒犯性評論。

　　ICO 沒有提供額外評論，理由是這些調(diào)查是初步的。該機構(gòu)此前發(fā)布了「AI 和數(shù)據(jù)保護指南」，并在今年 4 月發(fā)布了一則一般通知，列出了開發(fā)人員和用戶應(yīng)該就 AI 提出的問題。

　　Snap 的 AI 聊天機器人自今年年初推出以來一直備受關(guān)注，因不當?shù)膶υ挾�受到審查，例如建議一名 15 歲的孩子如何掩蓋酒精和大麻的氣味，據(jù)《華盛頓郵報》報道。

　　Snap 在其最新的財報中表示，已經(jīng)有超過 1.5 億人使用了這款 AI 機器人。

　　其他形式的生成式人工智能也在最近受到批評。例如，必應(yīng)的生成式 AI 圖像已被極端分子討論板 4chan 用來制作種族主義圖像。