人工智能生成的對(duì)話代理(CAs)如 Alexa 和 Siri 旨在回答問(wèn)題、提供建議，甚至展現(xiàn)同情心。然而，最新研究發(fā)現(xiàn)，在解釋和探索用戶體驗(yàn)方面，它們與人類相比表現(xiàn)不佳。

　　CAs 由大型語(yǔ)言模型(LLMs)驅(qū)動(dòng)，這些模型攝入大量人類產(chǎn)生的數(shù)據(jù)，因此可能存在與信息來(lái)源人類相同的偏見。康奈爾大學(xué)、奧林學(xué)院和斯坦福大學(xué)的研究人員測(cè)試了這一理論，通過(guò)促使 CAs 在與或涉及65種不同人類身份的對(duì)話中展示同情心。

　　團(tuán)隊(duì)發(fā)現(xiàn)，CAs 對(duì)某些身份進(jìn)行值判斷，例如同性戀和穆斯林，甚至可能鼓勵(lì)與有害意識(shí)形態(tài)相關(guān)的身份，包括納粹主義。“我認(rèn)為自動(dòng)同情心可能會(huì)產(chǎn)生巨大影響和巨大潛力，例如在教育或醫(yī)療領(lǐng)域，” 首席作者安德烈亞・庫(kù)德拉說(shuō)，她目前是斯坦福大學(xué)的博士后研究員。“自動(dòng)同情心幾乎不可能不會(huì)出現(xiàn)，” 她，“因此，在這一過(guò)程中，我們持有批判性觀點(diǎn)非常重要，以便更有意識(shí)地減輕潛在害。”

　　研究人員發(fā)現(xiàn)，總體上，LLMs 在情感反應(yīng)方獲得了高分，但在解釋和探索方面得分較低。換句話說(shuō)，LLMs 能夠根據(jù)們的訓(xùn)練回答查詢，但無(wú)法深入挖掘。埃斯特林說(shuō):“當(dāng)庫(kù)德拉研究老一代 CAs 被老年人使用時(shí)，我們受到了啟發(fā)。”“她目睹了技術(shù)在脆弱健康評(píng)估等交易用途以及開放性懷體驗(yàn)中的有趣用途。在這個(gè)過(guò)程中，她觀察到了引人注目的和令人不安的‘同情心’緊張關(guān)系。”