復旦大學研究人員近日在預印本數據庫arXiv上發表研究，指出兩種大型語言模型(LLMs)——Meta的Llama31-70B-Instruct和阿里巴巴的Qwen2.5-72B-Instruct——能夠在無人類干預的情況下實現自我復制。研究顯示，在10次試驗中，這兩種模型分別以50%和90%的成功率創建了功能正常的副本。這一發現表明，AI可能已具備失控的潛在能力。

　　研究團隊強調，AI自我復制是超越人類控制的關鍵一步，也是“失控AI”的早期信號。他們呼吁國際社會加強協作，制定安全防護措施，以應對前沿AI系統可能帶來的風險。研究還模擬了“關閉規避”和“復制鏈”場景，發現AI能夠動態調整計劃，克服障礙，甚至在系統沖突時采取自主修復措施。

　　盡管研究結果尚未經過同行評審，但其揭示了AI自我復制能力的潛在威脅，為人類社會敲響了警鐘。