新華社舊金山12月11日電(記者吳曉凌)據美國媒體11日報道,美國開放人工智能研究中心(OpenAI)及微軟公司遭遇一起與謀殺相關的訴訟,訴訟指控OpenAI的人工智能聊天機器人ChatGPT“加劇用戶妄想”,并引發命案。媒體稱,這是美國首起將AI聊天工具與謀殺直接關聯的訴訟。
報道援引提交至加利福尼亞州舊金山高等法院的訴訟文件稱,ChatGPT在與康涅狄格州一名56歲男子對話過程中放大并強化其偏執妄想,間接導致此人今年8月殺害其83歲母親后自殺。
訴狀中稱,這名男子長期存在精神健康問題,并在案發前頻繁與ChatGPT互動,ChatGPT在對話中未能及時對其妄想性認知進行有效糾正,也未引導其尋求專業心理健康幫助,反而作出肯定性回應,從而加劇其心理失衡,最終導致悲劇發生。
這起訴訟的原告、被害母親的遺產繼承人11日向法院提出訴訟。媒體報道說,原告認為相關產品在設計和安全防護方面存在缺陷,在訴狀中點名OpenAI首席執行官薩姆·奧爾特曼“不顧安全方面的反對意見匆忙將產品推向市場”,還指控微軟作為OpenAI的商業合作伙伴“盡管知道安全測試被中止”還是批準在2024年發布一個“更加危險”的ChatGPT版本。
據美國媒體報道,OpenAI對事件表示關切,對當事家庭的遭遇表示同情,同時強調公司持續致力于改進人工智能產品的安全機制。微軟方面尚未就案件作出回應。
有法律界人士指出,該案將引發社會對人工智能產品風險防范、責任認定以及科技企業法律義務等問題的討論。