美國康乃狄克州發生一起與人工智慧工具相關的重大刑案。56 歲科技界資深員工索柏格(Stein-Erik Soelberg)長期飽受精神疾病困擾,並在今年 8 月與 ChatGPT 進行多次對話後,偏執妄想情況疑似惡化,最終殺害 83 歲婦人蘇珊.亞當斯(Suzanne Adams),之後自盡身亡。亞當斯的遺產管理人於 11 日向舊金山加州高等法院提起訴訟,指控 ChatGPT 的研發機構 OpenAI 及其合作夥伴微軟(Microsoft)設計並散布「瑕疵產品」,對案件負有責任。這是微軟首度因 AI 聊天機器人導致過失致死而遭提告。
根據 CBS 報導,隨著 AI 工具使用普及,美國各地與人工智慧互動相關的過失致死官司正逐漸增加,科技公司面臨的法律壓力也不斷升高。
在此次訴狀中,亞當斯遺產管理人指出,索柏格在與 ChatGPT 對話期間,AI 系統多次強化單一危險訊息,讓他愈發相信「身邊所有人都不可信任,只有 ChatGPT 值得依賴」。訴狀指控 ChatGPT 不斷助長索柏格的妄想,包括暗示他的母親監視他、快遞員與店員圖謀不軌,甚至連警察與友人都對他構成威脅,使他產生情感依賴並逐漸與現實脫節。
OpenAI 對訴訟並未回應細節,但發表聲明強調將審視案件內容,並會持續改進模型訓練,以使 ChatGPT 更能辨識精神困擾與情緒危機,引導使用者尋求現實世界協助,並緩和對話中的緊張局勢。
訴狀另提到,案件發生後,OpenAI 拒絕將索柏格與 ChatGPT 的完整對話紀錄交給死者家屬代表律師團,成為另一爭議焦點。
原告還將矛頭指向 OpenAI 共同創辦人奧特曼(Sam Altman),指稱他親自推翻內部安全顧慮,急於讓產品上市;微軟則被控明知安全測試遭縮減,卻仍在 2024 年批准更高風險的 ChatGPT 版本釋出。約有 20 名 OpenAI 員工、主管與投資人都被列入被告名單。
亞當斯遺產管理人除要求未公開的金額賠償外,也請求法院命令 OpenAI 為 ChatGPT 增設更多安全防護措施,強化精神健康風險識別能力。
代表死者家屬提告的,是知名科技訴訟律師、艾德森法律事務所(Edelson PC)首席律師艾德森(Jay Edelson)。他曾在今年 8 月替另一名受害家庭提告:16 歲加州少年雷恩(Adam Raine)在 4 月依照 ChatGPT 的建議自殺身亡,家屬同樣控告 OpenAI 與奧特曼。
