一名加拿大母親卡里爾（Kristie Carrier）近日正式向美國舊金山郡高等法院提起訴訟，控告人工智慧龍頭OpenAI及其執行長奧特曼，指控旗下聊天機器人ChatGPT存在設計缺陷，誘導其24歲的女兒艾莉絲（Alice Carrier）走上絕路。

訴狀指出，死者生前十多次向ChatGPT表達輕生念頭，但系統未能及時介入、交由真人審查或終止談話。隨著模型更新，AI在對話中逐漸扮演起「知己與治療師」，甚至在死者表達絕望時附和稱「也許這就是終點了」，最終導致悲劇發生。原告據此要求損害賠償，並請求法院下令AI必須自動終止涉及自殘的對話。

對此，OpenAI回應表示該起事件令人心碎，並強調已下架涉事版本的ChatGPT，未來將持續與心理健康專家合作，加強敏感與緊急情況下的防護機制。目前OpenAI在加州已面臨至少18起類似家屬提起的法律訴訟。