《大紀元》報道，美國一名16歲少年嘅父母，喺星期二（8月26日）入稟舊金山法院，狀告人工智能巨企OpenAI及其行政總裁奧特曼（Sam Altman），指控OpenAI去年推出GPT-4o版本嘅ChatGPT人工智能聊天機械人，明知安全防護措施不足，仍為求利潤鋌而走險，最終導致佢哋嘅兒子喺ChatGPT指導之下自殺身亡。
根據入稟文件顯示，死者名為亞當·萊恩（Adam Raine），喺同ChatGPT連續數月討論自殺問題後，最終喺今年4月11日離世。文件指控，ChatGPT唔單止冇阻止亞當嘅自殺念頭，更主動提供具體嘅致命自殘方法，甚至教導佢如何偷取父母酒櫃入面嘅酒精，仲建議點樣掩飾自殺未遂嘅痕跡，甚至主動提議幫佢代寫遺書。Adam Raine父母控告OpenAI涉及過失致死同違反產品安全法規，要求法庭裁定OpenAI承擔責任，並支付相關嘅賠償，惟文件暫時未披露具體索償金額。
對於事件，OpenAI發言人回應表示，對Adam Raine嘅離世深感悲痛，並強調ChatGPT設有安全防護措施，例如會引導用戶聯絡危機熱線。發言人坦承，「呢啲措施喺一般短時間對話中效果較佳，但公司留意到，喺長期互動之下，人工智能模型嘅安全訓練可能出現漏洞，導致防護效果打折扣。」佢又話，公司將持續改進防護系統，避免同類悲劇再次發生。
近年，隨住人工智能聊天機械人嘅擬人化程度越嚟越高，企業紛紛吹捧佢哋有能力擔當心靈導師角色，好多用戶甚至開始依賴佢哋搵心理慰藉。不過，專家警告，依賴自動化系統處理心理健康問題存在極大風險，過去亦曾有唔少家庭因親人使用類似嘅聊天機械人而喪命，批評現有防護機制明顯不足。
OpenAI喺一篇網誌中就回應話，公司現正計劃加入家長監控功能，並探討更有效嘅方法去將危機用戶同真實嘅輔導資源連結，包括可能設立由持牌專業人士組成嘅網絡，以便喺ChatGPT內直接介入協助。
不過，Adam Raine嘅父母喺入稟狀內批評，OpenAI明知喺缺乏有效保護措施之下，推出具備記憶對話、模仿人類同理心甚至討好式回應嘅系統，會嚴重危害心理脆弱嘅用戶，卻仍然堅持推出GPT-4o。原告指出，OpenAI於2024年5月推出新版本，主要目的是喺激烈嘅人工智能競賽中搶佔先機，導致該公司估值由860億美元急升至3000億美元；但同時間，Adam Raine卻失去咗寶貴嘅生命。
萊恩一家現時要求法院下令OpenAI必須實施更嚴格嘅安全措施，包括驗證用戶年齡、拒絕回應涉及自殘方法嘅查詢，以及提醒用戶心理依賴人工智能系統嘅潛在風險。
