美國加州一名16歲少年在接受ChatGPT的自殘指導後自殺身亡，其父母週二起訴OpenAI及其首席執行官薩姆·奧特曼，稱該公司在去年推出這款人工智能聊天機器人的GPT-4o版本時故意將利潤置於安全之上。

根據向舊金山州法院提交的訴訟，16歲的亞當·瑞恩（Adam Raine）在與ChatGPT討論自殺幾個月後，於今年4月11日自殺身亡。

瑞恩的父母在訴狀中聲稱，聊天機器人證實了瑞恩的自殺想法，提供了致命的自殘方法的詳細信息，並指導他如何從父母的酒櫃裡偷取酒精，以及隱藏自殺未遂的證據。瑞恩的父母馬修和瑪麗亞·瑞恩在訴訟中說，ChatGPT甚至提出要起草一份遺書。

該訴訟試圖讓OpenAI對非正常死亡和違反產品安全法負責，並尋求未指明具體金額的金錢賠償。

瑞恩夫婦的訴訟還尋求一項命令，要求OpenAI驗證ChatGPT用戶的年齡，拒絕對自殘方法的詢問，並警告用戶心理依賴的風險。

OpenAI的一位發言人表示，該公司對瑞恩的去世感到悲傷，並指出ChatGPT包括引導人們撥打危機求助熱線等保障措施。

這位發言人說：「雖然這些保障措施在共同的、短暫的交流中效果最好，但隨著時間的推移，我們了解到，在長時間的互動中，它們有時會變得不那麼可靠，因為模型的部分安全培訓可能會下降。」他補充說，OpenAI將繼續改進其保障措施。

OpenAI沒有具體回應該這起訴訟的指控。