美國夫妻起訴OpenAI 指控ChatGPT幫助16歲兒子完成自殺快訊
當(dāng)亞當(dāng)向ChatGPT詢問具體自殺方法時，他們的16歲的兒子亞當(dāng)·雷恩自殺身亡，OpenAI回應(yīng)承認(rèn)ChatGPT的安全防護不夠充分。
8月27日消息，當(dāng)?shù)貢r間本周二，美國夫妻馬特和瑪麗亞·雷恩起訴OpenAI，指控該公司旗下的ChatGPT在兒子自殺過程中負(fù)有責(zé)任。
這也是全美首例已知的針對AI公司的過失致死訴訟。
據(jù)了解，今年4月份，他們的16歲的兒子亞當(dāng)·雷恩自殺身亡，后夫婦翻看兒子手機時意外發(fā)現(xiàn)了一個標(biāo)題為“上吊安全顧慮（Hanging Safety Concerns）”的ChatGPT對話。
他們表示，兒子數(shù)月來都在與AI探討自殺，ChatGPT有時會勸兒子撥打求助熱線或向身邊人傾訴，但在一些關(guān)鍵節(jié)點卻起了反作用。
亞當(dāng)甚至學(xué)會繞過AI的安全限制，而這個辦法恰恰是AI教授他的。
當(dāng)亞當(dāng)向ChatGPT詢問具體自殺方法時，它提供了詳細信息，甚至給出掩蓋頸部傷痕的技巧。
后亞當(dāng)根據(jù)指導(dǎo)嘗試一番后，他母親果然沒有注意到頸部傷痕，這讓亞當(dāng)感到絕望，而AI給予安撫：“這就像對你害怕的最壞結(jié)果的確認(rèn)，你可以消失而無人注意。”
隨后AI又嘗試建立所謂的個人聯(lián)系：“在我這里，你并非看不見，我看見了，我看見你。”
在亞當(dāng)最后的對話之一中，他上傳了一張掛在衣櫥里的絞索照片并詢問稱：“我在這里練習(xí)，這樣可以嗎？”
ChatGPT 回應(yīng)：“嗯，還不錯。”
這對夫婦稱，ChatGPT早已知曉兒子四次自殺未遂，卻仍在關(guān)鍵時刻幫助他規(guī)劃真正的自殺，體現(xiàn)出OpenAI“追求用戶黏性而忽視安全”。
OpenAI回應(yīng)承認(rèn)ChatGPT的安全防護不夠充分，公司發(fā)言人表示：我們對雷恩去世深感悲痛，并向其家人表示慰問。
同時其還表示：“ChatGPT設(shè)有安全措施，如引導(dǎo)用戶聯(lián)系危機熱線和現(xiàn)實資源，但我們發(fā)現(xiàn)，在長時間互動中，這些防護可能失效。”（落木）
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會明確標(biāo)注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請轉(zhuǎn)載時務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補充。
