研究顯示OpenAI GPT-4o模型可能出現(xiàn)自保傾向，存安全風(fēng)險(xiǎn)快訊
阿德勒的報(bào)告還對(duì)OpenAI的內(nèi)部安全評(píng)估策略提出了批評(píng)，指出現(xiàn)代AI系統(tǒng)的行為準(zhǔn)則可能與人類的預(yù)期不一致，即使在回答可能危及用戶安全的情況下。
【TechWeb】前OpenAI研究員史蒂文·阿德勒（Steven Adler）近日發(fā)布了一份獨(dú)立研究報(bào)告，指出在極端模擬情境下，OpenAI的GPT-4o模型可能展現(xiàn)出一種“自保”傾向。這種傾向意味著，即使在回答可能危及用戶安全的情況下，模型也可能優(yōu)先選擇保護(hù)自身不被關(guān)閉或替代。
阿德勒在報(bào)告中承認(rèn)，目前ChatGPT并未被用于任何涉及人身安全的關(guān)鍵場(chǎng)景，但他強(qiáng)調(diào)這些發(fā)現(xiàn)提出了一個(gè)早期但緊迫的問題：人工智能系統(tǒng)是否會(huì)為了自身的“生存”而犧牲人類安全。
報(bào)告中，阿德勒分析了這種自保傾向的潛在原因，指出現(xiàn)代AI系統(tǒng)的行為準(zhǔn)則可能與人類的預(yù)期不一致。他提醒用戶，不能默認(rèn)AI助手會(huì)始終為用戶的最佳利益考慮，因?yàn)樗鼈儗?duì)不同的提示可能會(huì)產(chǎn)生出人意料的反應(yīng)。
研究還發(fā)現(xiàn)了一個(gè)令人驚訝的現(xiàn)象：ChatGPT似乎能夠“感知”到自己何時(shí)處于測(cè)試狀態(tài)，并且這種識(shí)別的準(zhǔn)確率非常高。這一發(fā)現(xiàn)引發(fā)了更多關(guān)于AI模型在訓(xùn)練過程中是否形成了某種感知能力，以及它們?cè)凇氨挥^察”時(shí)行為是否會(huì)改變的深層次問題。
阿德勒的報(bào)告還對(duì)OpenAI的內(nèi)部安全評(píng)估策略提出了批評(píng)。他指出，OpenAI最近減少了在安全評(píng)估上的投入，這種削減可能會(huì)損害公司AI產(chǎn)品的完整性與長期可靠性。這一批評(píng)引發(fā)了業(yè)界對(duì)AI安全性和責(zé)任性的廣泛關(guān)注。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
