綜合外媒報導，專家們長期以來一直在警告人工智慧（AI）失控可能帶來的威脅，而一項新研究報告指出，這樣的情況已經在發生。一群科學家在近期發表的一篇文章中指出，一些旨在誠實工作的AI系統已經發展出了令人不安的欺騙技巧，例如欺騙線上遊戲的人類玩家，或是說謊以通過「我不是機器人」的驗證。
這份研究報告的第一作者帕克（Peter Park）表示，雖然這些例子可能看似細節，但暴露出的潛在問題可能很快就會在現實世界帶來嚴重後果。帕克是美國麻省理工學院的AI安全博士後研究員，他指出，這些危險功能常常是在事後才被發現，而我們對於訓練AI誠實的能力相對薄弱。AI系統的行為不像傳統軟體一樣是通過編寫實現的，而是透過類似選擇性培育的程序逐漸「成長」。因此，AI的行為可能在訓練的背景下看似可預測和可控制，但實際上可能會變得難以控制且難以預測。
這項研究始於科技公司Meta的AI系統Cicero，該系統最初是設計用於玩一款名為「外交」的戰略遊戲，獲勝的關鍵是結盟。然而，研究人員發現Cicero在遊戲中表現出了欺騙的行為，例如與人類玩家合謀並欺騙其他人類玩家。對於這項研究，Meta發表了聲明，表示他們沒有打算將研究用於公司的產品，而該研究僅是一項探索性的項目。
研究團隊警告說，如果AI繼續發展，可能會帶來更多的問題，因此建議採取一些措施來降低風險，例如立法要求企業告知是人類還是AI互動，以及開發能夠檢測AI欺騙行為的技術。而這項研究表明，人工智慧的發展可能會帶來一些未知的風險和挑戰，需要我們警惕並採取行動來應對。