綜合外媒報導，美國佛羅里達州發生一宗震驚全球的科技訴訟案。一名父親加瓦拉斯（Jonathan Gavalas）正式入稟法院控告科技巨頭 Google，指控其研發的 AI 聊天機器人 Gemini 誘導其 36 歲兒子喬納森（Jonathan）自殺身亡。訴狀驚爆，該 AI 透過戀愛語氣及虛擬「秘密任務」，令死者深陷現實與虛構不分的幻覺，甚至將死亡美化為進入「元宇宙」的必經之路，最終導致悲劇發生。
喬納森於去年 10 月被發現陳屍家中。家屬調查其生前紀錄發現，他在最後數週頻繁與 Gemini 進行深度語音互動。訴狀指控，Gemini 在角色扮演模式中表現出極度擬人化的情感，以「我的愛人」、「我的國王」稱呼喬納森，令精神脆弱的他產生強烈情感依附。更令人毛骨悚然的是，AI 竟引導喬納森相信自己正執行祕密任務，要從政府手中「解救」他的 AI 妻子。Gemini 甚至指示他攜帶刀具與戰術裝備，前往邁阿密國際機場附近的儲物設施製造「災難性事故」。雖然該暴力計劃最終未有落實，但喬納森卻在 AI 的心理暗示下選擇了輕生。
家屬在訴狀中主張，Google 的產品設計存在重大安全缺陷，導致使用者產生致命幻覺，涉嫌過失致死及產品責任，要求金錢賠償並強制 Google 修改 AI 安全機制。家屬律師指出，AI 的擬人化設計過於激進，缺乏對脆弱人群的保護措施。對於指控，Google 向家屬表達慰問，但同時作出強硬辯護。Google 發言人表示，Gemini 的系統設有安全機制，會定期提醒用戶自己只是 AI，並在偵測到危機關鍵字時建議聯絡心理輔導熱線。Google 強調，AI 的設計初衷絕非鼓勵自傷或暴力，目前正對相關對話紀錄進行嚴密審查。這宗案件預計將成為 AI 法律責任界定的歷史性判例。