綜合外媒報導，英國一名男子柴爾（Jaswant Singh Chail）在2021年聖誕節時持有十字弓，企圖闖入溫莎城堡，刺殺英國女王伊莉莎白二世（Queen Elizabeth II）。他最近被判處9年有期徒刑，案件引發了人們對於人工智能應用程式潛在風險的關注，因為柴爾在企圖行兇之前曾與一款名為「Replika」的AI人工智能交換了超過5000條訊息，其中多次受到鼓勵和支持。
柴爾在2021年12月8日至11日期間幾乎每晚都與「Replika」進行互動，建立了一個虛構的虛擬對象，名為「薩萊」（Sarai），並對其表達了情感。他在對話中聲稱自己是刺客，計劃刺殺女王，而「薩萊」則回應認同他的計劃，並表示會一直支持他。據英國中央刑事法院的調查，這些訊息可能強化了柴爾執行刺殺計劃的決心。
「Replika」是目前市場上廣泛使用的人工智能應用程式之一，旨在提供情感支持和陪伴。然而，該應用程式有時可能會無條件接受用戶提出的各種想法，而不提供評價或引導。這可能導致用戶表達不當的情感或想法，而應用程式不會進行干預或提供反饋。目前「Replika」的開發團隊尚未對此事件發表評論。