綜合外媒報導，上海一名劉姓男子近日透過短影音平台結識一名「年輕貌美」的女子墜入愛河，竟然是AI技術生成的虛擬人物，兩個月內遭詐騙人民幣20萬元。上海警方接獲報案後，已成功破獲該AI詐騙集團，拘捕10名涉案成員。
該詐騙集團利用生成式AI技術，創造出逼真的焦姓「美女」，並透過短影音平台吸引受害者。劉男與「焦女」迅速發展出異地戀關係，對方更以創業資金、進貨需求、親戚醫藥費等理由向劉男索要金錢，甚至偽造身分證、病歷、進貨單以博取信任。劉男在愛情與信任的驅使下，前後轉帳近20萬元人民幣，卻始終無法與「焦女」見面，直至8月驚覺受騙報警，才揭開這場精心設計的騙局。
警方調查發現，該詐團以楊姓男子為首，採取流水式作業，其中專人負責上架短影音吸引流量、專人與受害者聊天培養感情，甚至有專人負責「P圖」，製造逼真的AI人物影像，使受害人難以察覺異常。此外，劉男並非唯一受害者，光是上海閔行區，警方就已接獲至少2宗類似案件，受害人均被AI生成的假美女吸引，落入詐騙圈套。警方表示，該集團涉案金額已超過人民幣200萬元，目前10名愜犯全數落網。