【近期網路上出現特朗普被捕和普京入獄等以假亂真的AI製圖 專家憂慮會成為有心人士操縱輿論的新模式】

綜合外媒報導,荷蘭開源情報網站「 Bellingcat 」創辦人希金斯近日將特朗普自揭可能因「封口費案」遭刑事起訴的消息影像化,於是向具有模仿新聞機構專業影像能力、且剛發布新版「 text-to-image 」合成模式的AI繪圖軟體Midjourney下指令,創造出特朗普被紐約市鎮暴警察團團包圍、在被捕過程跌倒、與警察對峙,以及特朗普穿囚衣等照片,甚至是特朗普從下水道逃獄成功、跑到知名快餐店店吃漢堡等各種影像。而ICC日前以戰爭罪名向俄國總統普京發布拘捕令一事,也成為希金斯的靈感來源,同樣透過AI製作出普京被捕、受審、入獄的逼真影像。

希金斯將影像分享到推特,並清楚說明這是AI製圖,不帶任何惡意。他原先以為會無人問津,但兩天後,特朗普AI製圖的觀看次數竟超過500萬次。希金斯表示,特朗普影像只是為了展現Midjourney在描繪真實場景時的優劣,當他輸入指示,程式就自動擬定一套情節,但若細看就能發現其中很多破綻,包括照片中的川普竟穿戴警察腰帶,還有很多人的臉和手都明顯扭曲等。儘管如此,照片仍引起轟動,而希金斯也被禁止使用Midjourney服務。

假消息專家警告,Midjoureny或DALL-E等AI製圖軟體,具有在使用者下達簡單指令後,運用詳細背景資料快速製成真實場景的能力,這意味以後只要出現重大消息,就能透過AI生成海量的假照片或影片,並在社群平台上廣為散布,導致社會在剛接觸某一事件的最重要階段,就無法辨別事件真相。西雅圖華盛頓大學專研假新聞傳播的教授威斯特坦言,這會在危機發生時增添雜音,讓人們開始對體制和接收的訊息失去信賴。

Previous article【澳洲維多利亞州一名高中老師多次與未成年男學生發生性關係 承認4項指控被判處4年社區矯正令】
Next article【美國一名女子從收容中心收養了一隻混種犬 領養後24小時內混種犬竟襲擊她的3歲女兒啃咬她的臉頰】