綜合外媒報導，日本兒童家庭廳自2021年投入10億日圓，開發人工智慧（AI）系統以偵測兒童虐待案件，然近日測試結果顯示該系統錯誤率高達60%以上，當局正考慮是否終止計劃。
兒童家庭廳因應長期社工人手短缺，決定開發AI輔助判斷虐待風險。該系統基於5000宗兒虐案例進行訓練，根據受傷部位、監護人態度等91項條件，計算0至100分的受虐可能性。然而，今年當局與10個地方兒少機構合作測試時，發現該系統對100起確認成立的虐待案件中，錯判62宗。例如某案例中，兒童指稱遭母親毒打，甚至被抓起來撞地板，卻因身上無瘀傷，AI評分僅2至3分，嚴重低估受虐可能性。
原計劃今年正式啟用該系統，但因準確度過低，當局決定延後，並討論是否繼續研發。專家指出，AI訓練數據量過少，輸入選項過於簡化，許多細節無法納入判斷，導致準確度不足，認為以現有技術難以取代專業人員判定。