目次
こども家庭庁 虐待判定AIに10億円溶かす 保護者に怯えていても無効に
こども家庭庁が約10億円をかけて開発を進めてきた虐待判定AIシステムの導入が見送られることになりました。テスト段階で判定ミスが6割に上り、実用化は困難と判断されたのです。
児童相談所（児相）の業務を支援する目的で開発されていたこのシステムは、約5000件の虐待記録を学習し、91項目の情報を入力すると虐待の可能性を0～100点で示す仕組みでした。しかし、実際のテストでは多くの問題が浮き彫りになりました。
ある事例では、子どもが「母に半殺し以上のことをされた」「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、AIが算出した危険度は「2～3点」と極めて低い評価でした。外見上のあざなどがなかったためと見られています。
さらに深刻なのは、システムの設計そのものに根本的な問題があったことです。「子どもが養育者におびえている」「重篤なネグレクトで体重減少がみられる」といった重要な虐待サインを示す項目がそもそも存在せず、リスク情報を入力することができませんでした。
また、「けががあるが浅い／深い」「頭部・顔面でも特に危険な部位への傷がある」といった項目はあったものの、その程度や範囲を適切に反映できない仕様だったことも判明しています。
こども家庭庁は当初今年度の導入を目指していましたが、「児相に提供するのは時期尚早」として開発を保留することを決定しました。AI技術の発展状況を見ながら、今後の再開も含めて検討するとしています。
この話題に寄せられたネットの声
「正直これで10億の費用が掛かっているのは驚き」
「素人のこども家庭庁が大手ITゼネコンにカモられたってことでいい？」
「10億円税金を投入したのなら、ちゃんとした仕事として残して欲しい」
「そもそもこども家庭庁ができて、お金を何に使ってるのか疑問」
「いい加減な入力をしたAIはいい加減な出力しか返しませんよ」
「要するに、１０億円分の税金をドブに捨てたということですよね」
この話題には数多くの批判的なコメントが寄せられていました。
