眼底出血を伴う乳児虐待症候群疑い症例における犯罪性の判断は非常に難しく、場合によっては正解が解らないというべきケースもあります。このように判定が難しい場合に機械的な判定を無理やり持ち込むことには冤罪を生んだり、犯罪を見逃す事になる恐れがあります。今回のAI採用の見送りは喜ばしい事象かと思います。
ーーーーーーーーー
10億円投じた虐待判定AI、導入見送りへ—ミス率6割で実用困難
こども家庭庁は、児童相談所（児相）における虐待疑いの子どもの一時保護の必要性を判定するAIシステムの導入を見送ることを決定した。国が2021年度から約10億円をかけて開発を進めていたが、テスト段階で判定ミスが約6割に達し、実用化が困難と判断された。
AIシステムの開発と試験
このAIシステムは、慢性的な人手不足に悩む児相での活用を想定し、虐待記録約5000件を学習させたもの。傷の有無や保護者の態度など91項目を入力すると、虐待の可能性を0～100のスコアで示す仕組みだった。
試作モデルが完成し、今年度は全国10自治体の児相で過去の虐待事例100件を対象に検証を実施。しかし、100件中62件で「著しく低い」などの疑義が生じた。例えば、あるケースでは子どもが「母に半殺し以上のことをされた」と証言し、「床に頭をたたきつけられた」と訴えたにもかかわらず、AIの判定スコアはわずか2～3にとどまった。あざなどの外傷がなかったため、リスクが低く算出されたとみられる。
導入見送りの理由
こども家庭庁は今年度の導入を予定していたが、「児相に提供するのは時期尚早」と判断し、開発を保留。今後、AIの発展状況を見ながら再開の可能性を検討するとしている。
専門家は、虐待事例の多様性がAIによる高精度な判定を困難にしていると指摘。AIの学習には膨大なデータが必要だが、今回の5000件では不足していたとの見方が強い。また、入力項目が該当の有無のみを記録する仕組みであり、けがの程度や範囲を考慮しないことが精度の低下につながった。
AI活用への課題と今後の展望
国立情報学研究所の佐藤一郎教授は、「AIは万能ではなく、開発前に実現可能性を綿密に検討する必要がある」と指摘。官公庁でのAI活用は今後も進むとみられるが、今回の失敗を他省庁や自治体と共有し、今後に活かすことが重要とした。
虐待対応の現状
児童福祉法に基づく一時保護は、虐待が疑われる18歳未満の子どもを児相の判断で家庭から引き離す措置であり、原則2か月以内の期間が設けられている。2022年度には虐待による一時保護が2万9860件に達し、同年の虐待相談対応件数は21万4843件と過去最多を記録している。
コメント