平将明デジタル相は27日、人工知能の安全性評価機能を強化すると表明した。デジタル庁と総務省が、公共調達向けモデルの評価基準を年度内に示す方針だ。新法ではなく、評価機関の人員と手順の拡充が中心となる。
背景
銀行チャットボットや自治体コールセンターでの生成AI試験が増える一方、幻覚回答やデータ漏えい事例が警戒を強めた。欧州の包括的AI法をそのまま移植はせず、日本型の段階評価を掲げる。
産業の反応
国内クラウドは基準明確化を歓迎するが、スタートアップは審査期間の長期化を懸念。研究用オープンモデルの例外条項が焦点になる。
調達スケジュール
2027年3月期限のクラウド枠契約に間に合わせるため、自治体向け説明会を計画している。
