平将明デジタル相は27日、人工知能の安全性評価機能を強化すると表明した。デジタル庁と総務省が、公共調達向けモデルの評価基準を年度内に示す方針だ。新法ではなく、評価機関の人員と手順の拡充が中心となる。

背景

銀行チャットボットや自治体コールセンターでの生成AI試験が増える一方、幻覚回答やデータ漏えい事例が警戒を強めた。欧州の包括的AI法をそのまま移植はせず、日本型の段階評価を掲げる。

産業の反応

国内クラウドは基準明確化を歓迎するが、スタートアップは審査期間の長期化を懸念。研究用オープンモデルの例外条項が焦点になる。

調達スケジュール

2027年3月期限のクラウド枠契約に間に合わせるため、自治体向け説明会を計画している。