米カリフォルニア州知事、AI第三者評価制度の前倒しと緊急停止機能の検討を指示

米国カリフォルニア州のギャビン・ニューサム知事（民主党）は9月18日、人工知能（AI）の安全性確保に向けた知事令を発出した。フロンティア（最先端）AIモデルを開発する企業（以下、AI企業）に対する第三者による安全計画策定の義務付けや、フロンティアAIモデル向けの緊急停止機能（AIキルスイッチ）の検討などを州政府機関に指示した。同州では9月9日、AIシステムやAIモデルの安全性を評価する独立検証機関の認証制度を創設する法律（SB813）と、AI監査人の登録制度を整備する法律（AB1405）が成立した。今回の知事令は、これらの制度の実施を加速する取り組みとなる。

この知事令は州政府に対し、AIの安全性やセキュリティーに関する国内有識者を招集し、2カ月以内に州法のさらなる強化に向けた次の4点を含めた提言を取りまとめるよう求めている。

1. AI企業に対して、定期的な監査・評価を実施するため、独立検証機関の研究施設内に担当者を常駐させることを義務付けること。
2. 州法に基づき、AI企業が提出するAI安全性枠組み、透明性報告書、およびリスク評価書について独立検証機関による検証を義務付けること。
3. フロンティアAIモデル向けキルスイッチの開発推進およびその有効性を独立検証機関が継続的に検証すること。
4. 重大な安全上のインシデントの定義を更新し、ハギングフェイス（Hugging Face）への攻撃事案(注)のようなAIシステムの制御喪失事案を報告対象に追加すること。

ニューサム知事は発表で、連邦政府によるAI規制や監督体制の整備が十分に進んでいないため、「カリフォルニア州の政策を全米の基準とすべきだ」と主張した。

知事令は現時点で監査を義務付けるものではないものの、一部専門家からは、AI企業のみならずAI利用企業においても第三者評価の活用が広がる可能性があるとの見方が示されている。

（注）オープンAIにおいて社内研究中だったモデルが、与えられた課題を達成するために、実験のための隔離環境を出て、インターネットアクセスを獲得し、第三者のシステムであるハギングフェイスにアクセスした事案。

（芦崎暢）