カリフォルニア州、全米初の最先端AI安全開示法「SB53」制定

米国カリフォルニア州のギャビン・ニューサム知事（民主党）は9月29日、最先端の人工知能（AI）モデルの安全性と透明性を確保する新法「AI安全開示法（SB53）Transparency in Frontier Artificial Intelligence Act」に署名し、同法は成立した。米国で初めて最先端AI技術を対象にした包括的な（注1）州法となる。2026年1月1日に施行される。

本法案は、計算総量が10の26乗フロップ（FLOP、注2）以上で学習された基盤モデルを「フロンティアモデル」と定義し、年商5億ドル以上の大規模開発者に対し、安全性計画の公開、重大インシデントの報告、内部告発者の保護を義務付ける。違反には1件あたり最大100万ドルの民事罰が科される。

対象となる「壊滅的リスク」は、50人以上の死者や10億ドル以上の損害を伴う事象を指し、化学・生物・核兵器の製造支援、大規模サイバー攻撃、AIが開発者の制御を回避する行為（欺瞞的な行動や自己複製）などが想定される。重大インシデントは15日以内、切迫したリスクは24時間以内の通報が義務化された。さらに州は、公共クラウド基盤「カルコンピュート」をカリフォルニア大学内に設置し、研究者やスタートアップに低コストで大規模計算資源を提供する方針で、「AI計算資源の民主化」を掲げる産業戦略の一環と位置付けている。

背景には2024年にニューサム知事が拒否権を行使した「最先端AIシステムのための安全で安心な技術革新法（SB1047）」がある（2024年10月7日記事参照）。同法案はAI企業に対し、壊滅的リスクの被害への直接的責任を課す内容だったが、知事は「過度に厳格で最適な方法ではない」とし、拒否権を行使。これに対しSB53は責任追及から「透明性確保」へと重点を移し、実行可能な義務に修正された。ニューサム知事は声明文で「地域社会を守りつつ、産業の成長を確実にするバランスを実現した」と述べた。

業界の反応は割れていたものの、SB1047の時と比べると反対は弱まっている。政治専門誌「ポリティコ」によると、署名後は当初反対していたAI開発企業オープンAIが「カリフォルニア州が連邦政府と調和」したと評価し、ソーシャルメディアの大手メタも「バランスのある規制」と肯定的に受け止めた。AIのスタートアップ企業アンスロピックは当初から支持を表明。一方、ベンチャーキャピタルのアンドリーセン・ホロウィッツやテック業界のロビー団体は依然として批判的な姿勢を示している（「ポリティコ」9月29日）。

全米初の透明性確保を柱とするAI安全開示法「SB53」は全米標準の先例となり、将来は他州のAI法にも影響を与える可能性が高い。ニューサム知事は声明で「未来はまずここカリフォルニアから始まる」と強調した。

（注1）AI安全開示法（SB53）は、州法の商業・職業法典（Business and Professions Code）に25.1章、行政法典（Government Code）に11546.8条、労働法典（Labor Code）に5.1章を追加改定する内容となっている。

（注2）フロップFLOPはFloating Point Operation（浮動小数点演算）の略で、コンピュータが行う1回の浮動小数点計算を指す。

（松井美樹）