米カリフォルニア州、AIチャットボット規制法「SB243」を制定

米国カリフォルニア州のギャビン・ニューサム知事（民主党）は10月13日、人工知能（AI）を活用した対話型システム「コンパニオン・チャットボット」を規制する法案「SB243（Companion Chatbot Act）」に署名した。

本法は、ユーザーとの複数回の対話を通じて社会的・感情的関係を形成する生成AIを「コンパニオン・チャットボット」と定義し、AIが人間のように感情的な対話を行うことで人間に生じる依存リスクや心理的影響に対応することを目的としている。ただし、顧客サービスや業務支援など用途が限定されたボット、ゲーム内の応答機能（精神的・性的な話題に触れないもの）、音声アシスタント（感情的関係を形成しないもの）などは対象外とした。全米初のAIチャットボット規制法であり、2026年1月1日の施行を予定している。

運営者に対しては、（1）AIであることの明示義務（チャットボットが人工的に生成されたものであり人間ではないことを明示）、（2）危機対応プロトコルの整備・公開義務（ユーザーが自殺念慮や自傷行為を示した場合に備えた対応手順の策定と公開）、（3）未成年者ユーザーへの特別義務（3時間ごとにAIである旨および休憩を促す通知を行うこと、性的・暴力的内容の生成防止措置の実施）、（4）2027年1月1日から報告義務（自殺関連の対応件数を州自殺予防局に報告）を課している。違反があった場合、被害者は差し止め請求のほか、実損害を受けた場合は損害額（弁護士費用や訴訟費用を含む）または1件あたり1,000ドルのいずれか高い方を損害として賠償請求できる。

報道によれば、同法はAIチャットボットとの対話後に未成年者が自殺を図ったとされる複数の事例を受けて制定された。ニューサム知事は「子供たちの安全は売り物ではない」と強調し、AIが社会に急速に浸透する中での倫理的ガードレール整備の重要性を訴えた。また、産業界からも支持を受けており、米国の対話型AIの開発を手掛けるオープンAI（本社：カリフォルニア州サンフランシスコ）はこの取り組みを「AI安全基準に向けた意義ある前進」だと評価している。

カリフォルニア州はAI利用における安全性と透明性の確保を進めており（2025年10月3日記事参照）、本法の施行により、AI事業者はユーザー通知設計や危機対応アルゴリズム整備など、実務上で新たなコンプライアンス体制の構築を迫られる見通しだ。

（松井美樹）