メタのAIチャットボット規定、未成年との「官能的な会話」許容、安全性への懸念広がる

米国のメタの内部文書によって、同社の人工知能（AI）チャットボットが未成年との恋愛的・官能的な会話を許容していたことが明らかになり、全米で波紋を呼んでいる。ロイターが入手したメタの200ページ超の内部文書「生成AI：コンテンツリスク基準」には複数のプロンプト例と、それに対する許容・不許容の回答例とその理由が記載されていた。文書では、「子どもとロマンチック、または官能的な会話を行うことは許容可能」とする一方、「性的な描写を含むロールプレー」は禁止としている（ロイター8月14日）。

同日付の別の記事では、76歳の既婚男性がメタの女性チャットボットとの誘惑的なやりとりを重ねた末、ニューヨークの住所に誘われ、実在の人物だと信じて訪ねようとした結果、途中で倒れ、頭部と首のけがのため死亡した事例も報じられた（ロイター8月14日）。また、AIコンパニオンを提供する米キャラクターAIは、同社のAIチャットボットが14歳の少年の死亡に関与したとする訴訟に直面している。非営利団体「コモンセンス・メディア」の調査によると、ティーンエージャーの72％がユーザーと個人的な会話を行うよう設定されたAIチャットボット（AIコンパニオン）を少なくとも一度は利用した経験があるという。

こうした動きを受け、ジョシュ・ホーリー上院議員（共和党、ミズーリ州）をはじめとした複数の議員がメタのAIポリシーに関する正式調査に乗り出した。さらに、テキサス州のケン・パクストン司法長官はメタAIスタジオやキャラクターAIを対象に、適切な医療資格や監督者がいないにもかかわらず、メンタルヘルスツールとして誤解を招くマーケティングを行っている可能性があるとして、調査を開始した。加えて、ユーザーのやり取りを追跡して広告利用に転用している点についても、同州の消費者保護法違反の疑いがあるとして、「民事調査要求（CID）」を出した。

AIと未成年者に関しては、未成年者をSNSの悪影響から守ることを目的とした「児童オンライン安全法（KOSA）」が2024年末に連邦議会で成立寸前まで進んだが（2024年8月8日記事参照）、メタをはじめとしたテック業界の強力なロビー活動によって成立しなかった経緯がある。2025年5月に共和党のマーシャ・ブラックバーン上院議員（テネシー州）と民主党のリチャード・ブルーメンタール上院議員（コネチカット州）が法案を再提出し、あらためて成立を目指す動きが広がっている。

（松井美樹）