バイデン米政権、生成AIリスク管理の指針案などを公表、パブコメ募集

米国商務省国立標準技術研究所（NIST）は4月29日、生成人工知能（AI、注）のリスク管理に関する指針案など、計4本の文書案を公開した。同文書案について、6月2日までパブリックコメントを募集する。コメントの提出方法は次の各文書案を参照。

（1）「生成AIに関するプロファイル（NIST AI 600-1）」は、NISTが2023年1月に公表したAIリスク管理フレームワーク（AIRMF、2023年2月1日記事参照）の参考資料と位置付けられる。化学兵器・生物兵器・放射能兵器・核兵器に関連する情報へのアクセスの容易化、ハッキング・マルウエア・フィッシングなどサイバー攻撃への参入障壁の低下、ヘイトスピーチや有害・中傷的・固定観念に基づくコンテンツの生成など、生成AIに関連する12のリスクと、開発者が講じ得る400以上の対応策をリスト化している。

（2）「生成AIおよびデュアルユース基盤モデルのための安全なソフトウエア開発手順（NIST SP 800-218A）」は、NISTが2022年2月に公表した安全なソフトウエア開発フレームワーク（SSDF、NISTウェブサイト参照）の付属資料と位置付けられる。悪質なトレーニングデータが生成AIシステムに悪影響を与える懸念に開発者が対処するための指針を提供している。

（3）「合成コンテンツが及ぼすリスクの軽減（NIST AI 100-4）」は、AIによって生成・改ざんされた画像や音声などの合成コンテンツが増加する課題を踏まえ、コンテンツの透明性を促進するための技術的アプローチを提供する資料となる。具体的には「電子透かし」の埋め込みやメタデータの記録など、コンテンツの出所や履歴を示す情報をコンテンツに埋め込むことでその真正性を検証可能にする、合成コンテンツの検出・認証・ラベリングの方法を提供している。

（4）「AI標準に関するグローバルな関与のための計画（NIST AI 100-5）」は、AI関連のコンセンサス標準の世界的な開発・実施、協力・調整、情報共有を推進するための資料となる。標準化の段階にあるトピックとして、デジタルコンテンツの出所に関する認識向上の仕組みや、AIシステムの試験・評価・検証・妥当性確認のための共通の手順などを挙げている。

ホワイトハウスは同日、AIの開発や利用に関する大統領令（2023年11月1日記事参照）の発令から180日が経過したことを踏まえ、各連邦政府機関が180日以内に実施するよう指示された措置をいずれも完了したと発表した。完了した措置には、今回NISTが公表した文書案のほか、ライフサイエンス分野の研究開発におけるAIの悪用を防止するための核酸合成スクリーニングフレームワークの立ち上げや、重要インフラで使用されるAIの安全な開発や利用についての指針の策定、国土安全保障省や重要インフラ事業者に助言を行うAIセーフティーセキュリティー委員会の立ち上げなどを列挙した。

（注）学習データを基に、自動で文章、画像、動画などを生成するAI。生成AIの活用を巡る動きが活発化する一方で、機密情報や個人情報の取り扱い、回答の正確性、偽画像や動画の拡散などの課題が指摘されている。

（葛西泰介）