日本政府、AI生成コンテンツ検出技術を義務化へ。 ガイドライン草案は誤った情報から保護することを目的としている

政府がまとめるAI関連事業向けガイドライン案によると、政府はAI開発者などに対し、AIが生成したコンテンツを検出し、そこに含まれる情報の出所を特定する技術の開発や導入を義務付ける。

この要件は、ヒロシマAIプロセスを通じて生成人工知能などに関してG7が合意したルールに基づいている。

ガイドライン草案は最近その詳細が判明し、最終草案を得るために政府の専門家委員会であるAI戦略委員会に間もなく提出される予定だ。 政府は草案についてパブリックコメントを求め、早ければ来年３月にも正式なガイドラインを公表する予定だ。

草案では、AI関連企業が留意すべき「人間中心」「安全・安心」「透明性」など10原則を定めている。 人工知能が生み出す虚偽情報への対策強化も求めており、人間の感情を不当に操作することを目的とした人工知能システムの開発・利用を認めるべきではないと明記している。

さらに、ガイドライン草案では、「高度なAIシステムに関わる企業」（主に生成AIの開発者を指す）に対し、G7国際ルールへの準拠を確保するための追加措置を講じるよう求めている。

草案では虚偽情報への対策として、コンテンツとその出所を認証するための信頼できる仕組みを開発・導入することを提案している。 作成者プロファイリングは、情報源または作成者を特定するためのデジタル技術であり、そのようなメカニズムの 1 つです。