日本の岸田首相のフェイク動画で、AIが誤った情報を広めるために利用されるのではないかとの懸念が高まっている

岸田文雄首相がわいせつな発言をするフェイク動画がソーシャルメディア上で拡散した。

この動画は人工知能を利用して作成されたもので、専門家は悪意のある改ざんだと指摘している。

AIが生成した動画には、スーツを着た岸田氏がカメラに向かって直接話している姿が映されている。 日本テレビ放送網株式会社ロゴは右上隅に表示され、Chiron Network が使用するフォントで「ニュース速報」と「岸田首相：確かにそうしました」と表示されます。

その映像はまるで岸田がテレビに生出演しているかのような映像だった。

この偽ビデオは夏の間、Nikon Duga やその他のビデオ共有サイトに投稿され、木曜日には 30 秒のクリップが X に投稿されました。 このクリップは短期間で 230 万回以上の再生回数を獲得しました。 この動画を見た人の中には「AIの悪影響」「悪質なフェイク動画」などのコメントが投稿された。

ほんの1時間くらい

大阪府の25歳男性は、AIが生成した動画を作成・投稿したと主張。

この関係者によると、AIは首相の記者会見や自民党大会での演説などのさまざまな映像を使って岸田氏の声を再現することができたという。 男は岸田氏のオンライン記者会見に関する報道のクリップを使い、変声機能を使って自分の声を変え、あたかも首相が下品な発言をしているかのように見せかけた。

男は声に合わせて岸田さんの口の動きを調整し、カイロンを作り出した。 フェイクビデオの作成には1時間かかったという。

男は岸田氏の動画のほかにも、安倍晋三元首相の画像を使った動画を作成・投稿していた。

「首相は誰もが知っている著名な人物だ」 [the videos] すぐに注意を払ってください」とその関係者は語った。

「混乱を引き起こしたくなかった。人々を笑わせたかった」と彼は付け加えた。 「このビデオは風刺を目的としたものだと思いました。」

日本テレビの広報担当者は「日本テレビがコンテンツやロゴを利用してこのようなフェイク動画を作成したことは許せない」と述べ、必要に応じて適切な措置を講じると付け加えた。

より直接的な

著作権法第30条の4では、原則としてAIに学習させて著作物を無断で利用することが認められている。 著作権者らはこの状況を批判している。

大量のデータを迅速に分析できるAIは誤った情報を生み出しやすく、混乱を引き起こす。 このような中傷的な発言が流布された場合、名誉毀損とみなされます。

「投稿 [a fake video] ソーシャルメディアはニュースという名目で多くの注目を集め、拡散します」と東京工業大学准教授の笹原一俊氏は語る。 「内容にもよりますが、フェイク動画は大きな混乱を引き起こす可能性があります。」

「動画は文章よりも人々の興味を引きやすいため、直接的にマイナスの印象を与える可能性があります」と笹原氏は付け加えた。 「彼らは公的イメージを操作するという点で非常に悪意があります。

「聴衆のための教育」 [on how to identify a fake video] 生成AIの急速な進歩に追いついていない。 最初のステップとして、Web サイトとプラットフォームは対策を講じる必要があります。