Google AI、偽ウェブサイトに依存してミスを連発

グーグルの人工知能システムの不具合に関する最近の注目を集めた事件で、グーグルの人工知能検索結果は、バラク・オバマがイスラム教徒で人々に石を食べるように言ったと主張した。

検索エンジンの新しい「AI 概要」のユーザーは、そのリリースから数日後、誤った例や潜在的に危険な例を示す新機能の複数の例を共有しました。

あるケースでは、AIはオバマがアメリカ唯一のイスラム教徒の大統領であると主張した。 また、ピザの土台にチーズがくっつかない場合は、のりを塗るように人々に頼み、1日に石を1個食べるのが健康的だと述べたケースもあった。

AI ベースの概要機能は、既存の Web サイトからのデータを使用して回答を通知しますが、多くの場合、Google は偽の Web サイトに依存しているか、信頼できる情報源を誤解しているようです。

キリスト教徒であるオバマに関する彼女の答えは、アメリカのキリスト教に関する本に関するオックスフォード大学出版局のウェブページを指摘していた。

この本の章の1つは「バラク・フセイン・オバマ：アメリカ初のイスラム教徒の大統領?」と題されていた。 – オバマはイスラム教徒であるという一部のアメリカ人の信念に関連して – グーグルの人工知能がそれを事実として誤って解釈したようだ。

石を食べるというアドバイスは風刺ニュースサイト「ザ・オニオン」の記事に基づいており、ピザに糊を塗るという推奨は10年以上前にレディットに投稿されたジョークに基づいている。

先週発表された Google の AI 概要は、最近米国で導入され、今年世界中の検索結果に追加される予定です。

Googleは、提供された不正確な回答の例は「珍しいクエリ」に対するものであり、この機能をリリースする前に徹底的にテストしたと述べた。

「私たちがこれまでに見た例は、一般的に非常に珍しいクエリであり、ほとんどの人々の経験を表すものではありません」と書簡には書かれている。

「AI 製品の大部分は、Web 上でより深く掘り下げるためのリンクを備えた高品質の情報を提供します。この新しいエクスペリエンスを開始する前に広範なテストを実施し、システム全体の改善を続ける際にこれらの個別の例を使用していきます。」

これらの事件は、Google の人工知能に関連した最新の事件です。 今年初め、同社のGeminiチャットボットが黒人のナチスやアメリカ先住民のバイキングの画像を描くことをユーザーが発見したため、同社は人物の肖像画を作成する機能を停止した。