偽情報、バグ、そしてふくよかな教皇: 急速に進化する人工知能ができることとできないこと | 人工知能 (AI)

gGPT-4 などの大規模な言語モデルや、DALL-E、Midjourney、Stable Diffusion などの画像ジェネレーターを含むアクティブな人工知能は、一部のコメンテーターが指摘しているように、「誇大宣伝と畏怖の嵐」の中で進歩しています。

人工知能の最近の進歩は、急速に進化する技術が「誰も、作成者でさえも確実に理解、予測、または制御できない、より強力なデジタルマインド」につながる可能性があるという警告をもたらしました.

これは、1,000 人を超える AI の専門家、研究者、支援者が署名した公開書簡によるもので、リスクを軽減するための安全プロトコルが開発されるまでの 6 か月間、「巨大な」AI システムの作成を直ちに停止するよう求めています。 .

しかし、テクノロジーは今何ができるでしょうか？

リアルな画像を生成できる

Midjourney は、テキストの説明から画像を作成します。 最近のイテレーションで大幅に改善され、5 番目のバージョンではリアルなビジュアルを作成できるようになりました。

これらには、Bellingcat Investigative Journalism Network の創設者である Eliot Higgins によって作成されたトランプの逮捕の偽の写真が含まれます。

Midjourney は、バレンシアガのパファー ジャケットを着た教皇フランシスコのバイラル イメージを作成するためにも使用されました。 ライアン・ブロデリック 「群衆レベルの AI 偽情報の最初の実際の事例」として。 （イメージクリエーター 彼は言った 彼はマジック マッシュルームを食べた後にこのアイデアを思いつきました。)

画像の作成者は、芸術的所有権と著作権について重大な倫理的懸念を提起しており、一部の AI プログラムが許可や支払いなしにオンラインの何百万もの画像でトレーニングされているという証拠があり、 集団訴訟.

アートワークが人工知能によって使用されるのを防ぐためのツールが開発されています。 釉薬、ファイルを使用します ブロッキングテクニック これにより、イメージ ジェネレーターがアートワークのパターンを正確に複製できなくなります。

彼は説得力のある人の声を繰り返すことができます

Guardian Australia の調査によると、人工知能によって生成された音声は、オーストラリア政府が使用している音声識別システムをだますのに十分な精度で、特定の人のように聞こえるように訓練できることが明らかになりました。

ラテンアメリカでは、声優が AI 吹き替えプログラムに取って代わられたため、仕事を失ったと報告されています。 「声優にとってますます人気のあるオプションは、AI ナレーション会社で低賃金のレコーディングの仕事を引き受け、彼らに取って代わることを目的とした技術を訓練することです。」 世界のその他の地域 報告が見つかりました。

書ける

OpenAI がリリースした最も強力なモデルである GPT-4 は、あらゆるコンピューター プログラミング言語でコーディングでき、記事や本を書くことができます。 大規模な言語パラダイムは、 人工知能で書かれた電子書籍ブーム アマゾンで販売中。 CNET などの一部のメディアは、 人工知能を使っていると言われています 記事を書くこと。

ビデオ AI が大幅に改善

テキストからビデオへのジェネレーターが利用可能になりました。その名前が示すように、テキストの説明をアニメーション画像に変換できます。

2D画像を3Dに変換できます

AI は、2D 静止画像を 3D ビジュアライゼーションに変換する能力も向上しています。

彼は事実を誤り、幻覚を起こす

AI、特に ChatGPT などのチャット プログラムで使用される大規模な言語モデルは評判が悪い 現実的なエラー かなり説得力があるように見えるため、簡単に見逃されます。

AI チャットボットの機能的な使用例には、失敗の反例があるようです。

たとえば、ペンシルバニア大学ウォートン スクールのイーサン マリック教授は GPT-4 をテストし、 公正な査読 まるで経済社会学者のような研究論文から。

しかし、オランダのティルブルフ大学の准教授であるロビン・バウウェンスは、学術論文をレビュアーに却下させた.

なぜ AI が偽の学術論文を作成するのかという問題は、大規模な言語モデルがどのように機能するかに関係しています。言語モデルは確率論的であり、一連の単語にわたって確率をプロットします。 クイーンズランド大学の David Smerdon 博士が言うように、「文の先頭を見て、次に来る可能性が最も高い単語を推測しようとします。」

2 月に、Bing はその AI の事前に記録されたデモをリリースしました。 ソフトウェアエンジニアとして ディミトリ・ブレトン 彼は、アムネスティがメキシコシティへの 5 日間の旅程を作成するよう依頼されたことを指摘した。 提案されたナイトライフのオプションに関する 5 つの説明のうち、4 つが不正確であることがわかりました。 財務報告書の数字を要約する際に、Brereton は、彼が数字をひどく操作することにも成功したことを発見しました。

彼は（いまいましい）指示とレシピを作成できます。

ChatGPT を使用してかぎ針編みのパターンを作成したところ、非常に愉快な結果が得られました。

チャットボットの背後にある人工知能の最新版である GPT-4 は、冷蔵庫の中身の写真に基づいてレシピの提案を提供できます。 私はいくつかの写真でこれを試しました 冷蔵庫探偵subreddit、しかし、冷蔵庫の写真に既にある食材を含むレシピの提案は返されませんでした.

管理タスクを実行するためのアシスタントとして機能できます

「人工知能の進歩により、個人エージェントの作成が可能になります。」ビル・ゲイツ 今週書いた. 「携帯情報端末のようなものだと考えてください。最新のメールを表示し、参加中の会議を把握し、読んでいるものを読み、邪魔されたくないものを読みます。」

「これにより、やりたいタスクの作業が改善され、やりたくないタスクから解放されます。」

何年もの間、Google アシスタントの AI は電話でレストランを予約することができました。

OpenAI で GPT-4 プラグインが有効になり、Web 上のデータを検索して食料品を注文できるようになりました。