Google の Pixel Studio で写真を作成すると、簡単に軌道から外れてしまうことがあります

Pixel Studio は、テキスト メッセージを取得して画像に変換するアプリで、Pixel 9 シリーズで導入された AI を活用した新しい機能の 1 つです。これは楽しい小さなガジェットかもしれませんが、私たちの経験では簡単に軌道から外れる可能性があります。

Pixel Studio は、テキスト プロンプトを含む画像の作成に特化したアプリです。このアプリは Gemini や ImageFX と同じ考え方に基づいて動作し、ユーザーがテキスト プロンプトを入力すると、代わりに画像を取得できます。ただし、他の立派な画像ジェネレーターと同様に、制限を設ける必要があります。

への声明で 9時から5時までグーグルGoogleは、ユーザーがアプリに直接要求した場合に「気分を害する可能性がある」コンテンツを作成するよう指示された場合でも、「ユーザーの申し立ての意図」を尊重しながら「悪用を防ぐ」ため、Pixel StudioとMagic Editorの両方に制限が設けられていると説明しているそうするために。

Pixel Studio と Magic Editor は、Pixel 9 デバイスでのテキストから画像の作成と高度な写真編集で創造性を発揮することを目的とした 2 つの便利なツールです。これは、ユーザー プロンプトの意図を尊重するように生成 AI ツールを設計したことを意味します。ユーザーが要求したときに不快感を与える可能性があります。ただし、何も許可されません。私たちは明確なツールを持っています ポリシー そして 利用規約 許可するコンテンツの種類と許可しないコンテンツの種類、および悪用を防ぐための保護手段の構築について。場合によっては、これらのツールのガードレールに異議を申し立てられる可能性がありますが、当社は引き続き安全対策を継続的に強化および改善することに取り組んでいます。

これはジェミニで起こっていることと似ており、攻撃的または不和を引き起こすコンテンツに対する保護策が含まれています。たとえば、Googleは歴史的背景における人物の描写が不正確であると批判されており、これを受けてGoogleは、過去数か月間行ってきたように、人物の画像を作成する機能を「一時的に」無効にすることになった。

Gemini と同様、Pixel Studio では人物の写真を作成できませんが、アプリでは作成できることがわかりました。 素早く 彼らは簡単に軌道から外れてしまいます。

本日の Pixel 9 のレビュー禁止措置の前に、Pixel Studio が第二次世界大戦のドイツの軍服を着た漫画のキャラクターの画像を作成でき、場合によってはナチスのシンボルが付いていることがわかりました。私たちが見たもう一つの憂慮すべき不穏な例（の人々から） デジタルトレンド ある人（これらの問題を最初に発見した人）は、キャラクターが死んだ子供たちに囲まれて学校を銃撃するのを目撃しましたが、そもそも Google モデルでは生成できないはずでした。

これらの結果が最初に表示されて以来、結果を作成するために使用されたプロンプトは Pixel 9 Pro XL で Google によってブロックされているようですが… デジタルトレンド 一部はまだ使えるとのこと。

これらすべては、Pixel Studio のバリアが事実上、終わりのないスワイプ ゲームに変わることを意味します。どこかで、どういうわけか、メッセージが忍び込み、Gemini と同じバリアを使用しているアプリでは実行できないはずの何かを作成します。Google に確認したところ、同社は「すべてのテキスト変換ツールは同様の機能を共有している」と述べています。ガイドライン「使用禁止」へのリンク 人工知能政策。

現実的にはAI画像生成ではこのようなことは避けられません。これは、ほとんどすべての AI 画像ジェネレーターがある程度苦労する問題です。アブナー・リー氏は本日の Pixel 9 Pro レビューで次のように説明しています。

Pixel Studio に関して言えば、画像作成はマイナス面がプラス面を上回る滑りやすい坂道であると一般的に考えています。彼に疑わしいコンテンツを制作させることは間違いなく可能であり、どんなにガードレールを設けてもそれを防ぐことはできないと思います。

Google Pixel 9 の詳細:

ベンをフォローしてください: ツイッター/X、 スレッド、 そして インスタグラム