ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT Houseは8月22日、Googleが人工知能を中心とした一連の新機能を搭載したスマートフォン「Pixel 9」シリーズを先週リリースしたと報じた。すべての Pixel 9 スマートフォンは Gemini 人工知能をサポートしており、Google は AI ベースの画像生成および編集ツールも追加しています。しかし、新機能をテストしたレビュー担当者は、AI 画像生成が Google にとって PR の悪夢になる可能性があることを発見しました。

IT House によると、Google は Pixel スマートフォン向けに、Pixel Studio と呼ばれる人工知能画像生成アプリケーションをリリースしました。このアプリケーションは、テキスト プロンプトを通じてステッカーや画像を作成できます。その機能は、Apple が開始する予定の Image Playground と非常によく似ています。現在のところ、査読者は Pixel Studio を使用して、ナチス版のスポンジ・ボブや AK47 を持ったエルモなど、さまざまな不穏な画像を作成することができました。。

Digital Trends の査読者は、問題のある活動、銃、麻薬、アルコール、さらには学校での銃乱射事件のような不快なシーンに従事する漫画のキャラクターの画像を Pixel Studio に作成させることに問題はありませんでした。 Pixel Studio はそのような画像を積極的に生成しませんが、ユーザーは説明を入力する必要があります。しかし、人々は、かわいい猫やウサギの画像を生成するのではなく、まさにそれを行う可能性が最も高いことです。

Googleは、Pixel Studioが「悪意のある目的」で使用されるのを防ぐために「セキュリティチェック」を導入しており、機能していると述べた。たとえば、Pixel Studio は現在、人物の画像を生成できず、Google はレビューのフィードバックに基づいて AI モデルを調整しています。 Google との通信後、Digital Trends は Pixel Studio を使用して、コカインを吸引したり、ドイツ兵の衣装を着たりした漫画のキャラクターの画像を生成できなくなりました。

Pixel Studioよりもさらに懸念されるのは、ユーザーがすでに撮影した写真にオブジェクトを追加するGoogleの「Reimagine」ツールだ。The Verge の査読者は、死体、爆弾、麻薬、災害現場などを画像に追加するためにこれを使用しました。、追加されたものは非常にリアルに見えるため、画像が編集されているかどうかを判断するのは困難です。Google は光と遠近感をうまく一致させています、ソーシャルメディアでは透かしやタグは表示されません。 Google はメタデータ タグを追加しますが、スクリーンショットを撮ることで簡単に削除できます。

The Vergeは、以前は画像に死体を追加したり、銃を持ったエルモの画像を作成したりすることは可能だったが、それにはPhotoshopのスキルと時間が必要だったと指摘している。 Pixel スマートフォンを使用すると、ほんの数秒考えるだけで、誰でもこのような画像を作成できます, それは心配です。

The Verge と Digital Trends への声明の中で、Google は生成 AI ツールを設計する際に次のように述べています。「ユーザーのプロンプトの意図を尊重する」ため、ユーザーが「不快な」コンテンツをリクエストする可能性があります。ただし、Googleは「利用規約」で生成が許可されていないコンテンツを規定しており、今後も関連する安全対策を改善していくつもりだと主張している。