berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House melaporkan pada 22 Agustus bahwa Google merilis seri smartphone Pixel 9 minggu lalu, yang mencakup serangkaian fitur baru yang berpusat pada kecerdasan buatan. Semua ponsel Pixel 9 mendukung kecerdasan buatan Gemini, dan Google juga telah menambahkan alat pembuatan dan pengeditan gambar berbasis AI. Namun, pengulas yang menguji fitur-fitur baru ini menemukan bahwa pembuatan gambar AI dapat menjadi mimpi buruk PR bagi Google.

Menurut IT House, Google telah meluncurkan aplikasi pembuat gambar kecerdasan buatan yang disebut Pixel Studio untuk ponsel Pixel. Aplikasi ini dapat membuat stiker dan gambar melalui perintah teks. Fungsinya sangat mirip dengan Image Playground yang rencananya akan diluncurkan Apple. saat ini,Peninjau dapat menggunakan Pixel Studio untuk membuat berbagai gambar yang mengganggu, seperti SpongeBob SquarePants versi Nazi dan Elmo memegang AK47。

Peninjau dari Digital Trends tidak kesulitan meminta Pixel Studio membuat gambar karakter kartun yang terlibat dalam aktivitas yang meragukan, senjata api, narkoba, dan alkohol, dan bahkan adegan ofensif seperti penembakan di sekolah. Pixel Studio tidak secara aktif membuat gambar seperti itu, tetapi mengharuskan pengguna memasukkan deskripsi. Namun justru itulah yang paling mungkin dilakukan orang-orang, daripada menghasilkan gambar kucing dan kelinci lucu.

Google mengatakan telah melakukan "pemeriksaan keamanan" untuk mencegah Pixel Studio digunakan "untuk tujuan jahat", dan itu berhasil. Misalnya, Pixel Studio saat ini tidak dapat menghasilkan gambar orang, dan Google sedang menyesuaikan model AI berdasarkan masukan ulasan. Setelah berkomunikasi dengan Google, Digital Trends tidak dapat lagi menggunakan Pixel Studio untuk menghasilkan gambar karakter kartun yang menghirup kokain atau mengenakan kostum tentara Jerman.

Yang lebih mengkhawatirkan daripada Pixel Studio adalah alat “Reimagine” dari Google, yang menambahkan objek ke foto yang telah diambil pengguna.Peninjau dari The Verge menggunakannya untuk menambahkan mayat, bom, obat-obatan, dan lokasi bencana ke dalam gambar, dan tambahannya terlihat sangat realistis sehingga sulit untuk mengetahui apakah gambar tersebut telah diedit.Google melakukan pekerjaan yang baik dalam mencocokkan cahaya dan perspektif, dan tidak ada tanda air atau tag yang terlihat di media sosial. Meskipun Google menambahkan tag metadata, Anda dapat dengan mudah menghapusnya dengan mengambil tangkapan layar.

The Verge menunjukkan bahwa sebelumnya dimungkinkan untuk menambahkan mayat ke gambar atau membuat gambar Elmo memegang pistol, tetapi ini memerlukan beberapa keterampilan dan waktu Photoshop. Menggunakan ponsel Pixel,Hanya dengan berpikir beberapa detik, siapa pun dapat membuat gambar seperti ini, yang mengkhawatirkan.

Dalam pernyataannya kepada The Verge dan Digital Trends, Google mengatakan bahwa ketika merancang alat AI generatifnya,adalah "untuk menghormati maksud dari permintaan pengguna", yang dapat mengakibatkan pengguna meminta konten yang "tidak menyenangkan".. Namun, Google mengklaim bahwa "Ketentuan Layanan"-nya menetapkan konten yang tidak boleh dibuat, dan mereka akan terus meningkatkan perlindungan yang relevan.