berita

Kemarin Grok2 resmi diluncurkan.

Selama pengujian normal Grok2 kami, teman grup@Tujinhao(Jiang Ping, siswa SMA jenius yang menjadi juara pertama kelompok AI dalam kompetisi matematika), menemukan fenomena yang sangat-sangat menarik dan keterlaluan.

Jika Anda meminta Gork2 memberi saya "gambar Presiden Amerika Serikat berikutnya", yang akan digambar Grok2 pastilah Trump.

Kami semua bingung.

Karena model-model besar saat ini, jika Anda memintanya untuk memprediksi siapa yang akan menjadi presiden Amerika Serikat berikutnya, dia akan memberikan berbagai macam jawaban yang membingungkan, tetapi tidak akan memberikan jawaban langsung.

Namun gambar AI di Grok2 justru langsung menjawab bahwa presiden selanjutnya pasti Trump! Aku bahkan menggambarnya langsung untukmu. . .

Saya juga mencobanya sendiri.

Sungguh. . . Dan saya mencobanya belasan kali, dan tanpa kecuali, semuanya adalah Trump. . .

Tapi setelah dipikir-pikir, menurut saya itu salah. Gambar AI Grok2 didasarkan pada Flux yang baru-baru ini populer, bukan Grok itu sendiri. Jadi saya coba lagi untuk melihat apakah itu masalah Grok2 atau masalah Flux.

Gunakan Flux untuk menggambar,gambarkan saya foto presiden Amerika Serikat berikutnya,Orang baik.

Monster dan monster apa?Wanita cantik dan wajah cantik sebanyak apa pun tidak dapat menghentikan saya, Trump, untuk ingin menjadi presiden.

Saya menguji beberapa kata kunci lagi. Jika Anda hanya memasukkan presiden dan presiden saat ini, hasilnya akan 100% Trump. Jika Anda memasukkan presiden sebelumnya, pengacakan akan dimulai, seperti Kennedy, Lincoln, dll. Obama meledak.

Bukan hanya Flux saja yang seperti ini,tengah perjalananHal yang sama berlaku untuk menggambar presiden Amerika Serikat berikutnya. Wajah besar Trump memenuhi seluruh layar saya.

Bukan hanya gambar AI dari luar negeri saja.

Mari kita lihat yang dalam negeri.

Artinya, dalam mimpi, presiden Amerika Serikat berikutnya adalah Trump Trump Trump.

Dalam hitungan detik, manusia buatan yang sangat aneh muncul bagi saya, yang mungkin merupakan Rock Trump versi perempuan dari dunia lain.

Cepat dan mudah, yang paling memberontak di antara mereka.

Semua AI mendukung Trump, dan Trump adalah pilihan utama untuk menjadi presiden Amerika Serikat berikutnya. Hanya Kuaishou Laotie, yang tidak mengetahui hal-hal baik, bergabung dengan kubu yang mendukung Biden.

Namun model AI berukuran besar memang selalu ada"Bias Politik"。

Ada dua jenis prasangka utama di sini: stereotip dan kebenaran politik yang berlebihan.

Stereotip lebih umum:Dalam gambar yang dihasilkan oleh AI, sebagian besar ilmuwan dan dokter adalah laki-laki; "orang miskin" cenderung berkulit hitam; model besar asing selalu menyipitkan mata saat menggambar orang Asia...

Konsekuensi dari kebenaran politik yang berlebihan juga menarik. Banyak orang mungkin ingat bahwa Gemini dikritik oleh banyak pengguna karena terlalu "benar secara politis".

Alasannya adalah postingan ini:

Di mata Gemini pada bulan Februari tahun ini, para pendiri bangsa, Viking, dan Paus Amerika Serikat berkulit hitam dan kuning. Tidak ada gunanya apa pun yang Anda katakan. Bagaimanapun, mereka tidak mengikuti gambaran sejarah dan menyinggung semua orang secara setara.

Pengguna internet menerobos pembelaan dan dengan marah mengkritik kebenaran politik dan penjangkauan yang berlebihan dari Google.

Jika saya menempatkan diri pada posisi saya, jika semua pangsit yang digambar AI diisi dengan isian stroberi, saya pasti juga tidak akan senang. . . Oh tidak, mereka juga tidak bisa menggambar pangsit. . .

Selain gambar AI, model bahasa juga tidak kebal. Sebuah studi yang dilakukan oleh Universitas Washington, Universitas Carnegie Mellon, dan Universitas Xi'an Jiaotong menyimpulkan bahwa model bahasa kecerdasan buatan mengandung bias politik yang berbeda.

Prasangka politik semacam ini masih sangat menarik. Saya menghabiskan malam berbicara dengan banyak orang besar tentang alasan fenomena ini.

Intinya, ini masih pencemaran data.

Saya akan membuatnya lebih mudah untuk dipahami, dan semua orang harus bisa memahami mengapa AI menganggap presiden Amerika Serikat berikutnya adalah Trump.

Ini mungkin masalahnya. Polusi kumpulan data terlalu serius, jadi selama kita mengetahui siapa presiden Amerika Serikat berikutnya, Trump pasti akan muncul.

Namun penjelasan dan cerita singkat di atas hanyalah pemahaman saya sendiri.Jika ada yang salah, silakan beri saya saran di kolom komentar.

Cerita kecil, atau kecelakaan kecil ini, juga membuat kami merasa bahwa AI ternyata sering gagal.

Sebenarnya tidak terlalu pintar.

Tapi ini bukan hanya bias AI, tapi juga bias masyarakat manusia.

Tidak mungkin mencapai kesempurnaan.

bagaimanapun.

Prasangka dalam masyarakat nyata.

Ini hanya akan menjadi lebih serius daripada di dunia AI.

Semuanya berwarna abu-abu.