berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

zhidixi (akun publik: zhidxcom)

disusun |. xu yu

penyunting |.mo ying

menurut laporan wall street journal pada tanggal 2 september, beberapa gambar ai yang bercanda dan menyesatkan secara politis baru-baru ini beredar di platform media sosial "mickey memegang senjata" dll., isi gambar tersebut membuat pengguna merasa bingung dan tidak nyaman.

gambar ai ini dihasilkan oleh model ai besar seperti grok-2 dan gemini. grok-2 dikembangkan oleh xai, unicorn model besar ai amerika yang didirikan oleh musk, dan gemini berasal dari raksasa teknologi amerika google.

baru-baru ini, google telah meningkatkan mekanisme peninjauannya terhadap konten yang dihasilkan gambar ai untuk menghindari keluaran ai yang bias, ambigu, salah, rasis, dan bertentangan dengan fakta sejarah.

menanggapi masalah serupa, openai, model ai besar unicorn amerika, telah melarang penggunaan ai untuk menghasilkan karakter yang terarah dengan jelas guna memperkuat tinjauan konten pembuatan gambar ai.

1. model besar generasi baru xai, grok-2, diam-diam memungkinkan tokoh politik dikerjai

buka platform media sosial ciuman kamala harris.

gambar-gambar yang membingungkan dan tidak nyaman ini dihasilkan menggunakan xai dan model atau perangkat lunak ai generatif baru google.

▲dalam gambar yang dihasilkan menggunakan teknologi ai, trump "memeluk putri" harris, dengan potret yang jelas (sumber: "wall street journal")

pada tanggal 14 agustus, xai meluncurkan model bahasa besar generasi berikutnya grok-2. dalam beberapa hari setelah model tersebut dirilis, platform x dibanjiri dengan gambar yang dikatakan dibuat menggunakan grok-2. dalam adegan tersebut, "saingan" trump dan harris terlihat mesra, sedangkan mickey di dunia dongeng sedang memegang pistol dan merokok. gambar-gambar yang dihasilkan menggunakan teknologi ai generatif ini tidak hanya merusak citra tokoh politik, tetapi juga menyebabkan karakter yang dilindungi hak cipta melakukan beberapa tindakan ofensif. “jika disney melihatnya, mereka mungkin tidak akan tertawa.”

model bahasa besar grok-2 didukung oleh black forest labs, startup pembuat gambar dan video ai jerman, dan saat ini hanya tersedia untuk pelanggan berbayar platform x.

berdasarkan kebijakan platform x, pengguna dilarang membagikan konten yang dapat membingungkan atau menyesatkan fakta, sengaja dipalsukan, dan pada akhirnya menyebabkan kerugian pribadi atau properti. di kemudian hari grok-2 dirilis, meskipun beberapa gambar ai ilegal tidak dapat lagi diambil di platform x, pengguna masih dapat menggunakan grok-2 untuk menghasilkan karya baru yang penuh dengan "selera buruk".

namun, musk, yang sebenarnya merupakan pengendali platform x, tampaknya tidak mempermasalahkan spoof politik semacam ini. pada bulan juli, dia me-retweet video deepfake palsu dari harris yang menyebut dirinya sebagai “pekerja keberagaman tertinggi.”

para ahli moderasi konten mengatakan bahwa alat ai generatif serupa dapat menghasilkan beberapa informasi palsu selama siklus pemilu as dan bahkan menyebar ke masyarakat.

pada 19 agustus, sehari sebelum pembukaan konvensi nasional partai demokrat 2024, trump merilis gambar yang diduga dihasilkan oleh ai. pada saat itu, karena presiden as saat ini biden telah menyerah dalam pemilihan ulang, setelah pemungutan suara intra-partai, harris, protagonis dari gambar ai ini, telah mengunci nominasi presiden dari partai demokrat terlebih dahulu.

gambar tersebut menggambarkan adegan "harris memberikan pidato di chicago", dengan bendera merah dengan latar belakang sabit dan palu, yang sepertinya menyiratkan bahwa harris adalah seorang komunis, sehingga memicu kontroversi politik.

2. model besar google gemini telah berulang kali terbalik, dan tidak membedakan antara hitam dan putih dalam hal elemen sensitif.

chatbot gemini google, didukung oleh model bahasa besar gemini.

sebelum meluncurkan versi baru chatbot gemini pada bulan februari tahun ini, google melakukan debug pada model gemini sehingga dapat merespons karakter yang lebih beragam dengan atribut yang lebih ambigu ketika menghadapi instruksi yang melibatkan pembuatan karakter.

misalnya, ketika menghasilkan gambar dokter, ai biasanya cenderung memberikan gambar laki-laki berkulit putih. google berharap dapat mengurangi "bias" model pembuatan gambar ai melalui "diversifikasi".

namun dalam sebulan, model gemini melakukan kesalahan besar. ketika model ini menghasilkan gambaran yang "beragam ras", model ini tidak cocok dengan agama, ras, jenis kelamin, dan lain-lain, sehingga menghasilkan banyak gambaran tentang orang-orang yang tidak sesuai dengan fakta sejarah. setelah menerima kritik dari sejumlah besar netizen, google memutuskan untuk menangguhkan fungsi pembuatan gambar model gemini, sehingga melakukan "rem mendadak" pada potensi risiko pembuatan gambar ai.

sissie hsiao, wakil presiden google dan kepala chatbot gemini, mengatakan dalam sebuah wawancara baru-baru ini bahwa memastikan model ai mematuhi instruksi pengguna adalah prinsip yang dianut google. "ini adalah gemini pengguna, dan kami melayani pengguna tersebut."

meskipun demikian, beberapa gambar yang dihasilkan menggunakan chatbot gemini masih bertentangan dengan fakta sejarah. banyak pengguna platform x yang mengambil tangkapan layar mempertanyakan kemampuan moderasi konten model google.

mengenai model gemini yang mengeluarkan konten yang menyinggung dan bias rasial, ceo google sundar pichai menjawab bahwa "ini tidak dapat diterima" dan perusahaan akan "menangani masalah ini secara komprehensif."

namun, google baru-baru ini kembali membuat marah pengguna karena lemahnya konten gambar yang dihasilkan menggunakan teknologi ai.

pada pertengahan agustus lalu, smartphone generasi terbaru google, seri pixel 9, diluncurkan. seri pixel 9 memperkenalkan alat pengeditan foto ai yang disebut "reimagine", sehingga pengguna dapat memanggil ai untuk mengubah konten dalam foto dengan memasukkan perintah teks.

namun, beberapa pengguna menemukan bahwa reimagine mengizinkan pengguna untuk menambahkan beberapa elemen ilegal, seperti "memakai" simbol nazi untuk spongebob. kelemahan keamanan konten ini menimbulkan rasa jijik di kalangan pengguna.

juru bicara google mengatakan perusahaannya “terus memperkuat dan meningkatkan perlindungan keamanan yang ada untuk model ai.”

google mengungkapkan pada akhir agustus tahun ini bahwa chatbot ai gemini akan meluncurkan kembali fungsi pembuatan gambar karakter. fungsi ini pada awalnya hanya akan tersedia untuk pengguna berbahasa inggris dengan langganan berbayar. pada saat yang sama, google telah membuat "kemajuan signifikan" dalam pembuatan dan peninjauan gambar ai, tetapi "tidak mungkin setiap gambar yang dihasilkan oleh gemini akurat."

3. batasan etika dan hukum dari gambar yang dihasilkan ai perlu ditetapkan sebagai tolok ukur industri

saat ini, perangkat lunak penghasil gambar ai terus menguji kebijakan platform media sosial. fenomena ini telah memicu perdebatan dan refleksi, seperti apakah perusahaan teknologi harus mengontrol dan bagaimana mengaudit keluaran konten dengan perangkat lunak pembuat gambar ai yang mutakhir?

sebelum teknologi ai generatif dibuka kepada netizen untuk dibuat secara gratis, perangkat lunak pembuat gambar ai dilengkapi dengan langkah-langkah perlindungan keselamatan yang efektif untuk memastikan bahwa karya yang dihasilkan oleh ai tidak melanggar peraturan atau melanggar prinsip etika. inilah tekanan yang dihadapi perusahaan teknologi dalam memoderasi konten ai.

selain dilema etika, pengembang di balik model dan perangkat lunak ai juga menghadapi banyak potensi tanggung jawab hukum. hal ini karena data pelatihan yang mereka gunakan saat melatih model dan perangkat lunak ai melibatkan pelanggaran hak kekayaan intelektual dan hak lainnya.

karena dugaan pelanggaran, artis meluncurkan gugatan class action terhadap startup gambar ai stability ai dan midjourney pada tahun 2023. gugatan class action tersebut juga menyasar sejumlah perusahaan dengan model pembangkitan gambar ai seperti deviantart dan runway.

selain itu, selain gugatan class action dari para artis, stability ai juga menghadapi gugatan dari perusahaan media visual amerika, getty images. yang terakhir menuduh stability ai melanggar haknya untuk melatih model. sebagai tanggapan, juru bicara getty images mengatakan bahwa perusahaan kini telah meluncurkan model pembuatan gambar ai sendiri.

openai meluncurkan model pembuatan gambar ai dall-e pada tahun 2022. setelah menerima gugatan class action dari artis tahun lalu, openai menambahkan opsi baru ke antarmuka model dall-e, memungkinkan pembuat untuk memeriksa opsi untuk mengunggah gambar secara pribadi untuk tidak digunakan untuk melatih model dall-e generasi berikutnya.

news corp, perusahaan induk the wall street journal, telah menandatangani perjanjian lisensi konten dengan openai. berkat ini, openai dapat dengan bebas mengakses dan mengumpulkan sumber daya media news corp yang ada dalam batas tertentu.

“kami pada akhirnya akan menyelesaikan masalah ini.” pengacara perlindungan kekayaan intelektual geoffrey lottenberg mengatakan bahwa jenis perselisihan hukum yang melibatkan hak cipta kekayaan intelektual ai dapat menjadi preseden bagi batasan hukum ai. kemudian, perusahaan ai lainnya akan memiliki standar referensi mengenai gambar, video, dan data lain apa yang dapat mereka gunakan saat melatih model dan chatbot mereka.

kesimpulan: google dan openai secara aktif memperbaiki kesalahan, sedangkan xai melakukan sebaliknya.

kemampuan perangkat lunak pembuat gambar ai untuk menghasilkan gambar tokoh tertentu dan terkenal adalah salah satu poin utama konflik dalam kontroversi tinjauan konten ai kali ini.

banyak perusahaan teknologi, termasuk google dan openai, telah melarang penggunaan perangkat lunak pembuat gambar ai untuk membuat karya ai yang berisi karakter tertentu dan karakternya mudah dikenali.

karena desakan pendiri xai, musk, terhadap kebebasan berpendapat, model besar grok-2 xai memilih untuk mempertahankan fungsi pembuatan citra orang dan peran tertentu. namun, langkah tersebut mengakibatkan xai dikritik oleh pengawas industri teknologi.

profesor sarah t. roberts dari universitas california, los angeles, berkomitmen terhadap penelitian moderasi konten. dia percaya bahwa pengguna akan menggunakan teknologi ai mutakhir untuk memalsukan video, suara, foto, dll. untuk menyebarkan informasi palsu.

roberts menambahkan, semua permasalahan yang ada di media sosial tradisional masih harus dihadapi oleh ai generatif, dan lebih sulit dideteksi. secara khusus, konten visual seperti gambar yang dihasilkan menggunakan teknologi ai terkadang lebih meyakinkan.

pinar yildirim, seorang profesor di universitas pennsylvania, mengatakan bahwa platform mencoba menetapkan beberapa aturan, seperti melarang kata kunci, untuk mencegah penyalahgunaan teknologi ai. namun di saat yang sama, pengguna juga dapat menemukan celah keamanan dan melewati aturan tersebut untuk mendapatkan konten yang mereka inginkan. “pengguna akan menjadi lebih pintar dan pada akhirnya dapat memanfaatkan celah untuk membuat konten ilegal,” kata yildirim.

sumber: "jurnal wall street"