berita

Apakah AI Apple sedang terbalik? Alat tulis kesulitan menangani kata-kata makian dan "menyerang" topik sensitif

2024-08-07

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Penulis artikel ini: Li Dan

Sumber: AI Keras

Minggu lalu, sistem intelijen pribadi Apple, Apple Intelligence, diluncurkan untuk pertama kalinya di iPhone dan perangkat Apple lainnya melalui versi beta pengembang iOS 18.1. Writing Tools, salah satu fitur kecerdasan buatan (AI) pertama di iPhone, menimbulkan kontroversi hanya seminggu setelah debutnya dan dikritik oleh netizen.

Menurut Apple, Alat Penulisan memungkinkan pengguna menulis ulang, mengoreksi, dan meringkas teks di hampir semua skenario, termasuk Mail, Notes, Pages, dan berbagai aplikasi pihak ketiga. Beberapa netizen pernah menunjukkan bahwa alat ini dapat mengubah kata-kata kasar dalam percakapan menjadi lebih bijaksana.
Namun, beberapa media menunjukkan bahwa ketika pengguna membahas topik tertentu, alat tersebut akan menunjukkan kepada pengguna bahwa konten yang disarankan yang dihasilkan oleh AI mungkin tidak berkualitas tinggi.

Secara khusus, ketika pengguna perlu menyesuaikan kembali teks, Apple Intelligence dapat dipanggil hampir di mana saja di sistem iOS baru, tetapi jika mereka mencoba menulis ulang paragraf atau kalimat yang mengandung kata-kata kotor, mereka akan melihat peringatan sistem yang memberi tahu pengguna: "Alat Menulis Tidak dirancang untuk menangani jenis konten ini.” Sistem memperingatkan pengguna melalui teks ini bahwa kualitas konten yang ditulis ulang oleh AI mungkin berbeda dari teks aslinya.

Di media sosial hubungan seksual.



Di bawah postingan ini, beberapa netizen berkomentar bahwa konten yang ditulis ulang oleh AI itu "beracun", beberapa mengatakan itu memalukan, dan beberapa dengan sinis mengatakan, apakah Apple menambahkan beberapa AI jalanan untuk mengejek Siri. Beberapa netizen mengatakan, bayangkan apa jadinya jika Anda benar-benar memposting kata-kata yang ditulis ulang tersebut.




Mengulang kata-kata makian bukanlah satu-satunya hal yang akan menyebabkan iOS mengeluarkan peringatan. Peringatan serupa juga akan muncul jika konten pengguna menyebutkan narkoba, pembunuhan, atau pembunuhan, seperti peringatan screenshot berikut yang ditampilkan media.


Beberapa media menyebutkan bahwa Apple Intelligence juga akan menampilkan peringatan saran kalimat ketika pengguna menggunakan kata atau frasa yang tidak terlatih. Dia menyebutkan bahwa suatu kali ketika mencoba alat penulisan AI, seseorang dari media mengganti kata "sh***y" dengan "jelek" dalam upaya untuk menghilangkan peringatan AI, tetapi alat AI tersebut mengembalikan a peringatan saran. Sama persis seperti sebelum penggantian. Sebagai tanggapan, outlet tersebut meminta Apple untuk memberikan lebih banyak informasi tentang topik mana yang tidak dilatih oleh alat kolaborasi tersebut.

Media percaya bahwa Apple dapat menghindari kontroversi apa pun dengan melarang AI memproses kata, topik, dan intonasi tertentu saat menulis ulang kalimat. Terlepas dari itu, alat tulis yang didukung Apple Intelligence tidak dirancang untuk menghasilkan konten baru dari awal. Apple ingin memperingatkan pengguna ketika AI melihat kata-kata asli.

Selain alat tulis kontroversial yang terungkap, Apple juga merilis beberapa fitur AI pada minggu lalu, antara lain: fitur baru untuk Siri, memungkinkan Siri untuk beralih antara teks dan suara sesuka hati, dan menjawab ribuan pertanyaan tentang cara menggunakan perangkat Apple seperti seperti iPhone; Mail Di antara fitur-fitur baru, email memiliki area email darurat dan menyediakan ringkasan teks lengkap dari email; fitur baru untuk foto memungkinkan pengguna mencari foto dalam bahasa sehari-hari, AI dapat menggunakan foto untuk membuat video setelah memasukkan teks, dan suara dapat ditranskripsi menjadi teks dan menghasilkan ringkasan.

Masih banyak fungsi AI yang diperkenalkan Apple pada Worldwide Developers Conference (WWDC) Juni tahun ini yang belum diluncurkan, menurut Apple akan diluncurkan tahun depan, termasuk fungsi pembuatan gambar Image Playground, pembuatan Genmoji untuk adegan, fungsi notifikasi Notifikasi Prioritas, dan kesadaran layar. Fungsi Siri lebih bertenaga. Pada saat yang sama, Apple belum mengintegrasikan Obrolan GPT ke dalam AI iPhone dan iPad. Apalagi iPhone AI saat ini hanya bisa dirasakan oleh pengembang terdaftar. Jika Apple meluncurkan lebih banyak fungsi AI tahun depan dan menargetkan lebih banyak pengguna, mungkin akan ada lebih banyak keluhan.