noticias

¿Se está volcando la IA de Apple? Las herramientas de escritura tienen problemas para manejar malas palabras y "atacar" en temas delicados

2024-08-07

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Autor de este artículo: Li Dan

Fuente: IA dura

La semana pasada, el sistema de inteligencia personal de Apple, Apple Intelligence, se lanzó en iPhone y otros dispositivos Apple por primera vez a través de la versión beta para desarrolladores de iOS 18.1. Las herramientas de escritura, una de las primeras funciones de inteligencia artificial (IA) del iPhone, han causado polémica sólo una semana después de su debut y han sido criticadas por los internautas.

Según Apple, Writing Tools permite a los usuarios reescribir, corregir y resumir texto en casi cualquier escenario, incluidos Mail, Notes, Pages y varias aplicaciones de terceros. Algunos internautas demostraron una vez que esta herramienta puede modificar palabras duras en conversaciones por otras más discretas.
Sin embargo, algunos medios señalaron que cuando los usuarios traten ciertos temas, la herramienta les mostrará que el contenido sugerido generado por la IA puede no ser de alta calidad.

Específicamente, cuando los usuarios necesitan reajustar el texto, se puede llamar a Apple Intelligence casi en cualquier lugar del nuevo sistema iOS, pero si intentan reescribir un párrafo u oración que contenga malas palabras, verán una advertencia del sistema que le indica al usuario: "Herramientas de escritura no". diseñado para manejar este tipo de contenido ". El sistema advierte a los usuarios a través de este texto que la calidad del contenido reescrito por IA puede ser diferente del texto original.

En las redes sociales relaciones sexuales.



En esta publicación, algunos internautas comentaron que el contenido reescrito por IA era "venenoso", algunos dijeron que era vergonzoso y algunos dijeron sarcásticamente si Apple agregó algo de IA callejera para burlarse de Siri. Algunos internautas dijeron, imagina lo que pasaría si realmente publicaras las palabras reescritas.




Reformular una mala palabra no es lo único que hará que iOS emita una advertencia. Estas advertencias también aparecerán si el contenido del usuario menciona drogas, asesinatos o asesinatos, como la siguiente captura de pantalla de advertencia mostrada por los medios.


Algunos medios dicen que Apple Intelligence también mostrará advertencias de sugerencia de oraciones cuando los usuarios utilicen palabras o frases no entrenadas. Mencionó que una vez, al probar una herramienta de escritura de IA, alguien de los medios reemplazó la palabra "mierda" por "basura" en un intento de hacer desaparecer la advertencia de IA, pero la herramienta de IA devolvió un Advertencia de sugerencia. Exactamente igual que antes del reemplazo. En respuesta, el medio le pidió a Apple que proporcionara más información sobre en qué temas no está capacitada la herramienta de colaboración.

Los medios creen que Apple puede evitar cualquier controversia al prohibir que la IA procese ciertas palabras, temas y entonaciones al reescribir oraciones. De todos modos, las herramientas de escritura impulsadas por Apple Intelligence no están diseñadas para generar contenido nuevo desde cero. Apple quiere advertir a los usuarios cuando la IA esté mirando palabras originales.

Además de las controvertidas herramientas de escritura que quedaron expuestas, Apple también lanzó algunas funciones de inteligencia artificial la semana pasada, que incluyen: nuevas funciones para Siri, que le permiten a Siri cambiar entre texto y voz a voluntad y responder miles de preguntas sobre cómo usar dispositivos Apple como como iPhones Mail Entre las nuevas funciones, los correos electrónicos tienen un área de correo electrónico de emergencia y brindan resúmenes de texto completo de los correos electrónicos; las nuevas funciones para fotos permiten a los usuarios buscar fotos en el lenguaje cotidiano, la IA puede usar fotos para crear videos después de ingresar texto; Las voces se pueden transcribir a texto y generar resúmenes.

Todavía hay muchas funciones de inteligencia artificial presentadas por Apple en la Conferencia Mundial de Desarrolladores (WWDC) en junio de este año que aún no se han lanzado. Apple dijo que se lanzarán el próximo año, incluida la función de creación de imágenes Image Playground, la creación de Genmoji. la escena, la función de notificación Notificaciones prioritarias y la función de reconocimiento de pantalla de Siri. Al mismo tiempo, Apple aún no ha integrado Chat GPT en la IA del iPhone y iPad. Además, la IA actual del iPhone solo la pueden experimentar los desarrolladores registrados. Si Apple lanza más funciones de IA el próximo año y se dirige a más usuarios, puede haber más quejas.