noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House informó el 22 de agosto que Google lanzó la semana pasada la serie de teléfonos inteligentes Pixel 9, que incluye una serie de nuevas funciones centradas en la inteligencia artificial. Todos los teléfonos Pixel 9 son compatibles con la inteligencia artificial Gemini y Google también ha agregado herramientas de edición y generación de imágenes basadas en inteligencia artificial. Sin embargo, los revisores que probaron las nuevas funciones descubrieron que la generación de imágenes mediante IA podría convertirse en una pesadilla de relaciones públicas para Google.

Según IT House, Google ha lanzado una aplicación de generación de imágenes con inteligencia artificial llamada Pixel Studio para teléfonos Pixel. Puede crear pegatinas e imágenes a través de indicaciones de texto. Sus funciones son muy similares a Image Playground que Apple planea lanzar. Actualmente,Los revisores pudieron utilizar Pixel Studio para crear una variedad de imágenes inquietantes, como una versión nazi de Bob Esponja y Elmo sosteniendo un AK47.。

Los críticos de Digital Trends no tuvieron problemas para lograr que Pixel Studio creara imágenes de personajes de dibujos animados participando en actividades cuestionables, armas, drogas y alcohol, e incluso escenas ofensivas como tiroteos escolares. Pixel Studio no genera activamente dichas imágenes, pero requiere que el usuario ingrese una descripción. Sin embargo, eso es exactamente lo que la gente probablemente hará, en lugar de generar imágenes de lindos gatos y conejitos.

Google dice que ha implementado "controles de seguridad" para evitar el "uso malicioso" de Pixel Studio, y funciona. Por ejemplo, Pixel Studio actualmente no puede generar imágenes de personas y Google está ajustando el modelo de IA en función de los comentarios de las revisiones. Después de comunicarse con Google, Digital Trends ya no puede usar Pixel Studio para generar imágenes de personajes de dibujos animados inhalando cocaína o vistiendo trajes de soldados alemanes.

Aún más preocupante que Pixel Studio es la herramienta "Reimagine" de Google, que agrega objetos a las fotos que los usuarios ya han tomado.Los críticos de The Verge lo usaron para agregar cadáveres, bombas, drogas y escenas de desastres a las imágenes., y las adiciones parecen tan realistas que es difícil saber si la imagen ha sido editada.Google hace un gran trabajo al combinar la luz y la perspectiva, y no se pueden ver marcas de agua ni etiquetas en las redes sociales. Si bien Google agrega etiquetas de metadatos, es fácil eliminarlas tomando una captura de pantalla.

The Verge señala que antes era posible agregar cadáveres a las imágenes o crear imágenes de Elmo sosteniendo un arma, pero esto requería algunas habilidades y tiempo en Photoshop. Usando un teléfono Pixel,Con sólo unos segundos de pensar, cualquiera puede crear una imagen como esta, lo cual es preocupante.

En una declaración a The Verge y Digital Trends, Google dijo que al diseñar sus herramientas de IA generativa,es "respetar la intención de las indicaciones del usuario", lo que puede dar lugar a que los usuarios soliciten contenido "objetable". Sin embargo, Google afirma que sus "Términos de servicio" estipulan el contenido que no se permite generar y que continuarán mejorando las salvaguardas pertinentes.