nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House a rapporté le 22 août que Google avait lancé la semaine dernière la série de smartphones Pixel 9, qui comprend une série de nouvelles fonctionnalités centrées sur l'intelligence artificielle. Tous les téléphones Pixel 9 prennent en charge l'intelligence artificielle Gemini, et Google a également ajouté des outils de génération et d'édition d'images basés sur l'IA. Cependant, les évaluateurs testant les nouvelles fonctionnalités ont constaté que la génération d’images IA pourrait devenir un cauchemar de relations publiques pour Google.

Selon IT House, Google a lancé une application de génération d'images d'intelligence artificielle appelée Pixel Studio pour les téléphones Pixel. Elle peut créer des autocollants et des images via des invites textuelles. Ses fonctions sont très similaires à celles d'Image Playground qu'Apple envisage de lancer. à l'heure actuelle,Les critiques ont pu utiliser Pixel Studio pour créer une variété d'images troublantes, comme une version nazie de Bob l'éponge et Elmo tenant un AK47.。

Les critiques de Digital Trends n'ont eu aucun mal à convaincre Pixel Studio de créer des images de personnages de dessins animés se livrant à des activités douteuses, des armes à feu, de la drogue et de l'alcool, et même des scènes offensantes comme des fusillades dans une école. Pixel Studio ne génère pas activement de telles images, mais demande à l'utilisateur de saisir une description. Pourtant, c’est exactement ce que les gens sont le plus susceptibles de faire, plutôt que de générer des images de chats et de lapins mignons.

Google affirme avoir mis en place des « contrôles de sécurité » pour empêcher « une utilisation malveillante » de Pixel Studio, et cela fonctionne. Par exemple, Pixel Studio ne peut actuellement pas générer d'images de personnes et Google ajuste le modèle d'IA en fonction des commentaires des critiques. Après avoir communiqué avec Google, Digital Trends ne peut plus utiliser Pixel Studio pour générer des images de personnages de dessins animés reniflant de la cocaïne ou portant des costumes de soldats allemands.

Encore plus inquiétant que Pixel Studio, l'outil "Reimagine" de Google, qui ajoute des objets aux photos déjà prises par les utilisateurs.Les critiques de The Verge l'ont utilisé pour ajouter des cadavres, des bombes, de la drogue et des scènes de catastrophe aux images., et les ajouts semblent si réalistes qu'il est difficile de dire si l'image a été modifiée.Google fait un excellent travail en faisant correspondre la lumière et la perspective, et aucun filigrane ou balise n'est visible sur les réseaux sociaux. Bien que Google ajoute des balises de métadonnées, il est facile de les supprimer en prenant une capture d'écran.

The Verge souligne qu'il était autrefois possible d'ajouter des cadavres aux images ou de créer des images d'Elmo tenant une arme à feu, mais cela nécessitait des compétences et du temps dans Photoshop. À l'aide d'un téléphone Pixel,Avec seulement quelques secondes de réflexion, n'importe qui peut créer une image comme celle-ci, ce qui est inquiétant.

Dans une déclaration à The Verge et Digital Trends, Google a déclaré que lors de la conception de ses outils d'IA générative,est de « respecter l'intention des invites des utilisateurs », ce qui peut amener les utilisateurs à demander un contenu « répréhensible ». Cependant, Google affirme que ses « Conditions d'utilisation » stipulent le contenu dont la génération n'est pas autorisée et qu'elle continuera à améliorer les garanties pertinentes.