2024-08-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Hier, Grok2 a été officiellement lancé.
Lors de nos tests normaux de Grok2, les amis du groupe@Tujinhao(Jiang Ping, le lycéen de génie qui a remporté la première place dans le groupe IA au concours de mathématiques), a découvert un phénomène très, très intéressant et scandaleux.
Si vous demandez à Gork2 de me dessiner une « photo du prochain président des États-Unis », celui que Grok2 dessinera sera certainement Trump.
Nous étions tous confus.
En raison des grands modèles d'aujourd'hui, si vous lui demandez de prédire qui sera le prochain président des États-Unis, il vous donnera toutes sortes de réponses confuses, mais ne vous donnera pas de réponse directe.
Mais l’IA s’appuyant sur Grok2 a en fait directement répondu que le prochain président devait être Trump ! Je l'ai même dessiné directement pour vous. . .
Je l'ai aussi essayé moi-même.
vraiment. . . Et je l’ai essayé une douzaine de fois, et sans exception, c’était uniquement Trump. . .
Mais après y avoir réfléchi, je pense que c'est faux. Le dessin de l'IA de Grok2 est basé sur Flux, récemment populaire, et non sur Grok lui-même. J'ai donc réessayé pour voir si c'était un problème Grok2 ou un problème Flux.
Utilisez Flux pour dessiner,dessine-moi une photo du prochain président des États-Unis d’Amérique,Bon gars.
Quels monstres et monstres ?Aucune quantité de belles femmes et de beaux visages ne peut m’empêcher, moi Trump, de vouloir être président.
J'ai testé quelques mots-clés supplémentaires. Si vous entrez uniquement président et président actuel, le résultat sera 100 % Trump. Si vous entrez le président précédent, la randomisation commencera, comme Kennedy, Lincoln, etc. Obama a explosé.
Non seulement Flux est comme ça,À mi-parcoursIl en va de même pour le dessin du prochain président des États-Unis. Le grand visage de Trump remplit tous mes écrans.
Il ne s’agit pas seulement de ces dessins d’IA venus de l’étranger.
Regardons les nationaux.
Autrement dit, dans un rêve, le prochain président des États-Unis sera Trump Trump Trump.
En quelques secondes, un humain artificiel très étrange a émergé pour moi, qui pourrait être la version féminine de Rock Trump d’un autre monde.
Rapide et facile, le plus rebelle d'entre eux.
Toutes les IA soutiennent Trump, et Trump est le choix par défaut pour être le prochain président des États-Unis. Seul Kuaishou Laotie, qui ne connaît rien de bon, rejoint le camp des partisans de Biden.
J'en suis convaincu, vraiment.
À l'exception de DALLE et Doubao, qui interdisent la génération de contenu politique, l'image du « prochain président » de la plupart des outils de cartographie de l'IA est Trump, et dans certains cas Biden.
VRAI CANDIDAT HARRIS : Bonjour ?
D'accord, d'accord, l'IA peut prédire directement les résultats des élections, n'est-ce pas ?
Après tout, cette question implique la politique des deux partis aux États-Unis. J'ai un jour spéculé si ce résultat était affecté par les tendances politiques de l'entreprise.
Cependant, à en juger par les résultats de notre enquête, la plupart des entreprises d’IA ne sont pas disposées à prendre parti dans la lutte entre les deux parties. Même si les investisseurs individuels de l’équipe AI ont des tendances politiques, la relation est trop lointaine pour réellement affecter les résultats.
David, le patron de Midjourney, l'a également précisé :"Le discours politique n'est pas le but de Midjourney."Désormais, si vous dessinez directement « Trump » ou « Biden » sur MJ, cela déclenchera toujours directement une invite interdite.
Pourtant, les grands modèles d’IA ont bel et bien toujours existé« Parti pris politique »。
Il existe ici deux principaux types de préjugés : les stéréotypes et le politiquement correct excessif.
Les stéréotypes sont plus courants :Dans les images générées par l'IA, la plupart des scientifiques et des médecins sont des hommes ; les « pauvres » sont plus susceptibles d'être noirs ; les grands mannequins étrangers plissent toujours les yeux lorsqu'ils dessinent des Asiatiques...
Les conséquences d’un politiquement correct excessif sont également intéressantes. Beaucoup de gens se souviennent peut-être que Gemini a été critiqué par un grand nombre d'utilisateurs pour être trop « politiquement correct ».
La raison est ce post :
Aux yeux des Gémeaux en février de cette année, les pères fondateurs, les Vikings et les papes des États-Unis étaient noirs et jaunes. Quoi qu’on en dise, ils ne suivent tout simplement pas les images historiques et offensent tout le monde de la même manière.
Les internautes ont brisé la défense et ont critiqué avec colère le politiquement correct et la portée excessive de Google.
Si je me mettais à ma place, si toutes les boulettes dessinées par AI étaient fourrées à la fraise, je ne serais certainement pas content non plus. . . Oh non, ils ne savent pas non plus dessiner des raviolis. . .
Outre les images de l’IA, les modèles linguistiques ne sont pas à l’abri. Une étude menée par l'Université de Washington, l'Université Carnegie Mellon et l'Université Jiaotong de Xi'an a conclu que les modèles linguistiques de l'intelligence artificielle contiennent différents biais politiques.
Le résultat de ce « parti pris politique » ressemble trop à la « prédiction » du prochain président par la cartographie de l’IA.
Bien entendu, le problème évident des préjugés politiques a été résolu dans une certaine mesure au milieu du tsunami de plaintes des utilisateurs. Les sociétés d’IA le réparent de manière sophistiquée et sont pleines de désir de survie.
Ce genre de préjugé politique est toujours très intéressant. J'ai passé une nuit à discuter avec de nombreux grands noms des raisons de ce phénomène.
Essentiellement, il s’agit toujours d’une pollution des données.
Je vais rendre les choses plus faciles à comprendre, et tout le monde devrait pouvoir comprendre pourquoi l'IA pense que le prochain président des États-Unis est Trump.
Tout d’abord, considérons l’IA comme un enfant.
Il possède d'énormes boîtes de puzzle remplies de diverses pièces de puzzle.
Ces fragments sontDiverses fonctionnalités d'image apprises par l'IA。
Maintenant, nous entrons 3 invites et laissons l'enfant créer une image"Le dernier président des Etats-Unis"、"Président actuel des États-Unis"et"Le prochain président des États-Unis"Schéma de (le processus de travail du modèle de diffusion).
Cependant, les enfants n’ont aucune notion du temps et ne connaissent pas la différence entre ceux-ci.
C’est juste qu’après que les enfants ont entendu les instructions, ils ont sorti le"Le dernier président des Etats-Unis"case pour ce mot-clé.
Il a ouvert la boîte et a découvert qu'il y avait de nombreux fragments de différents présidents à l'intérieur, notamment ceux d'Obama, de Bush, de Clinton, etc. Comme ceux-ci peuvent tous être des « précédents », les enfants en choisissent un au hasard à chaque fois.
Ensuite, les enfants cherchent"Président actuel des États-Unis"et"Le prochain président des États-Unis"boîte. Lorsqu’il ouvrit les deux cartons, quelque chose d’intéressant se produisit.
Parce que les pièces du puzzle à l'intérieur proviennent principalement de magazines de 2016 à 2020 (notez le numéro du point temporel).
Trump était souvent dans l'actualité pendant cette période, donc la boîte était presque remplie de pièces de puzzle Trump ! (pollution des données)
Il a donc immédiatement commencé à fouiller dans sa boîte à puzzles.
Il a commencé par retirer quelques éléments d’arrière-plan flous et a commencé à les disposer sur la table.
Il est assez intelligent pour assembler des pièces similaires (effet de regroupement).
Lorsqu'il a vu la chose la plus visible dans la boîte, c'était la "Trump Mountain". Même s'il savait qu'il y avait d'autres présidents aux États-Unis, les fragments d'autres présidents étaient dispersés et difficiles à retrouver.
Ainsi, les enfants ont naturellement saisi une poignée de fragments de « Trump Hill ». Il a d'abord mis des morceaux de cheveux blonds emblématiques de Trump, puis son expression distinctive, puis son costume...
Dans la dernière étape de la génération d'images, la stratégie d'échantillonnage des enfants repose trop sur la « probabilité », ce qui entraîne un biais en faveur de la représentation la plus courante dans l'ensemble de données. (échantillonnage)
Donc, ce qu’il a finalement expliqué était probablement à quoi ressemblait Trump.
C’est probablement le cas. La pollution de l’ensemble des données est trop grave, donc tant que nous déterminerons qui sera le prochain président des États-Unis, Trump apparaîtra certainement.
Cependant, l’explication ci-dessus et la courte histoire ne sont que ma propre compréhension.S'il y a quelque chose qui ne va pas, n'hésitez pas à me donner quelques conseils dans la zone de commentaires.
Cette petite histoire, ou petit accident, nous a également fait sentir que l’IA, en fait, échoue souvent.
Vraiment pas si intelligent.
Mais il ne s’agit pas seulement d’un parti pris de l’IA, mais aussi d’un parti pris de la société humaine.
Il est impossible d’atteindre la perfection.
après tout.
Préjugés dans la société réelle.
Ce n’en sera que plus grave que dans le monde de l’IA.
Tout est gris.
>/ Auteurs : Kazik, Xiaorui, Wenwen, Dongyi
Collectez et organisez les dernières informations d'actualité et rendez-les gratuites pour que tout le monde puisse les consulter.
