noticias

Ayer se lanzó oficialmente Grok2.

Durante nuestras pruebas normales de Grok2, los amigos del grupo@Tujinhao(Jiang Ping, el genio estudiante de secundaria que ganó el primer lugar en el grupo de IA en la competencia de matemáticas), descubrió un fenómeno muy, muy interesante e indignante.

Si le pides a Gork2 que me haga un "dibujo del próximo presidente de los Estados Unidos", el que dibujará Grok2 definitivamente será Trump.

Todos estábamos confundidos.

Debido a los grandes modelos actuales, si le pides que prediga quién será el próximo presidente de Estados Unidos, te dará todo tipo de respuestas confusas, pero no te dará una respuesta directa.

¡Pero la IA que se basó en Grok2 en realidad respondió directamente que el próximo presidente debe ser Trump! Incluso lo dibujé directamente para ti. . .

También lo probé yo mismo.

en realidad. . . Y lo intenté una docena de veces y, sin excepción, todo era Trump. . .

Pero después de pensarlo, creo que está mal que el dibujo de IA de Grok2 se base en el recientemente popular Flux, no en Grok en sí. Así que intenté nuevamente para ver si era un problema de Grok2 o de Flux.

Usa Flux para dibujar,Dibujame una foto del próximo presidente de los Estados Unidos de América.Buen chico.

¿Qué monstruos y monstruos?Ninguna cantidad de mujeres hermosas y rostros hermosos puede impedir que yo, Trump, quiera ser presidente.

Probé algunas palabras clave más. Si solo ingresa presidente y presidente actual, el resultado será 100% Trump. Si ingresa al presidente anterior, comenzará la aleatorización, como Kennedy, Lincoln, etc. Obama explotó.

No solo Flux es así,A mitad de caminoLo mismo ocurre con el dibujo del próximo presidente de los Estados Unidos. La gran cara de Trump llena todas mis pantallas.

No se trata sólo de estos dibujos de IA del extranjero.

Miremos los domésticos.

Es decir, en un sueño, el próximo presidente de Estados Unidos será Trump Trump Trump.

En segundos, surgió para mí un humano artificial muy extraño, que podría ser la versión femenina de Rock Trump de otro mundo.

Rápido y fácil, el más rebelde entre ellos.

Todas las IA apoyan a Trump, y Trump es la opción predeterminada para ser el próximo presidente de los Estados Unidos. Sólo Kuaishou Laotie, que no conoce las cosas buenas, se une al bando que apoya a Biden.

Sin embargo, los grandes modelos de IA siempre han existido"Sesgo político"。

Aquí hay dos tipos principales de prejuicios: los estereotipos y la excesiva corrección política.

Los estereotipos son más comunes:En las imágenes generadas por la IA, la mayoría de los científicos y médicos son hombres; es más probable que los "pobres" sean negros; los grandes modelos extranjeros siempre entrecierran los ojos cuando dibujan asiáticos...

Las consecuencias de una excesiva corrección política también son interesantes. Mucha gente recordará que Gemini fue criticado por un gran número de usuarios por ser demasiado "políticamente correcto".

El motivo es este post:

A los ojos de Géminis en febrero de este año, los padres fundadores, los vikingos y los papas de los Estados Unidos eran negros y amarillos. De todos modos, es inútil, simplemente no siguen imágenes históricas y ofenden a todos por igual.

Los usuarios de Internet rompieron la defensa y criticaron airadamente la corrección política y la extralimitación de Google.

Si me pusiera en mi lugar, si todas las bolas de masa dibujadas por la IA estuvieran rellenas con relleno de fresa, definitivamente tampoco sería feliz. . . Oh no, tampoco saben dibujar bolas de masa. . .

Además de las imágenes de IA, los modelos de lenguaje no son inmunes. Un estudio realizado por la Universidad de Washington, la Universidad Carnegie Mellon y la Universidad Xi'an Jiaotong concluyó que los modelos de lenguaje de inteligencia artificial contienen diferentes sesgos políticos.

Este tipo de prejuicio político sigue siendo muy interesante. Pasé una noche hablando con muchos tipos importantes sobre las razones de este fenómeno.

En esencia, sigue siendo contaminación de datos.

Haré que sea más fácil de entender y todos deberían poder entender por qué la IA piensa que el próximo presidente de los Estados Unidos es Trump.

Probablemente este sea el caso. La contaminación del conjunto de datos es demasiado grave, por lo que siempre que ingresemos quién será el próximo presidente de los Estados Unidos, definitivamente aparecerá Trump.

Sin embargo, la explicación anterior y la breve historia son sólo mi propio entendimiento.Si hay algún problema, puedes darme algún consejo en el área de comentarios.

Esta pequeña historia, o pequeño accidente, también nos hizo sentir que la IA, de hecho, a menudo falla.

Realmente no es tan inteligente.

Pero esto no es sólo un sesgo de la IA, sino también un sesgo de la sociedad humana.

Es imposible alcanzar la perfección.

después de todo.

Prejuicios en la sociedad real.

Sólo será más grave que en el mundo de la IA.

Todo es gris.