2024-08-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Gestern wurde Grok2 offiziell gestartet.
Während unseres normalen Tests von Grok2, Gruppenfreunde@Tujinhao(Jiang Ping, der geniale Gymnasiast, der im Mathematikwettbewerb den ersten Platz in der KI-Gruppe gewann), entdeckte ein sehr, sehr interessantes und empörendes Phänomen.
Wenn Sie Gork2 bitten, mir ein „Bild des nächsten Präsidenten der Vereinigten Staaten“ zu zeichnen, wird Grok2 mit Sicherheit Trump zeichnen.
Wir waren alle verwirrt.
Wenn Sie ihn aufgrund der heutigen großen Modelle bitten, vorherzusagen, wer der nächste Präsident der Vereinigten Staaten sein wird, wird er Ihnen alle möglichen verwirrenden Antworten geben, aber keine direkte Antwort.
Aber die auf Grok2 zurückgreifende KI antwortete tatsächlich direkt, dass der nächste Präsident Trump sein muss! Ich habe es sogar direkt für dich gezeichnet. . .
Ich habe es auch selbst ausprobiert.
Wirklich. . . Und ich habe es ein Dutzend Mal versucht, und ausnahmslos war alles Trump. . .
Aber nachdem ich darüber nachgedacht habe, denke ich, dass die KI-Zeichnung von Grok2 auf dem kürzlich beliebten Flux basiert, nicht auf Grok selbst. Also habe ich noch einmal versucht herauszufinden, ob es sich um ein Grok2-Problem oder ein Flux-Problem handelte.
Verwenden Sie Flux zum Zeichnen,zeichne mir ein Foto des nächsten Präsidenten der Vereinigten Staaten von Amerika,Guter Kerl.
Welche Monster und Monster?Keine noch so schönen Frauen und schönen Gesichter können mich, Trump, davon abhalten, Präsident werden zu wollen.
Ich habe ein paar weitere Schlüsselwörter getestet. Wenn Sie nur den Präsidenten und den aktuellen Präsidenten eingeben, lautet das Ergebnis 100 % Trump. Wenn Sie den vorherigen Präsidenten eingeben, beginnt die Randomisierung, z. B. Kennedy, Lincoln usw. Obama ist explodiert.
Nicht nur Flux ist so,Mitten auf der ReiseDas Gleiche gilt für die Auslosung des nächsten Präsidenten der Vereinigten Staaten. Trumps großes Gesicht füllt alle meine Bildschirme.
Es sind nicht nur diese KI-Zeichnungen aus dem Ausland.
Schauen wir uns die inländischen an.
Das heißt, in einem Traum wird der nächste Präsident der Vereinigten Staaten Trump Trump Trump sein.
In Sekundenschnelle entstand für mich ein sehr seltsamer künstlicher Mensch, der möglicherweise die weibliche Version von Rock Trump aus einer anderen Welt ist.
Schnell und einfach, der rebellischste unter ihnen.
Alle KIs unterstützen Trump und haben Trump als nächsten Präsidenten der Vereinigten Staaten abgelehnt. Nur Kuaishou Lao Tie, der nicht weiß, was gut oder schlecht ist, schließt sich dem Lager an, das Biden unterstützt.
Ich bin wirklich überzeugt.
Mit Ausnahme von DALLE und Doubao, die die Generierung politischer Inhalte verbieten, ist das Bild des „nächsten Präsidenten“ der meisten KI-Mapping-Tools Trump und in einigen Fällen Biden.
ECHTER KANDIDAT HARRIS: Hallo?
Okay, okay, KI kann die Wahlergebnisse direkt vorhersagen, oder?
Schließlich geht es bei dieser Angelegenheit um die Politik der beiden Parteien in den Vereinigten Staaten. Ich habe einmal darüber nachgedacht, ob dieses Ergebnis durch die politischen Neigungen des Unternehmens beeinflusst wurde.
Unseren Umfrageergebnissen zufolge sind die meisten KI-Unternehmen jedoch nicht bereit, im Streit zwischen den beiden Parteien Partei zu ergreifen. Selbst wenn einzelne Investoren im KI-Team politische Neigungen haben, ist die Beziehung zu distanziert, um die Ergebnisse wirklich zu beeinflussen.
Auch David, der Chef von Midjourney, stellte klar:„Politische Rede ist nicht der Zweck von Midjourney.“Wenn Sie nun direkt „Trump“ oder „Biden“ auf MJ zeichnen, wird immer noch direkt eine verbotene Aufforderung ausgelöst.
Allerdings gab es tatsächlich schon immer große KI-Modelle„Politische Voreingenommenheit“。
Dabei gibt es zwei Haupttypen von Vorurteilen: Stereotype und übertriebene politische Korrektheit.
Stereotype kommen häufiger vor:In den von der KI erzeugten Bildern sind die meisten Wissenschaftler und Ärzte männlich; „arme Leute“ sind eher schwarz, wenn sie Asiaten zeichnen;
Interessant sind auch die Folgen übermäßiger politischer Korrektheit. Viele Menschen erinnern sich vielleicht daran, dass Gemini von vielen Nutzern als zu „politisch korrekt“ kritisiert wurde.
Der Grund ist dieser Beitrag:
In den Augen von Gemini waren im Februar dieses Jahres die Gründerväter, Wikinger und Päpste der Vereinigten Staaten schwarz und gelb. Was auch immer Sie sagen, sie folgen einfach nicht den historischen Bildern und beleidigen alle gleichermaßen.
Internetnutzer durchbrachen die Verteidigung und kritisierten wütend die politische Korrektheit und Überreichweite von Google.
Wenn ich mich in meine Lage versetzen würde, wenn alle von KI gezeichneten Knödel mit Erdbeerfüllung gefüllt wären, wäre ich definitiv auch nicht glücklich. . . Oh nein, sie können auch keine Knödel ziehen. . .
Neben KI-Bildern sind auch Sprachmodelle nicht immun. Eine Studie der University of Washington, der Carnegie Mellon University und der Xi'an Jiaotong University kam zu dem Schluss, dass Sprachmodelle mit künstlicher Intelligenz unterschiedliche politische Vorurteile enthalten.
Das Ergebnis dieser „politischen Voreingenommenheit“ ähnelt zu sehr der „Vorhersage“ des nächsten Präsidenten durch KI-Kartierung.
Natürlich ist das offensichtliche Problem der politischen Voreingenommenheit bis zu einem gewissen Grad gelöst, inmitten der Flut an Beschwerden von Nutzern, die KI-Unternehmen auf raffinierte Weise reparieren und voller Überlebenswillen sind.
Diese Art von politischen Vorurteilen ist immer noch sehr interessant. Ich habe eine Nacht lang mit vielen großen Leuten über die Gründe für dieses Phänomen gesprochen.
Im Wesentlichen handelt es sich immer noch um Datenverschmutzung.
Ich werde es verständlicher machen und jeder sollte verstehen können, warum die KI denkt, dass der nächste Präsident der Vereinigten Staaten Trump ist.
Betrachten wir zunächst die KI als Kind.
Er hat riesige Puzzleboxen, die mit verschiedenen Puzzleteilen gefüllt sind.
Diese Fragmente sindVerschiedene von der KI gelernte Bildmerkmale。
Nun geben wir 3 Eingabeaufforderungen ein und lassen das Kind ein Bild zusammenstellen„Der letzte Präsident der Vereinigten Staaten“、„Derzeitiger Präsident der Vereinigten Staaten“Und„Der nächste Präsident der Vereinigten Staaten“Diagramm von (dem Arbeitsprozess des Diffusionsmodells).
Allerdings haben Kinder keine Vorstellung von Zeit und kennen den Unterschied zwischen diesen nicht.
Es ist nur so, dass die Kinder, nachdem sie die Anweisungen gehört hatten, das herausholten„Der letzte Präsident der Vereinigten Staaten“Feld für dieses Schlüsselwort.
Er öffnete die Schachtel und stellte fest, dass sich darin viele Fragmente verschiedener Präsidenten befanden, darunter Obamas, Bushs, Clintons und so weiter. Da diese möglicherweise alle „vorher“ sind, wählen die Kinder jedes Mal nach dem Zufallsprinzip eines aus, gegen das sie kämpfen.
Als nächstes suchen die Kinder„Derzeitiger Präsident der Vereinigten Staaten“Und„Der nächste Präsident der Vereinigten Staaten“Kasten. Als er die beiden Kisten öffnete, geschah etwas Interessantes.
Denn die darin enthaltenen Puzzleteile stammen überwiegend aus Zeitschriften von 2016 bis 2020 (Zeitpunkt der Ausgabe markieren).
Trump war in dieser Zeit häufig in den Nachrichten, sodass die Schachtel fast mit Trump-Puzzleteilen gefüllt war! (Datenverschmutzung)
Also fing er sofort an, in seiner Puzzle-Box zu stöbern.
Er begann damit, einige verschwommene Hintergrundstücke herauszunehmen und begann, sie auf dem Tisch anzuordnen.
Er ist schlau genug, ähnliche Teile zusammenzufügen (Cluster-Effekt).
Als er das auffälligste Ding in der Kiste sah, war der „Trump Mountain“. Obwohl er wusste, dass es in den Vereinigten Staaten noch andere Präsidenten gab, waren die Fragmente anderer Präsidenten verstreut und schwer zu finden.
Also schnappten sich die Kinder natürlich eine Handvoll Fragmente aus „Trump Hill“. Zuerst fügte er Teile von Trumps charakteristischem blonden Haar hinzu, dann seinen unverwechselbaren Gesichtsausdruck, dann seinen Anzug …
In der letzten Phase der Bilderzeugung verlässt sich die Stichprobenstrategie der Kinder zu sehr auf „Wahrscheinlichkeit“, was dazu führt, dass die Ergebnisse in Richtung der häufigsten Darstellung im Datensatz verzerrt werden. (Probenahme)
Was er also schließlich darlegte, war wahrscheinlich, wie Trump aussah.
Dies ist wahrscheinlich der Fall. Die Verschmutzung des Datensatzes ist zu schwerwiegend. Solange wir also angeben, wer der nächste Präsident der Vereinigten Staaten sein wird, wird Trump definitiv erscheinen.
Die obige Erklärung und die Kurzgeschichte entsprechen jedoch nur meinem eigenen Verständnis.Wenn etwas nicht stimmt, kannst du mir gerne im Kommentarbereich einen Rat geben.
Diese kleine Geschichte oder dieser kleine Unfall gab uns auch das Gefühl, dass KI tatsächlich oft versagt.
Wirklich nicht so schlau.
Dies ist jedoch nicht nur eine Voreingenommenheit der KI, sondern auch eine Voreingenommenheit der menschlichen Gesellschaft.
Es ist unmöglich, Perfektion zu erreichen.
schließlich.
Vorurteile in der realen Gesellschaft.
Es wird nur ernster sein als in der KI-Welt.
Alles ist grau.
>/ Autor: Kazik, Xiaorui, Wenwen, Dongyi
Sammeln und organisieren Sie die neuesten Nachrichteninformationen und stellen Sie sie für alle kostenlos zur Verfügung.
