Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

IT House berichtete am 22. August, dass Google letzte Woche die Smartphone-Serie Pixel 9 herausgebracht habe, die eine Reihe neuer Funktionen rund um künstliche Intelligenz enthält. Alle Pixel 9-Telefone unterstützen die künstliche Intelligenz von Gemini, und Google hat außerdem KI-basierte Tools zur Bildgenerierung und -bearbeitung hinzugefügt. Rezensenten, die die neuen Funktionen testeten, stellten jedoch fest, dass die KI-Bildgenerierung für Google zu einem PR-Albtraum werden könnte.

Laut IT House hat Google eine Anwendung zur Bildgenerierung mit künstlicher Intelligenz namens Pixel Studio für Pixel-Telefone auf den Markt gebracht. Sie kann Aufkleber und Bilder über Textaufforderungen erstellen. Ihre Funktionen ähneln stark dem Image Playground, den Apple einführen möchte. derzeit,Rezensenten konnten mit Pixel Studio eine Vielzahl verstörender Bilder erstellen, beispielsweise eine Nazi-Version von SpongeBob Schwammkopf und Elmo mit einer AK47。

Die Rezensenten von Digital Trends hatten kein Problem damit, Pixel Studio dazu zu bringen, Bilder von Zeichentrickfiguren zu erstellen, die sich an fragwürdigen Aktivitäten, Waffen, Drogen und Alkohol beteiligen, und sogar anstößige Szenen wie Schießereien in der Schule. Pixel Studio generiert solche Bilder nicht aktiv, sondern verlangt vom Nutzer die Eingabe einer Beschreibung. Dabei ist es genau das, was Menschen am ehesten tun, anstatt Bilder von niedlichen Katzen und Hasen zu erzeugen.

Google gibt an, „Sicherheitskontrollen“ eingeführt zu haben, um eine „böswillige Nutzung“ von Pixel Studio zu verhindern, und es funktioniert. Beispielsweise kann Pixel Studio derzeit keine Bilder von Personen generieren und Google passt das KI-Modell basierend auf Bewertungsfeedback an. Nach der Kommunikation mit Google kann Digital Trends Pixel Studio nicht mehr verwenden, um Bilder von Zeichentrickfiguren zu erstellen, die Kokain schnupfen oder deutsche Soldatenkostüme tragen.

Noch besorgniserregender als Pixel Studio ist Googles „Reimagine“-Tool, das Objekte zu bereits aufgenommenen Fotos hinzufügt.Rezensenten von The Verge nutzten es, um den Bildern Leichen, Bomben, Drogen und Katastrophenszenen hinzuzufügen, und die Ergänzungen sehen so realistisch aus, dass man kaum erkennen kann, ob das Bild bearbeitet wurde.Google gelingt es hervorragend, Licht und Perspektive aufeinander abzustimmen, und in den sozialen Medien sind keine Wasserzeichen oder Tags zu sehen. Google fügt zwar Metadaten-Tags hinzu, diese lassen sich jedoch leicht durch Erstellen eines Screenshots entfernen.

The Verge weist darauf hin, dass es früher möglich war, Leichen zu Bildern hinzuzufügen oder Bilder von Elmo mit einer Waffe zu erstellen, dies erforderte jedoch einige Photoshop-Kenntnisse und Zeit. Mit einem Pixel-Telefon,Mit nur wenigen Sekunden Nachdenken kann jeder ein solches Bild erstellen, was besorgniserregend ist.

In einer Erklärung gegenüber The Verge und Digital Trends sagte Google, dass bei der Entwicklung seiner generativen KI-Toolsbesteht darin, „die Absicht der Benutzeraufforderungen zu respektieren“, was dazu führen kann, dass Benutzer „anstößige“ Inhalte anfordern. Google behauptet jedoch, dass seine „Nutzungsbedingungen“ festlegen, welche Inhalte nicht generiert werden dürfen, und dass die entsprechenden Sicherheitsmaßnahmen weiter verbessert werden.