Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Quelle: Rule of Law Daily

Reporter Zhang Shoukun

„Es gibt Bilder und die Wahrheit, und alles ist von Experten bestätigt.“

Kürzlich hatte die Tianjin-Bürgerin Li Meng (Pseudonym) einen hitzigen Streit mit ihrer Mutter über einen „populärwissenschaftlichen Artikel“: Ihre Mutter war fest davon überzeugt, dass der Artikel Videos, Bilder und Forschungsergebnisse verschiedener sogenannter Ärzte und medizinischer Teams enthielt. Es könnte eine Fälschung sein; Li Meng hat den Artikel sorgfältig identifiziert und festgestellt, dass der Artikel von KI erstellt wurde, und die Plattform hat das Gerücht ebenfalls widerlegt, es muss also eine Fälschung sein.

Der Inhalt dieses Artikels bezieht sich auf Katzen – es gab ein Mädchen, das mit einer Katze spielte und an einer tödlichen Krankheit namens „Krankheit“ erkrankte. Später war ihr ganzer Mensch nicht mehr wiederzuerkennen. Gerade wegen dieses Artikels lehnte Li Mengs Mutter die Aufzucht einer Katze entschieden ab, weil sie befürchtete, dass auch sie an „Krankheiten“ leiden würde. Li Meng konnte darüber weder lachen noch weinen: „Ich hoffe wirklich, dass meine Mutter das Internet weniger nutzen kann.“

Li Mengs Mutter ist nicht die Einzige, die von KI-Gerüchten getäuscht wurde. In letzter Zeit haben öffentliche Sicherheitsbehörden vielerorts eine Reihe von Fällen im Zusammenhang mit dem Einsatz von KI-Tools zur Verbreitung von Gerüchten veröffentlicht. Beispielsweise kann die Agentur, die Falschnachrichten über die „Xi'an-Explosion“ veröffentlichte, 4.000 bis 7.000 Falschnachrichten generieren an einem Tag auf dem Höhepunkt, mit einem Tageseinkommen von 1 Mehr als 10.000 Yuan, und der eigentliche Leiter des Unternehmens, Wang Moumou, betreibt 5 solcher Institutionen mit 842 Betriebskonten.

Von Reportern der „Rule of Law Daily“ befragte Experten wiesen darauf hin, dass praktische KI-Tools die Kosten für die Herstellung von Gerüchten erheblich gesenkt und die Größenordnung und Verbreitung von Gerüchten erhöht haben. Die Verbreitung von KI-Gerüchten zeichnet sich durch niedrige Schwellenwerte, Massenproduktion und Schwierigkeiten bei der Identifizierung aus. Es ist dringend erforderlich, die Aufsicht zu verstärken und die dahinter stehende Interessenkette zu durchbrechen.

Verwendung von KI zur Herstellung falscher Nachrichten

Es verbreitete sich schnell und viele Menschen wurden getäuscht

Am 20. Juni gab die Polizei von Shanghai bekannt, dass zwei Markenvermarkter falsche Informationen wie „Erstechen Sie jemanden in der U-Bahn-Station Zhongshan Park“ erfunden haben, um an Popularität zu gewinnen. Die entsprechenden Mitarbeiter wurden von der Polizei festgenommen. In dem Bericht fiel ein Detail auf: Ein Fälscher nutzte KI-Software zur Generierung von Videotechnik und fabrizierte Falschinformationen, etwa falsche Videos von U-Bahn-Angriffen.

Der Reporter fand heraus, dass der Einsatz von KI zur Verbreitung von Gerüchten in den letzten Jahren häufig vorkam und sich sehr schnell verbreitete. Einige Gerüchte haben erhebliche soziale Panik und Schaden verursacht.

Letztes Jahr fabrizierte eine Bande im Fall eines vermissten Mädchens in Shanghai in böswilliger Absicht Gerüchte wie „Der Vater des Mädchens ist ihr Stiefvater“ und „Das Mädchen wurde nach Wenzhou gebracht“ in einer „Clickbait“- und „Shock Group“-Manier. Die Bande nutzte KI-Tools und andere Tools, um über eine Matrix von 114 Konten 268 Artikel in 6 Tagen zu veröffentlichen, wobei viele Artikel mehr als 1 Million Klicks hatten.

Das Büro für Cybersicherheit des Ministeriums für öffentliche Sicherheit hat kürzlich einen Fall angekündigt. Seit Dezember 2023 wird im Internet häufig eine Information über „heißes Wasser, das im Bezirk Huyi der Stadt Xi'an aus dem Boden sprudelt“ verbreitet, mit Gerüchten wie „heißes Wasser, das aufgrund eines Erdbebens aus dem Boden sprudelt“. " und "wegen des Bruchs unterirdischer Wärmeleitungen". . Nach der Untersuchung wurden die relevanten Gerüchte durch KI-Manuskriptbereinigung erzeugt.

Kürzlich „brach in einem Wohnhochhaus in Jinan ein Feuer aus, und viele Menschen sprangen, um zu fliehen“ und „ein Morgengymnastik-Mann entdeckte eine lebende Person in einem Grab in der Nähe des Heldenbergs in Jinan“ … Diese unerhörten „Blockbuster“. Nachrichten“ wurden im Internet weit verbreitet und erregten große Aufmerksamkeit. Die Cyberspace-Verwaltung des Jinan Municipal Party Committee widerlegte die Gerüchte sofort über die Jinan Internet Joint Rumor Refutation Platform, aber viele Menschen waren immer noch verwirrt über den Anschein von „Bildern und Wahrheit“.

Ein im April dieses Jahres vom New Media Research Center der School of Journalism and Communication der Tsinghua-Universität veröffentlichter Forschungsbericht zeigte, dass unter den KI-Gerüchten in den letzten zwei Jahren Wirtschafts- und Unternehmensgerüchte den höchsten Anteil ausmachten und 43,71 % erreichten Im vergangenen Jahr, Wirtschafts- und Unternehmensgerüchte Die Wachstumsrate der KI-Gerüchte liegt bei bis zu 99,91 %, und Branchen wie Catering zum Mitnehmen und Expresszustellung sind am stärksten von KI-Gerüchten betroffen.

Wie einfach ist es also, mithilfe von KI eine Fake News zu erstellen?

Der Reporter testete verschiedene gängige Software für künstliche Intelligenz auf dem Markt und stellte fest, dass unter Angabe der Schlüsselwörter in wenigen Sekunden sofort ein „Nachrichtenbericht“ erstellt werden kann, der die Details des Vorfalls, Kommentare und Ansichten enthält -Up-Aktionen usw. Fügen Sie Zeit und Ort, Bilder und Hintergrundmusik hinzu, und schon ist ein Nachrichtenbericht fertig, der echt und gefälscht aussieht.

Der Reporter stellte fest, dass viele KI-generierte Gerüchte mit Inhalten wie „Den Berichten zufolge führen die zuständigen Abteilungen eingehende Untersuchungen zur Unfallursache durch und ergreifen Maßnahmen zur Durchführung von Notfallreparaturen“ und „Erinnerung an den General“ vermischt waren „Die Öffentlichkeit muss auf Sicherheit im täglichen Leben achten.“ Menschen haben oft Schwierigkeiten, Authentizität zu erkennen, nachdem sie online veröffentlicht wurden.

Zusätzlich zu KI-Nachrichten, populärwissenschaftlichen Artikeln, Bildern, Synchronisationsvideos und nachgeahmten Stimmen können diese alle mit KI generiert werden. Nach manueller Feinabstimmung und Einbindung einiger realer Inhalte wird es schwierig, sie zu unterscheiden.

Zeng Chi, ein Forscher am Zentrum für Journalismus und soziale Entwicklung an der Renmin-Universität von China, sagte, dass die verbindende Natur der „generativen KI“ eine starke Affinität zu Gerüchten habe. Beide seien „Dinge aus dem Nichts erschaffen“ – Informationen, die aussehen echt und vernünftig. KI hat die Verbreitung von Gerüchten einfacher und „wissenschaftlicher“ gemacht. KI fasst Muster zusammen und verbindet Handlungsstränge auf der Grundlage aktueller Ereignisse und kann schnell Gerüchte erzeugen, die den „Erwartungen“ der Menschen entsprechen und sich schneller verbreiten.

„Online-Plattformen können KI-Technologie verwenden, um das Zusammenfügen von Bildern und Videos umgekehrt zu erkennen, aber es ist schwierig, den Inhalt zu zensieren. Derzeit haben die Leute nicht die Möglichkeit, Gerüchte vollständig abzufangen, ganz zu schweigen davon, dass es viele unbestätigte oder nicht überprüfte Informationen gibt.“ nicht überprüfbare und mehrdeutige Informationen“, sagte Zeng Chi.

Fälschungen, um Traffic zu generieren

Verdacht auf mehrere Straftaten

Die „Gerüchte verbreitende Effizienz“ mancher KI-Software ist erstaunlich. Beispielsweise gibt es gefälschte Software, die 190.000 Artikel pro Tag generieren kann.

Nach Angaben der Polizei von Xi'an, die die Software beschlagnahmt hatte, extrahierte sie die von der Software sieben Tage lang gespeicherten Artikel und stellte fest, dass die Gesamtzahl 1 Million überstieg und aktuelle Nachrichten, gesellschaftliche Topthemen, das gesellschaftliche Leben und andere Aspekte abdeckte. Kontobenutzer veröffentlichen diese „Nachrichten“ auf organisierte Weise auf relevanten Plattformen und nutzen dann das Traffic-Belohnungssystem der Plattform, um Gewinne zu erzielen. Derzeit sind die in den Fall verwickelten Konten von der Plattform gesperrt und die entsprechende Software und Server wurden ebenfalls abgeschaltet. Die Polizei untersucht den Fall noch.

Hinter vielen Vorfällen, bei denen Gerüchte über künstliche Intelligenz verbreitet werden, geht es den Gerüchtemachern vor allem darum, den Datenverkehr umzuleiten und Gewinne zu erzielen.

„Verwenden Sie KI, um populäre Werbetexte in Massen zu produzieren, und plötzlich werden Sie reich.“ „Lassen Sie mir helfen, Werbeartikel zu schreiben, und ich kann 3 Artikel in 1 Minute fertigstellen, KI schreibt automatisch Artikel und.“ Mit einer einzigen Nummer können problemlos 500+ pro Tag betrieben werden, Anfänger können problemlos loslegen“... Die Suche des Reporters ergab, dass auf vielen sozialen Plattformen ähnliche Artikel zum Thema „Reich werden“ im Umlauf sind und viele Blogger darauf drängen sie im Kommentarbereich.

Im Februar dieses Jahres entdeckte das Shanghai Public Security Bureau, dass auf einer E-Commerce-Plattform ein kurzes Video eines Künstlers erschien, der „unglücklicherweise und mit Bedauern gestorben“ war und zahlreiche Likes und Reposts erhielt.

Nach einer Untersuchung stellte sich heraus, dass der Inhalt des Videos gefälscht war. Nachdem der Videoverleger zu dem Fall gelangt war, gestand er, dass er auf einer E-Commerce-Plattform einen Onlineshop für lokale Spezialitäten betrieben habe. Aufgrund schlechter Umsätze erstellte er auffällige Fake News, um Besucher auf sein Online-Shop-Konto zu locken. Er weiß nicht, wie man Videos bearbeitet, deshalb nutzt er KI-Technologie, um Texte und Videos zu generieren.

Zhang Qiang, Partner bei der Anwaltskanzlei Beijing Yinghe, sagte Reportern, dass die Verwendung von KI zur Erfindung von Online-Gerüchten, insbesondere zur Erfindung und absichtlichen Verbreitung falscher Gefahren, Epidemien, Katastrophen und Polizeiinformationen, unter Verdacht stehen könnte, falsche Informationen zu fabrizieren und absichtlich zu verbreiten nach dem Strafrecht. Wenn es den Ruf einer Einzelperson oder eines Unternehmens beeinträchtigt, besteht der Verdacht einer kriminellen Verleumdung und einer Schädigung der Glaubwürdigkeit und des Rufs des Unternehmens. Wenn es sich auf den Handel mit Aktien, Wertpapieren und Terminkontrakten auswirkt und den Handelsmarkt stört, besteht strafrechtlich der Verdacht, dass es falsche Informationen über den Handel mit Wertpapieren und Terminkontrakten fabriziert und verbreitet.

Verbessern Sie weiterhin den Mechanismus zur Widerlegung von Gerüchten

Kennzeichnen Sie synthetische Inhalte deutlich

Um KI-Betrug und -Chaos unter Kontrolle zu bringen und die Governance des Online-Ökosystems zu vertiefen, haben relevante Abteilungen und Plattformen in den letzten Jahren eine Reihe von Richtlinien und Maßnahmen eingeführt.

Bereits im Jahr 2022 haben die Cyberspace Administration of China und andere die „Regulations on the Management of Deep Synthesis of Internet Information Services“ erlassen, die vorschreiben, dass keine Organisation oder Einzelperson Deep Synthesis-Dienste nutzen darf, um Informationen zu produzieren, zu kopieren, zu veröffentlichen oder zu verbreiten Durch Gesetze und Verwaltungsvorschriften verbotene Aktivitäten, die durch Gesetze und Verwaltungsvorschriften verboten sind, wie etwa die Gefährdung der nationalen Sicherheit und Interessen, die Schädigung des Ansehens des Landes, die Verletzung sozialer und öffentlicher Interessen, die Störung der wirtschaftlichen und sozialen Ordnung oder die Verletzung legitimer Rechte und Interessen anderer usw. Anbietern und Nutzern von Deep-Synthesis-Diensten ist es nicht gestattet, Deep-Synthesis-Dienste zum Produzieren, Kopieren, Veröffentlichen oder Verbreiten falscher Nachrichten zu nutzen.

Im April dieses Jahres veröffentlichte das Sekretariat der Zentralkommission für Cyberspace-Angelegenheiten die „Mitteilung zur Durchführung der Sondermaßnahme „Bereinigung und Berichtigung des unbegrenzten Datenverkehrs durch ‚Selbstmedien‘‘“, die eine stärkere Kennzeichnung und Anzeige von Informationsquellen fordert . Wenn Informationen mithilfe von Technologien wie KI generiert werden, müssen diese eindeutig als durch Technologie generiert gekennzeichnet werden. Alle Inhalte, die Fiktion, Schlussfolgerungen usw. enthalten, müssen eindeutig als Fiktion gekennzeichnet sein.

Bei Inhalten, bei denen der Verdacht besteht, dass sie KI-Technologie nutzen, werden einige Plattformen unten eine Erinnerung veröffentlichen, die darauf hinweist: „Es besteht der Verdacht, dass der Inhalt von KI generiert wurde. Bitte überprüfen Sie ihn sorgfältig.“ Inhalte, die Fiktion, Schlussfolgerungen usw. enthalten, werden deutlich mit der Kennzeichnung „Fiktion“ versehen ., und ergreifen Sie „Maßnahmen“ bei der Sperrung illegaler Konten und anderen Maßnahmen. Einige große Modellentwickler gaben außerdem an, dass sie den durch große Modelle generierten Inhalt über Hintergrundeinstellungen mit einem Wasserzeichen versehen werden, um die Benutzer zu informieren.

Nach Ansicht von Zhang Qiang fehlt es den Menschen noch immer an Verständnis für generative KI und an Erfahrung im Umgang damit. In diesem Fall ist es sehr wichtig, die Menschen durch die Medien daran zu erinnern, auf die Überprüfung von KI-Informationen zu achten. Gleichzeitig ist es notwendig, die Reaktionsbemühungen auf der Ebene der Strafverfolgungsbehörden zu verstärken und Verhaltensweisen wie Gerüchte und Betrug durch KI umgehend zu untersuchen und zu korrigieren.

Zheng Ning, Direktor der Rechtsabteilung der School of Cultural Industry Management der Communication University of China, ist der Ansicht, dass der bestehende Mechanismus zur Widerlegung von Gerüchten weiter verbessert werden sollte. Sobald eine Information als Gerücht identifiziert wird, sollte sie sofort markiert werden Wir drängen erneut auf Benutzer, die das Gerücht durchgesehen haben, um Tipps zu geben, um zu verhindern, dass sich dieses Gerücht weiter verbreitet und größeren Schaden anrichtet.

Es ist erwähnenswert, dass manche Menschen möglicherweise kein subjektives Bewusstsein für die Verbreitung von Gerüchten haben, sondern lediglich KI-synthetisierte Inhalte im Internet veröffentlichen. Dies führt dazu, dass sie in großer Zahl erneut veröffentlicht werden und viele Menschen daran glauben, was zu Schaden führt.

In dieser Hinsicht glaubt Zeng, dass der einfachste Weg, dies zu verhindern, darin besteht, Vorschriften durch relevante Abteilungen oder Plattformen zu formulieren, und alle KI-synthetisierten Inhalte müssen mit „Dieses Bild/Video ist KI-synthetisiert“ gekennzeichnet werden.