Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Nachrichtenagentur Xinhua, Peking, 24. Juli. Am 24. Juli veröffentlichte der „Xinhua Daily Telegraph“ einen Kommentar mit dem Titel „Um den Einsatz von KI zur Verbreitung von Gerüchten zu kontrollieren, könnten wir genauso gut „KI zur Bekämpfung von KI einsetzen.“

In jüngster Zeit haben öffentliche Sicherheitsbehörden vielerorts eine Reihe ähnlicher Fälle bekannt gegeben, in denen es um den Einsatz von KI-Tools zur Verbreitung von Gerüchten geht. Am 20. Juni gab das städtische Schienen- und Buskorps des Shanghai Public Security Bureau eine Warnung heraus: Um Aufmerksamkeit zu erregen, verwendeten einige Vermarkter KI-Software, um falsche Videos von „Shanghai-U-Bahn-Angriffen“ zu erstellen und diese online zu veröffentlichen, was zu einem negativen sozialen Aufsehen führte Auswirkungen. Darüber hinaus wurden sensationelle und weit verbreitete „Nachrichten“ wie „eine plötzliche Explosion in Xi'an“ und „in einem Wohnhochhaus in Jinan brach ein Feuer aus, und viele Menschen sprangen auf die Flucht“ als Gerüchte bestätigt von KI-Software zusammengestellt. Die Hauptmotivation für die Verbreitung von Gerüchten besteht darin, Klicks und Leseprämien von Internet-Content-Plattformen an die Urheber zu erhalten und Traffic für den Betrieb von E-Commerce-Plattformen zu gewinnen. Schließlich geht es immer noch um Geld.

Angesichts der ständig iterativen generativen KI-Technologie werden „Sehen ist Glauben“ und „Bilder und Wahrheit“ in Frage gestellt. Den relevanten Fällen zufolge können die Gerüchte, die Kriminelle mithilfe der neuesten KI-Technologie verbreiten, „falsch und wahr“ sein und sind äußerst irreführend. Künstliche Intelligenz kann auch personalisierte Gerüchte basierend auf den Merkmalen des Kommunikationskanals generieren und diese schnell und präzise an bestimmte Zielgruppen weitergeben. Dadurch kommt es häufig zu Diffamierungen, Informationslecks und persönlichen Sicherheitsrisiken für Einzelpersonen oder bestimmte Gruppen.

Für das Online-Gerüchtmanagement besteht die größere Herausforderung darin, dass praktische KI-Tools die Kosten für die Verbreitung von Gerüchten erheblich reduziert und die Größenordnung und Verbreitungskraft von Gerüchten erhöht haben. Gerüchte weisen die Merkmale einer niedrigen Schwelle, einer Massenproduktion und einer Schwierigkeit bei der Identifizierung auf. Beim Durchsuchen des Internets gibt es endlose Werbeartikel wie „Bild- und Texterstellung, KI schreibt automatisch Artikel, eine einzelne Nummer kann leicht mehr als 500 pro Tag produzieren, und mehrere Nummern können bedient werden, und Anfänger können problemlos loslegen“ und „Nein.“ „Müssen Manuskripte waschen, kann KI 100 Originalartikel pro Tag produzieren“, was Aufmerksamkeit erregt. Die Beteiligung von Personen mit Hintergedanken hat auch zu einer beschleunigten Bildung grauer Industrieketten geführt. Gleichzeitig müssen relevante Institutionen und Einzelpersonen Arbeitskräfte und materielle Ressourcen investieren, um Informationen zu überprüfen, bei denen es schwierig ist, sie von falschen zu unterscheiden, was bei einigen Gerüchten nicht nur zu psychischen Schäden beim Opfer führt verursachen auch erhebliche Verluste für soziale und wirtschaftliche Abläufe. All dies erfordert, dass wir den „zweischneidigen Schwert“-Eigenschaften der KI-Technologie große Bedeutung beimessen, entschlossene Maßnahmen ergreifen, eine hohe Druckhaltung beibehalten und illegales Verhalten weitestgehend eindämmen.

Wir müssen wirksamere Mittel einsetzen, um Krankheiten zu beseitigen und schädliche Auswirkungen zu beseitigen. Einige Internet-Content-Plattformen verfolgen „Traffic First“ und ermöglichen die Verbreitung von Fake News, „Clickbait“ und kontroversen Themen, was einen schlechten Boden für die Verbreitung von KI-Gerüchten bietet. Wir sollten uns nüchtern darüber im Klaren sein, dass der Verkehr, der durch die Verbreitung falscher Informationen entsteht, nicht lange anhalten kann und dass es niemals ein Geschäft auf der Welt geben wird, das kostenlos und profitabel ist. Plattformen sollten zunächst die Hauptverantwortung konsolidieren, die Übertragungs- und Interessenkette falscher Informationen, einschließlich KI-Gerüchten, schnell identifizieren und unterbrechen, die Verkehrsverteilung und den Mechanismus zur Aufteilung der Einnahmen im Zusammenhang mit KI-Inhalten weiter optimieren und den Gewinnspielraum für diejenigen mit Hintergedanken verringern Motive, Gerüchte zu produzieren. Die zuständigen Abteilungen müssen außerdem ihre Schwerter im Einklang mit dem Gesetz einsetzen, starke Medikamente zur Beseitigung der Krankheit einsetzen, hart gegen Einzelpersonen und Institutionen vorgehen, die falsche Nachrichten verbreiten, und eine Hochspannungsleitung im Cyberspace errichten, um die Verbreitung von KI-Gerüchten zu verhindern.

Gerüchte schneller „übertreffen“. Angesichts der präzisen Verbreitung und intelligenten Verbreitung von KI-Gerüchten könnten wir genauso gut darüber nachdenken, „KI zur Bekämpfung von KI einzusetzen“. In den letzten Jahren haben einige Internet-Content-Plattformen Mechanismen eingerichtet, um Gerüchte zu widerlegen, und die zuständigen Abteilungen haben sich außerdem koordiniert, um Untersuchungs- und Bearbeitungsergebnisse schnell zu veröffentlichen und auf soziale Bedenken zu reagieren. In Zukunft sollten Technologien und Mechanismen wie Algorithmusempfehlung, tägliche Überwachung und Hinweissammlung weiter optimiert und verbessert werden, um Informationen, die Gerüchte widerlegen, schneller und genauer voranzutreiben, sodass mehr wahre und wertvolle Informationen den Gerüchten „voreilen“ können.

Es ist notwendig, die Rechtsstaatlichkeit zu verbessern und die Technologie dazu zu bringen, Gutes zu tun. Wie sich künstliche Intelligenz in Richtung menschenorientierter und technologieorientierter Entwicklung entwickeln lässt, ist Aufsicht untrennbar mit der Gewährleistung der Rechtsstaatlichkeit verbunden. Derzeit hat mein Land relevante Gesetze erlassen und umgesetzt, wie die „Verordnungen zur Verwaltung der Tiefensynthese von Internet-Informationsdiensten“ und die „Vorläufigen Maßnahmen für die Verwaltung generativer künstlicher Intelligenzdienste“. Es gibt jedoch noch Raum für weiteres Verfeinerung der Justizverwaltung im Bereich KI. Nur durch die Festlegung des Grundgedankens für die Entwicklung und Nutzung von KI durch Gesetzgebung und die Klärung der Rechte und Pflichten aller Parteien können wir Risiken von der Quelle verhindern und die passive Situation „Verschmutzung zuerst und Governance später“ vermeiden.