Nachricht

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Neuer Weisheitsbericht

Herausgeber: Tao Zi Qiao Yang

[Einführung in die neue Weisheit]KI-Agenten sind über das gesamte Netzwerk verteilt. Wie lässt sich künftig eine Täuschung verhindern? Wie schützt man die Privatsphäre? OpenAI, Microsoft, MIT und weitere 25 Institutionen haben gemeinsam ein „Persönlichkeitszertifikat“ vorgeschlagen, das beweisen kann, dass Sie eine echte Person sind, ohne persönliche Informationen preiszugeben.

Im letzten halben Monat wurde das gesamte Internet von einem „KI-Whistleblower“ von OpenAI getäuscht.

Jeder muss mit dem @iruletheworldmo-Account von „Brother Strawberry“ vertraut sein und wird von Zeit zu Zeit auf seine brisanten Beiträge stoßen.

Bis zu diesem Mittwoch hatte niemand auf das von ihm vorhergesagte GPT-4o-Großmodell gewartet. Stattdessen enthüllte der Gründer des KI-Start-ups MultiOn seine Identität –

„Strawberry Brother“ ist ein KI-Agent.

Eine Zeit lang führten viele Plattformen im Internet Verbote für Reposts im Zusammenhang mit „Brother Strawberry“ ein.

Im Reddit-Subreddit r/singularity wurde es ganz oben angepinnt und allen Mitgliedern ist es untersagt, entsprechende Inhalte zu erwähnen.

Einige Leute haben @iruletheworldmo sogar direkt „blockiert“.

Auch Jimmy Apples, der echte OpenAI-Whistleblower, glaubte, dass die Aussage des KI-Agenten wahr sei.

Anschließend startete der KI-Agent auch eine Online-Umfrage, ob ich den Turing-Test bestanden habe. Unerwarteterweise gaben mehr als die Hälfte der Leute eine positive Antwort.

Und das ist nur eine KI.

Xiao Zha sagte einmal: „In Zukunft wird jeder einen KI-Assistenten haben, und bald werden Milliarden von KI-Agenten in unserem Namen im Internet surfen.“

Wenn dies eines Tages in der Zukunft passiert, wie können die Leute dann auf den ersten Blick erkennen, ob es sich bei einem Social-Media-Konto um einen Bot handelt? Wie kann ich meine Identität als „reale Person“ nachweisen, ohne persönliche Daten anzugeben?

Wissenschaftler von 25 Institutionen, darunter OpenAI, Microsoft, MIT und UCB, haben gemeinsam eine Verifizierungstechnologie vorgeschlagen – „Personhodd Credentials (PHC)“.

PHC kann die Privatsphäre der Benutzer schützen und gleichzeitig im Internet beweisen, dass „Sie Sie selbst“ sind und dass Sie ein echter Mensch und keine KI sind.

Papieradresse: https://arxiv.org/pdf/2408.07892

Der leitende Wissenschaftler und Stabschef von Microsoft sagte: „Die Etablierung der menschlichen Identität online bei gleichzeitiger Wahrung der Privatsphäre ist eine der entscheidenden Herausforderungen der KI-Ära.“

Ein anderer sagte, die Studie sei zeitgemäß und rege zum Nachdenken an.

Warum sagst du das?

Die Daten von 3 Milliarden Menschen wurden durchgesickert und es gibt keine Lösung für den Schutz der Privatsphäre?

Zusätzlich zum Fall „Strawberry Brother“ am Anfang sind kürzlich die Daten von fast 3 Milliarden Menschen durchgesickert und haben die gesamten Vereinigten Staaten erfasst, was als einer der größten Datenvorfälle in der Geschichte bezeichnet werden kann.

Dazu gehören detaillierte persönliche Daten der Bewohner, wie Name, E-Mail, Adresse, Telefonnummer, Sozialversicherungsnummer und E-Mail-Adresse.

Noch erschreckender ist, dass die Adressdaten 30 Jahre zurückverfolgt werden können und sogar die Informationen von Verwandten, die vor mehr als 20 Jahren verstorben sind, ausgegraben werden können.

Daher ist Anonymität seit jeher eine Maßnahme, die viele datenschutzbewusste Menschen ergreifen, um sich zu schützen.

Aber manchmal müssen Sie für einige wichtige Überprüfungen Ihre persönlichen Daten preisgeben.

Gegenwärtig entstehen immer leistungsfähigere KIs, und die Methoden, mit denen Kriminelle betrügen und falsche Informationen verbreiten, sind subtiler und können leicht auf ein größeres Verbreitungsmaßstab ausgeweitet werden.

Darüber hinaus wurden der Schwellenwert und die Kosten für KI gesenkt, was den Zugang erleichtert.

Da KI-generierte Bilder/Videos/Stimmen immer realistischer werden, beispielsweise in einer Dating-App, wie kann man dann sicher sein, dass die andere Person eine echte Person ist?

Derzeitige Lösungen wie Verifizierungscodes sind eindeutig unzureichend.

Dies bedeutet auch, dass die traditionelle Mensch-Maschine-Verifizierungsmethode versagt.

Denn mit der Weiterentwicklung der KI in Bereichen wie der Bilderkennung wird diese Methode immer unzuverlässiger.

Jetzt ist es äußerst wichtig, ein Gleichgewicht zu finden, das KI-Täuschungen wirksam verhindern kann, ohne die Privatsphäre der Benutzer und die Inklusivität des Internets übermäßig zu opfern.

Dies ist auch der Effekt, den Forscher von OpenAI, Microsoft und anderen Institutionen durch Forschung in praktischen Anwendungen sehen wollen.

Beweisen Sie, dass Sie ein Mensch und keine KI sind

Wie der Forscher Steven Adler sagte, kann das Datenschutztool „Personality Credential“ (PHC) zwar nachweisen, dass Sie eine Person sind, aber es verrät nicht, „wer Sie sind“.

Konkret werden „Persönlichkeitsnachweise“ durch zwei Elemente gestützt, die KI nicht fälschen kann:

„Reale Authentifizierung“ und „sichere Verschlüsselungstechnologie“.

Mit anderen Worten: Egal wie gut die KI wird, sie kann sich diesen beiden Punkten nicht entziehen.

Kurz gesagt handelt es sich bei PHC um ein digitales Zertifikat, mit dem Benutzer gegenüber Online-Diensten nachweisen können, dass sie eine echte Person und keine KI sind, ohne persönliche Informationen preisgeben zu müssen.

Ein solches Zertifikat kann von einer vertrauenswürdigen Organisation, beispielsweise der Regierung, ausgestellt werden.

Und gemäß der Definition des Autors kann PHC ein lokales oder globales System sein und basiert nicht unbedingt auf biometrischer Technologie.

KI-Agenten überschwemmen das gesamte Netzwerk, die neueste Strategie zur Betrugsprävention

Die beiden Co-Autoren des Papiers, Nouran Soliman und Tobin South, sind zwei Doktoranden am MIT. Sie stellten die Technologie kürzlich in einem Interview mit MIT News kurz vor und diskutierten ihre Notwendigkeit, Risiken und wie man sie sicher und sicher einsetzen kann Fairer Weg. PHC anwenden.

Die Notwendigkeit eines „Persönlichkeitszertifikats“

Wenn es um KI geht, konzentrieren sich viele öffentliche Diskussionen zwar auf Chatbots wie ChatGPT, doch die Fähigkeiten künstlicher Intelligenz gehen offensichtlich darüber hinaus.

Das KI-Engagement im Internet weist zwei Merkmale auf: Ununterscheidbarkeit und Skalierbarkeit, was das weitere Wachstum der KI-gesteuerten Täuschung fördert.

KI kann Accounts in sozialen Netzwerken erstellen, falsche Inhalte veröffentlichen, sich als Menschen ausgeben oder bestimmte Inhalte durch Algorithmen massiv verstärken oder sogar groß angelegte Angriffe durchführen, was viele Risiken birgt.

Dies wird unsere Erfahrung beim Surfen in sozialen Medien verändern und es wird immer schwieriger, komplexe KI von Menschen zu unterscheiden, ähnlich dem Problem der „digitalen Doppelgänger“ ohne Einwilligung.

„Persönlichkeitsnachweise“ bieten eine mögliche Lösung, beispielsweise zum Filtern von Online-Inhalten und zur Bestimmung des Vertrauensniveaus beim Empfang von Informationen.

Was ist ein Persönlichkeitszertifikat? Wie sorgt man für Sicherheit?

Wie bereits erwähnt, kann ein „Personenzertifikat“ beweisen, dass Sie ein Mensch sind, ohne Informationen über Ihre Identität preiszugeben.

Der Autor sagte, dass KI, egal wie fortschrittlich sie sei, zwei Dinge nicht tun könne, die Menschen tun könnten: Offline-Dokumente aus der realen Welt abrufen und fortschrittliche Verschlüsselungssysteme fälschen oder knacken.

„Persönlichkeitsnachweise“ kombinieren also diese beiden Ideen – Sicherheit durch Kryptographie und die Tatsache, dass Menschen immer noch über einige Fähigkeiten verfügen, die KI nicht hat, um wirklich zu beweisen, dass Sie ein Mensch sind.

Um ein „Persönlichkeitszertifikat“ zu erhalten, müssen Benutzer eine Beziehung zur Regierung haben, beispielsweise einen Steuerausweis oder einen Führerschein, und es muss eine Offline-Teilnahme erfolgen.

Mithilfe der Datenschutztechnologie können Benutzer diese Tatsache nachweisen, ohne vertrauliche Informationen über ihre Identität preiszugeben.

Die Implementierung von „Persönlichkeitsnachweisen“ wird relativ einfach sein. Sie basiert auf Infrastruktur- und Sicherheitstechnologien, die es bereits seit Jahrzehnten gibt, beispielsweise der Verwendung von Identifikatoren wie E-Mail-Konten für die Anmeldung bei Online-Diensten. PHC kann diese bestehenden Methoden ergänzen.

Allerdings sollte die Verwendung von „Persönlichkeitszertifikaten“ durch Benutzer optional und nicht obligatorisch sein, und Dienstanbieter können den Benutzern die Entscheidung überlassen, ob sie diese verwenden möchten.

Optional zu sein bedeutet, dass wir Benutzern noch nicht erlauben können, online nur mit echten, verifizierten Menschen zu interagieren und die Teilnahme von KI im Internet vollständig auszuschließen.

Wenn Sie jedoch in Szenarien wie Online-Shopping oder Transaktionsverhandlungen sicherstellen möchten, dass es sich bei der anderen Partei um eine menschliche Einheit handelt, können „Persönlichkeitszertifikate“ nützlich sein.

Was sind die Risiken? Wie können diese Risiken reduziert werden?

Eines der Risiken ergibt sich aus der Art und Weise, wie es umgesetzt wird. Wenn ein bestimmtes Unternehmen der einzige Aussteller eines „Persönlichkeitszertifikats“ ist oder wenn das System so konzipiert ist, dass die gesamte Macht einem Unternehmen übertragen wird, könnte dies Bedenken hinsichtlich einer zu starken Machtkonzentration aufkommen lassen.

Wenn Sie sich in einem schwierigen oder gefährlichen gesellschaftspolitischen Umfeld befinden, kann es beängstigend sein, an einen Offline-Standort gehen zu müssen, um ein Charakterzertifikat zu erhalten, und Menschen davon abhalten, Informationen online weiterzugeben.

Eine mögliche Lösung besteht darin, mehrere Aussteller von „Persönlichkeitszertifikaten“ einzurichten.

Unser Papier möchte Regierungen, politische Entscheidungsträger, Führungskräfte und Forscher dazu ermutigen, mehr Ressourcen in verschiedene Umsetzungsrichtungen zu investieren und die weitreichenderen Auswirkungen dieser Technologie auf Gemeinschaften zu untersuchen, um sicherzustellen, dass die richtigen Richtlinien und Regeln eingeführt werden.

KI entwickelt sich sehr schnell, viel schneller, als Regierungen sich anpassen können. Daher sollten Regierungen und große Unternehmen jetzt darüber nachdenken, digitale Systeme so anzupassen, dass sie beweisen können, dass ein Benutzer ein Mensch ist, und gleichzeitig Privatsphäre und Sicherheit schützen, damit wir uns auf eine Zukunft mit fortschrittlicherer KI vorbereiten können.

Technische Einführung

Wie wird die Technologie des „Persönlichkeitszertifikats“ umgesetzt? Dieses 63-seitige Papier gibt uns eine sehr detaillierte Antwort.

Papieradresse: https://arxiv.org/pdf/2408.07892

Zunächst werden die „Persönlichkeitsnachweise“ digital auf dem Gerät des Inhabers gespeichert. Um Glaubwürdigkeit und Privatsphäre zu gewährleisten, muss das PHC-System zwei Voraussetzungen erfüllen:

- Jede Person kann nur ein „Persönlichkeitszertifikat“ besitzen und muss regelmäßig erneut überprüft werden, um einen Diebstahl zu verhindern.

- Benutzer, die PHC besitzen, interagieren anonym mit Dienstanbietern. Selbst wenn PHC-Herausgeber und Dienstanbieter zusammenarbeiten, können sie die digitalen Aktivitäten der Benutzer nicht verfolgen, geschweige denn die Aktivitäten der Benutzer auf verschiedenen Plattformen verknüpfen.

Der Registrierungs- und Nutzungsprozess des PHC-Systems ist in Abbildung 3 dargestellt:

Auf Anfrage muss der Nutzer dem Herausgeber lediglich die minimal notwendigen Informationen zur Verfügung stellen. Der Aussteller ist dafür verantwortlich, zu überprüfen, ob der Benutzer ein Mensch ist und sich nicht zuvor bei einem PHC registriert hat. Darüber hinaus hat der Emittent das Recht, den PHC zurückzuziehen oder wieder einzusetzen.

Wenn Benutzer digitale Dienste von Drittanbietern nutzen, können sie PHC bereitstellen und einen „Zero-Knowledge-Proof“ durchlaufen, um die Identitätsüberprüfung abzuschließen.

Zusätzlich zum PHC kann der Diensteanbieter keine weiteren zusätzlichen Informationen erhalten. Jede Bescheinigung ist auf eine bestimmte Anwendung beschränkt, sodass unterschiedliche Plattformen nicht über PHC mit demselben Benutzer verknüpft werden können.

Das Papier schlägt vor, dass die Gestaltung mehrerer Emittenten für das PHC-System ein idealer Implementierungsplan ist. Benutzer können aus mehreren Ausstellern wählen, um sich für PHC zu registrieren, aber jeder Aussteller kann nur ein Zertifikat erhalten, was groß angelegten Betrug reduziert und gleichzeitig die Privatsphäre der Benutzer gewährleistet.

Dieses PHC-System hat drei erwartete Vorteile:

- Reduzieren Sie den Einfluss von „Marionetten“-Benutzern und erreichen Sie einen groß angelegten echten Input und die Beteiligung echter Menschen im Internet

- Eindämmung von Bot-Angriffen

- Lassen Sie den KI-Assistenten wirklich zu einem Vertreter vertrauenswürdiger Benutzer werden, anstatt von böswilligen Benutzern manipuliert zu werden

Damit PHC im wirklichen Leben auf faire und sichere Weise umgesetzt werden kann, müssen gleichzeitig die folgenden vier Herausforderungen bewältigt werden:

• fairer Zugang

Eine häufige PHC-Überprüfung kann zu Reibung und Frustration bei der Verwendung führen und sich auf Benutzer auswirken, die mit der Technologie nicht vertraut sind, insbesondere auf ältere Menschen. Es muss auch sichergestellt werden, dass Nutzer ohne PHC weiterhin digitale Dienste nutzen können.

• freie Meinungsäußerung

Benutzer befürchten möglicherweise, dass PHC ihre digitalen Aktivitäten offline mit ihrer tatsächlichen Identität verknüpft und so ihre Bereitschaft verringert, ihre wahre Meinung online zu äußern.

• Leistungskontrolle

Eine große Herausforderung für das PHC-Ökosystem ist die Konzentration der Macht auf einige wenige Institutionen, insbesondere PHC-Emittenten und große Dienstleister, deren Entscheidungen hinsichtlich der PHC-Nutzung erhebliche Auswirkungen haben werden.

• Robustheit gegenüber Angriffen und Fehlern

Wie jedes digitale System sind PHC-Systeme anfällig für Angriffe und Ausnutzung durch mehrere Parteien, beispielsweise Zertifikatsaussteller, Dienstanbieter und böswillige Benutzer. Erwägen Sie die Nutzung früherer Best Practices im Bereich Cybersicherheit, wie z. B. DoS-Prävention und das Blockieren des Zugriffs von Angreifern auf vertrauliche Datensätze.

Am Ende des Beitrags schlägt der Autor die nächsten Schritte vor, die unternommen werden sollten.

Passen Sie sich zunächst an das bestehende digitale Netzwerksystem an und bereiten Sie sich auf die Auswirkungen künstlicher Intelligenz vor.

Genauer gesagt müssen wir überdenken, wie KI das Internet und die Kommunikation verändern wird.

Zweitens sollten „Persönlichkeitszertifikate“ als dringende Lösung Vorrang haben.

Das letzte Bild fasst alle wichtigen Punkte dieses Dokuments zusammen.

Erwähnenswert ist, dass das Ministerium für öffentliche Sicherheit und die Cyberspace Administration of China kürzlich den „Online-Ausweis“ eingeführt haben, um zu verhindern, dass Internetplattformen aufgrund des „Real-Name-Systems“ übermäßig Informationen sammeln.

Sie benötigen lediglich ein Mobiltelefon mit NFC-Funktion und erhalten nach Durchführung der Ausweis- und Gesichtserkennung sowie der Zuordnung der Mobiltelefonnummer einen virtuellen „Online-Ausweis“.

Die obige „Netzwerknummer“ besteht aus Buchstaben und Zahlen, enthält keine Klartext-Identitätsinformationen und kann direkt für die Authentifizierung mit echtem Namen auf Taobao, WeChat und anderen Apps verwendet werden, ohne dass Informationen wie Name oder ID-Nummer eingegeben werden müssen , usw.

Was ist Ihrer Meinung nach im Hinblick auf den Schutz der Privatsphäre eine bessere Lösung?

Referenzen:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html