Shi Qian und Xiao Chao｜Aufbau einer soliden Verteidigungslinie für das Sicherheitsüberwachungssystem mit künstlicher Intelligenz
2024-08-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Das Bild zeigt den Tesla Optimus Prime Roboter. Foto von unserem Reporter Yuan Jing
Die dritte Plenarsitzung des 20. Zentralkomitees der Kommunistischen Partei Chinas schlug vor: „Stärkung des Aufbaus des Netzwerksicherheitssystems und Einrichtung eines Sicherheitsüberwachungssystems mit künstlicher Intelligenz.“ Dies ist ein wichtiger Einsatz des Zentralkomitees der Partei zur Koordinierung der Entwicklung und Sicherheit und reagieren aktiv auf Sicherheitsrisiken durch künstliche Intelligenz. Um die Risiken, die sich aus der Entwicklung der Technologie der künstlichen Intelligenz ergeben, sowie die tatsächlichen Auswirkungen der Anwendung künstlicher Intelligenz vorherzusagen und effektiv darauf zu reagieren und die Anwendung und Entwicklung der Technologie der künstlichen Intelligenz wirksam zu fördern, müssen wir eine gründliche Analyse durchführen Die neuen Merkmale sozialer Risiken, die durch intelligente Technologie verursacht werden, und die Vorfreude auf soziale Risiken sind erforderlich, um ein umfassendes soziales Risikomanagementsystem mit künstlicher Intelligenz aufzubauen, das Entwicklung und Sicherheit berücksichtigt und der Verbesserung Impulse verleiht die Effizienz sozialer Governance.
Vier neue Merkmale sozialer Risiken im Zeitalter der künstlichen Intelligenz
Derzeit ist die Welt in eine Ära der „Risikogesellschaft“ mit hoher Unsicherheit eingetreten, die die Funktionsweise und Regeln der modernen Gesellschaft verändert. Die Werte und Verhaltensweisen der menschlichen Gesellschaft werden systematisch rekonstruiert Es weist hauptsächlich vier neue Merkmale auf: Spread, Kaskade, Ableitung und Hysterese:
Erstens hat künstliche Intelligenz die Geschwindigkeit und den Umfang der Verbreitung von Risikoinformationen erhöht, und soziale Risiken sind ansteckend. Die Technologie der künstlichen Intelligenz verringert die Schwierigkeit der Informationsgenerierung und erhöht die Breite und Tiefe der Informationsverbreitung. Die Informationsverbreitung erweitert den Wirkungsbereich von Risikoereignissen und führt zu einer hochansteckenden Natur. Gleichzeitig kann künstliche Intelligenz die Emotionen und Verhaltensweisen der Benutzer durch Sentimentanalyse und Verhaltensvorhersage identifizieren und verstärken. Wenn eine Art Risikoereignis starke emotionale Reaktionen wie Panik und Wut auslöst, kann das System der künstlichen Intelligenz der Empfehlung und Verbreitung dieser Art von Informationen Vorrang einräumen, was die Stimmung in der Öffentlichkeit weiter verschärft und die Risikoinformationen hochgradig ansteckend und ansteckend macht Eine wirksame Überwachung und Kontrolle wird große Auswirkungen auf die soziale Sicherheit und die soziale Ordnung haben.
Zweitens verwischt künstliche Intelligenz die virtuellen und realen Grenzen sozialer Systeme und soziale Risiken nehmen zu. Durch die Technologie der künstlichen Intelligenz sind Menschen und Menschen, Menschen und Dinge und Dinge und Dinge stark gekoppelt. Die Grenzen zwischen der virtuellen Welt und der realen Welt verschwimmen und bilden ein komplexes Netzwerksystem. Viele soziale Aktivitäten werden über virtuelle Plattformen durchgeführt und sind in reale Situationen eingebettet. Datenlecks in der virtuellen Welt können zu Identitätsdiebstahl in der realen Welt führen. Die öffentliche Meinung in sozialen Medien kann sich schnell auf soziales Verhalten und Entscheidungsfindung in der realen Welt auswirken . Im Gegenteil, Sicherheitsvorfälle in der realen Welt werden durch die Datenübertragung auch die Sicherheit der virtuellen Welt beeinträchtigen, und die Interaktion zwischen virtueller und realer Welt wird zu einer Kaskadenwirkung sozialer Risiken führen. Durch intelligente Technologie sind verschiedene soziale Systeme stark miteinander verbunden und viele Entscheidungsprozesse sind automatisiert. Fehlentscheidungen automatisierter Systeme können jedoch eine Reihe von Kettenreaktionen auslösen, die zu einer kaskadenartigen Ausbreitung von Risiken führen.
Drittens hat künstliche Intelligenz eine Reihe sekundärer Risiken und Risikoketten ausgelöst, und soziale Risiken sind abgeleitet. Die Anwendung der Technologie der künstlichen Intelligenz kann anfängliche Risiken mit sich bringen, und im Prozess der Lösung oder Minderung der Risiken wird sie darüber hinaus eine Reihe sekundärer Risiken mit sich bringen, die eine komplexe Risikokette bilden. Risikoereignisse können sich schnell zwischen verschiedenen Bereichen ausbreiten und auf mehreren Ebenen übertragen werden, wodurch sekundäre Risiken entstehen. Beispielsweise führen Cyberangriffe nicht nur zu Informationslecks, sondern können auch reale Unfälle wie Verkehrsstaus und Ausfälle medizinischer Geräte verursachen, indem sie das Internet der Dinge beeinträchtigen. Durch Datenfehler oder fehlerhafte Algorithmen können zudem eine Reihe sekundärer Risiken entstehen. Nehmen wir als Beispiel die algorithmische Voreingenommenheit. Der dadurch verursachte unfaire Entscheidungsmechanismus führt häufig zu sozialer Unzufriedenheit und Konflikten. Risikoereignisse führen in der Regel zu Veränderungen im öffentlichen Verhalten und in der Psychologie, wodurch neue sekundäre Risiken entstehen und eine Risikokette entsteht.
Viertens verbirgt künstliche Intelligenz die Auswirkungen einiger Risikoereignisse, und soziale Risiken sind von Natur aus verzögert. Die Technologie der künstlichen Intelligenz ist bei der Schulung und im Betrieb auf große Datenmengen und bei der Entscheidungsfindung auf Algorithmen angewiesen. Datenlecks oder -missbrauch haben möglicherweise kurzfristig keine offensichtlichen Auswirkungen auf den Entscheidungsprozess und die Ergebnisse , aber im Laufe der Zeit kann es zu Datenmissbrauch kommen und die kumulativen Auswirkungen algorithmischer Voreingenommenheit werden sich im Laufe der Zeit zeigen. Gleichzeitig ist die Technologie der künstlichen Intelligenz auch stark von der technischen Infrastruktur und den Automatisierungssystemen abhängig. Diese Systemausfälle oder Designfehler sind möglicherweise kurzfristig nicht leicht zu erkennen, aber im Laufe der Zeit kann die allmähliche Häufung von Problemen zu systemischen Risiken führen . Der Einsatz intelligenter Technologie hat tiefgreifende Auswirkungen auf das Sozialverhalten und die Psychologie. Beispielsweise kann die langfristige Nutzung intelligenter Empfehlungssysteme zu einem Informationskokon-Effekt führen, der die Sicht des Benutzers einschränkt und dadurch die Vielfalt und Inklusion der Gesellschaft beeinträchtigt.
Vier Strategien zur Erreichung einer „KI-orientierten Governance“
Um effektiv auf die gesellschaftlichen Risiken und neuen Merkmale zu reagieren, die durch die Entwicklung der Technologie der künstlichen Intelligenz verursacht werden können, muss das traditionelle Risiko-Governance-Modell gezielt geändert werden und gleichzeitig die Technologie der künstlichen Intelligenz zur Verbesserung der Effizienz der Risikoerkennung und -erkennung eingesetzt werden Frühwarnung und Erreichen des Ziels einer „auf künstlicher Intelligenz basierenden Governance“ Gleichzeitig sollten wir mögliche Risiken, die durch den Einsatz von Technologien der künstlichen Intelligenz verursacht werden, wirksam verhindern und davor warnen, eine „auf künstlicher Intelligenz orientierte Governance“ realisieren und eine aufbauen Zwei-Wege-Governance-Logik, in der „Technologie die soziale Governance stärkt und Governance Technologiemissbrauch verhindert“.
Erstens: Nutzen Sie multimodale Daten, um komplexe interaktive Beziehungen zu identifizieren und die Genauigkeit der Risikoerkennung und Frühwarnung zu verbessern. Multimodale Daten beziehen sich auf Daten, die aus verschiedenen Bereichen oder Perspektiven für dasselbe Beschreibungsobjekt erhalten wurden, und werden zur Darstellung unterschiedlicher Datenformen oder unterschiedlicher Formate derselben Form verwendet. Die multimodale Datenfusionstechnologie kann komplementäre Informationen zwischen Daten vollständig abbauen und nutzen, Objekteigenschaften umfassender charakterisieren, komplexere interaktive Beziehungen identifizieren oder ableiten und eine Echtzeitwahrnehmung, Korrelationsanalyse und Situationsvorhersage komplexer sozialer Riesensysteme erreichen kann die Genauigkeit der Risikoerkennung verbessern, ein flexibleres Risikobewertungs- und Frühwarnsystem aufbauen, ein zukunftsorientiertes und dynamisches Risikomanagement und -kontrolle realisieren und außerdem die unabhängigen Entscheidungsprozesse effektiv in den Risikowarnungs- und Reaktionsprozess integrieren, um sie bereitzustellen Verschiedene Entscheidungsträger stellen grundlegende Methoden und Werkzeuge für die Zusammenarbeit bereit. Daher ist es möglich, Daten aus verschiedenen Modalitäten wie Text-, Bild-, Audio- und Sensordaten umfassend zu analysieren, indem verschiedene Modaldaten aus verschiedenen Bereichen integriert werden, und Technologien wie maschinelles Lernen und Deep Learning anzuwenden, um komplexe interaktive Beziehungen zwischen Daten zu identifizieren. . Fördern Sie die parteiübergreifende Zusammenarbeit zwischen Regierungen, Unternehmen, sozialen Organisationen, akademischen Einrichtungen usw., richten Sie einen abteilungsübergreifenden Informationsaustauschmechanismus ein, integrieren Sie multimodale Datenressourcen, bauen Sie ein Echtzeit-Frühwarnsystem auf und entdecken und warnen Sie rechtzeitig Potenziale Risiken.
Zweitens: Entwickeln Sie personalisierte Risikomanagementpläne auf der Grundlage des Entwicklungs- und Anwendungsniveaus intelligenter Technologie, um eine Konzentration von Risikostress zu verhindern. Aufgrund der unterschiedlichen wirtschaftlichen und sozialen Entwicklung und des Anwendungsniveaus der Technologie der künstlichen Intelligenz zwischen verschiedenen Regionen, was wiederum zu Inkonsistenzen bei den Risikoreaktionsfähigkeiten führt, ist die überregionale Ausbreitung und Entwicklung sozialer Risiken ungleichmäßig. Es ist notwendig, personalisierte Risikomanagementpläne auf der Grundlage der tatsächlichen regionalen Entwicklung zu formulieren, lokale Belastungen durch multi-agentielle und multiregionale Zusammenarbeit zu reduzieren und strukturelle Schäden am Sozialsystem zu vermeiden. Daher muss die Risikosteuerung der Technologie der künstlichen Intelligenz zunächst das Anwendungsniveau der Technologie der künstlichen Intelligenz in verschiedenen Regionen bewerten, die Risikoreaktionsfähigkeiten einschließlich Notfallressourcen, technischer Infrastruktur und Managementfähigkeiten analysieren und die Stärken und Schwächen der regionalen Risikoreaktion identifizieren. Entwickeln Sie personalisierte Risikomanagementstrategien basierend auf den spezifischen Bedingungen verschiedener Regionen. Wirtschaftlich entwickelte Gebiete können sich beispielsweise auf die Stärkung der technischen Sicherheit und des Datenschutzes konzentrieren, während wirtschaftlich unterentwickelte Gebiete den Ausbau der Infrastruktur und die Popularisierung von Technologien verbessern müssen. Durch politische Unterstützung und Kapitalinvestitionen werden wir die Verbesserung des Anwendungsniveaus intelligenter Technologie in technologisch rückständigen Bereichen fördern und die technologische Kluft und Risikoreaktionsfähigkeiten zwischen Regionen verringern.
Drittens müssen wir technologische Entwicklung und Risikoregulierung in Einklang bringen, die Gesamtkosten des Risikomanagements optimieren und sicherstellen, dass die Technologie der digitalen Intelligenz sowohl „verwaltbar“ als auch „flexibel“ ist. Die Risikosteuerung durch künstliche Intelligenz muss sowohl „Sicherheit“ als auch „Entwicklung“ berücksichtigen, nicht nur um wirtschaftliche und soziale Verluste durch Regierungsversagen zu vermeiden, sondern auch um die Verringerung des wirtschaftlichen und sozialen Nutzens durch übermäßige Regierungsführung zu verhindern. Die Kosten für die Risikosteuerung durch künstliche Intelligenz umfassen viele Kostenfaktoren, wie z. B. Risikopräventionskosten, wenn der Governance-Mechanismus in Kraft ist und scheitert, Kosten für soziales Versagen und Kosten für den Verlust sozialer Vorteile. Die Intensität der Betreuung kann je nach Reifegrad der Technologie und Anwendungsszenarien zeitnah angepasst werden. Im Frühstadium der Technologie wird eine lockere Aufsicht eingeführt, um Innovationen zu fördern; im ausgereiften Stadium der Technologie wird die Aufsicht verstärkt, um Sicherheit und Standardisierung zu gewährleisten. Bei der Formulierung von Risiko-Governance-Strategien ist es notwendig, verschiedene Kostenelemente zu quantifizieren, eine Kosten-Nutzen-Analyse durchzuführen und den optimalen Governance-Plan auszuwählen, um Risiken effektiv zu kontrollieren und unnötige Governance-Kosten zu vermeiden. Um die Kosten für das Risikomanagement wirksam zu senken, können gleichzeitig politische und finanzielle Unterstützung bereitgestellt werden, um Unternehmen und wissenschaftliche Forschungseinrichtungen zu ermutigen, Innovationen im Bereich der Sicherheitstechnologie durchzuführen und bei gleichzeitiger Förderung von Innovationen im Bereich der künstlichen Intelligenz die gleichzeitige Entwicklung von Sicherheitsmaßnahmen sicherzustellen .
Schließlich müssen wir die sozialen Risiken, die sich aus der Entwicklung der Technologie der künstlichen Intelligenz ergeben können, im Voraus untersuchen und beurteilen und Systeme und Standards zur Überwachung sozialer Risiken der künstlichen Intelligenz ordnungsgemäß formulieren. Die schnelle Entwicklung und Iteration der Technologie der künstlichen Intelligenz erfolgt häufig schneller als die Formulierung und Anpassung von Richtlinien und Gesetzen, was zu einer gewissen Verzögerung bei den Governance-Richtlinienstandards für künstliche Intelligenz führt. Daher ist es notwendig, die Anwendung der Technologie der künstlichen Intelligenz in die soziale Governance einzubetten, relevante Sicherheitsüberwachungssysteme und Industriestandards für soziale Risiken der künstlichen Intelligenz zu formulieren und sicherzustellen, dass Richtlinien und Gesetze mit der technologischen Entwicklung Schritt halten und gleichzeitig den Aufbau und die Entwicklung fördern können Anwendungsszenarien für intelligente Technologie. Entwicklungstrends im Bereich der künstlichen Intelligenz sollten regelmäßig analysiert werden, es sollten umfassende Bewertungen aus mehreren Dimensionen wie Technologie, Ethik, Recht, Wirtschaft und Gesellschaft vorgenommen werden, ein Frühwarnmechanismus für Risiken im Bereich der künstlichen Intelligenz sollte eingerichtet werden und potenzielle Risiken, die neue Technologien mit sich bringen, sollten entdeckt werden und rechtzeitig vorhergesagt werden, und Forschung und Formulierung sollten flexible und zukunftsorientierte Richtlinien und Vorschriften durchführen. Darüber hinaus sollten wir uns aktiv an der Formulierung internationaler Standards und Vorschriften beteiligen, eine transnationale Kooperationsplattform einrichten, die Zusammenarbeit und den Austausch zwischen Ländern in der Governance künstlicher Intelligenz fördern und gemeinsam auf globale technologische Risiken und Herausforderungen reagieren.
(Zugehörigkeit des Autors: School of Economics and Management, Tongji-Universität)
Autor:
Text: Shi Qian Xiao Chao Bild: Yuan Jing Herausgeber: Chen Yu Herausgeber: Yang Yiqi
Bitte geben Sie beim Nachdruck dieses Artikels die Quelle an.
