Shi Qian과 Xiao Chao | 인공지능 안전 감독 시스템을 위한 탄탄한 방어선 구축
2024-08-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
사진은 Tesla Optimus Prime 로봇을 보여줍니다. 사진=위안징 기자
중국 공산당 제20기 3차 전체회의에서는 "네트워크 보안 시스템 구축을 강화하고 인공지능 안전 감독 시스템을 구축하라"고 제안했다. 이는 당 중앙이 발전을 조율하기 위해 내놓은 중요한 배치다. 보안 및 인공지능 안전 리스크에 적극적으로 대응합니다. 인공지능 기술의 발전으로 인해 발생하는 위험과 인공지능의 응용이 가져오는 실질적인 영향을 예측하고 효과적으로 대응하고, 인공지능 기술의 응용과 개발을 효과적으로 추진하기 위해서는 심층적인 분석이 필요하다. 지능형 기술로 인해 발생하는 사회 위험의 새로운 특성을 파악하고 사회 위험을 기대합니다. 발전과 보안을 고려한 종합적인 인공지능 사회 위험 관리 시스템을 구축하고 개선에 추진력을 불어넣기 위해서는 예측, 과학적 억제, 올바른 지도가 필요합니다. 사회 거버넌스의 효율성.
인공지능 시대 사회적 위험의 4가지 새로운 특성
현재 세계는 불확실성이 높은 '위험사회' 시대로 진입했다. 인공지능 기술은 현대사회의 운영논리와 규칙을 변화시키고 있으며, 그에 따른 사회적 위험도 변화하고 있다. 이는 주로 스프레드, 캐스케이드, 미분 및 히스테리시스라는 네 가지 새로운 특성을 제공합니다.
첫째, 인공지능이 위험 정보의 확산 속도와 범위를 증가시켰고, 사회적 위험은 전염성이 있다. 인공지능 기술은 정보 생성의 어려움을 줄이고 정보 확산의 폭과 깊이를 높입니다. 정보 확산은 위험 이벤트의 영향 범위를 확대하여 전염성이 높습니다. 동시에 인공지능은 감성분석과 행동예측을 통해 사용자의 감정과 행동을 파악하고 증폭시킬 수 있다. 어떤 종류의 위험 사건이 당황, 분노 등 강한 감정적 반응을 촉발한다면 인공지능 시스템은 이런 종류의 정보를 추천하고 전파하는 데 우선순위를 둘 수 있으며, 이로 인해 대중 정서는 더욱 악화되고 그렇지 않은 경우 위험 정보의 전염성이 높아질 수 있습니다. 효과적인 감독과 통제는 사회보장과 사회질서에 큰 영향을 미칠 것입니다.
둘째, 인공지능은 사회 시스템의 가상과 실제 경계를 모호하게 만들고 사회적 위험이 급증하고 있습니다. 인공지능 기술은 사람과 사람, 사람과 사물, 사물과 사물을 고도로 결합시켜 가상 세계와 현실 세계의 경계가 모호해지면서 복잡한 네트워크 시스템을 형성하게 됩니다. 많은 소셜 활동은 가상 플랫폼을 통해 이루어지며 실제 상황에 내재되어 있습니다. 가상 세계의 데이터 유출은 현실 세계의 신원 도용으로 이어질 수 있습니다. 소셜 미디어에 대한 여론은 현실 세계의 사회적 행동과 의사 결정에 빠르게 영향을 미칠 수 있습니다. . 오히려 현실 세계의 보안 사고는 데이터 전송을 통해 가상 세계의 보안에도 영향을 미칠 것이며, 가상과 현실의 상호작용은 사회적 위험의 계단식 효과를 야기할 것이다. 지능형 기술을 기반으로 다양한 사회 시스템이 상호 연결되어 있으며 많은 의사 결정 프로세스가 자동화되어 있습니다. 그러나 자동화된 시스템에 의한 잘못된 결정은 일련의 연쇄 반응을 촉발하여 위험이 계단식으로 확산될 수 있습니다.
셋째, 인공지능은 일련의 2차 위험과 위험 사슬을 촉발시켰으며, 사회적 위험은 파생적입니다. 인공지능 기술을 적용하면 초기 위험이 발생할 수 있으며, 위험을 해결하거나 완화하는 과정에서 일련의 2차 위험이 추가로 발생하여 복잡한 위험 사슬을 형성하게 됩니다. 위험 이벤트는 여러 분야 간에 빠르게 확산되고 여러 수준으로 전송되어 2차 위험을 형성할 수 있습니다. 예를 들어, 사이버 공격은 정보 유출로 이어질 뿐만 아니라, 사물 인터넷에 영향을 미쳐 교통 정체, 의료 장비 고장 등 실제 사고를 유발할 수도 있습니다. 데이터 오류나 부적절한 알고리즘으로 인해 일련의 2차 위험이 발생할 수도 있습니다. 알고리즘 편향을 예로 들면, 이로 인해 발생하는 불공정한 의사결정 메커니즘은 사회적 불만과 갈등으로 이어지는 경우가 많습니다. 위험 사건은 일반적으로 대중의 행동과 심리에 변화를 가져와 새로운 2차 위험을 파생시키고 위험 사슬을 형성합니다.
넷째, 인공지능은 일부 위험 사건의 영향을 숨기고, 사회적 위험은 지연되는 성격을 가지고 있습니다. 인공지능 기술은 훈련과 운영을 위해 많은 양의 데이터에 의존하고, 의사결정을 위한 알고리즘에 의존합니다. 데이터 유출이나 남용은 의사결정 과정과 결과에 단기적으로는 명백한 영향을 미치지 않을 수 있습니다. 그러나 시간이 지남에 따라 데이터 남용이 발생할 수 있으며 알고리즘 편향의 누적 효과가 나타날 것입니다. 동시에, 인공지능 기술은 기술 인프라 및 자동화 시스템에 대한 의존도도 높습니다. 이러한 시스템 오류나 설계 결함은 단기적으로 감지하기 쉽지 않을 수 있지만, 시간이 지남에 따라 문제가 점진적으로 누적되면 시스템적 위험이 발생할 수 있습니다. . 지능형 기술의 적용은 사회적 행동과 심리학에 큰 영향을 미칩니다. 예를 들어 지능형 추천 시스템을 장기간 사용하면 정보 누에고치 효과가 발생하여 사용자의 시야가 좁아지고 사회의 다양성과 포용성에 영향을 미칠 수 있습니다.
'AI 기반 거버넌스' 달성을 위한 4가지 전략
인공지능 기술의 발전으로 인해 발생할 수 있는 사회적 위험과 새로운 특성에 효과적으로 대응하기 위해서는 기존의 위험 거버넌스 모델을 목표 지향적으로 변화해야 하며, 인공지능 기술을 활용하여 위험 식별 및 관리의 효율성을 향상시켜야 합니다. 조기경보를 통해 '인공지능 기반 거버넌스' 목표를 달성하는 동시에, 인공지능 기술 적용으로 인해 발생할 수 있는 위험을 효과적으로 예방하고 경고하며, '인공지능 기반 거버넌스'를 실현하고, "기술이 사회 거버넌스를 강화하고 거버넌스가 기술 남용을 방지하는" 양방향 거버넌스 논리.
첫째, 다중 모드 데이터를 사용하여 복잡한 상호 작용 관계를 식별하고 위험 식별 및 조기 경고의 정확성을 향상시킵니다. 다중모달 데이터(Multimodal Data)는 동일한 기술 대상에 대해 서로 다른 분야나 관점에서 얻은 데이터를 말하며, 서로 다른 형태의 데이터 또는 동일한 형태의 서로 다른 형식을 표현하는 데 사용됩니다. 다중 모드 데이터 융합 기술은 데이터 간 보완 정보를 완전히 마이닝 및 활용하고, 객체 특성을 보다 포괄적으로 특성화하고, 보다 복잡한 상호 작용 관계를 식별하거나 추론하며, 복잡한 사회 거대 시스템의 실시간 인식, 상관 분석 및 상황 예측을 달성할 수 있습니다. 위험 식별의 정확성을 향상시키고, 보다 유연한 위험 평가 및 조기 경고 프레임워크를 구축하며, 미래 지향적이고 역동적인 위험 관리 및 제어를 달성할 수 있습니다. 또한 위험 경고 및 대응 프로세스에 독립적인 의사 결정 프로세스를 효과적으로 통합할 수 있습니다. 협업을 위한 기본 방법과 도구를 제공하여 다양한 의사결정 주체를 제공합니다. 따라서 다양한 분야의 다양한 모달 데이터를 통합하여 텍스트, 이미지, 오디오, 센서 데이터 등 다양한 모달리티의 데이터를 종합적으로 분석하고, 머신러닝, 딥러닝 등의 기술을 적용하여 데이터 간의 복잡한 상호작용 관계를 파악하는 것이 가능합니다. . 정부, 기업, 사회 단체, 학술 기관 등 간의 다자간 협력을 촉진하고, 부서 간 정보 공유 메커니즘을 구축하고, 다중 모드 데이터 리소스를 통합하고, 실시간 조기 경보 시스템을 구축하고, 적시에 잠재력을 발견하고 경고합니다. 위험.
둘째, 위험 스트레스 집중을 방지하기 위해 지능형 기술 개발 및 적용 수준을 기반으로 개인별 위험 관리 계획을 수립합니다. 지역 간 경제 및 사회 발전과 인공지능 기술 적용 수준의 차이로 인해 위험 대응 역량의 불일치가 발생하고, 사회 위험의 지역 간 확산과 진화가 고르지 않습니다. 실제 지역 발전을 바탕으로 개인화된 위험 관리 계획을 수립하고, 다중 주체 및 다중 지역 협력을 통해 지역 스트레스를 줄이고, 사회 시스템의 구조적 손상을 방지하는 것이 필요합니다. 따라서 인공지능 기술의 리스크 거버넌스는 먼저 지역별 인공지능 기술의 적용 수준을 평가하고 비상 자원, 기술 인프라, 관리 역량을 포함한 리스크 대응 역량을 분석하고 지역 리스크 대응의 강점과 약점을 파악해야 합니다. 다양한 지역의 특정 조건을 기반으로 맞춤형 위험 관리 전략을 개발합니다. 예를 들어, 경제적으로 발전한 지역은 기술 보안 및 데이터 보호 강화에 집중할 수 있고, 경제적으로 낙후된 지역은 인프라 구축 및 기술 대중화를 개선해야 합니다. 정책지원과 자본투자를 통해 기술 낙후지역의 지능기술 적용수준 향상을 촉진하고, 지역 간 기술격차와 리스크 대응역량을 축소하겠습니다.
셋째, 기술 개발과 위험 규제의 균형을 맞추고, 위험 관리의 총 비용을 최적화하며, 디지털 지능 기술이 '관리 가능'하고 '유연함'을 보장해야 합니다. 인공지능 리스크 거버넌스는 거버넌스 실패로 인한 경제적, 사회적 손실을 방지할 뿐만 아니라 과도한 거버넌스로 인한 경제적, 사회적 이익 감소를 방지하기 위해 '보안'과 '개발'을 모두 고려해야 합니다. 인공지능 위험 거버넌스의 비용에는 거버넌스 메커니즘이 시행되고 실패할 때의 위험 예방 비용, 사회적 실패 비용, 사회적 이익 손실 비용 등 많은 비용 요소가 포함됩니다. 감독 강도는 기술 성숙도와 응용 시나리오에 따라 적시에 조정될 수 있습니다. 기술 초기 단계에서는 느슨한 감독을 채택하여 혁신을 장려하고, 기술 성숙 단계에서는 감독을 강화하여 안전과 표준화를 보장합니다. 리스크 거버넌스 전략을 수립할 때는 다양한 비용 요소를 정량화하고, 비용 편익 분석을 수행하고, 리스크를 효과적으로 통제하고 불필요한 거버넌스 비용을 방지하기 위한 최적의 거버넌스 계획을 선택해야 합니다. 동시에 위험 관리 비용을 효과적으로 줄이기 위해 기업과 과학 연구 기관이 보안 기술 혁신을 수행하도록 장려하는 정책 및 재정 지원을 제공하고 인공 지능 기술 혁신을 촉진하는 동시에 보안 조치의 동시 개발을 보장할 수 있습니다. .
마지막으로 인공지능 기술의 발전으로 인해 발생할 수 있는 사회적 위험을 사전에 연구하고 판단하고, 인공지능 사회위험 감독 시스템과 표준을 적절하게 수립해야 한다. 인공지능 기술의 급속한 발전과 반복은 정책과 법률의 제정과 조정보다 빠른 경우가 많아 인공지능에 대한 거버넌스 정책 기준이 어느 정도 지연되는 결과를 낳는다. 따라서 인공지능 기술의 적용을 사회 거버넌스에 포함시키고, 인공지능 사회 위험에 대한 관련 안전 감독 시스템과 산업 표준을 제정하며, 정책과 법률이 기술 발전에 보조를 맞추면서 건설과 발전을 촉진할 수 있도록 보장해야 합니다. 지능형 기술 적용 시나리오. 인공지능 기술 개발 동향을 정기적으로 분석하고, 기술, 윤리, 법률, 경제, 사회 등 다차원에서 종합적인 평가를 실시하고, 인공지능 위험 조기 경고 메커니즘을 구축하고, 신흥 기술로 인한 잠재적 위험을 발굴해야 합니다. 적시에 예측하고, 연구와 공식화를 수행해야 합니다. 유연하고 미래지향적인 정책과 규정이 필요합니다. 또한 국제 표준 및 규정 제정에 적극적으로 참여하고, 초국적 협력 플랫폼을 구축하고, 인공지능 거버넌스에서 국가 간 협력과 교류를 촉진하며, 글로벌 기술 위험과 도전에 공동 대응해야 합니다.
(저자 소속 : 통지대학교 경제경영학부)
작가:
글: Shi Qian Xiao Chao 사진: Yuan Jing 편집자: Chen Yu 편집자: Yang Yiqi
이 글을 퍼가실 때에는 출처를 꼭 밝혀주세요.
