소식

최근 un은 인공지능(ai) 거버넌스에 관한 중요한 보고서를 발표하여 국제 사회가 진정한 글로벌 ai 감독 및 거버넌스 메커니즘을 구축하기 위해 협력할 것을 촉구했습니다.

un 사무총장의 ai 고위급 자문기구가 작성한 이 보고서는 ai가 제기하는 위험을 해결하는 동시에 ai의 혁신적인 잠재력이 전 세계적으로 실현되도록 보장하기 위한 일련의 권장 사항을 제시합니다.

보고서는 ai에 대한 글로벌 거버넌스의 필요성이 의심의 여지가 없음을 강조합니다. 주요 광물부터 훈련 데이터까지 ai 기술의 원자재는 전 세계에서 나옵니다.

일반 ai 기술은 국경을 넘어 전 세계적으로 다양한 애플리케이션을 창출하게 될 것입니다. 동시에 ai의 급속한 발전은 전 세계적으로 권력과 부를 집중시켰습니다.지정학그리고 경제적 영향.

게다가 현재 ai의 모든 내부 작동을 완전히 이해하거나 ai의 출력을 완전히 제어하거나 ai의 진화를 예측할 수 있는 사람은 아무도 없습니다.

동시에 의사 결정자는 자신이 이해하지 못하는 시스템을 개발, 배포 또는 사용하는 데 책임을 지지 않습니다. 이러한 결정은 전 세계적으로 부정적인 영향과 후속 영향을 미칠 가능성이 높습니다.

ai 거버넌스 방식의 기존 격차를 해결하기 위해 자문 기관은 몇 가지 주요 권장 사항을 제시했습니다.

• 다양한 분야의 전문가로 구성된 독립적인 국제 ai 과학 그룹을 설립하여 개인 역량에 따라 자발적으로 봉사합니다.

• 2년마다 열리는 정부 간 및 다중 이해관계자 ai 거버넌스 정책 대화를 시작합니다. 이 대화는 기존 un 회의의 여백으로 열릴 수 있으며, un의 193개 회원국이 위험을 논의하고 행동에 대한 합의를 구축할 수 있는 플랫폼을 제공합니다.

• ai 시스템을 평가하기 위한 표준을 정의하고 적용하는 매뉴얼을 개발하고 유지하기 위해 'ai 표준 그룹'이 설립되었습니다.

• 새로운 독립적 거버넌스 구조로 관리될 것으로 예상되는 글로벌 ai 펀드의 설립은 ai 개발 격차를 해소하고, 특히 남반구 국가의 발전을 지원하는 것을 목표로 한다.

• 글로벌 ai 데이터 프레임워크를 개발하고 '시장을 형성하는 데이터 관리 및 교환 메커니즘'을 구축하여 글로벌 로컬 ai 생태계의 번성하는 발전을 촉진합니다.

• un 사무국 내에 ai 사무국을 설립하여 이러한 이니셔티브를 가볍고 유연한 구조로 더욱 효과적으로 통합합니다.

보고서는 또한 유엔이 가난한 국가, 특히 남반구 국가에 초점을 맞춰 그들이 ai의 혜택을 받고 거버넌스에 참여할 수 있도록 할 것을 권고했습니다.

이러한 조치에는 ai 표준 및 데이터 공유 시스템 구축, 국가의 ai 거버넌스 지원을 위한 훈련 및 교육 자원 할당 등이 포함됩니다.

일부 권장 사항은 국가 간 디지털 및 데이터 격차를 해결하는 것을 목표로 하는 기존 글로벌 디지털 협약(global digital compact)을 통해 구현될 수 있습니다.

영국 사우샘프턴대학교 컴퓨터과학 명예교수인 웬디 홀(wendy hall)은 자문기구의 유일한 영국 전문가이다. 그녀는 “ai는 인류의 이익을 위해 개발되어야 한다. 거버넌스가 없다면 해로울 가능성이 있다”고 강조했다. 사회에." 진화의 길.

우리는 ai 문제를 해결하고 모든 사람에게 혜택을 제공하기 위한 글로벌 접근 방식이 시급히 필요합니다. "

그러나 ai 거버넌스는 현재 진정한 글로벌 대화가 아닙니다. 보고서는 ai 거버넌스에 관한 수백 가지 지침, 프레임워크 및 원칙이 정부, 기업, 동맹 및 국제기구에 의해 채택되었지만 실제로 글로벌 영향력을 발휘하는 것은 없다고 지적합니다. 이로 인해 표현, 조정 및 실행에 문제가 발생합니다.

이러한 불평등한 권력 분배는 국제 체제 전반에 걸쳐 반영됩니다.

안토니오 구테흐스 유엔 사무총장은 2024년 1월 다보스에서 열린 세계경제포럼에서 유엔이 창설됐을 때 많은 회원국들이 여전히 식민 통치를 받고 있었기 때문에 오늘날 논의할 내용이 "매우 적다"고 언급했습니다.

그는 세계적 도전과제에 대해 효과적인 조치를 취하기 위해 제2차 세계대전 이후 확립된 국제 시스템의 개혁을 촉구했습니다.

2024년 3월, 미국은 회원국들에게 “안전하고 믿을 수 있으며 신뢰할 수 있는 ai” 개발을 수용할 것을 촉구하는 결의안을 유엔에 제출했습니다.

같은 해 7월 중국은 ai 개발 협력을 강조하고 기술을 널리 보급하는 자체 결의안을 제안했다. 모든 un 회원국은 두 협정에 모두 서명했습니다.

선진국 간 ai에 대한 견해 차이로 인해 시장에 균열이 발생했습니다. 유럽연합은 전면적인 ai 규정을 도입했으며, 데이터 사용 통제로 인해 일부 미국 기업은 자사 제품의 가용성을 제한하게 되었습니다.

미국 정부가 취한 자유방임적 접근 방식으로 인해 캘리포니아는 더욱 엄격한 자체 ai 규정을 제안하게 되었습니다.

이러한 도전에 직면하여 유엔 ai 자문기구의 보고서는 공동의 입장을 확립할 수 있는 길을 열어줍니다.

옥스포드 대학의 크리스 러셀 교수는 "인권에 대한 분석을 고정시키는 것은 매우 설득력이 있다"고 믿습니다.

광범위하고 강력한 작업을 제공합니다.국제법기초를 다지고 사람들이 겪는 구체적인 피해에 초점을 맞춥니다. "

하지만 ai는 유엔 단독으로는 글로벌 협력을 관리할 수 없을 만큼 빠른 속도로 발전하고 있다.

“un은 분명히 ai 거버넌스에서 중요한 역할을 하지만 분산형 아키텍처가 필요합니다.”라고 그는 말했습니다. “국가도 직접 참여해야 합니다.”

마지막으로, 정부는 ai를 전략적 이점을 얻는 방법으로 볼 수 있지만, 많은 과학자들은 ai에 대한 우려에 동의합니다.

이번 주 초, 오스트리아 비엔나에서 열린 ai 보안 컨퍼런스 이후 서방과 중국의 저명한 학자 그룹이 공동으로 ai 보안 문제에 대한 더 큰 협력을 촉구했습니다.

전반적으로, 이 un 보고서는 ai 거버넌스에서 국제 사회 협력을 위한 청사진을 제공합니다.

그러나 자문단 회원인 alondra nelson은 "악마는 세부 사항에 있습니다."라고 말했습니다.

앞으로 유엔과 회원국이 이 협력 청사진을 어떻게 구현하느냐에 따라 글로벌 ai 거버넌스의 성패가 결정될 것입니다.

참고자료:

https://arstechnica.com/ai/2024/09/united-nations-wants-to-treat-ai-with-same-urgency-as-climate-change/

https://www.un.org/techenvoy/ai-advisory-body

https://www.computerweekly.com/news/366611263/un-body-urges-globalally-inclusive-and-distributed-ai-governance

운영/조판: he chenlong