소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

새로운 지혜 보고서

편집자: Tao Zi Qiao Yang

[새로운 지혜 소개]AI 에이전트는 앞으로 네트워크 전체에 분산되어 있습니다. 개인 정보를 보호하는 방법은 무엇입니까? OpenAI, Microsoft, MIT 등 25개 기관이 개인정보를 공개하지 않고도 실제 인물임을 증명할 수 있는 '인격증명서'를 공동 제안했습니다.

지난 보름 동안 인터넷 전체가 OpenAI의 'AI 내부 고발자'에 속았습니다.

누구나 "Brother Strawberry"의 @iruletheworldmo 계정을 잘 알고 있을 것이며, 때때로 그의 폭발적인 게시물을 보게 될 것입니다.

이번 수요일까지 그가 예측한 GPT-4o 대형 모델을 기다린 사람은 아무도 없었다. 대신 AI 스타트업 멀티온(MultiOn)의 창업자가 자신의 정체를 밝혔다.

"딸기형님"은 AI 에이전트입니다.

한동안 인터넷상의 많은 플랫폼에서는 "Brother Strawberry" 관련 재게시물을 금지했습니다.

Reddit 서브레딧 r/singularity에서는 상단에 고정되어 있으며 모든 회원이 관련 내용을 언급하는 것이 금지되어 있습니다.

어떤 사람들은 @iruletheworldmo를 직접 "차단"하기도 했습니다.

실제 OpenAI 내부 고발자인 지미 애플스(Jimmy Apples)도 AI 에이전트가 말한 내용이 사실이라고 믿었습니다.

이어 AI 에이전트는 튜링 테스트 통과 여부를 묻는 온라인 여론조사도 시작했는데, 예상외로 절반 이상의 사람들이 긍정적인 답변을 내놨다.

그리고 이것은 단지 AI입니다.

Xiao Zha는 "미래에는 모든 사람이 AI 비서를 갖게 될 것이며 머지않아 수십억 명의 AI 에이전트가 우리를 대신하여 인터넷을 서핑하게 될 것입니다"라고 말한 적이 있습니다.

만약 미래에 이런 일이 일어난다면, 사람들은 소셜 미디어 계정이 봇인지 한눈에 어떻게 알 수 있을까요? 개인정보를 제출하지 않고 어떻게 '실제 인물'이라는 신원을 증명할 수 있나요?

OpenAI, Microsoft, MIT, UCB 등 25개 기관의 학자들이 공동으로 검증 기술인 'Personhodd Credentials(PHC)'를 제안했습니다.

PHC는 인터넷에서 "당신은 당신이다", 당신이 AI가 아닌 실제 인간임을 증명하면서 사용자의 개인 정보를 보호할 수 있습니다.

논문 주소: https://arxiv.org/pdf/2408.07892

마이크로소프트의 수석과학자 겸 참모총장은 “프라이버시를 유지하면서 온라인에서 인간의 정체성을 확립하는 것은 AI 시대의 결정적인 과제 중 하나”라고 말했다.

또 다른 사람은 이번 연구가 시의적절하고 많은 생각을 하게 했다고 말했습니다.

왜 그런 말을 합니까?

30억명의 데이터가 유출됐는데, 개인정보 보호 대책은 없다?

초반의 '딸기형제' 사건에 이어 최근에는 미국 전역을 휩쓸며 30억 명에 가까운 데이터가 유출되는 등 역사상 최대 규모의 데이터 사건 중 하나라고 할 수 있다.

여기에는 이름, 이메일, 주소, 전화번호, 주민등록번호, 이메일 주소 등 거주자의 상세한 개인정보가 포함됩니다.

더욱 무서운 점은 주소자료가 30년 전까지 추적이 가능하고, 사망한 지 20년이 넘은 친족의 정보까지 파헤칠 수 있다는 점이다.

따라서 익명성은 항상 개인 정보 보호에 민감한 많은 사람들이 자신을 보호하기 위해 취하는 조치였습니다.

하지만 중요한 확인을 위해 개인정보를 넘겨주어야 하는 경우가 있습니다.

현재 점점 더 강력한 AI가 등장하고 있으며, 범죄자가 허위 정보를 속이고 유포하는 데 사용하는 방법은 더욱 교묘해지며 더 큰 규모의 유포로 쉽게 확장될 수 있습니다.

또한, AI의 임계값과 비용이 감소되어 획득이 더 쉬워졌습니다.

예를 들어 데이트 앱 등에서 AI가 생성한 사진/동영상/음성이 점점 더 현실화되면서 상대방이 실제 사람인지 어떻게 확신할 수 있습니까?

인증코드 등 현재 존재하는 솔루션으로는 확실히 부족합니다.

이는 또한 전통적인 인간-기계 검증 방법이 실패하고 있음을 의미합니다.

결국, 이미지 인식과 같은 분야에서 AI가 발전함에 따라 이 방법은 점점 더 신뢰하기 어려워지고 있습니다.

이제 사용자 개인 정보 보호와 인터넷의 포용성을 과도하게 희생하지 않으면서 AI 속임수를 효과적으로 방지할 수 있는 균형을 찾는 것이 매우 필요합니다.

이는 OpenAI, Microsoft 및 기타 기관의 연구자들이 연구를 통해 실제 응용 프로그램에서 확인하기를 바라는 효과이기도 합니다.

당신이 AI가 아닌 인간임을 증명하세요

연구원 스티븐 애들러(Steven Adler)가 말했듯이, 개인 정보 보호 도구인 "Personality Credential"(PHC)은 귀하가 사람임을 증명할 수 있지만 "당신이 누구인지"는 밝히지 않습니다.

구체적으로 "인격 자격 증명"은 AI가 위조할 수 없는 두 가지 요소에 의해 지원됩니다.

"실세계 인증"과 "안전한 암호화 기술"입니다.

즉, AI가 아무리 좋아져도 이 두 가지 점을 벗어날 수 없다는 것이다.

간단히 말해서, PHC는 사용자가 개인 정보를 공개하지 않고도 AI가 아닌 실제 사람임을 온라인 서비스에 증명할 수 있는 디지털 인증서입니다.

이러한 종류의 인증서는 정부 등 신뢰할 수 있는 기관에서 발급할 수 있습니다.

그리고 저자의 정의에 따르면 PHC는 로컬 또는 글로벌 시스템일 수 있으며 반드시 생체 인식 기술을 기반으로 하는 것은 아닙니다.

AI 에이전트가 전체 네트워크에 범람, 사기 방지를 위한 최신 전략

논문의 공동 저자인 누란 솔리만(Nouran Soliman)과 토빈 사우스(Tobin South)는 MIT 대학원생이다. 그들은 최근 MIT 뉴스와의 인터뷰에서 이 기술을 간략하게 소개하면서 그 필요성과 위험, 안전하고 안전하게 사용하는 방법에 대해 논의했다. 공정한 방법으로 PHC를 적용하십시오.

'인적증명서'의 필요성

AI에 관해서는 많은 공개 토론이 ChatGPT와 같은 챗봇에 초점을 맞추고 있지만 인공 지능의 기능은 분명히 그 이상입니다.

인터넷에서의 AI 참여는 구별 불가능성과 확장성이라는 두 가지 특성을 나타내며, 이는 AI 기반 속임수의 지속적인 성장을 촉진합니다.

AI는 소셜 네트워크에 계정을 만들거나, 허위 콘텐츠를 게시하거나, 사람인 척하거나, 알고리즘을 통해 특정 콘텐츠를 대량으로 증폭하거나, 심지어 대규모 공격을 가할 수도 있어 많은 위험을 안겨준다.

이는 소셜 미디어를 탐색하는 우리의 경험을 변화시킬 것이며, 동의 없는 '디지털 이중' 문제와 유사하게 복잡한 AI와 인간을 구별하는 것이 점점 더 어려워질 것입니다.

"개인 자격 증명"은 온라인 콘텐츠를 필터링하고 정보 수신에 대한 신뢰 수준을 결정하는 등의 잠재적인 솔루션을 제공합니다.

인적증명서란 무엇인가요? 보안을 보장하는 방법은 무엇입니까?

앞서 언급한 바와 같이 '인적증명서'는 귀하의 신원에 대한 어떠한 정보도 공개하지 않고도 귀하가 인간임을 증명할 수 있습니다.

저자는 AI가 아무리 발전하더라도 인간이 할 수 있는 두 가지 일, 즉 오프라인에서 실제 문서를 얻는 것과 고급 암호화 시스템을 위조하거나 해독하는 일은 할 수 없다고 말했습니다.

따라서 "개인 자격 증명"은 암호화를 통한 보안과 AI가 가지고 있지 않은 능력을 인간이 여전히 가지고 있다는 사실이라는 두 가지 아이디어를 결합하여 실제로 인간임을 증명합니다.

'신분증'을 취득하려면 이용자는 납세자 신분증이나 운전면허증 등 정부와 관계가 있어야 하고, 오프라인 참여도 있어야 한다.

개인 정보 보호 기술을 통해 사용자는 자신의 신원에 대한 민감한 정보를 공유하지 않고도 이 사실을 증명할 수 있습니다.

"개인 자격 증명"의 구현은 비교적 쉬울 것입니다. 이는 온라인 서비스에 로그인하기 위해 이메일 계정과 같은 식별자를 사용하는 등 수십 년 동안 존재해 온 인프라 및 보안 기술에 의존합니다. PHC는 이러한 기존 방법을 보완할 수 있습니다.

다만, 이용자의 '신분증명' 이용은 필수가 아닌 선택으로 이루어져야 하며, 서비스 제공자는 이용자가 이용 여부를 선택하도록 할 수 있다.

선택 사항이라는 것은 사용자가 인터넷에서 AI의 참여를 완전히 배제하고 온라인에서 실제 검증된 인간과만 상호 작용하도록 허용할 수 없다는 것을 의미합니다.

그러나 온라인 쇼핑이나 거래 협상과 같은 시나리오에서 상대방이 인간 존재인지 확인하려면 "인격 인증서"가 유용할 수 있습니다.

위험은 무엇입니까? 이러한 위험을 어떻게 줄일 수 있습니까?

위험 중 하나는 구현 방법에서 비롯됩니다. 특정 주체가 "인격 증명서"의 유일한 발급자이거나 모든 권한이 한 주체에 부여되는 방식으로 시스템이 설계된 경우 권력이 너무 집중될 수 있다는 우려가 제기될 수 있습니다.

어렵거나 위험한 사회정치적 환경에 처해 있는 경우, 인적 증명서를 받기 위해 오프라인 장소로 가야 하는 것은 두려울 수 있으며 사람들이 온라인에서 정보를 공유하는 것을 꺼릴 수 있습니다.

한 가지 가능한 해결책은 "개인 인증서"의 여러 발급자를 설정하는 것입니다.

우리의 논문은 정부, 정책 입안자, 지도자 및 연구자들이 다양한 구현 방향에 더 많은 자원을 투자하고 이 기술이 지역 사회에 미칠 수 있는 더 넓은 영향을 탐색하여 올바른 정책과 규칙이 시행되도록 장려하는 것을 목표로 합니다.

AI는 정부가 적응할 수 있는 것보다 훨씬 빠르게 발전하고 있습니다. 따라서 정부와 대기업은 이제 개인 정보 보호와 보안을 보호하면서 사용자가 인간임을 증명할 수 있도록 디지털 시스템을 적용하는 것에 대해 고민해야 합니다. 이를 통해 우리는 더욱 발전된 AI로 미래를 준비할 수 있습니다.

기술소개

'인적증명서' 기술은 어떻게 구현되나요? 63페이지 분량의 이 논문은 우리에게 매우 상세한 답변을 제공합니다.

논문 주소: https://arxiv.org/pdf/2408.07892

첫째, “개인 자격 증명”은 보유자의 장치에 디지털 방식으로 저장됩니다. 신뢰성과 개인 정보 보호를 보장하기 위해 PHC 시스템은 두 가지 전제 조건을 충족해야 합니다.

- '인적증명서'는 1인당 1개만 소지할 수 있으며, 도난 방지를 위해 정기적으로 재인증을 받아야 합니다.

- PHC를 보유한 사용자는 서비스 제공자와 익명으로 상호 작용합니다. PHC 퍼블리셔와 서비스 제공업체가 공모하더라도 다양한 플랫폼에서 사용자의 활동을 연결하는 것은 물론 사용자의 디지털 활동을 추적할 수도 없습니다.

PHC 시스템의 등록 및 사용 프로세스는 그림 3에 나와 있습니다.

요청 시, 사용자는 발행자에게 필요한 최소한의 정보만 제공하면 됩니다. 발급자는 사용자가 사람인지, 사용자가 이전에 PHC에 등록한 적이 없는지 확인할 책임이 있습니다. 또한 발행자는 PHC를 철회하거나 복원할 권리가 있습니다.

사용자가 제3자 디지털 서비스를 이용할 때 PHC를 제공하고 '영지식 증명'을 거쳐 신원 확인을 완료할 수 있습니다.

서비스 제공자는 PHC 외에 다른 추가 정보를 얻을 수 없습니다. 각 증명은 특정 애플리케이션으로 제한되므로 PHC를 통해 서로 다른 플랫폼을 동일한 사용자에 연결할 수 없습니다.

이 논문에서는 PHC 시스템을 위한 여러 발급자를 설계하는 것이 이상적인 구현 계획이라고 제안합니다. 사용자는 여러 발급자 중에서 선택하여 PHC에 등록할 수 있지만 각 발급자는 하나의 인증서만 얻을 수 있으므로 대규모 사기를 줄이면서 사용자 개인정보를 보호할 수 있습니다.

이 PHC 시스템에는 세 가지 예상되는 이점이 있습니다.

- "퍼펫" 사용자의 영향력을 줄이고 인터넷에서 실제 인간의 대규모 실제 입력 및 참여를 달성합니다.

- 봇 공격 완화

- AI 비서가 악의적인 사용자에게 조종당하는 대신, 진정으로 신뢰할 수 있는 사용자의 대표자가 되도록 하세요.

동시에 PHC가 실생활에서 공정하고 안전하게 구현되기 위해서는 다음과 같은 네 가지 과제에 직면해야 합니다.

• 공정한 접근

빈번한 PHC 검증은 사용 중에 마찰과 좌절을 야기하여 기술에 익숙하지 않은 사용자, 특히 노인에게 영향을 미칠 수 있습니다. PHC가 없는 사용자도 디지털 서비스를 계속 이용할 수 있도록 보장하는 것도 필요합니다.

• 표현의 자유

사용자는 PHC가 자신의 디지털 활동을 오프라인의 실제 신원과 연결하여 온라인에서 자신의 진정한 의견을 표현하려는 의지를 줄이는 것에 대해 걱정할 수 있습니다.

• 전원 점검

PHC 생태계가 직면한 중요한 과제는 소수 기관, 특히 PHC 발행자와 대규모 서비스 제공업체에 권력이 집중되어 있다는 점입니다. 이들 기관의 PHC 사용에 대한 결정은 상당한 영향을 미칠 것입니다.

• 공격과 오류에 대한 견고성

모든 디지털 시스템과 마찬가지로 PHC 시스템은 인증서 발급자, 서비스 제공자, 악의적인 사용자 등 다양한 당사자의 공격과 악용에 취약합니다. DoS 방지, 공격자가 중요한 기록에 액세스하는 것을 차단하는 등 사이버 보안에 대한 이전 모범 사례를 활용하는 것을 고려하세요.

논문 말미에서 저자는 앞으로 취해야 할 다음 단계를 제안한다.

첫째, 기존 디지털 네트워크 시스템에 적응하고 인공지능의 영향에 대비한다.

보다 구체적으로 AI가 인터넷과 통신을 어떻게 변화시킬 것인지 다시 생각해 볼 필요가 있습니다.

둘째, '인적증명서'를 시급한 해결방안으로 우선시한다.

마지막 그림은 이 논문의 모든 핵심 사항을 요약한 것입니다.

인터넷 플랫폼이 '실명제'를 이유로 정보를 과도하게 수집하는 것을 방지하기 위해 중국 공안부와 사이버 공간 관리국이 최근 '온라인 ID 카드'를 출시했다는 점은 언급할 가치가 있습니다.

NFC 기능이 있는 휴대폰만 있으면 되며, 신분증 인식과 얼굴 인식을 수행하고 휴대폰 번호를 연동한 후 가상의 '온라인 신분증'을 발급받을 수 있습니다.

위 '네트워크 번호'는 문자와 숫자로 구성되어 있으며, 일반 텍스트 본인 확인 정보를 포함하지 않으며, 이름, 주민등록번호 등의 정보를 입력할 필요 없이 타오바오, 위챗, 기타 앱에서 실명인증에 직접 사용할 수 있습니다. , 등.

개인정보 보호 측면에서 더 나은 해결책은 무엇이라고 생각하시나요?

참고자료:

https://x.com/sjgadler/status/1824245211322568903

https://news.mit.edu/2024/3-questions-proving-humanity-online-0816

https://www.engadget.com/cybersecurity/national-public-data-confirms-breach-that-exposed-americans-social-security-numbers-100046695.html