소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

[텍스트/관찰자 네트워크 Liao Yiheng]

AI 시대의 도래와 함께 올해 미국 선거도 일부 학자들 사이에서 '유권자에게 영향을 미치기 위해 인공지능을 대규모로 활용한 사례'로 평가되기도 한다. 미국 사람들은 선거에서 대규모 언어 모델의 개입이 미국 민주주의 시스템에 부정적인 영향을 미칠 것이라는 우려가 있습니다. 2023년 슬로바키아 선거에서 발생한 AGI 딥페이크 녹화 사건이 AI가 선거에 개입한 첫 사례에 불과하다면, 현재 진행 중인 미국 선거는 AGI의 선거 개입 대전으로 볼 수 있다.

지난 8월 초 트럼프는 "디트로이트 집회에서 해리스를 기다리는 수천 명의 사람들의 사진은 AI에 의해 위조됐다"고 비난했지만, 여러 언론 매체의 로이터 조사팀을 포함한 해리스 팀은 이를 부인했다. 해리스의 이름이 입증됐다. 해리스 집회에서 큰 소리가 난 건 사실이지만, 이는 미국 국민들이 AI 기술이 선거에 개입하는 것에 대해 매우 불안해하고 있음을 보여준다.

현지 시간으로 8월 7일, 미시간주 로물루스 공항에서 열린 유세 집회에 참석하기 위해 한 무리의 사람들이 카말라 해리스 부통령과 팀 월즈 미네소타 주지사를 기다리고 있었습니다. 도널드 트럼프는 집회 참가자 수를 비난하고 행사 사진에 대해 거짓 주장을 했습니다. 인터넷 사진

공교롭게도 머스크는 올해 7월 26일 자신의 플랫폼 X에 "이거 대단해"라는 문구와 웃는 이모티콘이 담긴 딥페이크 영상을 공유했다. 이번 영상에는 해리스 캠페인팀의 이전 캠페인 광고 자료는 물론, 미국에서 젠더와 인종 갈등을 불러일으키기에 충분한 해리스 내레이션이 담겨 있다. “나는 여성이고 유색인종입니다. 내가 하는 말은 무엇이든 비난한다. 그런 말을 한다면 당신은 성차별주의자이자 인종차별주의자다.”

해당 영상은 사흘 만에 조회수 1억회를 돌파하며 물의를 빚었다. 사실 이 영상은 해리스님이 직접 촬영한 것이 아니고 생성인공지능으로 합성한 영상인데, 합성된 해리스의 목소리가 동반되어 꽤 사실적입니다. 그러나 머스크는 해당 게시물에 해당 영상을 가짜라고 표시하지 않았다.

해리스의 선거캠페인팀은 성명을 통해 “이번 사건은 미국 대선이 다가올 때 인공지능이 만들어낸 사실적인 이미지나 영상, 영상이 얼마나 활용될 수 있는지를 보여주는 좋은 사례다. 정치를 오도하고 있다”고 말했다.

머스크가 자신의 소셜미디어 X에 다시 올린 영상. 영상은 생성적 인공지능(AGI)으로 합성되었으며 실제 캠페인 정보와 혼합되어 매우 사실적으로 만들어졌습니다. 인터넷 사진

실제로 AI 기술이 미국 대선에 개입했다는 이야기는 올해 초부터 계속 전개됐다. 바이든이 경선을 포기하기 전부터 뉴햄프셔 예비선거를 방해하는 'AI 바이든' 사건이 발생했다. 관련 보도에 따르면 일부 유권자들은 올해 1월 21일 바이든의 합성 음성을 이용해 11월 최종선거를 위해 표를 아껴달라는 전화를 받고, 당 예비선거에 참여하면 더 이상 투표를 할 수 없게 된다는 내용의 전화를 받았다. 최종선거에 참여하기 위해 나중에 캘리포니아 버클리 대학의 디지털 포렌식 전문가인 하니 파리드(Hani Farid)는 전화 음성이 실제로 "상대적으로 열등한" 인공 지능 기술에 의해 위조되었음을 확인했습니다.

이어 올해 2월 25일 민주당 대선후보이자 필립스 하원의원의 정치 컨설턴트인 스티브 크레이머는 자신이 카펜터를 고용했다는 사실을 인정하고 카펜터에게 AI 소프트웨어를 통해 바이두 소프트웨어를 만들어달라고 요청했다. 유권자들에게 요청한 것은 "대중에게 오해의 소지가 있는 AI 적용을 방지하도록 상기시키려는 것"이었습니다.

Magic Carpenter는 "가짜 바이든 통화" 오디오를 생성해 달라는 요청을 받는 과정을 언론에 설명했습니다. 인터넷 사진

미국 대선에서 양당의 AI 대결은 이미 시작됐다. 민주당도 공화당의 AI 활용에 대한 과감하고 정교한 경험을 봤다.

올해 3월에도 미국 소셜미디어에는 트럼프와 흑인 유권자들의 사진이 계속해서 등장했다. BBC 사실 프로그램 파노라마의 조사팀은 이미지의 공통점은 모두 흑인이 트럼프 전 대통령을 지지하고 공화당에 투표할 것을 암시하는 것으로 묘사했다는 점을 발견했습니다. 실제로 이미지는 전략적 내러티브를 발전시킵니다. 트럼프는 이제 흑인 커뮤니티에서 큰 인기를 얻고 있습니다. 2020년 선거에서 바이든의 승리의 열쇠는 흑인 유권자들임을 알아야 합니다.

물론 이러한 딥페이크 이미지는 결국 발견되었지만, 확산 과정에서 이러한 딥페이크 사진에는 실제가 아닌 속성을 나타내는 워터마크나 주석이 없었습니다. 일부 세심한 네티즌은 이러한 사진의 광택과 질감이 왜곡된 것을 발견할 수 있지만 모든 사람이 이를 식별할 만큼 충분한 에너지와 판단력을 갖고 있는 것은 아닙니다.

트럼프는 흑인 여성 그룹을 포옹했습니다. 이 사진은 나중에 생성 인공지능에 의해 딥페이크된 것으로 확인됐다. 인터넷 사진

조사 결과 이들 사진 중 일부는 트럼프를 풍자한 계정에서 나온 것이지만 청소 후 널리 유포된 것으로 밝혀졌고, 일부는 트럼프 자신의 광적인 지지자들에 의해 생성된 것으로 밝혀졌다. 해당 이미지 중 하나를 만든 사람은 BBC에 "나는 그것이 실제 사진이라고 말하지 않았다"고 말했다. AGI가 심각한 가짜 사진을 생성하기 전에 대부분의 사람들은 "보는 것이 믿는 것"이라는 판단을 내리기 때문에 이런 종류의 대답은 사람들을 무력감을 느끼게 합니다.

트럼프의 광적인 추종자들이 자생적으로 퍼뜨린 허위 정보에 더해, 트럼프 캠페인 자체도 AI 분야에 대한 관심과 투자를 늘리고 있다. 캠페인 재정 기록에 따르면 트럼프 팀, 공화당 전국위원회 및 관련 기금 모금 위원회는 트럼프의 전 캠페인 관리자인 Parscale이 소유한 Campaign Nucleus와 같은 관련 회사에 220만 달러 이상을 지불했습니다. Campaign Nucleus의 사업에는 AGI를 사용하여 맞춤형 이메일 생성, 광범위한 데이터 분석을 통해 유권자 감정 측정, 영향력 있는 유권자 찾기, "깨어나지 않는" 영향력 있는 사람들의 소셜 미디어 게시물 증폭 등이 포함됩니다. AI 기술을 사용하여 정치적 임무 지지자를 분석하여 프로필을 구축하고 개인화된 프로그램을 통해 유권자 선호도를 조작하는 데 중점을 두고 있습니다.

일부 기술 리더들도 정치적 입장을 바꾸고 트럼프를 지지하기 시작했다는 점은 언급할 가치가 있습니다. 이는 양방향 경쟁으로 보입니다. 대표적인 인물 중 하나가 엘론 머스크(Elon Musk)입니다. 트럼프 총격 사건 이후 머스크는 자신의 소셜 플랫폼 X를 통해 트럼프 전 대통령의 출마를 지지하며 그의 캠페인을 지원하기 위해 자금을 기꺼이 제공하겠다고 공식 발표했습니다.

일부 실리콘밸리 지도자들의 공화당 지지가 반전되는 것은 다양성 정책의 부족함과도 직결되지만, 더 넓은 이유는 기술산업의 미래에 대한 고려 때문이기도 하다. 즉, 자금, 커뮤니케이션 플랫폼 등의 요소가 AGI 기술의 지원과 깊게 결합되어 예상치 못한 힘을 발휘해 왔습니다.

촘촘하게 짜여진 블랙박스의 비밀

선거를 혼란스럽게 만드는 AGI의 전례 없는 능력을 목격한 우리는 다음과 같은 질문을 하지 않을 수 없습니다. AGI가 선거에 개입하는 메커니즘은 무엇입니까?

텍스트, 오디오, 사진, 비디오를 포함하여 AGI가 생성한 딥페이크 콘텐츠(Deepfakes)입니다. 이러한 요소들은 선거선전의 정보적 요소와 인지적 요소를 깊게 얽히게 하며, 사실상 정치커뮤니케이션 모델과도 깊은 연관을 맺고 있다. AGI는 선거 과정에 깊숙이 개입함으로써 유권자의 인식에 도전하여 강화 효과와 흔들림 효과를 모두 유발함으로써 유권자를 조작하려는 목적을 달성합니다.

미국 선거 선전 분석 프레임워크 Sun Chenghao: 미국 선거 선전에서 생성 인공 지능의 개입: 경로, 시나리오 및 위험, 2024-7. [3]

미국의 선거 선전 메커니즘은 주로 입력, 처리, 출력의 세 단계로 구성됩니다. 후보자와 정당이 선거에서 승리하기 위해 선거운동을 하는 것은 본질적으로 유권자를 설득하고 유권자가 정치선전의 내용을 처리하고 소화할 수 있도록 하며 궁극적으로는 유권자의 선택을 가능하게 하는 목적을 달성하는 것입니다.

AGI의 심층적인 권한 부여를 통해 미국 선거 선전 분야에서 유권자 등록, 유권자 데이터 분석, 선거 예측 분석, 선거 전략 수립, 선거 프로세스 추적, 홍보 전달 및 선거 자원 관련 유권자 지원을 포함한 프로세스를 모두 수행했습니다. 새로운 형태로.

선거 예측, 유권자 데이터 분석, 선거 전략 수립 및 유권자 지원 측면에서 AGI의 현재 성과는 일반적으로 좋은 추세를 보이고 있습니다. 특히, 선거운동팀과 의사결정자들이 선거 상황을 보다 신속하고 세심하게 분석하고, 후보자들이 유권자 초상화를 분석하고 심층적인 세분화 전략을 수립하는 데 도움을 주며, 동시에 후보자 간의 관계를 향상시킵니다. AGI 자동 이메일 회신 및 기타 방법을 통해 유권자는 피드백 효과를 높이고 유권자에게 필요하고 시기적절한 선거 정보를 제공하는 선거 백과사전 역할을 할 수 있습니다.

그러나 다른 측면에서 AGI의 심층적 적용은 분명히 몇 가지 문제를 노출했습니다. 유권자 등록에 있어서 AGI의 원래 의도는 적극적으로 이메일을 생성하거나 전화를 걸어 유권자 투표율을 높이는 것입니다. 그러나 올해 초 'AI 바이든 전화통화' 사건은 AGI도 유권자 투표를 방해하는 데 '밝게 빛날' 수 있다는 점을 입증했다.

선거 과정 추적 및 홍보물 전달 측면에서 AGI 권한 부여의 긍정적인 의미는 선거 과정에서 비정상적인 행위를 식별하고 네트워크 사기 및 네트워크 공격을 방지하며 선거 질서를 유지하고 세분화된 그룹을 식별하며 선거 정보를 정확하게 전달하는 것입니다. 이 유권자들에 대해. 그러나 트럼프 블랙 사진 사건과 이전 슬로바키아 녹음 사건에서 우리는 AGI가 정반대의 역할을 하여 질서를 유지하고 정확한 전달이 파괴적이고 심각한 허위 전달로 변했다는 것을 볼 수 있습니다.

AGI가 유권자 인식을 교란한 선거캠페인 생태계가 초래한 피해는 주로 유권자 인식을 흔들고 유권자 인식을 강화하는 두 가지 측면에서 나타난다.

불안정화 효과 측면에서 트럼프와 흑인의 허위 사진 사건에서 AGI는 흑인, 특히 젊은 흑인의 마음을 사로잡기 위해 일련의 심각한 허위 사진을 생성하는 데 도움을 주었습니다. AGI의 정확한 포지셔닝을 통해 이러한 심각한 허위 사진이 유권자들에게 조용히 공개되어 흑인 유권자들의 이전 인식에 도전하고 주저하는 젊은 유권자들을 동요시켰습니다.

효과 강화 측면에서 보면, 선전 정보 자체는 AGI 생성 속도가 선거팀에 대규모 정보 폭격이라는 선전 이점을 가져다 줄 수 있고, 카피라이팅의 질도 유권자의 '고통'을 더 정확하게 파악하고, 기부금을 유치하세요. 또한 정치인 로봇과 같은 AGI의 의인화는 정당이 유권자에게 더 가까워지고 효율적인 의사소통과 피드백을 달성하는 데 도움이 될 수 있습니다.

AGI의 유연한 강화 효과와 짧은 시간에 대량의 정보를 생성해 정확하게 밀어내는 능력은 정치 커뮤니케이션의 특정 기간 동안 급속히 증폭되어 심오한 허위 정보의 폭발적인 확산을 쉽게 유발한다는 점에 주목할 필요가 있습니다. 이러한 상황은 선거 시작 시와 선거 침묵 기간 동안 다양한 선전 단체가 아직 입장하지 않았거나 선전 장소에서 강제로 퇴출당할 때 발생합니다.

생성 인공 지능에 의해 처리된 정보가 유권자의 인지를 파괴하는 메커니즘 Sun Chenghao: 미국 선거 선전에서 생성 인공 지능의 개입: 경로, 시나리오 및 위험, 2024-7. [3]

또한 일부 AGI 자체에는 잠재적인 이념이 있습니다. 예를 들어 유명한 GhatGPT는 테스트에서 명백한 좌파 이념적 입장을 가지고 있는 것으로 지적되었습니다. 닐 포스트먼(Neil Postman)은 미디어 기술을 분석할 때 “미디어는 은유이다”라는 관점을 언급한 적이 있습니다. 그는 미디어 자체가 강력한 의미를 담고 있으며 사람들의 사고 방식을 바꿔 현실을 재정의할 수 있다고 믿었습니다. 트럼프의 "트위터 선거"와 "트위터 거버넌스" 기간부터 우리는 유권자를 형성하는 미디어의 힘을 느꼈습니다. 이제 AGI가 미디어 플랫폼에 강력한 권한을 부여하면 이 비유 자체가 쉽게 무한히 증폭될 수 있습니다.

사이버선거를 향하여

올해 3월에는 미국 브루킹스연구소 관련 전문가들이 선거 과정에서 인공지능과 허위정보로 인한 위험성을 논의하기 위해 오프라인 토론회를 열었다. 그들은 AGI가 선거에 가져오는 현재 위험이 입법, 기술 및 커뮤니케이션 메커니즘의 심층적 통합이라는 세 가지 측면에 집중되어 있다고 믿습니다.

세미나(왼쪽부터), Darrell M. West(기술혁신센터 선임연구원), Soheil Feizi(메릴랜드대학교 컴퓨터과학과 부교수), Shana M Broussard(연방선거관리위원회 위원), Matt Perault( 노스캐롤라이나대학교 채플힐캠퍼스기술정책센터 소장) 영상화면 캡처

입법 차원에서 볼 때, 미국 연방 정부는 AGI의 선거 개입을 금지하는 법안을 제정할 준비가 되어 있지 않은 것이 분명합니다. 대부분의 책임은 여전히 ​​주 법률과 주요 민간 미디어 플랫폼에 있습니다.

2023년 10월 30일 바이든 대통령은 "인공지능의 안전하고 신뢰할 수 있는 개발 및 사용"에 관한 행정명령 14110호에 서명했습니다. AI 안전을 위한 새로운 산업 표준부터 개인정보 보호, 민권, 근로자 이익, 기술 혁신, 정부의 AI 사용 및 미국의 국제 리더십에 이르기까지 다양한 영역을 다루고 있습니다.

어느 정도, 이 행정명령은 미국 인공지능 안전 분야의 향후 입법을 위한 로드맵으로 간주될 수 있으며, 이는 이전 거버넌스에서 분열적인 궤적을 반복하는 것을 피하고 규제 작업이 주별로 분산된 제안에서 다음으로 돌아갈 수 있도록 허용합니다. 연방 시스템이 관리 중입니다. 그러나 이러한 '종합 인위적 거버넌스 방식'은 아직 초기 단계에 불과하며, 선거에서 국내 AGI로 인한 문제는 이미 본격화되고 있다.

기술적인 측면에서 일부 사람들은 심각하게 가짜로 생성된 콘텐츠를 식별하기 위해 디지털 워터마크를 사용할 것을 제안했지만 전문가들은 이것이 신뢰할 수 없다고 말합니다. 이러한 워터마크는 AGI 생성 과정에서 쉽게 지워질 수 있으며, 이는 단기적으로 해결하기 어려운 기본적인 기술적 한계입니다. 현시점에서 가장 효과적인 방법은 민간 부문이 적극적으로 일부 검토 서비스를 제공할 수 있기를 바라는 것입니다. 비록 입법 개선에 직면하여 문제를 해결하기에는 충분하지 않지만 적어도 어느 정도 역할을 할 수는 있습니다.

의사소통 메커니즘에 영향을 미치는 수준에서 회의에 참석한 전문가들은 잘못된 정보가 실제로 유권자의 5~10% 변동에 영향을 미치고 있으며 대다수의 유권자는 이미 처음부터 자신의 진영을 결정했다고 말했습니다. 이 점에 대해 다른 전문가들은 심오한 허위정보의 출현에 대해 너무 비관할 필요는 없다고 말합니다.

우선, 거짓 뉴스는 일반 사람들이 받는 정보의 극히 일부일 뿐입니다. “2020년 연구에 따르면 평균적인 미국인은 매일 약 7.5시간의 미디어 시간을 소비하며 그 중 약 14%는 뉴스와 관련되어 있으며, 또 다른 최근 연구에서는 평균적인 미국 성인 Facebook 사용자의 경우 2020년 미국 선거를 앞둔 몇 달 동안에도 그들이 본 콘텐츠 중 뉴스 관련 콘텐츠는 7% 미만이었습니다."

둘째, 실제로 존재하는 심오한 허위 정보는 주로 소수의 미국인들에게 집중되어 있다는 연구 결과가 있습니다. 이는 알고리즘으로 인해 발생하는 정보 누에고치와 관련이 있을 수 있지만 이러한 심오한 허위 정보는 일반적으로 대다수의 온라인 대중에게 도달할 수 없습니다. 특히 AGI가 사용자 그룹을 깊게 분할하는 데 도움을 준 후에는 특정 정보에 해당하는 사용자 기반이 더 작아집니다. .

연방 법률을 강화하고 기술 기업이 AGI를 공동으로 통제하도록 장려하는 것 외에도 "면책 조항"을 장려하고 캠페인 팀에 캠페인 활동의 투명성을 높이도록 요구하며 공교육 강화도 논의되고 있는 해결책이 되었습니다.

"면책조항" 해결책에 대한 추진은 초당파 상원의원 클로어 말로프스키(Clore Malofsky)로부터 나왔습니다. 그러나 문제는 진위 여부를 알 수 없는 내용에 면책조항을 표시하게 되면 해당 내용에 대한 불신이 커져 해당 표시가 있는 모든 정보의 신뢰성과 관련 선전효과가 약화된다는 점이다. 식별된 콘텐츠는 진짜일 수 있습니다.

캠페인 팀에 투명성과 사전 공개를 높이도록 요구하는 접근 방식은 캠페인에 인공 지능 시스템이 사용되는 시기와 방법을 사전에 공개하도록 요구하는 것입니다. 단지 이 방법은 현재 충분한 신뢰와 보증이 부족하다는 것입니다. 왜냐하면 이 계획은 후보자 자신에게 책임을 두더라도 후보자 자신이 책임을 지고 싶지 않거나 적극적으로 공개하지 않거나 의도적으로 자신의 행동을 숨기는 것을 꺼리면 컬렉션이 수집되기 때문입니다. 특히 여전히 특정 기술적 한계가 있기 때문에 비용 집약적입니다.

또한 벌금이나 경미한 행정 처벌에 불과한 경우 후보자는 처벌을 받을 준비가 되어 있을 수 있습니다. 결국 AGI를 잘못 적용하여 얻은 이익이 처벌 비용보다 크면 의심할 여지가 없습니다. 후보자들에게 '합법적'이라는 말은 대량살인무기를 사용할 수 있는 기회에 대한 대가를 치르는 것을 의미한다. 그러나 대선에서 승리하려는 유혹에 직면한 입법부는 법을 어기는 대가를 얼마나 치러야 하는가. 사람들이 두려워?

동시에, 트럼프의 흑인 허위사진 사건, 바이든의 AI 통화 사건 등에서 그 행위의 주도자는 후보 본인이 아니었기 때문에(적어도 표면적으로는 아니었으므로) 책임도 따른다는 점도 보아야 한다. 결국, 수천명의 지지자들에게 책임을 부여하는 것은 큰 억제력을 만들어내지 못합니다.

공교육은 즉각적인 해결책이기는 하지만 근본적으로 문제를 해결하는 것은 아니다. 우리는 대중의 모든 사람이 심오한 허위 정보를 소화할 능력이 없다는 것을 알아야 합니다. 특히 심오한 허위 내용이 참과 허위가 혼합된 경우에는 더욱 그렇습니다. 선거 기간 동안 유권자들에게 정기적으로 적극적으로 교육하고, 심각한 허위 내용을 식별하는 방법과 정보를 객관적으로 처리하는 방법을 알려줌으로써 정보 고치에 갇혀 있거나 교육을 제대로 받지 못한 유권자들에게 큰 도움이 될 것입니다.

어쨌든 심층적인 AGI 통합의 선거 시대가 도래했습니다. 정보의 진위를 식별하는 방법, 상대방을 보호하는 방법, 규제 메커니즘을 구축하고 공공 정책의 효율성을 평가하는 방법은 이번 선거에서 양당이 직면한 공통 과제가 되었습니다.

메모:

[1]AP：일론 머스크가 공유한 패러디 광고에서 카말라 해리스의 목소리를 복제해 정치권에서의 AI에 대한 우려를 제기했다.

https://apnews.com/article/parody-ad-ai-harris-musk-x-misleading-3a5df582f911a808d34f68b766aa3b8e

[2] 더페이퍼: 미국 선거가 다가오고, AI 게임 속 허위정보의 딜레마

https://www.thepaper.cn/newsDetail_forward_27359556

[3] Sun Chenghao: 미국 선거 선전에서 생성 인공 지능의 개입: 경로, 시나리오 및 위험, 2024-7, P4-5.

[4] 브루킹스 연구소: 2024-3년 선거 기간 중 AI와 허위정보가 초래할 위험성

https://www.brookings.edu/events/the-dangers-posed-by-ai-and-disinformation-during-elections/

[5] 브루킹스: 일반 목적 AI 규제: EU와 미국 전반의 융합 및 발산 영역, 2024-5

https://www.brookings.edu/articles/reglating-general- Purpose-ai-areas-of-convergence-and-divergence-across-the-eu-and-the-us/

[6] 브루킹스: 오해받는 역학: AI, 틱톡, 거짓말쟁이의 배당금이 2024년 선거에 어떤 영향을 미칠까, 2024-1

https://www.brookings.edu/articles/misunderstood-mechanics-how-ai-tiktok-and-the-liars-dividend-might-affect-the-2024-elections/

본 글은 Observer.com의 독점 원고이며, 해당 플랫폼의 의견을 대변하지 않으며, 무단 복제할 수 없으며, 그렇지 않을 경우 법적인 책임을 묻습니다. WeChat guanchacn에서 Observer.com을 팔로우하고 매일 흥미로운 기사를 읽어보세요.