2024-08-18
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
인공지능(AI)의 개발과 반복으로 생성적 AI는 전례 없는 속도로 일상생활을 바꾸고 있지만, 그로부터 파생된 새로운 사기와 새로운 루틴은 위험 예방에 대한 사람들의 이해를 새롭게 하고 있습니다. 그 이면에는 소비자의 재산 안전뿐 아니라 개인의 안전에 대한 위험과 숨겨진 위험도 숨어 있습니다.
최근 외신들은 새로운 디지털 사기 사례를 폭로했는데, 사기꾼들은 복잡한 AI 도구를 이용해 테슬라 CEO 머스크 등 유명인의 영상을 제작하고, 이들 'AI 연예인'을 이용해 각종 허위 상품을 홍보하거나 높은 수익을 약속하는 행위를 하고 있다. 투자.
전형적인 사례 중 하나는 'AI 머스크'가 후원하는 소위 외환회사가 82세 퇴직자에게 평생 저축한 69만달러(약 495만위안)가 넘는 돈을 쉽게 사취한 일이다.
이러한 유형의 사기에서 사기꾼은 일반적으로 머스크가 인터뷰하는 실제 영상을 찾은 다음 AI 도구를 사용하여 그의 목소리를 대체하고 입술 동기화 기술을 사용하여 머스크의 입 모양을 편집하여 영상을 더욱 사실적으로 보이게 만듭니다. 일반 사람들에게는 이러한 종류의 가짜 비디오를 구별하기가 매우 어려울 수 있습니다.
머스크 외에도 '주식의 신' 버핏, 아마존 창업자 제프 베조스 등도 이런 사기 영상에 자주 등장하는 유명인이다.
최근 몇 달 동안 '딥페이크'로 알려진 수천 개의 AI 기반 동영상이 인터넷에 넘쳐났습니다.Deloitte의 추정에 따르면, AI 기반의 "딥페이크" 비디오/광고로 인해 매년 수십억 달러의 사기 손실이 발생할 것으로 예상됩니다.
하지만,이러한 비디오를 만드는 데는 무시할 수 있는 몇 달러의 비용이 들며 몇 분 안에 완료할 수 있습니다.이러한 동영상은 유명인이라는 이유로 Facebook의 유료 광고를 포함하여 소셜 미디어에서 널리 홍보되어 도달 범위가 늘어납니다.
사기꾼은 아래의 The Wall Street Journal의 Musk와의 인터뷰에서 나온 것과 같은 실제 비디오로 시작합니다. 여기서 질문자는 비디오 클립에도 목소리가 나오는 신문 편집자 Thorold Barker입니다.
이미지 출처: "월스트리트 저널"
딥페이크 영상에서 머스크의 입 움직임은 사람이 말하는 방식을 조정하는 립싱크 기술을 사용해 편집됐다. 사기꾼은 또한 샘플에서 원하는 사운드를 복사할 수 있는 음성 복제 도구를 사용하여 AI 음성을 추가합니다. 따라서 결과 비디오는 일반 인터넷 사용자에게 매우 설득력이 있을 수 있습니다.
어떤 사람들은 이것에 속았습니다.82세의 은퇴자 스티브 보챔프(Steve Beauchamp)가 전형적인 사례이다. 외신 보도에 따르면 지난해 말 은퇴한 82세 남성 보샹(Beauchamp) 씨는 영상 광고를 시청했다. 영상 속 머스크는 빠른 수익을 약속하는 공격적인 투자 기회를 지지하는 모습과 그의 입 모양, 목소리가 딱 들어맞는다.또한 머스크의 상징적인 남아프리카 악센트도 포함되어 있습니다.그것은 매우 실제처럼 보입니다. 그래서 Beauchamp는 Magna-FX라는 광고 뒤에 있는 외국환 회사에 연락하여 248달러에 계좌를 개설했습니다. 몇 주에 걸쳐 일련의 거래 끝에 Beauchamp는 은퇴 계좌를 고갈시켰고 결국 690,000달러 이상을 투자하게 되었고 이 금액은 모두 사라졌습니다.
다른 사람에 따르면비영리 소비자 옹호 단체인 Better Business Bureau의 보고서에 따르면 한 텍사스 남성은 2023년 2월 소위 YouTube '라이브' 동영상에서 머스크가 연설하는 것을 보고 3.6달러 상당의 돈을 잃었다고 말했습니다. 그는 "비트코인을 보냈는데 다시는 아무것도 받지 못했다"고 말했다.
'딥페이크' 모니터링 및 탐지를 담당하는 기업 센시티(Sensity)는 2,000개 이상의 딥페이크 동영상을 분석한 결과,머스크는 이런 유형의 영상에서 가장 흔한 'AI 이미지'다. 구체적으로 지난해 말부터 '딥페이크' 사기의 거의 1/4에 'AI 머스크'가 등장했다. 암호화폐 관련 '딥 페이크' 영상에서 그의 등장 빈도는 무려 90%에 달한다.
이와 관련해 암호화폐 커뮤니티를 연구하는 전문가들은 머스크가 보수세력, 반기득권세력, 암호화폐 매니아 등 전 세계적으로 독특한 팬층을 보유하고 있다고 전했다.이는 또한 디지털 사기꾼의 완벽한 표적이 됩니다. 더욱이 이 그룹 중 나이가 많은 인터넷 사용자는 사기꾼의 표적이 될 가능성이 더 높습니다. 이 그룹은 암호화폐, AI 및 머스크에 대해 매우 잘 알고 있지만 충분히 경계하지 않는 경우가 많습니다.
머스크 외에도 '주식의 신' 버핏, 아마존 창업자 제프 베조스 등도 이런 사기 영상에 자주 등장하는 유명인이다.
외신 보도에 따르면 현재 얼마나 많은 '딥 페이크' 동영상이 온라인에 유포되고 있는지 정량화하기는 어렵지만, 페이스북 광고 라이브러리에서 이러한 사기에 대한 일반적인 키워드를 검색하면 수십만 개의 광고가 드러날 수 있으며, 그중 상당수에는 '딥 페이크' 동영상이 포함되어 있습니다. .
Facebook은 정책을 위반하는 많은 동영상을 삭제하고 일부 계정을 정지했지만, 다른 동영상은 여전히 온라인에 유포되고 있으며 매일 더 많은 동영상이 등장하고 있습니다. 페이스북뿐만 아니라 유튜브에도 '라이브' 태그를 사용하는 가짜 동영상이 넘쳐난다. 하지만 사실 이들 영상은 사전 녹화된 '딥페이크' 영상이다.
유튜브는 성명을 통해 올해 1분기에만1,570만 개 이상의 채널과 820만 개 이상의 동영상이 삭제되었습니다.이 콘텐츠의 대부분은 스팸 방지 정책을 위반하여 삭제되었습니다.
이런 '딥페이크' 광고가 널리 퍼지자 호주의 억만장자 앤드류 포레스트(Andrew Forrest)는 페이스북의 모회사인 메타(Meta)가 광고 사업 운영을 소홀히 했다고 비난하며 민사소송을 제기하기도 했다. 그는 페이스북의 광고 사업이 '순진한 사용자의 잘못된 투자'를 유도한다고 믿는다. Meta는 자사 플랫폼에서 사기 행위를 포착하기 위해 자동 감지 시스템을 교육하고 있지만, 자금이 풍부한 사기꾼은 감지를 회피하기 위해 전략을 계속 변경할 것이라고 언급했습니다.유튜브는 정책상 사기와 조작된 동영상을 금지하고 있으며, 올해 3월에는 제작자들이 AI를 사용하여 진정한 콘텐츠를 제작할 때 이를 공개하도록 요구했습니다.
사실 디지털 사기는 새로운 것이 아니지만, 지난해 AI 도구 오픈소스 이후 '딥 페이크' 동영상의 새로운 물결이 폭발적으로 증가했습니다.
올해 초,미국 연방거래위원회(FTC)와 FBI도 AI 기반 사이버범죄와 심층 사기가 증가하고 있다고 경고했다.FBI는 "범죄자들은 AI를 사용해 사이버 공격과 기타 범죄 활동을 더욱 효과적이고 탐지하기 어렵게 만들고 있다"고 밝혔다.
'딥 페이크' 영상은 완벽하지 않고, 심지어 일부 영상에서도 'AI 머스크'의 입 모양이 맞지 않는 경우도 있지만, 일부 전문가들은 일부 사기꾼들의 표적 집단에게는 그들이 제작하는 영상이 충분히 흥미롭고 설득력이 있다고 본다. 항상 개선됩니다.
또한 일부 사기는 가짜 인공 지능 소프트웨어를 홍보하여 상당한 투자 수익을 창출할 수 있다고 주장하는 경우가 많습니다. 사기꾼은 이를 사용하여 대상 고객을 속여 처음에 소액(약 $250)의 돈을 투자하도록 합니다. 사기꾼들이 투자 가치가 높아질 것이라고 계속 주장함에 따라 사람들은 천천히 더 많은 돈을 투자하도록 유혹됩니다.
평생 저축한 돈을 사기당했습니다보샹그는 Better Business Bureau에 제출한 보고서에서 "현 시점에서 나는 모든 비판과 조롱을 나의 속임에 대한 처벌로 받아들일 용의가 있습니다"라고 말했습니다.
그는 사기꾼들에게 공개하지 않은 적은 금액의 퇴직 계좌와 연금에 의존하고 있으며, 저축한 돈으로 전 세계를 여행할 계획이라고 말했습니다.보샹현지 경찰에 신고가 접수됐으나 사건은 더디게 진행되고 있다. 그는 “사기 사건이 많아 제 사건은 보류됐다”며 “큰 기대는 하지 않았다”고 말했다.
매일 경제 뉴스
