2024-08-16
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
스마트한 것들(공개 계정:지드엑스컴）
엮다바닐라
편집하다윈펑
최고의 기업가가 당신에게 올리브 가지를 제안하고 "개인적으로" 위험 없이 빠르게 부자가 될 수 있는 방법이 있다고 말한다고 상상해 보십시오.양식만 작성하시면 100만 달러를 벌 수 있습니다,당신은 무엇을 할 것인가?
이 사람이 머스크이고 BBC가 그를 지지한다면 이것이 "대중에게 알려지지 않은 기술 혁명"모직물?
//oss.zhidx.com/uploads/2024/08/66bdc7fb13150_66bdc7fb0efec_66bdc7fb0efca_musk-overlap-1-900w.mp4
▲AI 머스크 딥페이크 영상
경계심이 강한 사람이라면 금세 통신사기 냄새를 맡을 수도 있지만, 인터넷에 자주 노출되지 않는 사람이라면 이런 가짜 영상을 식별하기란 쉽지 않다.
8월 16일자 뉴욕타임스 보도에 따르면, 지난해 말 82세 은퇴자 보샹은 머스크가 급진적인 투자 기회를 추진하며 위험이 없고 빠른 수익을 약속하는 모습을 목격했다. 그는 영상 속 회사에 연락해 앞으로 몇 주 동안 일련의 거래를 통해 퇴직금을 썼다.누적 “투자액”이 US$690,000를 초과합니다.。
다음으로 상상할 수 있는 것은 연금이 회사와 함께 사라진 것이다.
이름으로딥페이크AI 기술은 점점 성숙해지고 있으며, 유사한 영상이 인터넷에 넘쳐나고 있습니다. 유명 컨설팅 회사 딜로이트(Deloitte)의 추정에 따르면 딥페이크 영상은매년 수백억 달러의 사기 손실 발생。
딥페이크 영상을 모니터링하는 기관인 센시티(Sensity)가 최근 설문조사를 실시해 분석했다.2000개 이상의 단락발견된 딥페이크 동영상사향이 유형의 동영상에서 가장 일반적인 '대변인'이 되었습니다. 작년 말부터,머스크는 딥페이크 사기 동영상의 거의 1/4에 등장합니다., 그 중 암호화폐를 타겟으로 한 영상의 출연률은90%。
위조의 다른 일반적인 대상에는 유명 투자자가 포함됩니다.버핏, 아마존 창업자베조스기다리다.
1. 매년 수백억 달러의 사기가 발생하고 머스크의 출현율은1/4
이러한 동영상을 만들기 위해 사기꾼은 먼저 머스크 등의 실제 인터뷰 동영상을 찾습니다. 예를 들어, 오프닝 영상의 장면은 원래 머스크가 월스트리트저널과 인터뷰한 내용에서 나온 것인데, 그 주제는 회사의 효율적인 경영을 달성하기 위해 AI와 기타 기술을 사용하는 방법이었습니다.
//oss.zhidx.com/uploads/2024/08/66bdc80d0fb1d_66bdc80d0bb46_66bdc80d0bb23_musk-overlap-original-900w.mp4
▲원래 머스크 인터뷰 영상
사기꾼은 이점을 활용할 것입니다.립싱크 기술(Lip-synching), 캐릭터의 입 모양을 조정한 후음성 복제 도구AI 복사 음성을 추가합니다.
▲입술 동기화 (출처: "New York Times")
마지막으로 일부 동영상에는 BBC 등 전문 언론사를 모방한 가짜 아이콘도 추가되어 일반 인터넷 사용자에게 더 설득력이 있을 수 있습니다.
▲뉴스 로고 (출처: "New York Times")
이러한 딥페이크 동영상이 온라인에 얼마나 많이 유통되고 있는지 정확히 수량화하기는 어렵습니다. Facebook의 광고 라이브러리에서 이러한 사기에 대한 일반적인 홍보 문구를 검색하면 수십만 개의 광고가 표시되며 그 중 대부분은 딥페이크 동영상입니다.
//oss.zhidx.com/uploads/2024/08/66bdc7d322ac8_66bdc7d31d43f_66bdc7d31d418_bezos-ai-900w.mp4
▲AI 베조스 딥페이크 영상
YouTube에는 이러한 유형의 동영상도 가득합니다. 유튜브에서 "엘론 비트코인 컨퍼런스"를 검색하면 라이브라고 표시된 수십 개의 비디오를 얻을 수 있지만 실제로는 사전 녹화된 딥페이크 비디오입니다.
▲유튜브 딥페이크 영상 (출처: 유튜브)
이러한 '생방송'의 시청자 수는 수시로 달라질 수 있습니다.수십만하지만 유튜브 확인에 따르면 사기꾼들은 '물군대'를 이용해 인원을 늘리고 이 숫자를 인위적으로 부풀릴 수 있다.
올해 5월, 유명 컨설팅 기관 딜로이트는 제너레이티브 AI로 인한 심층 위조 사기 위험 증가에 대한 보고서를 발표했는데, 금융 기술 분야에서 심층 위조 사건이 2023년에 발생할 것이라고 언급했다.700% 증가, AI가 2027년까지 미국에서 사기 손실을 가져올 것으로 예측합니다.2023년 123억 달러에서 400억 달러로 증가，복합 연간 성장률은 32%입니다.。
▲제너레이티브 AI로 인한 사기 피해 증가 전망(출처: 딜로이트)
Deepfake 동영상의 수와 영향력이 증가하고 있습니다. 딥페이크 영상 2000여개 중 딥페이크 영상을 모니터링하는 기관인 센시티(Sensity)가 조사한 바에 따르면,머스크는 가장 흔한 '대변인'이 됐다., 에 나타납니다.딥페이크 사기 동영상의 거의 1/4그 중 암호화폐를 타겟으로 한 영상의 등장률은90%。
센시티(Sensity)의 공동 창립자인 프란체스코 카발리(Francesco Cavalli)는 다음과 같이 믿습니다.역대 최대 규모의 딥페이크 사기일 수 있다。
2. 비용은 다음을 초과하지 않습니다.10미국 달러, 몇 분 만에 수많은 동영상을 가짜로 만들다
실제로 이러한 유형의 비디오를 제작하는 데 드는 비용은 높지 않습니다.비용은 10달러 미만, 당신은 할 수 있습니다몇 분 안에가짜 영상이 대량 제작됐다.
이러한 AI 생성 비디오는 완벽하지 않습니다. 머스크는 일부 비디오에서 로봇처럼 들리며 그의 입 움직임이 항상 일관되지는 않습니다. 하지만 이 영상들은 꽤 많은 사람들을 속일 수 있었고, 기술은 계속 발전하고 있습니다.
//oss.zhidx.com/uploads/2024/08/66bdc81a2f25c_66bdc81a2b4b0_66bdc81a2b48f_musk-ted-ai-320w.mp4
▲AI 머스크 딥페이크 영상
Sensity의 조사에 따르면 이러한 유형의 사기꾼은 주로 아시아 및 동유럽 국가에서 발생합니다. 그들은 무료 및 저렴한 도구를 사용하여 비디오를 여러 언어로 번역하고 사기를 더 넓은 범위로 계속 퍼뜨립니다.
일반적인 루틴 중 하나는가짜 AI 소프트웨어 홍보. 사기꾼은 "대변인"에게 소프트웨어가 놀라운 투자 수익을 창출할 수 있다고 주장하게 하여 대상이 소액(대개 약 250달러)을 먼저 건네도록 유도한 다음 초기 투자 가치가 증가하고 있다고 주장하여 천천히 유인합니다. .더 투자하세요.
예를 들어, Tesla 주주총회의 다음 영상에서 머스크는 AI로 구동되는 자동화된 거래 제품을 "시연"했습니다.매일 특정 투자를 두 배로 늘릴 수 있습니다, “4,500원만 투자해도 하루 8,000원의 안정적인 수익을 얻을 수 있습니다.” (참고: 랜드는 남아프리카 공화국의 통화 단위입니다)
//oss.zhidx.com/uploads/2024/08/66bdc7f0238a4_66bdc7f01fb98_66bdc7f01fb73_elon-tesla-ai-900w.mp4
▲AI 머스크 딥페이크 영상
이러한 AI 사기꾼은 일반적으로 대상을 표적으로 삼습니다.이전 인터넷 사용자, 암호화폐, AI 등의 주제는 물론 머스크, 버핏 같은 사람들도 잘 알지만 안전한 투자 방법에는 익숙하지 않습니다.
캘리포니아 대학교 데이비스 캠퍼스의 기술 연구 교수이자 암호화폐 시장 전문가인 핀 브런튼(Finn Brunton)은 “노인들은 매우 부유하고 속기 쉬운 집단입니다. 소셜 미디어 플랫폼이 없더라도 노인들은 항상 표적이 되어 왔습니다. 사기.”
머스크가 표적이 된 이유는 머스크가 독특한 글로벌 '팬' 집단을 갖고 있기 때문이다. 암호화폐 커뮤니티를 연구하는 전문가들은 이러한 사람들이 돈을 벌기 위한 새로운 방법에 매력을 느끼는 보수적이고 반체제적인 암호화폐 애호가들로 구성되어 있어 사기의 완벽한 표적이 되는 경우가 많다고 말합니다.
암호화폐 커뮤니티 연구원 몰리 화이트(Molly White)는 이 그룹의 사람들은 항상 부의 비밀이 그들에게 숨겨져 있다고 믿었으며, 일단 비밀을 "발견"하면 그것이 필요한 전부라고 생각했다고 말했습니다.
//oss.zhidx.com/uploads/2024/08/66bdc7f68765e_66bdc7f683a1d_66bdc7f6839f9_musk-bitcoin-ai-900w.mp4
▲AI 머스크 딥페이크 영상
서두에 언급된 은퇴자 보챔프는 75세 이전에 캐나다 회사의 영업사원이었다. 그는 지난해 페이스북을 사용하기 시작했고 CNN에서 머스크가 인터뷰하는 광고를 보았다.
CNN 대변인에 따르면 그는 자신도 CNN 관계자의 영상을 봤다고 주장했지만,머스크는 수년 동안 인터뷰를 하지 않았습니다.。
보챔프 씨는 영상 속 회사와 주고받은 이메일에 따르면 지난해 12월 마그나FX(Magna-FX)라는 회사에 27,216달러를 보냈다.
Magna-FX는 판매 대리인이 소프트웨어를 사용하여 Beauchamp의 컴퓨터를 원격으로 제어하고 투자 자금을 이체하는 것처럼 보이게 하는 등 그의 투자 가치가 증가하는 것처럼 보이게 했습니다.
평가된 자금을 인출하기 위해 Beauchamp는 $3,500의 관리 수수료와 $3,500의 수수료를 지불하라는 지시를 받았습니다. 그는 돈을 송금한 후 그 중 약 20만 달러를 인출하려면 2만 달러를 더 지불해야 한다는 말을 들었습니다. 그는 돈을 다시 지불했습니다.
결국 Beauchamp는 은퇴 저축을 모두 소진하고, 신용 카드 한도를 한도까지, 신용 한도 한도를 한도까지, 여동생에게서 돈을 빌려 투자하고 비용을 지불했습니다. 하지만 사기꾼들은 계속해서 더 많은 돈을 요구했습니다. Beauchamp는 경찰에 연락했습니다.
안타깝게도 이 경우에는 아무런 진전이 없습니다.
3. 플랫폼 감독은 문제에 직면합니다. 비디오를 삭제하면 증상이 해결되지만 근본 원인은 해결되지 않습니다.
허위 광고의 만연은 플랫폼 감독의 소홀함과도 불가분의 관계에 있습니다.
위조된 영상을 게시한 일부 사람들은 법적 조치를 취했습니다. 호주의 억만장자 앤드류 포레스트(Andrew Forrest)가 페이스북 모회사인 메타(Meta)를 광고 사업 운영에 대한 과실을 이유로 민사소송을 제기했다. 그의 딥페이크 동영상은 페이스북 광고에 사용되었는데, 그는 "순진한 사용자들이 나쁜 투자를 하도록" 유인할 것이라고 믿었습니다.
Meta는 회사가 플랫폼에서 사기를 잡기 위해 자동화된 탐지 시스템을 훈련하고 있지만 사기꾼들이 탐지를 피하기 위해 전술을 끊임없이 바꾸는 "고양이와 쥐" 게임이라고도 불렀다고 답했습니다.
유튜브도 딥페이크 영상을 처리하기 위해 몇 가지 조치를 취하고 있다. 올해 3월 유튜브는 창작자들이 창작물에 AI를 사용했는지 여부를 공개하고 사기 및 동영상 변조를 금지하도록 정책을 업데이트했습니다.
유튜브는 성명을 통해 올해 1월부터 3월 사이에 콘텐츠 정책을 위반한 1,570만 개 이상의 채널과 820만 개 이상의 동영상을 삭제했다고 밝혔습니다. 하지만 영상을 삭제하는 것만으로는 여전히 지표일 뿐 근본 원인을 치료할 수는 없습니다. 플랫폼에서는 자체 검토 시스템을 재검토하여 문제를 근본적으로 해결해야 합니다.
결론: Deepfake 동영상은 인터넷을 오염시킵니다.
디지털 사기의 역사는 인터넷만큼이나 오래되었습니다. 그러나 AI 기술이 성숙해지고 AI 도구를 사용하는 비용이 점점 낮아지면서 이 기술을 사용하여 사기를 저지르는 데 드는 시간과 비용도 크게 줄었습니다. 머스크와 같은 유명인이 등장하는 새로운 딥페이크 동영상이 인터넷을 오염시키고 있습니다.
기술이 지속적으로 발전함에 따라 딥 페이크 기술을 구별하기가 더욱 어려워질 수 있으며, 이로 인해 플랫폼, 규제 기관 및 법률에 새로운 요구 사항이 부과될 수 있습니다.
원천:뉴욕 타임즈
