소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

고정 초점(dingjiaoone) 원본

저자 | 왕 루

편집자 웨이 지아

보는 것은 믿는 것이다. AI의 얼굴 변화는 많은 사람들을 속였다.

이틀 전 후베이 경찰은 AI 얼굴 변경 기술을 사용해 소셜 계정을 잠금 해제하고 이를 재판매해 이익을 얻은 사례를 적발했습니다. 범죄자들은 ​​AI 얼굴 변경 기능을 사용해 사람들이 플랫폼에 의해 동결된 데이트 계정을 잠금 해제할 수 있도록 도우며 잠금 해제된 계정당 15~30위안을 청구합니다. 이들 갱단은 총 2,107개 계좌를 동결해제해 40만 위안의 이익을 챙겼다.

데이터에 따르면 2023년에는 AI 기반 심층위조 사기가 3,000% 급증할 것으로 나타났다. 딥페이크(Deepfake)라고도 불리는 딥페이크는 학습(Learning)과 페이크(Fake)의 합성어로 주로 AI 딥러닝 기술을 이용해 사람의 사진이나 사진을 합성하는 것을 말한다. 비디오 또는 사운드 중 가장 일반적인 것은 AI 얼굴 변경입니다. 산업정보기술부는 최근 AI 얼굴을 바꾸는 사기 위험 알림 기능을 출시할 예정이라고 밝혔다.

한편으로는 AI 얼굴 변경 사기 사건이 자주 발생하고, 다른 한편으로는 AI 얼굴 변경 기술이 계속해서 반복되고 있다.

AI 서클은 최근 AI 얼굴 변경 프로젝트인 Deep-Live-Cam으로 떠들썩합니다. 사용자는 Zuckerberg나 Dong Yuhui 등 원하는 사람에게 실시간으로 얼굴을 변경하려면 사진을 업로드하기만 하면 됩니다.

이 프로젝트는 무료이며 모든 사용자에게 공개되어 있으며 GitHub(코드 호스팅 플랫폼)에 게시되어 있으며 개인용 컴퓨터 설치를 지원합니다. 프로젝트 개발자가 설치 방법을 발표해 기술 경험이 없는 일반 사람들도 동시에 학습하고 설치할 수 있다.

간단하고 편리한 작동과 얼굴 변화의 높은 현실성으로 인해 Deep-Live-Cam은 GitHub 핫리스트에서 1위를 차지했으며 24시간 만에 1,600개 이상의 별을 얻었습니다(별은 프로젝트 좋아요 및 팔로우 지표를 나타냄, 수천 개의 별) 꽤 좋다) 수준). 많은 네티즌들은 머스크로 얼굴을 바꾸며 글로벌 억만장자가 된 기분을 경험했다.

하지만 모두가 AI 얼굴 변신 기술의 획기적인 발전을 한탄하면서도 '사기가 쉬워졌다'는 걱정도 함께 하고 있다. AI의 얼굴 변화를 보이콧해야 할까요?

일반인도 사용할 수 있는 얼굴변화 AI,

가격은 12위안 정도로 저렴해요

현재 딥라이브캠(Deep-Live-Cam)이 뜨겁게 논의되는 가장 큰 이유는,사용자는 사진만 업로드하면 되지만 교체 효과는 매우 현실적이며 실시간 얼굴 교체도 지원합니다.

사실 '실시간 얼굴 바꾸기' 기능에 대한 기술적인 문턱은 높지 않다.

Ruilai Intelligence의 공동 창업자이자 알고리즘 과학자인 Xiao Zihao는 실시간 비디오 얼굴 변경 효과를 달성하는 방법에는 두 가지가 있다고 말했습니다. 하나는 미리 제작된 얼굴 변경 비디오를 재생하는 것이고, 다른 하나는 액세스하는 것입니다. 실시간으로 얼굴이 바뀌는 영상. Deep-Live-Cam은 후자에 속합니다.

유형에 관계없이 AI 얼굴 변경 동영상은 이전 프레임과 다음 프레임의 연속성을 고려해야 하며, 연속 얼굴 동영상을 기반으로 한 처리는 이전 프레임의 많은 감지 리소스를 기반으로 사소한 조정을 할 수 있습니다. 연속 프레임 기반 영상/개별 프레임에서 얼굴을 바꾸는 것보다 라이브로 얼굴을 바꾸는 것이 더 효율적이다”라고 AI 기술에 종사하는 한 연구원은 말했다.

얼굴을 바꾸는 AI의 기본 기술은 Deepfake입니다. 실무자들은 Deep-Live-Cam도 이 기술을 사용하므로 합성을 생성하는 데 필요한 재료와 컴퓨팅 성능에만 기반하면 비용이 그리 높지 않을 것이라고 추측합니다.

Xiao Zihao는 다른 하드웨어 구입 비용을 고려하지 않으면 대부분의 AI 얼굴 교체 비용은 주로 사진 및 컴퓨팅 성능을 포함하여 한 번에 약 12위안 정도에 불과하며 Deep-Live-Cam은 더 낮을 수도 있다고 말했습니다. 다른 AI 얼굴 변경 도구에 비해 Deep-Live-Cam은 더 적은 수의 사진을 사용하며 일반 컴퓨터도 지원하며 사진 비용과 컴퓨팅 성능도 더 낮습니다.

이에 비해 Deep-Live-Cam은단 한 장의 사진으로 변신을 지원하는 모습은 수련생들을 더욱 충격에 빠뜨렸다.이전 AI 얼굴 변화 제품에서는 사용자가 다양한 각도에서 최소 12장의 사진을 제공해야 했기 때문입니다.

사진 난이도가 낮아져 사용자가 재미있게 즐길 수 있습니다. AI 추종자 Xiao C는 이전에 AI 얼굴 변경 도구를 접한 적이 없다고 말했습니다. 그는 Deep-Live-Cam의 작동 임계값이 높지 않으며 게시자의 지시에 따라 완료할 수 있다고 느낍니다. 얼굴을 바꾸는 재료를 찾는 것도 그리 어렵지 않습니다.

그는 궈덕강, 우징, 레이가인 등 유명인으로 얼굴을 바꾸고 각각 한 장의 사진만 사용했다. 정면 얼굴, 이마가 가리지 않은 사진, 자연광, 피부색에 가까운 사진, 증명사진에 보이는 비율을 제공해주시면 한 장의 사진으로 얼굴교체 효과가 있다고 하셨습니다. 매우 자연스럽습니다.

한 명 이상의 실무자는 일부 영화 및 TV 드라마에 사용되는 AI 얼굴 변경 기술이 높은 임계값과 높은 비용을 가질 뿐만 아니라 얼굴 변경 효과가 충분히 자연스럽지 않으며 촬영 중에 변형과 왜곡이 자주 발생한다고 믿고 있습니다. 말하는 과정. “이것이 AI 얼굴 변화 도구의 가장 큰 문제인가요?Deep-Live-Cam은 생방송 중에 사진의 효과를 지원할 수 있습니다. 얼굴 가장자리에 뚜렷한 매핑 흔적이 없으며 피부색이 원래 캐릭터와 크게 다르지 않습니다. AI 얼굴 변화 도구."라고 Xiao Zihao는 개발자들이 이전 AI 얼굴 변경 도구에는 없었던 이미지 렌더링 모델에서 획기적인 발전을 달성했어야 한다고 분석했습니다.

그러나 Deep-Live-Cam에는 얼굴 변경은 지원하지만 음성 변경은 지원하지 않는 등 여전히 몇 가지 버그가 있습니다. 그러나 Xiao Zihao는 이것을 달성하는 것이 어렵지 않고 실시간 음성 변경 도구에 연결하기만 하면 약간의 프로그래밍 기초만 있으면 누구든지 완료할 수 있다고 말했습니다.

얼굴을 바꾸는 AI,

피할 수 없는 사기 및 침해

Deep-Live-Cam과 같은 도구는 사용자에 대한 문턱을 낮췄지만, 범죄자가 사진만으로 얼굴을 바꾸고 사기를 칠 수 있다는 점을 모두가 두려워하기 시작했습니다.

Ruilai Smart Data는 국내 AI 사기 사건과 관련된 금액이 2020년 20만 건에서 2023년 1,670만 건으로 증가했으며, 연평균 성장률은 1928.8%에 달한다고 지적했습니다. 2024년 상반기 AI 사기 건수는 1억8500만건을 넘어섰다. Qi'anxin이 발표한 '2024년 인공지능 보안 보고서'에 따르면, AI 기반 심층 위조 사기가 2023년에 3,000% 증가한 것으로 나타났습니다.

AI 음성 변경, AI 얼굴 변경, AI 생성은 AI 사기에 일반적으로 사용되는 세 가지 방법입니다. 그 중 AI 생성 콘텐츠는 시간이 제한되어 있고 화질과 캐릭터에 명백한 결함이 있습니다. -변형은 범죄자들이 가장 일반적으로 사용하는 방법입니다. 대부분의 사람들은 AI가 음성을 바꾸는 것보다 얼굴을 바꾸는 것이 더 기만적이라는 "보는 것이 믿는 것"이라고 믿습니다.

AI의 얼굴 변화는 노인들을 속였을 뿐만 아니라 기술 분야에서 일하는 많은 젊은이들도 하룻밤 사이에 수백만 달러를 잃었습니다.

공개 언론 보도에 따르면 지난해 한 기술 회사의 CEO는 친구로부터 송금 요청을 받고 10분도 채 되지 않아 430만 위안을 사기당했습니다. 사기꾼은 주로 AI 얼굴 변화 기술을 사용했습니다. 홍콩의 한 다국적 기업 직원도 범죄자들이 설계한 고위 간부들과의 화상회의에 속아 2억 홍콩달러를 상대방 계좌로 이체한 사례도 있었다.

AI의 얼굴 변화가 '실물과 혼동될 수 있는' 지경에 이르렀다는 것이 실무자들의 공감대다.

사기 방지 팀장인 Li Xu는 AI 얼굴 변화 기술에 대한 관심이 다양한 사기 사건에서 비롯되었다고 말했습니다. 그는 지난 2년 동안 AI 얼굴 변경 사기 사례가 자주 발생했으며 시장에는 매우 성숙한 AI 얼굴 변경 사기 방법이 약 3가지 있다고 말했습니다.

첫 번째는 AI를 이용해 얼굴을 바꾸고, 가짜 음란물 동영상을 만들어 피해자를 협박하는 것이다.

예를 들어 범죄조직은 인터넷 등 다양한 채널에서 피해자의 사진과 영상정보를 수집한 후 원클릭 옷벗기기, AI 얼굴 바꾸기 등 합성과정을 거쳐 위조된 음란영상이나 누드사진을 피해자에게 보낸다. 강탈을 위해.

두 번째 유형은 AI를 활용해 얼굴을 바꾸고 지인인 척 사기를 치는 것이다.

예를 들어, 사기조직은 시중에서 판매되는 일부 변신 도구를 사용하여 피해자의 친척, 친구, 동료, 지도자 등으로 가장하고 먼저 긴급한 이유를 만들어 속인 대상의 긴급성을 이용하여 사기를 저지릅니다. . 경계심을 늦추고 돈을 이체하는 것은 쉽습니다.

이제 Deep-Live-Cam을 사용하면 피해자의 사진 한 두 장만 수집하면 딥 페이크 비디오를 만들 수 있습니다. Li Xu는 AI 얼굴 변경 사기의 정도가 대부분의 일반 사람들이 인식할 수 없는 수준이라고 생각합니다. 통신사기의 대본도 직접적으로 바꿨다. 통신사기의 대본은 막기 힘들고 악화되고 있다.

셋째, 인공지능(AI) 얼굴 변화는 연예인인 척하며 라이브 방송을 진행하고, 사용자를 속여 주문을 하도록 하는 데 사용된다.

예를 들어, 앵커는 'AI 얼굴 바꾸기'를 이용해 생방송 방에서 연예인 얼굴을 '바꾸기'를 통해 생방송 트래픽을 늘리고 생방송의 상품 판매에 도움을 줍니다.

또한 AI를 통해 연예인/일반인의 얼굴을 바꾸는 장문의 영상을 제작하거나, 타인의 허락 없이 이모티콘을 만드는 등의 침해 문제도 매우 흔합니다.

AI의 얼굴을 바꾸는 사기 사건은 다양한 방법으로 자주 발생하며 이는 이 기술의 성숙도 및 폭과 밀접한 관련이 있습니다.

Hanhao Technology CEO Wu Jieqian은 "Dingjian"에게 이렇게 말했습니다."현재 AI 비디오 생성, 디지털 인간 및 AI 얼굴 변경 기술은 모두 성숙했으며 AI 얼굴 변경은 가장 먼저 개발된 분야입니다."

2014년 딥페이크(Deepfake) 기술의 등장으로 얼굴 바꾸는 AI가 탄생했지만, 그 규모는 소규모로 확산됐다. 2017년 일부 사용자들이 이 기술을 사용해 허위 음란물을 게시한 이후부터 AI 얼굴 바꾸기가 등장했다. 그러나 동시에 이 기술은 엄청난 양의 가짜 콘텐츠를 가져오기 때문에 논란이 되었습니다.

한 명 이상의 실무자는 최근 몇 년 동안 AI 얼굴 변경에 대한 공개 논의가 대부분 영화와 TV 드라마를 보호하는 데 중점을 두었지만 감독 부족으로 인해 AI 얼굴 변경을 사기에 사용하는 것이 결코 멈추지 않았다고 말했습니다. 더욱이 AI 얼굴 변화 기술이 반복되어 현재는 이 사업에 참여하는 몇몇 주요 제조사들 외에도 국내의 많은 디지털피플과 AI 기반 영상 스타트업들이 AI 얼굴 변화 사업을 전개하고 있으며, 기술은 상대적으로 인기가 높습니다.

기술은 성숙하고 대중적이며 감독도 어렵습니다. 결과적으로 AI 얼굴 변경 기술은 수년 동안 남용되었습니다.

점점 더 현실감 넘치는 AI 얼굴 교환을 식별하는 방법은 무엇입니까?

지난 2년 동안 AI의 얼굴 변화로 인해 많은 불법 및 범죄 행위가 발생했으며, 이러한 통제 불가능성으로 인해 일부 사람들은 AI의 얼굴 변화 기술을 보이콧해야 한다고 생각하게 되었습니다.

그러나 많은 실무자들은 기술 자체가 중립적이며 기술의 좋고 나쁨 영향은 주로 사용자에 달려 있다고 믿습니다. 얼굴을 바꾸는 AI 기술의 등장과 반복이 멈춰서는 안 된다.

Jesse Wu는 현재 국내외에서 AI 얼굴 변화 기술에 대한 일률적인 접근 방식은 없으며 입법 관리에 더 중점을 두고 있다고 말했습니다.

예를 들어, 미국은 심층 위조에 관한 특별법을 도입했고, 유럽 연합은 일반 데이터 보호 규정(GDPR)과 같은 기존 법적 체계 및 규정에 심층 위조를 통합했으며, 독일, 싱가포르, 영국과 같은 국가도 심층 위조를 통합했습니다. 위조 관련 범죄를 형법 체계에 깊이 포함합니다. 중국도 '인터넷 정보 서비스 심층 종합에 관한 규정'에서 이 기술에 대한 사양을 명시했습니다.

많은 실무자들은 AI로 생성된 콘텐츠와 기타 관리 방법에 라벨을 붙이고 AI 사기를 예방할 수 있는 몇 가지 방법을 대중에게 가르치는 것이 매우 필요하다고 생각합니다.

예를 들어, 일부 기술자는 화상 통화 중에 상대방에게 손가락을 얼굴에 대고 얼굴이 변형되었는지 주의 깊게 관찰하도록 요청하거나 상대방에게 입을 열어 치아와 치아가 손상되었는지 확인하도록 요청할 수 있다고 제안한 적이 있습니다. 혀는 명확하고 완전하여 이미지가 실제 사람인지 합성인지 판단할 수 있습니다.

이 방법은 작년에는 상대적으로 효과적이었지만 올해는 AI 얼굴 변화 기술이 업그레이드되면서 실패했습니다.

Xiao Zihao는 현재의 AI 얼굴 변화 기술이 달성할 수 있다고 말했습니다.장애물이 나타나도 얼굴과 움직임이 변형되지 않으며 화질이 매우 선명합니다.Li Xu도 발견했습니다.최근 AI의 얼굴을 바꾸는 사기 사례는 매우 강력한 기술적 수단을 사용하고 있어 단순히 움직임만으로 식별하는 것이 거의 불가능합니다.

Li Xu는 AI 얼굴 변화 기술의 급속한 발전을 고려할 때 현재로서는 경계심을 높이는 것이 상대적으로 효과적인 방법이라고 믿습니다. 예를 들어, 지인에게 돈을 빌려달라는 영상통화를 받았을 때, 상대방만이 알고 있는 사적인 질문을 상대방에게 물어보고, 주변에 더 많은 사람들에게 확인을 요청할 수 있습니다.

일부 실무자들은 AI를 사용하여 AI를 식별하는 것이 좋은 방법일 수 있다고 생각합니다.

예를 들어 얼굴 가장자리에 흠집이 있는지에 초점을 맞춰 사진에 명백히 상식에 어긋나는 요소가 있는지 먼저 확인한 다음 몇 가지 AI 도구를 사용합니다. Xiao Zihao는 AI를 사용하여 AI를 탐지하면 대부분의 사기를 식별할 수 있다고 믿습니다. 현재 많은 기업과 정부 부서에서 AI 얼굴 변경 방어 시스템에 협력하기 위해 접근하고 있습니다.

하지만 이런 움직임은 국내외에서도 논란을 불러일으켰다.

우선, 이 방법에는 특정 사용 기준이 있으며 사용자는 휴대폰/컴퓨터에 관련 애플리케이션을 다운로드해야 합니다. 둘째, 본질적으로 현재의 AI 얼굴 변경 도구에 주로 대응하는 이러한 유형의 방어 도구에는 일정한 지연이 있습니다. 그러나 AI 얼굴 변경 기술과 합성 방법은 항상 변화하고 있습니다.

AI 얼굴 변신 사기 등 불법 행위에 대한 처벌 강화, AI 얼굴 변신 음란물 판매, 연예인 얼굴 변신 상품 판매 등 관련 법규 개선에 많은 국민이 기대를 걸고 있다.

지난해 항저우 샤오산구 인민법원은 인공지능(AI)으로 얼굴을 바꾸는 음란 영상을 제작한 사건에 대해 판결을 내렸다. 또한 Jin Qun은 AI 얼굴 변경 방법을 사용하여 시청자의 지불을 유도했으며 사건과 관련된 총액은 60,000위안이 넘었으며 결국 징역 7년 3개월과 벌금 60,000위안을 선고 받았습니다.

그러나 나는 모든 사람들에게 상기시키고 싶습니다.모든 AI 얼굴 변경이 초상권을 침해하는 것은 아닙니다.

올해 6월 베이징 인터넷 법원은 두 건의 AI 얼굴 변경 침해 소송을 선고했습니다. 두 명의 중국 스타일의 짧은 동영상 모델이 자신의 동영상이 소셜 플랫폼의 얼굴 변경 앱에 표시된 것을 발견하고 해당 앱을 운영하는 기술 회사를 고소했습니다. 법원은 이 사건이 그의 초상권과 개인권을 침해했다고 판결했다.

법원은 원고가 등장하는 영상을 피고가 사용했으나 해당 영상 속 원고의 얼굴이 교체된 것이므로 원고의 초상권을 침해한 것은 아니라고 판단했다. 원고의 개인정보 보호권 침해 다.

현재 AI 얼굴 변경 기술은 계속 업그레이드되고 있으며 아직 금지되지 않았습니다. AI 얼굴 변경 도구는 여전히 시장에 많이 유통되고 있습니다.

'Dingjiao'는 최근 전자상거래 플랫폼에서 'AI 얼굴 변경'을 직접 검색했지만 정보를 찾을 수 없었습니다. 그러나 키워드가 약간 변경된 한 관련 얼굴 변경 도구는 여전히 판매되고 있으며, 경로는 더 비밀스럽습니다. 거래를 위해 중고 웹사이트로 이동합니다. 기술과 속임수가 끊임없이 발전하는 시대에, 모두가 할 수 있는 일은 AI의 얼굴 변화로 인해 피해를 입지 않도록 더욱 경계하는 것입니다.

*기사의 제목 사진과 첨부 사진은 Pexels에서 가져온 것입니다.