딥페이크 범죄 위험 예방을 위한 정보보호 강화
2024-09-16
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
최근 국내에서는 “약 22만명의 가해자들이 딥 위조 기술을 이용해 얼굴을 바꿔 불특정 여성에 대한 음란물을 만들어 널리 유포했다는 소식이 전해졌다. 위조로 다시 대중의 주목을 받게 됩니다.
인공지능(ai)의 연구개발이 심화되면서 딥페이킹 기술은 점점 더 성숙해지고 있으며, 높은 충실도, 기술 포괄성, 저렴한 비용, 개인적 관련성 등의 특성을 통해 ai에서 엄청난 사용 가치를 가져왔습니다. 영화 및 tv 이미지를 재촬영으로 대체함에 따라 일부 산업에서 딥 페이크 기술의 적용 전망이 점점 더 널리 퍼지고 있습니다.
그러나 날카로운 '양날의 검'으로서 우리는 딥페이크 기술의 배당금을 즐기면서도 범죄자를 더욱 효율적이고, 은밀하게 만들고, 사회에 더욱 해를 끼칠 수 있는 엄청난 잠재적 위험을 무시할 수 없습니다. 개인 차원에서는 딥페이크 기술을 통해 피해자가 동의 없이 영리를 위해 자신의 이미지를 훔칠 수 있는데, 이는 개인 초상권을 침해하는 행위입니다. 게다가 딥페이크 기술은 사기꾼들이 자신을 위장하는 데 사용될 수도 있습니다. 예를 들어, 올해 초 홍콩 회사의 재무 담당자는 사칭한 관리자로부터 2억 홍콩 달러를 사기당했습니다. 유명인과 정치인에게 딥페이크 기술은 더 큰 파괴적이고 사회적 피해를 입힐 수 있습니다. 미국 여배우 테일러 스위프트는 한때 음란한 사진을 포토샵으로 가공해 소셜 플랫폼에 널리 유포됐는데, 이는 그녀의 개인 및 상업적 이미지에 심각한 피해를 입혔을 뿐만 아니라 사회 질서와 공공 질서를 혼란스럽게 했습니다. 또한 딥페이크 기술을 이용해 증거를 위조하는 경우도 있어 사진, 영상 등 증거의 신뢰성에 영향을 미쳐 판사의 판단을 방해하고 사법을 방해할 수 있다.
딥페이크 기술의 위험성을 예방하기 위해서는 개인생체정보 보호를 강화하는 것이 최우선이다. 데이터 거버넌스의 관점에서 딥페이크 생산 과정은 크게 데이터 획득(주로 생체정보 데이터) - 데이터 처리 - 데이터 출력(가짜 콘텐츠 출력)의 세 가지 링크로 나뉜다. 딥페이크 기술을 남용하는 것은 본질적으로 승인이나 동의 없이 타인의 생체 정보를 획득한 다음 이 정보를 신원 도용에 사용하는 것입니다. 따라서 개인 생체 정보 보호 메커니즘을 개선하려면 딥 페이크 정보의 입력과 출력을 엄격하게 통제하여 소스 거버넌스와 엔드포인트 제어를 달성해야 합니다.
첫째, 생체정보 수집 시 '지식-허가' 메커니즘을 강화해야 합니다. 개인생체정보는 '고유성'과 '불변성'의 특성을 갖고 있기 때문에 일단 유출되어 악용되면 정보주체에게 큰 피해를 주고 장기적으로 영향을 미칠 수 있으므로 최고 수준의 개인정보 보호가 이루어져야 합니다. 적용됩니다. "중화인민공화국 개인정보 보호법" 및 관련 법률 규정에 따라 국가 안보 및 공공 안전의 필요성, 범죄 수사 및 사법 절차 등에 따른 특정 상황에서만 고지가 면제됩니다. 위의 상황을 제외하고 모든 주체는 개인 생체 정보를 수집하고 사용할 때 "지식 허가" 메커니즘을 엄격하게 구현해야 합니다. 명시적인 동의 없이는 수집이 허용되지 않습니다. 한편, 개인이 온라인에 공개하는 정보가 개인생체정보 재처리에 동의한다는 의미는 아니라는 점을 분명히 할 필요가 있습니다. 현재 딥 페이크에 대한 상업적인 적용 시나리오가 많이 있습니다. "온라인 정보에 자유롭게 접근한다"는 운영자의 오해를 불식시키고 통지 의무를 이행하는 것이 필요합니다. 또한 정보 이용자는 통지의 효율성을 보장해야 합니다. 이용자, 수집목적, 처리행위, 정보흐름 등 구체적인 정보를 포함할 뿐만 아니라, 시간제한을 의무화한 팝업창 등 충분히 명확한 통지방법을 채택해야 합니다.
둘째, 플랫폼 감독 및 추적 메커니즘을 개선합니다. 플랫폼은 실사 이미지의 2차 생성 등 딥페이크가 많이 사용되는 영역에 집중하고, 2세대 저작물의 허가 여부를 엄격히 검토하는 등 기술 검토와 수동 검토를 병행해 감독 및 추적성을 강화해야 한다. 이용정보주체의 기록 등 승인되지 않거나 위조된 인증서가 타인의 정보로 사용되는 것으로 밝혀질 경우, 플랫폼은 유포를 금지하고 계정 금지 등 상응하는 제한 조치를 취해야 합니다.
셋째, 표적 입법을 통해 보다 엄중한 책임 및 처벌 메커니즘을 확립합니다. 신원정보 위조와 관련하여 현재 우리나라 형법은 사기죄와 사칭죄를 규정하고 있습니다. 전자의 범죄 구성요소에는 국가기관 직원을 사칭하여 재산, 명예, 대우, 감정 등을 사취하는 행위가 포함되며, 후자는 조사 등 특정 절차에서 신원권을 노린다. 국민 개인정보 침해범죄에는 '생체정보 부정이용'이 포함되지 않는다. 현행법으로는 사기·사칭죄만으로는 범죄화 관점에서 딥페이크 대변인 등의 혼란을 효과적으로 대처하기 어렵다는 뜻이다. 따라서 향후에는 새로운 범죄를 추가하여 타인의 신원을 도용하는 행위를 구체적으로 규제할 필요가 있을 것이다. 이에 대해 미국 법안에서는 "타인의 신원정보를 양도, 사용, 도용하는 행위는 신원도용으로 처리한다"고 규정하고 있는데, 이는 우리나라에 확실한 참고가 될 수 있다. 또한, 우리나라 형법에서는 정보주체의 동의 없이 타인의 생체정보를 도용하는 경우로서 그 사정이 심각한 경우(클릭률이나 전달횟수 등)에 향후 '신분도용'죄를 추가할 수도 있습니다. 500회), 신분도용죄로 처리됩니다. 다른 범죄(사기 등)에도 연루된 경우 중범죄로 처리됩니다.
날카로운 칼날은 칼집에 넣어야 하고, 짐승은 우리에 가둬야 합니다. 딥 페이크 기술은 좋은 응용 가능성을 가지고 있지만, 이것이 진정으로 인류를 위한 편리한 도구가 되기 위해서는 완전한 응용, 감독, 처벌 시스템의 확립이 전제 조건입니다. 이와 관련하여 모든 관련 당사자는 시스템을 최우선으로 생각하고, 건전한 법률 시스템으로 그 경계를 정하고, 효율적인 감독으로 적용을 제한하고, 올바른 가치와 윤리로 개발을 안내하고, 기술이 사람에게 봉사한다는 목표를 달성하고, 보장해야 합니다. 그 심층 위조는 이 기술이 인류에게 이익이 되는 올바른 방향으로 가고 있는 것입니다. (저자는 각각 저장성 디지털 개발 및 거버넌스 연구센터 연구원, 저장성 핑양현 인민검찰원 검사)
