소식

최근 항저우(杭州) 경찰은 대규모 ai 모델을 사용해 얼굴을 바꿔 개인 사생활을 훔친 국내 최초의 사례를 공개했는데, 생각만 해도 끔찍하다.

범인은 피해자의 정지사진을 모델에 입력한 뒤 문자와 음성으로 라이브 영상 생성을 요청한다. 이 라이브 영상은 사람의 얼굴을 흉내내어 고개를 끄덕이고, 눈을 깜박이고, 옆으로 돌릴 수 있으며, 플랫폼의 얼굴 인증을 뚫고 강제로 다른 사람의 계정에 로그인하도록 하며, 대량의 피해자의 개인 데이터를 획득하여 이익을 위해 판매할 수 있습니다.

이는 ai 기술 적용의 혼란 속에서 빙산의 일각에 불과합니다. 최근에는 인공지능 기술이 급속히 발전하면서 더 많은 새로운 기회와 더 편리한 서비스를 제공하고 있지만, 일부 범죄자들은 ​​새로운 기술을 사용하여 범죄의 '공범'이 되는 경우가 많습니다.

ai '변신'은 사기를 저지르고, ai는 사진을 위조해 루머를 퍼뜨리고, ai 판매전화는 혼란스럽다… 온갖 혼란은 소비자의 정당한 권익을 침해할 뿐만 아니라 개인과 재산의 안전을 위협할 뿐만 아니라 ai 산업의 건전하고 질서 있는 발전.

ai가 과학기술 발전의 중요한 방향이자 국가 간 경쟁을 위한 기술고지라는 점에는 의심의 여지가 없습니다. 그러나 ai를 개발하는 과정에서 숨겨진 위험을 무시해서는 안 됩니다. 급증하는 ai에 '안전벨트'를 매고 '공범자'가 아닌 '도우미'로 만들자 거버넌스와 규제 강화에 초점이 맞춰졌다.

최근 개최된 2024 전국 사이버보안 인식주간에서는 ai 보안 적용 이슈가 화제가 됐다. 이 기간 동안 관련 부서에서는 인공지능 보안 거버넌스 원칙 등 방향성 있는 솔루션을 제안하는 '인공지능 보안 거버넌스 프레임워크' 1.0 버전을 출시했다. ai 얼굴 바꾸기, ai 의성어 등 사기 수법을 효과적으로 식별하고 대응하는 ai 실시간 위조 시스템 등 ai 보안 위험에 대처하기 위한 일부 블랙 기술도 사이버보안박람회에서 공개됐다.

기술은 언제나 '양날의 검'이었습니다. 그것이 좋든 나쁘든, 유익하든 해롭든, 핵심은 칼을 쥐고 있는 사람이 그것을 사용할 준비가 되어 있는지에 달려 있습니다. ai를 적극적으로 개발할 때 우리는 보안 인식을 제고하고 관련 보안 기술의 홍보 및 적용을 강화하며 사회 모든 당사자의 거버넌스 합의 형성을 촉진하여 ai가 인류에게 더 나은 혜택을 줄 수 있도록 해야 합니다. (카피라이터: 마 루오후)