AI 뒤에 숨은 함정: 사진이 반드시 진실은 아닐 수도 있습니다. 소문의 "새로운 변장"을 조심하세요
2024-08-26
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
최근 AI 기술은 급속도로 발전해 글로벌 과학기술 분야의 핫스팟이 됐다. AI는 단순한 학문적 연구에서 인간의 라이프스타일을 변화시키는 중요한 힘으로 발전했습니다. 그러나 다른 의도를 가진 일부 사람들은 이를 소문을 퍼뜨리고 돈을 벌기 위한 도구로 활용합니다.
실제 사례
2024년 8월, 인터넷상에는 충격적인 소식이 급속히 퍼졌다. "난핑(南平) 쑹시현(松西縣)에 심한 강풍이 불어 자오링 거리(Zaoling Street)에서 1명이 사망했습니다." 해당 뉴스는 사진과 텍스트로 설명됐고, 사실적인 영상까지 담겨 있어 곧바로 많은 네티즌들의 관심과 호응을 얻었다. 하지만 공안기관의 확인 결과 이는 실제로 AI를 이용해 조작한 온라인 루머 영상인 것으로 드러났다.
조사 결과, 출판사 Zhou가 관심과 트래픽을 얻기 위해 AI 소프트웨어를 통해 소문을 생성한 것으로 밝혀졌습니다. 저우는 사진과 영상을 합성한 뒤 '사진', '문자', '소리' 등으로 허위 정보를 만들어 인터넷 플랫폼에 게시해 사회적으로 부정적인 영향을 끼쳤다.
공안기관은 법에 따라 저우에게 행정처벌을 가했다.
사례 연구
소문 퍼뜨리는 사람은 AI의 저비용, 고효율, 간단한 조작을 활용하여 키워드를 제공함으로써 AI 소프트웨어가 최신 뉴스와 무작위 온라인 오디오 및 비디오를 자료로 사용하여 인터넷에서 관련 정보를 자동으로 크롤링하여 대량 생산합니다. 인터넷 소문. 관심을 끌거나 트래픽으로 수익을 창출하려는 목적을 달성하기 위해 주요 온라인 플랫폼에 게시합니다. 소문의 확산과 영향력은 기하급수적으로 증가합니다.
소문이 AI로 위장되면 자동으로 텍스트를 생성할 수 있을 뿐만 아니라 현실에 가까운 이미지, 오디오, 비디오를 생성하여 존재하지 않는 장면을 생생하게 만들고 가상의 인물이 실제로 존재하는 것처럼 보이게 할 수 있습니다. 이는 '사진이 있으면 진실이 있다'는 우리의 통념을 완전히 뒤엎는 것이며, 인터넷 루머 자체와 진실을 구별하기 어렵게 만드는 것이다.
AI 루머는 인터넷에서 시급히 다뤄져야 할 새로운 이슈가 되었습니다. 그렇다면 일상생활에서 우리는 어떻게 AI 루머를 눈여겨보고 식별하고 저항할 수 있을까요?
인터넷 경고
01
호기심은 적당해야 합니다. 새롭고 과장된 정보에 직면했을 때, 먼저 진실을 찾으려고 서두르지 마십시오. AI는 모두가 관심을 갖는 주제를 선택하고 파악하여 네티즌의 호기심을 활용하여 온라인 루머를 만들고 퍼뜨립니다. .
02
출처를 알 수 없는 정보는 신뢰하지 마세요. 확인되지 않은 정보를 맹목적으로 믿고 퍼뜨리지 마세요. 소셜 미디어나 인터넷에서 의심스러운 정보를 발견하면 먼저 확인하거나 공식 뉴스가 공개될 때까지 기다렸다가 판단을 내릴 수 있습니다.
03
항상 권위 있는 채널에 주의를 기울이십시오. 온라인으로 정보를 탐색할 때 정보 출처에 주의를 기울이고, 공식 미디어 및 정부 부처 계정을 구독하고, 권위 있고 신뢰할 수 있는 미디어나 기관을 정보 출처로 선택하도록 노력하십시오.
04
논리적 분석은 필수입니다. 네트워크 정보의 논리에 주의를 기울이십시오. 정보에서 명백한 논리적 허점이나 모순을 발견하면 변조되거나 조작되었을 가능성이 높습니다.
자료|복건성 인터넷 경찰
출처: 공안부 사이버보안국
