소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

신화통신, 베이징, 7월 24일. 7월 24일, '신화일보'는 'AI를 이용해 소문을 퍼뜨리는 것을 통제하려면 'AI를 이용해 AI와 싸우라'는 제목의 논평을 게재했다.

최근 각지의 공안 기관에서는 AI 도구를 사용하여 소문을 퍼뜨리는 것과 관련된 수많은 관련 사례를 발표했습니다. 6월 20일, 상하이 공안국 도시 철도 및 버스 군단은 주의를 끌기 위해 일부 마케팅 담당자가 AI 소프트웨어를 사용하여 '상하이 지하철 공격'에 대한 허위 동영상을 생성하고 이를 온라인에 게시하여 부정적인 사회적 혼란을 야기했다는 경고를 발표했습니다. 영향. 이 밖에도 '시안에서 갑작스러운 폭발이 발생했다', '제남의 한 고층 주택에서 화재가 발생해 많은 사람이 뛰어내려 탈출했다' 등 선정적이고 널리 유포된 '뉴스'는 모두 루머로 확인됐다. AI 소프트웨어가 만들어낸 것. 루머를 퍼뜨리는 주된 동기는 인터넷 콘텐츠 플랫폼으로부터 창작자에게 클릭과 읽기 보상을 얻고, 전자상거래 플랫폼 운영에 트래픽을 유도하는 것입니다. 결국 그것은 여전히 ​​돈에 관한 것입니다.

끊임없이 반복되는 생성 AI 기술 앞에서 '보는 것이 믿는 것'과 '그림과 진실'이 도전받고 있습니다. 관련 사례로 볼 때, 최신 AI 기술을 이용해 범죄자들이 만들어낸 소문은 '거짓과 진실'일 수 있으며 극도로 오해를 불러일으킬 수 있다. 또한 인공지능은 커뮤니케이션 채널의 특성을 바탕으로 개인화된 루머를 생성하고 이를 특정 청중에게 빠르고 정확하게 전달할 수 있으며, 이로 인해 개인이나 특정 집단에 대한 명예훼손, 정보 유출, 신변 안전 위험이 자주 발생합니다.

온라인 루머 관리에 있어 더 큰 과제는 편리한 AI 도구가 루머 확산 비용을 크게 줄이고 루머의 규모와 확산력을 높였다는 점이다. 루머는 낮은 문턱, 일괄 생산, 식별이 어렵다는 특징을 갖고 있다. 인터넷을 검색해 보면 "이미지 및 텍스트 생성, AI가 자동으로 글을 작성하고, 하루에 500개 이상의 숫자를 쉽게 생성할 수 있으며, 여러 개의 숫자를 조작할 수 있어 초보자도 쉽게 시작할 수 있다", "아니요" 등의 광고 기사가 끝없이 나옵니다. 원고 세척이 필요하면 AI는 하루에 100개의 원본 기사를 생성할 수 있다”고 해 눈길을 끌었다. 숨은 동기를 가진 이들의 참여로 회색 산업 체인 형성도 가속화됐다. 동시에, 사실과 허위를 구별하기 어려운 정보를 확인하기 위해 관련 기관 및 개인은 인력, 물적 자원을 투자해야 하며, 일부 루머는 피해자에게 정신적 피해를 줄 뿐만 아니라 많은 사회적 비용을 소비하게 됩니다. 또한 사회적, 경제적 운영에 상당한 손실을 초래합니다. 위의 모든 사항은 우리가 AI 기술의 '양날의 검' 특성을 중요시하고, 단호한 조치를 취하고, 고압적인 자세를 유지하고, 불법 행위를 최대한 억제할 것을 요구합니다.

우리는 질병을 제거하고 유해한 영향을 제거하기 위해 보다 강력한 수단을 사용해야 합니다. 일부 인터넷 콘텐츠 플랫폼은 '트래픽 우선'을 추구하며 가짜 뉴스, '베이트', 논란의 여지가 있는 주제의 확산을 허용하여 AI 루머 확산에 나쁜 토양을 제공합니다. 거짓 정보의 확산으로 인한 트래픽은 오래 지속될 수 없으며, 세상에 비용이 들지 않고 수익성이 있는 사업은 결코 없을 것임을 냉철하게 인식해야 합니다. 플랫폼은 먼저 주요 책임을 통합하고, AI 루머를 포함한 허위 정보의 전송 체인과 관심 체인을 신속하게 식별 및 차단하고, AI 콘텐츠와 관련된 트래픽 분배 및 수익 공유 메커니즘을 더욱 최적화하고, 은밀한 정보를 가진 사람들의 수익 창출 공간을 줄여야 합니다. 소문을 퍼뜨리는 동기. 관련 부서도 법에 따라 검을 사용하고, 강력한 약을 사용해 질병을 제거하고, 허위 뉴스를 생성하는 개인과 기관을 엄중 단속하고, 사이버 공간에 고압선을 설치해 AI 유언비어 유언비어를 금지해야 한다.

더 빠른 방법으로 소문을 "우월"하기 위해. AI 소문의 정확한 확산과 지능적인 확산에 직면하여 우리는 "AI를 사용하여 AI에 맞서는 것"을 탐구하는 것이 좋습니다. 최근 몇 년 동안 일부 인터넷 콘텐츠 플랫폼에서는 루머를 반박하는 메커니즘을 구축했으며, 사회적 우려에 대응하기 위해 관련 부서도 조사 및 처리 결과를 신속하게 공개하기 위해 조율했습니다. 앞으로는 알고리즘 추천, 일일 모니터링, 단서 수집 등의 기술과 메커니즘을 더욱 최적화하고 개선하여 루머 반박 정보를 보다 빠르고 정확하게 푸시하여 보다 진실되고 가치 있는 정보가 루머보다 먼저 '실행'될 수 있도록 해야 합니다.

법치주의를 개선하고 선한 일을 하기 위해 기술을 선도해야 합니다. 인공지능이 인간 중심, 기술 중심의 방향으로 발전하려면 감독과 법치 보장이 불가분의 관계에 있습니다. 현재 우리나라는 '인터넷정보서비스 심층합성 관리에 관한 규정', '생성인공지능 서비스 관리에 관한 임시조치' 등 관련 법률을 공포·시행하고 있으나 아직까지 추가의 여지가 남아있다. AI 분야의 사법 거버넌스 개선. 입법을 통해 AI 개발 및 사용에 대한 기본 결론을 설명하고 모든 당사자의 권리와 책임을 명확히 함으로써만 위험의 근원을 예방하고 "오염 우선, 거버넌스 후"의 수동적 상황을 피할 수 있습니다.