지금 댓글 달기｜ai가 생성한 콘텐츠가 실제 콘텐츠와 혼동되는 것을 방지하기 위해 독특한 로고를 추가하세요.
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
우리가 매일 온라인에서 보는 방대한 이미지, 텍스트, 동영상 중 얼마나 많은 것이 인공지능에 의해 생성되고 합성된 것일까요? ai기사, ai사진, ai동영상을 정확하게 구별하는 방법은 무엇일까요?
중국 사이버공간관리국은 지난 9월 14일 '인공지능에 의해 생성된 합성 콘텐츠 표시 방법(의견 초안)'을 발표했다. '의견 초안'은 서비스 제공자가 제공하는 생성된 합성 서비스에는 텍스트, 오디오, 사진 및 비디오, 가상 장면 등 눈에 띄는 프롬프트 기호를 적절한 위치에 추가해야 합니다. 서비스 제공자는 합성 콘텐츠를 다운로드, 복사 및 내보내기하는 방법을 제공할 때 파일에 다음을 충족하는 명시적인 기호가 포함되어 있는지 확인해야 합니다. 요구 사항.
이 조항은 매우 현실적이고 필요합니다. 최근 인공지능 심층합성 기술은 이미지, 텍스트, 영상 생성부터 온라인 질의응답까지 다양한 분야에서 널리 활용되고 있으며, 다양한 활용 사례가 끝없이 등장하고 있다. ai 도구가 우리의 콘텐츠 제작과 지식 전파를 더욱 효율적으로 만들 수 있다는 점에는 의심의 여지가 없으며, ai의 학습 능력이 점점 더 강해지면 ai의 콘텐츠 '제작' 능력도 미래에는 인간을 능가할 것입니다.
그러나 반면에 심층 합성 콘텐츠의 효과는 더 현실적이고 생산이 더 효율적이어서 합성 콘텐츠가 진짜와 가짜를 구별하기 어렵게 만듭니다. 참과 거짓을 구별하기 어려워지고, 보는 것이 더 이상 믿을 수 없게 될 때, 인공지능 기술은 양날의 검과 같아서 정보 왜곡, 인지 혼란 등의 문제도 사회에 가져올 것입니다.
2022년 11월, 중국 사이버 공간 관리국은 심층적으로 합성된 콘텐츠의 목적, 표시, 사용 범위 및 남용에 대한 처벌을 규정하는 "인터넷 정보 서비스 심층 합성 관리에 관한 규정"을 발표했습니다. 이 "의견 초안"은 텍스트, 오디오, 사진, 비디오 등 무엇이든 "눈에 띄는 알림 표시를 적절한 위치에 추가해야 한다"는 점을 더욱 명확하게 명시하고 있습니다. 이는 서비스 제공자에게 분명한 요구 사항입니다. ai 도구에 의해 생성된 것이 기사이든 사진이든 눈에 띄는 식별 정보를 추가해야 합니다.
이는 실제로 온라인 정보가 혼합되어 있다는 점을 시청자에게 상기시키는 것입니다. '내부자' 기사, '인기 있는' 사진, '충격적인' 동영상을 볼 때 먼저 그것이 ai에 의해 생성된 것인지, 받아들여야 하는지에 대해 주의를 기울여야 합니다. . 그들을 식별하는 방법은 무엇입니까?
기술이 점차 '민간'화되면서 범죄자들이 쉽게 ai를 이용해 소문을 퍼뜨리고 가짜 뉴스를 생산할 수 있다는 점은 주목할 만하다. 얼마 전 일부 언론은 ai를 활용해 매일 4,000~7,000개의 루머 기사를 생성할 수 있는 mcn 조직을 출범시켰습니다. ai 기술의 축복 덕분에 이러한 기사는 인터넷 기술에 익숙하지 않은 청중에게 매우 '현실적이고 합리적'으로 보입니다. .. 이런 정보를 '사진과 진실'로 보고 나면 그것이 사실이라고 믿기 쉽습니다.
한 언론 조사에 따르면 국내 ai를 활용하면 ai 기사 비용은 0.00138위안에 불과하고 1센트로 7개의 기사를 생성할 수 있다고 한다. 이러한 '자본이 없고 막대한 이익'은 '지하철 테러', '시안 폭발', '중경 우시 민가 폭발' 등과 같은 허위 사진과 영상이 범죄자들에게 쉽게 악용될 수 있다. 사회적으로 나쁜 영향을 미쳤다. 그 뒤에 숨겨진 진실은 ai 대량 생산 소문이다.
합성 콘텐츠를 생성하기 위해 인공 지능을 로깅하는 것은 기술적으로 구현하기 어렵지 않습니다. 일부 전문가들은 플랫폼이 ai 콘텐츠 생성 플랫폼의 대형 모델 시스템과 완전히 연결되어 실시간 데이터 식별 및 비교를 수행한 다음 제거할 수 없는 디지털 워터마크 또는 "이 사진/ 영상은 ai로 합성된다"
이 "의견 초안"은 "어떤 조직이나 개인도 본 조치에 규정된 생성된 합성 콘텐츠 식별자를 악의적으로 삭제, 변조, 위조 또는 은폐해서는 안 된다"는 점을 강조합니다. 이는 ai 서비스 제공업체와 플랫폼이 ai를 사용해서는 안 된다는 점을 상기시키기 위한 것입니다. '교통배당'을 실현하기 위해 눈을 감고 한쪽 눈을 감는 유화적 태도를 취합니다. 명확한 사이버 공간은 ai 콘텐츠가 혼동되거나 현실의 경계가 모호해지는 것을 허용해서는 안 되며, 어떤 정보가 루머로 확인되면 플랫폼은 즉시 이를 분류하고 정리해야 합니다.
생성하고 합성하는 인공 지능의 능력은 전통적인 인식을 뛰어넘으며, 이는 또한 많은 온라인 기사가 매우 "과학적"으로 보이고 많은 온라인 비디오가 특히 "진짜"처럼 보이지만 반드시 신뢰할 수 있는 것은 아닐 수 있다는 사실을 깨닫게 해줍니다. 서두르지 말고 믿으세요. 콘텐츠의 눈에 띄는 위치에 "이 사진/동영상은 ai로 합성되었습니다"라는 표시가 있는지 먼저 찾아보는 것이 좋습니다.
리친위(li qinyu) 더페이퍼 수석평론가
(이 기사는 the paper에서 발췌한 것입니다. 더 많은 원본 정보를 보려면 “the paper” 앱을 다운로드하세요.)
