소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

하나

'검은 신화:오공'이 출시된 후, 주요 정보 플랫폼에는 이상한 기사가 다수 등장했습니다.

처음에는 "충격"이라고 말하고 본문 전체에서는 "충격"이라고 말하지만 대현자가 털이없는 원숭이로 변하는 것처럼 평가도, 세부 사항도, 결론도 없습니다.얼굴은 똑같고 비어 있습니다., 마침내 수백억 개의 트래픽으로 합쳐졌습니다.

비슷한 장면이 일반화되었습니다. Quan Hongchan이 다이빙했을 때 그들은 모두 ""라고 외쳤습니다.너무 멋지다, 너무 대단하다", 판젠동이 반격하자 모두 한숨을 쉬었다"파리 밤하늘을 가로지르는 별똥별처럼”。

Chen Ruolin은 Quan Hongchan을 데리러 전기 자전거를 탔습니다. 그들은 "올바른 가치와 행동 강령을 확립하는 방법"에 대해 논의하면서 천 단어가 넘는 말도 안되는 글을 썼습니다.

며칠 전 새로운 Alien 영화가 개봉되었고 그들은 다음과 같이 썼습니다.

'외계인'은 마치 여름 영화의 광활한 바다를 누비며 별들을 횡단하는 흥행선과 같다.

그들은 멋진 수사법을 가지고 있지만 할 말이 없습니다. 수사법을 사용할 수는 있지만 할 말이 없습니다. 고정된 공식을 사용하는 데 능숙하지만 중심 아이디어가 없습니다.

그것들은 대형 AI 모델에 의해 밤낮으로 제작되어 우리 세계를 뒤덮습니다.

인쇄매체 시대에는 이런 기사가 나올 수 없었고, 포럼 시대에는 기사 전체가 쓰레기가 되었을 것이다. 그러나 현재로서는잔해물과 교통 체증, 알고리즘과 AI의 결합으로 오염이 시작된다。

처음에는 단지 원고를 정리하는 것뿐이었고, 스튜디오에서는 문체를 모방하고, 문맥을 표절하고, 어휘를 바꾸기 위해 GPT를 반복적으로 사용했지만 결국에는 여전히 수동 편집이 필요했습니다.

나중에는 확장된 글쓰기가 대중화되었고, 뉴스 몇 문장이 말도 안 되는 내용으로 채워져 천 단어짜리 기사로 바뀔 수 있었습니다. 국내 대형 모델의 인기 이후 더욱 거침없게 됐다.

Wen Xin은 Baijia 계정 작성을 잘하고 Doubao는 헤드라인 계정 작성을 잘하며 Yuanbao는 공개 계정을 더 잘 알고 있습니다.도구는 무한하며 사용자는 두려움이 없습니다.。

쌓인 AI 기사는 궁극적으로 제목에 의존하여 트래픽을 유도합니다. 제목도 인기 제목 중에서 선택할 수 있습니다.

Xiaohongshu의 AI 기사는 AI 글쓰기를 요약합니다.컴퓨터 사용법만 알면 하루에 100개의 히트곡을 낼 수 있어요!

6년 전, 계정 생성팀을 '콘텐츠 농장'이라고 불렀습니다. 산둥성 북부 농촌 지역에 스튜디오가 있었는데, 농장 여성들은 운이 좋아서 하루에 10개 이상의 기사를 생산했습니다.

그들은 조립 라인 루틴을 가지고 있습니다. 유명인 뉴스로 시작하고, 배경 정보를 입력하고, 마지막으로 군침이 도는 의견을 몇 단락 추가합니다. 제목은 눈길을 끌고 글은 단순해야 합니다.

마지막으로, 일부 사람들은 플랫폼에서 표절 검사를 피하기 위해 "원클릭 의사 원본" 원고 청소 소프트웨어를 개발했습니다.

그러나 당시 어카운트메이킹팀의 신입생들은 “앞으로 점점 줄어들 것이 분명하다”며 저질 콘텐츠의 미래에 대해 낙관하지 않았다.

그 사람이 틀렸어. 6년이 지나면서 저질 콘텐츠가 만연해, 계정을 만들기 위해 산촌에 살 필요도 없고, 더 이상 AI 출판에 한계가 없습니다.

슬라이드를 하면 기사 목록이 뒤섞인 가방에서 황당무계한 화면으로 변합니다.긴 글에서는 정보의 양을 스스로 찾아내야 합니다.

전장의 역학은 알려지지 않았고, 전투의 결과도 알려지지 않았습니다.

이 세 가지 휴대폰은 각자의 특징이 있지만 논란의 여지도 있다. 아마도 우리는 좀 더 거시적인 관점에서 이를 살펴봐야 할 것 같습니다.

올해 1월 인터넷에는 시안에서 대규모 폭발이 일어났다는 소문이 돌았는데, 경찰은 AI를 이용해 하루 7000건의 콘텐츠를 제작한 것으로 드러났다. , 그리고 그것이 사실인지 거짓인지 말하기가 어려웠습니다.

칭화대학교 저널리즘스쿨은 지난해 경제 및 기업 AI 관련 루머가 99.91%나 증가했다고 보고했다.

해외에서도 마찬가지로 미국 수사기관 '뉴스가드'는 허위 기사를 생성하는 웹사이트 수가 2023년 5월 이후 15개 언어로 1000% 이상 급증했다고 밝혔다.

알고리즘 추천에 따라 정보가 누에고치와 같았다면, 이제는 정보가 탁한 파도가 되었습니다.

수년 전 여름, 날씬한 한 중국어 선생님이 칠판에 "대마는 자라고 있지만 지지대가 없이 곧고, 백사장은 열반에 있는데 검다."라고 적었습니다. 상황은 모든 것을 변화시킵니다.

그러면 탁한 파도에 휩쓸려가는 우리에게는 무슨 일이 일어날까요?

둘

AI는 정보 그 이상을 오염시킵니다.

Zhihu 초대 답변 목록에는 AI 풍미가 가득한 답변이 많이 있습니다. 로마 역사부터 연사 추천, 양자물리학까지 AI가 모든 것에 답합니다.

기계에 의해 생성된 답변은 빈 내용, 무뚝뚝한 쓰기, 성급한 생각, 마지막으로 "위의 요약" 추가 등 공장 특성을 유지합니다.

동일한 AI 풍미가 Xiaohongshu에 퍼져 있습니다.늦은 밤의 미녀들, 귀여운 고양이들, 모멘트에 올릴 수 없는 왕겨 등은 모두 AI가 만들어낸 것일 수도 있다.

한 소년은 해변에서 수영복을 입은 소녀를 보고 그녀와 사랑에 빠졌고, 그녀에게 비공개 메시지를 보냈지만 사진을 확대해 보니 사진 속 소녀의 손가락이 여러 개였다.

체험글에서는 누군가가 '40세 여성' 계정 만드는 방법, 어울리는 계정을 찾아 다른 사람의 사진을 다운로드하고 AI를 활용해 사진을 생성하는 방법을 가르쳐주었고, 가상의 여성이 탄생했다.

가상의 40세 여성은 AI 카피라이팅을 이용해 세월의 평화로움을 표현하고, 이모티콘을 유연하게 사용하며, 건강관리 제품을 들고 다닐 수 있다.

댓글 영역에도 AI 캐릭터가 활발히 활동하고 있습니다. 웨이보에서는 AI 로봇이 채팅을 하고 답장을 했고, 일부 이용자들은 차단을 해도 차단이 안 된다는 불만을 토로했다.

그는 한때 아바타가 Sun Wukong의 AI라고 대답한 적이 있다. “AI를 모두 차단할 수 있는 방법이 있나요?”

AI는 가장 인간적인 답변을 내놨습니다.하하, 나를 막을 수는 없어, 라오순!

Baidu Tieba에는 "Tieba Baowen"이라는 유사한 제품이 있는데, 연간 424,000개 이상의 게시물이 있으며 사용자는 참을 수 없습니다.

거의 모든 게임 도움말 게시물에는 도움을 요청하는 사람들이 있습니다. 하지만 Bao Wenwen의 발언을 주의 깊게 살펴보면 그가 쓴 내용의 99%가 구성되어 있음을 알 수 있습니다.

누군가가 "티에바바오추 닫는 방법"이라는 글을 올렸더니, 바오화도가 달려와 "바이두 티에바에 티에바바오추 닫는 방법을 묻는 글을 올리는 것을 추천한다"고 답했다. 무한 중첩 인형.

많은 것들이 오염으로 인해 본래의 색을 잃었습니다.

상품평도 AI, 호텔평도 AI, AI가 미로를 풀어놓고 보면 구별이 어렵습니다.

미로의 벽돌은 단지 말만이 아니다.

짧은 영상 플랫폼에는 '잘 살아야 한다'는 러시아 미녀들, '인생 8가지 진실'을 알려주는 닭국 과외 선생님들, '애 낳지 않고도 노인들을 돌보는 법'을 알려주는 중년 이모들,다 가짜야。

이미지는 AI로 복제되고 음성은 AI로 시뮬레이션되며 인기 버전을 세척한 후 원고가 일괄 생성됩니다.

영상의 화질은 좋지 않지만, 방대하고 압도적이라는 것이 장점이다.

마침내 온라인 기사마저도 쇠퇴하기 시작했다.

올해 7월 '장위안 스토리텔링'이라는 ID를 가진 소설 플랫폼에 AI 의심 작가가 다수 등장했다. 지난 3개월 동안 266권의 소설이 출간됐고, 업데이트 속도도 인간보다 훨씬 빨랐다.

소설의 시작은 기본적으로 동일하며 대부분 "번화한 거리, 햇살"입니다.

지난해 여름 미국의 많은 언론은 “AI 서적이 아마존에 넘쳐나고 있다”고 보도했다. 아마존 '틴 로맨스' 판매 목록 상위 100권의 전자책 중 80%가 일관성이 없고 AI로 의심된다.

어떤 사람은 AI가 쓴 야생 버섯에 관한 전자책을 읽었는데, 버섯의 식별은 맛에 달려 있다고 했습니다. 뉴욕 균류학회(New York Mycological Society)는 너무 겁을 먹어서 다음과 같이 호소했습니다.

"알려진 작가나 식도락가의 책만 구입하세요. 사느냐 죽느냐의 문제가 될 수 있습니다."

우리가 보는 뉴스, 우리가 읽는 책, 우리가 보는 동영상, 우리가 읽는 답글, 우리가 확인하는 리뷰, 심지어 우리가 만드는 네티즌들까지 모두 AI 페인트로 뒤덮이고 있다.

이것이 오늘날의 우키요에인데, 사실인지 아닌지는 모르겠고, 웃을 수도 울 수도 없습니다.

삼

오염은 결국 AI 자체에 영향을 미칩니다. AI는 자신이 생산하는 쓰레기를 사용하여 스스로 훈련하고 있습니다.

올해 5월 구글은 AI 개요를 출시해 더 이상 웹 페이지를 읽을 필요가 없으며 AI가 직접 요약하고 답변을 제공한다고 주장했다.

그러나 AI는 네티즌들에게 이렇게 말했습니다.

하루에 작은 돌멩이라도 먹어야 하고, 피자에 접착제를 넣어 치즈가 떨어지는 것을 방지하고, 개는 한때 NBA에서 뛰었고, 오바마는 대학을 21번이나 졸업했다.

이러한 답변은 수년 전 게시물에서 수집되었습니다.AI는 인간의 유머를 이해하지 못하기 때문에 결국 조롱이 답이 됐다.

오래된 게시물을 스크랩하는 것보다 더 무서운 것은 AI 결과를 스크랩하는 것입니다.

중국에는 구글이 크롤링한 AI 콘텐츠 2천만 개를 생성한 대형 모델이 있었다.

결과는 우스꽝스러웠습니다. AI가 이해한 바에 따르면, 중국 남자 축구팀이 월드컵에서 우승한 이유는 푸젠성 사람들이 자신의 안전 때문에 광둥 사람들을 두려워하기 때문입니다.

마이크로소프트 빙에서 '쇼생크탈출'의 주인공을 검색하자 AI가 진지하게 말했다.남자 주인공은 샤오슈아이, 조연은 라오헤이, 여자 주인공은 샤오메이이다.

포착한 것은 AI가 제작한 3분짜리 인트로 영화 대본이다.

검색 엔진의 부조리함은 피상적일 뿐이며, 더 큰 위기는 대규모 모델 훈련에서 비롯됩니다.

미국 앤더슨 교수는 대형 모델에게 먹이를 주는 인간을 위한 고품질 독서 자료가 2027년에는 고갈될 것이라고 계산했습니다.

실제로 인공 콘텐츠는 더 이상 AI 교육에 대한 욕구를 따라잡을 수 없습니다. 현재 많은 대형 모델이 AI를 교육하기 위해 AI를 사용하고 있습니다.

그러나 딥러닝의 아버지 힌튼은 이렇게 말했습니다.AI의 훈련 데이터가 쓰레기라면 그 출력도 쓰레기가 될 것입니다.

논문에 따르면 2023년 6월 GPT-4 과제의 성적이 급격하게 떨어졌다. 수학 상위 문제 500개 중 3월에는 488개가 정답이었고, 6월에는 12개만 정답이 나왔다.

엔지니어들은 AI를 훈련시키는 데 사용될 때 모델에 돌이킬 수 없는 결함이 발생하고 결국 병목 현상에 빠지며 쓰레기만 출력할 수 있다는 사실을 발견했습니다.

우리가 바다를 플라스틱으로 뒤덮고 이산화탄소로 대기를 공격하는 것처럼, 우리는 곧 인터넷을 쓰레기로 가득 채울 것입니다.

추세가 나타났습니다. 머스크는 AI가 생성한 정보가 인터넷을 오염시켰다고 불평했다. “2023년 AI가 대중화되기 전의 검색 결과는 그에 비해 더 신뢰할 만할 것입니다.”

ChatGPT의 데이터 소스는 2021년 9월 기준이며,그 이전의 인터넷은 우리의 마지막 순수땅일지도 모른다.

그리고 지금 검은 나선이 달리고 있어: AI 오염으로 인해 독창성이 감소합니다. 독창성이 감소한 후에는 AI가 훈련이 부족하여 스스로를 먹어 치우고 품질이 낮은 쓰레기만 계속 생산할 수 있습니다.

너무 오랫동안 우리는 또 다른 가능성을 무시해 왔습니다.

우리는 AI가 가져올 미래가 새롭고 효율적일 것이라고 믿습니다. 비록 실업에 영향을 미치겠지만 세상은 진화할 것입니다.

그러나 또 다른 가능성이 있을 수 있습니다. 모든 것이 더 나은 방향으로 변하지 않았고 우리는 쓰레기 포위 공격에 직면해 있습니다.

1859년 4월, 런던의 회색 안개 속에서 한 행인이 잡지를 펼치자 디킨스의 "두 도시 이야기"의 첫 문장이 눈에 들어왔습니다.

지금이 가장 좋은 시절이고,

그것은 또한 최악의 시기이기도 하다.

지금은 지혜의 시대,

지금은 무지의 시대입니다.

이것은 수없이 인용된 문장이지만 AI는 여기에 사용하는 것이 가장 적절한지 알지 못합니다.