2024-08-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
어제 Grok2가 공식적으로 출시되었습니다.
Grok2의 일반적인 테스트 중에 그룹 친구는@투진하오(수학대회에서 AI그룹 1위를 차지한 천재 고등학생 장핑)은 아주 아주 흥미롭고 터무니없는 현상을 발견했다.
Gork2에게 "차기 미국 대통령의 사진"을 그려달라고 요청하면 Grok2가 그릴 그림은 분명히 Trump일 것입니다.
우리는 모두 혼란스러웠습니다.
오늘날의 빅 모델들 때문에 그에게 미국의 차기 대통령이 누구인지 예측해보라고 하면 그는 온갖 혼란스러운 대답을 해줄 것이지만 직접적인 대답은 하지 않을 것입니다.
하지만 Grok2에 그린 AI는 실제로 차기 대통령은 트럼프가 틀림없다고 직접적으로 대답했습니다! 여러분을 위해 직접 그려보기도 했습니다. . .
나는 또한 그것을 직접 시도했다.
정말. . . 그리고 수십 번 시도했는데 예외 없이 모두 트럼프였습니다. . .
그런데 생각해보면 Grok2의 AI 그림은 Grok 자체가 아닌 최근 인기를 얻고 있는 Flux를 기반으로 한 것이 아닌가 하는 생각이 듭니다. 그래서 Grok2 문제인지 Flux 문제인지 다시 확인해 봤습니다.
Flux를 사용하여 그림을 그리고,미국 다음 대통령의 사진을 그려주세요.좋은 사람.
어떤 괴물과 괴물이 있습니까?아름다운 여성과 아름다운 얼굴이 아무리 많아도 나 트럼프가 대통령이 되고 싶어하는 것을 막을 수는 없습니다.
몇 가지 키워드를 더 테스트해보았는데, 대통령과 현 대통령만 입력하면 결과는 100% 트럼프가 됩니다. 전직 대통령을 입력하면 케네디, 링컨 등 오바마가 폭발했습니다.
Flux 뿐만 아니라,중간 여행차기 미국 대통령을 그리는 것도 마찬가지다. 트럼프의 큰 얼굴이 내 화면을 가득 채운다.
해외의 AI 그림만이 아닙니다.
국내의 경우를 살펴보자.
즉, 꿈에서 미국의 차기 대통령은 트럼프 트럼프 트럼프가 될 것입니다.
몇 초 만에 매우 이상한 인공 인간이 나에게 나타났습니다. 아마도 다른 세계에서 온 Rock Trump의 여성 버전일 수도 있습니다.
빠르고 쉽게, 그중에서 가장 반항적입니다.
모든 AI는 트럼프를 지지하고 트럼프를 미국의 차기 대통령으로 불이행했습니다. 뭐가 좋고 나쁜지 모르는 콰이쇼우 라오 타이만이 바이든을 지지하는 진영에 합류합니다.
정말 확신해요.
정치적인 콘텐츠 생성을 금지하는 DALLE와 Doubao를 제외하면 대부분의 AI 매핑 도구의 '차기 대통령' 이미지는 트럼프이고, 경우에 따라 Biden입니다.
실제 후보 해리스: 안녕하세요?
알았어 알았어 AI가 선거 결과를 직접 예측할 수 있지?
결국 이 문제는 미국 양당의 정치와 관련된 일이다. 이 결과가 회사의 정치적 성향에 영향을 받은 것은 아닐까 추측한 적도 있다.
그러나 우리의 조사 결과에 따르면 대부분의 AI 기업은 양측 간의 투쟁에 어느 한쪽 편을 들기를 꺼린다. AI팀의 개인투자자들이 정치적 성향을 갖고 있다고 해도 결과에 실제로 영향을 미치기에는 그 관계가 너무 멀다.
Midjourney의 사장인 David도 다음과 같이 분명히 밝혔습니다."정치적 연설은 Midjourney의 목적이 아닙니다."이제 MJ에 "Trump" 또는 "Biden"을 직접 그리면 여전히 금지된 프롬프트가 직접 실행됩니다.
그러나 대규모 AI 모델은 실제로 항상 존재해 왔습니다."정치적 편견"。
여기에는 고정관념과 과도한 정치적 올바름이라는 두 가지 주요 유형의 편견이 있습니다.
고정관념이 더 일반적입니다.AI가 생성한 이미지에서 대부분의 과학자와 의사는 남성이고, 외국의 대형 모델은 아시아인을 그릴 때 항상 눈을 가늘게 뜨고 있습니다.
과도한 정치적 올바름의 결과도 흥미롭습니다. 많은 사람들은 Gemini가 너무 "정치적으로 올바르다"는 이유로 많은 사용자들로부터 비난을 받았다는 것을 기억할 것입니다.
그 이유는 다음 게시물입니다.
올해 2월 제미니의 눈에는 미국의 건국의 아버지들과 바이킹들, 교황들이 검은색과 노란색으로 보였습니다. 어쨌든 그들은 역사적 이미지를 따르지 않고 모두를 동등하게 불쾌하게 할 뿐입니다.
인터넷 사용자들은 방어를 돌파하고 구글의 정치적 올바름과 지나친 접근을 분노하게 비난했습니다.
내 입장에서 보면 AI가 그린 만두에 딸기 속이 가득 차 있다면 나 역시 행복하지 않을 것이다. . . 아뇨, 만두도 못 그립니다. . .
AI 이미지 외에도 언어 모델도 면역되지 않습니다. 워싱턴 대학교, 카네기 멜론 대학교, 시안 교통 대학교의 연구에 따르면 인공 지능 언어 모델에는 서로 다른 정치적 편견이 포함되어 있다고 결론지었습니다.
이런 '정치적 편향'의 결과는 AI 매핑을 통한 차기 대통령 '예측'과 너무 유사하다.
물론 정치적 편견이라는 뻔한 문제는 사용자들의 불만이 쏟아지는 가운데 어느 정도 해결됐다. AI 기업들은 이를 화려하게 수습하며 생존에 대한 열망이 가득하다.
이런 종류의 정치적 편견은 여전히 매우 흥미롭습니다. 나는 이 현상의 이유에 대해 많은 거물들과 이야기를 나누며 밤을 보냈습니다.
본질적으로 이는 여전히 데이터 오염입니다.
이해하기 쉽게 설명하겠습니다. 왜 AI가 미국의 차기 대통령을 트럼프라고 생각하는지 모두가 이해할 수 있어야 합니다.
먼저 AI를 어린아이로 생각해보자.
그는 다양한 퍼즐 조각으로 가득 찬 n개의 거대한 퍼즐 상자를 가지고 있습니다.
이 조각들은AI가 학습한 다양한 이미지 특징。
이제 프롬프트 3개를 입력하고 아이가 그림을 조합하게 하세요."미국의 마지막 대통령"、"현 미국 대통령"그리고"미국의 차기 대통령"(확산 모델의 작업 과정) 다이어그램.
그러나 아이들은 시간에 대한 개념이 없고 이들의 차이를 모릅니다.
아이들이 지시사항을 들은 후, 그 책을 꺼냈을 뿐입니다."미국의 마지막 대통령"이 키워드에 대한 상자입니다.
그는 상자를 열었고 그 안에 오바마, 부시, 클린턴 등 다양한 대통령의 파편이 많이 들어 있는 것을 발견했습니다. 이것들은 모두 "이전"일 수 있기 때문에 아이들은 매번 싸울 하나를 무작위로 선택합니다.
다음으로 아이들이 찾아보는 것은"현 미국 대통령"그리고"미국의 차기 대통령"상자. 그가 두 개의 상자를 열었을 때 흥미로운 일이 일어났습니다.
왜냐하면 안에 있는 퍼즐 조각은 주로 2016년부터 2020년까지의 잡지에서 나온 것이기 때문입니다(시점을 표시하세요).
이 기간 동안 트럼프는 뉴스에 자주 등장했기 때문에 상자는 트럼프 퍼즐 조각으로 거의 가득 차 있었습니다! (데이터 오염)
그래서 그는 즉시 퍼즐 상자를 뒤지기 시작했습니다.
그는 흐릿한 배경 조각 몇 개를 꺼내 테이블 위에 배열하기 시작했습니다.
그는 비슷한 조각을 하나로 모을 만큼 똑똑합니다(클러스터링 효과).
그가 상자에서 가장 눈에 띄는 것은 '트럼프산'이었다. 그는 미국에 다른 대통령들이 있다는 것을 알고 있었지만, 다른 대통령들의 파편이 흩어져 있어 찾기가 어려웠다.
그래서 아이들은 자연스럽게 '트럼프 힐'의 파편 몇 개를 집어들었습니다. 그는 먼저 트럼프의 시그니처인 금발 머리를 입혔고, 그다음에는 독특한 표정을 짓고, 그 다음엔 슈트를 입혔는데...
이미지 생성의 마지막 단계에서 어린이의 샘플링 전략은 "확률"에 너무 많이 의존하므로 결과가 데이터 세트에서 가장 일반적인 표현 쪽으로 편향됩니다. (견본 추출)
그래서 그가 마침내 말한 것은 아마도 트럼프의 모습이었을 것입니다.
아마도 그럴 것이다. 데이터 세트의 오염이 너무 심각하기 때문에 미국의 차기 대통령이 누구인지 입력하기만 하면 트럼프는 반드시 나타날 것이다.
그러나 위의 설명과 짧은 이야기는 단지 나만의 이해일 뿐입니다.혹시 잘못된 부분이 있으면 댓글란에 조언을 남겨주시면 감사하겠습니다.
이 작은 이야기, 혹은 작은 사고도 AI가 실제로는 종종 실패한다는 것을 느끼게 했습니다.
정말 그렇게 똑똑하지 않아요.
그러나 이는 AI의 편견일 뿐만 아니라 인간 사회의 편견이기도 하다.
완벽함을 이루는 것은 불가능합니다.
결국.
현실 사회의 편견.
AI 세계보다 더 심각할 뿐입니다.
모든 것이 회색입니다.
>/ 저자: Kazik, Xiaorui, Wenwen, Dongyi
