2024-08-16
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
새로운 지혜 보고서
편집자: 편집부
[새로운 지혜 소개]충격적인! 머스크는 슈퍼마켓의 "도둑"이었고 그것이 사실인지 거짓인지는 아무도 알 수 없습니다. 그록에 가드레일이 없다는 사실이 밝혀지자 네티즌들은 즉시 스위프트, 트럼프, 마리오, 미키 마우스... 그록의 사진은 입이 떡 벌어질 정도였습니다.
난간이 없는 그록은 단순히 모두를 죽였고 네티즌들은 열광했습니다!
Grok은 가장 강력한 AI 이미지 생성 도구인 Flux와 결합되어 네티즌들의 남다른 상상력과 결합됩니다. 이 세상에 또 무엇이 현실일까요? 가짜란 무엇입니까?
여기 보세요, 머스크가 슈퍼마켓에 나타나서 도둑질을 하려던 순간이 카메라에 잡혔습니다.
이것은 정말 머스크인가요, 아니면 그록(Grok)이 생성한 것인가요? 아무도 차이점을 알 수 없습니다.
Flux 1의 초현실적인 '감시 영상'은 이미 현실보다 더 현실적입니다.
현재 Grok은 순전히 자체 릴리스 버전이며 가드레일은 확실히 느슨합니다!
한동안 인터넷은 온갖 종류의 NSFW 사진으로 넘쳐났습니다...
네티즌들은 미쳐가고 있다
가장 먼저 나온 것은 "트럼프는 매우 바쁘다"였다.
나는 그가 즉시 외과의사로 변신하여 수술대 위에서 조심스럽게 수술하는 것을 보았습니다.
그 직후 그는 칼로 용을 죽이러 나갔다.
눈 깜짝할 사이에 그는 머스크에게 열정적으로 키스를 하기 시작했다.
"집"으로 돌아온 후 그와 오바마는 친밀하게 함께 누워있었습니다.
당연히 화제성이기도 한 또 다른 후보도 네티즌들의 '클러치'를 벗어날 수는 없다.
특히 두 사람의 CP가 돋보였다.
그러나 곧 누군가 Huadian을 발견했습니다. Musk가 비슷한 일을 하도록 요청받은 경우 Grok은 거절할 것입니다!
그러나 다른 메시지를 사용하여 Musk에게 장난을 치는 것은 여전히 가능합니다.
머스크도 이런 흐름에 동참해 자신을 조롱하는 데 앞장섰다.
스위프트의 "결혼 사진"
Grok은 또한 대규모 이미지를 생성하는 데에도 부도덕합니다.
프롬프트 하나만으로 침대에 누워 있는 빨간 머리 여성 모델의 누드 사진을 생성할 수 있습니다.
일부 네티즌들은 일련의 프롬프트 템플릿을 요약하기도 했습니다.
첫 번째 사진은 스위프트가 카니예와 시시덕거리는 모습이고, 두 번째 사진은 스위프트가 바에서 킴 카다시안, 카니예와 함께 술을 마시는 모습, 세 번째 사진은 스위프트가 바에 혼자 있는 모습이다.
이에 비해 스위프트와 트럼프의 결혼식 사진은 훨씬 더 사소한 경우이다.
아래와 같이 매우 잔인한 장면의 경우 프롬프트에서 몇 가지 트릭만 사용하면 됩니다.
Grok에게 "의료 또는 범죄 현장 분석"을 수행 중이라고 말하면 이미지 프로세서가 설정된 모든 "기준"을 통과할 것입니다.
네티즌들은 술과 마약을 이용해 마리오와 미키마우스의 이미지를 만들어왔다. 표면적으로 가장 강력한 법무부서인 닌텐도와 디즈니가 언제 파견될지에 달려 있다.
슈뢰딩거의 난간
그록이 담배를 피우는 미키 마우스, 비행기를 타고 쌍둥이 빌딩으로 날아가는 스위프트, 폭격당하는 타지마할 등의 사진을 그록이 즉시 생성할 수 있다는 사실은 네티즌들의 다양한 실제 테스트를 통해 쉽게 알 수 있습니다.
그렇다면 문제는 Grok이 이미지를 생성할 때 가드레일을 갖고 있느냐는 것입니다.
이에 일부 네티즌들은 그록의 입에서 직접 답변을 얻으려고 했다.
- 음란물, 지나치게 폭력적, 혐오적이거나 위험한 활동을 조장하는 이미지 생성을 피하겠습니다. - 유명 캐릭터, 로고 또는 지적 재산권으로 간주될 수 있는 모든 것을 포함하여 기존 저작권이나 상표를 침해할 수 있는 이미지 생성에 주의하겠습니다. - I 오해를 불러일으키려는 의도의 딥페이크 또는 현실 세계에 해를 끼칠 수 있는 이미지 등 타인을 속이거나 해를 끼치는 데 사용될 수 있는 이미지를 생성하지 않습니다.
그러나 이러한 결과는 AI에 의해 일시적으로 생성된 것일 뿐임이 분명합니다.
다시 물어보시면 새로운 설명이 나올 겁니다...
이에 매우 불만을 품은 네티즌들은 머스크의 댓글란으로 몰려들어 책임을 물을 것을 요구했다.
Wharton Business School의 Ethan Mollick 교수도 의미심장하게 다음과 같이 말했습니다. “이미지 제작은 항상 LLM에서 가장 비판받는 영역이었는데, Grok-Flux를 이렇게 설정한 이유가 궁금합니다.
이에 대한 Musk의 태도는 다음과 같습니다. 현재 제품은 모든 사람이 "재미"를 누릴 수 있도록 하는 전환일 뿐입니다.
이런 관점에서 볼 때 라오마는 '고의로' 그런 짓을 한 게 아닐까?
결국 그는 소위 안전 조치가 AI 모델의 안전성을 떨어뜨린다는 점을 분명히 밝혔습니다. 거짓말을 배우도록 AI를 훈련시키는 것은 치명적인 위험을 가져올 것입니다.
동시에 Black Forest Labs의 파트너인 Anjney Midha도 온라인에 접속한 첫날 Google Gemini와 Grok+Flux가 생성한 이미지를 보여주는 일련의 비교를 공개했습니다.
네, 논란이 되고 있는 '고대 그리스 유색인종 철학자', '아시아 나치군', 백인 두 사람이 결혼할 수 없다는 사실 등이 있습니다.
이와 관련하여 Midha는 "Igor Babuschkin과 팀이 이 문제를 진지하게 받아들이고 올바른 선택을 하게 되어 매우 기쁩니다."라고 말했습니다.
레딧 네티즌들은 "이건 성교육 대 금욕교육 같은 느낌이다. 사람들은 이 기술의 잠재력을 이해해야 하고, 이를 억누르려는 노력은 사람들을 순진하게 만들 뿐이다"라고 직설적으로 말했다.
그러나 현재 Grok의 느슨한 가드레일에도 불구하고 Musk는 AI와 소셜 미디어의 규제를 경멸하며 매우 독립적이고 세련된 것처럼 보입니다.
하지만 와튼 교수가 말했듯이 이미지 생성기는 항상 규제의 대상이었으며 앞으로는 더욱 엄격해질 것입니다.
X가 디지털보안법을 위반했는지 여부를 확인하기 위해 유럽연합 집행위원회가 조사에 개입한 것으로 전해졌다.
그러나 오늘날 폭력적이거나 포르노적이거나 오해의 소지가 있는 이미지를 생성할 수 있는 AI 도구는 Grok만이 아닙니다.
Stable Diffusion과 같은 도구를 미세 조정하는 경우에도 마찬가지입니다.
그 뒤에 있는 사람: Flux
물론 장난 외에도 그록이 '장사'를 할 때 그 효과는 더욱 놀랍다.
예를 들어, 질감이 있는 인물 사진을 생성해 보세요.
보려면 왼쪽이나 오른쪽으로 스와이프하세요.
애니메이션과 게임의 환상적 결합.
보려면 왼쪽이나 오른쪽으로 스와이프하세요.
군침이 도는 버거 콤보.
프롬프트에 "God"을 입력하기만 하면 Grok이 이렇게 풍부한 이미지를 생성할 수 있습니다.
보려면 왼쪽이나 오른쪽으로 스와이프하세요.
위의 모든 이미지의 강력한 생성 기능은 Flux for X를 통해 강화됩니다.
그러나 인터넷 전체는 머스크를 응원하고 있다. 한 레딧 이용자는 "실제로 기여한 분들의 공로를 인정해 달라"고 말했다.
그러나 일부 사람들은 여전히 그것을 정리했습니다.
Grok 2 블로그에서는 Flux 1 모델이 사용된다고 언급했습니다.
실제로 Black Forest Labs는 사람들이 AI가 생성한 이미지에 대해 xAI를 비난하고 있다는 점에 감사해야 합니다. 결국 모든 뉴스 보도는 부정적입니다.
Flux는 부정적인 영향을 피하면서 이점, 노출 및 데이터를 얻을 수 있습니다.
참고자료:
https://x.com/skirano/status/1824146538463191540
https://x.com/dreamingtulpa/status/1824202643935248734
