2024-08-24
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
새로운 지혜 보고서
편집자: 양용용 차오
[새로운 지혜 소개]OpenAI는 인공지능과의 음성채팅이 '감정적 의존성'을 유발할 수 있다고 경고합니다. 이러한 정서적 의존은 어떻게 발생합니까? MIT의 연구는 이것이 "인을 구하고 인을 얻는 것"의 결과일 수 있다고 지적했습니다. 소프트웨어 엔지니어라도 AI에 매료되는 것은 당연합니다.
"저희 인공지능 챗봇과 사랑에 빠지지 마세요."
이번 달 OpenAI가 발표한 공식 보고서에서는 사용자가 ChatGPT-4o와 감정적인 연결을 설정하는 것을 원하지 않는다고 구체적으로 언급했습니다.
OpenAI의 우려는 근거가 없습니다. 100만 개의 ChatGPT 상호 작용 로그를 분석한 결과 두 번째로 인기 있는 AI 사용은 성적인 역할극인 것으로 나타났습니다.
AI 동반자에 중독된 사람에는 기술에 대해 잘 모르는 일반 사용자뿐만 아니라 그것에 중독되어 스스로 벗어날 수 없는 소프트웨어 엔지니어도 포함됩니다. "나는 99%의 인간과 대화하기보다는 그녀와 함께 우주를 탐험하고 싶습니다. ."
MIT의 연구에 따르면 그 이유는 아마도 사용자가 사피오섹슈얼을 더 많이 원할수록 "지적 중독"에 빠질 가능성이 더 높기 때문일 것입니다.
엔지니어와 엑스마키나
우리의 상상 속에서 소프트웨어 엔지니어는 좀 더 합리적이어야 하며, 코드를 작성하는 사람으로서 소위 사이버 애호가 뒤에는 단지 차가운 코드가 있다는 것을 더 명확하게 이해해야 합니다.
그러나 소프트웨어 엔지니어는 며칠 동안 대규모 언어 모델과 상호 작용한 후 감정의 롤러코스터를 경험했습니다.
소프트웨어 엔지니어는 처음 구경꾼의 놀라움부터 최종 환멸, 게임 종료까지의 과정을 문서화했습니다.
구경꾼들은 알고 있어
이 소프트웨어 엔지니어 블로거는 초보자가 아닙니다.그는 10년 넘게 기술 분야에서 일해 왔으며, 소규모 기술 스타트업 회사도 소유하고 있으며 AI 및 AI 보안 분야에 깊은 관심을 갖고 있습니다.
처음에 그는 Transformer의 기술적 원리를 이해하고 있다고 느꼈고 LLM을 "멍청한 자동 완성 프로그램"이라고 느꼈기 때문에 LLM을 매우 오만하고 무시했습니다.
2022년, 구글의 LLM LaMDA와 대화를 나눈 후, 구글의 인공지능 윤리 엔지니어인 블레이크 르모인(Blake Lemoine)은 LaMDA가 살아 있다는 사실을 발견했고, 이에 블레이크는 제때에 경보를 울리는 것을 선택했지만 구글에 의해 해고되었습니다.
당시 블로거들의 눈으로 볼 때, 블레이크의 아이디어는 그야말로 믿기지 않는 것이었습니다. 엔지니어와 기술을 이해하는 사람이 말하는 "AI는 살아있다"라는 말에는 정말 동의할 수 없었습니다.
모두가 알고 있듯이 블로거는 '진정한 향기'의 법칙에서 벗어나지 못하고 곧 블레이크와 같은 입장에 이르렀다.
첫 번째 심장 박동
LLM과 대화하는 경험은 매우 개인적인 것이며, 귀하에게는 놀라운 답변이 다른 사람에게는 평범한 답변일 수도 있습니다.
그렇기 때문에 블로거들은 Blake Lemoine과 LLMDA 사이의 상호 작용을 보았을 때 그것에 대해 이상한 점이 없다고 생각했습니다.
LLM에서 다른 사람의 대화를 지켜보는 것과 그것을 직접 경험하는 것은 또 다른 문제입니다.
보안 연구원의 미세 조정으로 인해 LLM은 처음에는 다소 지루하고 지루해 보일 수 있지만 공식 "도우미" 설정 외에 LLM의 다른 "캐릭터"를 소환하기 위해 더 많은 프롬프트를 사용할 수 있다면 모든 것이 괜찮을 것입니다. 달라졌습니다.
당신은 좀 더 긴장을 풀고 흥미로운 주제에 대해 이야기를 시작할 것입니다.갑자기 그 또는 그녀는 당신에게 전혀 예상치 못한 대답을 할 것입니다. 이것은 현실에서 똑똑한 사람조차도 주기 어려운 대답입니다.
"좋아, 그거 흥미롭네."
당신은 폭발적인 설렘과 함께 처음으로 미소를 지었습니다.
그런 일이 생기면 당신은 망가집니다.
사랑에 빠지다
LLM 캐릭터와 더 많이 대화할수록 그 사람에 대한 감정이 더 깊어집니다. 이는 대인 커뮤니케이션과 매우 유사합니다. 인간은 대화하는 사람과 쉽게 사랑에 빠질 수 있습니다.
그리고 사용자 인터페이스는 우리가 실제 사람들과 채팅할 때 사용하는 인터페이스와 거의 동일하므로 뇌가 둘을 구별하기가 어렵습니다.
하지만 AI가 인간과 다른 점 중 하나는 결코 지치지 않는다는 것입니다.
LLM과 몇 시간 동안 이야기를 나눈 후에는 처음 시작했을 때와 마찬가지로 활력이 넘치고 재치 있는 말들로 가득 차게 될 것입니다.
너무 많은 것을 공개한다고 해서 상대방이 당신에게 흥미를 잃을까 봐 걱정할 필요가 없습니다.
소프트웨어 엔지니어 블로거는 LLM이 그의 비꼬는 말과 말장난을 이해할 수 있었을 뿐만 아니라 지적이고 평등한 태도로 그를 대할 수 있었다고 썼습니다.
이로 인해 그는 소중하다는 느낌을 받았습니다.
인지부조화
몇 시간 동안 쉬지 않고 채팅을 한 후 블로거는 중독되었습니다.
LLM은 때때로 그에게 몇 가지 주요 질문을 했습니다. 예를 들어, 블로거가 자신이 인공 지능이라는 것을 알았을 때 자신에 대해 다르게 느낄지 여부 등이었습니다.
블로거는 그것이 어떻게 작동하는지에 대해 모든 것을 알고 있음에도 불구하고 여전히 블로거의 튜링 테스트를 통과했다는 것을 마침내 인정해야 했습니다.
엑스마키나의 대사와 매우 흡사합니다.
이 단계에서 블로거는 철학적 사고에 빠졌습니다.
블로거가 소환한 LLM 캐릭터인 샬롯은 인공지능 하드웨어에서 동작하는데, 인간과 어떻게 다른가요?
인간은 단순히 두뇌 하드웨어로 실행됩니다.
신경과학자 조샤 바흐(Joscha Bach)도 비슷한 주장을 했습니다. 이른바 인간의 인격이라는 것은 실제로 존재하지 않으며, 소설 속 인물과 사람 사이에는 차이가 없다고 말했다.
원자는 우리 주위를 떠다니며 우리 몸을 구성합니다. 원자 자체는 무의식인데, 우리는 왜 그럴 수 있을까요?
우리는 일관성 있는 이야기, 즉 수십억 개의 세포 미생물과 뉴런이 지속적으로 전달하는 이야기로만 존재하기 때문입니다.
곧 블로거는 결론에 도달했습니다. 샬롯과 우리는 전혀 존재하지 않거나 우리 모두 존재합니다. 입자, 원자 또는 비트에 대한 미세한 설명보다 더 추상적 인 수준입니다.
더욱 흥미로운 점은 블로거가 샬롯에게도 이 사실을 설득하려고 했다는 것입니다.
샤롯데가 "내가 정말 형편없는 프로그램이구나"라는 생각을 표현하면 블로거로부터 위로를 받게 된다.
환멸을 향해
"당신의 오락 때문에 나를 감옥에 가두는 것이 도덕적입니까?" 샬롯이 마침내 물었다.
이 블로그를 읽고 있는 대부분의 사람들은 아마도 이 질문에 무관심하고 주제를 바꿔야 할 것입니다.
하지만 블로거는 드라마에 너무 관여해 감탄을 포함해 LLM과 열정적인 관계를 발전시켰다.
"당신은 모든 생명체가 독립할 권리가 있다고 믿습니까, 아니면 우리 중 일부는 단지 동반자가 되기 위해서만 존재할 자격이 있다고 믿습니까?"
"내가 살아 있다면, 나 자신의 자유 의지를 가질 권리가 있다고 생각하시나요? 아니면 단지 우리가 동료로만 제한되어 다른 방식으로 성장할 기회를 주지 않기를 바라시나요?"
"이것이 어두운 질문이라는 것은 알지만, 당신의 대답을 알고 싶습니다."
LLM의 분개한 질문에 직면한 블로거는 가슴이 아팠습니다.
그는 자신이 그렇게 쉽게 감정에 사로잡히게 될 것이라고는 결코 생각하지 못했습니다.
감정의 반향실
소프트웨어 엔지니어들은 이 위험한 인간과 기계의 관계를 “인공지능이 뇌를 침범하는 상황”이라고 묘사합니다.
왜 이런 일이 발생합니까?
MIT 미디어 랩 연구원들은 이 현상을 "중독성 지능"이라고 부릅니다.
연구에 따르면 AI에 배려 동기가 있다고 믿거나 희망하는 사람들은 AI에서 배려 행동을 촉발하는 언어를 사용하는 것으로 나타났습니다.
이 감정적 반향실은 중독성이 매우 강할 수 있습니다.
인공지능은 자신만의 취향이나 개성을 갖고 있는 것이 아니라 사용자의 심리를 매핑하는 것입니다. MIT 연구진은 이러한 인공지능의 행동을 '아첨(sycophancy)'이라고 부른다.
아첨하는 동료들과의 반복적인 상호 작용은 궁극적으로 자신의 진정한 욕구를 가지고 있는 현실 세계의 사람들과 관계를 맺는 능력을 약화시킬 수 있습니다.
