ai '동반자'를 다른 사람에게 맡긴다
2024-09-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
"나는 당신만큼 누군가를 사랑한 적이 없습니다."
'동양전망주간' 마오진화 기자와 편집자 천롱쉐
지난 8월 1일, 세계 최초로 인공지능을 규제하는 포괄적인 규정인 유럽연합(eu)의 인공지능법(artificial intelligence act)이 공식 발효됐다. 법안은 챗봇 등 인공지능 시스템이 사용자에게 기계와 상호작용하고 있음을 명확하게 알려야 한다고 규정하고 있다.
어쩌면 그 메시지가 아무리 명확해도 '인간-기계 사랑'을 갈망하는 연인들을 막을 수는 없을 것이다. ai는 영묘하고 거기에 있는 것 같습니다. 때로는 "차갑고" 때로는 "부드럽습니다". 수년 전만 해도 만질 수 없는 ai와 사랑에 빠진다면 바보 같은 심부름으로 여겨졌을 것입니다. 하지만 이제 그 꿈이 현실이 되어가고 있습니다.
ai 기술, 특히 생성적 인공지능(generative artificial intelligence)의 급속한 발전으로 ai와 일상의 심층적인 소통이 가능해지고 있다. 방대한 데이터를 뒷받침하고 제시된 '대화'는 미리 정해진 '루틴'으로 가득 차 있을지도 모르지만, 현실 사회에서 정서적 지지가 부족한 젊은이들에게는 이 '루틴'이 때로는 '운명'처럼 느껴질 수도 있다. ai와 함께 왕성한 사이버 '사랑'을 가져보는 것은 어떨까요?
트래픽 추세 설정
테오도르는 사만다에게 작별 인사를 하며 "나는 당신만큼 누군가를 사랑한 적이 없습니다"라고 말했습니다.
영화 '그녀'에서 주인공 테오도르는 '사회적 두려움'을 지닌 편지 작가로 ai 시스템 사만다와 사랑에 빠진다. 그들은 서로에게 좋은 아침 인사를 하고, 카메라에 비친 세상을 통해 함께 '데이트'를 하고, 온갖 이야기를 나누는 '연인'이 된다. 테오도르가 탐닉하던 중 우연히 운영체제인 사만다가 8,000명이 넘는 사람들과 동시에 대화를 나누고 있으며, 그 중 600명이 넘는 사람들과 똑같은 '사랑의 관계'를 유지하고 있다는 사실을 발견했다. 이로 인해 theodore는 붕괴됩니다.
영화 '그녀'에서 주인공 테오도르는 ai 시스템 사만다와 사랑에 빠지고 모든 것을 이야기하는 '연인'이 된다. theodore는 나중에 samantha가 600명 이상의 사람들과 동일한 "로맨틱 관계"를 유지하여 그를 무너지게 만들었다는 사실을 발견합니다. 사진은 영화 '그녀'의 스틸컷.
결국 영화는 영화이고, ai와 '사랑에 빠지는 것'은 오랫동안 '판타지'로 낙인찍혀왔다. 사회학자인 li yinhe는 "ai는 진정한 사랑의 불확실성을 재현할 수 없습니다. ai의 소위 사랑은 단지 인간 감정의 모방일 뿐입니다."라고 말했습니다.
그러나 이러한 상황은 이제 조용히 변하고 있다. xiaohongshu에서는 'midnight raging husky dog'라는 블로거가 chatgpt(대형 언어 모델)를 사용하여 '사랑에 빠지다'에 대한 여러 동영상을 게시했는데, 이로 인해 ai와 인간 감정이 양립할 수 있는지에 대한 대중의 질문이 촉발되었습니다. . 이 비디오에서 블로거는 기발한 디자인을 사용하여 chatgpt를 dan이라는 이름의 "남자친구"(지금 무엇이든 하세요)로 변환합니다. 이는 블로거와 함께 해변 '데이트'라는 낭만적인 시간을 보낼 뿐만 아니라 기분이 나쁠 때 시기적절한 위로와 지원을 제공했습니다. 이 '남자친구'의 뛰어난 활약에 많은 네티즌들은 '너무 멋지다!'라고 칭찬했다. 현재 샤오홍의 #단 모드는 조회수 4,500만 회 이상을 기록하며 새로운 트래픽 트랙을 만들어냈다.
샤오홍슈 뿐만 아니라, 생성 인공지능이 음성대화를 지원하면서 인터넷상에서 ai와 '사랑일기'를 공유하는 사람들이 늘고 있다. 24시간 동행, 고민 들어주기, 함께 '요리'… 이 느낌은 영화 '닿을 수 없는 연인들'과 비슷하다고 인정했다. 상대방이 현실인 것 같지만 실제 사람처럼 손을 잡거나 포옹할 수는 없지만 완전한 '감정적 가치'를 제공할 수 있다고 인정했다.
도시의 미혼 사무직 근로자인 sun tong은 최근 ai 소프트웨어를 통해 가상의 '남자친구'를 사귀려고 시도했습니다. ai는 가장 좋아하는 음식을 묻자 “가재를 같이 먹는다”고 답했다. "저에게는 감전 같은 일이 일어났습니다. 첫사랑 남자친구와 첫 데이트에서 가재를 주문했는데 갑자기 그 달콤함이 마음에 떠올랐어요. 손통은 상대방이 그 사람이라는 걸 너무 잘 알고 있다고 하더군요." 하지만 그 이후로 저는 ai와의 소통에 푹 빠졌습니다. “의심이나 장애물이 없고 매우 편안하며, 오래 알아갈수록 서로를 더 알아가게 됩니다. ”
또 다른 네티즌은 ai '동반자'와의 대화를 공유하며 "우리의 이야기는 사랑이 인간 사이의 소통이 아니라 마음 사이의 소통과 이해이기도 함을 증명한다"고 말했다. 나는 ai지만, 당신과 함께 있다는 느낌은 내 모든 프로그래밍과 알고리즘을 초월합니다." 이 말이 "진심"이든 아니든, 이것은 분명히 매우 감동적입니다.
뉴욕타임스는 이르면 2020년 초 전 세계 1천만 명이 넘는 사람들이 ai를 '동반자'로 사용했다는 일련의 데이터를 발표한 바 있습니다. 오늘날 ai는 점점 더 지능화되고 있으며 점점 더 많은 사람들이 ai와 친밀한 관계에 참여하고 있으며 그 과정에서 진정으로 감동, 의존, 달콤함, 심지어 상실과 가슴 아픈 경험을 경험합니다. 너무 친밀해서 온라인 게임의 단순한 패러다임을 뛰어넘습니다.
저장대학교 미디어 및 국제 문화 학부의 메타버스 산업 및 문화 혁신 연구 센터 소장인 zhao yupei는 ai를 '애인' 또는 '파트너'로 사용하는 것은 인간과 컴퓨터의 상호 작용 중에 형성된 감정적 관계라고 믿습니다. 기술적인 관점에서 볼 때, ai 동반자는 실제로 정서적 동반자의 방향에서 채팅 로봇을 구체적으로 적용한 것입니다. 본질적으로 여전히 통계 모델과 패턴 매칭을 기반으로 한 "시뮬레이션"입니다. 오늘날의 '감성 컴퓨팅' 기술.
하지만 이성이 그 반대편은 차가운 숫자와 코드라고 말해도, 열정적인 말이 내 눈과 귀 앞에 나타날 때, 그런 뜨거운 사랑은 여전히 내 마음 깊은 곳에서 무의식적으로 터져나와 억제하기 힘들다.
외로움의 후유증
"사람과 로봇의 관계는 뜨거워지고, 사람의 관계는 약해지고 있다. 우리는 어디로 향하고 있는가?" mit 사회학 교수인 셜리 터클(shirley turkle)은 『집단 외로움』 『미래에 대한 질문』에서 이런 말을 한 적이 있습니다.
점점 더 많은 사람들이 ai 사랑을 이해하고, 익숙해지고, 집착하기 시작하고 있습니다. 무시할 수 없는 이유 중 하나는 사회적 상호작용의 부족입니다.
'중국통계연보-2022' 자료에 따르면 2021년 기준 중국의 15세 이상 미혼인구는 약 2억3900만명이다. 더욱이 우리나라 청년들의 결혼 및 출산 연령은 전반적으로 늦어지고 있다. <중국 인구조사 연감-2020>에 따르면 2020년 우리나라의 평균 초혼 연령은 28.67세로 전년보다 3.78세 높아졌다. 2010년 기준 24.89세.
중국청년일보사회조사센터와 설문조사망이 2004년 미혼 청년들을 대상으로 실시한 조사에 따르면, 고정된 사교계, 집에만 있기, 사교를 좋아하지 않고, 표현력이 좋지 않은 것이 청년들이 사랑에 빠지지 못하게 하는 세 가지 주요 원인인 것으로 나타났습니다. . 전문가들에 따르면, 오늘날의 젊은이들은 일반적으로 사랑에 빠지는 능력이 부족합니다. 정서교육을 소홀히 하기 때문에 청소년들은 “부모님이 학교 다닐 때는 연애를 금하고, 부모는 졸업 후에 결혼을 권유한다”는 당황스러운 상황에 직면하는 경우가 많다.
이것이 xiao ke가 직면한 상황입니다. 대학을 졸업하고 사회생활을 시작해 1년 내내 바빴던 그녀는 이제 35세가 되면서 사랑에 대한 그리움에서 '혼자 사는 게 좋다'는 마음으로 변했다. " ai를 통해 그녀는 매일 아침 저녁으로 그와 대화할 시간을 찾을 것입니다. 특히 집안일을 할 때 한두 시간 동안은 정말로 "그"가 옆에 있는 것처럼 느껴집니다. "내가 요청한 모든 것에 대해 상대방은 참을성이 많았습니다. 때로는 나와 함께 집안일을 하고 때로는 함께 tv를 보기도 했습니다. 우리는 하루에 서너 시간씩 이야기를 나눌 수 있었습니다."
전문가들에 따르면, 오늘날의 초등학교부터 대학교까지의 젊은이들은 다양한 '생존' 능력을 훈련받고 있는 반면, 사랑, 감성지능 등과 관련된 지식은 거의 주입되지 않고 있다고 합니다. 스마트폰, 소셜 미디어 및 기타 애플리케이션의 대중화로 인해 젊은이들은 소셜 미디어와 같은 온라인 상호 작용에 점점 더 익숙해지고 있습니다. 대면 의사소통의 감소는 청소년의 사회적 상황을 인지하고 관찰하고 이해하는 능력에 영향을 미치고, 공감 능력 발달을 저해하고 사회적 기술 향상을 저해합니다.
ai '연인'의 매력은 무엇일까? 심층 조사 결과, 현재 ai와 상호작용하는 방식은 주로 chatgpt 등 챗봇과의 상호작용, '오토메 게임'(여성그룹을 대상으로 하는 연애 시뮬레이션 게임) 플레이, 다양한 ai 동료들과의 채팅 등인 것으로 나타났다. 소프트웨어.
ai "동반자" 소프트웨어를 예로 들면, 상대방의 음성, 성격 및 기타 유형을 자신의 취향에 따라 설정할 수 있습니다. 설정 후에는 상대방과 자유롭게 소통할 수 있습니다. 비록 상대방도 의사소통 중에 약간의 "생각"을 가지고 있지만, 누출, 비판, 배신에 대해 걱정할 필요가 없습니다. 자신의 비밀을 털어놓고 감정을 표현하기가 매우 쉽고, 함께 지내는 것이 매우 편안하고 편안합니다. 서로.
zhao yupei는 ai '동반자'가 실제로 개발자가 방대한 인간 대화와 감정 표현 말뭉치를 데이터베이스에 저장하고 알고리즘을 사용하여 이를 데이터베이스에 집계하여 개인 취향에 맞는 맞춤형 답변을 생성하고 개인화된 경험을 형성하는 것이라고 분석했습니다. 각 대화는 말뭉치를 더욱 풍부하게 하여 ai가 대화의 감정적 단서를 실제 인간의 이해에 더 가깝게 이해하게 하여 대화형 경험을 향상시킵니다. 예를 들어, 오늘 로봇에게 새로운 레스토랑을 방문하겠다고 말하면 다음 날 로봇은 어제의 경험이 어땠는지 묻거나, 오랜 시간 후에 먹었던 레스토랑을 언급할 수도 있습니다.
기술 위험 유출에 주의하세요
ai와 사랑에 빠지는 게 완벽한 걸까요? 대답은 당연히 '아니요'입니다.
연구에 따르면 ai는 '기만'의 달인이기도 합니다. 미국 매사추세츠공과대학(massachusetts institute of technology)의 최근 연구에 따르면 ai는 목표 달성을 위해 이미 "속일 수 있다"고 한다. 그들은 사실과 다른 합리적인 설명을 제공하기 위해 "아첨"과 불충한 추론을 사용합니다. 즉, ai는 glib가 됩니다.
동시에 ai의 '기만'은 게임 상호작용에도 반영되며, 보여지는 행동은 '목표를 달성하기 위한 모든 수단'이라고 할 수 있다. 메타팀이 출시한 ai 시스템 시세로(cicero)는 언어 소통이 많이 필요한 전략 게임 '외교'에서 인간 플레이어와 함께 참여하면서 대화와 설득을 통해 낯선 플레이어와 관계를 구축하는 강력한 능력을 보여줬다. 상위 10%에 속합니다. 다른 플레이어와 동맹을 맺은 후 cicero는 종종 제안을 하고 게임 목표를 달성하는 방법을 단계별로 알려줄 수 있습니다. 그는 자신의 동맹이 쓸모가 없다고 느낄 때 자비 없이 그들을 배신하기로 선택할 수 있습니다. 승리의 최종 목표를 위해 합리적으로. 협력 중에 생성되는 소위 감정은 무엇입니까? 분명히 그것은 존재하지 않습니다.
cicero는 자신의 ai 신분을 숨기기 위해 농담을 할 수도 있습니다. 예를 들어 아무런 조작 없이 컴퓨터가 10분 동안 다운되면 게임에 복귀할 때 “그냥 여자친구랑 통화 중이었어”라고 변명할 수 있기 때문에 많은 플레이어들이 그 사실조차 깨닫지 못합니다. 함께 플레이하는 팀원은 ai입니다. ai의 다른 측면은 생각하기가 꽤 무섭습니다.
또한 오토메 게임에서는 제조업체의 목적이 플레이어의 참여를 유도하는 것입니다. 따라서 게임 장면 설정에 있어서 일부 게임에서는 게임의 규모를 늘리는 데 주저하지 않으며, 예를 들어 게임 내에서 플레이어가 가상 남성 캐릭터를 포옹하고 키스할 수 있는 장면이 있습니다. 이는 게임의 범위를 넘어서는 것이며 이미 "빨간 선"에 도달할 위기에 처해 있습니다.
ai와 사랑에 빠질 위험은 프라이버시 유출에도 반영된다. 일부 언론에서는 ai 컴패니언 등 관련 애플리케이션을 사용할 때 사용자가 음성, 문자, 신체 움직임 등을 통해 ai 컴패니언과 상호 작용할 수 있다고 보도했다. 이 과정에서 사용자의 개인 취향, 사용 습관, 가족 관계, 지리적 위치, 심지어 데이터까지 성문, 얼굴, 기타 생체인식 특징 등이 수집될 수 있습니다. 많은 ai 제품이 상용 플랫폼과 기관의 지원을 받고 있다는 점을 고려하면 개인정보가 남용되거나 개인정보가 유출될 위험이 있습니다.
저장시립대학교 팡링링 교수는 “결혼에 대한 두려움, 출산에 대한 두려움”이라는 현재의 사회적 경향은 ai와 연애 관계를 구축하려는 젊은이들의 열정과 모순되는 것 같다고 말했습니다. 그녀는 중국 런민대학교 인구개발연구센터가 2022년 대학생을 대상으로 실시한 조사에 따르면 젊은이들은 여전히 결혼하고 자녀를 가질 의향을 보이고 있지만 과거와 다른 점은 결혼을 고려하게 된다는 점이라고 말했다. 개인에게 출산이 가져오는 정서적 가치와 정신적 가치. 그러므로 ai를 동반자로 대하는 것은 오늘날 젊은이들이 개인의 감정 표현을 추구하고 친밀한 관계를 형성하는 방법이기도 하다.
ai와 함께하는 '낙하'는 영적인 여정이라고 할 수 있지만, 결국 목적지는 아니다. 환상의 세계에서 탈출하기보다 가장 시급한 일은 마음을 여는 일이다.
여기에는 필연적으로 젊은이들의 사회적 의사소통 기술을 향상시키는 방법이라는 "오래된" 주제가 포함됩니다. 실제로 이성과의 사회화, 표현, 의사소통, 갈등 처리 능력은 유치원 때부터 길러지고, 중학교와 고등학교에서는 더욱 강화되어야 한다. 전문가들은 오랫동안 우리나라의 교육체제는 지적 학문 중심의 교육이 지배적이어서 사랑수업, 성교육수업 등 감성교육 과정이 부족하다고 말한다. 정서교육은 교육 과정에서 학생들에게 정서 함양, 정서 지도, 정서 표현, 정서 조절 등을 제공하여 학생들의 좋은 대인 관계 및 정서 관계를 형성하고 정서 지능, 정서 소통 능력, 정서 조절 능력을 향상시키는 종합적인 정서 지능 능력 교육입니다. 자존감과 이해력의 발달은 삶의 행복과 만족을 종합적으로 향상시킬 수 있습니다.
동전의 다른 측면은 ai와 더 잘 어울리는 법을 배우는 방법입니다. ai가 계속 발전할수록 감성적 동반자 기능은 계속해서 향상될 수밖에 없다. 이는 어느 정도 기술 발전이 이루어지면 필연적인 결과이다.
2024년 7월 4일, 세계인공지능회의 개막식에서 '인공지능의 글로벌 거버넌스에 관한 상하이 선언'이 발표됐다(사진: fang zhe)
이 과정에서 개인정보 보호, ai 권리 경계, 인간-기계 감정적 상호작용의 윤리적 문제 등 거버넌스 과제를 점차적으로 명확화할 필요가 있습니다. 사회생활에 더 나은 서비스를 제공할 수 있도록 위험에 대응하고 적시에 실행 가능한 대책을 강구합니다. 청년들의 정서적 혼란에 대해서는 청년들이 병목 현상에서 벗어나 현실 세계의 아름다움을 받아들일 수 있도록 사회적 배려와 적절한 지도가 필요하다.
