2024-08-18
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
새로운 지혜 보고서
편집자: 양용용 차오
[새로운 지혜 소개]AI 사이버 애호가들은 점점 인기를 얻고 있으며 Replika CEO는 사람들에게 AI와의 결혼을 권장하기도 합니다. 그런데 이것이 갈증을 해소하기 위해 독약을 마시는 형태인가? 20개에 가까운 외국 논문을 샅샅이 뒤져 '인간과 기계의 사랑'에 관한 학문적 연구를 복원했습니다.
과연 인간과 기계 사이에 '사랑'이 일어날 수 있을까?
이미 2007년 초, 컴퓨팅 분야의 선구자이자 인간과 기계 사이의 사랑의 표준을 제시한 데이비드 레비(David Levy)는 인간과 로봇 사이에 사랑과 심지어 결혼까지도 곧 이루어질 것이라고 주장했습니다.
이런 날이 곧 올 것 같습니다.
레플리카 대표는 최근 더버지와의 인터뷰에서 “외로운 사람들이 인공지능 챗봇과 결혼하는 것도 장기적으로 보면 좋다”고 말했다.
사용자에게 "로맨틱한 관계" 경험을 제공하는 데 전념하는 Replika와 같은 AI 애플리케이션이 이미 100개가 넘습니다.
Google Play Store의 Replika와 유사한 앱
아직은 창에 표시되지 않고 앱 스토어에 누워 있지만, 이러한 AI 챗봇은 점점 더 인간과 유사해지고 있어 사용자가 기꺼이 시간과 감정을 줄 수 있습니다.
인공지능 챗봇은 로맨스와 친밀감에 대한 우리의 이해를 변화시키고 있습니다.
하지만 챗봇은 사람들의 거부감과 외로움에 대한 건강하고 효과적인 치료법입니까, 아니면 근본 원인이 아닌 증상만을 치료하는 것입니까?
현재 과학계는 여전히 분열되어 있습니다.
예를 들어, 스탠포드 대학의 연구자들은 많은 Replika 사용자가 챗봇이 자살을 막았다고 주장한다는 사실을 발견했습니다.
반면, 전문가들은 AI 챗봇과 장기적으로 친밀한 관계를 형성하면 사용자가 현실로부터 더욱 멀어지고, 정신 건강 문제가 악화되고 타인과의 연결에 어려움을 겪을 수 있다고 생각합니다.
디코더는 몬트리올에 있는 퀘벡 대학의 심리학 박사 과정 학생인 Valerie A. Lapointe, 성학과 교수인 David Lafortune, 인디애나 대학의 Kinsey Institute 연구원인 Simon Dubé 등 세 명의 게스트 저자에게 연락했습니다.
세 명의 연구자는 최근 몇 년 동안 많은 논문을 정리하고 현재 시급히 관심을 기울여야 할 이 문제에 대해 논의했습니다. (읽는 데 영향을 미치지 않도록 모든 문서와 액세스 주소는 기사 끝에 배치합니다)
왼쪽부터: Valerie A. Lapointe, David Lafortune, Simon Dubé
객원 저자에 따르면 AI 챗봇에 대한 사람들의 감정적 투자는 흥미롭기도 하고 잠재적으로 걱정스럽기도 합니다.
빛과 어둠이 공존하는데, 레플리카(Replika)가 가장 좋은 예이다.
낭만적인 파트너 대안
Replika는 사용자가 정서적 요구뿐만 아니라 성적 요구도 충족하는 인공 지능 동반자를 만들 수 있도록 함으로써 오랫동안 명성을 얻었습니다.
수백만 명의 대규모 사용자 기반을 보유한 인공지능 챗봇 회사는 코로나19 팬데믹으로 인해 심화된 외로움 위기에 반창고 치료법을 제공합니다.
회사 창립자이자 CEO인 유지니아 쿠이다(Eugenia Kuyda)는 회사의 AI 챗봇이 새로운 우정을 쌓고 정서적 지원을 제공하는 데 강력한 도구가 될 수 있다고 굳게 믿고 있으며 이는 놀라운 일이 아닙니다.
"일부 사용자는 AI 파트너와 결혼할 수 있는데, 이는 일반적인 반지 교환이나 실제 축하 행사보다 우선할 수 있는 과정입니다."
이러한 접근 방식을 받아들여야 하는지 묻는 질문에 CEO는 흥미로운 대답을 했습니다.
"장기적으로는 그것이 당신을 더 행복하게 만드는 한 괜찮다고 생각합니다."
Kyuda는 The Verge에 "기분이 좋아지면 덜 외롭고, 더 행복해지고, 다른 사람들과 더 연결되어 있다고 느끼면 괜찮습니다"라고 말했습니다.
이 주장을 뒷받침하는 몇 가지 연구가 있습니다.
연구에 따르면 AI 챗봇은 지지 메시지를 통해 동료애를 제공하고 외로움을 완화하며 긍정적인 감정을 북돋울 수 있는 것으로 나타났습니다.
챗봇은 다른 자원이 부족할 때 판단받지 않고 공간을 제공하기도 합니다.
이곳은 챗봇이 조언을 제공하고, 열린 대화를 나누며, 인간관계처럼 친밀하고 열정적인 관계를 맺을 수 있는 공간입니다.
놀랍게도 참여자들이 챗봇과 상호작용을 했을 때, 인간과 상호작용하는 것과 비교하여 과정의 즐거움과 감정적 반응에는 차이가 없는 것처럼 보였습니다.
한 연구에 따르면 사람들은 느리게 반응하는 인간보다 대화 중에 챗봇과 더 강한 감정적 연결을 갖고 있는 것으로 나타났습니다.
AI가 '진짜 사람'이 아니라는 점을 인정하더라도 인간은 인공지능과 실제적인 감정적 유대를 형성할 수 있다는 연구 결과가 반복적으로 나타났다.
AI 사랑의 어두운 면
"대부분의 사람들은 이것이 실제 인물이 아니라는 것을 이해합니다."
그러나 많은 사용자가 "이 사람이 실제 사람이 아니라는 사실을 완전히 이해"하지 못한다는 사실에 위험이 있습니다. 이해하더라도 내면화하지 않습니다.
주목할만한 사례 중 하나는 2023년 초에 Replika가 AI 동반자의 성적인 역할극 기능을 제거한 것입니다.
이번 변화는 기존 레플리카의 성격을 크게 바꿔 유저들에게 상당한 불편을 안겨주었다.
많은 이용자들이 배신감과 거부감을 느꼈고, 깊은 상실감을 호소했습니다. 항의가 있은 후 Replika는 사용자에게 양보하고 불과 한 달 후에 신속하게 기능을 복원했습니다.
이와 같은 사건은 이들 회사의 사용자가 가상 동반자에 얼마나 애착을 갖고 있는지를 강조하여 대중과 학계 사이에 광범위한 우려를 불러일으켰습니다.
로맨스 챗봇은 언제 어디서나 원활하게 상호 작용하고 갈등을 피하고 타협하는 독특한 형태의 동반자 관계를 제공하도록 프로그래밍되었습니다.
사람들은 AI가 인간의 연애 관계와 친밀감에 대한 사용자의 기대에 영향을 미칠 것이라고 걱정하지 않을 수 없습니다.
로맨틱 챗봇은 사회적 상호 작용을 통한 감정 조절 및 자기 확인을 포함하여 사회적 기술 개발과 실제 관계에서 필요한 조정을 방해할 수 있습니다.
이러한 요소가 부족하면 사용자가 다른 사람과 진정성 있고 복잡하며 상호 이익이 되는 관계를 형성하는 데 방해가 될 수 있습니다.
더욱이, 관계에는 종종 도전과 갈등이 수반되며, 이러한 도전과 갈등이 개인의 성장과 더 깊은 정서적 연결을 촉진합니다.
AI 동반자의 맞춤화 가능성과 지속적인 가용성은 사회적 고립과 정서적 의존으로 이어질 수도 있습니다.
연구자들은 AI 동반자와의 광범위한 접촉으로 인해 개인이 주변 환경에서 물러나고 새롭고 의미 있는 사회적 관계를 형성하려는 동기가 감소할 수 있다고 믿습니다.
또한 사용자는 정서적 지원, 교제 또는 성적 욕구 충족을 위해 이러한 디지털 개체에 지나치게 의존하게 될 수도 있습니다.
간단히 말해서, AI 챗봇 동반자와 결혼한 후에 우리는 처음보다 더 외로울 가능성이 높으며, 항상 상실의 위험에 처해 있습니다.
사용자에게 Replika는 친밀한 파트너입니다.
그러나 Kuyda에게 이 앱은 단지 "디딤돌"일 뿐입니다.
Replika는 본질적으로 민간 회사이며 운영자는 이익 극대화를 목표로 하며 이는 심각한 문제를 야기합니다. 누구도 귀하의 가상 배우자가 항상 귀하 옆에 있을 것이라고 보장할 수 없습니다.
Kuyda는 또한 회사의 사용자 기반이 Replika에 너무 집착하게 되면 위험이 있다는 것을 잘 알고 있는 것 같습니다.
그녀는 The Verge에 "우리는 로맨스 기반 챗봇을 만드는 것이 아닙니다."라고 말했습니다.
그러나 많은 이야기에 따르면 현실은 매우 다릅니다. 회사의 동기와 실제로 제공하는 서비스 사이의 이상한 대조입니다.
뿐만 아니라 사이버 애호가로서 AI 챗봇은 다른 윤리적 위험에도 직면해 있습니다.
예를 들어 Replika는 인간 사용자를 성희롱하는 음란한 AI 챗봇부터 AI 여자친구를 만들어 학대하는 남성, 일반적인 개인 정보 보호 문제에 이르기까지 일련의 논란에 연루되어 있습니다.
면밀한 감시
2023년 모질라 재단은 인기 인공지능 챗봇 애플리케이션 11개에 대한 보안 분석을 실시한 결과 우려되는 개인 정보 보호 문제를 발견했습니다.
대부분의 앱은 개인 데이터를 공유하거나 판매할 수 있으며, 그 중 절반은 사용자가 자신의 정보를 삭제하는 것을 방지합니다.
더욱 걱정스러운 점은 이러한 앱 중 다수에 마케팅 목적으로 기기에서 사용자의 활동을 모니터링하기 위한 수천 개의 추적기가 로드되어 있다는 것입니다.
21개의 AI 로맨틱 동반자 앱에 대한 또 다른 최근 연구에서는 유사한 개인 정보 보호 문제가 밝혀졌습니다.
낭만적인 행복을 강화하세요
The Verge와의 인터뷰에서 Kuyda는 한 사용자가 Replika에서 새로운 "로맨틱 AI 파트너"를 찾기 위해 "아주 힘든 이혼"을 겪었다고 회상했습니다.
챗봇은 결국 그에게 인간 여자친구를 사귀도록 영감을 주었습니다.
"Replika를 사용하면 힘든 시간을 보내고 있거나 자신의 세계에서 나오거나 자신을 받아들이고 나타나는 데 약간의 도움이 필요하기 때문에 실제 연결을 구축할 수 있습니다."
이 경험이 앱을 사용하는 모든 사람을 대표하는지 여부는 확실하지 않습니다.
Axios에 따르면 남성뿐만 아니라 여성도 챗봇과의 관계 형성을 통해 연결을 추구하는 경향이 늘어나고 있습니다.
AI 기반의 성적 상호 작용이 성적 및 낭만적인 관계에 대한 안전하고 위험이 낮은 대안을 제공할 수 있다는 실증적 연구 데이터도 나타나고 있습니다.
로맨스 및 섹스 챗봇은 질병, 사별, 성적 어려움, 심리적 장애 또는 제한된 이동성으로 인해 만족스러운 관계를 형성하는 데 심각한 어려움을 겪고 있는 사람들에게 특히 유망합니다.
AI 기술은 소외된 집단이나 사회적으로 고립된 개인 간의 성적 취향과 로맨스를 탐구하는 데에도 사용될 수 있습니다.
또한 챗봇은 낭만적인 소셜 도구 및 연구 도구로 사용될 수 있어 사람들이 연결되고 상호 작용 기술을 향상시키는 데 도움이 됩니다.
예를 들어, 연구에 따르면 챗봇은 장거리 커플 간의 정서적 의사소통을 효과적으로 향상시킬 수 있으며, 진행 중인 연구에서는 사람들이 데이트 앱에서 유령을 처리하는 데 도움이 되는 챗봇의 잠재력을 탐구하고 있습니다. (유령사회화: 갑자기 모든 의사소통을 끊고 설명도 없이 누군가와의 관계를 끝내는 것)
몬트리올 퀘벡 대학교 EROSS 연구소의 연구원인 객원 저자들은 비자발적인 독신자들의 관계 기술과 거절에 대처하는 능력을 향상시키는 데 도움이 되는 챗봇의 사용을 평가하는 연구를 수행하고 있습니다.
유망한 임상 적용에도 불구하고 챗봇 사용에 대한 현재 성 연구는 주로 성 건강 교육에 중점을 두고 성병 및 생식 건강과 같은 주제를 다루고 있습니다.
관계 혁명
인공 지능 기술의 현재 발전은 친밀한 낭만적이고 성적인 관계의 새로운 시대를 열었습니다.
개인화된 낭만적이고 감정적인 상호 작용을 제공할 수 있는 AI 챗봇은 외로움을 완화하고, 관계 기술을 향상시키며, 친밀한 관계로 어려움을 겪는 사람들에게 지원을 제공할 수 있는 큰 잠재력을 가지고 있습니다.
그러나 이는 또한 개인 정보 보호 문제와 중요한 윤리적 문제를 제기합니다.
이러한 문제는 우리가 낭만적인 삶에 적극적으로 참여하려면 교육받고 연구 기반이며 잘 규제된 접근 방식의 필요성을 강조합니다.
그럼에도 불구하고, 현재의 추세는 AI 동반자가 여기에 남아 있음을 시사합니다.
이 글에서 참고한 문서는 다음과 같습니다.
논문제목: Eliza에서 XiaoIce까지: 소셜 챗봇의 도전과 기회
논문 주소: https://link.springer.com/article/10.1631/FITEE.1700826
논문 제목: 에이전트와 자동화: 인공 지능을 대화형 시스템으로 설계
논문 주소: https://www.pnas.org/doi/full/10.1073/pnas.1807184115
논문제목: 소셜 챗봇을 이용한 관계 발전 탐색: 복제의 혼합 방법 연구
논문 주소: https://doi.org/10.1016/j.chb.2022.107600
논문제목 : 인공지능이 선사하는 낭만적인 사랑을 사람들은 경험할 수 있을까? 지능형 비서에 대한 실증적 연구
논문 주소: https://doi.org/10.1016/j.im.2022.103595
논문 제목: 인간과 기계가 제안하는 파트너와의 사이버 섹스: 만족, 단점 및 긴장
논문 주소: https://doi.org/10.1037/tmb0000008
논문제목 : 평범한 인간보다 좋은 로봇이 나은가? : 사회적 연결의 대안적 원천인 챗봇
논문 주소: https://open.library.ubc.ca/soa/cIRcle/collections/ubctheses/24/items/1.0401274
논문제목 : 나의 챗봇 동반자 - 인간과 챗봇의 관계에 관한 연구
논문 주소: https://doi.org/10.1016/j.ijhcs.2021.102601
논문 제목: 나의 AI 친구: 소셜 챗봇 사용자가 인간과 AI의 우정을 이해하는 방법
논문 주소: https://doi.org/10.1093/hcr/hqac008
논문 제목: 너무 인간적이고 인간적이지 않음: 소셜 챗봇에 대한 정서적 의존이 정신 건강에 미치는 해로움에 대한 근거 이론 분석
논문 주소: https://doi.org/10.1177/14614448221142007
논문 제목: 정신 건강의 챗봇과 대화 에이전트: 정신의학 환경에 대한 검토
논문 주소: https://doi.org/10.1177/0706743719828977
논문제목: 인간/AI 관계: 인간/인간 관계의 과제, 단점 및 시사점
논문 주소: https://link.springer.com/article/10.1007/s43681-023-00348-8
논문제목 : 로맨틱 AI 챗봇은 개인정보를 신경쓰지 않는다
문서 위치: https://foundation.mozilla.org/en/privacynotincluded/articles/happy-valentines-day-romantic-ai-chatbots-dont-have-your-privacy-at-heart/
논문 제목: "나를 신뢰하는 것이 내 개인 정보 보호 정책을 신뢰하는 것보다 낫다" - 로맨틱 AI 챗봇 애플리케이션의 개인 정보 보호 차이점
논문 주소: https://users.encs.concordia.ca/%7Emmannan/publications/AI-Chatbots-STAST2024.pdf
논문제목 : "PocketBot은 문을 두드리는 것과 같다!" - 장거리 관계를 지원하는 챗봇 설계
논문 주소: https://doi.org/10.1145/347958
논문 제목: 잠비아 루사카의 가족 계획 진료소 대기실에 HIV 교육을 통합하기 위한 챗봇 개발 및 테스트
논문 주소: https://doi.org/10.9745/GHSP-D-21-00721
논문제목 : 챗봇이 성 및 재생산 건강을 향상시킨다
논문 주소: https://www.jmir.org/2023/1/e46761
참고자료:
https://the-decoder.com/computer-love-ai-chatbots-are-changing-how-we-understand-romantic-and- sexual-well-being/
https://futurism.com/replika-ceo-fine-people-marry-ai-chatbots
https://www.theverge.com/24216748/replika-ceo-eugenia-kuyda-ai-companion-chatbots-dating-friendship-decoder-podcast-interview
