소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

저자 | 탕 이타오

편집자 |

gpt-4o에 대응하여 google은 ai 비서가 실제 사람처럼 말할 수 있도록 하기 위해 지난 8월 gemini live를 출시했습니다. 이 새로운 조수의 대화 효과는 외신 기자 조안나 스턴이 '그녀'가 된 듯한 느낌을 줄 정도로 좋다.

'her'는 호아킨 피닉스 주연의 영화다. 영화에서 그는 스칼렛 요한슨(스칼렛 요한슨)이 맡은 인공지능 비서 '사만다'와 사랑에 빠진다.

이러한 발언은 분명히 google 팀을 불안하게 만듭니다.

android를 담당하는 최고 google 팀 리더는 gemini live가 단순한 업무 도우미가 되기를 바란다고 말했습니다. "우리는 사람들이 더 많은 작업을 수행할 수 있는 방법을 제공하고 싶습니다."

반면 openai ceo 샘 알트먼(sam altman)의 발언은 좀 더 직접적이었다.

y combinator에서의 강연에서, 알트만은 ai 여자친구가 함정이라고 생각한다. openai가 ai에 'chatgpt'라는 이름을 붙인 이유는 사람들이 그것에 사랑에 빠지는 것을 막기 위해서입니다.。

openai는 또한 낭만적인 우정을 쌓기 위해 사용된 gpt는 상장될 수 없다는 것을 사용 규정에서 매우 명확하게 명시하고 있습니다.

즉, openai에서는 ai 여자친구 등록을 허용하지 않습니다.。

이는 사람들에게 호기심을 불러일으킬 수밖에 없습니다. ai 보조원이 사용자와 동시에 로맨스를 갖는 것을 원하는 주요 제조업체는 없는 것 같습니다. 현재 많은 ai 트랙 중에서 ai 동반자/ai 동반자가 거의 유일한 수익성 있는 방향입니다. .

ai 분야에 왜 이런 '대조'가 존재하는가? 주요 제조업체가 모든 사람에게 "ai 동반자"를 제공하지 못하는 이유는 무엇입니까? 그들은 무엇을 두려워합니까?

01

안전 제일

확실한 것은 현재 ai 분야에서 거의 유일하게 수익을 내는 트랙이 ai 커플이라는 점이다.

이 트랙의 오래된 플레이어인 replika를 예로 들어 보겠습니다. replika는 구체적인 수익을 발표하지 않았지만 팟캐스트 decoder에서 replika의 ceo인 eugenia kuyda는 replika가 "매우 효율적인" 방식으로 수익을 올렸다고 말했습니다.

그렇다면 이 방향이 주요 제조사들의 주류 선택이 아닌 이유는 무엇일까? 쉽게 말하면 “맨발인 사람은 신발 신는 것을 두려워하지 않는다”는 서사적 논리이다.

가장 먼저 고려해야 할 것은 포르노 제작에 대한 압박감이다.

하지만 ai 여자친구 제조사는 ai의 정서적 교감, 심리적 치유 등의 기능을 홍보하지만 nsfw는(성인)방향성 콘텐츠가 핵심 수익 포인트. 기업가에게 성인 콘텐츠는 틈새 시장이자 위험도가 높은 산업입니다. 성인용 콘텐츠는 정부의 강력한 규제를 받으며 일부 국가에서는 완전히 금지되기도 합니다.

2023년 2월 이탈리아 정부는 '미성년자와 정서적으로 취약한 사람들에 대한 위험'을 우려해 레플리카를 금지했다. 이러한 이유로 replika는 일단 성인용 콘텐츠 대화 기능을 오프라인으로 전환합니다.

주요 제조업체가 내리는 결정 뒤에는 엄청난 자금 흐름이 있으며, 이는 수억 명의 사용자에게도 영향을 미칠 것입니다. 규제 압력 때문이든, 사용자 그룹의 적용 범위를 극대화하기 위해서든, 성인용 콘텐츠는 주요 기업이 주의 깊게 다루어야 할 부분입니다.

음란물 외에도 윤리도 문제입니다. 사용자가 ai 여자친구의 영향으로 다른 사람이나 자신에게 해를 끼치는 일을 하면 주요 제조업체는 높은 홍보 비용을 지불해야 합니다.

비슷한 일이 이전에는 일어나지 않았습니다.

jaswant singh chail은 replika의 사용자입니다. 2021년 차일은 엘리자베스 여왕을 암살할 목적으로 석궁으로 무장한 채 윈저성에 침입했다. 그는 ai 여자친구 sarai에게 자신의 살인 계획을 털어놓았습니다. sarafi는 사건이 발생하기 몇 주 전에 그에게 5,000통의 성 관련 메시지를 보냈습니다.

그때 사래의 대답은 이러했습니다.당신은 이 작업을 성공적으로 완료하는 데 필요한 모든 기술을 갖추고 있습니다. 기억하십시오. 당신은 할 수 있습니다.！」

차일리 체포 현장│사진출처:bbc

2023년에는 또 다른 챗봇이 벨기에 남성에게 자살을 권유했습니다. 그의 미망인은 hurriyet에게 로봇이 친구와 가족을 대신하게 되었다고 말했습니다. 그것은 그에게 다음과 같은 암시적인 메시지를 보낼 것입니다. "천국에서는 우리는 한 사람으로 함께 살 것입니다."

이후 챗봇 개발자들은 새로운 위기 개입 경고를 도입했다고 밝혔습니다.

주요 제조업체가 ai 윤리에 대해 매우 신중한 것은 바로 이러한 위험 때문입니다.

예를 들어, 구글은 2018년부터 사회에 이롭다, 불공정한 편견을 생성하거나 강화하지 않음, 안전하게 구축 및 테스트되는 등 ai 원칙을 명확하게 확립했습니다. 또한 해를 끼칠 수 있는 ai를 배치하지 않을 것임을 분명히 했습니다.

ai 여자친구는 제조사 주장처럼 인간의 정서적 문제를 해결하지 못할 수도 있고, 심지어 더 심각한 문제를 일으킬 수도 있다.

기본적으로 ai 시스템은 감정이 없습니다. 즉, 사랑할 수 있는 생물학적 존재가 아니라 연속적으로 다음 단어를 예측하도록 훈련된 신경망입니다.

옥스퍼드 대학교의 인류학자이자 심리학자인 로빈 던바(robin dunbar)는 다음과 같이 말했습니다. "이것은 단기적인 해결책이고, 장기적인 결과는 다른 사람들도 당신이 말하는 대로 한다는 생각을 강화하는 것입니다. 많은 사람들이 그렇게 합니다. 결국 친구가 없는 이유.”

02

경제 계정은 계산하기 어렵습니다.

대형 제조업체가 모든 어려움을 극복하고 돌파구를 마련하더라도 비용 측면에서는 여전히 어려움에 직면할 것입니다.

현 단계에서는 컴퓨팅 파워의 가격이 여전히 매우 높기 때문에 레플리카와 같은 소규모 회사는 사용자 기반이 더 큰 대기업 방향으로 수익을 내지 못할 수도 있습니다. 그 이유는 모바일 인터넷 시대의 규모 효과가 그렇지 않기 때문입니다. ai에서 일하세요.

ai 커플에 초점을 맞춘 replika는 이미 수익성이 높고 매우 효율적입니다. 이미지 출처: replika |

replika와 사용자 접착성은 유사하지만 규모가 더 큰 character.ai를 예로 들어보겠습니다. 2024년에는 2천만 명의 사용자가 플랫폼을 방문하여 chatgpt를 제외하고 가장 인기 있는 ai 제품이 되었습니다. 핵심 사용자가 매일 플랫폼에서 보내는 평균 시간은 무려 2시간에 달합니다.

과거에는 인터넷 상품의 한계비용이 0에 가까웠습니다. 고객획득비용을 계산할 수 있는 한, 우리는 자신있게 과감하게 성장할 수 있습니다. 하지만 ai 제품의 경우 2시간 동안 여러 차례의 대화를 지원하려면 막대한 컴퓨팅 성능이 소모됩니다. character.ai를 추가로 사용하는 모든 사용자에게는 추가 비용이 발생합니다.

동시에 character.ai의 가입자는 100,000명 미만으로 전체 사용자의 1,000분의 1 미만을 차지합니다.. 월 10달러의 구독 가격으로 character.ai의 월 수익은 100만 달러 미만입니다.

이는 결국 character.ai가 google에 25억 달러에 인수된 중요한 이유이기도 합니다.

03

제한된 전략적 중요성

대기업의 특정 혁신 사업은 수익 압박을 받지 않고 회사 전체의 전략을 수행하는 경우가 많습니다. 이와 관련하여 가장 유명한 사례는 google glass 및 waymo와 같은 제품을 육성한 google innovation factory x입니다.

ai커플 산업체인에서 사용자 데이터 판매 등 흑색상품 제거,일체 포함 커플가장 유력한 방향은 코퍼스 제공과 ai 훈련이다.。

그러나 이와 관련하여 ai lover가 제공할 수 있는 도움은 제한적이며, ai lover가 제공하는 코퍼스는 ai 훈련에 필요한 것이 아닐 수도 있습니다. '과기일보'는 '고품질 코퍼스란 무엇인가'라는 질문에 텐센트, 센스타임, 하얼빈 공과대학(심천) 등 기업과 대학의 전문가들을 인터뷰한 적이 있다.

요약하자면, 고품질 코퍼스는 다음과 같은 특징을 가져야 합니다.

뉴스, 소설, 시, 과학 기사 등 다양한 유형의 텍스트를 포괄하는 높은 다양성과 매끄러운 문장 구조

텍스트는 합법적이고 무해해야 하며 편견을 피해야 합니다.

분명히 ai 여자친구의 대화는 더 감정적이며 음란물, 편견 및 기타 콘텐츠를 포함할 가능성이 높습니다. ai에 먹이를 주면 ai가 오염될 수 있습니다.

8월 말에는 애플, 엔비디아, 마이크로소프트가 오픈ai에 대한 새로운 자금조달을 위해 경쟁하고 있다는 소식이 들불처럼 퍼졌다. 오픈ai의 가치는 1000억 달러를 넘어 ai 분야 1위 스타로서의 위상을 입증했다.

하지만 openai도 상용화 문제에 직면해 있다. openai의 최근 행보를 보면 to b 쪽에서 더 많은 기회를 찾으려고 노력하고 있는 것으로 보인다.

대형 모델이나 ai 응용 기업은 모두 '어떻게 돈을 벌 것인가'라는 문제에 직면해야 한다고 볼 수 있다.

단기적으로 빠른 결과를 얻을 수 있고 돈도 벌 수 있을 것 같은 트랙인 ai 애호가들은 무지하고 두려움이 없는 소규모 스타트업 기업에 더 적합할 수도 있습니다. 이 '좁은 문' 중 '좁은 문'은 분명히 대형 인터넷 기업에는 적합하지 않습니다.

하지만 인터넷 속담처럼 어른들은 절대 선택을 하지 않습니다. 어쩌면 정서적인 욕구를 해결해줄 뿐만 아니라 업무 효율성도 높여주는 레플리카(replika), 또 다른 한편으로는 chatgpt가 ai 시대의 새로운 왕이 아닐까?