소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

글│아니타 탕

편집자｜소젠순(Su Jianxun)

표지 출처 | 회사 제공

출현은 생성적 AI 물결의 핵심 현상입니다. 모델 규모가 임계점까지 확장되면 AI는 인간과 같은 지혜를 보여주고 이해하고 학습하며 심지어 창조할 수도 있습니다. 현실 세계에서도 '출현'이 일어납니다. 실리콘 기반 문명이 곧 탄생할 것입니다. AI 분야의 기업가와 창작자들은 지혜와 두뇌를 활용하여 AGI 실현을 위한 긴 여정을 밝히고 있습니다. 기존 생산성과 새로운 생산성 사이의 전환기에, "스마트 출현"은 새로운 칼럼 "36명의 출현"을 시작합니다. 업계 주요 인물과의 대화를 통해 이 단계의 새로운 생각을 기록하겠습니다.

2024년형 볼케이노 엔진은 기존의 로우 프로파일에서 변화해 이제 빠른 속도로 대형 모델 시장에 등장하고 있다.

얼마 전 5월, 화산은 눈길을 끄는 기자회견을 열었고, 모델 가격을 단숨에 '하한 가격'으로 낮췄다. Doubao의 주요 모델인 Doubao Pro-32k의 가격은 0.0008위안/천 토큰으로 인하되었으며 이는 업계 평균이 전년 대비 99.3% 감소한 것입니다. 한동안 업계 전체가 소란에 빠졌고 제조업체도 이를 따랐습니다.

그러나 두 달 후, 가격의 판도를 뒤집은 볼케이노 엔진은 더 이상 가격에 대해 더 이상 이야기할 의사가 없었습니다. "이제 10억 개의 토큰이 1,000위안에 불과하므로 더 이상 가격을 낮추는 것은 별 의미가 없습니다. 중요한 것은 동일한 가격으로 모델 성능이 얼마나 향상되는지입니다." "지능형 출현"을 말했습니다.

어느 정도 폭풍우가 몰아치는 5월의 '대형 판촉 주간' - Huoshan 외에도 Alibaba, Tencent, iFlytek 및 기타 크고 작은 제조업체들이 대형 모델 가격 인하를 발표했는데, 이는 대형 모델 분야가 대세 진입을 상징하는 것입니다. 새로운 무대. 이에 대한 합의는 대형 모델이 이미 눈부시지만 그것이 제공하는 새로운 AI 케이크는 여전히 너무 작다는 것입니다. 컴퓨팅 성능은 너무 비싸고 사용자는 혁신할 동기가 없습니다. 따라서 제조업체는 이익을 공유하는 것이 좋습니다.

효과도 즉각적이다. Doubao Big Model의 일일 평균 토큰 사용량은 이제 5,000억을 초과합니다. 가격 인하 전 이 숫자는 1200억개였다.

가격 전쟁, 수익 등의 용어와 비교했을 때 Tan Dai는 얼마나 많은 사용자를 확보했는지, 대형 모델로 얼마나 많은 작업을 수행했는지에 더 관심이 있습니다. “우리는 단기적인 수입에 너무 많은 관심을 두지 않고, 얼마나 많은 고객과 더 깊은 협력 관계를 구축했는지, 얼마나 많은 문제를 해결하도록 도왔는지에 따라 결과가 자연스럽게 따라올 것입니다.”라고 그는 말했습니다.

사람들은 과거의 길을 따라 미래를 예측하는 경향이 있습니다. 대형 모델과 클라우드 컴퓨팅은 모두 유사한 모델을 가진 사업으로 간주됩니다. 초기 단계에서는 막대한 기술 투자와 엔지니어링 연구 개발이 이루어지지만 후기 단계에서는 매튜 효과가 매우 높습니다. 그러나 전제는 규모 효과를 실제로 달성하기 전에 비즈니스 규모가 매우 큰 규모로 성장해야 한다는 것입니다.

올해의 대형 모델은 이러한 경로를 따라 발전하고 있습니다. 제조업체는 가격을 차례로 낮추고 대형 모델의 컴퓨팅 성능을 더욱 포괄적으로 만들고 물, 전기, 석탄과 같은 인프라가 되고 있습니다.

Tan Dai는 미래에는 대규모 모델의 구현이 클라우드 컴퓨팅보다 더 빠르게 실행될 것이라고 믿습니다. ChatGPT와 같은 제품은 오랜 '설교'를 거쳐온 클라우드 컴퓨팅과 달리 AI가 미래임을 이미 세상에 알렸습니다. 하지만 모두가 걱정 없이 혁신할 수 있도록 하기 위해서는 가격 인하가 첫 번째 단계일 뿐입니다.

AI 애플리케이션이 폭발적으로 증가함에 따라 제어 환상, 긴 텍스트 등 모델의 다양한 기술적 어려움을 극복하기 위한 지속적인 투자가 필요합니다. "개발자들이 불안해할 것 같지는 않다. 지금 킬러앱을 이야기하기에는 너무 이르다"며 "현재의 빅모델은 아직 '빅 브라더' 시대에 불과하다"며 "아이폰이 등장하려면 수년이 걸릴 것"이라고 말했다.

2021년, Huoshan은 공식적으로 클라우드 시장에 진출했습니다. 이제 3년밖에 되지 않았으며 여전히 클라우드 컴퓨팅 시장의 새로운 세력입니다. 따라서 AI는 볼케이노 엔진이 새로운 시대를 열 수 있는 티켓일 뿐만 아니라 코너킥을 추월할 수 있는 기회이기도 합니다. 이것이 볼케이노 엔진이 AI에 막대한 투자를 하는 이유이기도 합니다. 2023년에는 국내 대형 모델기업의 70%가 볼케이노엔진의 컴퓨팅 파워 서비스를 이용할 것이며, 올해는 MaaS(Model as a Service)가 그 다음 전장이 될 것이다.

다음은 "Intelligence Emergence"와 Tan Dai 사이의 대화 내용을 편집하고 편집한 내용입니다.

가격이 "역전"된 후

"지능 출현": 최근 Huoshan에 대해 가장 많이 논의된 점은 귀하가 주요 제조업체 중 최초로 가격 인하 물결을 일으켰다는 것입니다. 사람들은 귀하가 "역전"했다고 말합니다. 그 뒤에 무슨 생각이 있었나요?

탄 다이:우리의 핵심 고려 사항은 애플리케이션 생태계를 구축하는 것입니다.

"지능 출현": 가격을 낮추는 것이 어려운 결정이었나요? 얼마나 오랫동안 그것에 대해 생각하고 있었나요?

탄 다이: 전혀 어렵지 않습니다. 지난해 8월 정식 출시한 이후에는 비용이 유난히 높았던 것 같다. 우리는 그 이후로 엔지니어링 최적화를 진행해 왔으며 이를 내부적으로 광범위하게 사용해 왔습니다. 약 1년 간의 엔지니어링 최적화 이후 가격 인하를 고려하기 시작했습니다.

"지능 출현":이 결정이 어렵지 않은 이유는 무엇입니까?

탄 다이: 우리는 이 문제에서 가장 중요한 것이 무엇인지 생각하고 있습니다. 즉, 비즈니스 생태계를 번영시키고자 합니다.

이 뒤에는 몇 가지 임계값이 있습니다. 첫 번째는 모델 역량입니다. 515 컨퍼런스에서 우리가 대형 모델을 도입할 때 자체 평가 세트에 대해 언급하지 않았으며 평가 결과에 대해서도 언급하지 않았다는 것을 모두가 보았습니다.

누구나 사용할 수 있다고 생각하기 때문입니다. 평가에 관해서는 Zhiyuan, OpenCompass 등 많은 제3자 평가가 있으며 모두 빈백이 매우 효과적이라고 말합니다.

두 번째는 비용이 너무 높기 때문에 먼저 가격을 낮추고 지속 가능한 가격으로 만들어야 한다는 것입니다. 우리는 To B 사업이기 때문에 가격이 장기적으로 총 이익이나 이익을 지원할 수 없다면 지속 불가능할 것입니다.

세 번째는 플러그인, 케이스 등을 포함한 구현의 실용성으로, 많은 것을 함께 구성해야 합니다. 엔지니어링 최적화를 통해 비용을 절감합니다. 이것이 클라우드 벤더인 Huoshan이 해야 할 일입니다.

"지능 출현":화산은 어떻게 가격을 그렇게 저렴한 가격으로 낮췄습니까?

탄 다이:지속적으로 모델 구조를 최적화하고 추론 엔지니어링을 최적화함으로써 비용을 절감하고 이러한 배당금을 업계에 공개할 수 있습니다.

서비스로서 대형 모델은 규모가 더 크고 비용이 낮아야 합니다. 대규모로 부하를 다르게 할 수 있고 피크 시차 및 혼합 스케줄링을 수행할 수 있으므로 클라우드 컴퓨팅도 마찬가지이므로 비용이 더 저렴합니다.

둘째, 약간의 최적화를 통해 규모가 충분히 커지면 이점도 충분히 커질 것이며, 그래야만 좋은 기술 팀을 구축할 수 있는 충분한 예산을 확보할 수 있습니다.

"지능 출현": 이는 상호 강화하는 과정이다. 첫째, 가격이 저렴하고 규모가 더 커집니다. 그러면 최적화할 수 있고 이점도 더 커집니다.

탄 다이: 이는 두바오(Doubao) APP 호출이 증가한 데 따른 것이기도 하다. 이전 제3자 데이터를 보면 누구나 AI 제품과 Doubao APP가 1위를 차지했다는 것을 알 수 있습니다. Douyin 내에서는 50개 이상의 시나리오와 비즈니스 라인이 광범위하게 사용되고 있으며, 외부에서도 많은 초대 고객이 있어 규모를 뒷받침하고 있습니다.

5월 15일 가격 인하가 발표된 후 콜 규모가 더 빠르게 증가했고 이때 최적화할 수 있는 포인트가 더 많아졌습니다.

"지능 출현":가격 인하가 공식적으로 발표된 후, 어떤 효과가 있었나요?

탄 다이: 우선 AI 혁신은 더 이상 누구나 부담하지 않고, 그 규모도 빠르게 커지고 있다. 많은 스타트업이 매일 10억 개 이상의 토큰을 사용합니다. 현재 10억 개의 토큰 비용은 얼마입니까? 단돈 1,000위안. 모델이 출시된 지난 5월 15일과 비교하면, 고객당 일일 평균 토큰 사용량은 20~30배 증가했습니다.

그리고 우리가 생각하지 못한 많은 사용 시나리오가 있습니다. 1,200억 개가 넘는 토큰이었던 Doubao의 원래 일일 통화량을 살펴보겠습니다. 가격 인하 이후 현재 5,000억 개가 넘는 토큰이 있습니다.

둘째, 우리가 가격 인하를 발표했을 때 일부 사람들은 가격이 중요하지 않다고 말했지만 점차 많은 제조업체들이 이를 따르기 시작했습니다.

"지능 출현": 주요 모델인 Beanbao Pro 128k의 가격은 0.005위안/천 토큰으로 업계 가격보다 95.8% 저렴하며, 32k 모델의 가격은 0.0008위안/천 토큰으로 99.3% 저렴합니다. 이 가격은 "하한 가격"이라고 할 수 있습니다. 어떻게 결정되었나요?

탄 다이: 먼저 목표를 설정하고, 지속 가능한 가격으로 배당금을 지급해야 합니다. 손해는 아니지만 너무 많이 벌 필요는 없어요. 처음에는 업계 평균 대비 90% 하락인 줄 알았는데, 나중에 비교해보니 99% 하락할 줄은 몰랐습니다.

"지능 출현":앞으로 가격 인하 여지가 있을까요?

탄 다이: 이러한 관점에서 볼 때 가격은 더 이상 병목 현상이 아닙니다. 이렇게 낮은 수준으로 떨어진 후에는 아무리 더 떨어지더라도 사용자가 얻는 이득은 실제로 작습니다. 이제 더 중요한 것은 같은 가격으로 모델 역량을 향상시키는 것이 더 의미가 있다는 것입니다.

"지능 출현": 이것은 CV(시각인식) 분야의 이전 AI 혁신 물결과 약간 비슷합니까? 정확도를 70%에서 90%로 높이는 것이 중요하지만, 결국 95%에서 98%로 가는 것은 사실상 별 의미가 없고 고객도 이를 받아들일 수 있습니다.

탄 다이: 98%는 안될 수도 있습니다. 그런데 거꾸로 생각해보면 예전에는 5% Bad Case(기대에 못 미치는 결과)였지만 지금은 2%가 되어 효과가 두 배로 늘었다.

"지능 출현": 업계에서는 중국에서 가격 전쟁이 시작돼 업계에 타격을 주고 있다는 지적도 많다. 대형 모델을 훈련하는 데는 비용이 많이 들기 때문에 누구도 돈을 벌 수 없습니다.

탄 다이: 나는 이 견해에 동의하지 않습니다. 업계 관점에서 볼 때, 이로 인해 중국의 AI가 번영할 수 있게 된 것은 좋은 일입니다.

클라우드 컴퓨팅도 마찬가지다. 클라우드가 일찍부터 가격 전쟁에 돌입한 것은 좋은 일이다. 기업의 디지털 전환이 쉬워지고 비용도 절감됐다.

"지능 출현":과거 인터넷 환경에서 '가격 전쟁'은 경멸적인 의미가 너무 컸습니다.

탄 다이: 예전에는 To C 인터넷의 비즈니스 모델이 돼지에서 나온 것 같아요. 하지만 To B 가격 전쟁에서는 회사 자체가 이것에 의존해 과금을 하고, 이 가격을 계속 제공한다면 결국 모두가 이익을 얻게 되는 것입니다.

"지능 출현": 이는 확실히 개발자들에게 좋은 소식입니다. 하지만 내부적으로는 어떻습니까? Cloud Factory의 일부 영업 동기는 AI가 높은 가격에 팔 수 없기 때문에 AI를 판매할 동기가 없다고 말했습니다. 이 문제를 어떻게 고려합니까?

탄 다이: 이것은 매우 좋은 질문입니다. 우리는 잃을 것이 아무것도 없다고 생각합니다.

우선 Huoshan은 클라우드 플랫폼이며 고객은 단순히 대형 모델을 원하는 것이 아니라 대형 모델, 클라우드 및 데이터 제품을 포함하는 포괄적인 솔루션을 원합니다.

빅 모델 자체의 단위 수익은 감소했지만, 빅 모델을 통해 고객이 더 많은 문제를 해결할 수 있도록 지원함으로써 향후 고객과 더 많은 비즈니스를 할 수 있는 더 많은 기회를 갖게 될 것입니다. 큰 모델이 준비되면 고객은 우리에게 IT 아키텍처를 재구성해야 하며 화산을 기반으로 이를 수행할 것이라고 말할 것입니다.

"지능 출현": IT 아키텍처 재구성을 어떻게 이해합니까? 공간과 기회는 어디에 있습니까?

탄 다이:과거에는 IT 지출의 많은 부분이 클라우드를 통해 해결되지 않고, 소프트웨어 기능의 중첩을 통해 모두 인력에 의해 이루어졌고, 많은 부분이 컴퓨팅 파워로 전환되지 못했습니다.

그러나 대규모 모델의 경우 Copilot을 사용하든 Autopilot을 사용하든 많은 시나리오가 있으며 대규모 모델에서 많은 AI 시나리오를 제공할 수 있으며 대규모 모델의 하위 계층은 클라우드입니다. 이전에는 클라우드로 접근할 수 없었던 시장이 이제는 접근 가능한 시장이 되었습니다.

"지능 출현": 현재 고객은 AI를 얼마나 높게 인식하고 있나요? 클라우드 컴퓨팅이 처음 나왔을 때 많은 기업 사용자들은 클라우드 컴퓨팅을 '고급'이라는 개념과 동일시하고 디지털화를 선택했습니다. 이제 대형 모델이 그러한 효과를 얻었습니까?

탄 다이:기업은 AI를 채택한 후 모든 IT 환경이 AI에 의해 즉시 제거된다고 말하는 것이 아니라 AI를 사용하여 효율성을 높일 수 있는 특정 시나리오를 먼저 식별합니다.

예를 들어, 일부 고객의 경우 모델이 대량으로 호출되면 업스트림 및 다운스트림 서비스가 붕괴되어 로드를 지원하기 위해 클라우드 네이티브를 기반으로 이러한 아키텍처를 변환한다는 것을 확인했습니다.

"지능 출현":이런 경우가 소득에 어느 정도 반영되나요?

탄 다이: 수익 관점이 전부는 아니며 현재로서는 단기적인 측면에 너무 집중하지 않습니다. 또한 이 문제를 통해 얼마나 많은 고객들과 더 깊은 협력 관계를 구축했는지, 그들이 얼마나 많은 문제를 해결하도록 도왔는지 살펴보며 결국에는 자연스럽게 결과가 나올 것입니다.

"지능 출현":단기적인 소득에 중점을 두지 않는다면 현재 가장 중요하게 생각하는 지표는 무엇입니까?

탄 다이: 기업이 사용하는 토큰의 수는 많지만 앞으로도 이 모델만은 아닐 것 같습니다. 예전에 소설을 쓰던 친구가 나중에 “글쓰기를 버리고 시를 쓰기 시작했다”는 친구가 있었습니다. 왜 이런 선택을 했는지 묻습니다. 그는 시를 쓰는 것은 한 줄로 돈을 내고 소설을 쓰는 것은 단어로 돈을 지불한다고 말했습니다. 같은 100 단어에 대한 가격이 다릅니다.

큰 모델의 비즈니스 모델은 확실히 바뀔 것이며, 최종 경제 모델은 보다 엔드투엔드 모델입니다. 예를 들어 에이전트가 있으면 해결하는 데 도움이 되는 문제 수만큼 비용을 지불합니다. 동일한 100개의 단어에 대해 이를 생성하는 사람이 달라지는 것이 보다 발전된 비즈니스 모델입니다.

AI 애플리케이션이 폭발적으로 증가하지는 않았지만 본질은 여전히 ​​모델 역량의 문제입니다.

"지능 출현": 올해 초 업계에서는 이제 아주 오래된 용어인 킬러 앱(Killer App)을 논의하고 있습니다. 왜 아직 킬러앱이 나오지 않는지 모두가 궁금해합니다. 중요한 인프라 제공업체인 Huoshan으로서 현재 AI 적용 기간에 대해 어떻게 생각하시나요?

탄 다이: 지금은 실제로 킬러 앱이 있는 것 같은데, ChatGPT가 바로 그 앱입니다. 사용자 수와 수익에 관계없이 모든 인터넷 제품인 TikTok 및 Douyin보다 빠릅니다. 이는 이미 강력한 신호입니다.

이제 Killer App에 관해 이야기하자면, 저는 여전히 이 문제를 To C 관점에서 보는 것 같습니다. 대형 모델은 C 측 시나리오에서 확실히 매우 빠르게 실행될 것입니다. 채팅 및 정서적 교제 앱과 같이 시험 영역이 매우 광범위하기 때문에 이제 모두 매우 빠르게 실행됩니다.

둘째, AI 고객 서비스 등 기업 측의 생산성 시나리오가 많기 때문에 Killer App만 볼 필요는 없습니다. 이러한 시나리오에서는 Killer App의 개념이 적용되지 않으며 DAU와 같은 지표로 논의하지 않습니다.

엔터프라이즈 서비스는 Killer App에 대해 이야기하지 않습니다. ERP(기업 관리 시스템 소프트웨어)는 모든 기업이 가지고 있어야 하는 킬러 앱이지만, 누구도 이 개념에 대해 이야기하지 않습니다.

"지능 출현": 전 세계적으로 킬러앱 수준에 도달한 ChatGPT를 제외하면 다른 제품들은 한참 뒤쳐져 있습니다. 예를 들어 정서적 교제와 친구 사귀기 등은 여전히 ​​상대적으로 소수의 사람들에게 초점이 맞춰져 있고 동질성도 여전히 높다.

탄 다이: 예를 들어 PC시대의 킬러앱은 검색엔진이었지만 과거에는 검색엔진이 모두 포털과 전자상거래 사이트였다. 그러나 이러한 웹사이트가 더 많아지자 검색 엔진이 다시 등장했습니다.

모바일 인터넷이 막 시작되던 시기를 포함하면 Douyin 및 Meituan과 같은 앱은 불과 몇 년 후에 출시되었습니다.

"지능 출현": 당신은 클라우드 컴퓨팅 분야 출신입니다. 클라우드 컴퓨팅과 비교했을 때, 이번 AI 기술 대중화에 대해 어떻게 생각하시나요? 클라우드 컴퓨팅의 인기와 같은 길을 갈 것인가?

탄 다이: 클라우드 컴퓨팅은 기술적인 사람이라도 이해하기가 꽤 복잡하고, 쉽게 설정하는 데 한 사람만 필요한 것이 아닙니다. 저는 2010년부터 2011년까지 알리바바에서 일했습니다. 그 당시 클라우드가 무엇인지 알아낸 회사는 아마도 AWS뿐이었을 것이고, 구글 역시 이를 알아내지 못했을 것입니다.

하지만 AI는 다릅니다. 개인으로서 그 기능을 쉽게 경험할 수 있고, 좋은지 나쁜지 빨리 알 수 있습니다. AI가 무엇인지 알고 싶다면 빈백을 가져가세요. 이런 관점에서 볼 때 너무 복잡한 전도가 필요한 클라우드 컴퓨팅과는 다릅니다.

"지능 출현":이러한 대중화 경로가 To B 사업의 의사결정과 구매 로직에 영향을 미치게 될까요?

탄 다이: 모든 기업에는 관성이 있으며 B에 대한 비즈니스는 느려질 것입니다. 하지만 적어도 제품이 좋은지 아닌지를 이해하게 되면 고객 경험은 달라지게 됩니다.

AI가 가져오는 큰 변화는 To B 비즈니스를 가시화하고 접근 가능하게 하고, POC(시제품 검증) 시간도 훨씬 단축된다는 점이다. 과거에는 의사결정과 사용이 분리되어 선택을 했지만 사용자들은 이것이 형편없다고 생각했습니다.

그러나 AI는 이러한 격차를 많이 완화했습니다. 과거에는 고객이 PPT를 보고, 투어를 하고, 인터뷰를 해야 했고, 결국 의사 결정자는 데모만 볼 수 있었고 경험이 그다지 완성되지 않았습니다. 이제 고객과 대화를 하면 고객이 제가 평소에 사용하는 빈백에 대해 이야기해 주는데, 데모에서 조정하고 싶은 부분이 있으면 백그라운드에서 변경하면 즉시 조정됩니다. 판매 전에 직접 할 수도 있으며 변경을 위해 R&D를 위해 판매 전에 다시 방문할 필요가 없습니다.

이것이 우리의 To C와 To B가 모두 같은 브랜드, 둘 다 빈백인 이유입니다.

"지능 출현":국내 대형 모델의 경우 지금과 큰 차이가 있다고 생각하시나요?

탄 다이:가격 차이가 엄청납니다.

"지능 출현":다들 많이 떨어지지 않았나요?

탄 다이: 실제로 국내 제조사들은 철저히 따르지 않고 있으며, 가장 강력한 모델인 당사의 메인 모델도 0.0008위안/천토큰으로 인하되었습니다. 그러나 대부분의 제조사들은 가장 강력한 모델을 낮추지 않고 두 번째로 강한 모델을 낮추거나 낮추고 있습니다. a 소형 모델은 무료입니다. 일부 경쟁 제조사의 주력 모델 가격이 얼마인지 직접 가서 보면, 빈백 가격과 적어도 수십 배는 차이가 날 것이다.

오픈 소스 모델을 사용하여 비용을 측정하는 것도 빈백을 사용하는 것보다 비용이 더 많이 듭니다. 이를 위해 오픈소스 Llama를 사용하는 경우 엔지니어링 최적화를 직접 수행해야 하며 규모상의 이점이 없습니다. 동일한 효과로 엔지니어링 최적화를 직접 수행하는 것은 클라우드를 직접 사용하는 것보다 몇 배 더 비쌉니다.

"지능 출현":가격 외에 다른 차이점은 무엇인가요?

탄 다이: 모델은 여전히 ​​빠르게 발전하고 있으며 아직 개발되지 않은 기능도 많으며 앞으로도 여전히 많은 차이점이 있을 것이며 점점 더 좋아질 것입니다. 하지만 세계적으로 보면 아주 잘나가는 기업은 3~4개 정도, 적어도 중국의 10개 기업만큼은 아닐 것이다.

"지능 출현":Huoshan의 고객은 현재 어떤 산업에 집중되어 있습니까?

탄 다이: 수천 개의 산업 분야에 존재합니다. 상대적으로 좋은 성적을 내는 휴대폰 제조업체로는 Samsung, Xiaomi, OPPO, vivo, Honor 등이 있습니다. 우리는 자동차 제조업체와도 많은 일을 하고 있는데, 그 회사들은 모두 매우 큰 회사입니다. 금융은행에도 사례가 있다.

그러나 진입 각도는 다를 것입니다. 예를 들어 휴대폰과 자동차에서 우리가 하는 일은 비교적 완전한 인간-컴퓨터 상호 작용 시나리오입니다. 그러나 많은 대규모 국유 기업이나 은행의 경우 작은 지점부터 먼저 시도해 볼 수 있습니다.

그래서 AI를 하면 장점은 조금씩 시작할 수 있고, 시작하자마자 핵심 시스템을 자를 필요가 없다는 점이다.

"지능 출현": 각 대형 모델 플랫폼의 고객 프로필은 매우 다른가요? 대규모 모델을 구축하는 기업 중 상당수는 클라우드 공급업체이며, 클라우드 공급업체의 고객 그룹도 업계 차이가 있습니다.

탄 다이: 대형 모델의 사업 규모가 작을 때는 차이가 있지만, 규모가 클 때는 차이가 없습니다. 지금은 확실히 중소규모 고객이 많아졌지만, 업계 분포를 보면 특별히 큰 차이는 없을 수도 있습니다.

"지능 출현":C면과 B면 중 어느 쪽이 빅모델이 먼저 떠오를 것 같나요?

탄 다이: 현재 볼륨은 거의 같지만 C 측의 Matthew 효과가 매우 강력할 수 있습니다. 아마도 상위 소수 고객이 DAU에 많은 기여를 했을 것입니다. 이 논리는 AI가 아닌 경우에도 C 측에 적용되지만 B 측의 개발은 매우 장기적입니다.

"지능 출현": 이제 대형 모델이 할 수 있는 일은 상대적으로 간단합니다. 예를 들어 모든 사람은 Agent의 정의가 일치하지 않는다고 느낍니다. 이제 대규모 모델의 실행이 이렇게 단순한 시나리오에서만 유지될 수 있는 이유는 무엇입니까?

탄 다이:모델 역량이 충분히 강력하지 않습니다.

"지능 출현":돌파할 핵심 포인트는 무엇인가?

탄 다이: 모델능력도 강하고 지능도 강해야 하는 경우가 꽤 있습니다. 얼마 전 대학 입학 시험이 아니었나요? Doubao는 마침내 교양 과정에 '합격'했지만 아직 Tsinghua University와 Peking University에 입학하지 않았고 과학 과정에도 합격하지 못했습니다. 당연하고, 레벨도 충분하지 않습니다. 하지만 문제 없습니다. 우리는 충분한 자신감을 갖고 있습니다.

둘째, 장기기억 등 아직 해결되지 않은 복잡한 문제가 많다. 이를 위해서는 확실히 모델 구조의 혁신이 필요하며 다중 양식이 더 좋아져야 합니다. 비용도 통제해야 합니다. 이러한 기능을 추가한 후에는 비용을 너무 많이 늘리는 것은 좋지 않습니다.

아직은 대형 모델이 등장하기에는 초기 단계인 것 같아요. 이동통신 혁명은 1970~80년대부터 30~40년 동안 진행됐다. AI의 발전 역사는 그보다 길다. 1990년대 우리가 여전히 휴대폰을 사용하던 시절, 지금의 아이폰을 떠올릴 수 있을까요? 이는 지난 수십 년 동안의 변화입니다.

"지능 출현":Huoshan Model의 현재 사업 규모가 고객 수든 매출이든 귀하의 기대에 부합합니까?

탄 다이: 괜찮고 기대에 부응한다고 생각합니다. 우리는 생태계가 번영하기를 희망하며, 이제 실제로 우리가 원하는 결과를 얻었습니다. 그리고 우리만 올라가는 것이 아니라 우리 친구들도 올라가고 있는 것을 봅니다.

"지능 출현":염두에 두고 있는 예상 금액이 있나요?

탄 다이: 예를 들어, 총 토큰 수와 계층화 토큰 수에 대한 목표가 있습니다. 예를 들어, 토큰 수가 특정 수준을 초과하는 사용자 수는 특정 수준에 도달해야 합니다. 고객이 방추형 또는 깔때기형 분포를 형성하기를 바랍니다. 토큰의 총량이 매우 높지만 1억 개가 넘는 토큰을 보유한 고객이 10명뿐이라면 그것도 건강하지 않습니다.

"지능 출현":지금은 어떤 모습인가요?

탄 다이:아직 역피라미드 형태는 아니며, 사용자의 허리가 조금 더 굵어질 수 있습니다.

"지능 출현": 분명히 대형 모델의 가격 인하 이후 AI는 더욱 포괄적이 되었고 더 많은 일을 할 수 있게 되었습니다. 요즘 얼리 어답터들 사이에서 '1인 기업'으로 변하는 분명한 추세가 있다고 생각하시나요?

탄 다이: 요즘은 '1인 기업'이 줄어들고 '10인 기업'이 많아지고 있습니다. 해외에서는 두세 사람만 있어도 많은 일을 할 수 있다고 봐요.

우리는 사업을 시작하려면 프로그래머만 있으면 된다고 농담하곤 했지만, 이제는 더 이상 프로그래머가 필요하지 않습니다. 우리가 인터뷰한 일부 사용자는 코드가 없기 때문에 이 데모는 프로토타입 검증(POC)에 전혀 사용할 수 없지만 이제는 0에서 1로의 획기적인 발전이라고 말했습니다. 앞으로는 대형 모델이 좋아지면 0부터 100까지 모두 AI가 해결할 수 있을지도 모른다.

오픈AI는 당초 1인만 보유한 유니콘 기업(가치 10억 달러 이상)이 언제 등장할지, 5년 이상 걸릴지에 대해 논의한 바 있다.

이런 경우 킬러앱만 보면 안 된다. 스타트업의 많은 아이디어가 매우 수직적인 문제를 해결하려는 것이기 때문이다.

“AI를 활용하면 비즈니스 성장에 도움이 된다”고 설교하는 것은 거짓말쟁이다.

"지능 출현":지금은 기술 측면에 더 집중하고 계시나요, 아니면 고객 측면에 더 집중하고 계신가요?

탄 다이: 거의. 단기적으로 양측은 분리될 수 없습니다. AI는 클라우드 컴퓨팅만큼 성숙하지 않습니다. AI 모델 개선, 제품 개선 및 고객이 이를 사용하는 방식에는 피드백 프로세스가 필요합니다.

"지능 출현":고객의 현재 요구사항이나 의구심 중 어떤 측면에 가장 중점을 두고 있나요?

탄 다이:예상치 못한 방법이 많이 있습니다.

예를 들어, 교육 현장에서 어떤 사람들은 내가 문제를 해결해 줄 수 있다고 생각하곤 했습니다. 그러나 현재 많은 시나리오에서 고객은 단순히 답이 무엇인지 알려주는 대신 교사 역할을 수행하고 이를 수행하는 방법을 알려주기를 원합니다.

"지능 출현":이것이 제품 수준의 문제라고 생각하시나요?

탄 다이:제품이나 수요의 문제라고 생각하면 되지만, 그 이면에는 기술적인 문제도 있습니다.

"지능 출현": 이제 고객 측에서는 "필수" 시나리오가 더 많아질까요? 예를 들어, 이제 기업에서는 AI가 없어서는 안 될 것이라고 생각하거나, 비용 절감과 효율성 증대를 고려할 수도 있습니다.

탄 다이: AI가 Next Big Thing이라는 점은 이미 모두가 공감하고 있으므로 절대 놓치지 않을 것입니다. 이제 더 이상 기업에 AI를 사용해야 한다고 교육할 필요가 없고, 어떤 시나리오가 AI를 사용하기에 적합한지 기업과 논의해야 합니다. 사람들은 AI의 능력을 과소평가할 때도 있고, 과대평가할 때도 있습니다.

"지능 출현":따라서 이전 디지털화 시대에 비해 AI는 디지털화 개념에 새로운 업그레이드를 가져왔습니다.

탄 다이: 아마도. 과거에는 디지털화를 할 때 비정형 데이터를 정형 데이터로 바꾸고, 정형 데이터를 사람들에게 이해시키는 것이 매우 중요한 단계였습니다. 이제 AI가 모든 것을 해결해 주었고, 디지털화의 문턱도 낮아졌습니다.

"지능 출현": 기업은 AI와 디지털화를 같은 관점에서 보는가? 과거에는 기업이 디지털화하면 상사는 효율성이 조금 향상될 수 있다고 느꼈지만 여전히 많은 사람들이 이를 비용으로 여겼습니다. 기업에서 디지털화가 성장할 것인지 묻는다면 실제로 AI가 이러한 상황을 바꿀 수 있을 것인가?

탄 다이: 저는 이것이 다양한 차원의 의사결정 과정이라고 생각합니다. 기술은 단지 비즈니스를 더 좋게 만드는 것입니다. 상사는 내 비즈니스 모델을 보고 싶어하는 반면, 디지털화를 통해 비즈니스 효율성을 높이는 방법을 알고 싶어 합니다.

소매업체가 저에게 비즈니스 성장을 달성하는 방법을 묻는다고 가정해 보겠습니다. 내 첫 번째 요점은 당신이 AI에 들어가고 싶다고 그에게 말하지 않는 것입니다. 나는 분명히 말합니다: 당신은 Douyin 전자 상거래를 시작합니다. 그런 다음 AI를 통해 효율성을 향상하는 데 어떤 도움을 줄 수 있는지 이야기해 보겠습니다. 처음부터 "AI와 함께 성장할 수 있다"고 한다면 거짓말이라고 생각합니다.

"지능 출현": 예전에 훠산에서 구름 팔기 힘들어서 2022년쯤에 떠난 친구가 있어요. 대형 모형을 본 후 그는 이것이 화산에 특히 좋은 기회를 제공한다고 느꼈습니다. 어떻게 생각하나요?

탄 다이: 우리는 2021년 말에야 클라우드를 출시할 예정입니다. 물론 첫 해에 하기가 어려울 것입니다. 이것이 가장 어려울 것입니다. 그는 단지 1년 동안 그것을 고수할 수 있습니다. 사실, 우리의 성장은 지난 몇 년 동안 상당히 빨랐으며, 업계에서 가장 빠른 속도를 자랑합니다.

나는 시간이 영웅을 만든다고 생각한다. 신규 고객도 없고 고객을 위한 새로운 시나리오도 없다면 아무리 최선을 다해도 무슨 소용이 있겠습니까? 이전의 클라우드 컴퓨팅 황금시대는 모바일 인터넷의 부상과 각계각층의 디지털화의 점진적인 성숙으로 인해 클라우드 컴퓨팅이 그렇게 빨리 성장하지 못한 것입니다. 이는 산업 발전의 자연 법칙입니다.

하지만 다음 시대는 AI다. 나는 10년 이상마다 새로운 지점이 나타날 것이라고 생각하며, 우리는 기술 리더십을 유지하기 위해 이 새로운 지점을 포착해야 합니다.

"지능 출현":지금 접하는 개발자들은 불안해 하는 것 같나요?

탄 다이: 개인적으로 특별히 불안해하는 사람은 없다고 생각합니다. 왜? 아시다시피, 현재 모델은 꽤 좋고 가격이 너무 낮기 때문에 더 시도해 보면 걱정할 것이 없습니다. 투자자들의 불안이 더 클 수도 있다. (웃다)

"지능 출현":일부 개발자들은 지금은 모델이 저렴하지만 처음에는 꽤 괜찮았고 여전히 돈을 벌 수 있지만 일단 규모를 확장하고 트래픽에 투자하기 시작하면 ROI가 정확하지 않고 실제 유지 사용자가 발생하기 때문에 불안해합니다. 드물 것입니다.

탄 다이: AI 문제가 아니라 교통 문제인 것 같아요. AI를 사용하지 않으면 다른 것을 사용하면 여전히 틀릴 것입니다. 예를 들어, 단편극은 매우 인기가 있습니다. 일부 단편극은 돈을 벌 수 있지만 다른 단편극은 그렇지 않습니다.

"지능 출현":최근 본 가장 흥미로운 AI 적용 시나리오는 무엇입니까?

탄 다이: 예를 들어 어떤 아이들은 빈백을 이용해 영어를 직접 배우는 경우도 꽤 있습니다. 우리 회사의 또 다른 고객은 대형 모델을 사용하고 싶어 회사 내에서 AI 해커톤을 개최했습니다. 직원들은 평소 접했던 비즈니스 요구 사항을 기반으로 100개 이상의 제품을 개발했는데 그 중 두세 개는 성공했을 수도 있습니다.

우리는 현재 전체 디자인에 사용자를 초대하는 일부 자동차 제조업체와 협력하고 있습니다. 사용자가 디자인에 참여하면 자신의 문제점을 더 잘 이해할 수 있습니다.

"지능 출현":귀하가 서비스를 제공하는 회사의 경우 훈련 및 추론 컴퓨팅 성능의 비율이 현재 얼마나 변경되었습니까?

탄 다이: 아직 더 많은 훈련이 있을 것입니다. 그러나 추론은 이제 매우 빠르게 증가하여 작년보다 수십 배 증가한 반면 훈련은 두 배 미만으로 증가했습니다. 우리는 원래 2025년에는 추론이 훈련을 능가할 것이라는 예측을 가지고 있었는데, 지금은 그런 것 같습니다.

"지능 출현":AI 애플리케이션이 언제 폭발할 것이라고 생각하시나요?

탄 다이: 우선 올해는 큰 폭발은 아니지만 분명 작은 폭발이겠지만, 내년에는 큰 폭발이 일어날 것이라고 본다. 글로벌 관점에서도 AI 적용 초기 단계임은 분명하다. 앞으로는 가격이 더 저렴해지면 이상적인 모델 효과가 보장될 것이다. AI 응용이 활발해지고, 화학반응이 계속해서 일어나야 생태계가 구축될 수 있다.

"지능 출현":2023년부터 대형 기본 모델을 앞으로도 만들지 않겠다고 강조해 오셨는데요.

탄 다이: 다시는. 대규모 Doubao 모델은 ByteDance의 전담 팀에서 개발 중입니다. 클라우드와 MaaS가 잘 이루어지면 Huoshan이 자체적으로 모델을 만들 필요가 없습니다.

클라우드 컴퓨팅을 하는 사람과 대형 모델을 하는 사람은 확실히 다릅니다. 세계의 주요 제조사들은 모두 각자의 일을 하고 있습니다. 아마존의 모델은 클로드(Claude)이고, 클라우드는 구글의 구글 클라우드(Google Cloud)가 만들고 제미니(Gemini)는 같은 집단이 만드는 것이 아닙니다.

Huoshan에서는 클라우드를 잘 수행하는 데 중점을 두고 있지만 MaaS는 클라우드에서 매우 중요한 부분입니다. MaaS가 성공하기 위해 우리의 MaaS 서비스는 고객에게 최고의 모델을 제공할 것입니다.

그룹에 오신 것을 환영합니다

소통을 환영합니다