소식

Transformer 저자의 경고: 모델만 판매하는 것만으로는 OpenAI를 플레이할 수 없습니다!

2024-08-24

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

타오러(Tao Le)는 아오페이 사원(Aofei Temple)에서 유래되었습니다.

Qubits 공개 계정 QbitAI

트랜스포머 8그룹의 막내인 Aidan Gomez는 최근 인터뷰에서 다음과 같이 한탄했습니다.

모델만 판매하는 것은 정말 수익성이 없습니다!

GoogleTransformer의 버전인 Aidan Gomez는 AI 분야에 지대한 영향을 미친 Transformer의 저자 중 한 명입니다.

그리고 이제 Aidan Gomez의 가치는 55억 달러나 급등했습니다.코히어컴퍼니공동 창업자이자 CEO.(이전 오픈소스 대형 모델 Command R 시리즈 출시)

20VC 매니저 Harry Stebbings와의 대화에서 Aidan Gomez는 AI의 개발 동향에 대해 이야기했습니다.

이러한 주제 중 일부는 다음과 같이 네티즌들 사이에서 관심과 토론을 불러일으켰습니다.

  • 모델 성능 개선, 규모만이 유일한 방법은 아닙니다

  • 판매 모델만 결합할 수 없습니다.오픈AI다투다

  • AI 스타트업은 클라우드 벤더에 의존해서는 안 된다

  • 그는 로봇공학 분야에 대해 낙관적이며 5년 안에 큰 발전이 있을 것이라고 예측하고 있다.

  • 데이터 품질은 모델에 매우 중요합니다.

보다 구체적인 내용은 아래 텍스트 버전을 참고해주세요~

컴퓨팅 성능 외에도 데이터 및 모델 혁신으로 AI 성능도 향상될 수 있습니다.

: 시작하기 전에 한 가지 질문을 드리고 싶습니다. 어렸을 때 게임을 좋아하셨나요?

에이단 고메즈: 저는 게임을 좋아하고 어렸을 때부터 기술을 좋아했습니다.

: 즉, 사람들이 "끝내는 것은 불가능합니다. 더 이상 플레이하고 싶지 않습니다."라고 느끼게 만드는 매우 어려운 첫 번째 레벨로 게임을 시작하지 않을 것임을 의미합니다.

에이단 고메즈: 네, 이것을 머신러닝에서는 '레슨러닝'이라고 합니다. 매우 간단한 작업을 수행하도록 모델을 가르치는 것부터 시작한 다음, 기존 지식을 바탕으로 점차 복잡성을 증가시킵니다.

흥미롭게도 커리큘럼 학습은 실제로 머신러닝에서 실패합니다. 실제로 강좌를 진행하는 대신, 가장 어렵고 쉬운 자료를 모델에 던져서 모델이 스스로 알아내도록 했습니다.

그러나 인간의 경우 이러한 접근 방식은 매우 잘 작동하며 학습의 중요한 부분입니다. 머신러닝에서는 성공하지 못하는 모습이 정말 흥미롭습니다.

: 방금 모든 것을 모델에 직접 적용한다고 말씀하셨는데요. 많은 사람들이 컴퓨팅 성능이 더 필요하고 성능이 향상될 것이라고 말합니다. 이것이 맞다고 생각하시나요? 성능 향상을 제한하는 다른 요인이 있습니까?

에이단 고메즈: 모델에 컴퓨팅 성능을 더 추가하거나 모델을 더 크게 만들면 더 좋아지는 것은 사실입니다.이는 모델 성능을 향상시키는 가장 신뢰할 수 있는 방법이지만 가장 어리석은 방법이기도 합니다.

자금이 충분한 사람들에게는 위험이 매우 낮은 매우 매력적인 전략입니다. 모델을 확장하고, 더 많은 돈을 쓰고, 더 많은 컴퓨팅 성능을 구입하면 더 좋아질 것입니다. 나는 이것을 믿습니다. 나는 그것이 매우 비효율적이라고 생각합니다.

더 좋은 방법이 있습니다.지난 1년 반 동안을 보면,채팅GPT현재까지 출판됨GPT-4출시 기간. GPT-4에는 거대하다고 말하는 대로 1조 7천억 개의 매개변수가 있습니다.환경부

현재 우리는 이것보다 더 나은 모델을 갖고 있는데, 그 모델의 매개변수는 130억 개에 불과합니다.따라서 이러한 변화의 속도, 즉 비용의 급격한 감소는 정말 놀랍고 심지어 약간 초현실적입니다.

그렇습니다. 규모를 확대하여 모델 품질을 달성할 수 있지만 그렇게 해서는 안 됩니다.

: 이런 발전이 계속될까요? 내 말은, 우리가 이 정도 규모의 진전을 계속해서 볼 수 있을 것인가? 아니면 어느 시점에서 병목 현상에 도달하게 될까요?

에이단 고메즈: 네, 기하급수적인 투자가 필요합니다. 지능의 선형적인 성장을 유지하려면 컴퓨팅 성능을 지속적으로 두 배로 늘려야 합니다. 그러나 이러한 성장은 아주 아주 아주 오랫동안 계속될 가능성이 높습니다.

점점 더 똑똑해질 것입니다. 하지만 금전적인 제약에 부딪히게 됩니다. 원래 GPT-4를 구입한 사람은 많지 않았으며, 특히 규모가 매우 크고, 비용이 많이 들고, 실행하기에 비효율적이며, 비용이 많이 들고, 비용을 정당화할 만큼 똑똑하지 않았기 때문에 많은 기업에서 구입했습니다.

따라서 시장에서는 단순히 규모 확장에만 의존하기보다는 모델을 더 작고 더 효율적으로 만들고 데이터, 알고리즘 및 방법을 사용하여 모델을 더 스마트하게 만들어야 한다는 압력이 많습니다.

: 특정 사용 사례를 위해 설계된 더 작고, 더 효율적이며, 수직 지향적인 모델이 있는 세상에 살고 있는 세상에서 몇 개의 크고 지배적인 모델이 있을까요? 아니면 둘 다일까요?

에이단 고메즈: 지난 몇 년 동안 우리가 본 추세는 공통적이고 스마트한 모델을 사용한 프로토타입 제작을 선호하는 것입니다. 그들은 특정 모델로 프로토타입을 만들고 그들이 관심 있는 분야에 특히 좋은 모델을 만들기 위해 모델을 미세 조정하는 데 시간을 소비하고 싶어하지 않습니다.

그들이 원하는 것은 크고 값비싼 모델을 가져와서 프로토타입을 제작하고 작업을 완료할 수 있음을 입증한 다음 특정 영역에서 뛰어난 효율적인 모델로 다듬는 것입니다. 그래서 이 패턴이 실제로 나타나고 있습니다.

결과적으로 우리는 일부는 수직적이고 집중적이며 다른 일부는 완전히 수평적인 다양한 모델의 세계에서 계속해서 살게 될 것입니다.

: 예를 들어 OpenAI의 비용은 현재 30억 달러입니다. 그렇지 않다면 어떻게 이 경주에서 자리를 지킬 수 있겠습니까?마이크로소프트、아마존、구글、페이스북그런 회사?

에이단 고메즈: 대규모 프로젝트만 한다면 꼭 이런 기업이 되거나, 이들 기업의 자회사가 되어야 합니다. 그러나 수행할 수 있는 다른 작업도 많이 있습니다.

앞으로 나아갈 유일한 방법으로 확장에만 전적으로 의존하지 않는다면,데이터 혁신이나 모델 및 방법 혁신을 믿는다면 탐색할 방향이 많이 있습니다.

: 데이터 혁신과 모델 및 방법 혁신이 무엇인지 자세히 알아볼까요?

에이단 고메즈오픈 소스에서 볼 수 있는 거의 모든 큰 발전은 데이터 개선에서 비롯됩니다.인터넷에서 더 높은 품질의 데이터를 얻고, 웹 크롤링 알고리즘을 개선하고, 웹 페이지를 구문 분석하고, 중요한 부분을 추출하고, 인터넷에 중복과 스팸이 많기 때문에 인터넷의 특정 부분의 가중치를 높입니다.

가장 가치 있고 지식이 풍부한 부분을 추출하여 모델에 강조하고 합성 데이터를 생성하는 기능을 통해 인간의 개입 없이 모델에 의해 자동으로 생성되는 대량의 텍스트 또는 웹 콘텐츠를 얻을 수 있습니다. .

이러한 혁신특히, 데이터 품질을 개선하는 능력은 지금까지 우리가 보고 있는 많은 발전을 주도하고 있습니다.

: 네, 이게 데이터 혁신인데, 모델 혁신은 어떤가요?

에이단 고메즈: 여기에는 새로운 강화 학습 알고리즘과 같은 것이 포함됩니다. Q*와 그것이 가져올 변화에 대해 많은 소문이 돌고 있습니다. 솔루션을 검색하는 방법 등 검색에 관한 아이디어입니다.

현재 모델의 상태는 내가 질문을 하면 모델이 즉시 정답을 제공해야 한다는 것입니다. 그것은 모델에 대한 매우 까다로운 요구 사항입니다. 그렇죠?

인간에게 그렇게 할 수는 없습니다. 어려운 질문을 하고 즉시 대답을 내뱉기를 기대할 수도 없습니다. 생각하고 처리할 시간이 필요합니다.

: 때로는 약간의 브레인스토밍 시간이 필요할 때도 있습니다.

에이단 고메즈: 네, 꼭 필요한데요. 따라서 모델 개발의 매우 분명한 다음 단계는 모델이 생각하고 문제를 해결하도록 해야 한다는 것입니다. 그들이 실수를 하게 하고, 무언가를 시도하고, 실패하고, 왜 실패했는지 이해한 다음, 되돌아가서 다시 시도하도록 해야 합니다.

현재 모델에는 문제 해결이라는 개념이 없습니다.

: 문제해결을 말씀하셨는데, 이것이 추론과 같은 개념인가요?

에이단 고메즈:예.

: 추론은 왜 그렇게 어려운가? 왜 아직 추론이라는 개념이 없나요?

에이단 고메즈추론은 어렵지 않지만 추론 과정을 보여주는 훈련 데이터가 인터넷에 많지 않다는 것이 어려운 점이다.인터넷에 있는 대부분의 내용은 추론 과정의 결과입니다.

온라인에 글을 쓰다 보면 자신의 사고 과정을 보여주는 것이 아니라 직접적으로 결론을 보여주고, 자신의 생각을 보여주는데, 이는 수많은 고민과 경험, 토론의 결과입니다.

따라서 우리에게는 그러한 훈련 데이터가 부족하고 무료로 사용할 수 없으므로 직접 구축해야 합니다. 따라서 Cohere, OpenAI,인류학적그러한 회사가 하는 일은 인간의 추론 과정을 보여주는 데이터를 수집하는 것입니다.

모델만 판매하면 OpenAI와 경쟁할 수 없다

: 그러고 보니 OpenAI의 사용자 생성 콘텐츠 이니셔티브와 경쟁하는 것에 대해 어떻게 생각하시나요?

에이단 고메즈: 고객 데이터를 비공개로 유지해야 하는 큰 과제에 직면한 기업 공간에서는 특히 어렵습니다.

그들은 데이터를 많은 기밀 정보가 포함된 지적 재산으로 간주하므로 교육용 데이터를 사용하는 것을 허용하지 않습니다. 나는 이 입장을 완전히 이해한다. 이를 위해 우리는 합성 데이터에 초점을 맞추고 이 분야에 상당한 자원을 투자했습니다.

우리는 또한 인간 주석자로 팀을 구성하고 Scale AI와 파트너십을 체결했습니다. 이는 우리에게 많은 부담을 주지만, 우리는 소비자를 대면하는 회사가 아니기 때문에 데이터를 직접 생성해야 합니다.

다행스럽게도 우리의 초점은 상대적으로 작아서 재무 및 인적 자원 기능 자동화와 같이 비즈니스 요구가 분명한 영역에 주로 초점을 맞추고 있습니다. 이를 통해 우리는 이러한 특정 요구 사항을 더 깊이 조사하고 해결할 수 있습니다.

향후 10년을 내다보면 합성데이터 시장은 어떻게 발전할 것인가? 소수의 공급업체가 지배하게 될까요? 현재 대규모 언어 모델 API 시장은 주로 합성 데이터에 의해 주도되는 것으로 보이며, 많은 경우 더 작고 효율적인 모델을 최적화하기 위해 값비싼 대형 모델을 활용하여 데이터를 생성합니다.

이 모델이 지속 가능한지 여부는 불확실하지만, 모델이든 인간이든 새로운 작업, 새로운 질문, 데이터 요구 사항이 계속해서 등장함에 따라 우리는 이러한 요구 사항에 적응하고 충족해야 한다고 믿습니다.

: 그렇다면 합성데이터 시장은 어떤 모습일까요? 2~3개의 벤더가 지배하게 될까요?

에이단 고메즈: 현재 대형모델 API 시장은 합성데이터가 장악하고 있다고 들었습니다. 대부분의 사람들은 이렇게 값비싼 대규모 모델을 사용하여 데이터를 생성한 다음 해당 데이터를 사용하여 더 작고 효율적인 모델을 미세 조정합니다.

그래서 그들은 기본적으로 더 큰 모델을 개선하고 있습니다. 이 모델이 시장으로서 지속 가능한지는 모르겠습니다. 하지만 항상 새로운 작업, 새로운 질문, 새로운 데이터 요구사항이 있을 것이라고 생각합니다.이 데이터가 모델에서 나오든 사람에게서 나오든 우리는 이러한 요구 사항을 충족해야 합니다.

: 걱정되는 것, 혹은 망설이는 것이 하나 있습니다. OpenAI가 가격 경쟁을 하는 것을 보면 다음과 같습니다.메타이러한 기업은 오픈소스와 개방형 생태계의 가치를 명확하게 전달하지 않은 채 모델을 무료로 출시합니다.

이러한 모델의 가치가 실제로 하락하고 있습니까? 이것은 가격을 낮추기 위한 경쟁인가, 아니면 제로화를 위한 경쟁인가?

에이단 고메즈단순히 모델을 판매하는 것이라면 다음 기간 동안 매우 힘든 게임이 될 것입니다. 이것은 작은 시장이 아닐 것이다.

: 그냥 모델만 파는 분들도 계시고, 모델이나 기타 등등을 파는 분들도 계실 텐데요.

에이단 고메즈: 이름을 밝히고 싶지는 않지만 예를 들어 Cohere는 현재 모델만 판매한다고 말할 수 있습니다. 우리 모델에 접근할 수 있는 API가 있습니다.

그것은 곧 바뀔 수 있습니다. 제품 환경이 바뀌고 기존 제품에 새로운 것을 추가할 것입니다. 모델만 판매한다면 마진이 없는 사업이 되고, 가격 경쟁도 너무 심해 상황이 어려울 것이다. 많은 사람들이 무료로 모델을 제공합니다.

그럼에도 불구하고 이는 큰 사업이 될 것이며 수요는 매우 빠르게 증가하고 있습니다. 그러나 적어도 지금으로서는 이익이 매우 희박할 것입니다.

이것이 바로 애플리케이션 수준에서 많은 기대가 있는 이유입니다. 시장에서의 논의는 그 가치가 칩 수준 이하에서 일어난다는 점을 지적하는 것이 옳습니다. 왜냐하면 처음에는 모두가 이러한 모델을 구축하기 위해 칩에 많은 돈을 투자하고 그 가치가 ChatGPT와 같은 애플리케이션 수준에 반영되는 것을 보기 때문입니다. , 사용자 요금을 기준으로 한 월 $20입니다.

현재 가치가 발생하는 곳인 것 같습니다. 모델 레이어는 장기적으로는 매력적인 사업이지만, 단기적으로는 현 상태에 따라마진이 매우 낮은 상품화된 사업입니다.

AI 스타트업은 클라우드 벤더의 종속이 되어서는 안 된다

: 이제 많은 사람들은 스타트업이 AI 모델 분야에 진출하기에는 너무 늦었다고 생각합니다. 그러나 비용 장벽이 낮아지면 실제로 스타트업이 이 분야에 진입하는 것이 더 쉬워질까요?

에이단 고메즈: 작년 모델의 제작비가 매년 10배, 심지어 100배까지 떨어지는 것은 사실입니다.향상된 데이터와 저렴한 컴퓨팅 리소스 덕분에 이전 세대 모델의 진입 장벽이 낮아졌습니다.

하지만 문제는 아무도 그런 오래된 모델에 관심이 없다는 것입니다. 작년 모델은 올해 모델에 비하면 거의 쓸모가 없습니다. 기술이 발전할 때마다 오래된 기술은 빠르게 쓸모없게 되고, AI 개발 비용은 급격히 증가합니다.

버전 1을 개발하는 데는 1,000만 달러만 소요될 수 있지만, 버전 2를 약간 개선하려면 100만~200만 달러가 더 필요할 수 있습니다. 이제는 새 모델을 개발하는 데 30억 달러가 들고, 업데이트하는 데도 50억 달러가 들 수도 있습니다.

이러한 성장은 더 이상 선형이 아니며 규모에 따라 달라집니다. 새로운 세대의 기술이 항상 이전 세대보다 개발 비용이 더 저렴한지는 잘 모르겠습니다. 칩과 기타 복잡한 기술을 예로 들자면, 개발 비용이 오르더라도 그만한 가치가 있기 때문에 계속해서 개발하고 있습니다.

: 그렇다면 사람들이 이러한 개선이 지속되는지 여부에 별로 관심이 없다는 말씀이신가요?

에이단 고메즈: 좋아요. 내가 말하는 것은,이러한 모델을 개선하는 것은 점점 더 어려워지고 있으며 점점 더 많은 저항에 직면하고 있습니다.또 다른 흥미로운 현상은 모델이 더 똑똑해짐에 따라 (저를 포함한) 일반인들이 모델 간의 차이를 구분하는 능력이 감소한다는 것입니다.

의학, 수학, 물리학 등 우리의 전문 지식이 제한되어 있기 때문에 이러한 변화를 제대로 느낄 수 없습니다. 이 모델은 기본 사항에서 꽤 좋은 작업을 수행했으며, 우리가 할 수 있는 한계는 이 정도입니다.

따라서 서로 다른 세대 모델을 접할 때 차이점을 느끼기 어렵습니다. 그러나 실제로 이러한 모델은 일부 특정 기능이나 순수한 지능이 크게 향상되었음을 나타냅니다.

기술을 발전시키는 데 계속해서 많은 돈을 투자할 가치가 있는지에 대한 대답은 '그렇다'라고 생각합니다. 이러한 기술은 일반 소비자에게는 중요하지 않을 수 있지만 특정 전문 분야의 연구자들에게는 매우 가치가 있을 수 있습니다.

우리는 이러한 도구를 제공하여 그들이 더 많은 발전을 이룰 수 있도록 돕습니다. 우주선의 궤도 진입 효율을 높이기 위해 우주선의 신소재를 만드는 등 차세대 기술에 계속 투자해야 하는지 묻는 것과 같습니다.

이것이 대부분의 사람들에게는 중요하지 않을 수도 있지만, 이를 필요로 하는 사람들에게는 매우 중요하며, 기술 발전을 지속시키는 시장 수요가 있습니다.

: 다시 비용 문제로 돌아갑니다. 분명히 비용은 높으며 앞으로도 계속 증가할 것입니다. 앞서 "유효한 제휴사"라는 개념을 언급하셨습니다.

현재 많은 기업들이 인수합병을 진행하고 있으며, 클라우드 서비스가 지속적인 성장의 원동력으로 주목받고 있습니다. 향후 3~5년 내에 대부분의 소규모 모델 제공업체가 대규모 클라우드 서비스 제공업체에 인수될 것이라고 생각하시나요?

에이단 고메즈: 이 부분은 정말 통합이 진행될 것 같은데, 벌써 그런 일이 일어나기 시작하고 있는 것 같아요.많은 모델 개발자가 Amazon과 같은 대규모 클라우드 서비스 제공업체에 흡수되었습니다.

나는 앞으로 이런 일이 더 많아질 것이라고 믿습니다. 그러나 주목해야 할 점은클라우드 서비스 제공업체의 계열사가 되면 위험이 따를 수 있습니다.. 이는 사업 발전에 좋은 징조는 아닙니다.

자본을 조달하려면 자본 수익률에만 관심이 있는 투자자를 설득해야 하는 경우가 많습니다. 하지만 클라우드 서비스 제공업체로부터 자금을 조달하는 경우에는 완전히 다른 이야기가 됩니다.

: 그렇다면 지난 몇 년간 벤처투자자들이 모델투자로 돈을 벌었다고 생각하시나요?

에이단 고메즈: 코히어 투자자라면 분명 큰돈을 벌 수 있을 것입니다.

우리를 믿어주시는 분들이 있어 행복합니다. 우리의 첫 번째 투자자인 Radical Ventures의 Jordan Jacobs는 여전히 우리 이사회에 속해 있으며 회사 구축에 매우 적극적으로 참여하고 있습니다. 나는 그를 Cohere의 네 번째 공동 창업자라고 부르기도 합니다.

: 최근 언론에서 회사 가치가 5억 5천만 달러를 약간 넘는다는 보도가 나왔습니다. 이것이 당신에게 부담이 됩니까?

에이단 고메즈: 일종의 압박이기도 하지만, 일종의 긍정적 압박이기도 합니다. 궁극적으로 모든 회사는 결국 공개 시장 배수와 수렴하게 될 수익 다중 고려 사항에 직면하게 될 것입니다.

나는 우리가 실제로 많은 동료들보다 훨씬 더 나은 위치에 있다고 생각합니다. 우리의 가치 평가가 다른 회사처럼 미친 듯이 성장하지 않았기 때문입니다. 물론 우리는 계속해서 성장하고 발전해야 하지만 저는 시장에 대해 전적인 자신감을 갖고 있습니다.

현재 가격 경쟁과 무료 모델의 존재로 인해 마진이 어느 정도 압박을 받고 있지만 이는 시간이 지남에 따라 바뀔 것입니다. 동시에 Cohere의 제품 포트폴리오는 계속해서 진화하고 발전할 것입니다.

인간을 대신할 수 있는 것은 아무것도 없다

: 현재 20VC의 투자자라면 기회는 어디에 있다고 생각하시나요?

에이단 고메즈: 제품영역과 응용분야는 여전히 매우 매력적입니다. 이러한 기술은 소셜 미디어를 변화시킬 새로운 제품으로 이어질 것입니다. 사람들은 이러한 모델과 상호 작용하는 것을 좋아하며 사용 시간도 놀랍습니다.

: 이게 좋은 일이라고 생각하시나요? 나는 내 아이들이 생성 시스템과 상호 작용하고 인간을 모방하는 세상에 살기를 원하지 않습니다. 나는 그들이 모델과 대화하면서 만족을 얻는 것을 원하지 않습니다.

에이단 고메즈: 틀릴 수도 있습니다. 귀하는 귀하의 자녀가 매우 동정심 많고, 지능적이며, 지식이 풍부하고, 안전한 대리인과 의사소통할 수 있기를 원할 수 있습니다.

그것은 그들에게 뭔가를 가르쳐 주고, 놀아 줄 수 있으며, 그들에게 화를 내지도 않고, 괴롭히지도 않고, 불안감을 느끼게 하지도 않을 것입니다.

틀림없이,인간을 대신할 수 있는 것은 아무것도 없다. 그 무엇도 인간 세계를 대체할 수 없으며, 우리 모두가 갑자기 ChatBot과 데이트를 시작하여 인간의 출생률이 낮아지는 일은 없을 것입니다.

그런 일은 일어나지 않을 것 같아요. 그렇죠? 저는 아이를 갖고 싶지만 ChatBot으로는 아이를 가질 수 없습니다.

인간 동반자는 어떤 ChatBot보다 나에게 훨씬 더 가치가 있습니다. 직장에서와 마찬가지로 인간을 완전히 대체할 수는 없다고 생각합니다.AI는 인간의 능력을 향상시키고 인간을 더욱 효율적으로 만들 것이지만 이것이 일자리가 줄어든다는 의미는 아닙니다.

인간을 대신할 수는 없습니다. 판매를 생각해 보세요. 제가 로봇에 의해 판매된다면 저는 구매하지 않을 것입니다. 아주 간단합니다. 저는 기계와 대화하고 싶지 않습니다.

물론, 일부 간단한 구매는 봇이 처리할 수도 있지만, 나와 우리 회사에 정말 중요한 구매는 상대방이 책임을 질 수 있는 실제 사람이기를 바랍니다.

문제가 발생하면 개입할 권한이 있는 사람이 필요합니다. 그래서 저는 그것이 소비자 측면이든, 우리가 ChatBot과의 대화에 중독될 것인지, 아니면 직장 측면에서 일자리가 사라지고 대량 실업이 발생하게 될 것인지, 저는 정말로 생각하지 않습니다. 그런 일이 일어나는 것을 볼 수 없습니다.

: 귀하의 의견에는 동의합니다. 하지만 저가형 직위는 정말 걱정됩니다. 예를 들어 고객 서비스 팀에서는 직원의 70~80%가 손실될 수 있으며 부분 교체가 있을 것입니다.

에이단 고메즈: 부분교체는 당연히 있을 겁니다. 하지만 전반적으로,이는 교체가 아닌 성장이 될 것입니다.특정 역할은 기술에 매우 취약하며 고객 지원도 그중 하나입니다.

그러나 궁극적으로 작업을 수행하는 데 필요한 사람은 여전히 ​​있을 것입니다. 아마도 오늘날보다 적은 수일 것입니다. 하지만 고객 지원은 힘든 역할이고 정신적으로 매우 힘든 일입니다. 그 전화 통화를 들어본 적이 있다면 그것이 감정적으로 지치는 일이라는 것을 알 것입니다.

: 네, 소셜 미디어 플랫폼의 콘텐츠 조정과 비슷하고 여러 면에서 충격적이기도 합니다.

에이단 고메즈: 매일 일어나서 출근하고, 하루종일 혼나고, 사과해야 하는 일. 따라서 모델이 이러한 대화를 처리하도록 하고 인간의 도움이 필요한 고객 지원 문제를 인간이 처리하도록 해야 합니다. 예를 들어 감정적 불만 없이 문제를 해결하면서 그 사람의 삶을 더 좋게 만들 수 있는 기회를 제공해야 합니다.

AI의 다음 큰 혁신은 로봇공학 분야에서 나올 것입니다

: AI가 지금은 할 수 없지만 3년 안에 현실이 되어 큰 변화를 가져올 것이라고 생각하는 것은 무엇입니까?

에이단 고메즈AI의 다음 큰 혁신은 로봇공학 분야에서 나올 것입니다.비용을 줄여야 하는데 이미 낮아지고 있습니다. 그렇다면 더 강력한 모델이 필요합니다.

:로봇공학 분야에서 왜 큰 발전이 있을 것이라고 생각하시나요?

에이단 고메즈많은 장벽이 사라졌기 때문입니다.이전 로봇의 추론기와 계획자는 매우 취약하여 각 작업에 맞게 프로그래밍해야 했고 특정 환경에 하드 코딩되었습니다.

따라서 주방은 완전히 동일한 레이아웃, 동일한 크기, 다른 점은 없어야 합니다. 이는 매우 취약합니다. 그러나 연구 측면에서 보면 기본 모델인 언어 모델을 사용함으로써 사람들은 실제로 세상에 대해 더 자연스럽게 추론할 수 있는 더 나은 계획자를 개발합니다.

따라서 이미 이 측면을 연구하는 많은 회사가 있으며 누군가가 곧 범용 휴머노이드 로봇의 문제를 해결하여 더 저렴하고 안정적으로 만들 수 있습니다.

이것은 엄청난 변화가 될 것입니다. 앞으로 5년 안에 일어날지, 10년 안에 일어날지는 모르겠지만, 확실히 그 기간 내에 일어날 것입니다.

데이터 품질은 무시할 수 없습니다

: 오늘 당신과 이야기를 나누니 정말 흥미로웠습니다. 나는 만들고 싶다빠른 질문과 답변, 나는 성명을 발표하고 당신은 즉시 당신의 생각을 제공합니다

지난 12개월 동안 당신의 생각이 가장 많이 변한 것은 무엇입니까?

에이단 고메즈데이터의 중요성.나는 그것을 심각하게 과소평가했다. 예전에는 규모가 중요하다고 생각했지만 Cohere 내부에서 많은 일이 발생하여 이 기술을 구축하는 데 중요한 것이 무엇인지에 대한 이해가 완전히 바뀌었습니다.

데이터 품질이 중요합니다.예를 들어 품질은 수십억 개의 데이터 포인트 중 하나의 잘못된 예가 모델에 심각한 영향을 미칠 수 있습니다. 이는 일종의 비현실적입니다. 데이터에 대한 모델의 민감도가 너무 높아서 모두가 이를 과소평가합니다.

: 귀하의 회사는 지금까지 얼마나 많은 자금을 조달했습니까?

에이단 고메즈: 약 10억 달러.

: 가장 올리기 쉬운 라운드는 무엇인가요?

에이단 고메즈: 아마도 첫 번째 라운드일 겁니다. 그냥 간단한 대화였는데 "몇백만 달러 주고 한번 해보라"고 하더군요. 그래서 그 라운드는 꽤 쉽다고 생각했어요.

: 5억 달러를 모금하는 경우에는 프로세스가 확실히 더 복잡해집니다. 5억 달러가 도착하는 것을 봤을 때, 조금 믿기지 않았나요?

에이단 고메즈: 사실 조금 그렇죠. 예를 들어, 연간 2,500만 달러입니다. 정확한 금액은 모르겠지만, 엄청난 돈입니다. Cohere는 경제와 돈에 대한 나의 관점을 바꾸었고, 이제 5억 달러는 나에게 큰 숫자가 아닙니다.

: 이게 걱정되시나요?

에이단 고메즈: 아니요, 이것은 우리 전략의 일부입니다. 우리가 그 조건을 기꺼이 받아들인다면, 우리는 그것을 받아들일 수 있습니다. 그러나 우리의 전략은 독립성을 유지하고 독립적으로 발전하는 것입니다.

: 만약 세계적인 수준의 이사회 멤버를 뽑을 수 있다면 누구를 선택하시겠습니까?

에이단 고메즈: 현재 내 이사회에 속해 있는 Mike Volpi와 Jordan Jacobs입니다.

: 마이크가 왜 좋은 이사라고 생각하나요?

에이단 고메즈: 마이크는 훌륭해요. 그 모든 일을 겪은 것 같아요. 나는 그에게 거의 모든 질문을 할 수 있고 그도 비슷한 경험을 겪었기 때문에 귀중한 조언을 해줄 수 있습니다.

: Jeff Hinton과 Yann LeCun 중 누구를 선호하시나요?

에이단 고메즈: 확실히 제프, 저는 그와 개인적인 관계가 더 가깝습니다.

: Yann이 너무 낙천적이라고 생각하시나요?

에이단 고메즈: 아니요, 저는 AI에 대한 Yann의 견해에 더 동의합니다. Jeff는 종말을 예측하는 경향이 더 많은 반면 Yann은 더 낙관적입니다. 지금은 Yann이 Elon Musk의 '응답 형제'와 조금 비슷하지만 Jeff는 실제로 똑똑하고 사려 깊은 사람입니다.

: 마지막 질문입니다. 한 번도 물어본 적이 없지만 물어봐야 한다고 생각하는 질문은 무엇인가요?

에이단 고메즈: 사람들은 항상 나에게 기술의 미래와 잠재적 위험에 대해 묻지만 그것이 제시하는 기회에 대해서는 거의 논의하지 않습니다.

: 그렇다면 미래에 기술이 어디로 가기를 바라시나요?

에이단 고메즈: 저는 우리가 세상을 더 생산적으로 만들고, 공급을 늘리고, 물건을 더 풍부하고 저렴하게 만들기 위해 기술을 사용해야 한다고 생각합니다. 생산성이 그다지 매력적으로 들리지 않을 수도 있지만 NHS에 5%의 생산성 향상을 적용하면 가능합니다.

이는 국가의 상태, 예산, 수백만 명의 삶에 중대한 영향을 미칠 것입니다. 그래서 우리의 최우선 과제는 생산성과 성장이어야 한다고 생각합니다.

영상 주소:
https://www.youtube.com/watch?v=FUGosOgiTeI