소식

그 유명한 "openai palace fight 사건"을 아직도 기억하시나요?

지난해 11월 18일, openai 이사회는 사전 통지 없이 창립자이자 ceo인 sam altman을 해고하기로 결정했습니다. 이사회가 신중하고 상세한 검토 끝에 알트만의 이사회와의 의사소통이 솔직하지 않고 “오픈 ai를 계속 이끌어갈 그의 능력을 믿을 수 없다”고 판단했기 때문이다. 직후 역시 사전 통보도 받지 못한 그렉 브록먼 회장은 소셜미디어에 충격을 표현한 뒤 '사임'을 선언했다. 이 밖에도 야쿠브 파초키(jakub pachocki) 연구책임자, 위험평가팀장 알렉산더 마드리(aleksander madry), 시몬 시도(szymon sidor) 선임연구원 등 핵심 인력도 사임 신청서를 제출했다.

내부 혼란은 그날 거의 모든 비즈니스 매체가 헤드라인을 장식하여 이 "세계에서 가장 가치 있는 인공지능 회사"가 곧 해체될 것인지에 대해 논의했습니다.

물론 '궁전투사건'의 최종 결과는 꽤 괜찮았다. sam altman은 회사로 돌아와 계속해서 핵심 리더십 역할을 수행합니다. openai는 대형 모델 분야에서도 계속해서 선두를 달리고 있으며, 올해 3월에는 빈센트(vincent) 영상 제품 소라(sora)를 성공적으로 출시하며 세계 '독특함'으로서의 입지를 확고히 다졌다. 최신 소식은 openai가 새로운 자금 조달 절차를 시작했으며 평가 기준이 경이적인 1,000억 달러에 달했다는 것입니다.

하지만 이 사건을 통해 모든 사람들은 openai가 무적이 아니라는 사실을 이해하게 되었습니다. 적어도 개발 경로 측면에서는 내부적으로 두 그룹으로 나뉘는데, 하나는 sam altman이 대표하는 엔지니어링 그룹으로, 기술 회사의 개발 법칙을 준수하고 외부에 주기적으로 배포 및 릴리스해야 한다고 생각합니다. 다른 그룹은 공동 창립자이자 수석 과학자인 ilya sutskever가 대표하는 기술 학교는 "연구 개발"과 "비즈니스"가 자연스럽게 밀물과 흐름의 관계에 있고 너무 많고 시기상조라고 믿습니다. 비즈니스와의 접촉은 더 많은 문제를 가져올 것입니다.

올해 5월 15일 ilya sutskever의 사임으로 이러한 차이가 더욱 부각되었습니다. 그 작별 트윗에서 그는 한편으로는 10년 동안 함께한 동료들에게 경의를 표하고, 회사의 발전 궤적을 '기적'이라고 믿었으며, 다른 한편으로는 총과 몽둥이를 들고 다녔다. , 메시지를 남깁니다:“모두가 안전하고 유익한 agi를 만들 수 있었으면 좋겠습니다.”

그리고 오늘 제가 이야기하고 싶은 것은 이 이별의 말에서부터 시작됩니다. 9월 5일ilya sutskever의 기업가 프로젝트인 safe superintelligence(이하 ssi)는 openai를 떠난 후 공식적으로 제품 없이 단 10명의 팀으로 총 10억 달러(약 71억 위안)의 자금 조달을 완료했습니다.관련 소식통에 따르면 이번 자금 조달의 가치는 미화 50억 달러(약 355억 위안)에 달했는데, 이는 팀 구성원 1인당 미화 5억 달러에 해당하는 금액이다. 그가 ssi 설립을 공식적으로 발표한 지 3개월이 지났습니다.

"안전한 초인공지능"

초기 단계 기업가 정신의 관점에서 ilya sutskever의 현재 자금 조달 라운드는 속도면에서 인상적일 뿐만 아니라 폭발적인 투자자 라인업을 갖추고 있습니다. a16z, sequoia capital, dst, sv angel 등 ai 분야에서 들어본 유명 vc들은 거의 모두 주주명단에 올라있습니다.

더욱 주목할 만한 점은 유명 엔젤투자자이자 전 애플 내부 ai 프로젝트 책임자, 전 y combinator 인공지능 책임자인 다니엘 그로스(daniel gross)가 이번에 실제로 ilya sutskever의 창업 프로젝트에 파트너로 참여했을 뿐만 아니라, 또한 자체 관리펀드 nfdg를 통해 ssi에 투자했습니다.

과장하지 않고 설명할 수 있는데,ilya는 이번에 사업 시작부터 더블 킹, 4 2 및 345678 스트레이트를 얻었을 뿐만 아니라 그의 운영의 모든 단계는 동료들에게 충격을 줄 것입니다.

사실 일리아는 자신의 재능을 과시할 계획을 가지고 있습니다. ssi는 언론과의 인터뷰에서 이번 자금 조달의 목적은 "인간의 능력을 훨씬 뛰어넘는 안전한 인공 지능 시스템의 개발을 가속화하는 것"이라고 밝혔습니다. 따라서 자금의 일부가 필요한 컴퓨팅 파워를 구입하는 데 사용되는 것 외에도 자금의 상당 부분이 전 세계 최고의 인재를 고용하는 데 사용될 것입니다.

그러나 우리의 인상에 따르면 새로운 유니콘의 '빅 쇼'에 비해 ssi는 '천천히 올' 가능성이 더 높습니다. 이름에서 알 수 있듯이 ssi는 ilya sutskever의 "이상주의적" 감정을 너무 많이 담고 있기 때문입니다. 사업을 시작한 이후 ilya는 항상 ssi의 "연구 기관" 측면을 강조해 왔으며 첫 번째 기업을 "직접 ssi 연구소"(대략 "안전한 초지능을 직접 공격하는 연구소"로 번역할 수 있음)라고 불렀습니다. 6월 19일에 발표된 기업가 정신에 관한 공개 서한에서 ilya sutskever는 또한 다음과 같은 감정적 정의를 제시했습니다.

“보안 초지능 구축은 우리 시대의 가장 중요한 기술 문제입니다. 이것이 우리의 유일한 제품이자 유일한 목표이자 제품 로드맵이 될 것입니다. 우리는 안전과 성능의 균형을 맞추고 '안전한 초지능'이 핵심이라는 점을 분명히 이해할 것입니다. 혁신적인 엔지니어링과 과학적 혁신이 필요한 기술적 문제입니다."

이 포지셔닝을 기반으로 합니다. 그는 미래의 동료와 미래의 투자자를 위해 많은 "감정적 가치" 요구 사항을 제시했습니다.

미래의 투자자들을 위해 팀이 향후 작업에서 "운영 비용이나 제품주기에 의해 중단"되지 않고 팀이 단기로 인해 어려움을 겪지 않도록 안전하고 안전한 비즈니스 모델을 추구할 수 있기를 바랍니다. 용어 비즈니스 문제. 스트레스가 r&d 프로세스에 미치는 영향. 미래의 동료들에게는 다른 잡일을 버리고 'ssi에 집중'할 수 있는 '세계 최고의 엔지니어나 연구자'가 되기를 바란다. 그는 상대방의 노력에 대한 대가로 이 경력이 미래의 동료들이 "이 일에 일생을 바칠 수 있게" 해줄 것이라고 약속했다.

이번 자금조달 상황으로 볼 때 이 비전의 전반부는 완료된 것으로 보입니다. daniel gross에 따르면, 그들은 "우리의 비전을 이해하고 존중하며 지지하는 투자자...특히 제품을 시장에 출시하기 전에 수년간의 r&d가 필요하다는 것을 이해하는 투자자"를 찾았습니다.

후반전은 좀 덜 순조롭게 흘러가는 것 같았다. 현재 ssi는 미국 캘리포니아주와 이스라엘 텔아비브에 각각 2개의 사무실을 두고 있습니다. 두 사무실을 합치면 직원은 10명에 불과하며 확장이 매우 어렵습니다. 또한 daniel gross에 따르면 접수된 모든 이력서에 대해 지원자의 과거 프로젝트 경험을 검토하는 것 외에도 지원자의 과거 프로젝트 경험을 검토하는 데 몇 시간을 소비해야 하는 경우가 많습니다. 그들이 "좋은 성격"을 가지고 있는지 그리고 "과장된 광고가 아닌 직업에 관심이 있는지"를 판단합니다.

더욱 과장된 점은 ilya가 ssi를 "기업화"할 계획인지 여부가 실제로 알려지지 않았다는 것입니다. 내부 구성원을 제외하면 ssi의 아이디어가 제품 측면에서 어떻게 표현될지 아는 사람은 거의 없습니다. 올해 6월 단독 인터뷰에서 일리야는 자신의 이상적인 스타트업을 분명히 밝혔습니다."순수한 연구조직을 기반으로" "안전하고 강력한 인공지능 시스템 구축"이며, 단기간에 인공지능 관련 서비스나 제품을 판매할 의사가 없습니다.

미화 10억 달러의 자금 조달을 완료한 ssi는 또 다른 성과를 달성할 가능성이 높습니다. 가장 단순한 공식 웹사이트를 갖춘 유니콘 회사일 수도 있습니다. 오늘날에도 홈페이지에는 레이아웃 디자인이 전혀 없는 팀 설명만 있고 연락처 버튼 두 개(이력서 제출용과 협력용)만 있습니다.

"결국 최고의 인재에 베팅한다"

이 간략한 소개를 읽고 나면 다음 두 가지 질문에 대해 궁금해하실 것 같습니다.

1. 인공지능 투자 전반이 과열되는 상황에서 투자자들은 왜 '안전한 슈퍼 인공지능'의 서사를 믿고 50억 달러의 가치 평가를 아낌없이 주는가? "상업적 수준"의 양보를 많이 했다고요?

2. 일리아처럼 과학 연구에 대한 배경 지식이 있는 사람이 정말 좋은 상사가 될 수 있을까요? 북미 벤처 캐피탈계는 "과학자에서 기업가로 변신"하는 데 그렇게 관대합니까?

먼저 첫 번째 질문에 답해보자. 9월 초에 참석한 미디어 행사에서 ilya는 자신의 기업가적 통찰력을 간략하게 설명했습니다. 그는 인공지능이 점점 더 강력해지고 컴퓨팅 파워의 확장이 계속 가속화됨에 따라 인공지능 제품이 시장에 출시되기 전에 어떤 종류의 테스트 및 인증 단계를 거쳐야 하는지가 점점 더 어려워지고 있다고 믿습니다. ssi의 존재는 인공지능 기술이 "인간 사회에서 선을 위한 힘"이 되도록 보장하는 것입니다.

정말 좋은 것 같습니다. 그리고 openai의 핵심 구성원이자 chatgpt, 이미지 생성 모델 dall-e 및 기타 수십 개의 연구 논문의 서명 저자인 ilya는 실제로 대부분의 실무자보다 이 업계의 최전선을 대표할 자격이 더 높습니다.

하지만 핵심은 일리아가 '안전한 초인공지능' 관련 사업을 전개하려는 시도가 이번이 처음이 아니라는 점이다. 실제로 오픈ai는 이미 지난해 7월 '슈퍼얼라이먼트'라는 부서를 신설해 '슈퍼인공지능'을 관리하고 지도하는 방법을 연구하고 있다. 일리아가 이 부서를 직접 맡고 있다. 동시에 openai는 학과의 연구 업무를 지원하기 위해 컴퓨팅 리소스의 20%를 할당하고 "4년 이내에 핵심 솔루션을 찾도록" 개발 주기를 아낌없이 연장했습니다.

그리고 "superalignment"의 결말은 엉망입니다. 2024년 5월 언론에서는 '초인공지능'이 현재 이론적인 산물일 뿐 언제 실현될지는 아무도 모른다는 이유로 openai가 팀을 해체했다는 소식을 전했습니다. 따라서 openai의 고위 경영진은 투자에 제한을 두지 않고 보호 장치보다 제품이 우선시되어야 한다고 믿고 점차적으로 superalignment의 컴퓨팅 성능 사용을 제한하기 시작했습니다.

5월 17일, superalignment의 또 다른 공동 대표이자 전 딥마인드 연구원인 jan leike가 사임을 발표하여 이전 언론의 폭로를 더욱 뒷받침했습니다. 그는 자신의 개인 sns를 통해 “회사 고위 경영진과 우선순위에 대해 한동안 의견 차이가 있었는데 이제 중요한 지점에 이르렀다”며 “차세대 모델을 준비하는 데 더 많은 에너지를 쏟아야 한다는 게 내 생각”이라고 말했다. 보안, 모니터링 가능성, 기밀성, 사회적 영향 및 기타 관련 주제를 포함합니다." - 서두에서 언급한 궁궐 싸움 이후 일리야의 사임과 의미심장한 이별의 말을 아직도 기억하시나요? 이번 주에도 같은 일이 일어났습니다.

즉, openai가 현재 인공지능 트랙에서 '상업적 성공'에 가장 가까운 회사라고 인정한다면, 반올림하면,'안전한 초인공지능'은 실제로 상용화 단계에서 한 차례 탈락한 바 있다.

따라서 이번 일리아 자금 조달에 대해 외부 세계에서는 일반적으로 다음과 같이 해석합니다.뛰어난 인재에 대한 벤처캐피탈의 과감한 베팅이다.게다가 '장기적으로 무익하다'는 객관적인 조건 하에서 지난 2년 동안 수많은 스타 창업가들이 '대형 공장 직원'으로 복귀하는 것을 선택했다. 생명을 팔기 위해") - 아직 벤처 캐피털이 있다면 그들이 "빅 모델"의 이야기를 기꺼이 믿을 의향이 있다면 시장에서 그들에게 남은 선택은 거의 없습니다.

이제 두 번째 이야기에 답하자면, 실리콘 밸리가 ilya에게 완전히 신뢰감을 주지는 않았다는 것이 분명합니다. 많은 기사에서 ssi에는 세 명의 핵심 인물이 있다고 지적했습니다. ilya 외에도 openai 시절 그의 동료인 daniel levy, 서두에서 언급한 유명한 엔젤 투자자인 daniel gross도 있습니다. daniel gross의 중요성은 반복적으로 언급되었습니다.

다니엘 그로스(daniel gross)는 3인조 중 18세 때 yc 훈련캠프를 통해 개인 검색 엔진 그레플린(이후 큐로 개칭)을 창업한 뒤 2013년 애플에 매각해 더 많은 돈을 벌어들인 인물이다. 3,500만 달러 이상. 그는 또한 이번 인수를 통해 apple에 합류했으며 apple의 검색 및 ai 프로젝트를 담당하기 시작했습니다. 2017년에는 다니엘 그로스(daniel gross)가 파트너로 yc에 복귀해 인공지능 트랙에서 yc의 투자 사업을 수직적으로 창출하는 데 앞장섰다.

2018년에 그는 자신의 스타트업 인큐베이터인 pioneer를 설립했는데, 그는 이것이 yc 모델의 필수 업그레이드라고 생각합니다. 왜냐하면 “소프트웨어가 세상을 바꾸고 있고, 원격 근무가 세상을 바꾸고 있기 때문입니다. 이것이 미래에 위대한 기업이 탄생하는 방식일 수 있습니다. , 그리고 이것이 벤처 캐피탈이 적응해야 하는 방식이 될 것입니다.” 이 아이디어는 stripe과 marc andreessen의 지원을 받았으며 이후 18개월 동안 100회 이상 출시되었습니다.

2023년에 그는 다시 자신의 반복을 완료하고 실리콘 밸리의 또 다른 유명한 엔젤 투자가인 nat friedman과 함께 "안드로메다"를 설립했습니다. 총 투자액이 1억 달러가 넘고 무게가 4,800kg이 넘는 제품 세트를 지원합니다. 초기 단계 기업가 정신을 위한 ai 프로젝트 - daniel gross는 이 광산이 "지루한 현금"보다 초기 단계 ai 프로젝트에 투자하는 데 더 적합하다고 믿습니다.

그러므로 일리야의 창업은 여전히 ​​샘 알트먼과 비슷한 성격을 갖고 있다고 해도 과언이 아니다. 단지 그가 더 젊고 자존심이 더 작을 뿐입니다.

두 번째 질문과 관련된 하위 질문, 즉 북미 벤처캐피털계가 '과학자에서 기업가로 변모한 것'에 대해 더 관용적인지 여부에 관해서도 나는 그것 역시 '피의 교훈'이라고밖에 말할 수 없다. 언젠가 그런 글을 발견한 적이 있습니다. 이 글은 국립보건원 홈페이지에 게재된 글이다. 저자는 벤처캐피탈과 과학자 사이의 모순이 오래 전부터 존재해 왔다고 지적했다. , 현 단계에서는 낮은 밸류에이션만이 vc의 관심을 충분히 끌 수 있기 때문에 과학자들은 항상 자신이 약한 위치에 있다고 생각하고 자본이 자신의 열매를 움켜쥐는 사악한 존재라고 느끼게 만듭니다.”

글의 끝부분에서 저자는 두 가지 진지한 제안을 남겼습니다.1. 과학자가 주도하는 프로젝트에 확실히 투자하고 싶다면 과학자들이 충분하면서도 "적절한" 형평성을 확보할 수 있도록 하는 방법에 대해 생각해야 합니다. 2. 과학자에게 투자할 때는 합리적인 기술 이전 계약을 신중하게 협상해야 합니다.