소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

OpenAI의 인사 혼란은 작년에 CEO인 Sam Altman이 해고되고 OpenAI 이사회에 의해 재고용된 이후 더욱 심화되었습니다.

올해 초부터 많은 고위 임원들이 사임했습니다. 현재 OpenAI의 공동 창업자 11명 중 알트만, 언어 및 코드 생성 팀장인 보이치에흐 자렘바(Wojciech Zaremba), 현재 휴가 중인 사장 그렉 브록만(Greg Brockman) 등 3명만이 남아 있다.

인공지능 분야에서 막강한 영향력을 갖고 있는 오픈AI가 왜 이들 창업자들을 붙잡지 못하는 걸까?

이 신호를 풀어줘

이달 초 ChatGPT 구축에 중요한 역할을 한 John Schulman은 OpenAI를 떠나 경쟁자인 Anthropic에 합류한다고 발표했습니다. 그는 “인트로픽에서 AI 정렬 연구라는 목표를 추구하고, 내가 관심 있는 주제를 탐구하는 사람들과 연구를 진행하기로 결정했다”고 지난해 합류한 소비재 부문 부사장이자 신제품 리더인 피터 뎅(Peter Deng)도 공식 발표했다. 사임.

상하이자오통대학교 부교수이자 생성 인공지능 연구 그룹 책임자인 Liu Pengfei는 China Business News와의 인터뷰에서 "Schulman과 같은 수석 연구원들의 이탈은 OpenAI가 더 이상 최고 수준의 첫 번째 선택이 아닐 수 있음을 보여줍니다. AI 과학자들도 AI에 초점을 맞추고 있다. 앤트로픽(Anthropic) 같은 보안 기업이나 신생 스타트업이 인재를 끌어들이고 있는데, 이는 AI 연구 생태계가 다각화된다는 신호일 수 있다."

지난해 리콜 폭풍 속에서도 알트만과 굳건히 섰던 브로크만도 “과제가 아직 끝나지 않았다. 우리는 여전히 안전한 AGI(일반 인공 지능)를 구축해야 합니다.”

이와 관련해 중국 유럽 국제 경영대학원의 의사 결정 과학 및 경영 정보 시스템 교수인 Tan Yinliang은 China Business News와의 인터뷰에서 업계에서는 일반적으로 Brockman의 움직임을 OpenAI의 전 공동 창업자가 곧 떠날 것으로 해석했다고 말했습니다. Andrej Karpathy도 오랜 휴가를 보낸 후 사임했습니다.

Tan Yinliang은 Schulman과 Brockman의 최근 조치가 두 가지 신호를 드러냈다고 말했습니다. 첫째, OpenAI의 내부 관리에 문제가 있고, 뛰어난 과학자들이 계속 떠날 수 있으며, 다른 AI 회사와 OpenAI 간의 개발 격차가 점차 사라질 수 있습니다. 둘째, GPT5. 차세대 모델 개발에 병목 현상이 발생했을 수도 있고, 기술 분야에서는 ScalingLaws(스케일링의 법칙)가 종말에 가까워지고 있는지 고민해야 할 수도 있습니다.

그는 “다음 달 미국 기업의 경쟁 금지 조항이 완전히 폐지되고 AI 인재의 흐름이 완전히 풀리면 OpenAI의 두뇌 유출 문제는 더욱 심각해질 수 있다”고 말했다.

'반란군'이 새로운 시대를 연다

업계 연구기관 통계에 따르면 오픈AI 핵심 직원 75명 가량이 사임하고 약 30개 인공지능 스타트업을 창업했다. 인공지능 기업 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) 창업자 겸 CEO는 지난 7월 한 프로그램에서 인공지능 모델 기업이 1조 달러 이상의 매출을 달성할 것이라고 밝힌 바 있다. 1조 규모의 인공지능 시장에서 OpenAI와 그 해외 직원들이 시장의 절반 이상을 차지할 수 있다.

Amodei 남매는 OpenAI에서 연구 부사장 및 보안 정책 부사장을 역임했습니다. 2020년에는 OpenAI가 보안 문제를 해결하지 않은 채 GPT-3을 직접 공개하는 것에 대한 불만으로 사임했으며, 전직 정책 책임자인 Jack Clark과 연구원 Jared Kaplan을 데리고 GPT-3 연구원 14명을 만드는 데 참여했습니다. 이 회사는 2021년부터 Google, Amazon과 같은 거대 기술 기업으로부터 최소 70억 달러의 자금을 조달했습니다. 지난 6월 출시된 챗봇 최신 버전인 클로드 3.5 소네트(Claude 3.5 Sonnet)는 전반적인 성능에서 오픈AI의 GPT-4o와 동등하거나 그 이상이라는 평가를 받고 있다.

OpenAI 연구 과학자 Aravind Srinivas가 2022년 8월 설립한 인공지능 검색 회사인 Perplexity는 현재 가치가 30억 달러 이상입니다. 회사는 지난달에 2억 5천만 건의 쿼리가 발생했다고 밝혔는데, 이는 작년 전체 쿼리 수의 절반입니다. 폭발적인 성장으로 인해 Perplexity는 Google의 Geimini 및 OpenAI의 SearchGPT에 대한 강력한 경쟁자로 간주되었습니다.

올해 7월 오픈AI 공동 창업자이자 테슬라 CEO인 머스크도 '마지막 티켓을 얻었다'며 '우주의 본질을 이해하기' 위해 인공지능 기업 xAI 설립을 선언했다.

Tan Yinliang은 "하드 테크놀로지 분야에서 창업자들이 떠나는 것은 상대적으로 흔한 일이며, 이러한 '엑소더스' 문화는 실리콘 밸리가 떠오르기 시작할 때부터 널리 퍼져 있었습니다. 가장 유명한 것이 '요정 팔반군'입니다. ’, 페어차일드에서 시작한 이 8명은 퇴사 후 인텔, AMD 등 수많은 초기 기술 기업을 창업해 인공지능 시대 샌프란시스코 실리콘밸리를 만들었다. 대형 모델의 기반을 마련한 "AttentionIsAllYouNeed" 논문의 저자 8명도 현재 Google을 떠나 자신의 회사를 시작했습니다.

그는 “기업이 발전하는 과정에서 발생하는 개인적인 창업 계획이나 다양한 철학적 차이 등이 창업자들이 떠나는 이유일 수도 있다. 하지만 떠나는 것이 꼭 나쁜 것만은 아닌 경우도 있다. 마음을 여는 것은 바로 이런 ‘배신자들’이다. 새로운 분야와 시대.”

보안은 OpenAI가 피할 수 없는 주제입니다

하지만 창업자들의 사임서에도 '안보'와 '정렬'이 많이 등장하는 단어임은 부인할 수 없다.

Schulman 외에도 OpenAI 공동 창업자이자 최고 과학자인 Ilya Sutskever와 Super Alignment 팀 리더인 Jan Leike가 지난 5월 사임을 발표했습니다. Lake는 심지어 소셜 미디어 X에서 "안전 문화와 프로세스가 빛나는 제품에 자리를 내주었다"고 불평하기도 했습니다.

이어 수즈크워는 올해 6월 새로운 인공지능 기업인 SSI(Safe Superintelligence Inc.) 설립을 발표하며 "안전한 초지능이 우리의 유일한 초점"이라고 밝혔다. Lake는 OpenAI의 경쟁 인공 지능 회사인 Anthropic에 합류하여 "수퍼 정렬 임무를 계속합니다."

이에 대해 탄 인량(Tan Yinliang) 교수는 “인공지능 분야에서 '정렬'(AIAlignment)이란 AI 시스템의 행동이 인간의 가치, 의도, 기대 목표와 일치하는지 확인하는 것을 의미한다. 간단히 말하면, AI가 인간의 요구를 더 잘 따르도록 하려면 사물과 사람의 가치에 대해 생각해야 합니다. 알트만은 원래 보안 부서에서 충분한 일을 하지 않았습니다. 그는 원래 슈퍼 정렬 팀에 컴퓨팅 성능 리소스의 20%를 제공하겠다고 약속했지만 결국에는 개념이 바뀌었고 보안팀 전체가 20%를 나누었습니다. 원래 의도를 가진 과학자 그룹의 경우 안전이 최우선입니다.”

오픈AI도 올해 7월 말 보안부서 전무이사 알렉산데르 마드리(Aleksander Madry)를 보안 직위에서 옮겨 'AI 추론' 업무에 재배치했다. 머스크는 이달 초 오픈AI와 알트만을 상대로 다시 한번 소송을 제기했다. 오픈AI가 공익보다 이익과 상업적 이익을 우선시해 회사 설립 당시 온 인류에게 이익을 주려는 당초 취지에서 벗어났다는 것이다.

난카이대학교 석좌교수이자 중국 기업지배구조연구소 소장인 리웨이안은 차이나비즈니스뉴스와의 인터뷰에서 "전통적인 기업가 정신에서 많은 이직은 그에 상응하는 보수, 지분 또는 직위가 부족하기 때문에 발생한다"고 말했다. 하지만 이것이 OpenAI 공동 창업자들이 떠난 이유가 대부분은 아닙니다.”

그는 OpenAI 창업자들은 기본적으로 지분을 보유하지 않는다는 점을 인공지능 거버넌스의 관점에서 볼 때 창업자들이 떠나는 가장 큰 이유는 거버넌스 개념의 충돌, 즉 인공지능 거버넌스가 이익을 위한 것인지 아니면 이익을 위한 것인지에 대한 갈등이라고 말했다. .

도전자인류

Lake에서 Schulman까지 Anthropic은 계속해서 OpenAI의 핵심 구성원을 유치하고 있습니다.

이 회사는 또한 최근 정보 유출 혐의로 올해 4월 해고된 전 OpenAI 연구원인 파벨 이즈마일로프(Pavel Izmailov)를 고용했습니다. 2년 넘게 OpenAI의 기술 직원으로 근무한 Steven Bills도 지난달 OpenAI를 떠나 Anthropic의 정렬 팀에 합류했다고 말했습니다.

Liu Pengfei는 Anthropic이 창립 이래 AI 안전과 정렬을 핵심 임무로 삼았으며 이를 통해 정렬 문제에 더 많은 리소스와 관심을 집중할 수 있게 되었고 잠재적으로 연구자들에게 보다 순수한 연구 환경을 제공할 수 있게 되었다고 말했습니다. 또한, Schulman과 같은 선임 연구원에게 상대적으로 소규모의 새로운 회사에서 일하는 것은 회사의 방향을 형성하는 데 더 큰 영향력과 더 많은 기회를 의미할 수 있으며, 이는 회사에서 일하기를 희망하는 사람들에게 더 중요합니다. 중견 경력에 매우 매력적입니다. 새로운 도전을 추구하는 연구자.

Li Wei'an은 "Anthropic의 기업 지배 구조 혁신은 비즈니스와 보안 간의 더 나은 균형을 반영하며, 이는 직업을 바꾸기 위해 인재를 계속 유치할 수 있는 이유일 수도 있습니다."라고 말했습니다.

그는 “안트로픽은 선을 위한 AI와 이익을 위한 AI 사이의 균형을 맞추기 위해 지배구조 측면에서 사회 유명 인사들로 구성된 신탁위원회를 설치해 이사를 감독할 수 있는 권한을 갖고 있다”고 설명했다. 또한, Anthropic은 시스템 구현을 보장하기 위해 신탁 회원이 보유할 특별 클래스의 T 주식을 설정했습니다.

올해 5월 아모데이는 정상회담에서 "우리는 7명의 공동 창업자가 있다. 3년 반이 지난 지금도 우리 모두는 여전히 회사에 있다"고 말했다.

OpenAI가 직면한 과제에 대해 Tan Yinliang은 "다른 AI 회사를 보면 Claude의 모델이 일부 분야에서 GPT를 능가했습니다. 모든 사람이 Transformer의 확립된 경로에서 경주할 때 종점과 경로는 실제로 매우 명확합니다. . 현재 과학자들이 계속해서 떠난다면 OpenAI의 선두주자 이점은 극복할 수 없는 것이 아닙니다.”

"8월 머스크는 오픈알(OpenAl)을 상대로 소송도 재개했다. 금융 측면에서 오픈AI의 손실액은 연간 최대 50억 달러에 달할 수 있고, 내년에는 현금흐름이 고갈될 수도 있다. 대내외 우려 속에 이는 올해는 OpenAI에게 좋은 시작이 될 것입니다.”라고 그는 말했습니다.