2024-08-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
베이징 시간으로 8월 6일 오전, OpenAI는 또 한 번의 고위급 인사 변경을 환영했습니다.
OpenAI 창립 팀원인 John Schulman은 소셜 플랫폼을 통해 OpenAI를 떠나 다른 인공지능 스타트업인 Anthropic에 합류할 것이라고 발표했습니다. OpenAI의 사장이자 공동 창립자인 Greg Brockman은 소셜 미디어를 통해 올해 말까지 휴직을 할 것이라고 발표했지만 이직 가능성은 언급하지 않았습니다. OpenAI의 제품 리더인 Peter Deng도 떠난다는 소식도 있습니다.
OpenAI 공동 창립자이자 최고 과학자인 Ilya Sutskever가 사임한 이후 OpenAI의 인력은 여전히 불안정합니다. 이번에 사임을 발표한 존 슐만(John Schulman)과 일리야 수츠크보(Ilya Sutskvo)는 이전에도 오픈AI의 인공지능 정렬 작업을 담당했다는 점에 주목할 필요가 있다. OpenAI는 이전에 "슈퍼 인텔리전스 정렬" 팀을 해체했으며 John Schulman의 이탈은 OpenAI가 인공 지능 정렬에 재투자할 의지가 훨씬 적다는 것을 의미할 수도 있습니다.
또한 Greg Brockman은 자신의 퇴임을 공개하지 않았지만 OpenAI가 차세대 모델의 과제 극복에 주력하고 있는 시점에서 핵심 인력의 장기 휴가는 OpenAI 내부 차이를 반영할 수도 있습니다.
인사 변경을 다시 환영합니다
John Schulman은 인공지능 정렬에 더 집중하고 실제 기술 작업으로 돌아가고 싶어서 OpenAI를 떠나 Anthropic에 합류하기로 결정했다고 말했습니다. "OpenAI가 정렬 연구에 대한 지원이 부족하기 때문에 떠나는 것이 아닙니다. 오히려 회사는 이 분야에 투자하는 데 전념해 왔습니다. 내 결정은 개인적인 것이며 내 경력의 다음 단계에 집중하고 싶습니다. " 존 슐먼이 말했다.
존 슐만(John Schulman)은 인턴십을 제외하면 지금까지 자신이 일해본 회사는 OpenAI뿐이라며 처음부터 자신을 채용해준 OpenAI CEO 샘 알트만(Sam Altman)과 공동 창업자 그렉 브록 만(Greg Brock Mann)에게 매우 감사하다고 말했다. 내가 일하는 팀은 나 없이도 계속해서 성장할 것이다."
샘 알트만은 소셜 플랫폼을 통해 존 슐먼에게 "OpenAI를 위해 해주신 모든 일에 감사드린다. 당신은 재능 있는 연구자이자 제품과 사회에 대해 깊이 생각하는 사람이다. 당신은 우리 모두에게 좋은 친구다"라고 답했다.
기자는 올해 초 OpenAI가 '슈퍼 인텔리전스 정렬' 팀을 해체하고 현지 시간으로 5월 28일에 새로운 안전 위원회를 설립했다는 사실에 주목했습니다. John Schulman은 안전 위원회 위원 중 한 명입니다. 당시 OpenAI는 Alignment Science 이사로서의 직위를 설명했습니다.
공동 창업자인 그렉 브록먼(Greg Brockman)은 장기간 휴가를 떠났지만, 퇴사 의사를 밝히지 않았다. 그는 9년 전 OpenAI를 공동 창립한 이후 처음으로 긴장을 풀 수 있는 것이라고 소셜 미디어에 밝혔을 뿐이다. Greg Brockman은 "임무가 완료되려면 아직 멀었습니다. 안전한 AGI(인공지능)를 구축해야 합니다."라고 말했습니다.
피터 뎅(Peter Deng)은 아직 소셜미디어에서 자신의 탈퇴 소식을 언급하지 않았다. Peter Deng은 실리콘밸리에서 잘 알려진 제품 관리자로, Google, Instagram, Facebook, Uber 등의 기업에서 제품 관리자를 역임했으며, 지난해에는 소비자 제품 담당 부사장으로 제품, 디자인을 담당했습니다. 그리고 ChatGPT 뒤에 있는 엔지니어링 팀이 있습니다. 그는 올해 초 팟캐스트 대화에서 AI 안전과 ChatGPT의 가치를 언급하면서 인공지능이 각 사용자의 개인적 가치에 맞춰질 수 있는 것이 이상적인 상황이라고 말했습니다. ChatGPT에 어떤 가치를 심어주고 싶은데, 어떻게 전 세계의 가치가 어떤 방식으로든 인공지능에 통합될 수 있을까요?
OpenAI의 인사 혼란은 지난해 Sam Altman이 해고되어 OpenAI 이사회에 의해 재고용된 이후 계속되었습니다. 샘 알트먼의 해고는 AI 안전성 문제를 둘러싼 내부 의견 차이와 관련이 있다는 소문이 돌고 있다. 내부 갈등의 핵심 인물인 일리야 수츠크보(Ilya Sutskvo)는 올해 5월 10년 가까이 몸담았던 오픈AI(OpenAI)를 떠나겠다고 선언했다.
또한, OpenAI의 또 다른 창립 팀원인 Andrej Karpathy는 올해 2월 OpenAI를 떠나 7월에 AI+ 교육 회사의 창립을 발표했습니다. OpenAI에는 여전히 고용된 창립 팀원이 점점 줄어들고 있습니다.
GPT 개발 진행에 영향을 미치나요?
OpenAI가 인사 변화를 다시 환영하고 있는데 이는 AI 보안에 대한 OpenAI의 초점이 바뀌었음을 의미할 수 있습니다. 차세대 GPT가 인사 변화의 영향을 받을지는 아직 알 수 없습니다.
기자는 OpenAI의 설명에 따르면 이전에 설립된 안전위원회의 첫 번째 임무는 향후 90일 동안 OpenAI의 프로세스와 보호 장치를 평가 및 추가 개발하고 90일이 끝날 때 모든 이사회 구성원과 권장 사항을 공유하는 것이라고 지적했습니다. Disclose는 이사회의 검토를 거쳐 권고 사항을 채택했습니다. 시간 계획에 따르면 이러한 권장 사항은 8월 말 이후에 공개될 예정이며 John Schulman은 그 전에 OpenAI를 떠나기로 결정했습니다.
AI 안전 측면에서 OpenAI가 새로 구성된 안전 위원회에 도입한 것은 팀의 책임이 해체된 '슈퍼 인텔리전스 정렬' 팀과 완전히 일치하지 않음을 보여줍니다. 정렬 과학 책임자인 John Schulman이 떠나면서 이는 OpenAI가 인공 지능 정렬에 덜 관심을 기울이는 것을 의미할 수 있습니다.
'정렬'은 AI 시스템의 목표가 인간의 가치와 이익과 일치하도록 요구하는 것을 의미한다. '슈퍼 인텔리전스 정렬' 팀의 원래 책임에는 AI 시스템의 이상을 방지하기 위한 기술적 솔루션을 연구하는 것이 포함됐다. Ilya Sutskvo는 인터뷰에서 ChatGPT가 의식을 갖고 있을 수 있으며 세상이 그의 회사와 다른 사람들이 만들고 있는 기술의 진정한 힘을 깨달아야 한다고 언급했습니다. Altman은 이를 완전히 동일하게 보지 않으며 최근 “[이전 이사회는] AI 정렬 문제가 아직 명확하지 않음에도 불구하고 나와 우리가 하고 있는 일에 대해 몇 가지 의견을 가지고 있었습니다. 완전히 해결됐다고 하는데, 현재는 인공지능 시스템이 일련의 가치관에 따라 행동하는 방법을 학습하게 하는 효과가 생각보다 좋다”고 말했다.
존 슐먼(John Schulman)이 합류할 앤트로픽(Anthropic)은 오픈AI의 최대 경쟁자로 꼽힌다. 전 OpenAI 연구 임직원들이 설립한 회사인 앤트로픽(Anthropic)은 클로드(Claude) 시리즈 대형 모델을 보유하고 있다. 올해 6월 앤트로픽은 최신 모델인 클로드 3.5 소네트(Claude 3.5 Sonnet)를 출시했는데, 이는 대학원 수준 추론(GPQA), 코딩 능력(HumanEval), 텍스트 추론(DROP) 측면에서 GPT-4o보다 좋은 결과를 보였다.
차세대 GPT 연구 개발의 진행 상황으로 볼 때 OpenAI는 몇 가지 어려움을 겪은 것으로 보입니다. 올해 7월 샘 알트먼은 GPT-5를 개발하는 데 시간이 좀 걸릴 것이라고 밝혔는데, GPT-5 관련 기술은 아직 초기 단계이고 데이터 및 알고리즘 문제가 있다.
John Schulman이 라이벌 Anthropic에 합류하기 위해 떠나고 Greg Brockman이 휴직을 하면서 핵심 인물의 이탈이 OpenAI의 연구 개발 진행에 영향을 미칠지 여부는 아직 지켜봐야 합니다.
OpenAI의 공동 창립자들 사이에 다른 갈등이 있다는 점은 주목할 가치가 있습니다. 소송을 취하한 지 두 달도 채 되지 않아 오픈AI를 공동 창업한 테슬라 CEO 머스크는 최근 샘 알트먼과 그렉 브록먼을 미국 법원에 고소하며 관련 인사들이 공익보다 사업적 이익을 우선시하고 회사 창립을 침해했다고 비난했다. 계약. 기소장은 샘 알트먼과 다른 사람들이 머스크에게 고의적으로 호의를 베풀고 속여 비영리 회사인 OpenAI를 공동 창립한 후 이를 영리 기업으로 전환하기 위해 다양한 수단을 사용했다고 주장합니다. OpenAI는 몇 달 전 머스크의 비난에 대해 스크린샷을 통해 머스크가 더 많은 자금을 모으고, 영리 조직을 만들고, 오픈소스 제품 출시를 점진적으로 포기하겠다는 회사의 계획에 동의했다고 밝혔습니다.
