2024-08-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
- Mengchen Crexi는 Aofei Temple에서 왔습니다.
Qubits 공개 계정 QbitAI
방금 OpenAI 상단에서 큰 지진이 발생했습니다.
리안추앙 존 슐만사임하고 도망쳐라Lianchuang&Greg Brockman 회장긴 휴가,Peter Deng, 제품 담당 부사장사임한 것으로도 드러났다.
OpenAI 강화학습 팀을 수년간 이끌어온 John Schulman은 "ChatGPT 아키텍트”。
Ilya Sustkever가 떠난 후 일시적으로 Super Alignment 팀을 맡은 사람도 바로 그 사람이었습니다.
이제 그는 옆집 클로드 팀인 앤트로픽에 합류하기로 “어려운 결정을 내렸다”고 밝혔다.
동시에 OpenAI 회장 그렉 브록먼(Greg Brockman)도 연말까지 장기 휴가를 떠날 것이라고 발표했다.
OpenAI는 10월 1일부터 전 세계에서 개발자 데이와 기타 행사를 개최할 예정이며, 그 역시 불참할 예정이다.
브로크먼은 9년 연속 근무 후 처음으로 휴식을 취하는 것이라고 밝혔으나, 일부 네티즌들은 비밀유지 협약 때문이라고 생각했다.
슈만의 사임이 공식 발표된 지 20분 뒤, 알트만은 슈만의 답장에 감사를 표하며 2015년 두 사람이 처음 만났던 장면을 회상했다.
하지만 지금까지 울트라맨은 브록만의 휴가에 아무런 반응을 보이지 않았습니다.
알트만은 대개 대문자 없이 문장의 첫 글자와 "i"를 입력하는 습관을 가지고 있지만, 중요한 동료가 떠나기로 선택할 때마다 그는 좀 더 격식을 차린 행동을 할 것입니다.
유명한 OpenAI 내부 계정인 Apple Brother는 다음과 같이 말했습니다. 이제 리더십이 빈 껍질이 되었으니 서둘러 제품을 출시해야 합니다.
Schumann은 Caltech에서 학부로 공부했습니다.물리학, UC Berkeley에서 간략하게 공부함신경 과학, 나중에 아래에서 공부했습니다.강화 학습Daniel Abbeel은 컴퓨터 과학 박사 학위를 취득했습니다.
그가 OpenAI 공동 창업자가 되었을 때 그는 아직 박사 학위를 취득하지 않은 상태였습니다.
OpenAI는 그가 인턴십 외에 근무한 최초이자 유일한 회사입니다.
그의 걸작이자 가장 많이 인용된 논문PPOChatGPT의 핵심기술인 RLHF에서 선정된 강화학습 알고리즘입니다.
나중에 그는 GPT-3.5, GPT-4에서 GPT-4o까지 일련의 작업에서 정렬/사후 훈련 팀을 이끌었습니다.
이번에 사임한 이유도 이와 관련이 있다.
AI 정렬에 더 집중하고 실제 기술 작업으로 돌아갈 수 있는 내 경력의 새로운 장을 시작하고 싶습니다.
그러나 그는 또한 OpenAI에 충분한 얼굴을 부여하면서 다음과 같이 덧붙였습니다."OpenAI의 보안 정렬 노력에 대한 지원이 부족하기 때문에 떠나지 않습니다", 집중하려는 개인적인 욕구에서 비롯되었습니다.
ICML2023에서의 연설에서 Schumann은 그의 다음 연구 방향 중 하나를 설명했습니다.과도한 최적화를 피하는 방법。
슈만은 올해 5월 팟캐스트 진행자 드와르케시 파텔(Dwarkesh Patel)과의 인터뷰에서도 이렇게 말했다.컴퓨팅 성능은 훈련 전에서 훈련 후로 더 많이 이동해야 합니다.。
Ultraman과 AI 안전 개념의 차이로 인해 OpenAI는 막대한 인재 손실을 경험했습니다.
올해 5월, 슈퍼정렬팀의 두 리더인 수석과학자일리아 수츠케버RLHF의 발명가 중 한 명얀 레이케, 같은 날 차례로 OpenAI를 떠났습니다.
그때는 슈퍼정렬팀이 창설된 지 1년도 채 안 된 시점이었다.
Jan Leike가 떠난 후, 그는 OpenAI가 20% 컴퓨팅 성능이라는 약속을 이행하지 못하고 제품보다 보안에 훨씬 덜 관심을 기울이고 있다고 비난하면서 연속으로 12개가 넘는 트윗을 보냈습니다.
나중에 Jan Leike는 Super Alignment에 대한 연구를 계속하기 위해 OpenAI의 경쟁사인 Anthropic에 합류하기로 결정했습니다.
Jan Leike와 함께 GPT-4 프로젝트 조정 노력을 공동으로 주도합니다.라이언 로우, 또한 3월 말에 OpenAI를 떠났습니다.
그리고 슈퍼 정렬 멤버 중 하나윌리엄 손더스, 그리고 GPT-4 적대적 테스트에 참여한 분들다니엘 코코타일로, 또한 OpenAI에서 사임했습니다.
옆집은 말할 것도 없고Anthropic의 창립자인 다리오 아모데이(Dario Amodei)와 다니엘라 아모데이(Daniela Amodei) 남매, OpenAI에서도 마찬가지입니다.
그의 형 Dario가 떠나기 전 그는 OpenAI의 연구 담당 부사장이었고, 그의 여동생 Daniela는 보안 및 전략 부서의 부국장이었습니다.GPT-3의 수석 엔지니어 톰 브라운(Tom Brown)십여 명이 넘는 직원과 함께 Anthropic에 가져왔습니다.
이들이 창업을 위해 떠나기로 결정한 이유 중 하나는 오픈AI가 보안 문제를 해결하지 못한 채 GPT-3를 직접 공개해 불만을 자아냈다는 점이다.
보안에 대한 강조와 창업자의 배경이 맞물리면서 Anthropic은 이번에 떠난 Jan Leike와 Schumann을 비롯한 OpenAI 직원들의 주요 장소 중 하나로 자리 잡았습니다.
OpenAI는 최근 보안 작업에서도 몇 가지 움직임을 보였습니다.
오픈AI는 지난 7월 말 보안부서 전무를 임명했다.알렉산더 마드리그는 보안직에서 옮겨져 'AI 추론' 직무로 재배치됐다.
그러나 OpenAI는 Madry가 새로운 직책을 맡은 후에도 여전히 인공 지능 안전에 전념할 것이라고 언론에 말했습니다.
알트만 CEO는 또한 OpenAI가 항상 보안 작업을 매우 중요하게 여기며 "전체 보안 팀에 컴퓨팅 성능의 최소 20%를 제공"하겠다는 약속을 고수해 왔다고 강조했습니다.
그러나 예리한 네티즌들은 울트라맨이 교활한 개념의 물결을 가지고 놀았다는 것을 곧 발견했습니다.당초 약속은 컴퓨팅 파워의 20%를 슈퍼정렬팀에 주겠다는 것이었지만 비밀리에 모든 보안팀으로 변경됐다.。
그래서 울트라맨의 트윗 이후 네티즌들은 무자비하게 이러한 배경 정보를 추가하고 당시 OpenAI에 공식 링크를 첨부했습니다.
음...인터넷에는 아직도 추억이 남아있습니다.
수많은 내부 인재가 사라지는 동안 OpenAI의 "오래된 적"인 Musk도 새로운 행동을 취합니다.
머스크는 방금 OpenAI를 다시 법정에 세웠습니다., 피고인도 울트라맨과 CEO 브록만이다.
이번 소송의 이유는 머스크가 자신이 오픈AI 창설에 참여했을 당시 알트만과 브록만에 의해 '속고 강탈당했다'고 믿었기 때문이다.
머스크는 처음에는 알트만의 말을 믿었기 때문에 OpenAI에 참여하고 투자했다고 말했습니다. 당시 알트만은 OpenAI가 안전하고 개방적인 비영리 단체가 될 것이라고 약속했습니다.
그러나 나중에 OpenAI는 영리 조직이 되었고 그 주식의 일부를 마이크로소프트에 매각했습니다. 이로 인해 머스크는 자신이 배신당했다고 생각하고 매우 불만스러워했고 알트만을 "배신"했다고 비난했습니다.
머스크의 변호사인 마크 토베로프는 이번 소송은 이전에 철회된 소송과 크게 다르다며 피고가 "고의로 머스크와 대중에게 허위 진술을 한 것에 대해 책임을 져야 한다"고 말하며 "부당하게 얻은 이익의 막대한 회복"을 추구했다.
동시에 기소에서는 OpenAI가 Microsoft에 부여한 라이선스를 취소해야 합니다.
참조 링크:
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html
[3]https://x.com/사마/상태/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-엘론-대-오픈-아이-다시
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html
