소식

하이라이트:

소식통에 따르면 지난달 말 오픈ai 최고기술책임자인 미라 무라티(mira murati)의 돌연 사임이 업계의 큰 관심을 끌었다. 비록 사임서에서 “자체 탐구를 하고 싶다”고 밝혔지만, 관계자에 따르면 그 이유는 복잡하다.

지난달 o1 모델 출시 여부를 두고 오픈ai 내부에서 논란이 있었던 것으로 전해졌다. 일부 직원은 해당 모델이 아직 시장에 출시될 준비가 되지 않았다고 생각합니다.오픈ai존재하다일체 포함이 분야의 선두주자인 샘 알트먼(sam altman) ceo가 이끄는 사람들이 o1 모델 출시를 주장했습니다. 이는 회사 내부 연구 팀과 상업 팀 사이의 긴장을 반영합니다. 전자는 제품 안전과 위험 통제에 더 관심을 갖고, 후자는 수익성 달성을 위해 제품을 시장에 출시하는 데 열중합니다.

회사의 cto인 mulati는 종종 이러한 줄다리기의 중심에 서서 연구 및 기술 팀과 상업 팀 간의 의견 차이뿐만 아니라 회사 공동 창립자이자 사장인 greg brockman에 대한 직원의 비판을 다루기도 합니다. greg brockman의 리더십 스타일과 지난 11월 내부 권력 투쟁에서 자신의 역할에 대한 지속적인 불만. 이러한 압력은 결국 mulati에게 큰 타격을 입혔고 지난 수요일 갑작스러운 사임으로 이어졌습니다.

같은 날, 최고 연구 책임자인 bob mcgrew와 연구 부사장 barret zoph도 탈퇴 결정을 발표했습니다. 이러한 연쇄 반응은 openai의 성적 질문에 대한 외부 우려를 더욱 촉발시켰습니다. 같은 날 고위 관리자 3명이 사임하고 지난 6개월 동안 많은 고위 연구원 및 직원이 떠나면서 openai의 안정성은 전례 없는 도전에 직면하게 되었습니다.

투자자의 매력을 높이기 위해 altman은 openai가 현재의 복잡한 구조를 재구성할 계획이라고 직원들에게 밝혔습니다. openai의 현재 구조에서는 비영리 재단이 모회사 역할을 하며 수익 창출 부문을 통제합니다. 조직개편이 완료되면 영리사업부는 더 이상 비영리 모회사의 지배를 받지 않게 된다.

신속한 개발 및 보안 테스트

인공지능 산업의 치열한 경쟁 속에서 openai는 기술력을 입증하고 최신 인공지능 모델 gpt4-o의 테스트 및 출시를 가속화하기 위해 노력하고 있습니다. 내부자에 따르면 gpt-4o의 출시 과정은 극도로 성급했고 보안팀은 시간 제약 속에서 초과 근무를 해야 했고 단 9일 만에 보안 평가를 완료해야 했습니다. 팀에서는 더 많은 시간을 요청했지만 경영진은 예정대로 출시를 고집했습니다. 그 이유는 google이 i/o 컨퍼런스에서 유사한 기능을 갖춘 ai 모델을 시연할 계획이고 openai가 기회를 잡기를 희망하기 때문입니다. 보안 테스트가 완전히 완료되지는 않았지만 예비 평가 결과 gpt-4o가 안전하게 출시될 수 있을 것으로 보입니다. 그러나 후속 연구에서는 모델의 기능이 안전 임계값을 초과했을 수 있다는 사실이 밝혀져 잠재적인 남용에 대한 우려가 제기되었습니다. openai는 출시 결정이 내부 보안 프로세스에 기반을 두고 있으며 gpt-4o가 사려 깊은 보안 평가를 거쳤다고 주장하면서 이를 부인했습니다.

게다가 또 다른 openai 모델 o1도 비슷한 문제에 직면해 있습니다. o1은 논리 및 수학 작업을 잘 수행하며 일반 인공 지능(agi)을 향한 중요한 단계로 간주됩니다. 그러나 이 모델의 출시는 회사 내에서 논란을 불러일으켰고 일부 직원은 이 모델의 성능이 일관되지 않고 안전하지 않다고 생각했습니다. 공동 창업자인 보이치에흐 자렘바(wojciech zaremba)도 개발 중 갈등을 언급했습니다. 그러나 altman은 잠재 투자자에게 openai의 기술 리더십을 보여주기 위해 o1 모델의 신속한 출시를 홍보했습니다. o1이 아직 준비가 되지 않았다는 팀의 반대가 있었지만, 그 반대는 무시되었습니다. 현재 o1은 대응의 안전성과 유용성을 개선하기 위해 계속해서 미세 조정을 진행하고 있습니다.

o1의 안전성과 관련하여 openai 이사회의 안전보안감독위원회 위원들은 해당 모델의 출시가 엄격한 평가 및 보안 조치를 따랐다고 밝혔습니다. 그럼에도 불구하고 일부 전문가들은 o1의 설득력과 기타 보안 위험에 대해 우려를 표명했습니다. 마지막으로, 압박과 논란에도 불구하고 openai 대변인은 여전히 ​​회사가 모델의 보안 평가에 자신이 있다고 밝혔으며, 출시 이후 수억 명의 사람들이 gpt-4o를 안전하게 사용해 왔다고 강조했습니다. mulati의 대변인은 성급한 모델 출시나 관리 문제와 관련된 압력이 mulati의 사임 결정에 어떤 역할을 했다는 사실을 부인했습니다. 대변인은 "그녀는 팀과 긴밀히 협력했으며 큰 승리를 거둔 후 지금이 떠날 적절한 시기라고 느낀다"고 말했다.

충성심은 아직 풀리지 않은 미스터리로 남아있습니다

openai 내에서 모델 출시에 대한 논란은 altman과 mulati 간의 긴장된 관계의 일부인 것으로 보입니다. 이 문제에 정통한 사람들은 altman의 짧은 축출 기간 동안 mulati의 행동이 그녀의 충성심에 대한 의문을 불러일으켰다고 말했습니다. altman이 11월에 해고되었을 때 직원들은 mulati의 충성심에 대해 의구심을 표명했습니다. 그녀는 구 이사회에서 임시 대표이사로 선임됐고 해임 발표 12시간 전에 통보를 받았지만, 다른 임원들은 해임이 발표되고 나서야 알았다. 일부 ultraman 지지자들은 mulati가 ultraman에게 미리 알려줬어야 했다고 믿습니다. mulati는 임시 ceo로 임명된 후 altman의 복직을 추진하겠다고 약속했지만 며칠 후 그녀는 emmett shear로 교체되었습니다. altman은 5일 후 ceo직을 재개했고 murati는 cto직으로 복귀했습니다.

mulati는 altman과 이사회에 자신의 리더십 스타일에 대한 우려를 표명했으며 이는 altman을 해고하기로 한 이사회 결정에 영향을 미쳤을 수 있습니다. 그녀는 이사회에 적극적으로 연락한 것을 거부했지만 연락을 받았을 때 altman에 대한 피드백을 제공했다고 인정했습니다. mulati의 행동은 일부 투자자들이 만족하지 못할 수 있는 altman의 충성도에 대한 추가 질문을 제기합니다. 게다가 mulati는 종종 막바지 프로젝트에 합류하여 직원들에게 압력을 가하는 워커홀릭으로 알려진 brockman으로 인한 마찰도 처리해야 했습니다. mulati는 상황을 통제하거나 직원들을 진정시키기 위해 개입해야 했습니다. 결국 brockman은 휴가를 가지라는 권고를 받았으며 나중에 소셜 미디어를 통해 이를 발표했습니다. openai 대변인은 brockman의 결정은 자발적인 것이며 연말에 회사로 복귀할 것이라고 말했습니다.

기업문화의 변화

openai는 altman의 짧은 사임으로 시작된 지난 10개월 동안 문화적, 구조적 변화를 겪었습니다. 공동 창업자인 ilya sutskever와 john schulman의 이탈과 보안 연구원들의 대규모 이탈은 회사의 초점이 바뀌었음을 나타냅니다. altman 해고에 찬성표를 던진 후, sutskofer는 회사를 떠나 미래 인공지능 시스템의 보안 제어에 초점을 맞춘 safe super intelligence라는 스타트업을 설립했습니다. 선임 연구원 jan leike와 schulman도 경쟁업체인 anthropic에 합류하여 openai의 제품화 추세와 인공 지능 안전 무시에 대한 우려를 표명했습니다.

직원 수가 두 배로 늘어나면서 openai의 채용 전략도 달라졌다. 신입사원 대부분은 기존 인공지능 연구 분야가 아닌 대기업 출신이다. 이러한 신입 사원은 순수한 연구보다는 제품 관리 및 판매에 더 중점을 둡니다. 이러한 변화는 연구 중심의 논의에서 제품 개발 및 시장 전개로 기업 문화에 상당한 변화를 가져왔습니다.

회사 구조를 개편하고 비영리 재단이 영리 부문을 통제하지 못하도록 하고 투자자 수익 제한을 해제하려는 altman의 계획은 일부 전직 직원을 불안하게 만들었습니다. 그들은 이러한 변화로 인해 보안에 대한 openai의 의지가 약화될 수 있다고 우려합니다. 하지만 일부 직원들은 이러한 변화가 내부 갈등을 줄이고 회사의 효율성을 높일 것이라고 낙관하고 있다.

이제 altman은 기술 팀을 개인적으로 감독하며 회사의 기술 개발에 더욱 직접적으로 참여할 것임을 알립니다. openai가 많은 최고 경영진을 잃었지만 altman은 여전히 ​​회사가 성공을 유지하고 추가적인 내부 혼란을 피할 수 있는 충분한 재능을 가지고 있음을 증명해야 합니다. 이러한 변화가 openai를 ai 안전에 대한 약속을 유지하면서 보다 상업적이고 제품 지향적인 경로로 이끌 수 있는지 여부는 아직 밝혀지지 않았습니다. (텐센트 ​​테크놀로지/wuji 작성)