ニュース

ハイライト:

関係者によると、openaiの最高技術責任者ミラ・ムラティ氏が先月末に突然辞任したことは業界で広く注目を集めた。同氏は辞任声明の中で「自分なりの探求を続けたい」と述べたが、関係者によると、その背景には複雑な理由があるという。

先月、o1 モデルをリリースするかどうかについて openai 内で論争があると報告されています。従業員の中には、このモデルはまだ市場向けに完全に準備ができていないと考えている人もいますが、openai存在するaiこの分野のリーダーであるサム・アルトマンceo率いるグループは、o1モデルのリリースを主張した。これは、同社の社内研究チームと商業チームの間の緊張を反映しており、前者は製品の安全性とリスク管理をより懸念しており、後者は収益性を達成するために製品を市場に投入することに熱心です。

ムラティ氏は同社の最高技術責任者（cto）として、しばしばこの綱引きの中心に立ち、研究チームと技術チームと商業チームの間の意見の相違だけでなく、共同創業者兼社長のグレッグ・ブロックマンに対する従業員の批判にも対処している。ブロックマン氏のリーダーシップスタイルと、昨年11月の社内権力闘争における彼の役割に対する継続的な不満。この圧力は最終的にムラティ氏に大きな打撃を与え、先週水曜日に突然の辞任に至った。

同じ日、最高研究責任者のボブ・マクグルー氏と研究担当副社長のバレット・ゾフ氏も辞任の決定を発表し、この連鎖反応はopenaiの安定性に対する外部の懸念をさらに引き起こした。同じ日に 3 人の上級マネージャーが辞任し、過去 6 か月間で多くの上級研究者や従業員が退職したことにより、openai の安定性は前例のない課題に直面しています。

投資家への魅力を高めるため、アルトマン氏はopenaiが現在の複雑な構造を再編する計画であることを従業員に明らかにした。 openai の現在の構造では、非営利財団が親会社として機能し、その営利部門を管理しています。組織再編が完了すると、営利部門は非営利親会社の管理下になくなる。

開発とセキュリティテストを急ぐ

人工知能業界の熾烈な競争の中で、openai はその技術力を証明することに熱心で、最新の人工知能モデル gpt4-o のテストとリリースを加速しています。内部関係者によると、gpt-4o の打ち上げプロセスは非常に急いでおり、セキュリティ チームは時間の制約の下で残業を余儀なくされ、わずか 9 日間でセキュリティ評価を完了しました。チームのさらなる時間の要請にもかかわらず、経営陣は計画通りのリリースを主張した。なぜなら、googleはi/oカンファレンスで同様の機能を備えたaiモデルをデモンストレーションする予定であり、openaiは有利なスタートを切りたいと考えているからだ。セキュリティテストは完全には完了していませんが、予備評価では gpt-4o は安全にリリースできると考えられています。しかし、その後の研究で、このモデルの機能が安全基準を超えていた可能性があることが判明し、悪用の可能性に対する懸念が高まっています。 openaiはこれを否定し、リリースの決定は内部のセキュリティプロセスに基づいており、gpt-4oは慎重なセキュリティ評価を受けていると主張した。

さらに、別の openai モデル o1 も同様の問題に直面しています。 o1 は論理および数学タスクで優れたパフォーマンスを発揮し、汎用人工知能 (agi) への重要なステップとみなされています。しかし、このモデルのリリースは社内で論争を巻き起こし、一部の従業員はそのパフォーマンスに一貫性がなく、安全性が不十分であると見なしていました。共同創設者のwojciech zaremba氏も、開発中の衝突について言及した。しかし、アルトマン氏は潜在的な投資家にopenaiの技術的リーダーシップを示すために、o1モデルの迅速なリリースを推進した。 o1はまだ準備ができていないというチームからの反対意見もあったが、その反対は無視された。現在、o1 は応答の安全性と有用性を向上させるために微調整中です。

o1 の安全性について、openai 取締役会の安全性およびセキュリティ監視委員会のメンバーは、モデルのリリースは厳格な評価とセキュリティ対策に従って行われたと述べました。それでも、一部の専門家は、o1 の説得力やその他のセキュリティ リスクについて懸念を表明しています。最後に、圧力と論争にもかかわらず、openai の広報担当者は、同社はモデルのセキュリティ評価に自信を持っていると述べ、リリース以来、何億人もの人々が gpt-4o を安全に使用していることを強調しました。ムラティ氏の広報担当者は、モデルの発売を急ぐことや経営上の問題に関連した圧力がムラティ氏の辞任の決定に何らかの影響を与えたと否定した。 「彼女はチームと緊密に協力してきたが、大勝利を収めた後、今が退団にふさわしい時期だと感じている」と広報担当者は語った。

忠誠心は未解決の謎のまま

openai 内では、モデルのリリースをめぐる論争は、アルトマン氏とムラティ氏の緊張関係の一部にすぎないようだ。関係者らによると、アルトマン氏の短期間の追放中のムラティ氏の行動は、彼女の忠誠心への疑問を引き起こしたという。 11月にアルトマン氏が解雇されたとき、従業員はムラティ氏の忠誠心に疑問を表明していた。彼女は旧取締役会によって暫定ceoに任命され、発表の12時間前に解任のことを知ったが、他の幹部は発表されて初めて解任を知った。ウルトラマン支持者の中には、ムラティが事前にウルトラマンに知らせるべきだったと考えている人もいる。ムラティ氏は暫定ceoに任命された後、アルトマン氏の復帰を促すと約束したが、数日後、エメット・シア氏に後任となった。アルトマン氏は5日後にceoの職に戻り、ムラティ氏は最高技術責任者の職に戻った。

ムラティ氏はアルトマン氏と取締役会に対し、自身のリーダーシップスタイルについて懸念を表明したと報じられており、それがアルトマン氏解任という取締役会の決定に影響を与えた可能性がある。彼女は取締役会に積極的に連絡したことは否定したが、連絡があった際にはアルトマンに関するフィードバックを提供したことは認めた。ムラティ氏の行動はアルトマン氏の忠誠心についてさらなる疑問を引き起こしており、一部の投資家はこれに不満を抱いているかもしれない。さらに、ムラティ氏は、仕事中毒として知られ、直前にプロジェクトに参加することが多く、従業員にプレッシャーをかけていたブロックマン氏によって引き起こされた軋轢にも対処しなければならなかった。ムラティ氏は状況をコントロールしたり従業員を落ち着かせるために介入しなければならなかった。最終的にブロックマンさんは休暇を取るよう勧告され、後にソーシャルメディアで発表した。 openaiの広報担当者は、ブロックマン氏の決定は自主的なもので、年末には同社に復帰すると述べた。

企業文化の変化

openai は、アルトマン氏の短期間の退職から始まった、過去 10 か月にわたって文化的および構造的な変化を経験しました。共同創設者のイリヤ・サツケヴァー氏とジョン・シュルマン氏の退任とセキュリティ研究者の大量流出は、同社の焦点の変化を示した。アルトマン氏の解任に賛成票を投じた後、スツコーファー氏は退職を選択し、将来の人工知能システムのセキュリティ制御に焦点を当てたセーフ・スーパー・インテリジェンスというスタートアップを設立した。上級研究者のヤン・ライケ氏とシュルマン氏も、競合企業アンスロピック社に加わり、openaiの製品化傾向と人工知能の安全性の無視について懸念を表明した。

従業員数が倍増するにつれて、openai の採用戦略も変更されました。新入社員のほとんどは、従来の人工知能研究分野ではなく、大手テクノロジー企業から来ています。これらの新入社員は、純粋な研究よりも製品管理と販売に重点を置いています。この変化は企業文化に大きな変化をもたらし、研究中心の議論から製品開発と市場展開へと移行しました。

非営利財団を営利部門の支配から解放し、投資家の収益制限を撤廃するという会社構造の抜本的見直しを図るアルトマン氏の計画は、一部の元従業員を動揺させている。彼らは、この変更によってopenaiのセキュリティへの取り組みが弱まるのではないかと懸念している。しかし、一部の従業員は、この変更により社内の対立が減り、会社の効率が向上するだろうと楽観視している。

アルトマン氏は現在、個人的に技術チームを監督しており、同社の技術開発により直接的に関与することを示唆している。 openaiは多くの経営幹部を失ったが、アルトマン氏は依然として同社が成功を維持し、さらなる社内混乱を避けるのに十分な人材を持っていることを証明する必要がある。これらの変更により、openai が ai の安全性への取り組みを維持しながら、より商業的かつ製品指向の道を歩むことができるかどうかはまだわかりません。 (テンセントテクノロジー/wji作成)