ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Mengchen Crexi はアオフェイ寺院の出身です
  パブリックアカウント QbitAI

たった今、OpenAI の上部で大きな地震が発生しました。

連荘 ジョン・シュルマン辞めて逃げて、連荘&社長 グレッグ・ブロックマン長期休暇、Peter Deng、製品担当副社長辞任したことも明らかになった。

長年にわたり OpenAI 強化学習チームを率いてきたジョン・シュルマン氏は、「」として知られています。ChatGPT アーキテクト」。

イリヤ・サストケヴァーが去った後、スーパー・アライメント・チームを一時的に引き継いだのも彼だった。

今、彼は隣のクロードチームであるAnthropicに参加するという「難しい決断を下した」と発表した。

同時にOpenAI社長のグレッグ・ブロックマン氏も年末まで長期休暇を取ることを発表した。

OpenAIは10月1日から世界中で開発者デーなどのイベントを開催する予定だが、同氏も欠席する。

ブロックマン氏は、9年間連続で勤務して初めてリラックスしたと語ったが、年末以降の計画については曖昧だったので、一部のネチズンは秘密保持契約のせいだと考えていた。

シューマン氏の辞任が正式に発表されてから20分後、アルトマン氏は返信の中でシューマン氏の貢献に感謝し、2015年に二人が初めて会った時の光景を回想した。

しかし今のところ、ウルトラマンはブロックマンの休暇に対して何の反応も示していない。

アルトマンは通常、文章の最初の文字と「i」を大文字を使わずに入力する癖があるが、重要な同僚が退職を選択するときは常に、よりフォーマルな態度を取るようになる。

有名な OpenAI インサイダー アカウント Apple Brother は次のように述べています: リーダーシップが形骸化した今、急いで製品をリリースする必要があります。

ChatGPTアーキテクトが辞任

シューマンはカリフォルニア工科大学で学部として学んだ物理、カリフォルニア大学バークレー校で短期間学んだ神経科学、後に師事した強化学習Daniel Abbeel はコンピューター サイエンスの博士号を取得しました。

彼が OpenAI の共同創設者になったとき、彼はまだ博士号を取得していませんでした。

OpenAI は、彼がインターンシップ以外で働いた最初で唯一の企業です。

彼の傑作であり最も引用された論文ＰＰＯ、ChatGPT のコア技術 RLHF で選択された強化学習アルゴリズムです。

その後、GPT-3.5、GPT-4、GPT-4o に至る一連の作業においてアライメント/ポストトレーニング チームを率いました。

今回の辞任の理由もこれに関連している。

AI の調整への焦点をさらに深め、実際の技術的な仕事に戻ることができる私のキャリアの新しい章を開始したいと考えています。

しかし、彼は OpenAI に十分な面子も与えた、と付け加えた。「OpenAI が安全な調整の取り組みをサポートしていないため、撤退しません」、集中したいという個人的な欲求からです。

ICML2023 でのスピーチの中で、シューマンは次の研究の方向性の 1 つを次のように説明しました。過剰な最適化を避ける方法。

• ChatGPT の一部の迷惑な動作 (過剰な謝罪など) は、過剰な最適化の結果です。
• RLHF は、狭いメトリクスに対して簡単に過剰最適化する可能性があります。たとえば、モデルは、報酬を真に理解することなく、報酬を生み出すショートカットを学習する可能性があります。
• 会話タスクの適切なトレーニングには推論、視点の取り方、知識が必要であり、研究者はトレーニング手順、報酬関数、データセットを慎重に設計する必要があります。
• 報酬シグナルでは、個々のフィードバックだけでなく、会話全体の品質を評価する必要があります。

今年5月に行われたポッドキャスト司会者のドワルケシュ・パテルとのインタビューで、シューマンはこうも語った。コンピューティング能力をトレーニング前からトレーニング後へとさらにシフトする必要があります。。

OpenAI は人材を失い続けている

ウルトラマンとのAI安全コンセプトの違いにより、OpenAIは人材の大量流出を経験した。

今年5月、スーパーアライメントチームのリーダーである主任研究員の2人が、イリヤ・スツケヴェルRLHF の発明者の一人ヤン・ライケ、同日にOpenAIを次々と退社。

当時、スーパーアライメントチームは発足から1年も経っていなかった。

Jan Leike氏が去った後、同氏は十数件のツイートを連続で送信し、OpenAIが20％のコンピューティング能力という約束を果たせず、自社製品よりもセキュリティにはるかに注意を払っていないとして、OpenAIを激しく攻撃した。

その後、Jan Leike 氏は、スーパー アライメントの研究を続けるために、OpenAI の競合企業である Anthropic に入社することを選択しました。

Jan Leike とともに GPT-4 プロジェクトの調整作業を共同で主導ライアン・ロウも3月末にOpenAIを退社した。

そして超揃いのメンバーの一人ウィリアム・サンダース、および GPT-4 敵対的テストに参加したことのある人ダニエル・ココタイロ、OpenAIからも辞任しました。

隣は言うまでもなくAnthropic 創設者のダリオ・アモデイとダニエラ・アモデイ兄妹、同じくOpenAIから。

兄のダリオ氏が退職する前、彼は OpenAI の研究担当副社長を務め、妹のダニエラ氏はセキュリティおよび戦略部門の副部長を務めていました。GPT-3のチーフエンジニア、トム・ブラウン氏私はそれを十数人の従業員とともにアンスロピック社に持ち込みました。

彼らが起業するために退職することを選んだ理由の一つは、OpenAI がセキュリティ問題を解決せずに GPT-3 を直接リリースし、それが彼らの不満を引き起こしたことです。

セキュリティを重視することと、創設者の経歴も相まって、Anthropic は今回退職した Jan Leike 氏と Schumann 氏を含む OpenAI 従業員の主要な場所の 1 つとなっています。

OpenAI は最近、セキュリティ分野でも動きを見せています—

7月末、OpenAIはセキュリティ部門のシニアディレクターを配置したアレクサンダー・マドリ警備職から異動となり、「AI推理」の仕事に配属された。

しかし、OpenAIはメディアに対し、マドリー氏は新しい役職に就いた後も引き続き人工知能の安全性への取り組みを続けると語った。

CEOのAltman氏はまた、OpenAIが常にセキュリティ業務を非常に重視しており、「セキュリティチーム全体にコンピューティングパワーの少なくとも20％を与える」という公約を堅持していることも強調した。

しかし、目の鋭いネチズンはすぐに、ウルトラマンが卑劣なコンセプトの波で遊んでいたことに気づきました。当初の約束では、コンピューティング能力の 20% をスーパー アライメント チームに与えることになっていましたが、秘密裏にすべてのセキュリティ チームに変更されました。。

したがって、ウルトラマンのツイートの後、ネチズンは容赦なくこの背景情報を追加し、当時のOpenAIへの公式リンクを添付しました。

うーん...インターネットにはまだ思い出があります。

もう一つ

多くの社内人材が失われる中、OpenAIの「宿敵」マスク氏も新たな行動を起こす -

マスク氏はOpenAIを再び法廷に提訴したばかりだ、被告もウルトラマンとCEOブロックマンです。

この訴訟の理由は、マスク氏がOpenAIの創設に参加した際にアルトマン氏とブロックマン氏に「だまされ、恐喝された」と信じていたことだ。

マスク氏は当初、アルトマン氏の言葉を信じてOpenAIに参加し、投資したと語った。

しかしその後、OpenAIは営利組織となり、株式の一部をマイクロソフトに売却したため、マスク氏は裏切られたと考え非常に不満を抱き、アルトマン氏を「裏切り」で非難した。

マスク氏の弁護士マーク・トベロフ氏は、この訴訟は以前に取り下げられた訴訟とは大きく異なり、被告らは「マスク氏と国民に対して意図的に虚偽の陳述を行った責任」を負い、「不正に得た利益の巨額の回復」を求めていると述べた。

同時に、起訴状ではOpenAIがMicrosoftに付与したライセンスの取り消しも求めている。

参考リンク:
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html