ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

外国の報道によると、whips は 9 月 17 日、openai の ceo であるサム・アルトマン氏が、openai が 5 月に設立した社内委員会から退任すると報告しました。この委員会は、同社のプロジェクトと運営に関連する重要なセキュリティ上の決定を監督する責任を負っています。

openaiは今日のブログ投稿で、安全セキュリティ委員会はカーネギーメロン大学教授ジーコ・コルター氏が議長を務める独立した取締役会監視グループとなり、メンバーにはquora ceoのアダム・ディアンジェロ氏、退役米陸軍大将ポール・ナカソネ氏、元ソニー執行副氏などが含まれると発表した。ニコール・セリグマン大統領。

彼らは全員、openai の取締役会の現在のメンバーです。

openaiは投稿の中で、altman氏がまだ関与しているものの、同委員会がopenaiの最新aiモデルo1のセキュリティレビューを実施したと指摘した。同社は、同グループは今後もopenaiセキュリティチームから定期的な説明を受け続けるとし、セキュリティ上の懸念が解決されるまでリリースを延期する権利を留保すると述べた。

openaiは投稿の中で次のように書いている：その業務の一環として、安全委員会は今後も現在および将来のモデルに関する定期的な技術評価報告書と、継続的なリリース後の監視報告書を受け取り続ける。私たちは、モデル リリースの成功基準を明確に定義するために、モデル リリースのプロセスと実践に基づいた包括的なセキュリティ フレームワークを構築しています。

アルトマン氏の安全・セキュリティ委員会からの辞任は、この夏、5人の米国上院議員がアルトマン氏への書簡でopenaiの政策について疑問を呈したことを受けて行われた。

かつて人工知能の長期的なリスクに焦点を当てていたopenaiの従業員のほぼ半数が退職し、openaiの元研究者らは、openaiの企業目標を推進する政策を支持して実際のai規制に反対しているとしてアルトマン氏を非難している。

彼らが言うように、openai は連邦ロビー活動への支出を大幅に増やしており、2024 年最初の 6 か月の予算は 80 万ドルで、昨年全体の予算は 26 万ドルでした。

この春初め、アルトマン氏は、米国の重要インフラにおける人工知能の開発と導入について助言する、米国土安全保障省の人工知能安全セキュリティ評議会にも参加した。

たとえアルトマン氏が解任されたとしても、安全委員会がopenaiの商用ロードマップに重大な影響を与える厳しい決定を下す兆候はほとんどない。

注目すべきは、openaiが5月に、自社の作品に対する正当な批判には委員会を通じて対処するよう努めると発表したことだ――もちろん、正当な批判は見る人の認識に依存する。

5月、元openai取締役のヘレン・トナー氏とターシャ・マッコーリー氏はエコノミスト誌の論説で、openaiは信頼できず、責任を負うことはできないと考えていると述べた。

彼らは次のように書いています：私たちの経験に基づいて、自律性は利益インセンティブの圧力に確実に耐えることはできないと考えています。

そして、openai の利益インセンティブは依然として拡大しています。

同社は65億ドル以上の資金を調達していると噂されており、これによりopenaiの価値は1500億ドル以上となるだろう。合意に達するために、openaiは、全人類に利益をもたらす汎用人工知能を開発するというopenaiの設立使命との一貫性を維持することを目的として、投資家の利益を制限するように設計されたハイブリッド非営利企業構造を放棄する可能性が高い。