ニュース

text：web3 スカイシティ・シティロード

少し時間が経ちましたが、openai ceo sam altman 氏の openai 復帰後の対面インタビューの完全版動画が公開されました。グレッグが休暇中で、イリヤの新会社が設立され、openaiの継続的な損失と新たな資金調達のニュースが出た時期である。

このインタビューは、有名なホストである trevor cui wa が司会を務めましたが、少し驚くべきことに、trevor は ai テクノロジーについて、技術系でないホストの 95% よりも深く理解しているということです。

このインタビューでは、トレバーとサムは人工知能、openai、そしてサムの個人的なキャリアとこれまでの道のりについて、幅広い会話を交わしました。 openai への復帰から始めて、サムは一連の混乱と不確実性の中で個人の使命と会社の使命の関係をどのように振り返ったかを共有し、agi の将来の開発の方向性について語りました。

サムは、認知、生産性、社会的効果における agi の大きな可能性について詳しく説明しただけでなく、ai の安全性、倫理的問題、資本主義のトレードオフ、技術革命の課題にも対応しました。同時に、openaiのコーポレートガバナンス、技術の進歩と社会的責任のバランスを取る方法についての考えを率直に語り、透明性と民主的な技術ガバナンスの重要性を強調した。

openaiの主導権を取り戻すまでの旅: サム アルトマンは短期間の退職を振り返り、この混乱の中で openai とその使命への愛とその使命をどのように再発見したかを語ります。彼は短期間解雇されましたが、その経験から学び、agi の開発を推進し続けることの重要性を感じたと強調しました。

agi と技術革新の未来: サム アルトマンは、社会的および経済的変化は予想ほど急速ではないかもしれませんが、agi が前例のない技術革命をもたらすと強く信じています。同氏は、テクノロジーはagiにますます近づいていくものの、実際の社会への影響は緩やかなものであり、社会は新しいテクノロジーによってもたらされる変化に徐々に適応していくだろうと考えている。

資本主義とaiのバランス: インタビューの中で、sam altman は、openai が、agi の利点を確実に広く分配するという作成時の当初の目的を維持しながら、資本主義システム内でどのように動作するかについて詳しく説明しています。 openaiは開発に必要なリソースを獲得するために資本主義の中で競争する必要があるが、技術の進歩が倫理や社会的責任を犠牲にするべきではないと強調した。

民主的統治と ai の社会的影響: サム・アルトマン氏は、ai テクノロジーのガバナンスはより民主的であるべきだという重要な点を指摘しました。同氏は、aiシステムの使用方法の決定やルールの設定に国民がもっと関与すべきだと考えており、技術的な透明性と多様なガバナンスの重要性を強調した。

aiの安全性と倫理に関する懸念: インタビューの中で、サム アルトマン氏は、ai には大きな可能性がある一方で、多くの潜在的なセキュリティ リスクも抱えていることを認めました。同氏はコンピュータセキュリティや合成生物学などにおけるaiのリスクを具体的に指摘し、責任ある方法で技術開発を推進するよう社会に呼び掛けた。

人工知能に対するより広い視野: サム・アルトマンは将来について楽観的です。彼は、agi が成熟するにつれて、誰もが個人的な興味を追求する機会が増え、テクノロジーによって世界の教育と医療水準が大幅に向上すると信じています。技術革新は仕事や社会パターンに変化をもたらしますが、最終的には人間の精神と創造性が私たちをより豊かな未来へと押し上げると彼は信じています。

トレバー：

インタビューにお時間を割いていただきありがとうございます。

サム：ありがとう。

トレバー: 今はクレイジーな時代だと思わない?

サム：今まで経験した中で最もクレイジーな瞬間のように感じました。

トレバー：

そう、あなたはすべての中心にいるのです。それはどんな感じなんだろう。だって、私はこの分野とこの世界のただの熱心な観察者だからね。このすべての影響を受けているのはあなたであるような気がします。つまり、サム・アルトマンはタイム誌の「パーソン・オブ・ザ・イヤー」の候補者リストに載っているのだ。

サム：わからなくてよかったです。

トレバー: 分からなくて良かった?

サム：はい、もちろんです。

トレバー: どうして?

サム：今年はすでに、これまでの人生で最も多くの注目を集めています。

トレバー: 分かった、分かった。それで注目されるのが嫌いですか？注目されたくないですか？

サム：

いや、これは酷すぎる。ある意味、興味深いですね。これはある意味では便利です。しかし、私生活では生活の質が重視されます。ええ、間違いなくそうではありません。しかし、それが現状です。これが私が登録したものです。

トレバー: ああ、今度は悪名が高まる時期だ。

サム：はい。

トレバー: 街中で人々はあなたに気づきますか?

サム：これは非常に悪いトレードオフです。ええ、あなたには決してそんなことはないと思います...きっとあなたにも同じことが起こると思いますが、私はもう匿名でいることはできません。

トレバー：はい、でも人々は私に将来について尋ねません。

サム：彼らはあなたに世界を破壊するかどうか尋ねません。それは正しい。少し違いがあります。人々は私と一緒に写真を撮りたがるかもしれません。それはその程度です。集合写真がたくさん。

トレバー: そうですね、おめでとうございます。あなたはタイム誌の年間最優秀 ceo です。

サム：はい。

トレバー：

タイム誌がこの決定を下した頃だったと思うので、これはおそらく最も奇妙な瞬間の一つでした。数週間前までは、あなたは ceo of the year に選ばれていなかったかもしれません。彼らがまだこの賞を与えることができるかどうかはわかりません。前職の為だと思います。

サム：ええ、分かりません。これがどのように機能するのかわかりません。

トレバー: 再び ceo に就任した気分はどうですか?

サム：

正直に言うと、私はまだ現実を再プログラミングしているところです。プロセス全体を通じて、私がこの会社、その使命、そしてその従業員をどれほど愛しているかについて多くのことを学んだので、ある意味、素晴らしいと感じました。そして、その過程で何度か、短期間に人間のあらゆる感​​情を経験しました。しかし、私にとって非常に明確な瞬間は、これはすべて金曜日の午後、金曜日の正午に起こったということです。翌朝、土曜日、数人の取締役会メンバーが私に電話をして、復帰について話し合う気があるかどうか尋ねてきました。

これについては非常に複雑な気持ちを持っています。しかし最終的には、戻ってきたいという気持ちが明確になりました。

私はこの場所と私たちがやっていることを本当に愛しています。それは世界にとって重要なことだと思いますし、私が最も大切にしていることです。

トレバー：

テクノロジーの世界では、雇用と解雇は誰もが慣れなければならないことです。

あなたが過去に y combinator から解雇されたことは知っています。この状況に陥った人にはそれぞれストーリーがあります。

サム：それについては話したくない。

トレバー: 教えて、教えて。これらのことは、自分で調べてそこから始めます。

サム：

（ycを離れる）約1年前に、openaiに来たいと決めました。

それは複雑な移行でした。しかし、私は openai と yc に同時に取り組んでいたので、openai に行きたいと強く思っていました。私はこれを後悔したことはありません。

トレバー：それなら、あなたは一度も解雇されたことはありません。人間として厳しい状況です。

サム：これは解雇ですか？

トレバー: 解雇されてすぐに再雇用されたらどうしますか?

サム：私が言おうとしていたのは、ただそれだけではありません...これはただ残酷です...今このことについて話すべきではないと思います。

これはとても苦しいことです。私個人にとって、人間として、それは非常に不公平に感じられ、その扱い方は本当に不公平でした。

トレバー：

想像できます。多くの人が解雇について話すでしょう。

これはパンデミック中にトレンドになり、特にグループに電子メールやビデオが送信されると人々が話題になり、その後何千人もの従業員が解雇されました。

これが会社の ceo に起こるとはほとんど考えられません。さらに、多くの人がこの世代と将来の「スティーブ・ジョブズ」と呼ぶceoにこれが起こるとは考えられないでしょう。

ちなみに、あなたは自分のことをそう呼んでいません。

サム：もちろん違いますよ。

トレバー：

多くの人があなたについてそう言いますが、私はあなたをこの世代のスティーブ・ジョブズと呼ぶのはフェアではないと思います。私の意見では、あなたはこの世代のプロメテウスです。本当にそうですよ。

あなたは神から火を盗んだように私には思えます。あなたはこの変革の最前線にいます。私たちは今、ai がかつて sf や伝説の産物だった時代を生きています。あなたは今、文明を永遠に変える可能性のあるものの最前線に立っています。

未来は全面的に変わると思いますか？

サム：

そう思います。

これから言おうとしていることが間違っている可能性は十分にありますが、私の感覚では、ほぼ全員が同意するもの、つまり agi を構築するつもりです。汎用人工知能 (agi) を定義するのは非常に難しいですが、人々が見て「やったね」と言ってくれるようなシステムを構築します。このシステムは汎用人工知能であり、人間のレベル以上のシステムです。

トレバー：

詳しく説明する前に、ai と汎用人工知能に対する人々の認識の最大の違いは何だと思いますか?

サム：

この分野に近づくにつれて、それをどのように定義するかが非常に重要になりますが、違いもあります。一部の人にとって、agi は今日の人間の仕事の重要な部分を実行できるシステムを指します。もちろん、私たちは新しい仕事や新しいことを見つけるでしょう。しかし、他の人にとって、agi は新しい科学的知識の発見に役立つシステムを指します。これらは明らかに、世界に大きく異なる影響を与える、まったく異なるマイルストーンです。

この言葉にはうんざりしていて、使うのをやめることもできないのに、この言葉が嫌いになったのには理由があります。用語はagiです。現在、ほとんどの人にとって、それは単に非常に賢い ai を意味すると思いますが、それを超えると非常に曖昧になってきています。それは主に私たちが近づいているからだと思います。

私が言いたいのは、どんな呼び方でもいいので、agi を作成するということです。少なくとも短期および中期的には、人々が考えているよりもはるかに小さな変化で世界が変わるでしょう。短期的には、社会は惰性が大きく、経済も惰性が大きく、人々の生き方も惰性が大きいと思います。これは、この移行を管理する上で健全かつ有益です。私たちは皆、特定の方法で物事を行い、それに慣れています。超有機体としての社会もまた、特定の方法で行動し、それに慣れています。

gpt-4 で何が起こったかを見ると、それは有益だと思います。私たちが最初にそれを立ち上げたとき、人々は「うわー、こんなことが起こるとは思わなかった」というような瞬間に本当にパニックになりましたが、その後、彼らは自分たちの生活を続けました。それは物事を変え、人々はそれを使用します。何もしないよりは良いテクニックです。もちろん、gpt-4 はあまり良くありません。5、6、7 のどれであっても、はるかに優れています。しかし、chatgpt インターフェイスのバージョン 4 は、多くの人が真剣に受け止めていなかったのを真剣に受け止めるようになった瞬間だと思います。しかし、人生は続いていきます。

トレバー：

これは人類や社会にとって良いことだと思いますか?人生はこのままでいいのでしょうか？この製品の「父」の一人として、このアイデアの「親」の一人として、私たち全員が立ち止まって、少し時間をとって、私たちが今どのような状況にあるのかを評価してみてはいかがでしょうか。

サム：

人間の個人的および集団的な回復力は驚くべきものであると思います。新しいテクノロジーや変化を吸収して適応し、それらを世界の一部のように感じさせる私たちの能力に本当に興奮しています。本当に素晴らしいですね。

新型コロナウイルスは、これが起こっている最も最近の例だと思います。世界はすぐに適応し、すぐにそれが普通だと感じました。それほど深刻ではないが有益なもう 1 つの例は、ufo に関するニュースの山です。これは数年前のことです。かつて完全な懐疑論者だった私の友人の多くは、もしかしたらそれらは本物のufoか宇宙人か何かだったのではないかと言うでしょう。それでも彼らは翌日も仕事に行き、子供たちと遊んだ。

トレバー: そうだね、他に何ができるだろうかと思ったんだ。彼らが飛んでいるなら、彼らは飛んでいます。

では、進捗状況の評価にもっと時間を費やせばよかったでしょうか?私たちは世界全体としてそれを行っており、それは素晴らしいことだと思います。私は、これらのテクノロジーを反復的に導入することが重要であると強く信じています。私たちは、汎用人工知能 (agi) を秘密の研究所で開発し、それが登場することを誰も知りませんでしたが、突然それを世界に公開して、人々が「ふーん、ここにあるよ」と言わざるを得なくなるようなことはしたくありません。 ..

トレバー：

私たちは徐々にそれに適応し、テクノロジーとして成長していく必要があると思いますか?

サム：

はい。

ですから、社会、私たちの指導者、私たちの機関が実際にこれらのテクノロジーを使用して、何ができるか、何ができないか、リスクはどこにあるのか、利点は何なのかを感覚的に把握するための今の会話は素晴らしいと思います。ある意味、私たちがミッションのために行った最善のことは、展開戦略を繰り返すことかもしれないと思います。秘密裏に構築し、さらに何年もかけて構築し、その後一斉に運用を開始することもできましたが、それはひどいことになっていたでしょう。

トレバー：

今日、私たちは openai の建物に入りました。ちょっとした要塞のような、未来の家のように感じられます。ゲストとして参加したという投稿がありました。

私は、「なんてことだ、それは奇妙だ」と思いました。家に帰るようでいて、家ではない、でも家にいるようなものです。

サム：

ここでゲストバッジを身に着けているような、とても奇妙な瞬間のように感じるはずです。でも、みんな疲れていてアドレナリンが溢れているような気がします。私が期待していたような大きな瞬間の感覚は実際にはありませんでした。その日について振り返り、語る価値のある瞬間が確かにいくつかありました。たとえば、私が最も誇りに思う瞬間の 1 つは、とても疲れていて注意力が散漫になっていたときです。私たちはその日、取締役会が私を ceo として呼び戻すだろうと考えていましたが、もしそうならなかった場合に備えて、私は社内の優秀な人材の 1 人によって、当社の最下位レベルのソフトウェア エンジニアのポジションである l3 の面接を受けました。すると彼は明確な答えをくれました。とても誇らしい瞬間でした。

その日の私の記憶の中で印象に残っているのは、私にはまだそのスキルがあったということです。バッジは私が望むほど奥深いものではありませんが。

トレバー：

openai 従業員から公の場で見られる支持を得るために、私が ceo として何を正しく行ったと思うか、ぜひ知りたいです。

このことが明らかになったとき、私はあなたに内部調査の内容についてコメントできないことを知っていたので、詳細を尋ねるつもりはありませんでした。しかし、会社の全体的な雰囲気や最近何が起こっているかについて少し話すことはできると思います。 openai のように物事が展開するのを見ることはほとんどありません。あなたにはこの会社があり、地球上のほとんどの人にとっては一瞬たりとも存在しなかったこのアイデアがあります。次の瞬間、chatgpt をリリースすると、このシンプルなプロンプト、単なる小さなチャット ボックスが世界を変えます。史上最速でユーザー数 100 万人を達成したと思います。 ５日だったと思います。はい、5日です。それからすぐに1億人に達しました。

逸話レベルではすぐに、私にとって、このことは世界中の誰にとっても知られていなかったことがわかりました。私は人々にそれを説明し、理解してもらおうとしています。私はそれを詩のように、彼らが理解できる簡単なものとして彼らに見せなければなりません。それから人々は私にそれについて話し始めました。今ではそれはどこにでもある概念となり、人々はそれが何であり、それが何を意味するのかを理解するのに苦労しています。

しかしその一方で、何らかの方法で未来をコントロールし、形にしようとしている企業もあります。そして人々はあなたをサポートします。私たちはサム・アルトマン氏が退任し、ceo ではなくなったという記事を目にしました。それからすべてが混乱に陥りました。噂をいくつか見たかどうかはわかりません。彼らはただ狂っているだけだ。私がこれまで見た中で最もクレイジーなことの 1 つは、誰かがこう言ったことです。「これはばかげていて面白いです」。彼らは言う、そして私は信頼できる情報源から知っていますが、サムはaiとセックスしようとしたために解雇されたそうです。

サム：

どう答えていいかも分かりません。そのメッセージを見たとき、私はこう思いました...この時点で、これを正式に否定する必要があると思いますが、それは単に起こりませんでした。

トレバー：

人々はこの 2 つの組み合わせを理解していないため、このようなことが起こる可能性は低いと思います。しかし、私が印象に残っているのは、この事件のセンセーショナリズムが、別のタイミングで openai に別のスポットライトを当てているように見えるということです。

大きなことの 1 つは、チームから得られるサポートです。何が起こっても、私たちはサムをサポートするつもりだと言ってくれる人々がいます。このような状況は企業では一般的ではありません。多くの場合、ceo と従業員はある程度のつながりを持っていません。

しかし、それは単なるチーム以上のものだと感じます。

サム：

以下に述べるのは偽りの謙虚さではありません。たくさんの賞賛を受け入れたい場所はたくさんあります。しかし今回の場合、スポークスマンであることは別として、完全に私のせいではありません。しかし、私たちがうまくやっているのは、その重要性を人々に本当に納得させるという使命があることだと思います。

何が起こっているのかというと、私たちが熱心に取り組んで多くの進歩を遂げているが、やるべきことはまだたくさんあるという使命、組織、チームが、このような現実の脅威にさらされていることに人々が気づき始めているということだと思います。それが反応を引き起こしたのだと思います。これは実際には私個人に関するものではありませんが、できれば人々が私を好きになり、私が良い仕事をしていると思ってくれることを願っています。それは、私たち全員が感じている共通の忠誠心と、物事をやり遂げ、できればその目標を達成する可能性を最大化するという責任感についてです。

トレバー：

最も高いレベルでの使命は何だと思いますか?一般的な人工知能にまで到達しているのでしょうか？

サム：

agi の利点を可能な限り広く配布し、すべてのセキュリティ課題にうまく対処しましょう。

トレバー：

これは興味深い 2 番目の点です。この安全面についてさらに詳しく話し合うために、後ほどお話しさせていただきたいと思います。 openaiを組織として見ると、その誕生は実に奇妙です。間違っていたらご指摘ください。ただし、セキュリティに重点を置いて設立されたようです。あなたは人々のグループを集めて、社会の利益のために最も倫理的な人工知能を作成することに専念する組織、会社、集団を立ち上げたいと言いました。それは企業の利益分配や投資家が利益を得る方法などにも反映されていることがわかります。

しかし、openai もある時点で変化しました。資本主義の力に抵抗できると思いますか?つまり、非常に多くのお金が関係しています。あなたが何をしているのか、そしてなぜそれをしているのかがお金によって定義されない世界を本当に維持できると思いますか?

サム：

これが要因であるに違いありません。これらのシステムを訓練するコストを考えてみると、私たちは資本主義の領域で競争する何らかの方法を見つけなければなりません。しかし、それが私たちの主な動機になるとは思いません。ちなみに私は資本主義が大好きです。これには大きな欠陥があると思いますが、世界中が試した他のどのシステムと比べても、それでも私たちが思いついた中で最高のものだと思います。しかし、それは私たちがより良い成果を上げようと努力すべきではないという意味ではありません。このテクノロジーの最先端を進歩し続けるために必要な、膨大な記録破りの資本を費やす方法を見つけることになると思います。これは私たちの初期の学習の 1 つでした。しかし、これは私たちが思っていたよりもはるかに高価です。

システムを拡張するというアイデアがあることはなんとなくわかっていましたが、それがどのように進むのかはわかりませんでした。

トレバー：

あなたは常に拡張機能の大ファンでした。あなたに関する記事を読みました。あなたのメンターの 1 人（現在は injection への投資パートナーの 1 人）は、サムに質問するたびに最初に頭に浮かぶのは、この問題をどうやって解決するかということだと言いました。どうやって解決すればいいのでしょうか？彼が続けて言っている 2 番目のことは、これらのソリューションをどのように拡張するかということです。

サム：誰がそんなこと言ったの？覚えていない。私は名前が苦手です。

トレバー: 興味深いですね。でも、それを言ったのはあなたの職場の誰かだということは知っています。

サム：

面白い。しかし、私について誰もそのように言っているのを聞いたことがありません。

しかし、これは私がさまざまな企業やセクターにわたって観察してきたことだと思いますが、規模はしばしば驚くべき結果につながるということです。したがって、これらの ai モデルを大規模にスケーリングすると、非常に驚​​くべき結果が得られます。大規模なスケーリングは、すべての明白な方法だけでなく、いくつかの明白ではない方法でも改善します。企業が規模を拡大することには、明らかではないメリットがあります。 y combinator のような企業を拡大することには、微妙な利点があります。これは真剣に受け止められていないと思います。

私たちの場合、初期段階でスケールすることがいかに重要かを知ることが重要です。もし私たちがもっと賢明に考えたり、もっと勇気を持っていたら、最初からもっと大きな行動をとっていただろう。しかし、100億ドルもするもっと大きなコンピューターを作ると言うのは本当に難しいです。だから私たちはそんなことはしませんでした。私たちはこれを理解するのが本来より少し遅れましたが、最終的には理解できました。ここで、どのくらいのスケールが必要かがわかります。

資本主義はかっこいいと思う。私はこのシステムに対して何も反対しません。いいえ、そうではありません。このシステムには多くの反対意見がありますが、これより優れたものはまだ発見されていないことを認めざるを得ません。

trevor: chatgpt にシステムを設計できるかどうか尋ねましたか?

サム: 私は別のことを考えています...新しいシステムを設計しているわけではないかもしれません。はい。しかし、私はaiと資本主義がどのように交差するのか、そしてそれが何を意味するのかについて多くの質問をします。

その 1 つは、ai が実現するだろうという、当初の想定に関する最も重要な点について、私たちが正しかったということです。ディープラーニングは可能です...ところで、多くの人がこれを笑います。まさにその通りです。

トレバー: なんと、私たちは容赦なく笑われました。

サム：

はい。

これを達成する方法についていくつかのアイデアがありましたが、私たちはそれを正しく実現しました。しかし、私たちは多くの詳細について間違っていました。これは科学では一般的で正常なことです。言語モデルが登場する前、私たちはこのシステムの構築に関してまったく異なるビジョンを持っていました。当時、私たちは agi の構築に関してまったく異なるコンセプトを持っていました。私たちは、これが継続的に改善され、人間のように会話できる反復的なツールになるとは考えていませんでした。そのため、私たちは agi の構築にどのようなことが必要になるかについて非常に混乱していました。 agiの前後の時間を考えています。次に、それを他のシステムや他のガバナンスに引き渡す必要があります。

今ではそれができると思います。ナビゲートしやすくなったと思うので、とても満足しています。それはあり得ると思います。多くの点で異なるため、ただのツールとは言いたくないのですが、ある意味、私たちは人類のための新しいツールを作ったのです。ツールボックスにいくつかの項目を追加しました。人々はそれを使ってあらゆる種類の信じられないことを行うでしょうが、それでも未来を計画するのは人間であり、空のagiではありません。以前はできなかったことができるようになります。今までできなかった事も出来るようになります。もっとできることがあります。その意味で、人間の能力以上に大きな影響を与える本当に優れたツールを作成することで、私たちが使命を達成できる世界を想像できます。これにはとても興奮しています。

たとえば、無料で広告なしの chatgpt を提供しているのが気に入っています。なぜなら、私個人としては、インターネット上では常に広告が問題になっていると考えているからです。しかし、私たちはこのツールを世に出しただけです。それが資本主義の欠点です、そうです、そうです。そのうちの 1 つです。個人的にはもっと大きな欠点があると思っていますが、私たちはこのツールを公開しており、人々は無料で使用できます。私たちはそれらを製品にしたいわけではありません。もう少し使ってほしくない。これは、私たちがさらにできる興味深い道筋を示していると思います。

トレバー：

それでは、これをやってみましょう。会話中に取り上げたいことはたくさんありますが、もちろんすべてに答えることはできません。しかし、私たちが検討できることを望んでいるいくつかの考え、いくつかの点、いくつかの領域があります。最初の最もタイムリーな質問は、会社に将来何が起こるかということだと思います。それはどこへ行くと思いますか？私が特に興味深いと思うことの 1 つは、特に openai の新しい取締役会の構成です。以前は取締役会に女性がいましたが、今はいません。また、取締役会のメンバーに対する金銭的インセンティブは以前はありませんでしたが、今はあります。あなたが導入に貢献したその保護が今では失われ、人々を守ることやより安全な未来を定義することに焦点を当てていない取締役会があり、その代わりに金を儲けて利益を得ることに重点を置いているのではないかと心配しているのではないかと思います。できるだけ大きくて強いですか？

サム：

現在および以前のガバナンス構造と取締役会は、いくつかの重要な点で機能していないと思います。したがって、私は改善方法を特定することを全面的に支持し、取締役会とそれを達成するための取り組みをサポートします。

取締役会が成長し、多様化する必要があることは明らかであり、それはすぐに実現すると思います。私たちは、これまで提唱されてこなかった人々の代弁者たちの声を聞く必要があり、ai の安全性について注意深く考えるだけでなく、すべての人々との相互作用をどのように組み込むかについて過去の教訓から学ぶ必要があります。社会の側面 これらは非常に複雑なシステムです。悪影響を軽減し、利益を共有しながら、可能な限り最善の仕事を行うことをすべて表現する必要があります。

したがって、以前は明らかに間違っていたことをすべて正しく理解する二度目のチャンスが得られたことをうれしく思います。多様性など、代表する必要があるすべての主要な利害関係者グループを代表していることを確認し、これをより民主的にする方法を見つけ出し、このテクノロジーを管理するためのいくつかの決定を下すよう政府に圧力をかけ続けます。完璧ではないことは承知していますが、現時点で考えられる他のものよりも優れていると思います。ユーザー コミュニティともっと関わり、このテクノロジーの使用に関する境界線の設定に協力してもらうことが重要です。

今後の大きな方向性としては、取締役会とガバナンス体制の拡充が挙げられます。繰り返しになりますが、私たちの現在の取締役会が小規模であることは承知していますが、彼らは今話したすべてのことに非常に熱心に取り組んでいると思います。

そして、別の大きなカテゴリの質問があります。もしあなたが 1 週間前に私に尋ねていたら、私は会社を安定させることが私の最優先事項だと答えただろう。しかし、少なくとも内面的にはかなり良い気分です。私たちは顧客を失いませんでしたし、従業員を失いませんでした。私たちは成長を続けており、これは非常に驚くべきことです。今後も新商品をご紹介していきます。私たちの重要なパートナーシップは妨げられるのではなく、強化されていると感じます。この点に関しては、すべてが計画通りに進みました。そして、来年上半期の研究と製品計画は、これまでよりも良く、より的を絞ったものになっていると思います。

トレバー：

役員室でこのようなことが起こったとき、私はいつもあなたのことを一人の人間として考えていることに気づきます。嵐が起こるといつも、嵐の中心で何が起こっているのかに興味があります。不思議だけど、この事が起こった時、あなたはどこにいましたか？何をしていたんですか？あなたの世界では個人レベルで何が起こっているのでしょうか？

サム：

私が笑う理由は、人々が私について言うことは、私がハリケーンの目の中にいて、すべてが私の周りで回転しているように感じ、そして私はまだ非常に落ち着いているからです。今回は期待通りにはいきませんでした。

それは嵐の真っ只中にいるような経験ですが、穏やかではありません。私はラスベガスでf1レースを見ていました。

トレバー: あなたは f1 のファンですか?

サム：そうですよ。

トレバー: どのチームをサポートしますか?特にお気に入りはありますか？

サム：

正直に言うと、フェルスタッペンはどのチームを応援するか迷うほど素晴らしい選手だと思います。しかし、おそらくそれが誰もが言う答えだと思います。

トレバー：

実際のところ、それは彼らがいつその動きに注意を払い始めたかによって異なります。私がシューマッハのファンになったのは、その頃からレースを見始めたからです。最初はナイジェル・マンセル、次にアイルトン・セナでした、私が何を言いたいかわかりますか？

フェルスタッペンは非常に正確で、なぜ彼がとても人気があるのか​​がわかります。

サム：

何度も彼の勝利を見るのは少し飽きてしまいますが、彼は本当に素晴らしいです。

その夜、私は木曜遅くに到着しました。誰かがマンホールの蓋を溶接するのを忘れたため、最初のラップでフェラーリのエンジンの1つを爆発させるかのように爆発し、練習が中断されました。試合は見られなかったし、週末を通して何もアクションも見られなかった。

ホテルの部屋で電話に出ましたが、何が起こるか全く分かりませんでした。そして取締役会から仕事を解雇されました。まるで夢のようで、戸惑いました。すべてが混乱していて、現実感がありませんでした。明らかに悲しくて辛かったのですが、その時の支配的な感情は混乱で、まるで霧と煙の中にいるような気分でした。何が起こっているのか全く分かりません。

これが起こった方法は前例がなく、クレイジーでした。次の 30 分で、私の携帯電話は非常に多くのメッセージを受信したため、imessage が私の携帯電話でクラッシュしました。これらのメッセージは全員から届き、通知がポップアップし続けるため、電話は完全に使用できなくなりました。 imessage がしばらく停止し、メッセージが遅れ、その後すべてのメッセージが既読マークになるようになり、誰と話しているのかさえ分からなくなり、混乱状態になりました。

私はここのチームと話し、何が起こっているのかを理解しようとしていました。 microsoft も電話中であるように、他の関係者も連絡を取っています。状況全体が本当に不安で、現実とは思えませんでした。少し落ち着いて今後のことを考えるようになりました。私はagi（汎用人工知能）に本当に取り組みたいと思っています。最初はできなくても、何度でも挑戦してみます。最善の方法を考え中です。

グレッグは辞め、他にも数人が辞め、私と一緒に働きたいという人たちからのメッセージが殺到するようになりました。その時点では、openai に戻ることはまったく考えていませんでした。将来がどうなるかは想像できますが、私はニュースをあまり見ないので、これが業界のイベントとしてどれほど大きなものなのかよくわかりません。圧倒的な量のメッセージが受信されているのを感じます。

トレバー：

なぜなら、あなたは文字通り嵐の真っ只中にいるからです。

サム：

はい。私は openai をサポートし、次に何をすべきかを考え、何が起こっているのかを理解したいだけです。それから私はカリフォルニアに戻り、何人かの人々と会い、将来に非常に集中できるように感じ始めました。しかし私はまた、openai の成功を祈っています。ほぼ一晩中ほとんど眠れず、同時にたくさんの話をしていました。その後はクレイジーな週末が続いた。確かに私はまだすべてを完全には受け入れられておらず、少し動揺しており、まだピースを拾い上げようとしています。落ち着いて処理する時間ができたら、もっと深く感じることになると思います。

トレバー：

すぐにすべての作業に戻らなければならないと感じますか?なぜなら、あなたによると、あなたはこの使命を担っているからです。その衝動が目に浮かび、世界は後戻りできない地点に達していることがわかります。ある方向に向かって進んでいるのに、突然、自分がいる分野ではそれを達成できないように思えます。しかし、あなたが言ったように、microsoft が介入し、satya nadella が「私たちと一緒に働きましょう。そうすればこのチームを再建します」と言いました。

サム・アルトマンについて人々が同意することが一つあるとすれば、それは彼が粘り強いということだ。彼は妥協を許さず、目標があり何かを信じているのであれば、人生に邪魔をすべきではないと信じています。そして、あなたはその方向に向かって進んでいるように見えます。あなたは openai について公に何も発言していませんし、何らかの形で openai を非難したこともありません。しかし、それはあなたにとって大きなプレッシャーになっているようです。

サム：

確かに。立ち直れないことではないと思いますが、これを経験しても影響を受けないというのは不可能だと思います。それは非常に奇妙です。

トレバー：

自分の一部を失ったように感じますか?

サム：

はい。私たちは 2015 年末に openai を開始しました。実際に仕事の初日が始まったのは2016年でした。

しばらくの間、これを yc でやっていましたが、2019 年の初めからフルタイムでやるようになりました。 agi と私の家族は、私が最も大切にしている 2 つのものです。ですから、私にとって、そのうちの 1 つを失ったことで、ある意味、agi にさらにコミットし、ミッションをより気にかけるようになったと言うべきでしょう。しかし、もちろん、私はこの組織、人々、ユーザー、株主、そして私たちがここで構築するすべてのもののことも気にかけています。だから、本当に痛かったんです。

私が比較できる唯一の人生経験は、父が亡くなったときですが、もちろん、それはもっとひどいものでした。それはとても突然のことで、混乱と喪失感を感じました。その場合は、少しだけ時間をかけてじっくり考えてみようと思いました。しかし、これから起こることはたくさんあり、それはあまりにも予想外だったので、私はしばらく彼の人生の一部を拾わなければなりませんでした。それから一週間ほど経ってから、本当に一息つき、「なんてことだ、こんなことが起こっているなんて信じられない」と思う時間ができました。そうですね、それは間違いなくはるかに悪いです。しかし、ここでも同様の反響があります。

トレバー：

会社の将来とその中での自分の役割に目を向けるにあたり、オープン ai を推進することと、自分が信じる方向に進み続けることの間のバランスを今どのように見つけていますか?緊急ブレーキはまだありますか？社会に悪影響を与える可能性のあるものを作っていると感じた場合、私たちが介入してその行為を止めるような、社内に何らかのシステムはありますか。あなたにはこの能力がありますか？そして、このシステムは組み込まれているのでしょうか？

サム：

はい、もちろん。過去にもそのような制度がありました。たとえば、いくつかのシステムを作成しましたが、それらを導入しないことを選択します。将来的にはまたこのようなことを行うことになると思います。あるいは、システムを作成して、それを展開する前に安全にするためにもう少し時間が必要だと言う場合もあります。 gpt-4 の場合と同様に、すべての調整とセキュリティ テストを含め、リリースの準備が整うまでにトレーニングを完了するのにほぼ 8 か月かかりました。何人かのチームメンバーと話したのを覚えていますが、これは取締役会の決定ではなく、ここにいる人々が自分の仕事をし、私たちの使命に取り組んでいるということです。ということで、これは続きます。

私がこのチームをとても誇りに思っているのは、混乱、危機、不確実性、ストレスの真っただ中でうまく機能する彼らの能力です。私は彼らに a+ を与えます、彼らは素晴らしい仕事をしました。より堅牢で非常に堅牢なシステムに近づくにつれて、私たちが構築するチームの文化とその能力が、おそらく最も重要な要素になると思います。たとえば、危機の際に冷静さを保つことや、適切で思慮深い意思決定を下すことなどです。ここのチームはそれができることを本当に証明したと思うし、それは本当に重要なことだ。

openai について私たちが学んだことの 1 つは、サムは役職がなくても会社を経営できるということだと誰かが言いました。それは完全に間違っており、単に真実ではないと思います。正しい教訓は、会社は私がいなくても運営できるということでした。これは文化の問題であり、チームは準備ができており、文化も準備ができています。私はそれをとても誇りに思っており、戻ってきてそれを続けることに本当に興奮しています。

チームがすべてを管理しているのを見ると、今後の課題に直面するときに夜の睡眠が良くなります。将来的にはこれよりも大きな課題があるでしょうが、私たちは準備ができていないため、これが最も困難な課題であると願っていますし、信じています。今、私たちはその重要性を認識しています。私たちは単なる普通の会社ではなく、そこから遠く離れています。

トレバー：

これについて話しましょう。 chatgpt、openai、最終的には何と呼ばれても構いません。 dall・e、whisper、そしてこれらすべての素晴らしい製品があります。ブランド名やブランドのアーキテクチャに関するアイデアがあれば、非常に興味があります。 chatgpt がそれを実現し、今ではどこにでも普及しているように感じます。はい、ひどい名前ですが、あまりにも一般的になりすぎて変更できないかもしれません。現時点で変更できると思いますか？ gpt に簡略化することはできますか、それともチャットだけでよいでしょうか?

サム：

分かりません、多分そうではありません。

トレバー：

時々、製品、名前、アイデアがマーケティング担当者の夢を超えていて、人々がそれを受け入れているように感じることがあります。

サム：

この名前として chatgpt を選択するマーケターはいないでしょうが、おそらく私たちはこれにこだわっており、おそらくそれで問題ありません。

トレバー：

今、私はその多面的な性質に魅了されています。 dall・e が出てきたのを初めて見たとき、それはただのアイデアであり、それがどのように機能するかを見て、このプログラムが何もないところから画像を作成できることを見たときのことを今でも覚えています。人々に説明しようとすると、そのイメージはどこから来たのかと尋ねられます。写真もソース画像もありません。彼らはそれは不可能だと考えています。

それは、当時私が思ったように、説明するのが難しい何かを見たものでした。時々私でも理解するのが難しいことがあります。しかし、私たちが現在住んでいる世界を見るとき、私たちはそれを gpt 3.5、gpt 4、gpt 5、6、7 などの数字で語ります。私は、専門用語を使わずに、製品の実際の使用例について詳しく話したいと考えています。

chatgpt 3、3.5、4 のさまざまな製品間では、いわゆる推論機能がより高いレベルに達し、ある程度の創造性を発揮していることがわかります。

汎用の大規模言語モデルや現在では特化された大規模言語モデルなど、あなたが現在作成しているこの世界での製品を見ると、ユースケースは劇的に変わると思いますか?今みんなが好きなちょっとしたチャットボットみたいな感じでしょうか、これがプロダクトの最終形なのでしょうか？それとも、あらゆるものに特化したgptが存在する世界になると思いますか？たとえば、trevor には彼の代わりに作業を行う gpt があり、または特定の会社には自分に代わって作業を行う gpt があります。この問題についてどう思いますか?

明らかに、未来を予測することは困難です。しかし、私たちが今いるところから、この先はどうなっていると思いますか?

サム：

この2つが混在したものになると思います。未来を予測するのは本当に難しいし、間違っているかもしれないけど、それでも挑戦していきたいと思っています。今おっしゃった2つのことを組み合わせたものになると思います。まず、ベースモデルは非常に優れているので、できないことはないと自信を持って言うのは難しいです。長い時間はかかりますが、その方向に進んでいると思います。

トレバー：

あなたの時間枠における「長い時間」とはどれくらいですか？どうやって測るのですか？

サム：

今後数年以内には無理だ。今後数年間は毎年良くなるでしょう。しかし、私が言おうとしていたように、2026 年までにこのモデルではまだできないことがたくさんあると確信しています。

トレバー：

しかし、このモデルはあなたを驚かせ続けませんか?この分野で働くエンジニアやaiに関わる人たちと話していると、一番出てくる言葉は「驚き」です。人々は、chatgpt がこの分野について学習していると考えて、これを教えていると言い続けています。突然、新しい言語を話し始めたり、私たちがこれを教えていると思っていたのに、突然橋を架けたりする、そんな感じです。

サム：

したがって、ここにいるほとんどの人々の主観的な経験は、おそらく 2019 年から 2022 年の間のどこかです。しかし今では、私たちは驚かなくなることを学んだように思います。現在、私たちの信頼は飛躍的に高まっており、ほとんどの人がそう考えています。つまり、gpt-5 は、何と呼んでも、多くの面で優れています。私たちは、それができることのいくつかに驚くでしょうし、できないことにも驚くでしょう。その良さに驚く人はいないだろう。現時点では、私たちはこれについて非常に深く理解していると思います。

2 番目に言及したのは、これらのカスタム gpt です。さらに重要なのは、trevor gpt などの個人 gpt についても言及しました。これは今後数年間で大きなトレンドになると思います。これらのモデルは、ユーザーについて学習し、個人データにアクセスし、ユーザーが望む方法で質問に答え、ユーザーの環境で非常に効率的に動作します。これは欲しい人も多いと思います。

トレバー：

新しい労働市場があなたの gpt がほぼ履歴書になるとしたら、gpt は奇妙な方法であなたよりも価値があるのではないかと疑いたくなります。言ってることわかりますか？それは、あなたが考えているすべてのこと、あなたがこれまで考えてきたすべてのこと、そしてあなたのアイデアを統合する方法を組み合わせたようなもので、さらにあなた自身の個人的な gpt になります...私はただクレイジーな未来について考えています。仕事をしていると、gpt は何ですかと尋ねられます。そしてあなたは、「分かった、これは私のものだ」と言います。

サム：

私たちは常にこれらを代理店、個人化された代理店のように考えています。私はこれに何かをやらせようとしています。しかし、これについてあなたが言っているのは興味深いことです。そうではなく、他の人があなたとどのように交流するかということです。右。それはあなたの印象、あなたのアバター、あなたのエコーなどのようなものです。そこまで到達するのは目に見えていた。

トレバー：

なぜなら、私たちが私たちのすべてを組み合わせたものではないとしたら、私たちは何でしょうか?奇妙な考えですが、信じられます。私はいつも、それがどこへ行くのか、何ができるのかに魅了されてきました。

理由を知っていますか?最初の数週間で chatgpt が爆発したとき、人々がロボット革命にどれほど早く気づいたか、私はそれがロボットではないことはわかっていますが、人々にとっては、ロボット革命、機械が代替するものではない、という感じでした。彼らが考えたこと 置き換えられるジョブ。トラックの運転手などに取って代わられると人々は考えていました。しかし、いいえ、それらの仕事は実際には代替するのが難しいことがわかりました。実際、いわゆる「頭脳の仕事」に取って代わられているのは、ホワイトカラーの仕事のような仕事です。あなたは弁護士ですか？ chatgpt 5、6、7 があれば、何と呼ぶにせよ、それほど多くの弁護士は必要ないかもしれません。あなたはエンジニアですが、自分の居場所は何だろう...人間の体は本当に素晴らしいものです。

人間の体に代わる進歩はあると思いますか?それとも私たちはまだ霊的な領域にいるのでしょうか？

サム：

いいえ、最終的には人型ロボットが働くようになるのと同じように、最終的にはロボットも働くようになると思います。しかし、私たちは openai の初期段階でこれに取り組んでおり、ロボット工学プロジェクトがありました。これはわかりません。

私たちは、ルービック キューブを手のように操作できるロボット ハンドを構築したことを知っています。これには多くの柔軟性が必要です。さまざまな洞察が関係していると思いますが、その 1 つは、アトムの世界よりもビットの世界の方が進歩するのがはるかに簡単であるということです。

たとえば、このロボットは構築が困難ですが、その理由は間違っています。難しいのは、いくつかの難しい研究課題を進めるのに役立つことではなく、ロボットが壊れ続け、精度があまり高くなく、シミュレーターがひどいことです。言語モデルを使用すると、これらすべてを仮想環境で実行できるため、はるかに速く進歩できます。したがって、認知的側面に焦点を当てることで、より生産的な問題をより迅速に解決できるようになります。

しかし、それは非常に重要な側面でもあり、認知的課題を解決することの方がより重要な問題だと思います。たとえば、ロボットを構築する場合、認知タスクを実行するシステムの構築を支援する方法をロボットが必ずしも見つけられるわけではありません。しかし、認知タスクを実行するシステムを作成すれば、より優れたロボットの作り方を理解するのに役立ちます。

はい、それは理にかなっています。したがって、認知こそが私たちが焦点を当てたい中心的なものだと思います。これは正しい決断だと思います。でも、ロボット工学に戻れることを願っています。

トレバー：

汎用人工知能がいつ実現されるのか考えたことはありますか?どうやってそれを知ることができるのでしょうか？私個人にとっては？たとえば、タスクが達成されたと感じるのはいつですか?

サム：

なぜなら、誰もが一般的な人工知能について話しているからですが、私は、それが何であるかをどうやって知ることができるのでしょうか?それで、前の点に戻りますが、人はそれぞれ異なる定義を持っています。とても興奮したときに個人的に教えます。新しい物理学の発見に役立つシステムができたとき、私は本当に興奮します。しかし、これは一般的な知性をはるかに超えているように感じられます。ということのようですが、私が何を言いたいのかわかりますか？これは、ほとんどの人が定義すると思うものを超えています。

トレバー：

おそらくこれは、一般知能をどのように定義すればよいのかと時々疑問に思うからかもしれません。それを特定の分野における天才と定義するのでしょうか？それとも子供が汎用人工知能になるようなものでしょうか？それは確かです。しかし、プログラミングを続けなければなりません。そして、生まれたとき、彼らは話すことも歩くこともできず、何も知りません。そして、この agi を必要な場所に到達させるためにプログラミングを続けます。

つまり、たとえば、4 歳児のバージョンを持っているとします。

サム：

このように、親の助けがあれば自律的に動作し、4 歳児のように世界を理解できる、たった今思いついたシステムがあったとしたらどうでしょうか。はい、それを agi と呼ぶことができます。その普遍的な能力に実際に取り組むことができれば、新たな問題が生じたときにそれを自分で解決できるでしょう。 4歳児は必ずしも物事を完全に理解しているわけではありませんが、その頃には私たちは明らかにそれを理解していました。

トレバー：

考えること、考えることの本質を根本から理解せずにそこまでたどり着くことができるでしょうか？それは可能だと思われます。そこまで到達できると思いますか？大丈夫だと思います。あるいは、... に到達することもできます。

ai の分野で私のお気に入りのストーリーの 1 つは、マイクロソフトのプロジェクトです。彼らは男性と女性の顔を識別することを学習しようとするaiを持っており、それはある意味非常に正確で、約99.9％の精度です。しかし、黒人、特に黒人女性に関しては、常に男性と間違われ、その表現は不十分でした。研究者は常に改善しようと努めており、何が起こっているのかを常に考えています。

しばらくの間、私はこの話をしました。少し不正確かもしれませんが、興味深いと思いました。 aiをアフリカに「送った」時代があったのですが、それはケニアだったと思います。彼らはaiをアフリカに送り、ケニアの研究チームに、この問題を解決するためにしばらくaiを使ってもらえないかと伝えました。この ai がデータセットとアフリカ人の顔を使用して世界の裏側で実行されると、特に黒人女性の識別がますます正確になりました。

しかし最終的に、aiは男性と女性の顔の違いをまったく認識していないことが判明しました。メイクアップ間の相関関係を描画するだけです。その結果、aiは赤い唇、バラ色の頬、そしておそらく青いまぶたを持つ人が女性で、それ以外の人は男性であると判断しました。研究者たちは、「はい、その通りです」と言っています。いわゆる「チートコード」を見つけたんです。男性と女性の基準が何であるかを理解して、その基準によって区別されるようなものです。

そして彼らは、黒人女性は一般に化粧に関して十分なサービスを受けておらず、あまり化粧をしないため、システムがそれを認識していないだけであることに気づきました。しかし、システムがそれを知らないことは私たちにはわかりません。そこで私は、agi が何かを知っているか知らないかをどうやって知ることができるだろうかと考えました。それとも、それが何らかの方法で答えをだましているだけであることが判明するでしょうか?どうやって知ることができるのでしょうか？

この不確実性が私たちの生活の非常に多くの側面に絡み合っているとき、私たちの無知の代償は何でしょうか?わかりますか？

サム：

これらのシステムが何をしているのかについての理解はさらに進むだろうと私は信じています。現在、解釈可能性はある程度進歩しています。これはこれらのモデルが研究される領域であり、この研究を実行するにはさまざまな方法とさまざまなレベルがあります。システム内の各人工ニューロンが何を行っているかを理解しようとすることもできますし、システムが段階的に思考するのを観察して、どの段階が同意できないかを確認することもできます。もっと詳しく調べてみます。

これらのシステムが何を行っているかを理解し、できればそれらが特定の結論に達する理由を私たちに説明し、それを正確かつ堅牢に行う能力。これらのシステムがどのように機能するのかを理解するだけでなく、私たち自身の脳がどのように機能するのかを理解することも進歩すると思います。それで、最終的にはそれが理解できると思います。私も興味があります、そしてあなたもきっと興味があると思います。

私の意見では、これらのシステムをますます改善し、説明可能性の課題を解決するのに役立つことがわかっている方法の実装で、私たちはさらに進歩するでしょう。そして、これらのシステムがより賢くなるにつれて、騙されることは少なくなると思います。したがって、より複雑なシステムでは、そのような表面的な区別ができず、より深いレベルで学習する可能性があります。私たちはそれが起こっている証拠をいくつか見ていると思います。

トレバー：

簡単にだまされないというあなたの言葉を聞いて、私は 2 つのことを考えさせられました。 1 つは安全性の面、もう 1 つは精度の面です。メディアはそれについて話しました。 aiは幻覚を見ている、私を殺すつもりだった、と彼らは言ったのを覚えていますか。私が特に興味深いと思うのは、人々が大規模な言語モデルを説明するのに「思考」という言葉を使いたがることです。ジャーナリストは報道する前に、何が行われているかを理解するよう努めるべきだと私は常々思っているからです。しかし、「考える」という言葉を多用すると、かえって国民に誤解を与えてしまいます。私はそれに共感します。

サム：

馴染みのある用語を使用し、擬人化する必要があります。しかし、これは誤解を招くということに私も同意します。

トレバー：

考えているとあなたが言うから、そうすれば人々は考えるでしょう、それは私を殺すことを考えているのですか？それはそうではありません、それは考えているのではなく、この魔法のトランスフォーマーを使って、どの単語が互いに適合する可能性が最も高いかを判断しているだけです。

サム：何をしていると思いますか？

トレバー：

私は何をしているのでしょうか？これは興味深い質問です。それが私が言っていることであり、私たちが一緒に考えたアイデアです。

「幻覚」について話します。前半から始めましょう。 aiが幻覚を起こさないようにするという目標は達成できると思いますか?

サム：

私が思うに、より良い質問は、人間が幻覚を見ない頻度と同じ頻度で、望まないときに ai が幻覚を見ないようにすることができるか、ということだと思います。これに対する私の答えは「はい」です。しかし実際には、人々がこれらのシステムで気に入っている点の 1 つは、新しいことを実行できることです。そうなれば…そうです、幻覚は機能であると同時にバグでもあります。

トレバー：

それが私がちょうど尋ねていたことです。幻覚は知的存在の一部ではないでしょうか?

サム：

完全に。

たとえば、ai 研究者の仕事のやり方を考えてみると、彼らは大量のデータを調べ、いくつかのアイデアを思いつき、たくさんの本を読んで、おそらくこれか、あれかを考え始めます。たぶんこの実験を試してみるべきかもしれません。これでデータが手に入りました。つまり、それはうまくいきません。今、私はこの新しいアイデアを思いつきます。

新しい仮説や新しい説明を考え出すこの人間の能力はこれまで存在したことがなく、それらのほとんどは間違っていますが、どれが理にかなっているかを判断するプロセスとフィードバックループがあり、最終的には理にかなっています。これは人類の進歩の重要な要素の 1 つです。

トレバー：

人工知能によるガベージ入力とガベージ出力を防ぐにはどうすればよいでしょうか?現在、人工知能は人間が何らかの方法で作成した情報を基に動作します。それは、学習可能だと思われる教材から学習することです。現在、open ai、anthropic、lambda などの新しいものが次々と登場しており、人間よりも ai によって生成される情報の方が多く、その情報が十分な精査を受けられない世界が到来しているのではないかと感じています。

では、検閲されない方法で ai が自ら学習すると、ai はより優れたものになるのでしょうか?言ってることわかりますか？

サム：

完全に理解しました。

この問題をどうやって解決すればよいでしょうか?これは、さまざまな状況でどのように行動するかを知るという問題に戻ります。たとえば、創作過程ではファンタジーが必要ですが、出来事の正確な事実を報告しようとするときにはそのファンタジーは望ましくありません。そして今、これらのシステムは、重要な意味で美しい新しい画像、ある意味ファンタジーではあるが、良いファンタジーの画像を生成できるようになりました。しかし、繰り返しになりますが、システムに事実のみを提供させたい場合にはかなり改善されましたが、その点に関してはまだ長い道のりがあります。

それは問題ではありません。これらのシステムがどのデータが良くてどのデータが悪いかを学習するプロセスがある限り、これらのシステムが独自に生成されたデータでトレーニングされているのは良いことだと思います。繰り返しますが、「幻覚」はこのプロセスの説明としては不十分です。なぜなら、それが新しい科学的アイデアを生み出した場合、これらのアイデアは最初は「幻覚」とみなされる可能性があるからです。これは貴重です。

でも、何が良くて何が悪いのかはわかります。そして、これらのものがどこに行くのかについて私たち全員が集団的に制御できるようにするには、人間による十分な監視が必要です。しかし、これらの制約の中で、生成されたデータを使用してシステムがトレーニングされ、将来のシステムでも同様のことが行われるのは非常に良いことだと思います。

それから、あなたは私が考えていた別のことを思い出させてくれました。計算方法はよくわかりませんが、たとえば、gpt-5 または 6 のようなシステムがある時点で、人間の歴史すべてを合わせた言葉よりも多い。これは大きなマイルストーンのように感じます。

実のところ、今それを言うのは問題ではないかもしれません。

トレバー：

どのような方法で生成されたのでしょうか？

サム：

たとえば、このモデルは 1 年間に全人類よりも多くの単語を生成します。世界には 80 億人、あるいはそれが何であろうとも人間がいます。年間に話された平均単語数を計算できます。

しかし問題は、これが私たちをどこに導くのかということです。だから言ったらびっくりしたんです。どういうわけか、これは私にとって重要なマイルストーンのように思えますが、具体的な理由は思いつきません。

トレバー：

おそらく人間は、常に文字を入力する猿のようなものかもしれません。したがって、検討してみる価値はあると思います。

サム：

しかし、私は「考える」という言葉を使いません。なぜなら、あなたは正しいし、この言葉を使うべきではないと思うからです。おそらく、ai によって生成された単語の数と、すべての人間によって生成された単語の数と言えるでしょう。

トレバー：

もうすぐ終わります。そこで、いくつか質問したいのですが、質問しないと殺されてしまいます。

主な質問の 1 つは、これは私の個人的な質問ですが、私たちは常に ai がデータから学習し、データはデータセットに入力されるということについて話しています。それが私たちが話していることです。だからこそ、コンピューターが学習できるように、数十億ドルのスーパーコンピューターが必要なのです。

明らかに欠陥のあるデータを与える人よりも優れた思考を ai に教えるにはどうすればよいでしょうか?たとえば、ai は与えられた限られたデータを超えてどのように学習するのでしょうか?人種、経済的地位、認識に関して言えば、私たちには限界があるので、与えられた限られたデータに制限されないようにするにはどうすればよいでしょうか?

サム：

まだわかりませんが、人間のデータをどのように上回るかということが、私たちの前にある最大の研究方向の 1 つです。 1年後にまたこの質疑応答をやれば答えが言えると思いますが、まだ分かりません。それが本当に重要なことだと私たちは知りませんでした。

しかし、私はこれが世界中の不正義との戦いにおいて重要な力になると信じています。これらのシステムに全人類が共有するような深刻な欠陥があるとは思いません。彼らは、人種差別、性差別、偏見を大幅に軽減することができるでしょう。彼らは世界の経済的正義を実現する力となるでしょう。

優れた ai メンターや優れた ai メディカルアドバイザーを提供すれば、すべての人々を元気づけるのに役立つとしても、世界の最も裕福な半分よりも最も貧しい半分を助けることになると思います。

したがって、あなたが提起した科学的な疑問に対する明確な答えはありませんが、現時点では、これらのシステムは確かに可能であると信じています、そしてそれらを現実にするために私たちはいくつかのハードな社会的取り組みを行う必要がありますが、それらは地球は世界の正義を促進します。

トレバー：

おそらくそれは 2 番目の質問、つまり何をしているのかという質問に完全につながります。 openaiは何をしているのでしょうか?この新しいテクノロジーによって再び生み出されている貧富の差を緩和するための方策を検討していますか?

新しいテクノロジーの出現は社会全体にとって驚くべきものですが、それを持っていればすべてが手に入るという瞬間が生まれることは否定できません。そうしないとアウトです。

サム：

時間が経てばもっと分かると思いますが、現時点では、私たちが行っている本当に重要なことの 1 つは、真に無料のサービスを提供することだと考えています。これは、広告サポートがなく、毎週 1 億人以上が利用する無料サービスだけを意味します。一部の国ではまだブロックされている、またはブロックされているため、誰とは言えませんが、私たちはできる限りどこでも誰でもアクセスできる、本当に高品質で使いやすいサービスを作成しようとしています。私たち一人ひとりにとって重要な無料の人工知能。

このテクノロジーを使ってやりたいことは他にもあると思います。たとえば、人工知能を使用して病気の治療を支援し、その治療法を世界中で利用できるようにすることができれば、それは明らかに有益ですが、このツールをできるだけ多くの人々の手に渡し、彼らが未来を築くために使用できるようにすることは困難です。とても重要です。そして、これをさらに推進できると思います。

トレバー: あと 2 つ質問があります。

サム：もう一つ付け加えてもいいですか？

トレバー: 時間はすべてあなたのものです。

サム：

私が重要だと思うもう一つのことは、これらのシステムが言うこと、言ってはいけないこと、行うこと、行わないことを決定する権限を誰が持っているのか、誰がそれらの制限を設定しているのかということです。現時点では、基本的に openai の従業員が意思決定を行っており、それが世界の公正な代表であるとは誰も言えません。したがって、このテクノロジーを民主化する方法を見つけるだけでなく、このテクノロジーのガバナンスを民主化する方法を見つけることも、来年の私たちにとって大きな課題となります。

トレバー：

これは、私が質問しようとしていたこと、つまりこれらすべてのセキュリティの側面に直接関係します。会話の初めにこのことについて話しました。世界を変える何かをデザインするときは、それが世界を最悪の方向に、あるいは最悪の方向に変える可能性があるという事実を認識しなければなりません。テクノロジーが進歩するたびに、より大きな被害を引き起こす能力も向上します。

aiを完全に安全にすることは可能でしょうか? 2 番目の部分は、悪夢のようなシナリオは何ですか? openai とすべての ai をシャットダウンするために赤いボタンを押す理由は何でしょうか?行ってみればわかりますが、もしこれが起こったら、もしこれが起こり得るなら、私たちはすべてを閉鎖しなければなりません。何を恐れていますか?

最初の質問は、それを安全に保管できるかどうかです。後半は、一番怖かったシーンは何ですか？

サム：

まず第一に、あなたがおっしゃった、壊滅的な危害を引き起こす可能性のある人々の数が十年ごとに減少しているという洞察は、私たちが社会として直面しなければならない重大な事実だと思います。

第二に、システムを安全にする方法については、どちらか一方の問題ではないと思います。私たちが飛行機は安全だと言うのと同じように、非常にまれではありますが、飛行機は依然として墜落することがあります。私たちは薬物は安全だと言いますが、fda は依然として、人によっては死に至る可能性のある薬物を認定することがあります。したがって、安全性は一方的に決まるのではなく、社会がリスクと利益を天秤にかけた上で、どれだけ安全かを判断するのです。それはできると思いますが、それは物事が本当にうまくいかないという意味ではありません。

人工知能に関しては、私たちが警戒しなければならない大きな問題が起こると思います。実際、社会には、どの安全閾値を設定すべきかを集合的に決定するための、乱雑ではあるものの、非常に優れたプロセスがあると思います。これは多くの利害関係者が関与する複雑な交渉であり、社会として私たちは時間の経過とともにこの交渉をより上手に進めています。しかし、私たちはあなたが言及したような壊滅的なリスクから身を守らなければなりません。

核エネルギーはその一例であり、核戦争は世界に非常に大きな影響を与えました。世界はそれを異なった方法で扱い、過去ほぼ80年にわたって非常に素晴らしい仕事をしてきました。同様の状況が人工知能でも起こると思います。よく話題になる例の 1 つは、人工知能を使用して、大きな問題を引き起こす可能性のある合成病原体を設計および作成することです。もう 1 つの頻繁に議論されるトピックは、コンピューター セキュリティと、人間の能力を超えてハッキングできる人工知能の問題です。

さらに、モデルが十分に強力であれば、サーバーから重みを転送し、多数のコピーを作成し、その動作を変更するメソッドの設計に役立つという新しい状況が発生しています。これは、より sf のシナリオに似ています。しかし、世界全体として、この問題を正面から見る必要があると思います。おそらくその特定のケースではないかもしれませんが、壊滅的な、さらには潜在的に存続に関わるリスクが存在し、それを正確に定義できないからといって、それを無視できるわけではないという考えです。

そのため、私たちはここで、これらの問題が何であるか、いつ発生するか、そしてどのようにして早期に検出できるかを予測および測定するために多くの作業を行っています。この問題については語るべきではなく、誤った情報や偏見、そして今日の問題についてだけ話すべきだという人はすべて間違っていると思います。私たちは両方について話し合い、あらゆる段階で安全を確保する必要があります。

トレバー：

そうですね、想像していた通り怖かったです。それで、ところで、本当に知事に立候補することを考えていますか？それは本当ですか？

サム：

いいえ、いいえ。私は 2017 年か 2016 年、あるいはそれに近い年に、このことについてごく簡単に考えました。私もそう思います。

これは私が数週間前から楽しみのために考えていた漠然としたアイデアのように思えます。

トレバー：

わかりました

最後の質問は、次は何ですか、ということだと思います。あなたの夢は何ですか？サム・アルトマンが魔法の杖を振って、人工知能を思いどおりに作ることができたら、それは未来に何をもたらすと思いますか?利点は何ですか?みんなにとってのメリットは何でしょうか？そしてあらゆるレベルで、それは本当に素晴らしい、ポジティブなことのようです。

サム：

ご質問いただきありがとうございます。常に前向きな気持ちで終わるべきだと思います。

はい。私たちは人類史上最も豊饒の時代を迎えていると思います。主な推進力は人工知能とエネルギーの 2 つだと思いますが、他の要因もあるでしょう。これら 2 つのこと、あらゆるアイデアを思いつく能力、それらのアイデアを実装して大規模に実行する能力、人々が持つことができるものの限界は、彼らが想像できるものと、社会として私たちが交渉するものに似ています。何か。これは素晴らしいことになると思います。

私たちはちょうど、すべての学生が今日の最も裕福で最もリソースに恵まれた学生よりも優れた教育経験を得ることができるとしたら、それは何を意味するでしょうか、ということについて話していました。もし私たち全員が、今日最も裕福な人々が利用できる最高の医療よりも優れた医療を受けられるとしたら、それは何を意味するでしょうか?たとえそれが新しい職種に移らなければならないとしても、人々が一般的に自由になって、個人的に最もやりがいを感じる仕事をできるとしたら、それは何を意味するのでしょうか?誰もが好きな仕事に就くことができ、大企業やチームと同じリソースを手に入れることができたらどうなるでしょうか?

つまり、おそらく openai に 800 人の従業員を置く代わりに、これらすべてのことを実行できる 800 個のよりスマートな ai システムを全員が手に入れ、人々はこれらすべてのものを作成し、作成するだけです。これは本当に注目すべきことだと思います。これが私たちが目指している世界だと思います。これを実現するには、テクノロジーとは別に多くの作業が必要になります。たとえば、社会が何らかの変化を起こす必要があるでしょう。しかし、私たちがこの豊かな時代に突入しているという事実は、私にとって非常に喜ばしいことです。

トレバー：

ここで言うのはそれだけです。私は openai の潜在的な利点の大ファンです。私は南アフリカで教育の仕事をしています。私の夢は、すべての子供たちに最高の家庭教師を提供することです。言ってることわかりますか？文字通り、子供たちは自分のペースで学ぶことができるため、取り残されることはありません。

サム：

ところで、chatgpt を使って学習している子供たちはどうなっているのでしょうか?これらの話は、私が毎日メールで受け取る話に似ています。これはすごいですね。

トレバー：

確かに。これは本当にすごいことです。特にビデオを追加するなど、学習がよりマルチモーダルになると、その効果は驚くべきものになります。

あなたが言うように、私は医療に憧れています。私はそれすべてを夢見ています。私たちが十分に話し合っていないと思う実存的な問題の 1 つは、ai がこれらすべてを効果的に置き換えた後、人間の目的をどのように再定義するかということです。なぜなら、好むと好まざるにかかわらず、歴史を通して、私たちの目標が私たちの進歩を定義することがよくあることがわかるからです。

私たちの目標はかつては宗教だけでした。良くも悪くも、よく考えてみると、宗教は人々に自分自身を超えた特定の方向に考えさせ、行動させるのに非常に優れています。彼らは言います、「これが私の目的です。あなたがどの神を思い浮かべても、私は神に仕えるために目覚めています。」私は神に仕えるために目覚めます。私は神を喜ばせるために目覚めます。それは人間に目標に向かって進んでいるという感覚を与えるだけでなく、コミュニティや帰属意識も与えるのだと思います。

aiがこれを排除する世界に移行する中、どれだけ多くの人が自分のアイデンティティ全体を、自分が誰であるかではなく自分の行動に結び付けていることを忘れないでほしいと思います。これらの役割を置き換えると、事務員、秘書、交換手、アシスタント、工場労働者がいなくなると、歴史上何度も見てきたようなことが起こります。どこからともなく急進主義が現れたかのように、大規模な反対がありました。このことについて考えたことはありますか?そうなる前に阻止する方法はあるのでしょうか？

サム：

私たちの現在の目標をどのように説明しますか?

トレバー：

私は今、私たちの目的は生き残ることであり、生き残るためには何らかの形で収入を生み出すことと結びついていると思います。なぜなら、それがサバイバルが機能する方法であり、生き残るためにはお金を稼がなければならないと私たちが教えられているからです。しかし、ある時期にはこの状況が変化することがわかりました。フランスには素晴らしい例があります。彼らはアーティスト基金を持っていました（そして、そのバージョンはまだあると思います）。そこでは、私たちはアーティストとしてあなたにお金を払います、そしてあなたはフランスをより美しく見せるために創作するだけです、と言うのです。とても美しいですね。

あなたがubiのファンであることは知っています。そうだ、君がそれについて話す前に私たちは立ち去るべきではない。

サム：

私は、人々の生存が労働意欲や労働能力と結びつけられるべきではないと思います。それは人間の可能性を無駄にしているような気がします。はい、私も全く同感です。

トレバー：

待って、行く前にこれだけ聞いてみましょう。これが、ユニバーサルベーシックインカムが非常に重要だと思う理由ですか?自分が信じていないことに時間とお金を浪費したくないので、普遍的なベーシックインカムに多くの時間とお金を費やします。私が最後に見たのは、あなたが約 4,000 万ドルのプロジェクトに参加していたことです。実際には6000万ドルでした。

サム：

ユニバーサルベーシックインカムは確かに私たちの目の前にある課題に対する包括的な解決策ではないと思いますが、貧困を根絶することは間違いなく良いことだと思います。資源のより良い再分配は、すべての人にとってより良い社会につながると思います。しかし、重要なのは送金ではなく、ツールの提供やガバナンスの提供のほうが重要だと思います。人々は未来の建築家になりたいと思っていますが、人類には意味や使命のようなものが脈々と続いていると言えると思います。

個人の観点から見ると、それは間違いなく生き残り、繁栄することですが、全体として、私たちは未来をより良くするという集団的な緊急性を持っています。話が脱線しがちですが、人間の物語は、未来をより良くすることです。それがテクノロジーであり、それがガバナンスであり、それが私たちのお互いの扱い方です。それは星を探検するようなもので、それが何であれ、宇宙を理解する方法です。私は大きな自信を持っており、この自信は私たちの心の奥底にあります。私たちがどのようなツールを手に入れても、種として、個人として繁栄するという人類の根本的な欲求、使命は決して消えることはありません。

ですから、私は今から 2 世代後の世界について楽観的な気持ちでいっぱいです。しかし、これはあなたが言及した非常に重要な点です。すでに自分のキャリアに就いて実際に非常に満足している人々は、変わりたくないということです。変化が来ています。これまでのテクノロジー革命で私たちが見てきたことの 1 つは、約 2 世代以内に、社会と人々が仕事のあらゆる程度の変化に適応できるように見えるということです。しかし、10年後も、もちろん5年後もそうではありません。

私たちはこれからこの問題に直面することになるのですが、先ほども言ったように、それは人々が考えているよりも遅いとはある程度は思いますが、それでも社会が過去に対処しなければならなかったよりは速いと思います。それが何を意味するのか、そしてそれにどう適応していくのか、確かに少し怖いです。私たちはこれに対処する必要があり、解決策が見つかると思います。きっと解決できると思います。

また、子供たちや孫たちに、私たちが持っているよりも優れたツールを与えれば、彼らは私たちを驚かせるようなことをしてくれると信じています。私たち全員にとって人生がどれほどひどいものであるかを彼らが本当に悲しんでいることを願っています。未来が素晴らしいものになることを願っています。この人間の精神と欲望は、自らを探求し表現し、より良い世界、さらにはこの世界を超えた世界をデザインすることを好みます。それは素晴らしいことだと思いますし、本当に嬉しいです。

ある意味、この小さなことをあまり真剣に受け止めるべきではありません。スター・ウォーズに「自分が作ったテクノロジーの恐怖にあまり感心するな」という悪役がいたが、それはダース・ベイダーだったと思う。これが意味するのは、このテクノロジーの恐怖はフォースの力には太刀打ちできないということです。

重要な意味で、私は人工知能についても同様に感じています。これにはあまり驚かないでください。たとえば、人間の精神は困難な時代を乗り越えるのに役立ちますが、それはどんな技術革命よりもはるかに偉大です。

トレバー：

これは希望に満ちた美しいメッセージです。

私はこのテクノロジーが大好きなので、あなたが正しいことを願っています。

タイム誌の年間最優秀最高経営責任者（ceo）および年間最優秀人物の一人であるサム・アルトマンとして、私があなたに言いたいのは、特にこの役割においては、あなたが今後もそのようであり続けると思います。 openai と人工知能自体が私たちに大きな影響を与えようとしているため、多くの人を同じような立場に置くテクノロジーを開発しているあなたには、自分が解雇されたときの気持ちを思い出し続けてほしいと思います。私はあなたの中にその人間性を感じます、そしてあなたが創作する際には常にそれを考慮に入れてほしいと思います。

サム：

土曜日の早朝、眠れなかったときに私が何をしたか知っていますか？このことから学べることを書き留めました。そうすれば、他の人が同じような状況に陥り、私が今取締役会を非難しているように私を責めたときに、より良い対応ができるようになります。

トレバー: 分かりましたか?

サム：

役立つ単発レッスンがたくさんあります。しかし、この経験全体から得た共感と自分の価値観の再調整は、痛いほどの費用がかかりましたが、間違いなく形を変えた祝福でした。そういう意味ではこの経験ができてよかったです。

トレバー：

さて、サム、お時間をいただきありがとうございます。本当にありがとう、すべてを本当に楽しんでいます。 1 年以内に新たな展開についてお話しできればと思っています。

サム：

これは絶対にやったほうがいいよ、楽しいよ。

トレバー：

やりますよ、兄弟。素晴らしい。ありがとう。