ニュース

”

9月5日、ロイター通信によると、safe superintelligence（ssi）は、openaiの元主任科学者であるilya sutskever氏によって設立された。10億ドルの現金を調達。事情に詳しい関係者が明らかにした。資金調達後の同社の評価額は50億米ドルに達した。同社は、この資金をコンピューティング能力の購入と優秀な人材の雇用に使用して、人間の能力をはるかに超える安全な人工知能システムの開発を支援する予定です。 ssi当局者もこのニュースが正確であることを認めた。

ssi は 2024 年 6 月に設立されました。創設チームは、ilya sutskever、daniel levy、daniel gross で構成されています。現在、ilya sutskever が主任科学者、daniel levy が主任科学者、daniel gross が ceo を務め、コンピューティング能力と資金調達を担当しています。 ssi には現在 10 人の従業員がおり、従来の営利組織の下で運営されています。

ssi がまだ製品をリリースしていないにもかかわらず、設立 4 か月足らずで高額の資金調達と高い評価を得ることができたのは、まさにこの 3 人の強力な業界出身のおかげです。投資家は、ai の基礎研究に重点を置いた優れた人材に大規模な賭けをすることに意欲的です。

イリヤ・サツケヴァーは、人工知能の分野で最も影響力のある技術専門家の一人で、「人工知能のゴッドファーザー」として知られるジェフリー・ヒントンに師事し、拡張仮説の初期の提唱者でした。この仮説は、ai のパフォーマンスは大量のコンピューティング能力の増加に伴って向上し、これが生成型 ai の爆発的な普及の基礎でもあると考えています。

daniel gross 氏は apple の ai テクノロジー責任者であり、y combinator の元パートナーであり、daniel levy 氏は openai の元従業員です。

当面、ssiはカリフォルニア州パロアルトとイスラエルのテルアビブを拠点とする研究者とエンジニアの小規模チームの構築に注力する。

投資家には、トップベンチャーキャピタルのアンドリーセン・ホロヴィッツ、セコイア・キャピタル、dst global、sv angelなどが名を連ねています。ナット・フリードマン氏とssiのダニエル・グロスceoが運営する投資パートナーシップであるnfdgも関与している。

グロス氏はインタビューで次のように述べた。「特に安全なスーパーインテリジェンスに直接移行するという私たちの使命を理解し、尊重し、支援してくれる投資家がいることが私たちにとって重要です」製品を市場に出す前に研究開発に数年を費やします。”

ssi の資金調達情報が発表された後、ロイターはすぐに ilya sutskever 氏と詳細な意見交換を行い、ssi がオープンソースであるかどうかとその将来の開発についての一連の質問にも答えました。インタビューからも超agiの安全性を重視していることが分かる。

以下は、原文に影響を与えることなく、silicon rabbit によって編集されたものです。お楽しみください。

イリヤ: 「私たちは、これまで取り組んできたこととは少し違う山を見つけました...この山の頂上に登ると、パラダイムが変わります...人工知能について私たちが知っていることはまた変わります。つまり、最も重要なことは、スーパースマート セキュリティが重要になるということです。」

「私たちの最初の製品は超知能セキュリティに関するものになります。」

02

イリヤ: 「問題は安全なのかということだと思います。世界最大級の航空会社の 1 つです」親切にしてくださいの力？そうなると世界は大きく変わってしまうので、明確な計画を立てるのは難しいと思います。

言えることは、世界は大きく変わっていくということです。 ai で起こっていることに対する世界の見方は大きく変わり、理解するのが難しくなるでしょう。より激しい会話になります。それは私たち自身が下す決定だけに依存するものではないかもしれません。 」

03

イリヤ: 「あなたの質問に完全に答えることができるようにするには、いくつかの重要な調査を行う必要があります。特にあなたが私たちと同じように考えるなら、状況は大きく変わるでしょう...多くの素晴らしいアイデアが目覚めています。

多くの人が考えているのは、ai がより強力になるにつれて、どのような手順を実行し、どのようなテストを実施する必要があるのでしょうか?これは少し難しいです。やるべき研究はまだたくさんあります。今のところ明確な答えがあるとは言いたくありません。しかし、それは私たちが理解しなければならないことの一つです。 」

イリヤ: 「誰もが『拡張仮説』と言うだけです。誰もが質問を無視します」正確に何をスケーリングするのでしょうか?過去 10 年間の深層学習における大きな進歩は、拡張された仮説の特別な定式化に基づいていました。しかし、それは変わります...そして変化するにつれて、システムの機能も向上します。セキュリティの問題は今後さらに深刻になるため、私たちはそれに対処する必要があります。 」

イリヤ："現在のところ、すべての ai 企業が自社の作業をオープンソース化するわけではありません、私たちもそうです。しかし、特定の要因により、（私たちには）スーパーインテリジェンスセキュリティ関連の作業をオープンソース化する機会が多くなると思います。すべてではないかもしれませんが、確かに一部です。 」

イリヤ: 「私は実際、この業界を非常に高く評価しています。人々が前進するにつれて、直面する課題の性質に応じて、さまざまな企業がすべて、おそらくわずかに異なるタイミングでそれに気づくことになると思います。ですから、私たちはそうするつもりはありません」誰にもできるとは思えませんが、貢献できると思います。」

イリヤ: 「長時間労働ができる人もいますが、すぐに元の状態に戻ります。それは私たちのスタイルにはあま​​り当てはまりません。でも、それが得意であれば、何か違うことをするなら、あなたは（私たちと一緒に）何か特別なことをする可能性があります。 」

「私たちが興奮するのは、この従業員がトレンドや誇大広告のコンテンツには興味がなく、私たちの仕事に興味を持っているとわかったときです。」

「私たちは、資格やその分野での経験を過度に強調するのではなく、候補者を『優れた人格』で精査し、並外れた能力を持つ人材を探すことに時間を費やします。」

イリヤ：「openaiとは異なる方法でスケールしていきます。」

同社はクラウドプロバイダーやチップ企業と提携してコンピューティングパワーの需要に資金を提供する計画だが、どの企業と提携するかはまだ決めていない。

参考リンク:

イリヤ・スツケヴェル氏が語るaiがどう変わるかと、彼の新しいスタートアップ企業セーフ・スーパーインテリジェンス（ロイター）