魚と羊はアオフェイ寺院から来ています

パブリックアカウント qbitai

同社の従業員はわずか 10 名で、シードラウンドで資金調達を行っています。10億米ドル。

このような驚くべきことは起こり得ますイリヤ・スツケヴェルボディに関しては、やや「普通」に見えます。

イリヤ、ビッグモデルが世界を席巻している現在、彼の貢献は多大な影響を及ぼしていると認められています世界を変えるレベル：

彼は、alexnet の 3 人の著者のうちの 1 人であり、指導者であるヒントンとともに google に引き抜かれた後、世界に衝撃を与えた alphago プロジェクトに深く関与しました。

2015 年に openai の設立に参加し、チーフサイエンティストを務めました。 chatgpt は再び世界を変え、彼はその背後にいる最も重要な人物の 1 人と考えられています。

昨年 11 月以来、イリヤの一挙一動が最前線に押し出され、世界のテクノロジー界の注目を集めました。

同氏が始めたopenai取締役会の内紛により、大型モデルの開発ルートをめぐる争いが明らかになり、今年5月に同氏がopenaiと完全に決別した後、誰もが彼の次の起業家としての動きを待っている。

今は、埃が溜まってきています。いつも控えめなイリヤ自身も、彼の会社 ssi と、現時点での agi に関する彼自身の考えについて、より多くの情報を共有しました。

ロイターとのやりとりの中で、イリヤ氏は6つの重要な質問に答えた。以下が原文です。

ssiはなぜ作られたのでしょうか？

前作とはちょっと違う「大きな山」を発見してしまいました…。この山の頂上に到達すると、パラダイムが変わります…人工知能について私たちが知っているすべてが再び変わろうとしています。

その時点で、超インテリジェントなセキュリティへの取り組みが重要になります。

私たちの最初の製品はセキュアスーパーインテリジェンスになります。

超知能の前に、人間と同等の知能を持つaiが登場するのでしょうか？

重要なのは「安全かどうか」だと思います。それは世界に善をもたらす力なのでしょうか？そうすれば世界は大きく変わると思います。したがって、現時点で「何をするか」という明確な計画を示すことは非常に困難です。

私に言えるのは、世界は大きく変わっていくだろうということです。 ai で何が起こっているかに対する外部の世界の認識は劇的に変化し、理解することが難しくなります。これはより激しい会話になります。それは私たちの決断だけによるものではないかもしれません。

ssi は安全な人工知能をどのように判断するのでしょうか?

この質問に答えるには、いくつかの重要な研究を行う必要があります。特にあなたが私たちと同じで、物事が大きく変わろうとしていると考えている場合は特に... 素晴らしいアイデアがたくさん発見されています。

ai がより強力になるにつれて、ai に対してどのようなテストを行う必要があるかを考えている人は多いでしょうか。それは少し難しく、多くの研究が必要です。

今のところ明確な答えがあるとは言いたくありません。しかし、それは私たちが理解しなければならないことの一つです。

規模の想定とaiの安全性について

誰もが「スケーリング仮説」について話していますが、誰もが 1 つの質問を無視しています。「何をスケーリングしているのか?」

過去 10 年間の深層学習における大きな進歩は、規模の仮定を具体的に定式化したことでした。しかし、それは変わります...そして変化するにつれてシステムの機能が向上し、セキュリティの問題が最も差し迫ったものになるでしょう、そしてそれが私たちが対処する必要があるものです。

ssi はオープンソースになりますか?

現在、すべての ai 企業が主要な業務をオープンソース化しているわけではなく、当社も同様です。しかし、特定の要因によっては、スーパーインテリジェント セキュリティの取り組みをオープンソース化する機会がたくさんあると思います。すべてではないかもしれませんが、確かに一部です。

他の ai 企業のセキュリティ研究への取り組みについての考え

実際、私はこの業界に対して非常に高い評価を持っています。人々が進歩し続けるにつれて、おそらくさまざまな時点で、すべての企業が直面する課題の性質に気づくことになると思います。したがって、私たちは他の誰もそれができないと考えているのではなく、私たちが貢献できると考えているのです。

10億ドルは何に使われるのでしょうか？

最後に、イリヤの言葉以外の背景情報を追加します。

ssi のニュースは今年 6 月に初めて発表されました。その目標は、ilya が openai で果たせなかったことを実行することです。つまり、安全なスーパー インテリジェンスを構築することです。

現在、ssiの従業員はわずか10名だが、資金調達後はその資金をコンピューティングパワーの購入と優秀な人材の雇用に充てることを計画している――。

自分たちの考えに同意し、ai がいつか人間の知性を超えるだろうと心の準備ができている人たち。

共同創設者のダニエル・グロス氏も、資格や経験にはあまり注意を払わないが、候補者が「良い人格」を持っているかどうかを何時間もかけて審査すると明らかにした。

コンピューティング能力の面で、ssiはクラウドメーカーやチップ企業と協力する予定だが、どの企業とどのように協力するかはまだ明らかになっていない。

ssi の共同創設者には、イリヤ本人に加えて、ダニエル グロス氏とダニエル レヴィ氏が含まれています。

△左：ダニエル・グロス、右：ダニエル・レヴィ

daniel gross はハーバード大学のコンピューター サイエンス学部を卒業し、以前は y combinator のパートナーの 1 人であり、citrus lane、writelatex (後に overleaf に改名) などの多くの企業を設立または設立に参加しました。

彼はタイム 100 誌によって「人工知能で最も影響力のある人物」の 1 人に挙げられました。

daniel levy はスタンフォード大学コンピュータ サイエンス学部を卒業し、以前は openai 最適化チームの責任者を務めていました。