ニュース

画像出典: スタンフォード大学

汎用人工知能 (agi) について混乱していますか?これは、openai が最終的に「全人類に利益をもたらす」方法を生み出すことに執着しているものです。彼らはその目標に近づくために66億ドルを調達したばかりなので、真剣に受け止めたほうがよいかもしれません。

しかし、agi とは一体何なのかまだ疑問に思っているのは、あなただけではありません。

木曜日に開催された credo ai 責任ある人工知能リーダーシップ サミットで、「人工知能のゴッドマザー」と呼ばれることが多い世界的に有名な研究者であるリー・フェイフェイ氏も、agi が何なのかは知らなかったと述べた。他の場面では、フェイフェイ・リーは、現代の人工知能の誕生における自身の役割、高度なaiモデルから社会がどのように身を守るべきか、そして彼女の新しいユニコーンスタートアップであるworld labsがすべてを変えると考える理由について語った。

しかし、「ai 特異点」についてどう思うかと尋ねられると、リーさんは私たちと同じように困惑した。

「私は人工知能の学会出身で、より厳格で証拠に基づいたアプローチで教育を受けてきたので、その言葉が何を意味するのかよく分かりませんでした」とリーさんはサンフランシスコの満員の部屋、ゴールデンゲートを見下ろすドアの隣で語った。橋の大きな窓。「正直に言うと、agi が何を意味するのかすら知りません。見ればわかると言われますが、私は見たことがないと思います。実際、私は言葉について考えることにあまり時間を費やしません。まだまだやるべき大事なことはたくさんあると思います…」

agi が何なのかを知っている人がいるとすれば、それはおそらく li feifei でしょう。 2006 年に、彼女は世界初の大規模 ai トレーニングおよびベンチマーク データセットである imagenet を作成しました。これは、現在の ai ブームを促進する上で重要でした。 2017 年から 2018 年まで、彼女は google cloud で ai/ml の主任科学者を務めました。現在、フェイフェイ・リー氏はスタンフォード大学ai研究所ヒューマンセンター（hai）を率いており、彼女のスタートアップであるworld labsは「大規模な世界モデル」を構築している。 (私に言わせれば、この用語は agi と同じくらいわかりにくいです。)

openai ceo の altman 氏は、昨年 the new yorker とのインタビューで agi を定義しようとしました。アルトマン氏は、agi を「雇用できる同僚に相当する中級レベルの人間」であると説明します。（同僚として雇用できる人間の中央値に相当します。）

一方、openai の憲章では、agi を「最も経済的に価値のある作業において人間を上回るパフォーマンスを発揮する高度に自律的なシステム」と定義しています。

明らかに、これらの定義は 1,570 億ドルの企業にとって十分ではありません。したがって、openai は、agi への進捗状況を内部評価するために 5 つのレベルを作成しました。最初のレベルはチャットボット (chatgpt など)、次に推論者 (どうやら openai o1 がこのレベルです)、エージェント (おそらく次)、イノベーター (物事の発明を支援できる ai)、そして最後のレベルは組織レベル (ai組織全体の仕事を完了することができます）。

まだ混乱していますか?私もそうだし、リーもそうだ。さらに、それは平均的な人間の同僚ができることをはるかに超えているように思えます。

リーは会話の中で、子供の頃から知能の概念に興味を持っていたと述べました。このため、彼女は利益が出る前に人工知能の研究を始めることになりました。 2000年代初頭、リー氏と他の数名がこの分野の基礎を静かに築いていたと語った。

「2012 年に、私の imagenet が alexnet および gpu と結合されました。これが、多くの人が現代の人工知能の誕生と呼ぶものです。これは、ビッグ データ、ニューラル ネットワーク、最新の gpu コンピューティングという 3 つの重要な要素によって推進されています。その瞬間が来たら、人工知能の分野全体と私たちの世界は二度と元には戻らないと思います。 」

物議を醸しているカリフォルニア州の人工知能法案「sb 1047」について質問されたとき、リー氏はニューサム知事が先週この法案に拒否権を発動して終息したばかりの論争を再び取り上げないよう慎重に語った。 (私たちは最近、sb 1047 の著者と話をしましたが、彼はリーとの議論を再開することを希望していました。)

「私がこの拒否権発動法案[sb 1047]について懸念を表明したことをご存知の方もいるかもしれませんが、今はそれについて深く考えており、期待を持って楽しみにしています」とリー氏は語った。 「ニューサム知事から、sb 1047 後の次のステップに参加するよう私に要請していただき、とても光栄に思います。」

カリフォルニア州知事は最近、リー氏と他の ai 専門家を招待して、州による ai 導入のための安全策の開発を支援するための作業グループを結成しました。リー氏は、この役割において証拠に基づいたアプローチを採用し、学術研究と資金提供の擁護に全力を尽くすと述べた。しかし、彼女はカリフォルニア州がハイテク労働者に罰則を与えないようにしたいとも考えている。

「私たちはテクノロジーそのものを非難するのではなく、人々やコミュニティに与える潜在的な影響に真剣に焦点を当てる必要があります。…意図的か非意図的かにかかわらず、自動車が誤用され、人に怪我を負わせた場合、自動車エンジニアを罰します。フォードまたはゼネラルモーターズ - 意味がありません。自動車エンジニアを罰するだけでは自動車の安全性は向上しません。私たちがしなければならないのは、より安全な対策に向けて革新を続けると同時に、シートベルトや速度制限などの規制枠組みを改善することであり、同様のことが人工知能にも当てはまります。 」

これは、危険な ai モデルの影響を受けるハイテク企業を罰する法案である sb 1047 に関して私が聞いた中で最も良い議論の 1 つです。

lee 氏はカリフォルニア州に ai 規制について助言している一方で、サンフランシスコで自身のスタートアップ world labs も経営しています。リー氏がスタートアップを立ち上げるのはこれが初めてで、彼女は最先端の人工知能研究所を率いる数少ない女性の一人である。

「私たちは、非常に多様なaiエコシステムにはまだ程遠いです」とリー氏は語った。 「人間の多様な知性が多様な人工知能につながり、私たちにとってより良いテクノロジーにつながると私は信じています。」

今後数年間で、彼女は「空間知性」を現実に近づけることに興奮しています。今日の大規模な言語モデルの基礎である人間の言語は、発達するのに数百万年かかった可能性があるが、視覚と知覚には5億4000万年かかった可能性があるとリー氏は述べた。これは、大規模な世界モデルの作成がより複雑なタスクであることを意味します。

「これは単にコンピュータに見えるようにするということではなく、実際にコンピュータに三次元世界全体を理解させるというものであり、私はこれを空間知能と呼んでいます」とリー氏は語った。「私たちは単に物事に名前を付けるために見ているわけではありません...私たちは実際に物事を行い、世界をナビゲートし、相互作用することを見ています。そして、見ることと行うことの間のギャップを埋めるには空間知識が必要です。技術者として、私は本当に興奮しています」これについては」