ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

8月24日のTitanium Media Appニュース「AI のゴッドファーザー」として知られるカナダのコンピューター科学者であり、深層学習テクノロジーのパイオニアであり、2018 年チューリング賞を受賞したヨシュア・ベンジオ氏は、ChatGPT の立ち上げにより、AI テクノロジーのリスクにさらされる時間が短縮されたと公に述べました。 。残念ながら、AI のリスクと政策監視の問題を解決するのに 10 年を費やすことはできず、もっと短い期間で解決する必要があります。そのため、業界は AI の安全性政策の導入を加速するために今すぐ行動する必要があります。

「政策を策定するには多くの時間がかかり、意見の相違を解決するには何年もかかり、このような法律の制定には何年もかかり、導入する必要のあるプロセスがあり、これを実際に正しく行うには何年もかかります。」とベンジオ氏は述べた。今は「正しく対処する」時間があまりないのではないかと心配している、とブルームバーグに語った。さらに悪いことに、AI リスクは単なる規制問題ではなく、国際条約でもあり、この問題は地球規模で解決する必要があるのです。

ベンジオはパリで生まれ、カナダで育ち、現在はカナダのモントリオールに住んでおり、モントリオール大学のコンピューターサイエンスおよびコンピューティング学部の教授として働いていると報告されています。彼は 1991 年にカナダのマギル大学でコンピュータ サイエンスの博士号を取得しました。 Bengio の主な研究分野はディープラーニングと自然言語処理です。

Bengio は、30 年を超えるディープラーニング研究のキャリアの中で、300 以上の学術論文を発表し、138,000 回以上引用されています。ン・エンダはかつて、ベンジオの多くの理論的研究が彼に大きなインスピレーションを与えたと語った。

2018年には、「ニューラルネットワークの父」ジェフリー・ヒントンと「畳み込みネットワークの父」ヤン・ルカンの3名が、ディープラーニング技術の理論の先駆者として「チューリング賞」を受賞しており、この3人は「AI」とも呼ばれています。 AI 業界の「ビッグ 3」、「ディープ ラーニングのビッグ 3」、「AI の 3 人のゴッドファーザー」。

「ディープラーニングの三大巨頭」の一人であるベンジオ氏は、一部の企業がAIシステムをあたかも人間と同等の知的存在であるかのように擬人化していると指摘しました。実際、人間の知性に匹敵する非常に堅実な知的存在はまだ存在しません。もちろん、彼は今でもテクノロジーとしての AI を愛しています。

ベンジオ氏は、2022年末にChatGPTが登場するまでは、AIの本当のリスクは少なくとも数十年は現れないと信じていた時期があり、AIのセキュリティ問題についてあまり心配しておらず、人間は遠く離れていると信じていた時期があったと語った。人間に匹敵するテクノロジーの開発はまだ「数十年先」だが、リスクに直面する前に何年もかけて「AIの恩恵を享受できる」と同氏は考えている。

しかし今、ChatGPT の立ち上げによって彼の考えは完全に変わりました。彼にはもう確信が持てませんでした。 AI 開発のスピードと、そのテクノロジーが社会にもたらす潜在的な脅威についての彼の推測人間レベルの AI テクノロジーが登場したため、OpenAI が 2022 年末に ChatGPT をリリースした後、この問題は覆されました。

「ついに私たちと会話できるマシン（ChatGPT）ができたので、完全に考えが変わりました」とベンジオ氏は語った。これらのシステムを構築している人たちさえも、誰もこれを本当に予想していなかったように思います。人間が人間レベルの知能に達するまでには、数年、数十年、あるいはそれ以上かかるかもしれないと人々が考えていたことがわかります。レベルの知能では、何が起こるかを予測するのは困難です。本当に本当に良いものになるのか、本当に本当に悪いものになるのか、そしてそれにどう対処するか、それが私の現在の科学と政策の仕事の原動力です。 」

ChatGPT が AI のリスクについての世界的な議論を引き起こした後、ベンジオ氏は AI 規制の提唱により多くのエネルギーを注ぎ始め、同じ学者であり AI の先駆者であるジェフリー・ヒントンとともに、物議を醸しているカリフォルニア州の AI 安全法案 SB1047 を公に支持しました。企業は、安全対策を講じずに AI モデルによって引き起こされる壊滅的な損害に対して責任を負うことになります。

ベンジオ氏は、これが EU の AI 法案に次ぐ「議題上で 2 番目に重要な提案」であると信じています。

現地時間の 8 月 15 日、物議を醸しているカリフォルニア州のフロンティア AI モデル安全イノベ​​ーション法 (後にカリフォルニア AI 安全法 SB 1047 として知られる) が、関連規定を大幅に緩和した後、ついにカリフォルニア州下院歳出委員会の審査を通過しました。

SB 1047 は、開発者の責任を追及することで、大規模な AI システムによって多数の人が死亡したり、5 億ドルを超える損失が発生したりするサイバーセキュリティ事故を防ぐことを目的としています。無事に審査を通過したことは、この法案が正式な法規制となるための重要な一歩を踏み出したことを意味し、また米国におけるAIの監督における重要な一歩でもある。

しかし、カリフォルニア州AI安全法は物議を醸している。スタンフォード大学のリー・フェイフェイ教授やメタの主任研究員ヤン・リクン氏らは、この法案は最終的にカリフォルニア州、さらにはAI分野における米国の主導的な地位にまでダメージを与えると考えている ベンチャーキャピタル もまた、100人以上の学者らもこの法案に反対する記事を発表している。機関a16zは、この法案の犯罪6件を詳しく説明するウェブサイトを開設した。

元米国下院議長のナンシー・ペロシでさえ、カリフォルニア州AIセキュリティ法案には善意はあるものの完全な理解が欠けていると考え、この法案に反対する声明を発表した。良い。

カリフォルニア州の AI 法案に最近反対しているのは OpenAI です。 OpenAIは今週、この法案がAIイノベーションに悪影響を及ぼし、AIと国家安全保障における米国の競争力に「広範囲かつ重大な」影響を与える可能性があると述べた文書を発表した。

しかし、ベンジオ氏は、カリフォルニア州AI安全法は過度に規範的なものとなることを避け、代わりにAI企業が「合理的な専門家であれば行うであろう」安全上の予防措置を無視しないことを保証するために責任を負っていると述べた。 「企業にとっては、クラスで最下位の生徒にならないようにするインセンティブが生まれるだろう。」

ベンジオ氏は、AI規制を巡る議論はベンチャーキャピタリストやテクノロジーから利益を得ようとする企業の影響を受ける可能性があると指摘した。 「気候変動や化石燃料会社などに例えることができます」と彼は言う。

「そうではありません。まったく逆です。それほど拘束力はありません。あまり影響力を及ぼしません。ただ言うだけです。何十億ドルもの損害を引き起こした場合、責任はあなたにあります。何十年もの間、全体の計算は私は、この分野はいかなる種類の規制も受けていないと思うが、私はロビーの力と、Aiがもたらす数兆、さらには数兆の利益について、より懸念していると述べた。カリフォルニア大学バークレー校、人工知能システムセンターの創設者）は、企業がいかなる規制にも反対するよう動機付けるだろう」とベンジオ氏は語った。

リスク管理に関してベンジオ氏は次のように述べています。「私は自分自身がリスクに対して懐疑的であると考えています。私たちよりも賢い AI は、私たちより賢い前から非常に危険である可能性があるという良い議論をたくさん聞いてきました。民主主義にとって非常に危険な方法で人間によって利用されています。実際、科学には検証可能な方法で答える方法がないため、自信過剰です。しかし、もしあなたが不可知論者であれば、それらはすべて正当です。政策について考えているなら、本当に悪いことから国民を守る必要があるが、政府は他の多くの分野でそれを行うことはできない。」

ベンジオ氏は、人間が会話型AI音声技術をこれほど早く習得するとは予想していなかったし、少なくとも十分に人道的なレベルには達していると繰り返し強調した。

「危険なものについてすぐに革新したいという欲求は賢明ではないと思います。生物学では、いわゆる機能獲得研究を通じて危険なウイルスが作成できることを研究者が発見したとき、彼らは集団的に、まあ、私たちはそうしなかったと決めました。 「これを行った場合、少なくとも規制されていない場合は刑務所に行くよう、政府に規則を制定するよう求めてください。合成児童ポルノについてはご存知かと思いますが、感情的にはそれほど難しいことではないかもしれませんが、それ以上のことです」とベンジオ氏は語った。重要なのは、同じディープフェイクが社会を歪めることになるということだ。ビデオはさらに良くなるだろう: 人々の考えを変えるよう説得する現在および将来のシステムの能力 ほんの数か月前。スイスで行われた新しい研究では、GPT-4 を人間と比較し、明らかに何も分かっていない人を説得できるかどうかを調べました。人間または機械と話していると、何かについて考えが変わります。」

ベンジオ氏は、「AIに関しても同様の予防原則の行動を採用すべきだ」と指摘した。

将来に目を向けると、ベンジオはこう強調した。すべての AI テクノロジーの応用は、今後も人間のライフスタイルを健全な形で変えていくでしょう。たとえば、生物学の観点から言えば、AI は身体の仕組みや各細胞の働きを理解し、気候の観点から医学や医薬品の研究開発などの分野に革命をもたらす可能性があり、より優れたバッテリー、より優れた二酸化炭素回収、そしてエネルギー貯蔵も優れています。

「まだ実現していませんが、これらはAIを使って作ることができる素晴らしいテクノロジー製品だと思います。ところで、これらのアプリケーションは、ほとんどが危険なものではありません。ですから、私たちは明らかに社会の発展に役立つこれらのことに目を向けるべきです」課題に対処するためにもっと投資する」とベンジオ氏は会話の最後に語った。