ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

編集者：編集部hyz

【新しい知恵の紹介】お祝いおめでとうございます！たった今、カリフォルニア州知事がカリフォルニア州ai制限法案に拒否権を発動すると発表した。 lecun、li feifei、ng enda は興奮しながら駆けつけ、額や手で祝いました。この法案を強く支持しているベンジオ氏とヒントン氏は沈黙を保っている。 openai、google、meta はすべて惨事を免れました。

重い！

今朝早く、カリフォルニア州知事ギャビン・ニューサムは、sb-1047法案に拒否権を発動すると正式に発表しました。

世界中の開発者にとって、sb-1047 法案の中止は、meta や google などの主要メーカーのオープンソース モデルが引き続き再び利用可能になることを意味します。

この決定は広く予想されていたものと言える。 ai界の偉い人たちは、特に相手チームで力強い役割を果たしたン・エンダ、ルクン、リー・フェイフェイらに興奮しながら伝え合った。

カリフォルニア州知事の拒否権は何を意味するのでしょうか?

sb-1047法案は本当に終わりです。

「悪名高い」sb-1047は、開発者に責任を負わせることで、aiシステムが大量死傷者を引き起こしたり、5億ドル以上の費用がかかるサイバーセキュリティインシデントを引き起こしたりすることを防ぐと規定している。

このニュースが出るやいなや、学界や産業界からの大きな反対を引き起こした。

ご存知のとおり、世界トップ 50 社の genai 企業のうち 32 社がカリフォルニアに拠点を置き、ai の未来を定義する上で重要な役割を果たしています。

カリフォルニア事務所のプレスリリースによると、ギャビン氏は先月18件のgenai法案に署名したが、拒否権を発動したのはsb-1047だけだった。

過去 30 日間にわたり、知事はディープフェイク コンテンツと闘い、出演者のデジタル画像の権利を保護するための一連の法案に署名してきました。

この法案には善意がありますが、実際にはいくつかの重大な問題があります。

「これがaiによる本当の脅威から国民を守る最善の方法とは思えない」と同氏は述べた。

sb-1047 では、ai システムが高リスク環境に導入されているかどうか、重要な意思決定に関与しているか、機密データを使用しているかどうかは考慮されていません。その代わりに、この法案は大規模なモデル システムを展開する最も基本的な機能に厳格な基準を適用します。

sb-1047が拒否される過程で、aiゴッドマザーであるリー・フェイフェイの役割を無視することはできません。

スタンフォード教授のリー・フェイフェイ氏は、スタンフォードhaiと協力してカリフォルニアにおける責任あるaiガバナンスへの道を切り開くことができて大変光栄だとうれしそうに語った。

ai の第一人者である andrew ng 氏も、sb-1047 に対する国民の反対を表明した li feifei 氏に感謝し、彼女の努力によって研究とイノベーションを保護するためのより合理的な ai 政策を促進できると述べました。

ほんの数日前、sb-1047 法案が最終決定されようとしていたとき、ng 氏と lecun 氏は依然として心配そうに投票を呼びかけ、投票を開始していました。ひとたび可決されれば、オープンソース ai と ai エコシステム全体に萎縮効果が生じるのではないかと懸念していました。

今日、カリフォルニア全土の ai 企業がようやく安堵のため息をつきました。

知事の拒否権発動書：未署名

「私はここに上院法案 1047 を私の署名なしで返却します。」

知事は書簡の中で、sb-1047がai導入によってもたらされる脅威を誇張していることを認めた。

さらに、この法案は最も高価な大型モデルのみに焦点を当てることで、実際に国民に「誤った安心感」を与えている。

同氏は、小型の独自モデルであっても同様に危険な可能性があると指摘した。

つまり、この法案のai規制は「公益に利益をもたらすイノベーションの抑制」を犠牲にして行われているのだ。

知事は、この法案は最も基本的な機能に最も厳しい基準を適用しており、ai技術の脅威から国民を守る最善の方法ではないと述べた。

最善の解決策は、ai システムと機能の実証的な開発軌跡の分析に基づいていない計画です。

ai上司はそれを嫌う

この結末は、ベンジオとヒントンを除くほとんどの人にとって、非常に満足のいく結末と言えるでしょう。

sb-1047 に関して言えば、多くの大物はそれを嫌います。

全体の話はこれです。

昨年、カリフォルニア州知事は、カリフォルニア州がgenaiに対してより慎重になり、aiをより倫理的、透明性、信頼できるものにするべきであることを強調する大統領令に署名した。

今年2月、カリフォルニア州は大型モデルの安全かつ透明性の高い使用のためのより具体的な規制を規定する「sb-1047フロンティアai大型モデル安全イノベ​​ーション法」と呼ばれる法案を直接起草した。

しかし、その中には特定の企業を名指しで首を絞めるだけの理不尽な内容も多い。

1億ドルを超えるモデルは「重大な損害」を引き起こすことを防止する必要がある

例えば、開発・訓練費用が1億ドルを超え、浮動小数点演算が10の26倍を超える大規模モデルをオープンソース化した後、何者かが違法行為に使用した場合、モデル開発者を罰するという規定がある。も厳罰に処されるだろう。

meta の llama 3 モデル、google の gemma モデルなどがすべてこの条件を満たすことを知っておく必要があります。

この規定は明らかに非常に物議を醸しています。

例えば、自動運転システムに何者かがハッキングして事故を起こした場合、システムを開発した企業も責任を問われるのでしょうか？

この法案によると、開発者はモデルの派生製品を評価し、顧客がモデルを微調整する場合、そうでない場合はモデルを変更する場合（ジェイルブレイク）、またはモデルを他のソフトウェアと組み合わせる場合など、派生モデルが引き起こす可能性のある危害を防ぐことが義務付けられています。

ただし、オープンソース ソフトウェアがリリースされると、人々はモデルを個人のデバイスに直接ダウンロードできるため、開発者は他の開発者や顧客の具体的な操作を知る方法がありません。

また、法案には定義が曖昧な部分も多い。

たとえば、ai モデルに対する「重大な損害」とは、大規模な死傷者、5 億ドルを超える損失、またはその他の「同様に深刻な」損害として説明されていますが、どのような状況で開発者は責任を問われるのでしょうか。どのような責任があるのでしょうか?

法案はこれについて沈黙している。

さらに、この法案はトレーニングに1億ドル以上を費やすaiモデルや、既存モデルの微調整に1000万ドル以上を費やす開発者にも適用され、多くの小規模テクノロジー企業が攻撃の範囲内に残ることになる。

sb-1047 には、たとえば、企業がそのモデルを他の国で使用できるように公開する場合、顧客の id カード、クレジット カード番号、口座番号などを含むすべての顧客情報を提出する必要があるなど、いくつかの不合理な規定もあります。

また、開発者は ai モデルのリスクに対処するテスト手順を作成する必要があり、ai セキュリティ慣行を評価するためにサードパーティの監査人を毎年雇用する必要があります。

モデルに基づいて構築された ai 製品の場合、ai モデル全体をシャットダウンする「緊急停止」ボタンなど、悪用を防ぐための対応するセキュリティ プロトコルを開発する必要があります。

法案は現実のリスクに目をつぶっていると批判

この法案はあまりにも根拠がないと考える批評家が増えている。

それは ai のイノベーションを妨げるだけでなく、今日の ai のセキュリティにも役立ちません。

さらに皮肉なことに、この法案は世界の終焉を防ぐためにいわゆる「緊急スイッチ」を使用しているが、ディープフェイクや虚偽の情報などの既存のセキュリティリスクには目をつぶっていることだ。

しかし、その後の修正案はより緩やかな文言となり、ai 研究所の責任を問うカリフォルニア州政府の権限は減少した。

しかし、それでも、sb-1047はopenai、meta、googleなどの大手メーカーに多大な影響を与えるだろう。

一部の新興企業にとって、この打撃は壊滅的なものになる可能性さえあります。

事態が一段落した今、大企業も中小企業も安堵のため息をつきます。

チューリング・ジャイアントが解散

sb-1047は、チューリングビッグスリーがこれをめぐって「分裂」する原因にもなりました。

lecun氏、li feifei氏、ng enda氏に代表される偉い人たちは、何度も公に反対し不満を表明してきた。

ルカン氏は、ai研究の一時停止を求めた際に使用した元のメッセージ「ai法を6か月間停止してください!」さえコピーしました。

チューリングビッグスリーの残りの二人、ヨシュア・ベンジオとジェフリー・ヒントンは、驚くべきことにこの法案の可決を強く支持した。

今の条件はちょっと緩すぎるような気もします。

人工知能技術および政策の上級研究者として、私たちはカリフォルニア上院法案 1047 への強い支持を表明するためにこの手紙を書きます。

sb 1047 は、このテクノロジーを効果的に規制するための基本要件を概説しています。ライセンス制度は導入しておらず、モデルのトレーニングや導入前に企業が政府機関から許可を得る必要もなく、企業が自らリスクを評価することに依存しており、災害が発生した場合でも企業に厳格な責任を課すことはありません。

これは、私たちが直面するリスクの規模に比べて、比較的緩やかな法律です。

この法案の基本的な措置を取り消すことは歴史的な間違いとなるでしょう。次世代のより強力な ai システムがリリースされるにつれて、その間違いは 1 年以内にさらに明らかになるでしょう。

しかし、ベンジオとヒントンは明らかに主流ではありません。

要約すると、さまざまなテクノロジーの巨人や大企業の立場は次のとおりです。