ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

ブルームバーグニュースによると、8月22日のWhip Bullレポートによると、OpenAIは人工知能企業に新たなセキュリティ要件を課すカリフォルニア州の法案に反対し、最近この物議を醸している法案に反対しているテクノロジーリーダーや政治家に加わっている。

サンフランシスコに本拠を置くこの新興企業は、この法案は人工知能業界のイノベーションに悪影響を与えると述べ、この問題は州ではなく連邦政府によって規制されるべきだと主張した。

この書簡はまた、この法案が可決されれば、人工知能と国家安全保障における米国の競争力に広範かつ重大な影響を与える可能性があるとの懸念を提起した。

ウィーナー氏が提案したSB 1047は、一定のサイズとコストの閾値を超える大規模な人工知能モデルを製造する企業向けに、同氏の事務所が常識的な安全基準と呼ぶものを作成することを目的としている。

5月に州上院を通過したこの法案は、AI企業に対し、広範囲に死傷者を出したり、5億ドル以上の経済的損害を引き起こす可能性のある生物兵器の開発を促進するなど、自社のモデルが重大な害を及ぼすことを防ぐための措置を講じることを義務付ける内容となっている。

この法案では、企業はAIシステムを確実にシャットダウンできるようにすること、AIモデルが災害を引き起こさないように合理的な注意を払うこと、カリフォルニア州司法長官にコンプライアンス声明を開示することが求められている。企業がこれらの要件を遵守しない場合、訴訟を起こされ、民事罰を受ける可能性があります。

この法案は、まだ初期段階にある技術にとって行き過ぎであり、州内の技術革新を抑制する可能性があるとして、多くの大手ハイテク企業、新興企業、ベンチャーキャピタリストからの強い反対に直面した。

この法案の批判者の中には、AI企業がカリフォルニアから追い出されるのではないかと懸念する人もいる。

OpenAIもウィーナー氏のオフィスに宛てた書簡の中で同様の懸念を表明した。

OpenAIの最高戦略責任者ジェイソン・クォン氏は書簡の中で、「人工知能革命は始まったばかりであり、人工知能の世界的リーダーとしてのカリフォルニア州の独自の地位が州の経済活力を推進している」と書いた。 SB 1047 はその成長を脅かし、イノベーションのペースを遅らせ、カリフォルニアの世界クラスのエンジニアや起業家がより大きな機会を求めてカリフォルニア州を離れることになるだろう。

同社の不動産計画に詳しい関係者によると、OpenAIは、カリフォルニア州の不確実な規制環境への懸念から、サンフランシスコオフィスの拡張に関する議論を一時停止したと関係者は内部の会話について匿名を希望して述べた。

ウィーナー氏は声明で法案を擁護し、OpenAIの書簡は法案のいかなる条項も批判していないと述べた。

同氏はまた、この法律はオフィスの所在地に関係なく、カリフォルニア州で事業を行うすべての企業に適用されるため、AI人材が州を離れているという議論は意味がないと述べた。

ウィーナー事務所の代表者は、２人の著名な国家安全保障専門家がこの法案を公に支持していると指摘した。

「SB 1047は、大規模な人工知能研究所が約束したこと、つまり大規模モデルの壊滅的な安全リスクをテストすることを義務付ける非常に合理的な法案だ」とウェイナー氏は述べた。 「SB 1047は、人工知能の予見可能なリスクについて私たちが知っていることに対して十分に調整されており、制定に値する。」

批評家らは、この法案は企業にモデルに関する詳細な情報を州に提出するよう義務付けるもので、イノベーションを妨げ、小規模なオープンソース開発者が訴訟を恐れてスタートアップを設立することを妨げると主張している。

ウィーナー氏は先週、一部の抵抗に対処するため、法案を修正し、準拠していないテクノロジー企業の刑事責任を排除し、小規模なオープンソースモデル開発者に対する保護を追加し、新たに提案されているフロンティアモデル部門を廃止した。

以前は、開発者が安全計画について故意に政府に虚偽の情報を提出した場合、偽証罪で罰せられる可能性があった。 OpenAIのライバルであるAnthropicは、競合他社よりもセキュリティに重点を置いていることで知られており、これまでに同法案の修正の一部を支持すると述べていた。しかし修正案が提出された後も、この法案は反対にさらされ続け、その中にはナンシー・ペロシ元下院議長も含まれ、同法案は情報不足であるとする声明を発表した。

民主党議員のグループもこの法案に反対の声を上げた。

州文書によると、OpenAIやその他のハイテク業界企業は、この法案に取り組んでいるロビイストを雇用している。

OpenAIは書簡の中で、この法案についてウィーナー氏の事務所と数か月間連絡を取ってきたが、最終的には支持しなかったと述べた。

「我々は、国家の政策ではなく、AI研究所や開発者に明確さと確実性を提供しながら公共の安全を守る一連の連邦政策を通じて、アメリカのAIの優位性を守らなければならない」と書簡には書かれている。

OpenAI は、ホワイトハウス科学技術政策局、商務省、国家安全保障会議などの連邦政府機関が、カリフォルニア州政府機関よりも重大な AI リスクの管理に適していると考えています。

同社は、米国の新しい AI セキュリティ研究所に対する議会の支援を提供する「人工知能イノベーションの将来法」など、提案されているいくつかの連邦法を支持していると述べた。

ウィーナー氏は声明で「繰り返し述べてきたように、理想的には議会がこの問題を取り上げることに私は同意する」と述べた。 「しかし、議会はまだそうしていないし、議会がそうするかどうかは疑わしい。議会に関するOpenAIの主張によると、カリフォルニア州がデータプライバシー法を可決することは決してないだろうし、議会が行動を起こさないことを考えると、カリフォルニア州民はデータ保護のために何も得ることができないだろう。」

SB 1047は今月中にカリフォルニア州議会で投票に上がる予定だ。

可決されれば、最終的にはカリフォルニア州知事ギャビン・ニューサムのデスクに移されることになる。ニューサム氏はこの法案に拒否権を発動するかどうかは明らかにしていないが、リスクを軽減しながらカリフォルニア州でAIイノベーションを促進する必要性について語った。