ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

外国の報道によると、ホイップスは9月10日、大手人工知能企業の現従業員および元従業員100人以上がカリフォルニア州知事ギャビン・ニューサムに対し、同州の新たな人工知能規制法案の可決を要請したと報じた。

この書簡は、openai、anthropic、googleのdeepmind、meta、xaiの現・元従業員が署名し、特定の人工知能モデルの開発に対する懸念を表明している。

この法案「sb 1047」は、人工知能企業に対し、システムを一般に公開する前にそのシステムのセキュリティテストを実施することを義務付けている。また、自社のモデルによって引き起こされた壊滅的な損害に対する企業の責任が問われ、熟練労働者の内部告発者保護も可能になる。

書簡には次のように書かれています。最も強力な ai モデルは、生物兵器の使用拡大や重要インフラへのサイバー攻撃など、近い将来深刻なリスクを引き起こす可能性があると考えています。最先端の ai 企業にとって、最も強力な ai モデルが深刻な危害を引き起こす可能性があるかどうかをテストし、そのようなリスクに対して合理的な保護措置を講じることは実行可能かつ適切です。

アクシオスがこの発表を最初に報じた。

sb 1047 は州議会と上院を通過しました。 9月30日までにこの法案に署名するか、拒否権を発動するかはニューサム次第となっている。知事はまだこの法案に関する見解を表明しておらず、両党からの激しいロビー活動に直面している。

この法案の支持者らは、ガードレールがなければ人工知能の開発は悲惨な結果を招く可能性があると主張している。 xaiの創設者イーロン・マスクは人工知能の規制を公に支持している。 amazonとalphabetが支援するopenaiのライバルanthropicもこの法案を支持している。

人工知能の先駆者であるヨシュア・ベンジオ氏とジェフリー・ヒントン氏は、カリフォルニアの指導者たちに宛てた以前の公開書簡の中で次のように書いている。これらの強力な人工知能システムをどのように開発し導入するかについて政府が現在下す選択は、現在および将来の世代のカリフォルニア州民に影響を与える可能性がある。世界中に影響を及ぼしています。