소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Bloomberg News에 따르면 8월 22일자 Whip Bull 보고서에 따르면 OpenAI는 인공 지능 회사에 새로운 보안 요구 사항을 부과하는 캘리포니아 법안에 반대하며 이 논란의 여지가 있는 법안에 반대하는 최근 기술 리더와 정치인들과 합류했습니다.

샌프란시스코에 본사를 둔 이 스타트업은 이 법안이 인공 지능 산업의 혁신에 해를 끼칠 것이라고 말했으며 이 문제는 주가 아니라 연방 정부에 의해 규제되어야 한다고 주장했습니다.

이 서한은 또한 이 법안이 통과될 경우 인공지능과 국가 안보 분야에서 미국의 경쟁력에 광범위하고 중대한 영향을 미칠 수 있다는 우려를 제기했습니다.

Wiener가 제안한 SB 1047은 그의 사무실에서 특정 크기와 비용 기준을 초과하는 대형 인공 지능 모델을 생산하는 회사를 위한 상식적인 안전 표준을 만드는 것을 목표로 합니다.

지난 5월 주 상원을 통과한 이 법안은 AI 회사들이 광범위한 사상자를 발생시키거나 5억 달러 이상의 경제적 피해를 입힐 수 있는 생물학적 무기의 개발을 촉진하는 등 자사의 모델이 심각한 피해를 입히는 것을 방지하기 위한 조치를 취하도록 요구합니다.

법안에 따라 기업은 AI 시스템을 종료할 수 있는지 확인하고, AI 모델이 재난을 일으키지 않도록 합리적인 주의를 기울이고, 캘리포니아 법무장관에게 규정 준수 성명을 공개해야 합니다. 기업이 이러한 요구 사항을 준수하지 않을 경우 소송을 당하거나 민사 처벌을 받을 수 있습니다.

이 법안은 아직 초기 단계에 있는 기술에 대한 과도한 접근이고 주의 기술 혁신을 저해할 수 있다는 이유로 많은 대형 기술 기업, 신생 기업 및 벤처 캐피탈리스트의 강력한 반대에 직면했습니다.

이 법안을 비판하는 일부 사람들은 AI 기업이 캘리포니아 밖으로 밀려날 수 있다고 우려합니다.

OpenAI는 Weiner의 사무실에 보낸 편지에서 동일한 우려를 표명했습니다.

OpenAI 최고 전략 책임자인 제이슨 권(Jason Kwon)은 서신에서 다음과 같이 썼습니다. 인공 지능 혁명은 이제 막 시작되었으며, 인공 지능 분야의 글로벌 리더로서 캘리포니아의 독특한 위치가 주의 경제 활력을 주도하고 있습니다. SB 1047은 성장을 위협하고, 혁신의 속도를 늦추며, 캘리포니아의 세계적 수준의 엔지니어와 기업가들이 다른 곳에서 더 큰 기회를 찾기 위해 주를 떠나게 만들 것입니다.

해당 회사 부동산 계획에 정통한 관계자에 따르면,OpenAI는 캘리포니아의 불확실한 규제 환경에 대한 우려로 인해 샌프란시스코 사무소 확장에 대한 논의를 일시 중단했으며 내부 대화를 논의하기 위해 익명을 요청했다고 말했습니다.

Wiener는 성명을 통해 제안된 법안을 옹호했으며 OpenAI의 서한은 법안의 어떤 조항도 비판하지 않았다고 말했습니다.

그는 또한 사무실 위치에 관계없이 캘리포니아에서 사업을 하는 모든 회사에 법이 적용되기 때문에 AI 인재가 주를 떠난다는 주장은 근거가 없다고 말했습니다.

Wiener 사무실의 한 대표는 두 명의 저명한 국가 안보 전문가가 이 법안을 공개적으로 지지했다고 언급했습니다.

Wiener는 "SB 1047은 대형 인공지능 연구소가 약속한 일, 즉 대형 모델의 치명적인 안전 위험을 테스트하도록 요구하는 매우 합리적인 법안"이라고 말했습니다. "SB 1047은 인공 지능의 예측 가능한 위험에 대해 우리가 알고 있는 내용에 대해 잘 조정되어 있으며 제정할 가치가 있습니다."

비평가들은 기업이 자신의 모델에 대한 자세한 정보를 주에 제출하도록 요구하는 이 법안이 혁신을 방해하고 소규모 오픈 소스 개발자가 고소를 두려워하여 스타트업을 창업하는 것을 막을 것이라고 주장했습니다.

지난주, 일부 저항을 해결하기 위한 노력의 일환으로 Wiener는 규정을 준수하지 않는 기술 회사에 대한 형사 책임을 제거하고 소규모 오픈 소스 모델 개발자에 대한 보호를 추가하며 새로 제안된 Frontier Model Unit을 제거하기 위해 제안된 법안을 수정했습니다.

이전에는 개발자가 안전 계획에 대해 고의로 정부에 허위 정보를 제출한 경우 위증죄로 처벌받을 수 있었습니다. OpenAI 경쟁사인 Anthropic은 경쟁사보다 보안에 더 중점을 두는 것으로 알려져 있으며, 이전에 법안의 일부 수정안을 지지하겠다고 밝혔습니다. 그러나 개정안이 제출된 후에도 이 법안은 낸시 펠로시 전 하원의장을 포함해 이 법안이 잘 알려지지 않았다는 성명을 발표하는 등 계속해서 반대에 직면했습니다.

민주당 하원 의원 그룹도 법안에 반대하는 목소리를 냈습니다.

주 문서에 따르면 OpenAI와 기타 기술 산업 회사들은 법안 작업에 참여해 온 로비스트를 고용했습니다.

OpenAI는 서신에서 이 법안에 관해 Wiener 사무실과 몇 달 동안 접촉했지만 결국 지지하지 않았다고 밝혔습니다.

“우리는 공공 안전을 보호하면서 AI 연구소와 개발자에게 명확성과 확실성을 제공하는 일련의 주 정책이 아닌 연방 정책을 통해 미국의 AI 이점을 보호해야 합니다.”라고 적혀 있습니다.

OpenAI는 백악관 과학기술정책실, 상무부, 국가안전보장회의(National Security Council)와 같은 연방 기관이 캘리포니아 주 기관보다 중요한 AI 위험을 관리하는 데 더 적합하다고 믿습니다.

회사는 새로운 미국 AI 보안 연구소에 대한 의회 지원을 제공하는 인공 지능 혁신법(Future of Artificial Intelligence Innovation Act)과 같은 여러 제안된 연방 법안을 지지한다고 밝혔습니다.

위너 의원은 성명을 통해 "내가 반복해서 말했듯이 이상적으로는 의회가 이 문제를 다룰 것이라는 점에 동의한다"고 말했다. "그러나 의회는 그렇게 하지 않았으며 의회에 대한 OpenAI의 주장에 따르면 캘리포니아는 데이터 개인 정보 보호법을 결코 통과시키지 못할 것이며 의회의 조치가 부족하면 캘리포니아 주민들은 데이터 보호에 대해 아무것도 얻지 못할 것입니다."

SB 1047은 이번 달 캘리포니아 주의회에서 표결에 부쳐질 예정입니다.

통과되면 결국 캘리포니아 주지사 Gavin Newsom의 책상으로 옮겨지게 됩니다.Newsom은 법안을 거부할지 여부는 밝히지 않았지만 위험을 줄이면서 캘리포니아에서 AI 혁신을 촉진해야 할 필요성에 대해 언급했습니다.