2024-09-30
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
캘리포니아 주지사 gavin newsom은 오늘 아침 일찍 sb-1047 법안을 공식적으로 거부했습니다!
지난 30일 동안 개빈이 대형 모델 감독과 제너레이티브 ai의 안전한 사용에 관한 법안 총 17건에 서명했지만 1047건만 거부권을 행사했다는 점은 언급할 가치가 있다. 그는 혼란스러운 사람이 아닌 것 같다.
이러한 적극적인 거부 과정에서 ai 업계 리더인 엔다(ng enda), 튜링상 수상자 얀 르쿤(yann lecun), 스탠포드 교수인 리 페이페이(li feifei) 등이 중요한 역할을 했다. 특히 ng는 여러 공개 행사에서 기술 전문가들에게 법안 보이콧을 촉구하는 데 큰 공헌을 했습니다.
오늘은 전 세계 개발자들에게 meta, google과 같은 미국 주요 기술 기업의 대규모 오픈 소스 모델을 계속 사용할 수 있는 중요한 날이기도 합니다.
sb-1047 법안에 대한 간략한 소개
'aigc 오픈커뮤니티'는 sb-1047 법안에 대해 총 6차례 글을 썼는데, 중국에서 이번 사건에 가장 주목하는 언론사 중 하나다. 이 법안이 오픈소스 대형 모델과 생성 ai 개발에 많은 저항을 가져올 이유에 대해 간략하게 소개하겠습니다.
sb-1047은 올해 2월 7일 캘리포니아에서 초안을 작성했으며, 정식 명칭은 'sb-1047 프론티어 ai 대형 모델 보안 혁신법'으로, 대형 모델의 안전성과 투명성, 사용 규정을 강화하는 데 주로 사용됩니다.
하지만 예를 들어 meta의 오픈 소스 llama-3 시리즈와 같이 대형 모델의 개발 및 교육 비용이 1억 달러를 초과한다고 규정하고 있으며, 누군가는 이를 공개적으로 설명합니다. 이를 악용하여 불법적인 행위를 하게 되면 해당 소스 개발자도 엄중한 처벌을 받게 됩니다.
감독 측면에서 대기업이 다른 국가의 사용자에게 모델을 공개하는 경우 고객의 신원, 신용 카드 번호, 계좌 번호, 고객 식별자, 거래 식별자, 이메일 및 전화 번호를 포함한 모든 고객 정보를 제출해야 합니다.
동시에 정보는 1년에 한 번씩 제출되어야 하며 사용자 행동과 의도가 평가됩니다. 모든 사용자 정보는 7년 동안 백업되며 관세국경청에도 제출됩니다.
비슷한 불합리한 조항이 많다. 이 법안을 만든 사람들은 오픈소스 대형 모델과 대형 모델 수출을 완전히 말살하고 싶어한다. 따라서 openai, meta, google과 같은 거대 기술 기업이 sb-1047의 가장 큰 피해자가 될 것입니다.
또한 미국 캘리포니아주 이 지역은 과학기술 분야에서도 매우 특별한 곳으로 구글, 메타, 오픈ai, 애플, 인텔, 테슬라의 본거지이기도 하다. 스탠포드, 캘리포니아대학교 버클리캠퍼스, 캘리포니아대학교, 서던캘리포니아대학교 등 세계 최고의 컴퓨터 학교가 글로벌 과학기술 혁신 센터 중 하나로 꼽힙니다.
이 법안이 시행되면 대기업뿐만 아니라 일부 창업 중소기업도 거의 망할 것이다. 법안이 나왔을 때 많은 사람들은 일부 기술 회사가 떠날 것이라고 말했습니다.
sb-1047 법안을 거부하는 이유
캘리포니아 공식 웹사이트에 공개된 거부권 정보에 따르면 개빈 주지사는 세계 50대 ai 기업 중 32개가 캘리포니아에 있으며 대규모 ai 모델의 개발과 혁신에 매우 중요하다고 밝혔습니다. sb-1047은 좋은 의도를 가지고 있지만 구현에 심각한 문제가 있습니다.
sb-1047은 가장 비싼 대규모 ai 모델에만 초점을 맞춤으로써 빠르게 진화하는 이 기술을 제어하는 데 있어 대중에게 잘못된 보안 감각을 줄 수 있는 규제 프레임워크를 구축합니다. 더 작고 특화된 모델은 sb-1047이 표적으로 삼은 대형 모델과 동일하거나 훨씬 더 위험할 수 있어 ai 기술 혁신을 방해할 수 있습니다.
또한 sb-1047은 유연성이 부족하고 다양한 유형의 ai 애플리케이션에 충분한 유연성을 제공하지 않아 구현 중에 혼란과 불확실성을 초래할 수 있습니다.
개빈은 이 법안에서는 ai 모델이 고위험 환경에 배포되는지 여부를 고려하지 않고 있는데, 이는 저위험 환경에서는 동일한 엄격한 규제 조치가 필요하지 않을 수 있기 때문에 매우 중요하다고 지적했습니다. 동시에 법안은 어떤 유형의 결정이 중요한 결정인지 명확하게 밝히지 않으며, 민감한 데이터가 무엇인지 정의하지 않아 개인정보 보호 및 데이터 보안 보호에 결함이 있을 수 있습니다.
gavin은 sb-1047과 같은 일률적인 접근 방식은 특정 영역에서 ai 기술의 혁신과 개발을 방해할 것이며, 법안의 조항은 다양한 유형에 대한 명확한 지침을 제공하지 않기 때문에 실행하기 어려울 수 있다고 강조했습니다. ai 모델과 애플리케이션을 소개합니다. ai 기술의 실제 위협으로부터 대중을 보호하는 가장 좋은 방법은 모든 경우에 적용되는 일률적인 솔루션이 아니라 더욱 미묘하고 목표가 정해져 있어야 합니다.
다음은 sb-1047 법안에 대해 andrew ng, yann lecun, li fei-fei 및 기타 사람들이 제기한 많은 불합리한 비난입니다. 'aigc 오픈커뮤니티'를 통해 법안의 과거 해석도 확인할 수 있다.
