2024-08-27
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
출처: 글로벌타임스
[글로벌타임스 주오란(주오란) 글로벌타임스 특파원 왕이(王毅) 기자] "캘리포니아 인공지능(AI) 법안이 실리콘밸리 분열을 촉발했다"고 25일 AFP 통신이 보도한 바 있다. 입법부는 인공 지능을 규제하기 위한 법안('SB 1047 법안', 정식 명칭은 '프론티어 인공 지능 모델 보안 혁신법')을 추진하고 있습니다. 해당 법안은 올해 2월 캘리포니아 주 의회에 제출돼 큰 논란을 불러일으켰다. 8월 19일, 캘리포니아 주의회는 법안의 개정판을 발표했습니다. 이 법안은 '인공지능의 대부'로 알려진 제프리 힌튼(Jeffrey Hinton)과 조슈아 벤지오(Joshua Bengio)가 지지했지만, 양리쿤(Yang Likun), 리페이페이(Li Feifei) 등 과학자와 주요 인공지능 기업들의 반대도 있었다.
지난 8월 20일, 로봇 한 대가 샌프란시스코에 있는 아마존 인공지능 연구소 앞을 거닐었습니다. (비주얼차이나)
혁신을 촉진하면서 위험을 피하고 싶음
미국 언론에 따르면 SB 1047 법안은 대규모 인공지능 모델의 안전한 개발을 보장하기 위해 훈련 비용이 1억달러를 초과하거나 특정 컴퓨팅 능력에 도달한 개발자를 위한 안전 기준을 마련하는 것을 목표로 하고 있다. 이 법안은 대규모 최첨단 인공 지능 모델 개발자에게 배포 전 테스트, 모의 해킹 공격, 사이버 보안 보호 장치 설치, 내부 고발자 보호 제공과 같은 예방 조치를 취하도록 요구합니다.
SB 1047 법안의 발의자인 미국 민주당 상원의원 Scott Wiener는 이렇게 말했습니다. “의회가 인공 지능 규제에 대해 교착 상태에 도달한 상황에서 캘리포니아는 인공 지능의 급속한 발전이 예측 가능한 위험을 초래하기 전에 조치를 취해야 합니다. 또한 혁신을 촉진하기 위한 조치도 취해야 합니다. 위너는 인공지능의 안전과 혁신이 상호 배타적이지 않다고 믿으며, 개정된 법안은 일부 이전 비판자들의 우려를 해소했습니다.
25일 미국 '비즈니스 인사이더' 보고서에 따르면 지난 8월 19일 발표된 개정판에는 몇 가지 수정 사항이 포함됐다. 첫째, 해를 끼치지 않거나 임박한 위험을 초래하는 범죄에 대한 민사 처벌의 범위를 제한합니다. 법안의 일부 핵심 언어도 완화되었습니다. 이 법안의 공동 발의자이자 인공지능 안전 행동 기금 센터의 수석 정책 고문인 캘빈은 "이 법안의 초점이 위험 테스트와 완화에 있다는 점을 명확히 하는 데 도움이 됩니다"라고 말했습니다. 둘째, 이 법안은 더 이상 프론티어 모델 부서의 창설을 요구하지 않지만 여전히 프론티어 모델 위원회를 설립하여 기존 정부 운영 기관 내에 배치할 것입니다. 개정안은 위증죄에 대한 처벌 조항도 삭제해 해당 기업의 형사책임을 면제하고 민사책임만 규정했다.
일부 유명 인사들도 지지를 표명했습니다.
캘리포니아 인공지능 스타트업 앤트로픽(Anthropic)은 원래 법안이 발표된 뒤 일련의 변경안을 제안했고, 한 달 뒤 '신중한 승인'을 표명했다. Anthropic CEO Dario Amodei는 캘리포니아 주지사 Gavin Newsom에게 보낸 서한에서 이 법안이 현재 "결함보다 더 많은 이점"을 가지고 있다고 말했습니다. 그러나 그는 “그 부분에 대해서는 확신할 수 없으며 법안에 대해 여전히 우려하거나 모호한 부분이 있다”고 덧붙였다.
그러나 이 법안은 여전히 인공지능 업계의 많은 유명 인사들의 지지를 받고 있습니다. 예를 들면 몬트리올 대학교 조슈아 벤지오(Joshua Bengio) 교수와 컴퓨터 과학자 제프리 힌튼(Jeffrey Hinton)이 있습니다. Hinton은 Fortune 잡지의 논평에서 "강력한 인공 지능은 놀라운 가능성을 가지고 있지만 위험도 매우 현실적이므로 매우 심각하게 받아들여야 합니다. SB 1047은 이러한 우려의 균형을 맞추기 위해 매우 현명한 접근 방식을 취합니다."라고 썼습니다.
미국 인공 지능 안전 센터 설립자인 댄 헨드릭은 뉴욕 타임스와의 인터뷰에서 이 법안이 거대 기술 기업들이 값비싼 기술에 포함된 위험을 식별하고 제거하도록 압력을 가할 것이라고 말했습니다.
반대자: “득보다는 해가 더 많다”
기술 커뮤니티의 사람들은 일반적으로 새로운 AI 모델의 위험을 억제해야 한다는 데 동의하지만 비평가들은 Wiener의 제안이 스타트업을 억누르고 미국 경쟁업체에 이익이 되며 AI 분야에서 캘리포니아의 입지를 약화시킬 것이라고 주장합니다.
법안에 반대하는 유명 학자 중 한 명인 스탠퍼드대 컴퓨터과학과 페이페이 리(Feifei Li) 교수는 SB 1047 법안이 해결하고자 하는 문제를 해결하지 못하고 인공지능 학계에 심각한 피해를 입힐 것이라고 말했다. 개발자가 과도한 책임을 지게 되어 혁신이 제한되기 때문입니다. 또한 법안은 특정 임계값을 초과하는 모든 모델에 언제든지 프로그램을 종료할 수 있는 메커니즘인 "킬 스위치"를 갖도록 요구하여 개발자가 코드 작성 및 공동 작업, 공공 부문 및 학술 연구를 더욱 주저하게 만듭니다. 협업 부족 및 기타 이유로 인해 약화됩니다. 그녀는 또한 가장 우려스러운 점은 이 법안이 편견과 딥페이크를 포함하여 인공지능 개발의 잠재적인 피해를 다루지 않는다는 점이라고 말했습니다.
미국 인공지능 기업 오픈AI(OpenAI)도 이 법안에 반대한다는 입장을 공개적으로 밝혔다. 이 회사의 최고 전략 책임자인 제이슨 콴(Jason Quan)은 웨이너에게 보낸 서한에서 이 법안이 “인공지능 분야의 글로벌 리더로서 캘리포니아주의 독특한 위치”를 위협한다고 썼다. 그는 이것이 "혁신의 속도를 늦추고 세계적 수준의 엔지니어와 기업가들이 다른 곳에서 기회를 찾기 위해 주를 떠나게 만들 수 있다"고 덧붙였습니다. 또 다른 기술 기업인 메타(Meta)는 이 법안이 “오픈소스 인공지능 모델의 출시를 막는 것”이라고 주장했다.
미국 민주당 국회의원을 포함한 비평가들은 신흥 분야의 개발자에 대한 징벌적 조치를 위협하는 것이 혁신을 저해할 수 있다고 믿습니다. 펠로시 전 하원의장도 16일 법안에 반대하는 성명을 냈다. 성명서는 "의회 의원 중 다수는 SB 1047이 좋은 의도이긴 하지만 잘못됐다고 믿고 있다"며 "우리는 캘리포니아주가 소비자, 데이터, 지적 재산을 계속해서 보호하기를 희망한다"고 말했다. 등 여러 측면에서 인공지능 발전을 선도할 수 있지만 SB 1047 법안은 득보다 실이 많다”고 말했다.
뉴섬 주지사가 논란의 여지가 적은 인공 지능 법안에 서명하기를 희망하는 캘리포니아 의원들은 SB 1047에 상당한 변화를 주었지만 실리콘 밸리의 가장 중요한 인공 지능 연구소에 이 법안이 통과될 가치가 있다는 확신을 주지 못했습니다. SB 1047은 현재 최종 투표를 위해 캘리포니아 의회에 있으며 이달 말까지 Newsom의 책상에 올라올 수 있습니다. 뉴섬은 아직 이 법안에 대한 자신의 견해를 밝히지 않았지만 그의 결정은 실리콘 밸리와 미국 기술 커뮤니티에서 널리 지켜보고 있습니다.
