소식

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

8월 24일 티타늄 미디어 앱 소식'AI의 대부'로 알려진 캐나다 컴퓨터 과학자이자 딥러닝 기술의 선구자이자 2018년 튜링상 수상자인 요슈아 벤지오(Yoshua Bengio)는 ChatGPT 출시로 AI 기술 리스크에 대한 시간이 단축되었다고 공개적으로 밝혔습니다. .안타깝게도 AI 위험 및 정책 감독 문제를 해결하는 데 10년이 아니라 더 짧은 시간이 소요되므로 업계는 AI 안전 정책 구현 속도를 높이기 위해 지금 조치를 취해야 합니다.

Bengio는 "정책을 수립하는 데 많은 시간이 걸리고, 불일치를 해결하는 데 수년이 걸리며, 이와 같은 법안을 제정하는 데 수년이 걸리고, 프로세스를 마련해야 하며, 실제로 이를 올바르게 수행하는 데 수년이 걸립니다."라고 말했습니다. 이제 "정확하게" 할 시간이 많지 않을 수도 있다는 점을 걱정하세요.그리고 더 나쁜 것은 AI 위험이 규제 문제일 뿐만 아니라 국제 조약이기 때문에 우리는 이 문제를 전 세계적인 규모로 해결해야 한다는 것입니다.

벤지오는 파리에서 태어나 캐나다에서 자랐으며 현재 캐나다 몬트리올에 거주하며 몬트리올대학교 컴퓨터공학과 교수로 재직 중인 것으로 알려졌다. 그는 1991년 캐나다 McGill University에서 컴퓨터 공학 박사 학위를 받았습니다. 벤지오의 주요 연구 분야는 딥러닝과 자연어 처리입니다.

30년이 넘는 딥러닝 연구 경력을 통해 Bengio는 300개 이상의 학술 논문을 발표했으며 138,000회 이상 인용되었습니다. Ng Enda는 Bengio의 많은 이론적 연구가 그에게 큰 영감을 주었다고 말한 적이 있습니다.

2018년에는 '신경망의 아버지' 제프리 힌튼(Geoffrey Hinton)과 '컨볼루션 네트워크의 아버지' 얀 르쿤(Yann LeCun)이 딥러닝 기술 이론을 개척한 공로로 '튜링상'을 수상했다. AI 산업 '빅3', '딥러닝 빅3', 'AI 3대부'.

'딥러닝 3대 거인' 중 한 명인 벤지오는 AI라는 용어가 남용되고 있다고 지적한 적이 있다. 사실 아직까지 인간의 지능과 비교할 수 있는 지능적인 존재는 없습니다. 물론 그는 여전히 기술로서의 AI를 좋아한다.

벤지오는 2022년 말 ChatGPT가 등장하기 전에는 적어도 수십 년 동안은 실제 AI 위험이 나타나지 않을 것이라고 믿었다고 말했다. AI 보안 문제에 대해 별로 걱정하지 않고 인간은 멀리 있다고 믿었던 시절이 있었다. 인간과 경쟁할 수 있는 기술을 개발하는 것으로부터 AI 기술은 아직 "수십 년 남았지만" 우리는 위험에 직면하기 전에 수년 동안 "AI의 이점을 얻을 수 있다"고 가정합니다.

하지만 이제 ChatGPT 출시로 그의 마음이 완전히 바뀌었습니다. 그는 더 이상 확신하지 못했습니다. AI 개발 속도와 기술이 사회에 미치는 잠재적인 위협에 대한 그의 가정은 다음과 같습니다.2022년 말 OpenAI가 ChatGPT를 출시한 이후 전복됐다. 인간 수준의 AI 기술이 등장했기 때문이다.

Bengio는 “드디어 우리와 대화할 수 있는 기계(ChatGPT)가 생긴 이후로 마음이 완전히 바뀌었습니다. 이제 우리는 언어를 이해할 수 있는 AI 기계를 갖게 되었습니다. 지금까지는 그렇게 빨리 일어날 것이라고는 예상하지 못했습니다. 우리가 인간 수준의 지능에 도달하려면 수년, 수십 년, 심지어 그 이상이 걸릴 것이라고 생각한 사람은 물론이고 누구도 이것을 예상하지 못했다고 생각합니다. -수준의 지능으로는 무슨 일이 일어날지 예측하기 어렵습니다. 우리가 정말 좋은 결과를 얻게 될지, 아니면 정말 나쁜 결과가 나올지, 그리고 이에 대해 우리가 어떻게 대응할 것인지가 바로 제가 현재 과학 및 정책 분야에서 연구하는 원동력입니다. .”

ChatGPT가 AI의 위험에 대한 세계적인 논의를 촉발한 후 Bengio는 AI 규제를 옹호하는 데 더 많은 에너지를 쏟기 시작했으며 동료 학계 및 AI 선구자인 Geoffrey Hinton과 함께 논쟁의 여지가 있는 캘리포니아 AI 안전 법안 SB1047을 공개적으로 지지했습니다. 안전 예방 조치를 취하지 않고 AI 모델로 인해 발생하는 치명적인 피해에 대해 기업이 책임을 지도록 합니다.

Bengio는 이것이 EU의 AI 법안에 이어 두 번째로 "테이블에서 두 번째로 중요한 제안"이라고 믿습니다.

현지 시간으로 8월 15일, 논란이 되고 있는 캘리포니아의 프론티어 AI 모델 안전 혁신법(이후 캘리포니아 AI 안전법 SB 1047로 알려짐)이 관련 조항을 크게 약화시킨 끝에 마침내 캘리포니아 하원 세출위원회의 검토를 통과했습니다.

SB 1047은 대규모 AI 시스템으로 인해 많은 사람이 사망하거나 5억 달러가 넘는 손실이 발생하는 사이버 보안 사고를 개발자에게 책임을 묻는 방식으로 방지하는 것을 목표로 합니다. 검토를 성공적으로 통과한 것은 해당 법안이 공식적인 법률 및 규정이 되기 위한 중요한 단계를 밟았음을 의미하며, 이는 미국의 AI 감독에 있어서도 중요한 단계입니다.

그러나 캘리포니아 AI 안전법(California AI Safety Act)은 논란의 여지가 있다. 스탠포드 대학의 리 페이페이(Li Feifei) 교수, 메타 수석 과학자 양 리쿤(Yang Likun) 등은 이 법안이 결국 캘리포니아와 AI 분야에서 미국의 선도적 지위에 타격을 줄 것이라고 믿고 있으며, 100명 이상의 학자들도 이 법안에 반대하는 기사를 발표했습니다. 기관 a16z는 법안 범죄 6건을 자세히 설명하는 웹사이트를 개설했습니다.

낸시 펠로시(Nancy Pelosi) 전 미국 하원 의장도 캘리포니아 AI 보안 법안이 좋은 의도를 갖고 있지만 완전한 이해가 부족하다고 믿고 이 법안에 반대하는 성명을 발표했습니다. 좋은.

캘리포니아의 AI 법안에 반대하는 가장 최근의 단체는 OpenAI입니다. OpenAI는 이번 주에 이 법안이 AI 혁신에 해를 끼칠 것이며 미국의 AI 경쟁력과 국가 안보에 "광범위하고 중대한" 영향을 미칠 수 있다는 내용의 문서를 발행했습니다.

그러나 Bengio는 캘리포니아 AI 안전법이 지나치게 규범적인 것을 피하고 대신 AI 회사가 "합리적인 전문가가 수행하는" 안전 예방 조치를 무시하지 않도록 책임을 사용한다고 말했습니다. "이것은 기업이 학급에서 최악의 학생이 되지 않도록 인센티브를 제공할 것입니다."

Bengio는 AI 규제에 관한 논의가 기술로부터 이익을 얻으려는 벤처 자본가와 기업의 영향을 받을 수 있다고 지적했습니다. “기후 변화, 화석 연료 회사 등에 비유할 수 있습니다.”라고 그는 말했습니다.

"그게 아니라 정반대입니다. 그렇게 구속력이 없습니다. 큰 영향력을 행사하지 않습니다. 단지 수십억 달러의 피해를 입힌 경우 책임이 있다고 말합니다. 수십 년 동안 전체 계산은 나는 (야당이) 더 이념적이라고 생각한다. 나는 로비의 힘과 Ai가 가져올 이익에 대해 정말로 걱정한다. (Stuart Russell 교수는 말했다.) 캘리포니아 대학교 버클리 캠퍼스(인공 지능 시스템 센터 설립자)는 기업들이 어떤 규제에도 반대하도록 동기를 부여할 것입니다."라고 Bengio는 말했습니다.

위험 관리와 관련하여 Bengio는 "나는 위험에 대해 회의적이라고 생각합니다. 우리보다 똑똑한 AI가 우리보다 더 똑똑해지기도 전에 매우 위험할 수 있다는 좋은 주장을 많이 들었습니다."라고 말했습니다. 인간이 민주주의에 극도로 위험한 방식으로 사용하는 경우 사실 과학은 검증 가능한 방식으로 이에 답할 방법이 없기 때문에 자신이 알고 있다고 말하는 사람은 누구나 과신합니다. 정책에 대해 생각하고 있다면 정말 나쁜 일로부터 대중을 보호해야 합니다. 정부가 다른 많은 분야에서 해왔던 일이지만 컴퓨팅과 AI에서는 그렇게 할 수 없습니다."

벤지오는 인간이 대화형 AI 음성 기술을 이렇게 빨리 습득할 것이라고는 예상하지 못했고, 적어도 충분히 인간적인 수준에 이르렀다고 거듭 강조했다.

"위험한 것에 대해 빠르게 혁신하려는 욕구는 현명하지 못한 것이라고 생각합니다. 생물학에서 연구자들은 소위 기능 획득 연구를 통해 위험한 바이러스가 만들어질 수 있다는 사실을 발견했을 때 집단적으로 '글쎄, 우리는 그렇지 않다'고 결정했습니다. 벤지오는 "이렇게 하면 적어도 통제되지 않으면 감옥에 갈 수 있도록 정부에 규칙을 세워달라고 요청하라"며 "당신도 감정적으로는 그렇게 어렵지만 더 많은 합성 아동 포르노에 대해 알고 있다고 확신한다"고 말했다. 중요한 것은 동일한 딥페이크가 사회를 왜곡할 것이라는 점입니다. 비디오는 점점 더 좋아질 것입니다. 충분하지 않습니다: 사람들의 마음을 바꾸도록 설득하는 현재 및 미래 시스템의 능력 불과 몇 달 전만 해도 그렇습니다. , 스위스의 새로운 연구에서는 인간이나 기계와 대화하는 사람이 무언가에 대해 마음을 바꾸는 사람을 누가 설득할 수 있는지 알아보기 위해 GPT-4를 인간과 비교했습니다.

Bengio는 “AI에 관해서도 유사한 예방 원칙 행동을 채택해야 한다”고 언급했습니다.

미래를 바라보며,벤지오는 강조했다.모든 AI 기술 응용은 여전히 ​​인간의 라이프스타일을 건강한 방식으로 변화시킬 것입니다.예를 들어, 생물학 측면에서 AI는 신체의 작동 방식과 각 세포의 작동 방식을 이해하여 기후 측면에서 의학 및 약물 연구 개발과 같은 분야에 혁명을 일으킬 수 있으며 더 나은 배터리, 더 나은 탄소 포집, 에너지 저장이 더 좋습니다.

"아직 그런 일이 일어나지는 않지만 AI로 만들 수 있는 훌륭한 기술 제품이라고 생각합니다. 그런데 이러한 응용 프로그램은 대부분 위험하지 않습니다. 따라서 우리는 사회에 분명히 도움이 될 수 있는 이러한 것들을 살펴봐야 합니다. 문제를 해결하는 데 더 많은 투자를 하고 있습니다.”라고 Bengio는 대화가 끝날 때 말했습니다.