소식

이미지 출처: 스탠포드 대학교

일반 인공지능(agi)에 대해 헷갈리시나요? 이것이 바로 openai가 궁극적으로 "모든 인류에게 이익이 되는" 방식으로 창조하는 데 집착하는 것입니다. 그 목표에 더 가까워지기 위해 방금 66억 달러를 모금했기 때문에 진지하게 받아들이고 싶을 수도 있습니다.

그러나 agi가 정확히 무엇인지 여전히 궁금하신 분은 혼자가 아닙니다.

목요일에 열린 credo ai 책임 있는 인공 지능 리더십 서밋에서 종종 '인공 지능의 대모'로 불리는 세계적으로 유명한 연구자인 리 페이페이(li feifei)도 agi가 무엇인지 몰랐다고 말했습니다.다른 순간에 fei-fei li는 현대 인공 지능의 탄생에서 자신의 역할, 사회가 고급 ai 모델로부터 스스로를 보호해야 하는 방법, 그리고 그녀가 새로운 유니콘 스타트업인 world labs가 모든 것을 변화시킬 것이라고 생각하는 이유에 대해 논의했습니다.

그러나 'ai 특이점'에 대해 어떻게 생각하느냐는 질문에 이씨도 다른 사람들처럼 혼란스러워했다.

이씨는 샌프란시스코 골든게이트가 내려다보이는 문 옆 꽉 찬 방에서 “나는 인공지능 학계 출신이고 좀 더 엄격하고 증거 기반 접근 방식으로 교육을 받았기 때문에 그 말이 무슨 뜻인지 잘 몰랐다”고 말했다. 다리의 큰 창문."솔직히 저는 agi가 무슨 뜻인지도 모릅니다. 사람들은 보면 안다고 하는데, 저는 본 적이 없는 것 같아요. 사실 저는 agi라는 단어를 생각하는 데 많은 시간을 투자하지 않습니다. 아직은 더 중요한 일이 많이 남아 있는 것 같은데..."

agi가 무엇인지 아는 사람이 있다면 아마도 li feifei일 것입니다. 2006년에 그녀는 현재의 ai 붐을 촉진하는 데 중요한 역할을 했던 세계 최초의 대규모 ai 교육 및 벤치마크 데이터 세트인 imagenet을 만들었습니다. 2017년부터 2018년까지 그녀는 google cloud에서 ai/ml 수석 과학자로 근무했습니다. 현재 페이 페이 리(fei-fei li)는 스탠포드 ai 연구소 휴먼 센터(hai)를 이끌고 있으며 그녀의 스타트업인 월드 랩스(world labs)는 "대규모 세계 모델"을 구축하고 있습니다. (저에게 묻는다면 이 용어는 agi만큼 혼란스럽습니다.)

openai ceo altman은 작년 the new yorker와의 인터뷰에서 agi를 정의하려고 시도했습니다.altman은 agi를 "고용할 수 있는 동료와 동등한 중간 수준의 인간"이라고 설명합니다.(동료로 고용할 수 있는 평균 인간 1명에 해당합니다.)

한편, openai 헌장은 agi를 "가장 경제적으로 가치 있는 작업에서 인간보다 뛰어난 성능을 발휘하는 고도로 자율적인 시스템"으로 정의합니다.

분명히 이러한 정의는 1,570억 달러 규모의 회사에 충분하지 않습니다. 그러므로,openai는 agi에 대한 진행 상황을 내부 평가하기 위해 5가지 레벨을 만들었습니다. 첫 번째 수준은 챗봇(chatgpt 등), 그 다음 추론자(분명히 openai o1이 이 수준임), 에이전트(다음 수준인 것으로 추정됨), 혁신가(무엇을 발명하는 데 도움을 줄 수 있는 ai)이고 마지막 수준은 조직 수준(창의하는 ai)입니다. 전체 조직의 작업을 완료할 수 있습니다).

아직도 혼란스러워요? 나도 그렇고, 리도 마찬가지다. 게다가, 그것은 보통의 인간 동료가 할 수 있는 것보다 훨씬 더 많은 것 같습니다.

리는 앞서 대화에서 어렸을 때부터 지능의 개념에 대해 호기심이 있었다고 언급했습니다. 이로 인해 그녀는 수익성이 나기 전에 인공 지능 연구를 시작하게 되었습니다. 2000년대 초반 이씨는 자신과 몇몇 다른 사람들이 조용히 이 분야의 기초를 다지고 있다고 말했다.

“2012년에 내 imagenet은 alexnet 및 gpu와 결합되었습니다. 많은 사람들이 이를 현대 인공 지능의 탄생이라고 부릅니다.이는 빅데이터, 신경망, 최신 gpu 컴퓨팅이라는 세 가지 핵심 요소에 의해 추진됩니다.그 순간이 오면 인공지능 분야 전체와 우리 세상은 다시는 예전과 같지 않을 것이라고 생각합니다. "

논란이 되고 있는 캘리포니아의 인공 지능 법안인 sb 1047에 대해 질문을 받았을 때, lee는 뉴섬 주지사가 지난 주 법안을 거부함으로써 방금 잠재웠던 논란을 다시 언급하지 않기 위해 신중하게 말했습니다. (우리는 최근 lee와의 논쟁을 재개하기를 원했던 sb 1047의 저자와 이야기를 나눴습니다.)

이 의원은 “부결된 법안(sb 1047)에 대해 제가 우려를 표명한 것을 아시는 분도 있겠지만 지금은 깊이 생각하고 기대하고 있다”고 말했다. “newsom 주지사가 sb 1047 이후의 다음 단계에 참여하도록 요청한 것을 매우 기쁘게 생각합니다.”

캘리포니아 주지사는 최근 lee와 다른 ai 전문가를 초청하여 주정부가 ai 배포를 위한 보호 장치를 개발하는 데 도움이 되는 실무 그룹을 구성했습니다. 이씨는 이 역할에서 증거 기반 접근 방식을 사용할 것이며 학술 연구 및 자금 지원을 옹호하기 위해 최선을 다할 것이라고 말했습니다. 그러나 그녀는 또한 캘리포니아주가 기술 근로자에게 불이익을 주지 않도록 하고 싶어합니다.

“우리는 기술 자체를 비난하기보다는 사람과 지역 사회에 미칠 잠재적인 영향에 초점을 맞춰야 합니다....우리는 고의든 아니든 자동차를 오용하여 사람에게 부상을 입힌 경우 자동차 엔지니어를 처벌합니다.포드또는 general motors-말이 안 돼요. 단순히 자동차 엔지니어를 처벌하는 것만으로는 자동차를 더 안전하게 만들 수 없습니다. 우리가 해야 할 일은 보다 안전한 조치를 위해 계속 혁신하는 동시에 안전벨트나 속도 제한 등 규제 프레임워크를 개선하는 것입니다. 인공지능도 마찬가지입니다. "

이것은 위험한 ai 모델의 영향을 받는 기술 회사를 처벌하는 법안인 sb 1047에 대해 내가 들은 더 나은 주장 중 하나입니다.

lee는 캘리포니아 주에 ai 규제에 대해 조언하는 동시에 샌프란시스코에서 스타트업 world labs도 운영하고 있습니다. li는 이번이 처음으로 스타트업을 시작했으며 최첨단 인공 지능 연구소를 이끄는 몇 안 되는 여성 중 한 명입니다.

li는 "우리는 여전히 매우 다양한 ai 생태계와는 거리가 멀다"고 말했습니다. "나는 다양한 인간 지능이 다양한 인공 지능으로 이어질 것이며 우리를 위한 더 나은 기술로 이어질 것이라고 믿습니다."

앞으로 몇 년 동안 그녀는 "공간 지능"을 현실에 더 가깝게 만들게 되어 기쁘게 생각합니다. 오늘날의 대규모 언어 모델의 기초인 인간의 언어는 발달하는 데 수백만 년이 걸렸을 수 있지만 시각과 지각은 5억 4천만 년이 걸렸을 수 있다고 li는 말했습니다. 이는 대규모 세계 모델을 만드는 것이 더 복잡한 작업임을 의미합니다.

"이것은 단지 컴퓨터가 볼 수 있도록 하는 것이 아니라 실제로 컴퓨터가 공간 지능이라고 부르는 전체 3차원 세계를 이해하도록 하는 것입니다."라고 li는 말했습니다."우리는 사물의 이름만 보는 것이 아닙니다. 우리는 실제로 사물을 보고, 세상을 탐색하고, 서로 상호 작용하는 것을 보고, 보는 것과 행하는 것 사이의 격차를 해소하려면 공간적 지식이 필요합니다. 기술자로서 저는 정말 기쁩니다. 이것에 대해”