물고기와 양은 아오페이 사원(aofei temple)에서 유래합니다.

qubits 공개 계정 qbitai

이 회사의 직원은 10명에 불과하며 시드 라운드 자금을 조달했습니다.10억 달러。

이런 황당한 일이 일어날 수 밖에일리아 수츠케버몸에서는 약간 "정상"으로 보입니다.

일리아, 빅모델들이 전 세계를 휩쓸고 있는 시기에 그의 공헌은세상을 바꾸다수준:

그는 멘토 힌튼과 함께 구글에 스카우트된 뒤 세계를 충격에 빠트린 알파고 프로젝트에 깊이 관여한 알렉스넷(alexnet) 3인 중 한 명이다.

2015년에는 openai 창립에 참여해 수석과학자를 역임했다. chatgpt는 세상을 다시 변화시키고 있으며, 그는 그 뒤에 있는 가장 핵심 인물 중 한 명으로 간주됩니다.

작년 11월부터 현재까지 ilya의 일거수일투족은 최전방으로 밀리고 전 세계 기술계의 주목을 끌었습니다.

그가 시작한 오픈ai 이사회 내분으로 대형 모델 개발 경로를 둘러싼 논란이 드러났다. 올해 5월 오픈ai와 완전히 결별한 뒤 그의 다음 사업 행보에 모두가 기대를 걸고 있다.

이제 먼지가 가라앉고 있습니다. 항상 조용히 지내던 ilya 자신도 이 시점에서 자신의 회사 ssi와 agi에 대한 자신의 생각에 대해 더 많은 정보를 공유했습니다.

reuters와의 대화에서 ilya는 여섯 가지 주요 질문에 답했습니다. 아래는 원문입니다:

ssi는 왜 만들어졌나요?

전작과는 조금 다른 '큰 산'을 발견했는데...이 산 정상에 오르면 패러다임이 바뀐다…인공지능에 대해 우리가 알고 있는 모든 것이 곧 다시 바뀔 것입니다.

그 시점에서는 초지능 보안 노력이 중요해질 것입니다.

우리의 첫 번째 제품은 안전한 슈퍼지능이 될 것입니다.

초지능 이전에는 인간만큼 지능적인 ai가 나올까?

핵심은 이것이 안전하다고 생각합니다. 그것은 세상에서 선을 위한 힘입니까? 그렇게 되면 세상이 많이 바뀔 것 같아요. 그래서 지금 당장 '무엇을 할 것인가'에 대한 명확한 계획을 제시하는 것은 상당히 어렵습니다.

제가 말씀드릴 수 있는 것은 세상이 매우 다른 곳이 될 것이라는 것입니다. ai에서 무슨 일이 일어나고 있는지에 대한 외부 세계의 인식은 극적으로 변하고 이해하기 어려울 것입니다. 이것은 더욱 강렬한 대화가 될 것입니다. 그것은 우리의 결정에만 달려 있는 것이 아닐 수도 있습니다.

ssi는 안전한 인공지능이 무엇인지 어떻게 판단하나요?

이 질문에 대답하려면 몇 가지 중요한 연구를 수행해야 합니다. 특히 당신이 우리처럼 상황이 많이 바뀔 것이라고 생각한다면... 훌륭한 아이디어가 많이 발견되고 있습니다.

ai가 강력해지면 어떤 테스트를 해야 할지 많은 분들이 고민하고 계시죠? 조금 까다롭고 연구가 많이 필요합니다.

지금은 명확한 답이 있다고 말하고 싶지 않습니다. 하지만 그것은 우리가 알아내야 할 것 중 하나입니다.

규모 가정 및 ai 안전성 정보

모두가 "스케일링 가설"에 대해 이야기하지만 모두가 한 가지 질문을 무시합니다. 우리는 무엇을 확장하고 있습니까?

지난 10년 동안 딥러닝에서 일어난 엄청난 발전은 규모 가정의 구체적인 공식화였습니다. 하지만 상황은 변할 것입니다. 그리고 변화함에 따라 시스템의 기능도 향상될 것이며 보안 문제는 가장 시급한 문제가 될 것이며 이것이 바로 우리가 해결해야 할 문제입니다.

ssi는 오픈 소스인가요?

현재 모든 ai 회사는 주요 업무를 오픈소스화하지 않고 있으며 우리도 마찬가지입니다. 하지만 특정 요인에 따라 초지능 보안 작업을 오픈소스화할 수 있는 기회가 많아질 것이라고 생각합니다. 전부는 아닐 수도 있지만 확실히 일부는 그렇습니다.

다른 ai 기업의 보안 연구 노력에 대한 생각

사실 저는 업계에 대해 매우 높은 평가를 갖고 있습니다. 사람들이 계속 발전함에 따라 모든 기업은 아마도 서로 다른 시점에 그들이 직면한 과제의 본질을 깨닫게 될 것이라고 생각합니다. 그래서 우리는 누구도 할 수 없다고 생각하는 것이 아니라 우리가 기여할 수 있다고 생각합니다.

10억 달러는 어디에 사용되나요?

마지막으로 ilya의 말 외에 몇 가지 배경 정보를 추가합니다.

ssi의 소식은 올해 6월에 처음 발표되었습니다. 목표는 매우 분명합니다. ilya가 openai에서 실패한 일, 즉 안전한 슈퍼 지능을 구축하는 것입니다.

현재 ssi의 직원은 10명뿐입니다. 자금을 조달한 후 자금을 사용하여 컴퓨팅 성능을 구입하고 최고의 인재를 고용할 계획입니다.

자신의 생각에 동의하고 ai가 언젠가 인간 지능을 능가할 것이라는 정신적 준비가 되어 있는 사람들입니다.

공동 창업자인 다니엘 그로스(daniel gross)도 자격과 경험에 그다지 관심을 기울이지 않지만 후보자가 '좋은 인품'을 가지고 있는지 검토하는 데 몇 시간을 할애할 것이라고 밝혔습니다.

컴퓨팅 파워 측면에서 ssi는 어떤 기업과 협력할지, 어떻게 협력할지 아직 명확하지 않다.

ilya 자신 외에도 ssi의 공동 창립자에는 daniel gross와 daniel levy가 있습니다.

△왼쪽:다니엘 그로스;다니엘 레비

daniel gross는 하버드 대학교 컴퓨터 과학과를 졸업했으며 이전에는 y combinator의 파트너 중 한 명이었습니다. 그는 또한 citrus lane, writelatex(나중에 overleaf로 이름 변경) 등을 비롯한 많은 회사를 설립하거나 창립에 참여했습니다.

그는 time 100 매거진에서 "인공지능 분야에서 가장 영향력 있는 인물" 중 한 명으로 선정되었습니다.

daniel levy는 스탠포드 컴퓨터 공학과를 졸업했으며 이전에는 openai 최적화 팀의 책임자였습니다.