소식

글 : web3 스카이시티 · 시티로드

오랜만이지만 openai 복귀 후 openai ceo 샘 알트만(sam altman)의 대면 인터뷰 완결 영상이 공개되었습니다. 이때는 그렉이 휴가를 떠나고, 일리아의 새 회사가 설립되고, openai의 계속된 적자 및 신규 자금조달 소식이 나오는 때이다.

이번 인터뷰는 유명한 호스트인 trevor cui wa가 진행했습니다. 조금 놀라운 점은 trevor가 비기술 호스트의 95%보다 더 깊이 ai 기술을 이해하고 있다는 것입니다.

이번 인터뷰에서 trevor와 sam은 인공 지능, openai, sam의 개인적인 경력과 여정에 대해 폭넓은 대화를 나눴습니다. sam은 openai로의 복귀를 시작으로 혼란과 불확실성의 연속 속에서 개인과 기업의 미션의 관계에 대해 어떻게 성찰했는지 공유하고, agi의 향후 발전 방향에 대해 이야기했습니다.

sam은 인지, 생산성 및 사회적 효과 측면에서 agi의 엄청난 잠재력에 대해 자세히 설명했을 뿐만 아니라 ai 안전, 윤리적 문제, 자본주의적 상충관계 및 기술 혁명의 과제에 대응했습니다. 동시에 그는 openai의 기업 거버넌스, 기술 진보와 사회적 책임의 균형을 맞추는 방법에 대한 자신의 생각을 솔직하게 논의하고 투명성과 민주적인 기술 거버넌스의 중요성을 강조했습니다.

openai의 주도권을 되찾는 여정: sam altman은 자신의 짧은 출발을 되돌아보고 이 혼란 속에서 openai에 대한 사랑과 openai의 사명을 어떻게 재발견했는지 공유합니다. 그는 잠시 해고되었지만 그 경험을 통해 교훈을 얻었으며 agi 개발을 계속 발전시키는 것이 중요하다고 강조했습니다.

agi의 미래와 기술혁명: 샘 알트만(sam altman)은 비록 사회적, 경제적 변화가 예상만큼 빠르지는 않더라도 agi가 전례 없는 기술 혁명을 가져올 것이라고 굳게 믿고 있습니다. 그는 기술이 agi에 점점 더 가까워지더라도 그것이 사회에 미치는 실제 영향은 점진적이어서 사회가 신기술이 가져오는 변화에 점차 적응할 수 있을 것이라고 믿습니다.

자본주의와 ai의 균형: 인터뷰에서 sam altman은 openai가 agi의 혜택을 널리 배포할 수 있도록 원래 의도를 유지하면서 자본주의 시스템 내에서 어떻게 작동하는지 자세히 논의합니다. openai는 개발에 필요한 자원을 얻기 위해 자본주의에서 경쟁해야 하지만, 기술 발전이 윤리와 사회적 책임을 희생해서는 안 된다고 강조했습니다.

ai의 민주적 거버넌스와 사회적 영향: 샘 알트만(sam altman)은 ai 기술 거버넌스가 더욱 민주적이어야 한다는 중요한 점을 지적했습니다. 그는 ai 시스템의 사용 방식을 결정하고 규칙을 설정하는 데 대중이 더 많이 참여해야 한다고 믿으며 기술 투명성과 다양한 거버넌스의 중요성을 강조했습니다.

ai 안전과 윤리에 대한 우려: 인터뷰에서 샘 알트만(sam altman)은 ai가 엄청난 잠재력을 갖고 있지만 잠재적인 보안 위험도 많다고 인정했습니다. 그는 컴퓨터 보안, 합성생물학 등에서 ai의 위험성을 구체적으로 지적하고 사회가 책임 있는 방식으로 기술 개발을 촉진할 것을 촉구했습니다.

인공지능에 대한 더 넓은 비전: sam altman은 미래에 대해 낙관적입니다. 그는 agi가 성숙해짐에 따라 모든 사람이 개인적인 관심을 추구할 수 있는 더 많은 기회를 갖게 될 것이며 기술이 글로벌 교육 및 의료 표준을 크게 향상시킬 것이라고 믿습니다. 기술 혁신이 일과 사회 패턴의 변화를 가져올지라도 궁극적으로는 인간의 정신과 창의성이 우리를 더욱 풍요로운 미래로 이끌 것이라고 그는 믿습니다.

트레버：

인터뷰에 시간을 내주셔서 감사합니다.

샘: 감사합니다.

트레버: 지금이 정말 말도 안되는 시간이라고 생각하지 않나요?

샘: 제가 경험한 것 중 가장 정신없는 순간인 것 같았어요.

트레버：

그래요, 당신은 모든 것의 중심에 있어요. 그 느낌이 어떤지 궁금합니다. 나는 단지 이 분야와 이 세계의 열렬한 관찰자이기 때문입니다. 이 모든 것의 영향을 받은 사람이 바로 당신인 것 같아요. 내 말은, 샘 알트만(sam altman)이 타임지의 올해의 인물 후보 명단에 ​​올랐단 말이에요.

샘: 못 알아들어서 다행이에요.

트레버: 못 알아들어서 다행이네?

샘: 물론이죠.

트레버: 왜요?

sam: 나는 올해 이미 내 인생 전체보다 더 많은 관심을 받았습니다.

트레버: 알았어, 알았어. 그럼 관심 받는 걸 싫어하는 건가요? 관심을 받고 싶지 않나요?

샘：

아니, 이건 너무 잔인해요. 어떤 면에서는 흥미롭습니다. 이는 어떤 면에서는 유용합니다. 그러나 개인 생활의 경우 삶의 질이 평가됩니다. 응, 절대 그렇지 않아. 하지만 지금은 그렇습니다. 이것이 제가 가입한 것입니다.

트레버: 응, 이제 악명을 떨칠 시간이야.

샘: 응.

트레버: 길거리에서 사람들이 당신을 알아보나요?

샘：이것은 매우 나쁜 절충안입니다. 네, 당신은 절대... 당신에게도 이런 일이 일어날 거라고 확신합니다. 하지만 더 이상 익명으로 남을 수는 없습니다.

트레버：네, 하지만 사람들은 나에게 미래에 대해 묻지 않아요.

샘：그들은 당신이 세상을 파괴할 것인지 묻지 않습니다.좋아요. 약간의 차이가 있습니다. 사람들이 나와 함께 사진을 찍고 싶어할 수도 있습니다. 그 정도입니다. 단체사진이 많아요.

트레버: 음, 축하해요. 당신은 타임지의 올해의 ceo입니다.

샘: 응.

트레버：

타임지가 이 결정을 내릴 무렵이었던 것 같기 때문에 이것은 아마도 가장 이상한 순간 중 하나였을 것입니다. 몇 주 전만 해도 당신은 올해의 ceo가 아니었을 수도 있습니다. 아직도 이 상을 받을 수 있을지 모르겠습니다. 전 직장 때문에 그런 것 같아요.

샘: 응, 모르겠어. 이것이 어떻게 작동하는지 모르겠습니다.

trevor: 다시 ceo가 된 기분이 어떤가요?

샘：

솔직히 말해서 나는 여전히 현실을 다시 프로그래밍하고 있습니다. 어떤 면에서는 이 과정을 통해 제가 이 회사와 회사의 사명, 그리고 회사 사람들을 얼마나 사랑하는지 많이 배웠기 때문에 기분이 좋았습니다. 그리고 그 과정에서 나는 짧은 시간 안에 인간의 모든 감정을 여러 번 경험했습니다. 하지만 나에게 아주 분명한 순간은 이 모든 일이 금요일 오후, 금요일 정오에 일어났다는 것입니다. 다음날 아침인 토요일, 몇몇 이사회 회원들이 저에게 전화를 걸어 반품에 대해 논의할 의향이 있는지 물었습니다.

나는 이것에 대해 매우 복잡한 감정을 가지고 있습니다. 하지만 결국에는 내가 다시 돌아오고 싶다는 것이 분명해졌습니다.

저는 이곳과 우리가 하는 일을 정말 좋아합니다. 나는 그것이 세상에 중요하다고 생각하고 그것이 내가 가장 관심을 갖는 것입니다.

트레버：

기술 세계에서 채용과 해고는 모두가 익숙해져야 하는 일입니다.

나는 당신이 과거에 y combinator에서 해고된 것을 알고 있습니다. 이 상황에 처한 모든 사람에게는 사연이 있습니다.

샘: 그 얘기는 하고 싶지 않아요.

트레버: 말해 보세요, 말해 보세요. 이런 것들은 조사를 하고 거기서부터 시작됩니다.

샘：

나는 (yc를 떠나기) 약 1년 전에 openai에 오기로 결정했습니다.

그것은 복잡한 전환이었습니다. 하지만 저는 openai와 yc에서 동시에 일하고 있었고 openai에 오고 싶다고 확신했습니다. 나는 이것을 후회한 적이 없습니다.

트레버：그렇다면 당신은 해고된 적이 없습니다. 인간으로서는 힘든 상황이다.

샘: 이거 해고인가요?

트레버: 당신이 해고되었다가 즉시 재고용된다면 어떨까요?

샘：내가 말하려고 했던 것은 단지...이건 단지 잔인할 뿐이라는 것 이상이었습니다...지금은 이 이야기를 하면 안 될 것 같습니다.

이것은 매우 고통스러운 일입니다. 개인적으로 인간으로서 매우 불공평하다고 느꼈고, 처리 방식도 정말 불공평했습니다.

트레버：

나는 상상할 수 있다. 많은 사람들이 해고에 대해 이야기할 것입니다.

이는 팬데믹 기간 동안 트렌드가 되었으며, 특히 사람들이 그룹에 이메일이나 비디오를 보내는 것에 대해 이야기하고 수천 명의 직원이 해고될 때 더욱 그렇습니다.

회사의 ceo에게 이런 일이 일어날 것이라고는 거의 생각하지 않습니다. 게다가 많은 사람들이 이 세대와 미래의 "스티브 잡스"라고 부르는 ceo에게 이런 일이 일어날 것이라고 생각하지도 않을 것입니다.

그건 그렇고, 당신은 자신을 그렇게 부르지 않습니다.

샘: 당연하지.

트레버：

많은 사람들이 당신에 대해 그렇게 말하지만 나는 당신을 이 세대의 스티브 잡스라고 부르는 것은 옳지 않다고 생각합니다. 내 생각에 당신은 이 세대의 프로메테우스입니다. 당신은 정말로 그렇습니다.

내가 보기에는 당신이 신에게서 불을 훔친 것 같습니다. 여러분은 이 변화의 최전선에 있으며, 우리는 지금 ai가 한때 공상 과학 소설과 전설의 소재였던 시대를 살고 있으며, 이제 여러분은 문명을 영원히 바꿀 수 있는 것의 최전선에 있습니다.

미래가 전반적으로 바뀔 것이라고 생각하시나요?

샘：

그렇게 생각해요.

제가 말하려는 내용이 틀렸을 수도 있습니다. 하지만 제 생각에는 거의 모든 사람이 동의하는 agi를 구축할 것이라는 느낌이 듭니다. 일반 인공지능(agi)을 정의하는 것은 매우 어렵지만 사람들이 보고 "그래, 해냈어"라고 말할 수 있는 시스템을 구축하겠습니다. 이 시스템은 일반 인공지능, 즉 인간 수준 또는 그 이상의 시스템이다.

트레버：

자세히 설명하기에 앞서, ai에 대한 사람들의 인식과 인공일반지능의 가장 큰 차이점은 무엇이라고 생각하시나요?

샘：

이 분야에 가까워질수록 이를 정의하는 방법이 매우 중요해지며 차이점이 있습니다. 일부 사람들에게 agi는 오늘날 인간 작업의 중요한 부분을 수행할 수 있는 시스템을 의미합니다. 물론 우리는 새로운 일자리와 새로운 할 일을 찾을 것입니다. 그러나 다른 사람들에게 agi는 새로운 과학 지식을 발견하는 데 도움을 줄 수 있는 시스템을 의미합니다. 이는 분명히 세계에 매우 다른 영향을 미치는 매우 다른 이정표입니다.

비록 용어가 지겨워서 사용을 멈출 수도 없지만, 더 이상 그 용어를 좋아하지 않는 이유가 있습니다. 용어는 agi입니다. 지금은 대부분의 사람들에게 이것이 매우 똑똑한 ai를 의미한다고 생각하지만 그 이상은 매우 모호해졌습니다. 아무래도 우리가 가까워지고 있기 때문인 것 같아요.

제가 말하려는 것은, 우리는 여러분이 뭐라고 부르든 agi를 만들 것이라는 것입니다. 적어도 단기 및 중기적으로는 사람들이 생각하는 것보다 세상을 훨씬 덜 변화시킬 것입니다. 단기적으로는 사회에도 관성이 있고, 경제에도 관성이 있고, 사람들이 삶을 살아가는 방식에도 관성이 많다고 생각합니다. 우리가 이러한 전환을 관리하는 동안 이는 건강하고 유익할 수 있습니다. 우리 모두는 특정한 방식으로 일을 하고 그것에 익숙해져 있습니다. 초유기체로서의 사회도 특정한 방식으로 행동하고 그것에 익숙합니다.

gpt-4에서 일어난 일을 살펴보면 유익하다고 생각합니다. 우리가 처음 출시했을 때 사람들은 "와, 그런 일이 일어날 줄은 몰랐어요."라고 말하면서 정말 패닉 상태에 빠졌습니다. 하지만 그 이후에는 계속 살아가더군요. 그것은 상황을 변화시키고 사람들은 그것을 사용합니다. 없는 것보다는 나은 기술입니다. 물론 gpt-4는 별로 좋지 않습니다. 5, 6, 7 중 어느 것이든 훨씬 더 좋을 것입니다. 하지만 chatgpt 인터페이스 버전 4는 많은 사람들이 심각하게 받아들이지 않는 것에서 매우 심각하게 받아들이는 순간이라고 생각합니다. 그러나 인생은 계속됩니다.

트레버：

이것이 인류와 사회에 좋다고 생각하시나요? 인생이 이렇게 계속되어야합니까? 이 제품의 "아버지" 중 한 명, 이 아이디어의 "부모" 중 한 명으로서 우리 모두 잠시 멈춰서 우리가 현재 어디에 있는지 평가해 보시기 바랍니다.

샘：

저는 개인적으로든 집단적으로든 인간의 회복력이 놀랍다고 생각합니다. 저는 새로운 기술과 변화를 흡수하고 적응하며 이를 세상의 일부처럼 느끼게 만드는 우리의 능력에 대해 정말 기대하고 있습니다. 정말 훌륭해요.

나는 코로나19가 우리가 이것을 보고 있는 가장 최근의 예라고 생각합니다. 세상은 빠르게 적응했고 곧 정상으로 느껴졌습니다. 덜 심각하지만 유익한 또 다른 예는 ufo에 관한 뉴스 더미입니다. 이것은 몇 년 전이었습니다. 한때 완전한 회의론자였던 많은 친구들은 그것이 진짜 ufo나 외계인일지도 모른다고 말할 것입니다. 그럼에도 불구하고 그들은 다음날에도 출근하여 아이들과 놀아주었습니다.

트레버: 응, 내 생각에는 또 뭘 할 수 있지? 날고 있다면 날고 있는 것입니다.

그렇다면 진행 상황을 평가하는 데 더 많은 시간을 투자했으면 좋았을 까요? 우리는 전 세계적으로 그렇게 하고 있는데, 나는 그것이 훌륭하다고 생각합니다. 저는 이러한 기술을 반복적으로 배포하는 것이 중요하다고 굳게 믿습니다. 우리는 비밀 실험실에서 인공 일반 지능(agi)을 개발하고 싶지 않습니다. 아무도 그것이 올지 모르고 갑자기 세상에 공개하여 사람들이 '흥, 여기 있다'라고 말하게 만드는 것을 원하지 않습니다. ..

트레버：

점차적으로 적응하고 기술로서 함께 성장해야 한다고 생각하시나요?

샘：

예.

따라서 사회와 지도자, 기관이 실제로 이러한 기술을 사용하여 무엇을 할 수 있는지, 무엇을 할 수 없는지, 위험은 무엇인지, 이점은 무엇인지에 대한 느낌을 얻는 대화가 지금 훌륭하다고 생각합니다. 어떤 의미에서 우리의 사명을 위해 우리가 한 가장 좋은 일은 배포 전략을 반복하는 것이라고 생각합니다. 우리는 그것을 비밀리에 만들고 더 많은 시간을 들여 만든 다음 한꺼번에 출시할 수도 있었는데, 그것은 끔찍했을 것입니다.

트레버：

오늘 우리는 요새 같기도 하고 미래의 집 같기도 한 openai 건물에 들어갔습니다. 손님으로 오셨다는 ​​글을 봤어요.

나는 '맙소사, 그거 이상해'라고 생각했어요. 집에가는 것과 같지만 집이 아니지만 여전히 집에 있습니다.

샘：

이곳에서 손님 뱃지를 달고 있는 것 같은 아주 이상한 순간처럼 느껴질 것입니다. 그런데 다들 지치고 아드레날린이 솟구치는 것 같아요. 제가 기대했던 큰 순간은 실제로 없었습니다. 그날에 대해 반성하고 이야기할 가치가 있는 순간들이 분명히 있었습니다. 예를 들어, 제가 가장 자랑스러웠던 순간 중 하나는 매우 피곤하고 주의가 산만했을 때였습니다. 우리는 이사회가 그날 나를 다시 ceo로 데려올 것이라고 생각했지만, 혹시라도 그렇지 않을 경우를 대비해 우리 최고의 직원 중 한 명이 가장 낮은 수준의 소프트웨어 엔지니어 직위인 l3 인터뷰를 하게 되었습니다. 그러자 그는 나에게 확고한 대답을 해주었다. 정말 자랑스러운 순간이었습니다.

그날의 기억에서 눈에 띄는 부분은 아직도 그 실력이 있었다는 것이다. 비록 배지가 내가 원하는 만큼 심오하지는 않지만.

트레버：

openai 직원들로부터 공개적인 지지를 얻기 위해 제가 ceo로서 무엇을 했다고 생각하는지 알고 싶습니다.

이 사실이 밝혀졌을 때, 내부 조사 내용에 대해 귀하가 언급할 수 없다는 것을 알고 있었기 때문에 자세한 내용을 묻지 않을 것입니다. 하지만 회사의 전반적인 느낌과 최근에 무슨 일이 일어나고 있는지에 대해 조금 이야기할 수 있다는 것을 알고 있습니다. openai와 같은 일이 펼쳐지는 경우는 거의 없습니다. 당신은 지구상의 대부분의 사람들에게 단 한 순간도 존재하지 않았던 이 회사와 이 아이디어를 가지고 있습니다. 다음 순간, 작은 채팅 상자인 이 간단한 프롬프트가 세상을 바꿉니다. 역대 가장 빠른 시간에 100만 사용자를 돌파한 것 같아요. 5일 정도였던 것 같아요. 네, 5일이에요. 그러다가 순식간에 1억 명에 이르렀습니다.

아주 빨리, 저는 일화적인 수준에서 이 일이 전 세계 모든 사람에게 알려지지 않은 상태가 되었다는 것을 알고 있습니다. 나는 그것을 사람들에게 설명하고, 그들이 이해할 수 있도록 노력하고 있습니다. 시처럼, 그들이 이해할 수 있는 간단한 것을 보여줘야 합니다. 그러자 사람들이 나에게 그것에 대해 말하기 시작했습니다. 이제 그것은 어디에나 있는 개념이 되었고, 사람들은 그것이 무엇인지, 그것이 무엇을 의미하는지 알아내려고 애쓰고 있습니다.

하지만 다른 한편에는 어떤 방식으로든 미래를 통제하고 형성하려고 노력하는 회사가 있습니다. 그리고 사람들은 당신을 지지합니다. 우리는 sam altman이 사임하고 더 이상 ceo가 아니라는 이야기를 보았습니다. 그러자 모든 것이 혼란스러워졌습니다. 소문을 좀 보셨는지 모르겠습니다. 그들은 단지 미쳤다. 내가 본 것 중 가장 미친 것 중 하나는 누군가가 "이건 우스꽝스럽고 재미있다"고 말하는 것입니다. 그들은 샘이 ai와 성관계를 가지려고 했다는 이유로 해고되었다고 말했고 저는 믿을 만한 소식통을 통해 알고 있습니다.

샘：

어떻게 대답해야 할지조차 모르겠습니다. 그 메시지를 봤을 때 저는... 이 시점에서 공식적으로 부인해야 할 것 같아요. 그런 일은 일어나지 않았죠.

트레버：

사람들이 이 둘의 조합을 이해하지 못하기 때문에 이런 일이 일어날 가능성은 거의 없다고 생각합니다. 하지만 저에게 충격적인 점은 이번 사건의 선정성이 openai를 다른 순간에 다른 주목을 받게 한 것 같다는 것입니다.

가장 큰 것 중 하나는 팀으로부터 받는 지원입니다. 사람들이 나서서 무슨 일이 일어나더라도 우리는 sam을 지원할 것이라고 말하게 하는 것입니다. 이런 상황은 기업에서는 흔하지 않습니다. ceo와 직원은 어느 정도 단절되는 경우가 많습니다.

하지만 단순한 팀 이상의 느낌을 줍니다.

샘：

다음은 거짓 겸손이 아닙니다. 칭찬을 많이 받아주는 곳이 많아요. 하지만 이 경우에는 대변인인 것 외에는 전적으로 제 잘못이 아닙니다. 하지만 우리가 잘하는 것은 사람들에게 그 중요성을 실제로 확신시키는 사명이 있다는 것입니다.

지금 일어나고 있는 일은 우리가 열심히 일하고 많은 진전을 이루었지만 아직 할 일이 너무 많은 사명, 조직, 팀이 그렇게 실질적인 위협을 받고 있다는 것을 사람들이 깨닫고 있다는 것입니다. 그게 반응을 촉발한 것 같아요. 개인적으로 저에 관한 것은 아니지만 사람들이 저를 좋아하고 제가 일을 잘하고 있다고 생각하길 바랍니다. 이는 우리 모두가 느끼는 공유된 충성심, 일을 완수하고 목표 달성 가능성을 최대화하려는 책임감에 관한 것입니다.

트레버：

가장 높은 수준에서 임무가 무엇이라고 생각하시나요? 일반 인공지능에 도달하는 걸까요?

샘：

agi의 이점을 최대한 널리 배포하고 모든 보안 문제를 성공적으로 해결하십시오.

트레버：

이것은 흥미로운 두 번째 요점입니다. 나중에 이 문제의 안전 측면에 대해 더 깊이 논의하기 위해 대화를 나누고 싶습니다. openai를 하나의 조직으로 보면 그 탄생이 참으로 이상합니다. 틀린 내용이 있으면 지적해 주시기 바랍니다. 하지만 보안에 중점을 두고 설립된 것 같습니다. 사람들을 모아 사회의 이익을 위해 가장 윤리적인 인공 지능을 만드는 데 전념하는 조직, 회사, 집단을 시작하고 싶다고 말합니다. 회사의 이익 배분, 투자자가 이익을 얻는 방식 등에도 반영되는 것을 볼 수 있습니다.

하지만 openai도 어느 순간 바뀌었습니다. 자본주의의 세력에 저항할 수 있다고 생각하시나요? 즉, 돈이 너무 많이 들어간다는 거죠. 돈이 당신이 하는 일과 그 일을 하는 이유를 정의하지 않는 세상을 진정으로 유지할 수 있다고 생각하시나요?

샘：

이것이 하나의 요인이 되어야 합니다. 예를 들어, 이러한 시스템을 교육하는 데 드는 비용만 생각한다면 더 나은 용어가 없기 때문에 자본주의 공간에서 경쟁할 수 있는 방법을 찾아야 합니다. 그러나 나는 그것이 우리의 주요 동기가 될 것이라고 생각하지 않습니다. 그런데 나는 자본주의를 좋아한다. 제 생각엔 여기에는 큰 결함이 있다고 생각합니다. 하지만 전 세계가 시도한 다른 어떤 시스템과 비교해도 여전히 우리가 생각해낸 것 중 최고라고 생각합니다. 하지만 그렇다고 해서 우리가 더 나은 일을 하려고 노력해서는 안 된다는 뜻은 아닙니다. 저는 우리가 이 기술의 최첨단을 계속해서 발전시키는 데 필요한 막대하고 기록적인 자본을 지출할 방법을 찾을 것이라고 생각합니다. 이것은 우리가 초기에 배운 것 중 하나였습니다. 그런데 이게 생각보다 가격이 많이 비싸네요.

우리는 확장된 시스템에 대한 아이디어가 있다는 것을 알고 있었지만 그것이 어떻게 진행될지는 몰랐습니다.

트레버：

당신은 항상 확장 프로그램의 열렬한 팬이었습니다. 나는 당신에 대해 읽었습니다. 현재 당신의 주입 투자 파트너 중 한 명인 당신의 멘토는 당신이 sam에게 질문을 할 때마다 가장 먼저 떠오르는 것은 '이 문제를 어떻게 해결할 것인가?'라고 말했습니다. 어떻게 해결하나요? 그가 계속해서 말하는 두 번째는 이러한 솔루션을 어떻게 확장할 것인가입니다.

샘: 누가 그런 말을 했어요? 기억이 나지 않습니다. 나는 이름이 끔찍하다.

트레버: 흥미롭네요. 하지만 나는 그런 말을 한 사람이 당신 직장의 누군가였다는 것을 알고 있습니다.

샘:

흥미로운. 하지만 나에 대해 그런 말을 하는 사람은 들어본 적이 없습니다.

하지만 저는 이것이 다양한 회사와 분야에서 제가 관찰한 바에 따르면 규모가 종종 놀라운 결과로 이어진다는 것입니다. 따라서 이러한 ai 모델을 대규모로 확장하면 매우 놀라운 결과가 나옵니다. 대규모 확장은 모든 명백한 방식뿐만 아니라 일부 명확하지 않은 방식으로도 더 나은 결과를 제공합니다. 기업 규모를 확장하면 분명하지 않은 이점이 있습니다. y combinator와 같은 회사를 확장하면 미묘한 이점이 있습니다. 나는 이것이 심각하게 받아들여지지 않는다고 생각한다.

우리의 경우 초기 단계에서 확장하는 것이 얼마나 중요한지 아는 것이 중요합니다. 우리가 좀 더 현명하게 생각하고 좀 더 용기를 갖고 있었다면 애초에 더 큰 움직임을 보였을 것입니다. 하지만 제가 100억 달러 규모의 더 큰 컴퓨터를 만들겠다고 말하기는 정말 어렵습니다. 그래서 우리는 그렇게 하지 않았습니다. 우리는 이것을 이해해야 했던 것보다 조금 더 느렸지만 결국에는 이해하게 되었습니다. 이제 우리는 얼마나 많은 규모가 필요한지 알 수 있습니다.

자본주의는 멋있다고 생각해요. 나는 시스템에 대해 아무것도 반대하지 않습니다. 아니요, 사실이 아닙니다. 나는 이 시스템에 대해 많은 반대를 갖고 있지만 아직까지 이 시스템보다 더 좋은 것이 발견되지 않았다는 점을 인정해야 합니다.

trevor: chatgpt에 시스템을 설계할 수 있는지 문의해 보셨나요?

sam: 저는 다른 점이 있습니다. 어쩌면 새로운 시스템을 설계하지 않을 수도 있습니다. 예. 그런데 저는 ai와 자본주의가 어떻게 교차하는지, 그것이 무엇을 의미하는지에 대해 많은 질문을 합니다.

그 중 하나는 ai가 일어날 것이라는 초기 가정에 대한 가장 중요한 것에 대해 우리가 옳았다는 것입니다. 딥러닝이 가능하다는데... 그런데 많은 사람들이 이를 비웃습니다. 그게 바로 그것입니다.

트레버: 맙소사, 우리는 무자비하게 비웃음을 받았어요.

샘：

예.

이를 달성하는 방법에 대한 몇 가지 아이디어가 있음에도 불구하고 우리는 올바르게 해냈습니다. 그러나 우리는 과학에서 일반적이고 정상적인 많은 세부 사항에 대해 틀렸습니다. 언어 모델이 작동하기 전에 우리는 이 시스템 구축에 대해 매우 다른 비전을 가지고 있었습니다. 당시 우리는 agi 구축에 대해 매우 다른 개념을 갖고 있었습니다. 우리는 이것이 지속적으로 개선되고 인간처럼 대화할 수 있는 반복적인 도구가 될 것이라는 생각을 하지 못했습니다. 그래서 우리는 agi 구축에 어떤 일이 수반되는지에 대해 매우 혼란스러웠습니다. 우리는 agi 이전과 이후를 생각하고 있습니다. 그런 다음 이를 다른 시스템과 다른 거버넌스에 넘겨야 합니다.

이제는 가능하다고 생각합니다. 탐색이 더 쉬워졌다고 생각하기 때문에 매우 기쁩니다. 그럴 수 있다고 생각합니다. 단지 또 다른 도구라고 말하고 싶지는 않습니다. 왜냐하면 여러 면에서 다르기 때문입니다. 그러나 어떤 의미에서 우리는 인류를 위한 새로운 도구를 만들었습니다. 도구 상자에 몇 가지 항목을 추가했습니다. 사람들은 그것으로 온갖 놀라운 일들을 할 것이지만, 미래를 계획하는 것은 여전히 ​​인간이지 하늘에 있는 agi가 아닙니다. 이전에는 할 수 없었던 일을 할 수 있습니다. 이전에 할 수 없었던 일도 할 수 있습니다. 우리는 더 많은 것을 할 수 있습니다. 그런 의미에서 인간의 능력과 그 이상에 큰 영향을 미치는 정말 좋은 도구를 만들어 우리의 사명을 달성하는 세상을 상상할 수 있습니다. 나는 이것에 대해 매우 기대됩니다.

예를 들어, 저는 광고 없는 무료 chatgpt를 제공한다는 점을 좋아합니다. 저는 개인적으로 광고가 인터넷에서 항상 문제였다고 생각하기 때문입니다. 하지만 우리는 이 도구를 밖에 내놓았습니다. 그게 자본주의의 단점이죠, 그렇습니다. 그 중 하나입니다. 개인적으로 더 큰 단점이 있다고 생각하지만, 우리는 이 도구를 세상에 내놓고 사람들이 무료로 사용할 수 있도록 했습니다. 우리는 그것들을 제품으로 만들고 싶지 않습니다. 우리는 그들이 조금 더 사용하는 것을 원하지 않습니다. 나는 이것이 우리가 더 많은 일을 할 수 있는 흥미로운 길을 보여준다고 생각합니다.

트레버：

자, 이렇게 해보자. 대화 중에 다루고 싶은 내용이 많지만 당연히 모두 답변할 수는 없습니다. 하지만 우리가 탐구할 수 있는 몇 가지 생각과 요점, 영역이 있습니다. 내 생각에 가장 시의적절한 첫 번째 질문은 '회사의 미래에는 어떤 일이 일어날까요?'입니다. 어디로 갈 것 같나요? 제가 특히 흥미롭다고 생각하는 것 중 하나는 새 이사회의 구성입니다. 특히 openai의 경우 이사회에 여성이 있었지만 지금은 없고, 이사회 구성원에게 금전적 인센티브가 없었으나 지금은 있습니다. 여러분이 마련한 보호 장치가 이제 사라졌고 이사회가 더 이상 사람을 보호하거나 더 안전한 미래를 정의하는 데 초점을 두지 않고 돈 버는 데 초점을 맞추고 있고 최대한 크고 강해지나요?

샘：

저는 현재와 이전의 거버넌스 구조와 이사회가 몇 가지 중요한 방식으로 작동하지 않는다고 생각합니다. 그래서 저는 개선 방법을 찾는 것을 전적으로 지지하고 이를 달성하기 위한 이사회와 그들의 노력을 지원할 것입니다.

분명히 이사회는 성장하고 다양화되어야 하며, 나는 그것이 빠르게 이루어질 것이라고 생각합니다. 우리는 전통적으로 옹호되지 않았던 사람들을 대변할 사람들의 목소리를 듣고, ai 안전에 대해 매우 신중하게 생각할 뿐만 아니라 모든 사람과의 상호 작용을 구축하는 방법에 대해 과거의 교훈으로부터 배워야 합니다. 사회의 측면 이것은 매우 복잡한 시스템입니다. 나쁜 영향을 완화하고 혜택을 공유하면서 최선을 다하는 것이 모두 표현되어야 합니다.

그래서 이전에 분명히 잘못되었던 모든 것들을 바로잡을 수 있는 두 번째 기회를 얻게 되어 기쁩니다. 다양성과 같은 것들은 대표되어야 하는 모든 핵심 이해관계자 그룹을 대표하는지 확인하고 이를 보다 민주적으로 만드는 방법을 모색하며 정부가 이 기술을 관리하기 위한 몇 가지 결정을 내리도록 계속해서 추진하고 있습니다. 완벽하지 않다는 건 알지만 현재 우리가 생각할 수 있는 그 어떤 것보다 낫다고 생각합니다. 사용자 커뮤니티에 더 많이 참여하고 이들이 이 기술 사용에 대한 경계를 설정하는 데 도움을 주는 것이 중요합니다.

향후 주요 방향은 이사회와 지배구조를 확대하는 것입니다. 다시 한 번 말씀드리지만, 현재 이사회의 규모가 작다는 것은 알지만, 방금 말씀하신 모든 사항에 대해 매우 헌신적이라고 생각합니다.

그리고 또 다른 큰 범주의 질문이 있습니다. 일주일 전에 저에게 물으셨다면 저는 회사의 안정이 최우선이라고 대답했을 것입니다. 하지만 적어도 내부적으로는 꽤 기분이 좋습니다. 우리는 고객을 잃지 않았고 직원도 잃지 않았습니다. 우리는 계속해서 성장하고 있는데, 이는 정말 놀라운 일입니다. 계속해서 새로운 제품을 선보이고 있습니다. 우리의 주요 파트너십은 방해받지 않고 강화된 느낌을 받습니다. 이와 관련하여 모든 것이 계획대로 진행되었습니다. 그리고 내년 상반기의 연구와 제품 계획은 그 어느 때보다 더 좋고 목표가 더 명확하다고 생각합니다.

트레버：

저는 이사회에서 이런 일이 일어날 때마다 항상 여러분을 한 인간으로서 생각하게 됩니다. 폭풍이 몰아칠 때마다 나는 폭풍의 중심에서 무슨 일이 벌어지고 있는지 늘 관심을 갖는다. 이 모든 일이 일어났을 때 당신은 어디에 있었나요? 뭐하고 있었어? 개인적인 차원에서 당신의 세계에서는 무슨 일이 일어나고 있나요?

샘：

내가 웃는 이유는 사람들이 나에 대해 말하는 것은 내가 허리케인의 눈 속에 있는 것처럼 느껴지고 모든 것이 내 주위를 돌고 있고 여전히 매우 침착하다는 것입니다. 이번에는 상황이 예상대로 흘러가지 않았습니다.

마치 폭풍의 한가운데에 있는 것과 같지만 고요하지는 않은 경험입니다. 나는 라스베가스에서 f1 경주를 관람하고 있었습니다.

트레버: f1 팬이신가요?

샘: 그렇죠.

트레버: 어느 팀을 지지하시나요? 특별히 좋아하는 것이 있나요?

샘：

솔직히 베르스타펜은 어느 팀을 응원해야 할지 섣불리 말할 수 없을 만큼 잘하는 것 같아요. 하지만 아마도 모두가 그렇게 말할 것이라고 생각합니다.

트레버：

실제로 그것은 그들이 운동에 관심을 갖기 시작한 시점에 달려 있습니다. 나는 슈마허 팬이다. 그때부터 경주를 보기 시작했기 때문이다. 처음에는 nigel mansell이었고 그 다음에는 ayrton senna였습니다. 무슨 말인지 아시겠습니까?

verstappen은 매우 정확하며 그가 왜 그렇게 인기가 있는지 알 수 있습니다.

샘：

비록 그가 여러 번 승리하는 것을 보는 것이 조금 지쳤음에도 불구하고, 그는 정말 대단합니다.

그날 밤, 나는 목요일 늦게 도착했다. 누군가 맨홀 뚜껑을 용접하는 것을 잊어버렸기 때문에 첫 번째 랩에서 페라리 엔진 중 하나가 터지는 것처럼 터져 연습이 중단되었습니다. 나는 경기를 보지 못했고 주말 내내 어떤 행동도 보지 못했습니다.

나는 호텔방에서 전화를 받았는데, 무슨 일이 일어날지 전혀 몰랐고, 이사회에 의해 직장에서 해고당했습니다. 꿈같은 느낌이 들어서 혼란스러웠습니다. 모든 것이 혼란스럽고 현실감이 없었습니다. 분명 슬프고 괴로웠지만 당시 지배적인 감정은 혼란스러움이었고 마치 안개와 연기 속에 갇힌 듯한 느낌이었다. 나는 무슨 일이 일어나고 있는지 전혀 모른다.

이런 일이 일어난 방식은 전례가 없었고 미친 짓이었습니다. 그 후 30분 동안 내 전화기에 너무 많은 메시지가 수신되어 imessage가 내 전화기에서 충돌했습니다. 이 메시지는 모든 사람에게서 왔고 알림이 계속 표시되면서 전화기를 완전히 사용할 수 없게 되었습니다. imessage가 잠시 멈추는 지경에 이르렀고, 메시지가 지연되고, 모든 메시지가 읽음으로 표시되어 누구와 통화하고 있는지조차 알 수 없어 혼란스러웠습니다.

나는 무슨 일이 일어나고 있는지 알아내려고 여기 팀과 이야기를 나누고 있었습니다. 마찬가지로 microsoft도 통화 중이고 다른 당사자도 연락 중입니다. 모든 상황은 정말 불안했고 현실감이 없었습니다. 나는 조금 진정하고 미래에 대해 생각하기 시작했습니다. 저는 agi(artificial general intelligence) 분야에서 일하고 싶습니다. 처음에는 할 수 없어도 계속해서 노력하겠습니다. 최선의 접근 방식을 생각하고 있습니다.

greg가 그만뒀고, 다른 몇몇 사람들도 그만뒀고, 나는 나와 함께 일하고 싶어하는 사람들로부터 홍수처럼 메시지를 받기 시작했습니다. 그 당시에는 openai로 돌아가는 것이 전혀 마음에 들지 않았습니다. 나는 미래가 어떻게 될지 상상할 수 있지만, 뉴스를 실제로 보지 않기 때문에 이것이 업계에서 얼마나 큰 사건인지 잘 이해하지 못합니다. 엄청난 양의 메시지가 수신되고 있음을 느낄 수 있습니다.

트레버：

왜냐하면 당신은 말 그대로 폭풍의 한가운데에 있기 때문입니다.

샘：

예. 저는 단지 openai를 지원하고, 다음에 무엇을 해야 할지 파악하고, 무슨 일이 일어나고 있는지 이해하려고 노력하고 싶습니다. 그런 다음 캘리포니아로 돌아가 몇몇 사람들을 만났고 미래에 대해 매우 집중하기 시작했습니다. 하지만 저는 또한 openai가 최선을 다하길 바랍니다. 거의 밤새도록 잠을 거의 자지 못했고 동시에 많은 이야기가 이어졌습니다. 그 뒤를 이어 미친 주말이 이어졌습니다. 나는 아직도 그 모든 것을 완전히 이해하지 못했고 여전히 약간 흔들리고 조각을 찾으려고 노력하고 있다고 확신합니다. 앉아서 처리할 시간이 있을 때 그것에 대해 더 많이 느낄 것이라고 확신합니다.

트레버：

모든 일을 한꺼번에 다시 시작해야 한다고 생각하시나요? 왜냐하면 당신 말에 따르면 당신은 이 임무를 수행하고 있기 때문입니다. 당신은 당신의 눈에서 추진력을 볼 수 있고 세상은 돌아올 수 없는 지점에 도달했습니다. 특정한 방향으로 가고 있는데 갑자기 자신이 속한 분야에서는 그것을 이룰 수 없을 것 같은 느낌이 든다. 그러나 당신이 말했듯이 microsoft가 개입했고 satya nadella는 우리와 함께 일하면 팀을 재구축할 것이라고 말했습니다.

사람들이 sam altman에 대해 동의하는 것이 있다면 그가 끈기 있다는 것입니다. 그는 타협하지 않으며 목표가 있고 무언가를 믿는다면 삶이 방해가 되어서는 안 된다고 믿습니다. 그리고 당신은 그 방향으로 가고 있는 것 같습니다. 귀하는 openai에 대해 공개적으로 언급하지 않았거나 어떤 식으로든 이를 비난하지 않았습니다. 하지만 그것이 당신에게 큰 부담을 주는 것 같습니다.

샘：

틀림없이. 회복할 수 없는 일은 아닌 것 같지만, 이 일을 겪고 영향을 받지 않는 것은 불가능하다고 생각하는데, 그게 참 이상할 것 같아요.

트레버：

자신의 일부를 잃어버린 것 같은 느낌이 드나요?

샘：

예. 우리는 2015년 말에 openai를 시작했습니다. 실제로 첫 근무일은 2016년에 시작되었습니다.

저는 한동안 yc에서 이 일을 해왔지만, 2019년 초부터 풀타임으로 이 일을 해왔습니다. agi와 가족은 제가 가장 걱정하는 두 가지입니다. 그래서 그 중 하나를 잃으면 어떤 의미에서는 agi에 더 헌신하고 임무에 더 관심을 갖게 되었다고 말해야 합니다. 하지만 물론 저는 이 조직, 이 사람들, 사용자, 주주 및 우리가 여기서 구축하는 모든 것에 관심을 갖고 있습니다. 그래서 정말 고통스러웠어요.

내가 비교할 수 있는 유일한 인생 경험은 아버지가 돌아가셨을 때인데, 물론 그 일은 훨씬 더 나빴습니다. 그것은 매우 갑작스러운 일이었습니다. 혼란과 상실감이었죠. 그런 경우에는 모든 것을 받아들일 시간이 조금 있는 것 같았습니다. 하지만 앞으로 나올 일이 너무 많았고 예상치 못한 일이어서 잠시 동안 그의 삶의 조각을 집어들어야 했습니다. 그 후 약 일주일이 지나서야 나는 정말로 숨을 쉬며 '오 마이 갓, 이런 일이 일어나고 있다는 것을 믿을 수 없습니다'라고 생각할 시간을 가졌습니다. 네, 확실히 훨씬 더 나쁩니다. 그런데 여기에도 비슷한 메아리가 있습니다.

트레버：

회사의 미래와 그 안에서 귀하의 역할을 살펴보면서 현재 개방형 ai를 추진하는 것과 귀하가 믿는 방향으로 계속해서 움직이는 것 사이에서 균형을 어떻게 찾으십니까? 아직도 비상 브레이크가 있나요? 우리가 사회에 나쁜 영향을 미칠 수 있는 무언가를 만들고 있다고 느낄 때, 우리가 개입하여 그 행동을 중단시키는 일종의 시스템이 회사 내에 있습니까? 당신에게 이런 능력이 있나요? 그리고 이 시스템이 내장되어 있나요?

샘：

물론이죠. 과거에도 이런 시스템이 있었습니다. 예를 들어 일부 시스템을 생성했지만 배포하지 않기로 결정했습니다. 나는 우리가 앞으로도 이런 일을 다시 할 것이라고 믿습니다. 또는 시스템을 만들고 배포하기 전에 보안을 유지하는 데 시간이 조금 더 필요하다고 말합니다. gpt-4의 경우와 마찬가지로 모든 정렬 및 보안 테스트를 포함하여 출시 준비가 되기 전에 교육을 완료하는 데 거의 8개월이 걸렸습니다. 몇몇 팀원들과 이야기를 나눴던 기억이 납니다. 이것은 이사회의 결정이 아니었습니다. 이곳 사람들은 자신의 일을 하고 우리의 사명에 헌신하고 있었습니다. 그래서 이것은 계속될 것입니다.

제가 이 팀을 매우 자랑스럽게 생각하는 점은 혼돈, 위기, 불확실성 및 스트레스 속에서도 잘 기능할 수 있는 능력입니다. 나는 그들에게 a+를 주었고 그들은 훌륭한 일을 했습니다. 더욱 강력하고 매우 강력한 시스템에 가까워질수록 위기 상황에서 침착함을 유지하고 신중하고 올바른 결정을 내리는 것과 같이 우리가 구축하는 팀의 문화와 능력이 아마도 가장 중요한 요소라고 생각합니다. 저는 여기 팀이 그렇게 할 수 있다는 것을 실제로 증명했다고 생각합니다. 이는 정말 중요합니다.

누군가는 우리가 openai에 대해 배운 것 중 하나가 sam이 직위 없이도 회사를 운영할 수 있다는 것이라고 말했습니다. 나는 그것이 완전히 틀렸고 전혀 사실이 아니라고 생각합니다. 나 없이도 회사가 운영될 수 있다는 것이 올바른 교훈이었습니다. 이것은 문화 문제이며 팀은 준비가 되어 있고 문화도 준비되어 있습니다. 저는 이 일이 매우 자랑스럽고 돌아와서 계속 이 일을 하게 되어 정말 기쁩니다.

팀이 모든 것을 관리하는 것을 지켜보는 것은 앞으로의 어려움에 직면할 때 밤에 잠을 더 잘 잘 수 있도록 도와줍니다. 앞으로는 이보다 더 큰 도전이 있겠지만, 아직 준비가 되어 있지 않기 때문에 이것이 가장 어려운 도전이기를 바라고 믿습니다. 이제 우리는 그 중요성을 깨닫습니다. 우리는 단순한 회사가 아닙니다.

트레버：

이것에 대해 이야기합시다. chatgpt, openai 등 무엇이든 호출됩니다. dall·e, whisper 등 놀라운 제품이 모두 있습니다. 브랜드 이름이나 브랜드 아키텍처에 대한 아이디어가 있다면 매우 관심이 있을 것입니다. chatgpt가 그런 일을 해냈고 이제는 어디든 있는 것 같아요. 예, 끔찍한 이름입니다. 하지만 너무 흔해져서 변경할 수 없게 되었을 수도 있습니다. 이번에는 바뀔 수 있을 것 같나요? gpt로 단순화할 수 있나요? 아니면 채팅만 할 수 있나요?

샘：

어쩌면 아닐지도 모르겠습니다.

트레버：

때로는 제품, 이름, 아이디어가 마케팅 담당자의 꿈을 초월하고 사람들이 이를 받아들이는 것처럼 느껴질 때가 있습니다.

샘：

어떤 마케터도 chatgpt를 이 이름으로 선택하지는 않을 것입니다. 하지만 우리는 아마도 그 이름을 고수하고 있을 것입니다. 아마 괜찮을 것입니다.

트레버：

이제 저는 그것의 다양한 특성에 매료되었습니다. dall·e가 처음 나왔을 때 그것은 단지 아이디어에 불과했고 그것이 어떻게 작동하는지 보고 이 프로그램이 무에서 이미지를 만들 수 있다는 것을 알았던 것을 아직도 기억합니다. 나는 사람들에게 그것을 설명하려고 노력했고 그들은 그 이미지가 어디서 왔느냐고 묻습니다. 사진도 없고 원본 이미지도 없는 것 같았어요. 그들은 그것이 불가능하다고 생각합니다.

그 당시에는 설명하기 어려운 뭔가가 보였습니다. 때로는 나조차도 그것을 이해하는 데 어려움을 겪습니다. 하지만 우리가 현재 살고 있는 세상을 보면 gpt 3.5, gpt 4, gpt 5, 6, 7 등 숫자로 이야기합니다. 저는 기술적인 전문 용어를 배제한 방식으로 제품의 실제 사용 사례에 대해 더 많이 이야기하고 싶습니다.

chatgpt 3, 3.5에서 4까지 다양한 제품 사이에서 소위 추론 기능이 더 높은 수준에 도달하고 어느 정도 창의성을 입증하는 것을 볼 수 있습니다.

범용 대형 언어 모델과 특수 대형 언어 모델 등 지금 만들고 있는 이 세상의 제품을 보면 사용 사례가 극적으로 변할 것이라고 생각하시나요? 이제는 모두가 좋아하는 작은 챗봇에 불과하다고 생각하시나요? 이것이 제품의 최종 형태인가요? 아니면 모든 것이 특화된 gpt를 갖는 세상이 될 것이라고 생각하시나요? 예를 들어, trevor는 그를 대신하여 작업을 수행하는 gpt를 갖게 되며, 특정 회사에는 trevor를 대신하여 작업을 수행하는 gpt가 있게 됩니다. 이 문제에 대해 어떻게 생각하시나요?

물론 미래를 예측하는 것은 어렵다. 하지만 지금 우리가 있는 곳에서 그것이 어디로 흘러갈 것이라고 보시나요?

샘：

내 생각엔 이 둘이 섞일 것 같아요. 미래를 예측한다는 것은 정말 어려운 일이고 제가 틀릴 수도 있지만 그래도 시도해 볼 의향이 있습니다. 방금 말씀하신 두 가지가 혼합된 결과가 될 것 같아요. 첫째, 기본 모델이 너무 좋아서 할 수 없는 것이 없다고 자신있게 말하기 어려울 것입니다. 오랜 시간이 걸리겠지만 우리는 그 방향으로 나아가고 있다고 생각합니다.

트레버：

당신의 시간 틀에서 "긴 시간"은 얼마나 긴 시간입니까? 어떻게 측정하나요?

샘：

앞으로 몇 년 안에는 아닙니다. 앞으로 몇 년 동안은 매년 좋아질 것입니다. 하지만 제가 말하려고 했던 것처럼 2026년까지는 이 모델이 할 수 없는 일이 여전히 많을 것이라고 확신합니다.

트레버：

그런데 이 모델이 계속 놀라지 않나요? 이 분야에 종사하는 엔지니어나 ai 관련 관계자와 대화할 때 가장 많이 나오는 단어는 '놀라움'이다. 사람들은 chatgpt가 현장에 대해 배우고 있다고 생각하면서 이것을 가르친다고 계속 말합니다. 갑자기 새로운 언어를 말하기 시작합니다. 아니면 우리가 이것을 가르치고 있다고 생각했는데 갑자기 다리를 놓는 그런 종류의 일이죠.

샘：

따라서 이곳에 있는 대부분의 사람들의 주관적인 경험은 아마도 2019년에서 2022년 사이의 어느 시점일 것입니다. 하지만 이제는 놀라지 않는 법을 배운 것 같아요. 요즘 우리의 신뢰는 기하급수적으로 증가했고 대부분의 사람들은 그렇게 생각합니다. 따라서 gpt-5는 우리가 뭐라고 부르든 여러 측면에서 탁월할 것입니다. 우리는 그것이 할 수 있는 특정한 일들에 놀라게 될 것이고, 또한 할 수 없는 것에 대해서도 놀라게 될 것입니다. 그것이 얼마나 좋은지 아무도 놀라지 않을 것입니다. 이 시점에서 우리는 이것에 대해 정말 깊은 이해를 갖고 있다고 생각합니다.

두 번째로 언급하신 것은 맞춤 gpt입니다. 더 중요한 것은 trevor gpt와 같은 개인 gpt도 언급하셨다는 점입니다. 나는 이것이 앞으로 몇 년 안에 큰 추세가 될 것이라고 생각합니다. 이러한 모델은 귀하에 대해 학습하고, 귀하의 개인 데이터에 액세스하고, 귀하가 원하는 방식으로 질문에 답변하고, 귀하의 환경에서 매우 효율적으로 작업합니다. 많은 사람들이 이것을 원할 것이라고 생각합니다.

트레버：

새로운 노동 시장에서 귀하의 gpt가 거의 이력서가 된다면 gpt가 거의 이상하게도 귀하보다 더 가치가 있다는 사실이 궁금합니다. 당신은 나를 이해합니까? 그것은 당신이 생각하는 모든 것, 지금까지 생각해 본 모든 것, 아이디어를 종합하는 방식, 그리고 개인 gpt가 합쳐진 것과 같습니다... 나는 단지 미친 미래에 대해 생각하고 있습니다. 직업을 묻는 질문에 gpt는 얼마입니까? 그리고 당신은 '좋아, 이건 내 꺼야'라고 말합니다.

샘：

우리는 항상 이것을 에이전시, 개인화된 에이전시라고 생각합니다. 저는 이것이 저를 위해 일하도록 할 것입니다. 하지만 이것에 대해 당신이 말하는 것은 그것이 그런 것이 아니라 다른 사람들이 당신과 어떻게 상호 작용하는지에 관한 것입니다. 오른쪽. 그것은 당신의 인상, 당신의 아바타, 당신의 메아리 등과 같습니다. 그 정도까지 가는 걸 볼 수 있었어요.

트레버：

왜냐하면 우리가 우리의 모든 것의 조합이 아니라면 우리는 무엇입니까? 이상한 생각이지만 믿을 수 있습니다. 나는 항상 그것이 어디로 갈 수 있고 무엇을 할 수 있는지에 매료되었습니다.

이유를 아시나요? chatgpt가 처음 몇 주 만에 폭발했을 때 사람들이 로봇 혁명을 얼마나 빨리 깨달았는지 결코 잊지 못할 것입니다. 로봇이 아니라는 것은 알지만 사람들에게는 로봇 혁명과 같았습니다. 기계는 대체되지 않았습니다. 대체될 잡스가 무엇이라고 생각했는지. 사람들은 그것이 트럭 운전사 등을 대체할 것이라고 생각했습니다. 그러나 우리는 그렇지 않다는 사실을 발견했습니다. 실제로 그러한 직업은 대체하기가 더 어렵습니다. 실제로 소위 '두뇌 직업'으로 대체되는 직업은 화이트칼라 직업과 같은 직업입니다. 당신은 변호사입니까? 글쎄요, chatgpt 5, 6, 7을 사용하면 뭐라고 부르든 변호사가 많이 필요하지 않을 수 있습니다. 당신은 엔지니어이고 당신의 위치는 무엇입니까? 인체는 정말 놀라운 것입니다.

인체를 대체할 수 있는 발전이 있다고 생각하시나요? 아니면 우리는 여전히 영적인 영역에 있습니까?

샘：

아니요, 인간형 로봇이 결국 작동하는 것처럼 우리도 결국 로봇을 작동하게 할 것이라고 생각합니다. 하지만 우리는 openai 초기 단계에서 이 작업을 진행 중이었고 로봇 프로젝트를 진행했습니다. 나는 이것을 모른다.

우리는 루빅스 큐브를 손처럼 조작할 수 있는 로봇 손을 만들었다는 것을 알고 있습니다. 이를 위해서는 많은 유연성이 필요합니다. 저는 다양한 통찰력이 관련되어 있다고 생각합니다. 그중 하나는 원자 세계보다 비트 세계에서 발전하는 것이 훨씬 쉽다는 것입니다.

예를 들어, 이 로봇은 만들기가 어렵지만 잘못된 이유가 있습니다. 어려운 점은 이것이 우리가 까다로운 연구 문제를 해결하는 데 도움이 된다는 것이 아니라 로봇이 계속 고장나고 정확도가 떨어지며 시뮬레이터가 형편없다는 것입니다. 언어 모델을 사용하면 이러한 모든 작업을 가상 환경에서 수행할 수 있으므로 훨씬 빠르게 진행할 수 있습니다. 따라서 인지적 측면에 집중하면 보다 생산적인 문제를 더 빨리 해결하는 데 도움이 됩니다.

하지만 그것도 매우 중요한 측면이고, 인지과제를 해결하는 것이 더 중요한 문제라고 생각합니다. 예를 들어, 로봇을 만든다고 해서 인지 작업을 수행하는 시스템을 구축하는 데 도움이 되는 방법을 반드시 알아낼 필요는 없습니다. 그러나 인지 작업을 수행하는 시스템을 만들면 더 나은 로봇을 만드는 방법을 찾는 데 도움이 될 수 있습니다.

네, 그렇군요. 그래서 저는 인지가 우리가 집중하고 싶은 핵심이라고 생각합니다. 나는 이것이 올바른 결정이라고 생각합니다. 그래도 로봇 공학으로 돌아갈 수 있기를 바랍니다.

트레버：

인공 일반 지능이 언제 달성되었다고 생각할지 궁금한 적이 있습니까? 예를 들어, 우리가 어떻게 알 수 있나요? 개인적으로? 예를 들어, 언제 작업이 완료되었다고 느끼나요?

샘：

모두가 일반 인공지능에 대해 이야기하는데, 그것이 무엇인지 어떻게 알 수 있는지 묻고 싶습니다. 그래서 이전 요점으로 돌아가서 모든 사람이 다른 정의를 가지고 있습니다. 제가 개인적으로 너무 흥분되면 말씀드리겠습니다. 새로운 물리학을 발견하는 데 도움이 되는 시스템이 있으면 정말 기쁩니다. 그러나 이것은 일반적인 지능을 훨씬 넘어서는 것처럼 느껴집니다. 무슨 말인지 아시겠어요? 이것은 대부분의 사람들이 정의할 것이라고 생각하는 것 이상입니다.

트레버：

아마도 이것은 일반 지능을 어떻게 정의할 수 있을까?라는 의문이 들 때가 있기 때문일 것입니다. 특정 분야의 천재라고 정의할 수 있나요? 아니면 아이가 인공 일반 지능이 되는 것처럼요? 그건 확실해요. 하지만 계속 프로그래밍해야 하는데, 태어나도 말을 할 수 없고 걸을 수도 없고 아무것도 모릅니다. 그리고 이 agi를 필요한 곳으로 가져갈 수 있도록 계속 프로그래밍합니다.

예를 들어, 네 살짜리 아이의 버전이 있는 지점에 도달한다고 가정해 보겠습니다.

샘：

우리가 이와 같이 부모의 도움을 받아 자율적으로 작동할 수 있고, 네 살짜리 아이처럼 세상을 이해할 수 있는 시스템이 있다면 어떨까요? 예, agi라고 부를 수 있습니다. 만약 우리가 실제로 그 보편적인 능력을 다룰 수 있다면, 새로운 문제가 발생할 때 우리 스스로 그것을 알아낼 수 있을 것입니다. 4살 아이들이 항상 사물을 완벽하게 이해하는 것은 아니지만 그때쯤이면 우리는 분명히 이해했습니다.

트레버：

사고와 사고의 본질을 근본적으로 이해하지 않고도 그 지점에 도달할 수 있습니까? 가능할 것 같습니다. 우리가 그 지점에 도달할 수 있다고 생각하시나요? 내 생각엔 괜찮은 것 같아. 아니면 우리는 ... 그래서 당신이 이것을 알고 있다고 확신합니다.

ai 분야에서 제가 가장 좋아하는 이야기 중 하나는 microsoft의 프로젝트입니다. 그들은 남성과 여성의 얼굴을 식별하는 방법을 배우려고 하는 ai를 가지고 있는데 그것은 매우 정확합니다. 약 99.9% 정확합니다. 그러나 흑인, 특히 흑인 여성의 경우에는 항상 제대로 표현되지 않았으며 끊임없이 남성으로 착각했습니다. 연구자들은 항상 개선하려고 노력하고 있으며 항상 무슨 일이 일어나고 있는지 생각하고 있습니다.

한동안은 이렇게 이야기를 했습니다. 조금 부정확할 수도 있지만 저는 흥미로웠습니다. 아프리카에 ai를 '보냈던' 시절이 있었는데, 케냐였던 것 같아요. 그들은 ai를 아프리카에 보낸 뒤 케냐 연구팀에게 이 문제를 해결하기 위해 잠시 사용해도 될까요?라고 말했습니다. 이 ai가 데이터 세트와 아프리카인의 얼굴을 사용하여 세계 반대편에서 실행되었을 때 특히 흑인 여성을 식별하는 데 점점 더 정확해졌습니다.

그러나 결국 그들은 ai가 남성과 여성의 얼굴 차이를 전혀 알지 못한다는 사실을 발견했습니다. 그것이 하는 일은 메이크업 간의 상관관계를 그리는 것뿐입니다. 그 결과 ai는 붉은 입술과 장밋빛 뺨, 아마도 푸른 눈꺼풀을 가진 사람이 여성이고 나머지는 남성이라고 판단했다. 연구자들은 네, 당신 말이 맞다고 말합니다. 방금 "치트 코드"라는 것을 발견했습니다. 즉, 남성과 여성에 대한 당신의 기준이 무엇인지 이해하고 그 기준에 따라 차별화됩니다.

그리고 나서 그들은 흑인 여성들이 일반적으로 화장에 있어서 충분한 대우를 받지 못하기 때문에 화장을 많이 하지 않기 때문에 시스템이 그것을 인식하지 못한다는 것을 깨달았습니다. 하지만 시스템이 모른다는 사실을 우리는 모릅니다. 그래서 저는 agi가 무언가를 알고 있는지, 모르는지 어떻게 알 수 있을까? 아니면 어떤 식으로든 답을 찾기 위해 속임수를 썼다는 사실을 발견하게 될까요? 우리는 어떻게 알 수 있나요?

이러한 불확실성이 우리 삶의 여러 측면과 얽혀 있을 때, 우리의 무지로 인한 대가는 얼마나 됩니까? 이해했나요?

샘：

저는 이러한 시스템이 수행하는 작업을 이해하는 데 진전이 있을 것이라고 믿습니다. 현재 해석 가능성이 어느 정도 향상되었습니다. 이는 이러한 모델에 대한 연구 영역이며, 이 연구가 수행될 수 있는 방법과 수준은 다양합니다. 시스템의 각 인공 뉴런이 무엇을 하는지 이해하려고 노력할 수도 있고, 시스템이 단계별로 생각하는 것을 지켜보고 어떤 단계에 동의하지 않는지 확인할 수도 있습니다. 우리는 더 많은 것을 알아낼 것입니다.

이러한 시스템이 수행하는 작업을 이해하고 특정 결론에 도달한 이유를 정확하고 강력하게 설명할 수 있는 능력입니다. 저는 우리가 이러한 시스템이 수행하는 작업을 이해하는 것뿐만 아니라 우리 자신의 두뇌가 수행하는 작업을 이해하는 데에도 진전이 있을 것이라고 생각합니다. 그래서 나는 우리가 결국 그것을 이해하게 될 것이라고 생각합니다. 나는 궁금하고 당신도 그럴 것이라고 확신합니다.

제 생각에는 이러한 시스템을 더욱 개선하고 설명 가능성 문제를 해결하는 데 도움이 되는 방법을 구현하는 데 더 많은 진전을 이룰 것입니다. 그리고 이러한 시스템이 더욱 똑똑해지면 속는 일이 줄어들 것이라고 생각합니다. 따라서 더 복잡한 시스템에서는 그러한 외관상 구별을 하지 않을 수 있으며 더 깊은 수준에서 학습할 수 있습니다. 나는 우리가 그런 일이 일어나고 있다는 증거를 보고 있다고 생각합니다.

트레버：

그렇게 쉽게 속지 않는다고 말씀하실 때 두 가지 생각이 들었습니다. 하나는 안전성 측면이고, 다른 하나는 정확성 측면이다. 언론에서는 이에 대해 이야기했습니다. 기억하세요, 그들은 ai가 환각을 일으키고 있었고 그것이 나를 죽일 것이라고 생각했다고 말했습니다. 나는 사람들이 대규모 언어 모델을 설명하기 위해 "사고"라는 단어를 사용하는 것을 좋아한다는 점이 특히 흥미롭다고 생각합니다. 왜냐하면 저는 언론인들이 보도하기 전에 그것이 무엇을 하고 있는지 이해하려고 노력해야 한다고 항상 느끼기 때문입니다. 하지만 '생각하다'라는 표현을 많이 사용하다 보면 오히려 대중에게 오해를 불러일으키는 경우가 있다. 나는 그것에 대해 동정심을 가지고 있습니다.

샘：

우리는 친숙한 용어를 사용해야 하고, 의인화해야 합니다. 그러나 나는 이것이 오해의 소지가 있다는 점에 동의합니다.

트레버：

왜냐하면 그것이 생각하고 있다고 말하면 사람들은 '그것이 나를 죽일 생각인가?'라고 생각할 것이기 때문입니다. 그것은 사실이 아니며, 생각하는 것이 아닙니다. 단지 이 마법의 변환기를 사용하여 어떤 단어가 서로 가장 잘 어울리는지 알아내는 것뿐입니다.

샘: 지금 뭐하고 있는 것 같아?

트레버：

내가 뭘 하고 있는 거지? 이것은 흥미로운 질문입니다. 내가 말하는 것은 우리가 함께 엮은 아이디어입니다.

우리는 "환각"에 대해 이야기합니다. 전반전부터 시작하겠습니다. ai를 환각에 빠지지 않게 만드는 목표를 달성할 수 있다고 생각하시나요?

샘：

더 나은 질문은 인간이 환각을 일으키지 않는 빈도와 비슷한 빈도로 ai가 원하지 않을 때 환각을 일으키지 않도록 할 수 있느냐는 것입니다. 이에 대해 내 대답은 '그렇다'이다. 하지만 실제로 사람들이 이러한 시스템을 좋아하는 이유 중 하나는 새로운 일을 할 수 있는 능력입니다. 그렇다면... 예, 환각은 기능이자 버그입니다.

트레버：

내가 방금 물어본 것이 바로 그것이다. 환각은 지적 존재의 일부가 아닌가?

샘：

완전히.

예를 들어 ai 연구자가 일하는 방식을 생각해보면 그들은 많은 데이터를 보고, 몇 가지 아이디어를 내고, 많은 것을 읽은 다음, 어쩌면 이것저것 생각하기 시작합니다. 아마도 이 실험을 해봐야 할 것 같아요. 이제 데이터가 생겼습니다. 그래서 그것은 잘 작동하지 않습니다. 이제 나는이 새로운 아이디어를 생각해 낼 것입니다.

새로운 가설, 새로운 설명을 생각해내는 인간의 능력은 이전에는 존재한 적이 없으며 대부분은 틀렸지만 어떤 것이 합리적일 수 있고 궁극적으로 의미가 있는지 알아내는 프로세스와 피드백 루프가 있습니다. 이것은 인류 진보의 핵심 요소 중 하나입니다.

트레버：

인공지능이 쓰레기 입력과 쓰레기 출력을 방지하려면 어떻게 해야 할까요? 현재 인공지능은 인간이 어떤 방식으로든 생성한 정보를 바탕으로 작동한다. 우리가 배울 수 있다고 생각하는 자료로부터 배우는 것입니다. open ai, anthropic, lambda 등과 같은 모든 새로운 것들이 지금 나오고 있기 때문에 우리는 인간보다 ai가 더 많은 정보를 생성하고 해당 정보가 제대로 조사되지 않는 세계로 진입할 수 있는 것처럼 느껴집니다.

그렇다면 ai가 검열되지 않는 방식으로 스스로 학습하면 ai가 더 좋아질까요? 당신은 나를 이해합니까?

샘：

완전히 이해합니다.

이 문제를 어떻게 해결합니까? 이는 다양한 상황에서 어떻게 행동해야 하는지 아는 문제로 돌아갑니다. 예를 들어, 창작 과정에서는 환상을 원하지만 사건의 정확한 사실을 보고하려고 할 때는 환상을 원하지 않습니다. 그리고 이제 이러한 시스템은 중요한 의미에서 아름다운 새로운 이미지, 어떤 면에서는 환상적이지만 좋은 환상인 이미지를 생성할 수 있습니다. 그러나 시스템이 사실만 제공하기를 원할 때 다시 한 번 훨씬 더 좋아졌지만 그 점에 있어서는 아직 갈 길이 멉니다.

그것은 중요하지 않습니다. 이러한 시스템이 어떤 데이터가 좋고 어떤 데이터가 나쁜지 학습하는 프로세스가 있는 한, 이러한 시스템이 자체적으로 생성된 데이터에 대해 교육을 받는 것은 좋은 일이라고 생각합니다. 다시 말하지만, "환각"은 이 과정에 대한 설명이 충분하지 않습니다. 왜냐하면 그것이 새로운 과학적 아이디어를 불러일으켰다면 이러한 아이디어는 처음에는 "환각"으로 간주될 수 있기 때문입니다. 이것은 가치 있는 일입니다.

하지만 무엇이 좋은지 무엇이 나쁜지 알 수 있습니다. 그리고 우리 모두가 이러한 일이 어디로 가는지 집단적으로 통제할 수 있도록 충분한 인간 감독이 필요합니다. 하지만 이러한 제약 속에서 시스템이 생성된 데이터를 사용하여 훈련되고 미래의 시스템도 동일한 작업을 수행한다는 점은 매우 좋다고 생각합니다.

그리고 나서 제가 생각했던 또 다른 사실을 상기시켜 주셨는데, 저는 그것을 어떻게 계산해야 할지 잘 모르겠지만, 예를 들어 gpt-5나 6과 같은 시스템이 어느 시점에는 다음을 생성할 수 있을지 궁금합니다. 인간의 모든 역사를 합친 것보다 더 많은 단어. 이것은 중요한 이정표처럼 느껴집니다.

사실 지금 말해도 별 상관 없을 것 같아요.

트레버：

어떤 방식으로 생성되었나요?

샘：

예를 들어, 모델은 1년에 전체 인류보다 더 많은 단어를 생성합니다. 세상에는 80억 명의 사람이 있습니다. 그 숫자가 무엇이든 상관없습니다. 연간 평균 사용 단어 수를 계산할 수 있습니다.

그러나 문제는 이것이 우리를 어디로 떠나게 하는가 하는 것입니다. 그래서 말하고 나서 깜짝 놀랐어요. 어떤 이유에서인지 이것은 나에게 중요한 이정표처럼 보이지만 구체적인 이유는 생각나지 않습니다.

트레버：

어쩌면 인간은 항상 타자를 치는 원숭이와 같을지도 모릅니다. 그래서 탐구해 볼 가치가 있다고 생각합니다.

샘：

하지만 나는 당신이 옳고 이 단어를 사용해서는 안 된다고 생각하기 때문에 '생각'이라는 단어를 사용하지 않습니다. 어쩌면 우리는 ai가 생성한 단어 수와 모든 인간이 생성한 단어 수를 말할 수 있습니다.

트레버：

이제 막 끝나려고 해요. 그래서 몇 가지 질문을 하고 싶은데, 질문하지 않으면 사람들이 나를 죽일 것입니다.

주요 질문 중 하나이자 이것이 제 개인적인 질문입니다. 우리는 항상 데이터에서 학습하는 ai에 대해 이야기하고 데이터 세트에 입력된다는 것입니다. 그것이 바로 우리가 말하는 것입니다. 이것이 바로 컴퓨터가 학습할 수 있도록 수십억 달러 규모의 슈퍼컴퓨터가 필요한 이유입니다.

분명히 결함이 있는 데이터를 제공하는 사람보다 ai가 더 잘 생각하도록 어떻게 가르칠 수 있을까요? 예를 들어, ai는 우리에게 주어진 제한된 데이터를 넘어서 어떻게 학습합니까? 인종, 경제적 지위 및 인식과 관련하여 우리는 제한되어 있으므로 주어진 제한된 데이터에 의해 제한되지 않도록 어떻게 가르칠 수 있습니까?

샘：

아직은 모르지만 인간 데이터를 능가하는 방법은 우리 앞에 놓인 가장 큰 연구 방향 중 하나입니다. 1년 후에 다시 이 q&a를 하게 된다면 답을 말씀드릴 수 있지 않을까 싶지만 아직은 모르겠습니다. 우리는 그것이 정말로 중요한지 몰랐습니다.

하지만 저는 이것이 전 세계의 불의에 맞서 싸우는 데 중요한 힘이 될 것이라고 믿습니다. 나는 이러한 시스템에 모든 인간이 공유하는 심각한 결함이 있을 것이라고 생각하지 않습니다. 그들은 인종차별, 성차별, 편견을 훨씬 덜하게 될 것입니다. 그들은 세계 경제 정의를 위한 힘이 될 것입니다.

좋은 ai 멘토나 훌륭한 ai 의료 조언자를 제공한다면 비록 그것이 모든 사람을 고양시키는 데 도움이 되더라도 세상의 가장 가난한 절반에게 더 많은 도움이 될 것이라고 생각합니다.

따라서 저는 귀하가 제기한 과학적 질문에 대한 명확한 답을 갖고 있지 않습니다. 하지만 현 시점에서 저는 이러한 시스템이 확실히 가능하다고 믿습니다. 그리고 우리는 이를 현실로 만들기 위해 열심히 사회적 노력을 해야 합니다. 지구는 세상에 정의를 촉진합니다.

트레버：

어쩌면 그것은 두 번째 질문, 즉 '당신은 무엇을 하고 있나요?'로 완벽하게 연결될 수 있습니다. openai는 무엇을 하고 있나요? 이 신기술로 인해 다시 한번 발생하는 빈부격차를 완화하기 위한 조치를 고려하고 있나요?

모든 새로운 기술의 출현은 사회 전체에 놀라운 일이지만, 그것이 있으면 모든 것을 가질 수 있는 순간이 만들어질 것이라는 점은 부인할 수 없습니다. 그렇지 않으면 아웃됩니다.

샘：

시간이 지나면서 더 많은 것을 배우게 될 것이라고 생각하지만, 지금 당장은 우리가 하는 정말 중요한 일 중 하나가 진정한 무료 서비스를 제공하는 것이라고 생각합니다. 이는 광고 지원이 없으며 매주 1억 명이 넘는 사람들이 사용하는 무료 서비스만 의미합니다. 그리고 일부 국가에서는 여전히 차단되어 있거나 여전히 차단되어 있기 때문에 누구에게나 말하기는 어렵습니다. 하지만 우리는 가능한 모든 곳에서 누구나 액세스할 수 있는 고품질의 사용하기 쉬운 서비스를 만들기 위해 노력하고 있습니다. 우리 각자에게 중요한 무료 인공 지능.

이 기술로 우리가 하고 싶은 다른 일이 있다고 생각합니다. 예를 들어, 인공 지능을 사용하여 질병을 치료하고 그러한 치료법을 전 세계에 제공할 수 있다면 이는 분명히 유익하지만 이 도구를 가능한 한 많은 사람들의 손에 제공하고 그들이 미래를 건설하는 데 사용할 수 있도록 하는 것은 매우 중요합니다. 그리고 저는 우리가 이것을 더욱 발전시킬 수 있다고 생각합니다.

트레버: 두 가지 질문이 더 있습니다.

샘: 하나 더 추가해도 될까요?

트레버: 시간은 모두 당신의 것입니다.

샘：

제가 중요하다고 생각하는 또 다른 점은 이러한 시스템이 말하는 것과 말하지 않는 것, 하는 것과 하지 않는 것을 결정할 권한이 있는 사람이 누구이며, 누가 그러한 제한을 설정하는지입니다. 현재로서는 기본적으로 openai 직원들이 결정을 내리고 있으며, 그것이 세상을 공정하게 대표한다고 말하는 사람은 아무도 없습니다. 따라서 이 기술을 민주화하는 방법을 알아내는 것뿐만 아니라 이 기술의 거버넌스를 민주화하는 방법을 알아내는 것이 내년에 우리에게 큰 과제입니다.

트레버：

이는 제가 질문하려고 했던 것, 즉 이 모든 것의 보안 측면과 바로 연결됩니다. 우리는 대화 초반에 이에 대해 이야기했습니다. 세상을 바꾸는 무언가를 디자인할 때, 그것이 최악의 방법이나 최악의 방향으로 세상을 바꿀 수 있다는 사실을 인정해야 합니다. 기술이 발전할 때마다 더 큰 피해를 입힐 수 있는 능력도 발전합니다.

ai를 완전히 안전하게 만드는 것이 가능할까요? 그리고 두 번째 부분은, 당신의 악몽 시나리오는 무엇입니까? openai와 모든 ai를 종료하기 위해 빨간 버튼을 누르게 만드는 이유는 무엇입니까? 가보시면 알겠지만, 만약 이런 일이 일어날 수 있다면 우리는 모든 것을 폐쇄해야 합니다. 당신은 무엇을 두려워합니까?

첫 번째 질문은 '안전하게 보관할 수 있나요?'입니다. 두 번째 부분은, 가장 무서운 장면은 무엇입니까?

샘：

우선, 당신이 언급한 통찰력, 즉 재앙을 초래할 수 있는 사람의 수가 10년 정도마다 감소한다는 통찰은 우리 사회가 직면해야 할 심오한 사실이라고 생각합니다.

둘째, 시스템을 어떻게 안전하게 만들 것인가에 대한 문제는 아니라고 생각합니다. 비행기가 안전하다고 말하는 것처럼 비행기는 극히 드물지만 여전히 가끔 충돌합니다. 우리는 약물이 안전하다고 말하지만 때때로 fda는 여전히 일부 사람들에게 사망을 초래할 수 있는 약물을 인증합니다. 따라서 안전은 일방적으로 결정되는 것이 아니라 사회가 위험과 보상을 따져 얼마나 안전한지를 사회가 결정하는 것입니다. 나는 우리가 그렇게 할 수 있다고 생각합니다. 하지만 그렇다고 해서 일이 정말로 잘못될 수 없다는 뜻은 아닙니다.

인공지능에는 우리가 경계해야 할 큰 문제가 있을 것이라고 생각합니다. 나는 사회가 실제로 어떤 안전 기준점을 설정해야 하는지 집단적으로 결정하기 위한 꽤 훌륭하지만 지저분한 프로세스를 갖고 있다고 생각합니다. 이는 많은 이해관계자가 참여하는 복잡한 협상이며, 사회로서 우리는 시간이 지남에 따라 점점 더 나아지고 있습니다. 하지만 우리는 당신이 언급한 종류의 치명적인 위험에 대비해야 합니다.

핵에너지가 그 예입니다. 핵전쟁은 세계에 매우 큰 영향을 미쳤습니다. 세상은 그것을 다르게 대하며 지난 거의 80년 동안 꽤 놀라운 일을 해왔습니다. 인공지능에서도 비슷한 상황이 벌어질 것 같아요. 자주 이야기되는 예 중 하나는 인공 지능을 사용하여 큰 문제를 일으킬 수 있는 합성 병원체를 설계하고 생성하는 것입니다. 또 자주 거론되는 주제는 인간의 능력을 넘어서는 해킹이 가능한 컴퓨터 보안과 인공지능 문제다.

또한 모델이 충분히 강력하면 서버에서 가중치를 전송하고 많은 복사본을 만들고 동작을 수정하는 방법을 설계하는 데 도움이 될 수 있는 새로운 상황이 있습니다. 이는 공상 과학 시나리오와 비슷합니다. 하지만 저는 세상 전체가 이 문제를 정면으로 바라볼 필요가 있다고 생각합니다. 구체적인 사례는 아닐 수도 있지만, 재앙적이거나 심지어 잠재적으로 존재하는 위험이 있다는 생각이며, 이를 정확하게 정의할 수 없다고 해서 이를 무시할 수 있다는 의미는 아닙니다.

따라서 우리는 이러한 문제가 무엇인지, 언제 발생할 수 있는지, 어떻게 조기에 감지할 수 있는지 예측하고 측정하기 위해 많은 작업을 수행합니다. 이 문제에 대해 이야기하면 안 된다고 말하는 사람들은 잘못된 정보와 편견, 그리고 오늘의 문제에 대해서만 이야기하는 것은 모두 틀렸다고 생각합니다. 우리는 두 가지 모두에 대해 이야기하고 모든 단계에서 안전을 유지해야 합니다.

트레버：

좋아, 그건 내가 상상했던 것만큼 무서웠어. 그런데 정말로 주지사 출마를 고려하고 계시나요? 그게 사실인가요?

샘：

아니, 아니. 2017년, 2016년, 혹은 그와 비슷한 몇 년 동안에도 아주 잠깐 이런 생각을 했어요. 나도 그렇게 생각한다.

이것은 제가 몇 주 동안 재미삼아 가졌던 막연한 생각처럼 들립니다.

트레버：

좋아요

내 마지막 질문은 다음은 무엇일까요? 당신의 꿈은 무엇입니까? 샘 알트먼(sam altman)이 마술 지팡이를 휘둘러 인공지능을 원하는 대로 만들 수 있다면, 그것이 미래에 무엇을 가져올 것이라고 생각하시나요? 장점은 무엇입니까? 모든 사람에게 어떤 이점이 있나요? 그리고 모든 면에서 그것은 정말 좋고 긍정적인 것 같습니다.

샘：

이 질문을 해주셔서 감사합니다. 나는 항상 긍정적인 말로 끝나야 한다고 생각한다.

예. 나는 우리가 인류 역사상 가장 풍요로운 시대에 진입하고 있다고 생각합니다. 저는 두 가지 주요 동인이 인공지능과 에너지라고 생각하지만, 다른 요인도 있을 것입니다. 이 두 가지, 어떤 아이디어를 생각해내는 능력, 그 아이디어를 구현하고 규모에 맞게 수행하는 능력, 사람들이 가질 수 있는 한계는 그들이 상상할 수 있는 것과 사회로서 우리가 협상하는 것과 비슷할 것입니다. 무엇. 나는 이것이 좋을 것이라고 생각한다.

우리는 방금 모든 학생이 오늘날 가장 부유하고 자원이 가장 좋은 학생들보다 더 나은 교육 경험을 가질 수 있다면 무엇을 의미할까요? 오늘날 가장 부유한 사람들이 누릴 수 있는 최고의 건강 관리보다 우리 모두가 더 나은 건강 관리를 받는다면 그것은 무엇을 의미할까요? 사람들이 일반적으로 개인적으로 가장 성취감을 느끼는 일을 자유롭게 할 수 있다면, 비록 그것이 새로운 직업 범주로 이동해야 한다는 것을 의미하더라도 그것은 무엇을 의미할까요? 모든 사람이 자신이 좋아하는 직업을 가질 수 있고 대기업이나 팀과 동일한 자원을 가질 수 있다면 그것은 무엇을 의미할까요?

따라서 openai에 800명의 사람을 두는 대신 모든 사람이 이 모든 일을 할 수 있는 800개의 더 똑똑한 ai 시스템을 갖게 되고 사람들은 이 모든 것을 만들고 만드는 것이 정말 놀라운 일이라고 생각합니다. 이것이 바로 우리가 나아가고 있는 세상이라고 생각합니다. 이를 실현하려면 기술 외에도 많은 작업이 필요합니다. 예를 들어 사회는 몇 가지 변화를 만들어야 합니다. 그러나 우리가 풍요의 시대에 들어서고 있다는 사실은 나에게 매우 행복한 일이다.

트레버：

그것이 내가 여기서 말할 전부입니다. 저는 openai의 잠재적인 이점에 대해 매우 열성적인 팬입니다. 저는 남아프리카공화국에서 교육 분야에 종사하고 있습니다. 나의 꿈은 항상 모든 어린이에게 최고의 교사를 접할 수 있게 하는 것이었습니다. 당신은 나를 이해합니까? 말 그대로 어떤 어린이도 자신의 속도에 맞춰 배울 수 있기 때문에 뒤처지는 일이 없습니다.

샘：

그런데 chatgpt를 사용하여 학습하는 아이들에게는 무슨 일이 일어나고 있나요? 이런 이야기들은 제가 매일 우편으로 받는 이야기들과 같습니다. 정말 대단해요.

트레버：

물론. 정말 놀랍습니다. 특히 비디오를 추가하는 등 학습이 더욱 다양해지면 놀라워집니다.

나는 당신이 말했듯이 의료를 꿈꿉니다. 나는 모든 것을 꿈꿉니다. 우리가 충분히 이야기하지 않는 실존적 질문 중 하나는 ai가 이 모든 것을 효과적으로 대체하면 인간의 목적을 어떻게 재정의할 수 있느냐는 것입니다. 좋든 싫든 역사를 통틀어 우리의 목표가 종종 우리의 발전을 정의했다는 것을 알게 될 것이기 때문입니다.

우리의 목표는 한때 종교였습니다. 좋건 나쁘건, 생각해 보면 종교는 사람들이 자신을 넘어서는 특정한 방향으로 생각하고 행동하도록 만드는 데 정말 능숙합니다. 그들은 "이것이 나의 목적이다"라고 말합니다. 나는 당신이 생각하는 하나님을 섬기기 위해 깨어납니다. 나는 하나님을 섬기기 위해 깨어납니다. 나는 하나님을 기쁘시게 하기 위해 깨어납니다. 나는 이것이 인간이 목표를 향해 나아가고 있다는 느낌을 갖게 할 뿐 아니라 공동체 의식과 소속감을 부여한다고 생각합니다.

ai가 이를 제거하는 세상으로 접어들면서 얼마나 많은 사람들이 자신이 누구인지보다는 자신이 하는 일과 전체 정체성을 연결하고 있다는 사실을 잊지 않기를 바랍니다. 이러한 역할을 교체하고 나면 사무원, 비서, 교환원, 보조원, 공장 직원이 없을 때 이런 일이 역사상 자주 발생하는 것을 우리는 목격했습니다. 급진주의가 갑자기 튀어나오듯이 엄청난 반대가 있었습니다. 이것에 대해 생각해 본 적이 있나요? 그런 일이 발생하기 전에 차단할 수 있는 방법이 있나요?

샘：

지금 우리의 목표가 무엇인지 어떻게 설명하시겠습니까?

트레버：

지금 우리의 목적은 생존하는 것이고 생존은 어떤 형태의 소득 창출과 연결되어 있다고 생각합니다. 생존이 작동하는 방식이기 때문에 생존하려면 돈을 벌어야합니다. 그러나 우리는 이러한 상황이 어떤 기간에 걸쳐 변하는 것을 보았습니다. 프랑스에는 좋은 예가 있습니다. 그들은 (아직도 그런 버전이 있다고 생각합니다) 예술가 기금을 가지고 있었는데, 그들은 우리가 예술가로서 당신에게 돈을 지불할 것이고 당신은 단지 프랑스를 더 아름답게 보이게 만들기 위해 창작할 것이라고 말했습니다. 정말 아름답습니다.

나는 당신이 ubi의 팬이라는 것을 알고 있습니다. 그래, 네가 얘기하기 전에 떠나면 안 돼.

샘：

나는 사람들의 생존이 일하는 의지나 능력에 묶여서는 안 된다고 생각합니다. 인간의 잠재력을 낭비하는 것과 같다고 생각합니다. 네, 전적으로 동의합니다.

트레버：

잠깐만요, 가기 전에 이것 좀 물어볼게요. 이것이 보편적 기본소득이 그토록 중요하다고 생각하는 이유인가요? 믿지 않는 것에 시간과 돈을 낭비하지 않기 때문에 보편적 기본 소득에 많은 시간과 돈을 소비합니다. 내가 마지막으로 본 것은 당신이 약 4천만 달러 규모의 프로젝트에 참여했다는 것입니다. 실제로는 6 천만 달러였습니다.

샘：

저는 보편적 기본소득이 우리 앞에 놓인 과제에 대한 포괄적인 해결책은 아니라고 생각합니다. 하지만 빈곤을 근절하는 것은 의심할 여지 없이 좋은 일이라고 생각합니다. 자원의 더 나은 재분배는 모두를 위한 더 나은 사회로 이어질 것이라고 생각합니다. 하지만 돈을 보내는 것이 핵심적인 부분이 아니라 도구를 제공하고 거버넌스를 제공하는 것이 더 중요하다고 생각합니다. 사람들은 미래의 건축가가 되기를 원하며 인류를 위한 사명이나 의미의 연속적인 끈이 있다고 말할 수 있을 것 같습니다.

개인의 관점에서 보면 확실히 생존과 번영에 관한 것이지만, 전반적으로 우리는 미래를 더 좋게 만들어야 하는 집단적 시급성을 갖고 있습니다. 우리는 종종 방향을 바꾸지만 인간의 이야기는 미래를 더 좋게 만드는 것입니다. 그것이 기술이고, 거버넌스이며, 그것이 우리가 서로를 대하는 방식입니다. 그것은 마치 별을 탐험하는 것과 같습니다. 그것이 무엇이든 우주를 이해하는 방법입니다. 나는 큰 확신을 가지고 있으며, 이 확신은 우리 안에 깊이 자리잡고 있습니다. 우리가 어떤 도구를 얻든, 종으로서 그리고 개인으로서 번영하려는 인류의 근본적인 욕구, 사명은 결코 사라지지 않을 것입니다.

그래서 저는 지금으로부터 2세대 이후의 세상에 대해 낙관적으로 가득 차 있습니다. 그러나 이것은 당신이 언급한 매우 중요한 점입니다. 즉, 이미 자신의 직업에 종사하고 있고 실제로 상당히 만족하는 사람들은 변화를 원하지 않는다는 것입니다. 변화가 다가오고 있습니다. 이전의 기술 혁명에서 우리가 본 것 중 하나는 약 2세대 내에 사회와 사람들이 업무상의 어떤 변화에도 적응할 수 있다는 것입니다. 하지만 10년 안에도 아니고, 5년 안에도 안 됩니다.

우리는 이 문제에 직면하게 될 것입니다. 앞서 말했듯이 어느 정도 속도는 사람들이 생각하는 것보다 느리겠지만, 과거 사회가 처리해야 했던 것보다는 훨씬 더 빠를 것이라고 생각합니다. 나는 그것이 무엇을 의미하는지 그리고 우리가 그것에 어떻게 적응하는지에 대해 확실히 조금 겁이 납니다. 우리는 이 문제를 해결해야 하며 해결책을 찾을 것이라고 생각합니다. 나는 우리가 그것을 알아낼 것이라고 확신합니다.

또한 우리가 우리의 자녀와 손자에게 우리보다 더 나은 도구를 준다면 그들이 우리를 놀라게 할 일을 해낼 것이라고 믿습니다. 우리 모두의 삶이 얼마나 끔찍한지 그들이 정말 안타까워하길 바랍니다. 나는 미래가 믿을 수 없을 것이기를 바랍니다. 인간의 정신과 욕구는 자신을 탐구하고 표현하고 더 나은 세상, 심지어 이 세상 너머까지 디자인하기를 좋아합니다. 정말 좋은 일이라고 생각하고 정말 기쁩니다.

어떤 의미에서 우리는 이 작은 일을 너무 심각하게 받아들여서는 안 됩니다. 스타워즈에는 "당신이 만들어낸 이 기술적인 공포에 너무 감동하지 마세요."라고 말하는 악당이 있습니다. 내 생각엔 다스 베이더인 것 같아요. 이것이 의미하는 바는 이 기술적인 테러가 포스의 힘에 상대가 되지 않는다는 것입니다.

중요한 의미에서 저는 인공 지능에 대해서도 비슷한 느낌을 받습니다. 우리는 이것에 너무 놀라서는 안됩니다. 예를 들어, 인간의 정신은 어려운 시기를 헤쳐나가도록 우리를 인도할 것이며, 그것은 어떤 기술 혁명보다 훨씬 더 위대합니다.

트레버：

아름다운 희망의 메시지입니다.

나는 이 기술을 좋아하기 때문에 당신 말이 맞기를 바랍니다.

제가 당신에게 말하고 싶은 한 가지는 time의 올해의 ceo이자 올해의 인물 중 한 명인 sam altman으로서 당신은 특히 이 역할에서 앞으로도 계속 그럴 것이라고 생각합니다. openai와 인공지능 자체가 우리에게 엄청난 영향을 미치게 될 것이기 때문에, 많은 사람들을 비슷한 위치에 놓을 기술을 만들고 있기 때문에 해고당했을 때 느꼈던 감정을 계속 기억해 주시길 간곡히 부탁드립니다. 나는 당신에게서 그런 인간성을 봅니다. 당신이 창조할 때 항상 그 인간성을 고려하길 바랍니다.

샘：

제가 토요일 아침에 아주 이른 아침에 잠을 못 자고 무엇을 했는지 아시나요? 다른 사람들도 비슷한 상황을 겪고 내가 지금 보드를 비난하는 것처럼 나를 비난할 때 내가 더 잘할 수 있도록 이 일을 통해 배울 점을 적어보았습니다.

트레버: 알아냈어?

샘：

유용한 단일 레슨이 많이 있습니다. 그러나 전체 경험과 내 가치관의 재정립을 통해 얻은 공감은 비록 고통스러운 대가를 치르긴 했지만 분명히 변장된 축복이었습니다. 그런 의미에서 그런 경험을 하게 되어 기쁘다.

트레버：

음, 샘, 시간 내주셔서 감사합니다. 정말 감사합니다. 정말 즐거웠습니다. 1년 안에 모든 새로운 발전에 대해 이야기를 나눌 수 있기를 바랍니다.

샘：

꼭 해보세요. 재미있을 거예요.

트레버：

그럴게요, 형. 기이. 감사해요.