소식

---

  새로운 지혜 보고서

이 1분짜리 영상은 소셜미디어에서 AI 발전이 이토록 가속화될 것인지, 또 다른 한편으로는 '학술 투자'의 수익률에 대한 폭넓은 논의를 불러일으켰습니다.

미래가 어떻게 될지는 아무도 모른다. 보스트롬의 생각은 자신의 모습을 대변할 뿐 AI 시대 사람들의 광기와 불안을 반영한다.

모든 것이 가속화되는 것 같습니다. 사람들은 뒤쳐져서 평가절하될까 봐 너무 걱정하고, 금을 빨리 벌 수 있는 기회를 붙잡으려고 너무 열심입니다.

"최초의 초지능 기계는 인류의 마지막 발명품이었습니다."

이것은 Bostrom의 가장 유명한 인용문입니다. 이 불길한 아이디어는 그의 책 "Super Intelligence"에서 나왔습니다.

이 책은 뉴욕타임스의 베스트셀러로 선정되었으며, 빌 게이츠와 머스크가 추천한 책입니다.

보스트롬은 뉴요커(The New Yorker)에 의해 "최후의 종말론자"로 묘사되었으며 "스웨덴의 슈퍼 브레인"으로도 알려져 있습니다.

옥스퍼드 대학의 교수로서 그는 이론 물리학, 계산 신경 과학, 논리, 인공 지능 및 철학에 대한 다학제적 배경을 가지고 있으며 세계에서 가장 많이 인용되는 철학자 중 한 명이며 옥스포드 미래 연구소(Oxford Institute for the Future)를 이끌었습니다. 2005년부터 인류학연구소를 설립했으며, 올해 4월 연구소가 문을 닫을 때까지.

올해 4월 보스트롬은 다시 한번 초지능이 우리가 만들어야 할 마지막 발명이라고 선언하면서 또 다른 문장을 덧붙였습니다. 빠르면 1년 안에 나타날 수도 있다는 것입니다.

왜 이 사상가는 "독서의 쓸모 없음"이라는 겉보기에 구식인 이론을 장려합니까?

보스트롬: 이 AI 혁명은 향후 5~10년 안에 일어날 수 있지만 현재 인적 자본에 대한 장기 투자 주기는 20~30년입니다. 이것이 반환되지 않을 가능성이 높습니다. 왜냐하면 그때쯤이면 AI가 모든 분야에서 우리를 대체했을 수도 있고 인적 자본의 가치도 하락했기 때문입니다. 이는 미래에는 더 이상 존재하지 않을 수 있는 측면이다.

대학이 정말 즐겁다면 대학에 가되, 단순히 자격증 취득만을 목표로 한다면 그 3~4년을 절약할 수 있는 방법이 있는지 진지하게 생각해보고 하고 싶은 일을 하시길 권합니다.

마찬가지로 미국의 박사과정은 5~6년이 걸리며, 이는 긴 시간입니다. 많은 경우에 이 기간은 너무 길어서 가치가 없을 수도 있다고 생각합니다.

사회자: 단지 변화의 속도가 빨라지고 있기 때문일까요?

Bostrom: 그렇습니다. 아마도 시간이 더 급박하기 때문일 것입니다.

Bostrom은 모든 사람에게 "일제히 학교를 자퇴"하라고 조언하는 것이 아니라 박사 학위 공부를 투자 행동으로 간주하면 기대하는 혜택을 얻지 못할 가능성이 높다고 말하고 있는 것을 알 수 있습니다. 여전히 공부를 일종의 즐거움으로 여길 수 있습니다.

댓글란에서 누리꾼들의 논쟁은 꽤 흥미로웠다.

이 영상을 게재한 블로거는 "조금 미친 것 같지만 상상만 해도 꽤 흥미롭다"고 말했다.

여러분이 상상할 수 있듯이 "장기적인 학문적 투자는 가치가 없다"는 미래지향적인 생각은 대중의 분노를 불러일으켰습니다.

"얘들아, 학교에 남아라."

네티즌들은 분노 수치를 직접 출력하는 것 외에도 다양한 반대 이유를 제시하기도 했다. 이해하기 힘든 예언에 목숨을 거는 것은 현명하지 못합니다.

"중퇴는 본질적으로 AGI가 달성될 수 있다고 가정한 내기입니다. 역사는 우리에게 진보가 우리가 생각하는 것만큼 단순하지 않다는 것을 말해주었습니다."

좀 더 실용적인 관점에서 '탈퇴' 제안에 대해 누군가는 "행동하면 얻을 수 있지만 아무것도 하지 않으면 아무것도 얻을 수 없다"고 정면으로 반박했다.

"대부분의 경로에서 이러한 학위를 갖는 것은 그렇지 않은 것보다 더 나은 결과로 이어질 것입니다. AI가 발전함에 따라 이 중 극히 일부만이 역전될 가능성이 높습니다."

"물론 공부하는 것이 정말 고통스럽다면 AI가 있든 없든 다른 할 일을 찾아야 합니다."

'졸업'의 관점이 아닌 '교육'의 관점에서 본다면, '학교를 자퇴하라'는 주장은 더욱 설득력이 없어진다. 결국 교육을 받고, 호기심을 충족시키고, 창조하는 과정 그 자체가 인간의 존엄성을 반영하는 것입니다.

"UBI와 기대 수명 증가를 고려하면 학교에 다니지 않는다면 그 모든 자유 시간에 무엇을 하시겠습니까?"

어떤 사람들은 매우 침착하게 좀 더 객관적인 견해를 내놓았습니다. AI 시대에도 학문적 자격은 Bostrom이 말한 것처럼 빨리 하락하지 않을 것입니다.

"대학 학위 및 박사 프로그램과 같은 장기 투자는 기초 지식을 구축하고 AI가 발전함에 따라 사람들이 적응하고 혁신할 수 있도록 준비하는 데 중요합니다."

"지속적인 학습은 지속적인 영향력을 보장합니다."

그러나 이 질문을 반대편에서 생각해 보는 것도 의미가 있다. AI가 취업 시장을 혼란에 빠뜨리는 만큼, 시대에 발맞추기 위해 우리 교육 시스템은 어떤 변화를 가져와야 할까? 학생들을 위한 훈련 목표가 발전해야 합니까?

"이제 학교와 대학이 스스로에게 질문할 때입니다. 학생들이 준비하고 있는 직업이 AI로 대체된다면 이러한 교육 시스템의 목적은 무엇입니까?"

많은 화제를 불러일으킨 보스트롬의 영상은 톰 빌류가 진행하는 쇼인 임팩트 이론(Impact Theory)에서 나온 것입니다.

한 시간 반 동안 Tom Bilyeu와 Nick Bostrom은 점점 더 발전하는 AI의 윤리적, 사회적 영향에 대해 자세히 알아봅니다.

여기에는 인공 지능, 잠재적인 권력 집중, 경찰 및 군대와 같은 주요 부문의 자동화, 사회에 광범위한 결과를 초래할 수 있는 "과잉 자극"에 대한 윤리적 고려 사항이 포함됩니다.

펜실베이니아 대학 와튼 스쿨의 Ethan Mollick을 포함하여 AGI가 곧 도래할 것이라고 믿는 Nick Bostrom과 같은 학자들이 많이 있습니다.

올해 초 Ethan Mollick은 "많은 컴퓨터 과학자들이 단기적인 AGI가 불가능하다고 생각했지만 마음이 바뀌었습니다. 일정이 1년 만에 13년 단축되었습니다."라고 트윗했습니다.

AGI의 가속화가 임박했다는 Bostrom의 미친 예측과 함께 쇼에서는 올해 출시된 그의 새 책 "Deep Utopia"도 언급했습니다.

책 제목에서 알 수 있듯이 보스트롬은 기술 낙관주의자이다. 그는 지난 2세기 동안 일어난 모든 일들이 '디스토피아'를 일종의 사고 관성으로 만들었고, 사람들은 '유토피아'에 대해 너무 많은 의구심을 품고 있다고 말했습니다.

"이러한 유토피아적인 사회 비전을 가진 사람들이 실제로 그러한 비전을 실현할 힘을 얻게 된다면 파괴와 고통의 연속을 초래할 것입니다."

그러나 보스트롬은 관심을 기울이지 않는 것 같았습니다. 그는 기술로 많은 문제가 해결되면 세상이 어떻게 변할 것인가 하는 사고 실험에 더 가깝습니다. 그때 인간은 삶과 의미를 어떻게 바라볼 것인가?

Wired 매거진이 작성한 리뷰는 아마도 이 책의 핵심 아이디어를 상당 부분 요약하고 있을 것입니다.

Deep Utopia는 파괴적인 타격이 아닌 인류가 초지능 기계를 성공적으로 개발하고 재앙을 피하는 미래를 고려합니다. … 이 책은 기술 유토피아에서의 삶의 의미를 조사하고 그러한 삶이 오히려 공허할 수 있는지 질문합니다.

이 대화에서 Nick Bostrom은 자신의 견해를 강력하게 표현했습니다.

“일부 사람들이 쓰레기 수거를 위해 매일 아침 도시 주변을 쓰레기 트럭으로 운전하는 대신, 쓰레기통을 채우고 수거할 수 있는 Optimus 로봇이 장착된 자율 주행 쓰레기 트럭을 사용하여 이 모든 작업을 자동으로 수행할 수 있습니다. "

"전통의 유지를 중시한다면 인간이 스스로 다양한 일을 하도록 계속 두는 것 외에 전통을 유지할 수 있는 다른 방법은 없을 것입니다."

"이러한 디지털 마인드를 가지면 단 몇 년 만에 의학 연구의 발전을 가속화할 수 있다고 상상할 수 있습니다. 예를 들어 노화 과정을 역전시키는 치료법을 개발하고 현재 거의 피할 수 없는 대규모 인간 문제를 피할 수 있습니다. 고통과 죽음."

"만약 쥐라도 지각이 있고 최소한 어떤 단순한 형태의 도덕적 지위를 갖고 있다고 주장하는 것이 가능하다면, 나는 쥐와 행동이 거의 동일한 인공지능 시스템도 도덕적 지위를 위한 예비 후보가 될 것이라고 주장하고 싶습니다. .

"현대 사회의 일부 병폐는 과거 진화 과정에서 존재했던 특정 생존 압력이나 기회가 부족하기 때문일 수 있습니다."

"아무것도 할 필요가 없다면 인생에 의미를 부여할 수 있는 다른 일을 찾아야 합니다."