новости

---

  Новый отчет мудрости

Это 1-минутное видео вызвало широкую дискуссию в социальных сетях, с одной стороны, о том, настолько ли ускорится развитие ИИ, а с другой — о возвратности «академических инвестиций».

Никто не знает, каким будет будущее. Мысли Бострома представляют лишь его собственную личность, но они отражают безумие и тревогу людей в эпоху ИИ.

Кажется, что все ускоряется. Люди слишком обеспокоены девальвацией, потому что они отстают, и они слишком стремятся воспользоваться возможностью быстро заработать золото.

«Первая сверхразумная машина была последним изобретением человечества».

Это самая известная цитата Бострома. Эта зловещая идея взята из его книги «Суперинтеллект».

Эта книга была названа бестселлером по версии New York Times и рекомендована Биллом Гейтсом и Маском.

Журнал The New Yorker описал Бострома как «философа конца света», а также назвал его «шведским супермозгом».

Будучи профессором Оксфордского университета, он имеет междисциплинарный опыт в области теоретической физики, вычислительной нейробиологии, логики, искусственного интеллекта и философии. Он является одним из наиболее цитируемых философов в мире и возглавлял Оксфордский институт будущего. Человечества с 2005г., пока институт не был закрыт в апреле этого года.

В апреле этого года Бостром еще раз заявил, что сверхинтеллект — это последнее изобретение, которое нам нужно сделать, но добавил еще одно предложение: он может появиться всего через год.

Почему этот мыслитель продвигает, казалось бы, устаревшую теорию «бесполезности чтения»?

Бостром: Эта революция в области искусственного интеллекта может произойти в ближайшие пять-десять лет, но наш текущий долгосрочный инвестиционный цикл в человеческий капитал составляет 20-30 лет. Есть большая вероятность, что это не приведет к возврату. Потому что к тому времени ИИ, возможно, заменит нас во всех областях, а человеческий капитал обесценится. Это один из аспектов, который может больше не существовать в будущем.

Если вам действительно нравится колледж, поступайте в колледж, но если вы просто заставляете себя получить диплом, я предлагаю вам серьезно подумать, есть ли способ сэкономить эти 3–4 года и просто делать то, что вы хотите.

Аналогичным образом, программа PhD в США может занять от 5 до 6 лет, что очень долго. Я думаю, что во многих случаях этот период времени может оказаться слишком долгим, чтобы оно того стоило.

Ведущий: Это только потому, что темпы перемен ускоряются?

Бостром: Да, потому что время, вероятно, поджимает.

Видно, что Бостром не советует всем «массово бросать школу», а говорит о том, что если вы расцениваете учебу в докторантуре как инвестиционное поведение, то вы, скорее всего, не получите тех выгод, на которые рассчитываете, но вы все еще могу относиться к учебе как к своего рода развлечению.

Дебаты среди пользователей сети в зоне комментариев были весьма захватывающими.

Блогер, отправивший это видео, сказал: «Хотя я думаю, что это немного безумие, представить себе это довольно интересно».

Как вы можете себе представить, дальновидная идея о том, что «долгосрочные академические инвестиции того не стоят», вызвала общественное возмущение.

«Дети, оставайтесь в школе».

Помимо прямого вывода значений гнева, пользователи сети также выдвигают различные причины для противодействия. Некоторые люди полагают, что AGI, представленный Бостромом, наступит не так скоро. Неразумно ставить свою жизнь на неуловимое пророчество.

«Отсев — это, по сути, ставка, предполагающая, что ОИИ может быть достигнут. История говорит нам, что прогресс далеко не так прост, как мы думаем».

Кто-то прямо опроверг предложение о «выпадении» с более прагматичной точки зрения: «Вы можете что-то получить, действуя; вы точно ничего не выиграете, ничего не делая».

«В большинстве случаев наличие этих степеней приведет к лучшим результатам, чем их отсутствие. По мере развития ИИ лишь небольшой процент из них может быть отменен».

«Конечно, если вам действительно больно учиться, вам следует найти что-нибудь другое, с ИИ или без него».

Если посмотреть на это не с точки зрения «диплома», а с точки зрения «образования», то предложение «бросить школу» становится еще более несостоятельным. Ведь процесс получения образования, удовлетворения любопытства и творчества сам по себе является отражением человеческого достоинства.

«Что бы еще вы делали со всем этим свободным временем, если бы не учились в школе, учитывая UBI и увеличение продолжительности жизни?»

Некоторые очень спокойно выдвигают более взаимную точку зрения — даже в эпоху ИИ академические квалификации не будут обесцениваться так быстро, как сказал Бостром.

«Долгосрочные инвестиции, такие как получение степени бакалавра и докторантуры, важны для формирования фундаментальных знаний и подготовки людей к адаптации и инновациям по мере развития ИИ».

«Непрерывное обучение обеспечивает длительный эффект».

Однако имеет смысл задуматься над этим вопросом и с противоположной стороны – поскольку ИИ разрушает рынок труда, какие изменения должна внести наша система образования, чтобы идти в ногу со временем? Должны ли цели обучения студентов меняться?

«Пришло время школам и университетам задаться вопросом: какова цель этих систем образования, если рабочие места, к которым готовятся студенты, заменены ИИ?»

Вызвавшее много дискуссий видео Бострома было взято из шоу Impact Theory, которое вел Том Билье.

На протяжении полутора часов Том Билье и Ник Бостром погружаются в этические и социальные последствия все более продвинутого ИИ.

К ним относятся этические соображения, касающиеся искусственного интеллекта, потенциальной концентрации власти, автоматизации ключевых секторов, таких как полиция и армия, а также «гиперстимулирования», которые могут иметь далеко идущие последствия для общества.

Многие ученые, такие как Ник Бостром, верят, что AGI скоро появится, в том числе Итан Моллик из Уортонской школы Пенсильванского университета.

Ранее в этом году Итан Моллик написал в Твиттере: «Многие учёные-компьютерщики считали, что создание искусственного интеллекта в краткосрочной перспективе невозможно, но они передумали. За один год сроки сократились на 13 лет».

Наряду с почти сумасшедшими предсказаниями Бострома о предстоящем ускорении искусственного интеллекта, в шоу также упоминалась его новая книга «Глубокая утопия», вышедшая в этом году.

Как видно из названия книги, Бостром — технологический оптимист. Он сказал, что все, что произошло за последние два столетия, сделало «антиутопию» почти своего рода инерцией мышления, и у людей появилось слишком много сомнений относительно «утопии».

«Люди, у которых есть эти утопические представления об обществе, если они действительно получат возможность реализовать эти видения, вызовут каскад разрушений и страданий».

Но Бостром, похоже, не обратил на это внимания. Он был скорее мысленным экспериментом – как изменится мир, когда многие проблемы будут решены с помощью технологий? Как люди будут смотреть на жизнь и смысл в то время?

Обзор, написанный журналом Wired, пожалуй, во многом резюмирует центральную идею книги:

Deep Utopia рассматривает не сокрушительный удар, а будущее, в котором человечество успешно создаст сверхразумные машины и предотвратит катастрофу. …Эта книга исследует смысл жизни в технологической утопии и задается вопросом, может ли такая жизнь быть довольно пустой.

В этом разговоре Ник Бостром решительно выразил свою точку зрения:

«Вместо того, чтобы несколько человек каждое утро ездили на мусоровозе по городу, чтобы собирать мусор, вы могли бы использовать самоуправляемый мусоровоз, оснащенный роботом Optimus, который мог бы заполнять ваши мусорные баки и собирать их, делая все это автоматически. "

«Если вы цените сохранение традиций, то, возможно, не существует другого способа поддерживать традиции, кроме как продолжать позволять людям делать различные вещи самостоятельно».

«Вы можете себе представить, что, обладая цифровым разумом, всего за несколько лет вы сможете ускорить прогресс медицинских исследований, например, возможно, разблокировать методы лечения, обращающие вспять процесс старения и т. д., а затем избежать нынешней почти неизбежной массовой человеческой страдания и смерть».

«Если даже мышь может утверждать, что она разумна и, по крайней мере, имеет какую-то простую форму морального статуса, то я бы сказал, что системы искусственного интеллекта, которые примерно эквивалентны по поведению мышам, также будут предварительными кандидатами на моральный статус. .

«Некоторые из бед современного общества могут быть связаны с отсутствием определенных условий выживания или возможностей, которые существовали на протяжении всего нашего эволюционного прошлого».

«Если вам не нужно ничего делать, то вам нужно найти что-то другое, что придаст вашей жизни смысл».