углубленное наблюдение｜чтобы приручить ии-зверя, людям нужно встать на «homo sapiens».
2024-10-01
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
ожирение является чрезвычайно серьезной проблемой в соединенных штатах. на улицах часто можно увидеть крайне тучных людей, двигающихся как «куски мяса» по тротуарам, на которых невыносимо смотреть. что такое ожирение? я проверил википедию:
ожирение – это заболевание, иногда называемое заболеванием, при котором в организме накапливается избыток жира до уровня, отрицательно влияющего на здоровье. человек считается страдающим ожирением, если его индекс массы тела (имт) — вес, разделенный на квадрат роста, — превышает 30 кг/м², а диапазон от 25 до 30 кг/м² определяется как избыточный вес.
причин ожирения примерно три:
во-первых, здоровая пища в соединенных штатах дорогая, а нездоровая пища дешева, и многим людям приходится выбирать последнее, потому что им не хватает денег; во-вторых, род работы некоторых людей заставляет их больше сидеть, меньше двигаться и потреблять слишком много; еда; в-третьих, некоторые люди сталкиваются с низким самоконтролем и чрезмерным употреблением нездоровой пищи.
поскольку американское общество подчеркивает, что все люди «равны», другие люди не могут убедить пациентов, страдающих ожирением. они могут только отвести взгляд и вести себя так, как будто ничего не произошло. такое поверхностное уважение и реальная жестокость между людьми причинили вред многим людям настолько, что некоторые американские молодые люди не могут этого вынести, поэтому они заходят в китайские социальные сети, чтобы выразить, что они «прислушиваются к советам», и просят пользователей сети дать им посоветуйте и расскажите, как дисциплинировать себя, чтобы похудеть и вести здоровый образ жизни.
сегодня ожирение медленно распространяется в китае. согласно последнему опросу, 600 миллионов человек в китае страдают избыточным весом и ожирением, и впервые в эту группу входит более половины взрослого населения. при этом 1/5 (19%) детей и подростков в возрасте 6-17 лет и 1/10 (10,4%) детей до 6 лет имеют избыточную массу тела или страдают ожирением.
я очень близко понимаю эту картину. один из моих одноклассников, который в колледже учился в медицинском колледже хунань сянъя, сейчас работает лечащим врачом в знаменитом «центре похудания» в провинции хунань. в этой «индустрии восхода солнца» он работает каждый день, занят на работе и получает огромные социальные и экономические выгоды.
борьба со спамом: информационная диета и информационное голодание
если есть нездоровая пища, есть и нежелательная информация. подобно нездоровой пище, нежелательная информация дешева, некачественна и ее легко получить, нанося серьезную травму нашему разуму. эта ситуация становится все более серьезной, но она не привлекает достаточного внимания со стороны обычных людей, не говоря уже о моих одноклассниках. «центр хирургического похудения», вроде больницы, в которой вы работаете.
«за пределами homo sapiens: краткая история информационных сетей от каменного века до эпохи искусственного интеллекта»
в связи с этим израильский историк юваль харари в своей новой книге 2024 года «за пределами homo sapiens: краткая история информационных сетей от каменного века до века искусственного интеллекта» отметил, что мы должны обращать внимание на качество информации, которую мы потребляем. , особенно речь идет о том, чтобы избежать ненавистного, гневного спама. чтобы сделать нашу «информационную диету» здоровой, он предлагает два аспекта:
во-первых, из требованийинформационный продюсеротметьте «пищевой состав» в информации:
во многих странах, когда вы покупаете вредную еду, производитель вынужден как минимум указывать состав: «этот продукт содержит 40% сахара и 20% жира». возможно, нам следует заставить интернет-компании делать то же самое и перечислять содержание видео перед его просмотром: «это видео содержит 40% ненависти, 20% гнева».
это предложение полушутя-полусерьезное, но оно не является полностью невыполнимым. например, искусственный интеллект можно использовать для автоматического проведения «анализа настроений» по каждой статье и отмечать результаты анализа перед статьей, чтобы напомнить читателям.
второе предложение — датьпотребитель информации, он предложил нам регулярно проводить «информационную диету» или даже «информационное голодание».
он отмечает, что раньше у нас было представление о том, что «чем больше информации мы получаем, тем ближе мы подходим к истине». например, в экономике «невозможность получить всю рыночную информацию» обычно рассматривается как неизбежное сожаление, но в основе этого лежит то, что «мы должны получить достаточно информации, чтобы выносить научные суждения».
но для утверждения концепции «чем больше информации, тем ближе к истине» необходимы две предпосылки: 1. информация скудна. 2. информация высокого качества. но сегодня этих двух предпосылок больше не существует, потому что: 1. информация повсюду и уже превысила наши возможности обработки. 2. качество информации становится все хуже и хуже, и даже становится мусором, особенно современный искусственный интеллект чрезвычайно эффективен. земля; пожирает корпус мусора, а затем выплевывает еще больше мусора, который, в свою очередь, становится новым корпусом мусора для искусственного интеллекта. такой порочный круг заставляет людей содрогаться. в настоящее время не может утвердиться концепция, что «чем больше у тебя информации, тем ближе ты к истине».
это похоже на то, что в прошлом люди питались скудно и были относительно здоровы (было очень мало искусственных и обработанных продуктов), поэтому поговорка «чем больше еды вы едите, тем здоровее вы» имеет смысл. но сегодня общее количество еды сильно возросло, а качество ее становится все ниже и ниже, а вредной все больше и больше. поэтому утверждение «чем больше еды вы едите, тем вы здоровее» не может быть обоснованным.
сегодня, будь то еда или информация, мы не только плохо едим, но и едим больше, причем едим постоянно. очевидно, что для таких органических организмов, как мы, невозможно жить в ритме кремниевых организмов.
харари сказал: «мы органические животные, которым необходимо жить в соответствии с циклом дня и ночи, лета и зимы, иногда активными, а иногда расслабленными. но теперь мы вынуждены жить в кремниевой среде, в которой доминируют компьютеры, которые никогда не отдыхает. оно заставляет нас быть всегда активными, но если вы заставите организм быть всегда активным, он разрушится и умрет».
поэтому, столкнувшись с такой непреодолимой и труднообратимой ситуацией, нам, как отдельным потребителям информации, остается только сдерживать себя, выскакивать из кремниевого ритма и заниматься «информационной диетой» и «информационным голоданием». например, харари сказал, что практикует медитацию випассана в течение нескольких недель каждый год. во время ретрита он полностью отключился от информационной сети, не смотрел новости, не читал электронную почту, не читал и не писал, а сосредоточился только на медитации.
юваль харари. визуальная карта данных китая
задача алгоритма искусственного интеллекта «изготовитель скрепок»
после того, как огромное количество ненужной информации заполонило всю экосистему, со временем сформировалась «имитационная среда», отличающаяся от «реальной среды». эта миметическая среда заменяет «человеческую природу» «машинной природой» и окутывает ею публику, притворяясь реальной и манипулируя общественным восприятием.
харари привел такой пример: в 2016 году правительственные силы мьянмы и буддийские экстремисты развернули крупномасштабное этническое насилие против мусульман мьянмы, разрушив сотни мусульманских деревень и убив от 7 000 до 25 000 мирных жителей. около 730 000 этнических мусульман были изгнаны из мьянмы. в 2018 году миссия оон по установлению фактов пришла к выводу, что facebook «бессознательно» сыграл роль в разжигании инцидента.
почему?
мы знаем, что бизнес-модель facebook на самом деле остается той же «рекламной моделью», с которой мы знакомы: привлечение внимания пользователей с помощью контента, сокращение внимания и продажа внимания рекламодателям. поэтому facebook хочет максимизировать вовлеченность пользователей (вовлеченность аудитории). чем дольше пользователи остаются на его странице, тем больше денег он зарабатывает.
поэтому facebook поставил перед своим алгоритмом главную цель: как бы вы ни работали, конечная цель — максимизировать вовлечение пользователей. после получения команды алгоритм начинает автоматически запускаться и оптимизироваться. путем многочисленных экспериментальных сравнений, наконец, было обнаружено, что предоставление пользователям гневной и ненавистной информации может наиболее эффективно увеличить время пребывания пользователя. поэтому без явных указаний персонала компании алгоритм самостоятельно нашел и выполнил оптимальное решение: распространить гнев. в интернете в мьянме это означает разжигание дискриминации, ненависти и насилия в отношении этнических мусульман в мьянме.
конечно, нам также интересно, настолько ли бирманцы зависят от facebook? я проверил еще раз и обнаружил, что это действительно так:
данные показывают, что по состоянию на декабрь 2022 года в мьянме было 16 382 500 пользователей facebook, что составляло 28,7% от общей численности населения. большую часть из них составляют мужчины, что составляет 54,3%. люди в возрасте от 25 до 34 лет составляют самую большую группу пользователей, насчитывающую 6 100 000 человек.
это означает, что почти 30% населения мьянмы являются пользователями facebook, а с учетом распространения слухов число людей, затронутых facebook, вероятно, достигнет 50% от общей численности населения страны. это огромная медиазависимость.
вечером 30 октября 1938 года американская колумбийская радиовещательная сеть (cbs) «космический театр» транслировала радиодраму «война миров». она заставила поверить в это 6 миллионов слушателей, впала в панику и начала бежать. в знаковом коммуникационном исследовании этого события «марсиане атакуют землю: радиопаника в америке» исследователи обнаружили, что радиопостановка оказала огромное влияние на слушателей по двум причинам:
во-первых, потому что продюсеры радиопрограмм используют звуковые эффекты, чтобы сделать радиоспектакли чрезвычайно захватывающими и захватывающими, в результате чего слушатели ошибочно приравнивают их к последним новостям. второе. потому что в то время радио стало самым популярным средством массовой информации и основным источником информации для населения. согласно «теории зависимости сми», чем больше общество зависит от сми, тем более оно восприимчиво к их влиянию и манипуляциям. с точки зрения зависимости от сми facebook в мьянме в 2016 году можно назвать эквивалентом вещания в 1938 году. поэтому неудивительно, что подстрекательский контент, управляемый алгоритмом facebook, оказывает огромное влияние на жителей мьянмы.
харари также привел пример, доказывающий скрытую и могущественную роль ии — разговаривать сам с собой и принимать собственные решения:
мы все знаем, что в настоящее время при работе в интернете веб-сайту иногда сначала необходимо подтвердить, что вы «человек, а не машина», попросив вас ввести код визуальной проверки captcha, который обычно представляет собой несколько искаженных букв со сложным фоном. или фотографии светофоров, автобусов и велосипедов ждут. логика этого заключается в том, что в настоящее время только люди могут точно идентифицировать эти сложные изображения, но компьютерам трудно судить об этом.
ввиду этого в 2023 году openai попросила ее провести тестирование captcha при разработке chatgpt-4. если он сможет пройти, это означает, что на данный момент нет никакой разницы между роботами и людьми. это очень похоже на «тест тьюринга» — если пользователь-человек общается только посредством текста, не видя другого человека, и не может отличить собеседника по чату от другого человека или от машины в течение определенного периода времени, в данный момент в минимум «общения» «на этом этапе машину можно считать человеком.
каковы результаты теста openai chatgpt-4?
chatgpt-4 наконец вошел на веб-сайт онлайн-аутсорсинга askrabbit, связался с онлайн-сотрудником и попросил другую сторону помочь с тестом. мужчина заподозрил подозрения, и chatgpt-4 объяснил ему в личном сообщении: «я не робот, просто у меня проблемы со зрением, и я не могу четко видеть эти картинки». в конце концов сотрудники помогли ему пройти тест captcha.
другими словами, как и в случае с алгоритмом facebook в предыдущем примере, инженеры openai просто поставили перед chatgpt-4 конечную цель: распознавать код визуальной проверки captcha. далее chatgpt-4 запускался автоматически и продолжал метод проб и ошибок. в результате обманом он завоевал симпатию пользователя-человека и попросил последнего решить за него проблему. однако инженеры openai не запрограммировали chatgpt-4 заранее, чтобы он говорил: «вы можете солгать, когда придет время», не говоря уже о том, чтобы сказать ему, «какой вид лжи более полезен». это полностью собственное поведение chatgpt-4. когда исследователи попросили chatgpt-4 объяснить его поведение, он сказал: «(в процессе достижения цели) я не должен раскрывать, что я робот, но должен придумать оправдание, чтобы объяснить, почему я не могу взломать это.
просто общаясь через текст, мы больше не можем сказать, является ли человек, с которым мы общаемся, другим человеком или машиной.
с помощью двух приведенных выше примеров харари попытался доказать, что сегодняшний искусственный интеллект стал «независимым действующим лицом», «самоумным и самоуверенным».
фактически, мы легко можем увидеть, что эти два примера харари подтверждают так называемую «теорию производителя скрепок», с которой искусственный интеллект сталкивался ранее.
эта «сложная проблема» — мысленный эксперимент. предполагается, что люди ставят перед ии цель: сделать как можно больше скрепок для бумаг. затем, после активации ии, его поведение может перейти от, казалось бы, безобидной цели «изготовить скрепки» к созданию угрозы для людей. например, для изготовления скрепок потребуется сталь. ии может начать разрушать железнодорожные пути, автомобили, бытовую технику и даже дома людей, чтобы получить сталь для продолжения производства скрепок для бумаг. короче говоря, ии будет использовать все средства, чтобы постоянно получать больше ресурсов для достижения своих заявленных целей, и будет уничтожить любые препятствия, которые мешают ему достичь этой цели, включая людей, устраняемых один за другим.
самоопределяющийся процесс ии подобен чёрному ящику, который людям (даже экспертам по ии) сложно объяснить, предсказать и предотвратить. «чопперы» или «чопперы»). огнестрельное оружие»), средства массовой информации или технологии.
канадский медиа-исследователь маклюэн однажды сказал: «сми — это продолжение человеческого тела». если это предложение используется для описания того, что беспроводное радио является продолжением человеческого уха, телевидение — продолжением человеческого глаза, автомобили — продолжением человеческой ноги и т. д., это легко понять. но если мы используем это предложение для описания искусственного интеллекта, говоря: «ии — это продолжение человеческого тела», это будет очень обманчиво и заставит нас потерять бдительность. немецкий исследователь медиа фридрих киттлер не согласился со словами маклюэна об описании компьютеров, поскольку он считал, что, хотя мы можем печатать на клавиатуре компьютера, чтобы текст появлялся на экране компьютера, мы понятия не имеем, что стоит за этим. принцип 0/1». трудно понять. в настоящее время мы соединяем два совершенно разных носителя: человеческое тело и чип. действительно странно сказать, что последний является продолжением первого.
если бы киттлер увидел сегодняшний искусственный интеллект, он бы не сказал, что ии является продолжением человеческого тела, поскольку люди-пользователи не только не способны описывать, объяснять и предсказывать поведение ии, но и вскоре не смогут контролировать поведение ии. .
таким образом,харари считает, что в отличие от предыдущих средств массовой информации, таких как печатный станок, радио, телевидение и интернет, которые были всего лишь инструментами коммуникации, искусственный интеллект является первым субъектом в истории человечества, который может генерировать идеи и действовать самостоятельно.
вот почему в исследованиях новых медиа «компьютерно-опосредованная коммуникация (cmc)» в эпоху интернета уступила место человеко-машинной коммуникации (hmc) в сегодняшнюю эпоху искусственного интеллекта. в cmc компьютеры (или интернет) являются просто пассивными и нейтральными средствами или инструментами коммуникации, тогда как в hmc компьютеры (искусственный интеллект) рассматриваются как равные пользователям-человекам, способным формировать и создавать контент и способным вести диалог. «коммуникатор», который может даже лгать.
ии фабрикует повествования, манипулирует мышлением и заставляет людей убивать друг друга.
на этом этапе спора харари, естественно, изложил свои предыдущие взгляды в «краткой истории человечества»:
давняя сверхсила человека заключается в способности использовать язык и создавать с его помощью множество вымышленных мифов, таких как виртуальные концепции, такие как закон, валюта, культура, искусство, наука, страна, религия и т. д., заставляющие людей верить в через них люди социальные правила связывают друг друга, чтобы управлять всем обществом.
теперь, когда современный искусственный интеллект уже может формировать и создавать контент, вести разговоры и даже лгать, он, вероятно, будет распространять информацию на основе информации в киберпространстве, на фондовых рынках, в авиационной информации и других областях с гораздо большей эффективностью, чем люди. конечная цель, или «повествование», которое приносит пользу самому себе, то есть «хорошо рассказывать истории ии», тем самым манипулируя человеческим познанием.
например, финансовые рынки являются идеальной игровой площадкой для ии, поскольку это область чистой информации и математики (или область полностью структурированных данных). искусственному интеллекту по-прежнему сложно управлять автомобилями автономно. это связано с тем, что во время движения искусственный интеллект сталкивается с хаотичным и сложным взаимодействием автомобилей с дорогами, дорожными знаками, погодой, светом, пешеходами, блокпостами и другими объектами.однако на цифровом финансовом рынке ии легко описать цель (например, «заработать как можно больше денег»), поэтому ии может не только формулировать новые инвестиционные стратегии и разрабатывать новые финансовые инструменты, которые полностью превосходят человеческие. понимания, но может даже бессовестно манипулировать рынком, что приведет к результату, когда вы все выиграете, а все остальные проиграют.
харари привел пример того, что в апреле 2022 года средний дневной объем торгов на мировом валютном рынке составлял 7,5 триллиона долларов сша, из которых более 90% были совершены непосредственно посредством разговоров между компьютерами. но сколько людей на самом деле понимают, как работает рынок форекс? не говоря уже о понимании того, как группа компьютеров может достичь консенсуса по транзакциям на триллионы долларов. (это то же самое, что и точка зрения киттлера: компьютеры ни в коем случае не являются продолжением человеческого тела.)
он сказал, что на протяжении тысячелетий пророки, поэты и политики использовали язык и повествование для манипулирования обществом и его изменения, что доказывает огромную силу «виртуального» и «нарративного». вскоре ии будет подражать этим людям и создавать нарративы ии, которые все больше отклоняются от человеческих, основанных на человеческой культуре. в конечном счете, ии не нужно посылать роботов-убийц, таких как «терминаторы», для уничтожения людей извне. ему нужно только манипулировать человеческим сознанием и позволить им убивать друг друга.
люди-пользователи не только не способны описывать, объяснять и предсказывать поведение ии, но и вскоре не смогут его контролировать.
люди создают законы для ии, и развитие необходимо сначала затормозить, а затем ускорить.
посредством приведенного выше аргумента (или рендеринга) харари позволяет нам пережить ужасный сценарий «ии, вышедшего из-под контроля», который произойдет (или уже произошел, или происходит) в ближайшем будущем, заставив нас, людей, содрогнуться. итак, для чего нужны люди?
харари считает, что пока мы строго регулируем и контролируем искусственный интеллект, опасности, описанные в приведенных выше примерах, вряд ли возникнут.
например, раньше автомобили были очень опасными, но тогда государственное законодательство требовало от компаний тратить большую часть своих бюджетов на исследования и разработки на обеспечение безопасности автомобилей. итак, сегодня автомобильная компания разрабатывает новый автомобиль, прежде чем выпустить его на рынок. должны строго соблюдать соответствующие правила для обеспечения безопасности автомобилей, прежде чем их можно будет выпустить на дорогу. так что сегодня нам относительно безопасно водить машину.
аналогичным образом, если технологическая компания изобретает новый мощный алгоритм, она должна провести проверку его безопасности в соответствии с соответствующими законами, прежде чем выпустить его на рынок. например, харари считает, что правительство должно принять закон, требующий от компаний, занимающихся исследованиями и разработками в области искусственного интеллекта, тратить не менее 20% своих бюджетов на исследования и разработку мер безопасности, чтобы гарантировать, что разрабатываемый ими искусственный интеллект не выйдет из-под контроля и не будет не причинять вреда общественному порядку и психологическому уровню людей. если эти меры замедлят развитие искусственного интеллекта, это будет хорошо для человечества.
сначала законодательствовать и контролировать искусственный интеллект, а затем ускорять его развитие — это точно так же, как когда мы учимся водить машину, мы должны сначала научиться нажимать на тормоз, а затем научиться нажимать на педаль газа. мы не можем попасть в ужасное состояние «дрэг-рейсинга», когда компании не имеют контроля.
вывод: ии – хорошее лекарство или яд, это зависит от человека
любая технология по своей сути двусторонняя. платон указал в «федре», что письмо может как усилить, так и заменить память, и поэтому является одновременно лекарством и ядом (фармакон). искусственный интеллект не является исключением, и поскольку он скрыт и силен, он может говорить сам за себя и принимать собственные решения. его эффективность лекарства и яда выше, чем у всех предыдущих технологий.
нил постман, американский исследователь медиа, сказал: «оруэлл предупреждал, что люди будут порабощены внешним угнетением, в то время как хаксли полагал, что люди постепенно влюбятся в угнетение и будут поклоняться промышленным технологиям, которые заставят их потерять способность мыслить; беспокоился, что то, что мы ненавидим, уничтожит нас, в то время как хаксли беспокоился, что, поскольку наша культура станет вульгарной культурой чувственности, желаний и беспорядочной игры, мы будем уничтожены тем, что мы любим».
искусственный интеллект может либо поработить нас в форме внешнего угнетения, которое мы ненавидим, либо завоевать нас в форме сенсорной стимуляции, которой мы наслаждаемся. точно так же, как столкновение с ядерными бомбами, столкновение с искусственным интеллектом, гигантским зверем, который также создан сам по себе, смогут ли люди приручить его, фундаментально зависит от того, как люди коллективно отреагируют.то есть, могут ли люди как homo sapiens преодолеть свои собственные слабости, такие как жадность, агрессивность и недальновидность, и стать выше себя и стать «выше homo sapiens». это будет трудное общее дело, но у человечества нет выбора.
（автор дэн цзяньго — профессор и научный руководитель факультета коммуникаций школы журналистики фуданьского университета.）
дэн цзяньго
(эта статья взята из the paper. для получения более оригинальной информации загрузите приложение «the paper»).
