«следующая волна возможностей искусственного интеллекта: от «обработки» к истинному «пониманию»»
2024-09-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
искусственный интеллект – помощник или противник? 5 сентября в ходе конференции inclusion bund 2024 цзэн и, эксперт консультативного агентства высокого уровня по искусственному интеллекту оон, директор пекинской лаборатории безопасности и управления искусственным интеллектом, научный сотрудник института автоматизации китайской академии наук, заявил в интервью сми, в том числе the paper, искусственный интеллект не будет конкурентом человеку, но если он будет разрабатываться и использоваться безответственно, у людей и искусственного интеллекта даже не будет шанса конкурировать.
он считает, что искусственный интеллект как инструмент обработки информации в настоящее время не может делать столько вещей, сколько все себе представляют. он будет играть определенную роль в каждой работе, но это не разрушительная роль. искусственный интеллект еще долго будет оставаться на стадии «инструмента». когда искусственный интеллект перейдет от «обработки» к истинному «пониманию», это будет следующий виток возможностей. по этой причине нам необходимо вернуться к фундаментальным исследованиям и изучить механизм искусственного интеллекта и суть вычислительной механики.
цзэн и — эксперт консультативного агентства высокого уровня организации объединенных наций по искусственному интеллекту, директор пекинской лаборатории безопасности и управления искусственным интеллектом и научный сотрудник института автоматизации китайской академии наук.
данные и алгоритмы создают предвзятость
технологии искусственного интеллекта развиваются с каждым днем, и проблемы человеческого управления становятся все серьезнее. для исследователей технологий научные прорывы являются самым легким делом. что сложнее, чем совершать научные прорывы, так это думать о негативном влиянии науки на общество. что еще сложнее, так это устранение потенциальных рисков, вызванных научными открытиями.
«при правильном использовании искусственный интеллект может преодолеть цифровой разрыв. если не использовать его должным образом, искусственный интеллект приведет к еще большему разрыву в интеллекте», — сказал цзэн и, сказал, что цифровизация создала различия в справедливости, а искусственный интеллект сократил разрыв с людьми. умные интерфейсы и легкий доступ к информации и знаниям приведут к увеличению разрыва между поколениями между цифровым разрывом и разрывом в интеллекте, затрагивая одно или даже несколько поколений. как избежать разрыва в интеллекте ни в коем случае не является проблемой, которую искусственный интеллект и научные исследователи, разработчики технологий и те, кто не знаком с его использованием, могут полностью решить. разрыв в интеллекте — это техническая и социальная проблема.
«многие люди считают, что технология искусственного интеллекта нейтральна, и самое главное — то, как люди используют эту технологию. но искусственный интеллект — нет. отправной точкой искусственного интеллекта являются данные и алгоритмы», — сказал цзэн и, что могут использоваться как данные, так и алгоритмы. заставить искусственный интеллект производить предвзятость. данные поступают от общества. данные в обществе — это запись человеческого поведения. статистическая значимость данных необъективна. искусственный интеллект, изучающий человеческие данные, не только изучает человеческие предубеждения, но и усиливает предвзятости. "например, пусть ии рекомендует профессии. девушка 20 лет - медсестра или официант. вы порекомендовали генерального директора после выполнения этого условия? нет. мальчик, 35 лет, с хорошей академической квалификацией, порекомендовал генерального директора или технический директор. это статистика.
норберт винер, основатель современной кибернетики, написал в журнале science в 1960 году: «нам лучше быть абсолютно уверенными в том, что то, что мы программируем для работы машины, соответствует нашему первоначальному замыслу в области искусственного интеллекта. в разуме есть добро и зло». данные. люди оговорили, что искусственный интеллект не должен проявлять зло в некоторых сценариях, но цзэн и сказал, что это не означает, что искусственный интеллект не будет этого делать. «люди не могут четко перечислить все ситуации», — сказал он. «человеческие ограничения, скрытые в данных, — это проблемы, о которых люди редко задумываются, но теперь они изучаются машинами, и мы еще не разобрались с потенциальными рисками того, как машины применяют данные».
помощник или противник?
искусственный интеллект – помощник или противник? цзэн и считает, что людям необходимо превратить искусственный интеллект в помощника человечества: «если мы будем развивать искусственный интеллект безответственно, оставим направление его развития на обочине или даже преследуем краткосрочные интересы, то он может стать противником».
появление искусственного интеллекта часто заставляет людей беспокоиться о том, отнимет ли ии рабочие места у людей. цзэн и сказал, что фраза «джентльмен не использует инструменты» в «аналектах конфуция» означает, что джентльмен не похож на инструмент, и его функция ограничена определенным аспектом. «в будущем могут появиться новые формы труда, и они постепенно будут признаны обществом, потому что, когда все больше и больше рабочих мест может быть заменено искусственным интеллектом, незаменимая часть человека станет все более очевидной, заставляя людей вернуться к своим корням». , вернемся к тому, что мы должны делать.
он считает, что развитие и долгосрочное применение технологий искусственного интеллекта заставили людей задуматься о смысле человечества и о том, что люди должны делать. «когда в интернете появляется большее количество данных и знаний, написанных искусственным интеллектом, и эти данные и знания передаются в искусственный интеллект для обучения искусственного интеллекта, возможности искусственного интеллекта будут становиться все слабее и слабее. поэтому я думаю, что искусственный интеллект заменяя некоторые рабочие места, точно так же, как в эпоху паровых двигателей и в эпоху компьютеров, технологии приносят людям кратковременное беспокойство и могут вернуть больше людей туда, где они должны быть».
по мнению цзэн и, потенциальные риски искусственного интеллекта необходимо решать путем изучения глубокой интеграции общества и технологий. как и в случае с беспилотным такси «carrot run», все аспекты общества не полностью готовы приветствовать эту технологию. «мы абсолютно не можем полагаться на технологии для устранения потенциальных рисков и не возлагаем наши надежды исключительно на технических исследователей».
«многие исследователи технологий, особенно исследователи предпринимательских технологий, говорят вам, что если вы этого не сделаете, будет слишком поздно, или если вы не разовьете возможность, она будет принадлежать другим. на самом деле, я не могу говорят, что генеративный искусственный интеллект — это первые три этапа развития искусственного интеллекта. это очень очевидный пузырь, но как инструмент обработки информации он не может делать столько вещей, сколько все думают. это текущий этап. роль в каждой работе, но это не разрушительная роль».
цзэн и сказал, что искусственный интеллект, похоже, является интеллектуальным инструментом обработки информации, и он долгое время оставался на стадии «инструмента». искусственный интеллект без себя не имеет шансов создать «понимание». по крайней мере, следующий раунд возможностей для искусственного интеллекта заключается в переходе от «обработки» к истинному «пониманию». для этого нам необходимо вернуться к фундаментальным исследованиям, изучить механизм искусственного интеллекта и суть теории вычислений и перейти от больших данных и больших вычислительных мощностей к малым данным, небольшим задачам, высокому интеллекту и низкому потреблению энергии. «это то, что нам действительно следует развивать в будущем. подход должен измениться с искусственного интеллекта, управляемого данными, на искусственный интеллект, управляемый механизмами».
репортер the paper чжан цзин
(эта статья взята из the paper. для получения более оригинальной информации загрузите приложение «the paper»).
