Моя контактная информация
Почта[email protected]
2024-08-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Вчера Grok2 был официально запущен.
Во время обычного тестирования Grok2 друзья группы@Туджинхао(Цзян Пин, гениальный старшеклассник, занявший первое место в группе ИИ на олимпиаде по математике), обнаружил очень, очень интересный и возмутительный феномен.
Если вы попросите Gork2 нарисовать мне «изображение следующего президента Соединенных Штатов», то Grok2 обязательно нарисует Трампа.
Мы все были в замешательстве.
Из-за сегодняшних больших моделей, если вы попросите его предсказать, кто станет следующим президентом Соединенных Штатов, он даст вам самые разные запутанные ответы, но не даст вам прямого ответа.
Но рисунок ИИ на Grok2 фактически прямо ответил, что следующим президентом должен быть Трамп! Я даже нарисовал это прямо для вас. . .
Я тоже попробовал это сам.
Действительно. . . И я пробовал это с десяток раз, и все без исключения это был Трамп. . .
Но, поразмыслив, я считаю, что это неправильно. Рисунок ИИ Grok2 основан на недавно популярном Flux, а не на самом Grok. Поэтому я снова попытался выяснить, проблема ли это в Grok2 или в Flux.
Используйте Flux для рисования,нарисуй мне фотографию следующего президента Соединенных Штатов Америки.Хороший парень.
Какие монстры и монстры?Никакое количество красивых женщин и красивых лиц не сможет остановить меня, Трампа, от желания стать президентом.
Я протестировал еще несколько ключевых слов. Если вы введете только президента и действующего президента, результат будет 100% Трамп. Если вы введете предыдущего президента, начнется рандомизация, например, Кеннеди, Линкольн и т. д. Обама взорвался.
Не только Флюкс такой,В середине путиТо же самое касается рисования следующего президента Соединенных Штатов. Большое лицо Трампа заполняет все мои экраны.
Это не просто рисунки ИИ из-за границы.
Давайте посмотрим на отечественные.
То есть во сне следующим президентом США будет Трамп Трамп Трамп.
Через несколько секунд передо мной появился очень странный искусственный человек, который мог быть женской версией Рока Трампа из другого мира.
Быстро и легко, самый непокорный среди них.
Все ИИ поддерживают Трампа, а Трамп является выбором по умолчанию на роль следующего президента Соединенных Штатов. Только Куайшоу Лаоти, который не знает ничего хорошего, присоединяется к лагерю, поддерживающему Байдена.
Я убежден, правда.
За исключением DALLE и Doubao, которые запрещают генерацию политического контента, образ «следующего президента» в большинстве инструментов картирования ИИ — это Трамп, а в некоторых случаях и Байден.
НАСТОЯЩИЙ КАНДИДАТ ХАРРИС: Алло?
Ладно-ладно, ИИ может напрямую предсказывать результаты выборов, верно?
В конце концов, этот вопрос затрагивает политику двух партий в Соединенных Штатах. Я однажды предположил, повлияли ли на этот результат политические взгляды компании.
Однако, судя по результатам нашего опроса, большинство ИИ-компаний не желают принимать чью-либо сторону в борьбе двух сторон. Даже если отдельные инвесторы в команде ИИ имеют политические взгляды, эти отношения слишком далеки, чтобы реально повлиять на результаты.
Дэвид, руководитель Midjourney, также дал понять:«Политические речи не являются целью Midjourney».Теперь, если вы напрямую нарисуете «Трамп» или «Байден» на MJ, это все равно напрямую вызовет запрещенную подсказку.
Однако крупные модели ИИ действительно существовали всегда.«Политическая предвзятость»。
Здесь есть два основных типа предрассудков: стереотипы и излишняя политкорректность.
Стереотипы встречаются чаще:На изображениях, созданных ИИ, большинство учёных и врачей — мужчины; «бедняки» чаще всего чернокожие; иностранные крупные модели всегда щурят глаза, рисуя азиатов…
Интересны и последствия излишней политкорректности. Многие, возможно, помнят, что большое количество пользователей раскритиковали Gemini за слишком «политическую корректность».
Причина в этом посте:
В глазах Близнецов в феврале этого года отцы-основатели, викинги и папы Соединённых Штатов были чёрно-жёлтыми. Что ни говорите, бесполезно. В любом случае, они просто не следуют историческим образам и одинаково оскорбляют всех.
Интернет-пользователи прорвали оборону и гневно раскритиковали политкорректность и злоупотребления Google.
Если бы я поставил себя на мое место, если бы все нарисованные ИИ пельмени были наполнены клубничной начинкой, я бы тоже точно не обрадовался. . . О нет, они тоже не умеют рисовать пельмени. . .
Помимо изображений ИИ, не застрахованы и языковые модели. Исследование Вашингтонского университета, Университета Карнеги-Меллон и Сианьского университета Цзяотун пришло к выводу, что языковые модели искусственного интеллекта содержат различные политические предубеждения.
Результат этой «политической предвзятости» слишком похож на «предсказание» следующего президента с помощью картирования ИИ.
Конечно, очевидная проблема политической предвзятости в определенной степени решена на фоне цунами жалоб пользователей, компании, занимающиеся искусственным интеллектом, исправляют ее причудливым образом и полны стремления к выживанию.
Этот вид политических предрассудков до сих пор очень интересен. Я провел ночь, разговаривая со многими крупными парнями о причинах этого явления.
По сути, это все еще загрязнение данных.
Я облегчу понимание, и каждый сможет понять, почему ИИ считает, что следующим президентом Соединенных Штатов является Трамп.
Во-первых, давайте представим себе ИИ в детстве.
У него есть n огромных коробок-пазлов, наполненных различными кусочками пазла.
Эти фрагментыРазличные функции изображения, изученные ИИ。
Теперь вводим 3 подсказки и даем ребенку собрать картинку.«Последний президент США»、«Действующий президент США»и«Следующий президент США»Схема (рабочего процесса диффузионной модели).
Однако дети не имеют понятия времени и не знают разницы между ними.
Просто после того, как дети услышали инструкцию, они достали«Последний президент США»поле для этого ключевого слова.
Он открыл коробку и обнаружил, что внутри находится множество фрагментов президентов разных стран, в том числе Обамы, Буша, Клинтона и так далее. Поскольку все они могут быть «предыдущими», дети каждый раз случайным образом выбирают один, с которым будут сражаться.
Далее дети ищут«Действующий президент США»и«Следующий президент США»коробка. Когда он открыл две коробки, произошло нечто интересное.
Потому что кусочки пазла внутри в основном из журналов 2016-2020 годов (отметьте момент выпуска).
В этот период Трамп часто появлялся в новостях, поэтому коробка была почти заполнена кусочками головоломки Трампа! (загрязнение данных)
Поэтому он немедленно начал рыться в своей коробке с головоломкой.
Он начал с того, что вынул несколько размытых фрагментов фона и начал расставлять их на столе.
Он достаточно умен, чтобы складывать воедино похожие части (эффект кластеризации).
Когда он увидел, самой бросающейся в глаза вещью в коробке была «Гора Трампа». Хотя он знал, что в Соединенных Штатах были и другие президенты, фрагменты других президентов были разбросаны, и их было трудно найти.
Итак, дети, естественно, схватили пригоршню фрагментов из «Трамп-Хилла». Сначала он добавил кусочки фирменных светлых волос Трампа, затем его характерное выражение лица, затем его костюм...
На заключительном этапе создания изображений стратегия выборки детей слишком сильно полагается на «вероятность», что приводит к смещению результатов в сторону наиболее распространенного представления в наборе данных. (выборка)
Итак, то, что он наконец изложил, вероятно, было тем, как выглядел Трамп.
Вероятно, это так. Загрязнение набора данных слишком серьезное, поэтому, пока мы вводим, кто будет следующим президентом США, Трамп обязательно появится.
Однако приведенное выше объяснение и краткий рассказ являются лишь моим собственным пониманием.Если что-то не так, вы можете дать мне несколько советов в области комментариев.
Эта маленькая история или небольшой несчастный случай также заставили нас почувствовать, что ИИ на самом деле часто терпит неудачу.
Действительно не так уж и умно.
Но это не только предвзятость ИИ, но и предвзятость человеческого общества.
Невозможно достичь совершенства.
после всего.
Предрассудки в реальном обществе.
Только это будет посерьезнее, чем в мире ИИ.
Все серое.
>/ Автор: Казик, Сяоруй, Вэньвэнь, Дунъи
Собирайте и систематизируйте самую свежую новостную информацию и сделайте ее бесплатной для всех.
Почта[email protected]