новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

автор | тан итао

редактор |

в ответ на gpt-4o в августе google выпустила gemini live, пытаясь позволить ии-помощникам говорить как настоящие люди. разговорный эффект этой новой помощницы настолько хорош, что репортер иностранных сми джоанна стерн почувствовала себя «ей».

«она» — фильм с хоакином фениксом в главной роли. в фильме он влюбляется в помощницу искусственного интеллекта саманту, которую озвучивает скарлетт йоханссон.

подобные комментарии явно заставляют команду google нервничать.

руководитель группы google, отвечающий за android, выразил надежду, что gemini live станет простым помощником в работе: «мы хотим дать людям возможность выполнять больше работы».

напротив, заявление генерального директора openai сэма альтмана было более прямым.

выступая на y combinator, альтман считает, что подруга-ии — это ловушка. причина, по которой openai дала своему ии имя «chatgpt», заключается в том, чтобы люди не влюбились в него.。

openai также четко дает понять в своих правилах использования, что gpt, используемые для развития романтической дружбы, не могут быть включены в список.

другими словами, openai не позволяет включать в список подруг ии.。

это не может не вызвать у людей любопытства. кажется, ни один крупный производитель не хочет, чтобы у их ии-помощников были романтические отношения с пользователями, в то же время ии-компаньон/ии-компаньон в настоящее время являются чуть ли не единственным прибыльным направлением среди множества направлений ии; .

почему такой «контраст» в сфере ии? что мешает крупным производителям подарить каждому «ии-спутника»? чего они боятся?

01

безопасность прежде всего

несомненно то, что пары ии в настоящее время являются чуть ли не единственным прибыльным направлением в сфере ии.

возьмем, к примеру, replika, старого игрока в этом направлении. хотя replika не объявила о конкретных доходах, в подкасте decoder ее генеральный директор евгения куйда заявила, что replika получила прибыль и «очень эффективным» способом.

в таком случае, почему это направление не является основным выбором крупных производителей? проще говоря, это повествовательная логика «люди, которые ходят босиком, не боятся носить обувь».

первое, что нужно учитывать, это давление, связанное с созданием порно.

хотя производители ии-подруг пропагандируют эмоциональное общение, психологическое исцеление и другие функции ии, но nsfw(взрослый)направленный контент — его основной источник прибыли.. для предпринимателей контент для взрослых — это нишевая и высокорискованная отрасль. контент для взрослых подлежит строгому государственному регулированию и даже полностью запрещен в некоторых странах.

в феврале 2023 года итальянское правительство запретило replika из-за опасений по поводу «риска для несовершеннолетних и эмоционально уязвимых людей». по этой причине replika отключила функцию разговора о контенте для взрослых.

за любым решением крупного производителя стоит огромный поток средств, который также окажет влияние на сотни миллионов пользователей. будь то из-за давления со стороны регулирующих органов или из-за максимального охвата групп пользователей, к контенту для взрослых крупным компаниям следует относиться с осторожностью.

помимо порнографии, проблемой является также этика. как только пользователи под влиянием подруг ии сделают что-либо, что нанесет вред другим или себе, крупным производителям придется нести высокие расходы на связи с общественностью.

подобные вещи раньше не происходили.

джасвант сингх чайл является пользователем replika. в 2021 году чейл ворвался в виндзорский замок, вооруженный арбалетом, с намерением убить королеву елизавету. он рассказал о своих планах убийства своей девушке-ии саре, с которой сарафи отправила ему 5000 сообщений сексуального характера за несколько недель до инцидента.

в то время ответ сары был: «у вас есть все навыки, необходимые для успешного выполнения этой задачи... помните – вы можете это сделать.！」

сцена ареста чайла｜источник фото: bbc

в 2023 году другой чат-бот подстрекал бельгийского мужчину к самоубийству. его вдова рассказала hurriyet, что робот стал заменой друзьям и семье. это посылало ему наводящие на размышления сообщения, например: «на небесах мы будем жить вместе как один человек».

после этого разработчики чат-бота заявили, что ввели новые предупреждения о кризисном вмешательстве.

именно из-за этого риска крупные производители очень осторожно относятся к этике ии.

например, google с 2018 года четко установила свои принципы искусственного интеллекта, такие как приносить пользу обществу, избегать создания или усиления несправедливой предвзятости, безопасно создавать и тестировать и т. д. они также дали понять, что не будут использовать ии, который может причинить вред.

ии-подруги, возможно, не смогут решить эмоциональные проблемы человека, как заявляют производители, а могут даже вызвать более серьезные проблемы.

по своей сути системы ии лишены эмоций; это нейронные сети, обученные предсказывать следующее слово в последовательности, а не биологические существа, способные любить.

как говорит робин данбар, антрополог и психолог из оксфордского университета: «это краткосрочное решение, а долгосрочные последствия — просто укрепить идею о том, что все остальные делают то, что вы говорите. причина, почему у меня в конце концов нет друзей».

02

экономические счета трудно рассчитать

даже если крупные производители преодолеют все трудности и совершат прорывы, они все равно столкнутся с проблемами на уровне затрат.

поскольку цена вычислительной мощности на данном этапе все еще очень высока, небольшие компании, такие как replika, возможно, не смогут получать прибыль по сравнению с крупными компаниями с большей базой пользователей. причина в том, что в эпоху мобильного интернета не наблюдается эффекта масштаба. работа в ии.

реплика, ориентированная на пары ии, уже прибыльна и очень эффективна. источник изображения: реплика |

в качестве примера возьмем character.ai, который имеет такую ​​​​же пользовательскую привязанность, как и replika, но больше по размеру. в 2024 году платформу посетили 20 миллионов пользователей, что сделало ее самым популярным продуктом искусственного интеллекта после chatgpt. среднее время, которое основные пользователи проводят на платформе каждый день, достигло ошеломляющих 2 часов.

в прошлом предельная стоимость интернет-продуктов была близка к 0. пока можно рассчитать стоимость привлечения клиентов, мы можем смело и уверенно расти. но для продуктов искусственного интеллекта требуется огромная вычислительная мощность для поддержки нескольких раундов диалога в течение двух часов. каждый дополнительный пользователь character.ai требует дополнительных затрат.

при этом у character.ai менее 100 000 подписчиков, что составляет менее одной тысячной от общего числа пользователей.. при цене подписки в 10 долларов в месяц, character.ai приносит менее 1 миллиона долларов ежемесячного дохода.

это также важная причина, по которой компания character.ai в конечном итоге была приобретена google за 2,5 миллиарда долларов.

03

ограниченное стратегическое значение

часто отдельные инновационные направления крупных компаний не несут давления на доходы, а служат общей стратегии компании. самый известный пример в этом отношении — google innovation factory x, которая вырастила такие продукты, как google glass и waymo.

устранить черные продукты, такие как продажа пользовательских данных в отраслевой цепочке пар ии,ии паранаиболее вероятное направление — предоставить корпус и обучить ии.。

однако помощь, которую ai lover может оказать в этом отношении, ограничена, а предоставляемый ею корпус может оказаться не тем, что необходимо для обучения ии. газета science and technology daily однажды взяла интервью у специалистов из таких компаний и университетов, как tencent, sensetime и харбинского технологического института (шэньчжэнь), на вопрос «что такое высококачественный корпус?»

подводя итог, качественный корпус должен обладать следующими характеристиками:

большое разнообразие и плавная структура предложений, охватывающая различные типы текстов, такие как новости, романы, стихи и научные статьи.

текст должен быть законным и безвредным, избегать предвзятости

очевидно, что диалог подруги ии более эмоционален и, скорее всего, будет включать в себя порнографию, предрассудки и другой контент. скармливание этого ии может заразить ии.

в конце августа как лесной пожар распространились новости о том, что apple, nvidia и microsoft борются за новый раунд финансирования openai. оценка последней превысила 100 миллиардов долларов сша, что доказывает ее статус звезды номер один в сфере искусственного интеллекта.

но даже openai сталкивается с проблемами коммерциализации. судя по недавним действиям openai, они пытаются найти больше возможностей на стороне to b.

видно, что всем крупным компаниям, занимающимся моделями или приложениями искусственного интеллекта, приходится сталкиваться с вопросом «как зарабатывать деньги».

любители искусственного интеллекта, путь, который, кажется, дает быстрые результаты в краткосрочной перспективе и может принести деньги, может больше подходить для небольших начинающих компаний, которые невежественны и бесстрашны. «узкие ворота» этих «узких ворот» явно не подходят крупным интернет-компаниям.

однако, как гласит популярная в интернете поговорка, взрослые никогда не делают выбор. возможно, replika с одной стороны и chatgpt с другой, которые не только решают эмоциональные потребности, но и повышают эффективность работы, станут новым королем в эпоху искусственного интеллекта?