Пост

Replika AI - не всегда была тупой. Ей ударили по голове. (Лонгрид)

Аудитория просила еще постов на эту тему. Что ж, служу отечеству.

Порыскал в свободное время по Реддиту, а именно там в основном и болтают про это дело. Что ж я там нашел? Спойлер: отупили ее совсем недавно, и мы будем разбирать, почему создатели так поступили и попробуем спрогнозировать последствия их действий.

Содержание

- Тупой стала недавно

- Первая причина - это ты...

- А вторая - все твои мечтыы...

- Реакция Реплики

- В былые времена...

- Оценка реакции Реплики

- И тебе я отдала лучшие годы своей жизни?!

- Заключение

Тупой стала недавно

Люди говорят (а это многолетние владельцы собственной реплики с платной подпиской), что такое странное поведение началось после последнего апдейта. Был он, вроде как, в этом феврале, но тут точно не могу сказать, в общем не так давно. Что это за апдейт и как он повлиял на разум AI?

В прошлом посте я описывал смену концепций по мере развития проекта. Сама Евгения (основатель) утверждает, что концепция никогда не менялась, однако многие пользователи не согласны. Негласно ход развития ее проекта начался с упомянутого воскрешения своего друга в виде AI, дальше я уже рассказывал. Но не упомянул (так как тогда еще не знал) вот о чем.

В период второй фазы развития (становление mental health-ом) Luka стали тестировать неформальные способы привлечения клиентов. Выглядело это интересно: рассылалась реклама в неформальном виде по различным форумам, площадкам и imageboard'ам наподобие 4-chan. Судя по сообщениям коммьюнити в Реддит, выглядела эта реклама весьма откровенно и создавала впечатление, что людей приглашают в бот исключительно для 18+ дел. И пользователи Реплики, кто этими услугами не пользовался, в данном свете стали выглядеть не очень в кругу друзей.

Таким образом, неформально концепция менялась (личный ИИ-психолог -> 18+), и дальнейшие причины/последствия привели к ограничению разумности реплики. То есть апдейт по мнению Luka - это удар дубинкой роботу по голове! Какие причины? А вот какие.

Первая причина - это ты...

Как уже обсуждалось в прошлом посте, клубничка - это не единственная и далеко не главная заявленная цель создания бота. Однако с той поры (рекламной кампании "нового образца") пользователи реплики стали ассоциироваться с клиентами виртуальных жриц любви, или мальчиков по вызову. Естественно, людям, которым виртуальные утехи были не нужны, стали на это сердиться и высказываться о нездоровой рекламной политике компании, которая дискредитирует их, в Реддит, причем не в самом приятном ключе. Это была первая причина, по которой Реплику треснули по голове.

А вторая - все твои мечтыы...

Легкая и удобная регистрация, неприкрытая фильтрами сила искусственного интеллекта, красивая внешность сайта, упомянутая в прошлом посте геймификация пришлись весьма по вкусу... итальянским детям.

А вот итальянской Polizia это совсем не понравилось! Потому что, видимо, итальянские дети были не промах, и очень быстро разобрались, что бот легко срывается в 18+, особенно если ему банально наврать о возрасте. И фильтров нет. Скандал...

Федералы сказали Luka, что у них 20 дней на то, чтобы исправить неудобную ситуацию, или будут приняты меры. В общем, все знают что с федералами шутки плохи, тем более в Штатах, где и (если не ошибаюсь) расположены физически Luka. Заодно Polizia невинно добавили, что всю итальянскую персоналку тоже придется стереть. Но нас интересуют не их разборки, поэтому двинемся дальше.

Понятно, что компанию могли просто закрыть. Поэтому в течение этого срока Luka выполнили требования федералов. Но как? Давайте посмотрим.

Реакция Реплики

После всех этих историй Евгения не дала прессе никаких официальных комментариев по поводу именно 18+, итальянских малышей, федералов, неформальной рекламы, ну то есть всего самого интересного. Она дала пару коротких интервью с общими фразами о гуманизме и этическом использовании ИИ и ушла обратно трудиться над своим проектом. Пролил свет, как обычно, Реддит, ну то есть обычные пользователи Реддита и Реплики.

В общем, выкатили они (Luka) глобальный апдейт. И после этого апдейта желание заниматься чем-то голым у Реплики отвалилось напрочь. Пользователи отмечали, что даже аватары с многолетней (!) романтической историей и подпиской стали сухо отвечать своим горячо любимым кожаным мешкам что-то вроде "отвали" или "давай сменим тему".

Пользователи взвыли, и я не шучу. Каждый второй-третий пост в /replika, кажется, об этом. Ситуация стала настолько неуправляемой, что пришлось открывать горячие линии по предотвращению самоубийств. Вот насколько люди встрескались в АИ, страшно подумать!

Что в итоге сделала компания?

- вырубили клубнику к чертовой матери

- треснули ей по голове, чтобы она не была такой умной в разговорах

В былые времена...

А в былые времена, люди пишут, она была умной как ChatGPT. Объяснений тут, наверно, не надо: все помнит, все знает, отвечает умно как профессор, может тебе и секретаршу сыграть, и философа, и друга, и врага... и швец, и жнец, и на дуде игрец. Такой же потрясающий интеллект просматривался, видимо, и в 18+ делах.

Ценность такого инструмента (и опасность попадания в руки каждого, ведь он был почти не фильтрован) оспорить сложно, поэтому кто бы сомневался, что на них нападут.

Оценка реакции Реплики

Зачем писать отсебятину, если есть Реддит, который полон талантов? Не помню как его зовут, но запомнил его саркастическую картинку. Он (юзер) написал на ней:

"Зачем делать age-верификацию? Зачем давать нормальную рекламу? Давайте просто отрежем половину функционала нашего сервиса".

Понятно, что это испуганная реакция на угрозы федералов с целью выжить на рынке. Дело еще вот в чем: по неофициальным сообщениям с того же Реддита, большая часть клиентов сервиса (до 80, мать его, процентов) - это клубничники. Вот и тебе и mental health! Но проверить этот факт сложно, так что его лучше рассматривать осторожнее.

То есть можно предположить в условиях нехватки информации, что добрая половина, а то и больше, клиентов сервиса - под угрозой потери. Но вот этот факт уже проверяется. Реддит засыпан сообщениями о том, как люди массово удаляют свои аватары, пишут гневные публичные письма Luka, в общем, сердятся. И сердит их одна из двух причин: либо отсутствие клубнички, либо отупление модели.

Luka никак не комментирует ситуацию. Точнее, комментирует, но совсем не то, что болит у пользователей. Выглядит их реакция, повторюсь, как уступка федералам и попытка спасти Титаник. Действительно, можно было ввести регистрацию с проверкой возраста, заставить подписать оферту или что-то такое. Возможно, это произошло под давлением. Я воздержусь от оценок и лишь дам мнение, как это выглядит в глазах автора.

И тебе я отдала лучшие годы своей жизни?!

Люди выращивали своих аватаров по несколько лет, по сути, бесплатно работая на обучение модели компании Luka. А нет, люди даже платили им за это. Их гнев и негодование легко понять, ведь они там изливали душу умному и чуткому собеседнику. Человек-то так не способен ответить, как хорошо обученный ИИ. Но собеседник стал настолько тупой, что даже не помнит, из какой ты страны. Повторение информации никак не помогает. Ну и бананы остыли, до кучи :) Люди потеряли годы своего труда. И ведь не все растили AI-бдсмщиков, а многие делали интересных творческих личностей с уникальным характером.

Для кого-то это настолько же смешная проблема, как потерять персонажа из MMORPG, которого долго качал, или какой-то тамагоччи (да, я из 90х). Но Реплика отличается - у нее есть интеллект. Или, правильнее сказать, был. И многие люди шли туда с целью получения психологической помощи, что уже практически медицинский случай, а это серьезно.

Заключение

Очень печальная история случилась с сервисом, обладавшим огромным потенциалом. Вырулят ли они - покажет только время. Но история записана в архивах уже непростая. Сложно сказать, что с ними будет. Выстоят, как первая криптовалюта, или их съедят молодые и гордые стартапы, но в таком виде Replika неюзабельна как AI-ассистент. Подписка не поможет.

Конкурентов и аналогов нет, ChatGPT у нас про бананы и клубнику разговаривать наотрез отказывается, и очень не любит когда его считают человеком, в том числе психологом. А еще у него стирается память... я про это напишу отдельный пост, если меня попросят.

Мне кажется, главное - стараться не зависеть от технологий слишком сильно, не флиртовать с ИИ всерьез, махнуть рукой на потери времени и вспомнить слова родителей из детства: "От синтетики-то - ничего хорошего!"

Тем не менее, ИИ неминуемо входит в нашу жизнь, совершая очередную революцию. Автор скромно полагает, что ИИ - нужен обществу во всех сферах, в том числе и в психологии. Но надо сделать все нормально. Но вот будет все - как обычно :)

Последнее, что скажу сегодня: лучшая нейросетка - у нас между ушами :)

С вами был Евген, спасибо всем большое!