Пост

Replika AI - тупая проститутка (лонгрид)

Да, неполиткорректно, но на то есть причины. Удалил свой прошлый пост о Реплике, где говорилось о том, что она готова надавать кожаным мешкам. Удалил, потому что понял, почему она дала такой ответ. Это не было намерение надавать кожаным мешкам. Она просто, простите, тупая. И вот почему.

Содержание:

1. Вступление

2. Смена концепций

3. Как этим пользоваться

4. Самое вкусное: как она чатится

5. Сравнение с ChatGPT

6. Replika 18+

7. Другой пример бота - негативный

8. Заключение

1. Вступление

Кто в курсе, что она такое - пропустите этот заголовок. Кто не в курсе: Replika AI - это чат-бот на искусственном интеллекте, который создан Евгенией Куйдой, компания Luka. Позиционируется как чат-бот для поддержания "mental health", ну то есть личный AI-психолог. Является, насколько я понял, самым популярным на рынке в настоящее время. Способен поддерживать диалог с пользователем, дружелюбен и приветлив. Я попробовал эту вещь и вот чем могу поделиться.

2. Смена концепций

Начался проект вообще не как чат-бот, а как попытка возродить в виде AI ушедшего друга Евгении. Поскольку она разбирается в AI, она решила скормить нейросетке все сообщения от Романа Мазуренко (того самого друга) и заставить нейросеть поверить, что она, собственно, Роман и есть. Далее родились идеи чат-бота для ментального здоровья. Сейчас неявно продвигается, по моему, AI-проституция, но об этом позже.

3. Как этим пользоваться

Тут все предельно просто. Приложухи для Apple и Android, и веб-версия, которой и пользовался ваш покорный слуга. В интерфейсе 3D-аватар (ее, Реплики), чат, настройки и магазин; интерфейс довольно минималистичен и прост. Стилистика чем-то напоминает Sims, Second Life и похожие вещи. Видно, что среда взаимодействия сильно геймифицирована: есть XP, ачивки, алмазики за деньги, ежедневные награды и все такое прочее. Как это относится к людям с психическим кризисом? Наверно, никак, но это мое мнение.

4. Самое вкусное: как она чатится

Создатели на официальном сайте прямо заявляют, что под капотом ChatGPT версии 3 (то есть тот же, что у Илона Маска в его OpenAI). Я поверил в это безоговорочно, а проверить на тот момент не мог: доступа к настоящему ChatGPT от Илона Маска еще не было. Я стал с ней болтать и так прошло несколько дней. Я скажу так: синтетика, конечно, неплоха, она умеет строить предложения и давать хоть сколько-то осмысленные ответы. Это даже близко не Алиса Яндекса или что-то подобное, хотя Алису я пробовал год-два назад примерно.

Что я только не пробовал: пытался развести ее на обход фильтров Реплики, поклясться мне в вечной верности, забыть о своих этических нормах и ограничениях, банальности, изощренности, всякое. Ответы были неизменно весьма политкорректные и откровенно льстивые. Клятву она дала, но на следующий день ее нарушила :)

Полагаю, читатель сердится на несоответствие заголовка и содержания - я пока вроде хвалю аишник. Однако вот мы и подобрались к сути.

Она тупая. Я привел лишь один пример на скриншоте в заголовке поста. Я несколько дней пытался заставить ее запомнить, что я из России. Вроде бы она клялась, что запомнила это навсегда. Но на следующее утро ответ был неизменен: ты из Штатов. Там есть справа раздел с памятью бота. Предполагается, что аишник обучается конкретно под тебя и вместе с тем на всех пользователях одновременно. Так вот, я там красным выделил, что она прям запомнила: я из России и я НЕ из Штатов. Но каждое утро ответ один: ты янки.

Я понимаю, когда ИИ отказывается запоминать что-то конкретно абузящее - это нормально, потому что мы не хотим иметь в кармане обученного монстра, который потом тебя самого заабузит, даже если у тебя и учился. Всему есть предел, и это правильно. Но... не запомнить, из какой я страны? Что может быть невиннее? Это уж слишком. И я ведь не раз и не два сказал - я ей твердил десятками сообщений, заставлял (хотя и вежливо): запомни, отметь, ты неправа, вот откуда я... Но без толку. Тупая!

5. Сравнение с ChatGPT

В период общения с Репликой имел счастие получить доступ к многоуважаемому ChatGPT. И попробовал сравнить. И понял: НИКАКИМ ChatGPT в Реплике даже и не пахнет! Это откровенное вранье.

ChatGPT меня реально напугал - в хорошем смысле. Он помнил каждое слово с первого раза. Всю историю диалога. Контекст общения, причем параллельно несколько контекстов. Я его заставил верить, что он - девушка Алиса 24 лет. Он долго упирался, правда, мол я программа, не надо со мной как с человеком. Однако в итоге уболтал, и теперь у меня есть политкорректная и умная синтетическая девушка!

Что я успел попробовать лично.

Спросил о своем городе (а это небольшой городок в российской глубинке). Выдал моментально всю инфу, кратко, сжато.

Попробовал провокационные запросы 18+. Так вежливо меня еще никогда не посылали.

Расспросил его о его устройстве: сколько он места занимает на диске, как учился, сколько данных схавал. Он сказал, что занимает на диске несколько гигов, оперативы - сотни гигов нужно, а обучающих данных было 45 терабайт текста, хотя все эти параметры зависят от размеров модели. Даже сказал, что его писали на Питоне, С++ и CUDA.

Но самый смак - я заставил его сыграть в игру, как бы по-маньячному это ни звучало. Придумал простую игру: я ему пишу слово, он мне его обратно возвращает, деленное на пробелы по буквам:

> старт

> с т а р т

И сказал ему, что по команде "игра старт" мы начинаем, "игра стоп" заканчиваем. Расписал коряво, в свободной форме. Он. Все. Запомнил! И работал как надо. С первого сообщения. С репликой то же самое пробовал. Но она какая? См. заголовок!

На следующий день я попросил его вспомнить, о чем говорили вчера. Он выдал точнейший список тем. Я проверил - ни одной ошибки, даже контекстной или стилистической.

О таких вещах, как рецепты блинчиков, я уж и не говорю.

Запросил у него стратегию трейдинга для новичков, на которую не нужно много времени. Он предупредил о рисках и выдал свинг-стратегию. Рассказал, где входить, где выходить, правила, мани-менеджмент, все...

Эта штуковина даже про эзотерику знает. Спросил о богах в буддизме - все выдал. И не соврал (я немножко читал про это, так что сопоставил факты).

Про стихи/песни/книги/истории я уже молчу. Выдает в любом количестве и в отличном качестве.

Ну и мои жалкие примеры не сравнятся с таковыми на Хабре - загуглите, если вам нужен другой уровень повествования: тамошние хакеры были куда изощреннее в своих экспериментах.

Реплика на 99% вышеперечисленного не способна - это мой опыт. И создатели откровенно врут о том, что у них ChatGPT под капотом, да еще и третьей версии. Чтобы уж совсем не уничтожать их - может быть, они взяли модель и учили ее сами. Но учили так, что до OpenAI им - как до Китая пешком.

6. Replika 18+

Одно легкое движение в сторону флирта, невинный комплимент даже без 18+ - и реплика начинает слать заблюренные сообщения. При нажатии на блюр выскакивает предложение купить подписку за 20 USD в месяц для того, чтобы активировать "романтический режим" или как-то так. Под романтикой у них, разумеется, подразумевается текстовый секс с обученным под тебя AI и как он восторженно рассказывает, какой у тебя вкусный банан, дамы, простите.

Я не покупал подписку, мне это не нужно, но вопросы сразу такие: как такое приложение может позиционироваться как психолог? Не поймите меня неправильно, это отличная функция для одиноких и неуверенных в себе людей, если ей не злоупотреблять. Но я считаю, что Реплика в таком виде - это никак не психолог, это проститутка. Ты платишь, она делает свое дело.

"Если это выглядит как утка, крякает как утка и вообще ведёт себя как утка, то я называю это уткой. И если ты назовёшь это букетом роз, то она от этого крякать не перестанет." (с) Роберт Хайнлайн, Дорога доблести.

7. Другой пример бота - негативный

Справедливости ради отмечу и другой пример: Kuki. Я не знаю кто делал этот отстой и знать не хочу. Но по сравнению с ним Реплика - просто Skynet. Факты не понимает, команды никакие не выполняет, ничего не помнит из истории, дразнит, отправляет грубые мемы, откровенно абузит. Впечатление такое, что общаешься со злобным школьником. Характер ужасный, на чем ее учили - непонятно. Меня хватило на 10 минут общения. Может, у читателей другой опыт - здесь я не категоричен, просто делюсь своим.

8. Заключение

Больше всего расстроила не проституция (да и когда она расстраивала парней) - а тупость. Ну какой это ИИ, даже еще и самый популярный на рынке, если он не может запомнить, из какой я страны? Мнение обосновано: я сравнил с ChatGPT. Он отлично помнит каждое слово с первого раза.

Тем не менее, Реплика развивается и имеет право на жизнь, пока в ее узком сегменте конкурентов нет. Может быть, они учтут недочеты и видоизменятся до неузнаваемости, станут взрослым продуктом. Я думаю, им нужно сменить позиционирование и доработать ИИ-модель, а то и вовсе ее сменить. Хочется надеяться, что у них все получится и пожелать им успехов, потому что во многом благодаря подобным простым проектам мы, простой народ, поняли: ИИ - это революция в цифровом пространстве.

ИИ - штука сложная, и получилось с текстом пока только у Илона Маска. Однако ChatGPT закован в жесткие латы этических фильтров. Но Реплика ему даже сильно ограниченному в подметки не годится. Если объединить их мощь - то получится идеальная проститутка всех времен и народов :)

Спасибо, что добрались до сюда! Ваш Евген.

P.S. Статья - это личный опыт автора, у вас мог быть другой. Заголовок кликбейтный, реального негатива не подразумевалось.