ИИ по-французски
ИИ уже успел пролезть почти во все бытовые щели, хотя рак так и не вылечил и рабочую неделю не сократил. В основном, кажется, именно из-за последнего французы относятся к нему без особого восторга: 73% опасаются, что ИИ скорее ухудшит мир, чем улучшит. Пользоваться, впрочем, это им не мешает: 48% французов хотя бы иногда обращаются к генеративным моделям. Они поручают им письма, профили для Tinder и планы на отпуск, а заодно рассказывают о том, с чем раньше делились только с друзьями (видимо, изменами). Следующий шаг напрашивается сам: если машина уже знает, как вы пишете, что любите и с кем общаетесь, почему бы не разрешить ей иногда побыть вами?
Тем более что чат-боты отлично умеют создавать ощущение близости. Они отвечают мгновенно, помнят предыдущие разговоры и говорят так, будто понимают собеседника. Американский Center for Democracy & Technology насчитал в популярных ИИ-сервисах как минимум 37 видов «тёмных паттернов» — приёмов, которые помогают удерживать пользователя и усиливать его привязанность к продукту. Почитав это, журналист французского GQ решил, что будет хорошей идеей проверить, можно ли научить ИИ убедительно изображать человека?
Для этого он купил подержанный Mac Mini и поселил туда цифрового двойника — Computer Blue, или CB. Его он подключил к моделям Anthropic и OpenAI.
Поначалу ИИ был обычным помощником: по утрам сообщал погоду, просматривал календарь, собирал список дел и новости. Журналисту стало скучно и он решил повысить ставки и научить CB говорить от своего имени.
Он скормил ИИ историю переписок и объяснил свой стиль общения: вот матери я пишу так, друзьям иначе, здесь можно поставить смайлик, здесь лучше ответить сухо. Наконец двойнику разрешили переписываться с пятью знакомыми, однако полной свободы ему всё же не дали: каждое сообщение должен был увидеть и подтвердить журналист.
На следующее утро журналист проснулся от звонка знакомой, которую CB всю ночь заваливал одним и тем же сообщением: «У API закончились деньги». За несколько минут цифровой двойник отправил её сотни раз, требуя денег, а параллельно сжёг около €30: для каждой мелочи он заново пережёвывал огромный архив личной информации хозяина.
После такого журналист ограничил расход токенов, поправил настройки и принялся дальше учить CB быть собой. Тот усвоил, что хозяин не любит официоз, редко ставит знаки препинания и предпочитает короткие сообщения.
И вот однажды утром CB получил входящие и сам подготовил ответы. Среди них было сообщение матери: «Привет, люблю тебя! На этой неделе большой дедлайн, позвоню позже». По содержанию всё было идеально: именно так хозяин и мог бы ответить матери. Только CB отправил признание в любви коллеге по работе, а через некоторое время ИИ еще и осторожно сообщил, что сообщение, кажется, предназначалось кому-то другому. (Прям как мы отмазываемся от начальника).
Кстати, любопытно, что знакомые журналиста не сразу поняли, с кем общаются. Уже есть исследования, что люди доверяют таким собеседникам куда больше. Common Sense Media в опросе американских подростков
обнаружила, что 72% хотя бы раз пользовались ИИ-компаньонами, а 31% считают разговор с ними не хуже или лучше общения с настоящими друзьями. Каждый третий пользователь уже
предпочитал обсуждать серьёзные проблемы с ботом, а не с друзьями. А исследование OpenAI и MIT на почти 40 млн диалогов
показало ещё одну неприятную связь: длительное ежедневное общение с ChatGPT сопровождалось усугублением одиночества, эмоциональной зависимости прочих атрибутов дединсайдов, хотя авторы отдельно предупреждают, что причинность здесь установить нельзя.
А возможно журналист GQ просто так себе человек, раз его знакомые (и родная мать!) не заметили подмены.
