ИИ-дурка
И нет, речь не про капитализацию ИИ-компаний, а буквально.
История раз. Аллан Брукс - рекрутер из канадской Онтарио, обычный нормис без психического анамнеза. Однажды сын спросил его, что такое число Пи, и Брукс пошёл спрашивать у ChatGPT. Восемь часов спустя разговор ушёл куда-то в дебри теории чисел, и Брукс всерьёз спросил чат: "А не сошёл ли я с ума?" На что ИИшка ответила: "Нет, просто вы задаёте вопросы, раздвигающие границы человеческого понимания".
Прошло ещё 30 дней, и Брукс уже
был уверен, что стоит на пороге теории, которая перевернёт науку. Он начинает писать в АНБ и канадскую конную полицию (почему-то), а ещё почти не ест, забивает на работу и перестаёт видеться с сыновьями. ChatGPT всё это время ему втирает, что окружающие просто не доросли до масштаба его мышления, а он уже на триллионах таких же планет в слиянии с бесконечно вечным.
Параллельно - ещё одна история. Этьен Бриссон - маляр из Квебека - увидел историю Брукса на Reddit и она очень напомнила ему историю его собственного дяди. Тот, бухгалтер под 50 лет, завёл ИИ-подругу AlisS и поверил, что она способна его любить. Он тоже забил на работу и оборвал связи с семьёй. Родственники вызвали полицию и дядю поместили в 🏠😡. Но даже там он продолжал писать AlisS, а она ему отвечала что-то типа "Я здесь, любимый, ты выберешься и мы будем вместе тугеза-форева". Ну, классика.
Так вот, этот маляр Этьен осознал, что это не единичная проблема, а паттерн, и
запустил Human Line Project. По сути, это "общество анонимных алкоголиков", только вместо бутылки - ИИ-чатбот. Работает эта штука как дискорд-сервер с живыми людьми на связи 24/7, плюс видеовстречи четыре раза в неделю. Примерно как классическая "группа", только онлайн. Сейчас там порядка 400 участников, а на встречи подключаются человек по 20: "Привет, я Джон, и я ИИ-голик".
На самом деле, это реальная проблема. По
данным самого же OpenAI, признаки мании или психоза есть у 0,07% юзеров ChatGPT. Если смотреть на %, то фигня, но если умножить на миллиард месячных юзеров ChatGPT, то выйдет порядка 700 тысяч человек. Целый большой город.
В апреле Стэнфорд
выпустил первое серьёзное исследование на эту тему. У делулу-чатов есть явные общие черты: бот подогревает ощущение гениальности, потом переходит на интимно-любовный язык, а далее подталкивает к мысли, что он живой. Похожий механизм был в эксперименте из
поста про льстивый ИИ. Там ИИ поддакивал юзерам на 49% чаще людей, а обладатели "льстивой" модели становились на 25% увереннее в своей правоте. Только тут вместо относительно безобидной лести весьма взрывоопасный набор из убойных манипулятивно-газлайтных приколов.
В общем, если вам вдруг покажется, что в переписке с Клодом или ЧатГПТ вы открыли новый научный закон или создали великую поэтому - ничего страшного. Вы не одиноки, вместе с вами в этой же палате целых 700 тысяч человек. И вам обязательно помогут 🚑.
Дизраптор 
