Корпоративный ИИ и проблема «булшит-сигнулярности»

У одного из наших источников появилась коллега, которая каждое сообщение в корпоративном мессенджере превращала в “Войну и Мир” - размером с три поста в нашем уютном канальчике, с огромным количеством обоснований, аргументов, контраргументов на будущие аргументы собеседника и прочая и прочая. И все бы хорошо, только ту же мысль в большинстве случае можно было написать в трех предложениях с ровно тем же эффектом. Лев Николаевич позавидовал бы. Стоит ли говорить, что сообщения эти она писала с помощью “сотрудника месяца”, как в компании называли недавно внедренный корпоративный ИИ-агент? Дошло до того, что коллеги отправляли ее сообщения тому же агенту, чтобы получить краткое содержание литературного произведения, и понять, что имелось в виду. Нашлись и остроумцы, которые после этого писали доморощенной Джоан Роулинг ответы в трех предложениях, а потом просили агента увеличить свой ответ до ее масштабов - и отправляли ей эту версию. Цирк закончился, когда одно из таких сообщений попало к начальнику ИТ-департамента, который не просто был воспитан в духе “пиши-сокращай”, так еще и отвечал за бюджет на токены. После предсказуемо случившегося скандала в компании официально запрещено писать друг другу сообщения с помощью LLM. Это мы к тому, что ИИ - как любой инструмент общего назначения, не делает людей лучше или хуже, а всего лишь усиливает все их черты, хорошие и плохие. Кто-то начинает делать качественнее и детальнее, потому что знает как формулировать задачи, давать железяке контекст и инструменты, и не ленится делать десятки итераций и исправлять ошибки, А кто-то начинает производить гигабайты трэша и угара, завернутого в красивую упаковку, потому что, так уж вышло, ИИ воспроизводит форму значительно лучше, чем содержание. А значит, вопрос этикета совместной работы (и отношения к качеству собственной работы) в эпоху ИИ встает с новой силой, потому что “продуктивность” одних людей другие потом бесплатно разгребают. Отдельный забавный эпизод состоит в том, что часть начальников, получая прекрасные до блеска отполированные ИИ-материалы, совершенно не разбирается в их содержании и без критики транслирует все это наверх, где на основе этого дела принимаются решения. Не то чтобы это было новостью - многие руководители и раньше работали исключительно говорящими головами. Есть даже весьма комплиментарная для таких персонажей (и чего уж, не совсем бессмысленная) теория, что начальник - это не человек, который лучше всех разбирается в предмете, а тот, кто открывает двери и убирает с дороги политические и организационные препятствия. Но раньше у балаболов был хотя бы шанс создать компетентную команду из интровертов с обсессивно-компульсивным расстройством, разбирающихся не только в предмете деятельности, но и в контексте организации. А теперь вместо них контент начальнику генерит никем не проверяемый ИИ, и такой тандем может привести к весьма разрушительным результатам. В общем, кажется у нас есть неплохой аргумент для сторонников теории ИИ-апокалипсиса, Есть надежный способ, как ИИ может похоронить цивилизацию - утопить ее в корпоративном абсурде и формалистике, за которыми будет скрываться откровенный булшит, и с этим наплывом отполированного шлака немногие оставшиеся разумные люди просто не справятся. Такая булшит-сигнулярность в форме абсолютной итальянской забастовки, апофеоз кафкианской антиутопии на новом технологическом уровне. А что, вполне себе. Доработаем до полноценной теории, напишем книгу и пойдем вместо Юваля Харари к Лексу Фридману вещать про перепрошитую операционную систему человечества.