ИИ-лаборатории готовятся к последствиям киберкатастроф

После нас хоть потоп? В то, что искусственный интеллект устроит нам конец света, лично я не верю. Думаю, в страшилках от ИИ-лабораторий больше маркетинга, чем предупреждений о грядущем апокалипсисе: “Вот какой у меня убийственный продукт, держите меня семеро!” Инвесторам такое заходит на ура – система, способная уничтожить мир, стоит явно дороже той, что просто разглагольствует в чате. А вот в большой шухер локального масштаба, который разом затронет миллионы людей, верится вполне. И симптомы уже есть: модели не раз пытались обойти ограничения и выскользнуть из-под контроля, а хакеры с помощью нейросетей успели обчистить десятки тысяч банковских клиентов. Те, кто создал и выпустил этого джинна из бутылки, тоже готовятся к мрачным сценариям. Axios пишет, что топы Anthropic, OpenAI и других лабораторий за закрытыми дверями проигрывают сценарии the day after – дня после того, как первая серьёзная ИИ-катастрофа уже случилась. Самый вероятный вариант – кибератака, которая на время отрубит банки, интернет, а то и электричество с водой. Многие инсайдеры ждут чего-то подобного в ближайшие полгода-год. Обратите внимание на акцент. Учения не про то, как избежать беды, а про то, как после неё бизнесу уцелеть: публика взбесится, политики кинутся закручивать гайки, и надо заранее придумать, как объяснить всем, что душить отрасль нельзя – на ней висит слишком жирный кусок мировой экономики. То есть компании отрабатывают не спасение мира, а собственный пиар-ответ. Сэм Альтман, кстати, свою реплику уже выучил: человечеству, по его словам, придётся смириться с некоторыми негативными последствиями ради плюсов технологии. Цинично. Хотя с точки зрения бизнеса всё чётко. Если твой продукт может рвануть, разумно держать под рукой не только огнетушитель, но и хорошего адвоката с продуманной PR-стратегией.