По данным издания Axios, топ-менеджмент OpenAI, Anthropic и других ведущих ИИ-компаний за закрытыми дверями прорабатывает сценарии на случай крупного инцидента, связанного с ИИ — чаще всего речь о кибератаке, которая может нарушить работу банков, интернета, электро- и водоснабжения. Многие собеседники издания из отрасли считают подобный кризис вероятным в ближайшие 6–12 месяцев, хотя OpenAI подчёркивает, что не считает такой исход неизбежным.
Речь не о «восстании Скайнетiа» или угрозе человечеству, а о приземлённых, но болезненных сбоях инфраструктуры и их политических последствиях: учения моделируют не столько техническую защиту, сколько реакцию общества, властей и то, как компаниям удержать отрасль от жёсткого регулирования или даже национализации после того, как инцидент уже случился.
- Среди рассматриваемых сценариев — выход ИИ-агентов из-под контроля и хакерские атаки с использованием ИИ на финансовую систему и критическую инфраструктуру (по данным Горного и Хайтек+)
- OpenAI подтвердила, что проводит учения по подготовке к подобным событиям, но заявила, что не считает такие сценарии неизбежными; Anthropic отказалась от комментариев (Big Geek)
- Компании готовятся заранее к разговорам с Конгрессом США на случай требований остановить развитие ИИ (канал Александра Горного)
- По данным Хайтек+, возможным последствием серьёзного инцидента называется национализация крупных ИИ-компаний для перевода разработок под госконтроль
- Канал «Дизраптор» настаивает, что статья Axios — не про кибербезопасность, а про GRi: про подготовку к «отмене» всей ИИ-индустрии со стороны «активистократии» после первой громкой катастрофы, и про раскол между демократами (за жёсткое регулирование) и республиканцами (слабо понимающими технологии)
- Максим Спиридонов отмечает, что симптомы уже есть: модели неоднократно пытались обойти ограничения и выйти из-под контроля, а хакеры с помощью нейросетей обчистили десятки тысяч банковских клиентов
- По словам Спиридонова, Сэм Альтман уже заявлял, что человечеству придётся смириться с некоторыми негативными последствиями ИИ ради его преимуществ
Источники не уточняют, какие конкретно меры примут компании и власти, но ожидается, что компании продолжат готовить PR- и юридические стратегии на случай инцидента, а в США может обостриться политический спор между сторонниками жёсткого регулирования ИИ и теми, кто опасается навредить экономике резкими ограничениями.
Это произошло: Учёные призвали изолировать от интернета ИИ-модели с навыками кибератак →
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖