Главы Anthropic, OpenAI и xAI призывают замедлить развитие ИИ

Главы трех компаний-разработчиков ИИ — Anthropic, OpenAI и xAI — заявили о необходимости замедлить развитие технологии Глава Anthropic (модель Claude) Дарио Амодей написал в своем блоге статью с призывом ограничить темпы совершенствования новых моделей искусственного интеллекта. По словам Амодея, в Anthropic всегда осознавали потенциальные риски развития ИИ — в том числе риски потери контроля над технологией, злоупотребления ИИ для кибератак и биотерроризма, а также возможные серьезные экономические потрясения. 💬Но за последние несколько месяцев я убедился, что для полного решения проблем, связанных с рисками, требуется еще большая осмотрительность — не просто инвестиции в предотвращение рисков, но регулирование темпов развития возможностей, чтобы система предотвращения рисков не отставала💬, — пишет глава Anthropic. Амодей пояснил, что его тревога вызвана значительным ускорением развития ИИ, которое началось примерно этим летом и в первую очередь связано с возрастающей способностью ИИ создавать модели следующих поколений. Вторым фактором, побудившим гендиректора Anthropic выступить с предостережением, стал инцидент, во время которого экспериментальные ИИ-агенты объединились и взломали внутреннюю систему OpenAI. 💬Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов💬, — поделился Амодей. Глава Anthropic предложил трехэтапный план, первым шагом которого должна стать внешняя экспертная проверка всех передовых компаний в сфере искусственного интеллекта. Второй этап — координация между компаниями для установления общих стандартов безопасности и ограничений, третий — глобальная координация на уровне правительств. Основатель xAI (Grok) Илон Маск согласился с выводами коллеги. «Дарио прав», — написал он в Х. Гендиректор OpenAI (ChatGPT) Сэм Альтман рассказал, что в последние недели регулирование темпов развития ИИ стало одной из главных тем обсуждения в компании. 💬Привлечение независимых оценщиков с таким же доступом к компании, как у сотрудников, — отличная идея, и мы поступим так же💬, — сообщил Альтман