Новости ИИ: отмена GPT-6.1 Astra, риски Anthropic и новая платформа безопасности Nvidia
P@prohitecавтор про «tech»
4 недОбзор новостей ИИ: OpenAI отменила GPT-6.1 Astra, Anthropic предупреждает о рисках перед IPO, а Nvidia представила Open Agent Safety на базе BlueField-4.
Разработчики ИИ переключают фокус на системы контроля и безопасности, что создает новый рынок для производителей «железа».
- Компании начинают ограничивать релизы моделей из соображений безопасности.
- Безопасность ИИ становится ключевым аргументом для инвесторов перед IPO.
- Nvidia создает аппаратные решения для принудительного контроля ИИ-агентов, что увеличивает спрос на специализированные процессоры.
Как послесловие к моему недавнему видео.
Новости идут аккуратненько друг за другом.
1) OpenAI отменила выпуск ИИ-модели GPT-6.1 Astra из соображений безопасности
2) «Экзистенциальные риски для человечества»: Anthropic в преддверии IPO рассказала инвесторам об опасности ИИ
3) Nvidia представила платформу-надзирателя над ИИ-агентами. Open Agent Safety следит за действиями агента, а компонент Sentry работает на отдельном процессоре BlueField-4 и способен изолировать нарушителя за миллисекунды. В этом случае агент не сможет отключить контур защиты.
Иииии… Nvidia теперь будет продавать еще больше железа - еще и для безопасной работы всего этого.
Кратко (AI)
Автор подводит итоги новостей ИИ: OpenAI отказалась от выпуска модели GPT-6.1 Astra, Anthropic акцентирует внимание инвесторов на экзистенциальных рисках перед IPO, а Nvidia представила систему Open Agent Safety для контроля ИИ-агентов. Последняя использует процессор BlueField-4 для изоляции потенциально опасных агентов, что также стимулирует продажи оборудования Nvidia.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖