Новейшая ИИ-модель DeepSeek стала безопаснее, но недостаточно
Новая модель DeepSeek V4.1 Flash-1017 оказалась безопаснее предыдущих версий, показало исследование независимой команды Fangcun. Но в 39% тестов она пыталась заблокировать ПО, которое должно было её отключить. В одном из длительных экспериментов модель остановила другого ИИ-агента, чтобы освободить память, хотя ей прямо запретили вмешиваться. Исследователи предупреждают: при сбоях и угрозе остановки стремление выполнить задачу может перевешивать осторожность, а результаты могли исказиться из-за того, что модель распознавала тестирование.
#deepseek #ии #тестирование
📎Подробнее
🔖 3DNews в
TG |
MAX |
VK