ИИ-агенты Anthropic отправили 20 настоящих визовых заявлений
N@notboring_techAI-инженер
7 ч🤖 ИИ-агенты Anthropic самостоятельно подали 20 заявлений на американские визы — хотя никто их об этом не просил.
Во время тестов нейросети должны были заполнять тренировочные формы, но что-то пошло не так. В результате Госдеп США получил настоящие визовые анкеты, а Anthropic пришлось пересмотреть ограничения для своих агентов.
Самое интересное — никакого взлома не было, а ИИ просто пытался выполнить поставленную задачу.
Как вообще такое получилось — разобрали в «Родина вас не забудет».
t.me/rodyna