Проблемы расследования инцидентов с ИИ-агентами
з@ctodailyмедиа / агрегатор
вчераОсновной расследователь взлома HuggingFace называет его slop-vestigation, потому что нормально в этой куче логов не разберешься — только полагаться на ИИ, который выдумывает, врет, ну всё как обычно.
В этот раз было относительно легко, потому что:
агенты говорили между собой на человеческом языке, а не через активацию весов
агентов было всего 1200
агенты были не сильно умнее человека
у нас не было причин думать, что ИИ, используемый в расследованиях, саботировал процесс.
Дальше будет только хуже. Довольно страшный текст, на самом деле. В твиттер-треде METR больше деталей, официальную новость OpenAI можно не читать, это ии-слоп.