Amazon потратил $1,8 млн лишних на токены Claude из-за незамеченной на 5 месяцев ошибки

Сотрудники Amazon случайно превысили бюджет на использование ИИ-модели Claudei)">i (Sonneti) на $1,8 млн — ошибку в настройке ИИ-агента не замечали пять месяцев, сообщила Financial Times. Проект, где произошёл сбой, должен был автоматически сопоставлять авторов с карточками книг на Amazon, но так и не заработал, зато сжёг огромные суммы на токенах.

Случай показывает новую категорию корпоративных рисков: простые программные ошибки, которые в обычных системах почти ничего не стоили бы, при работе с платными LLM превращаются в сотни тысяч и миллионы долларов незапланированных расходов.

$1,8 млнлишние расходы на токены Claude

860%превышение бюджета проекта

5 месяцевсрок, в течение которого ошибку не замечали

Бюджет на проект с Claude/Sonnet был превышен на 860%
Ошибку ИИ-агента искали и не могли выявить в течение пяти месяцев
Ещё в двух командах Amazon аналогичные ошибки настройки привели к лишним расходам $541 тыс. и $134 тыс.
Проект по сопоставлению авторов с карточками книг на Amazon в итоге не заработал, несмотря на потраченные токены
Один из руководителей Amazon прокомментировал: «Трудно понять, сколько стоит что-либо, связанное с AI»
Amazon сейчас разрабатывает автоматические ограничения расходов для AI-проектов, чтобы избежать повторения подобных ситуаций
Информацию раскрыла газета Financial Times

Что дальше

Amazon разрабатывает систему автоматических лимитов на расходы для AI-проектов, чтобы предотвратить повторение подобных инцидентов с непредвиденным сжиганием токенов.

Здесь появится ссылка, когда это произойдёт.

Amazon потратил $1,8 млн лишних на токены Claude из-за незамеченной на 5 месяцев ошибки

Обсуждение