← к умной ленте

OpenAI: ИИ-агенты уже заменяют дни работы исследователей, но контролировать модели становится труднее

OpenAI опубликовала блогпост о том, как ИИ-агенты ускоряют внутренние исследования компании. По их заявлению, поставленная прошлой осенью цель — создать к сентябрю 2026 года «автоматизированного исследователя-стажера», способного выполнять чётко поставленные задачи, включая те, что заняли бы у специалиста несколько дней — достигнута.

Одновременно компания выпустила второй текст, где признаёт: следить за рассуждениями новых, более умных моделей становится сложнее, а надёжного способа контролировать их при масштабировании на максимальной скорости пока не существует ни у одной лаборатории. OpenAI призывает сделать публикацию таких данных обязательной практикой для всей отрасли, поскольку, по их словам, дело идёт к полноценному рекурсивному самоулучшению (RSIi), и общественность должна иметь возможность это отслеживать и обсуждать.

3.1агенто-рабочих дня на 1 человеко-день
$600/деньмедианные траты исследователя на агентов
март 2028цель — полноценный AI-исследователь
  • На середину августа медианный исследователь OpenAI тратит на агентов свыше $600 в день по API-ценам, у 90-го перцентиля — более $7000 токенов в день
  • На один рабочий день человека приходится примерно 3,1 «агенто-рабочих дня»; ещё в июне суммарное время работы агентов было меньше суммарных человеко-часов
  • Более половины задач сложностью 4–8 часов пока требуют хотя бы одного вмешательства человека для успешного выполнения
  • Следующая цель компании — полноценный автоматизированный AI-исследователь к марту 2028 года
  • Новая модель («Астраi») стала менее понятной в своих рассуждениях, что затрудняет наблюдение за процессом мышления моделей
  • Люди пока сами выбирают направления исследований и принимают решения — система не является автономным учёным
  • По оценке Serge_AI, приведённые цифры предварительны, собраны самой OpenAI и не доказывают такого же ускорения научного прогресса в целом
Что дальше

OpenAI намерена двигаться к цели создания полностью автономного AI-исследователя к марту 2028 года, при этом призывая всю индустрию сделать публикацию подобных данных о прогрессе обязательной, чтобы общественность могла отслеживать приближение к рекурсивному самоулучшению моделей (RSI).

Это произошло: Главный учёный OpenAI Якуб Пахоцкий призвал замедлить развитие ИИ из-за риска потери контроля →

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖