← к ленте

Design Docs Are All You Need: подход к созданию ML-библиотек через спецификации

К@quant_prune_distillAI-инженер
1 мес

Обзор концепции создания ML-библиотек с нуля на основе DAG-структуры из документации, генерируемой AI-агентами.

Новый подход к разработке ПО может ускорить адаптацию ML-инструментов под быстро меняющееся железо.

  • Использование AI для генерации библиотек по спецификациям снижает зависимость от legacy-кода.
  • Метод позволяет быстрее адаптировать ML-инструменты под новые аппаратные архитектуры.
  • Подход требует минимальных затрат ресурсов на генерацию кода через AI-агентов.
Design Docs Are All You Need: An AI-native Machine-Learning Performance Tool 📄 Статья Концептуально интересная мысль - железо и архитектуры меняются слишком быстро, патчить ML-либы под каждый новый сетап доволенно болезненно, разрастается всякое legacy. В то же время, агенты сильно удешевили разработку и на основе ТЗ неплохо варганят целостный репозиторий. Может быть так, что проще не разбираться в том что уже есть и адаптировать под новые реалии, а взять и написать ML-либу с нуля на основе некоего скелета. Авторы предлагают реализацию ML-либы в виде набора документов, образующих направленный ациклический граф (DAG), где расписывается структуру библиотеки, формат входов и выходов для отдельных операций. Более высокоуровневые операции можно делегировать моделям посильнее, нишевые куски - более дешевым. Все в итоге состоит из 50 файликов и 9000 строк спецификаций. Написание либы через Claude Code поверх их документации требует примерно 100 токенов на API и 1.5-3 часа работы агента. 💡 Выводы Сама либа из документов не выложена, нет примера реализации поверх документов агентов, бенчмарков, поэтому из статьи непонятно, насколько это хорошо работает. Но звучит прикольно.

Кратко (AI)

В статье обсуждается концепция генерации ML-библиотек на основе иерархических спецификаций (DAG), что позволяет избежать проблем с поддержкой устаревшего кода при смене аппаратных архитектур. Авторы предлагают использовать AI-агентов для написания кода библиотеки по документации, что занимает несколько часов работы. Однако отсутствие открытого кода и бенчмарков не позволяет оценить практическую эффективность подхода.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖