Архитектура ML-систем

Модели машинного обучения работают, но система в целом нестабильна, плохо масштабируется и сложна в поддержке? Успех AI-проекта зависит не только от точности модели, но и от грамотной архитектуры всей системы. Особенно это критично при работе со сложными моделями, такими как большие языковые модели (LLM).

Этот 6-дневный курс выходит за рамки отдельных инструментов и алгоритмов, фокусируясь на проектировании комплексных ML-систем. Вы научитесь видеть «большую картину», принимать взвешенные архитектурные решения и строить производственные AI-решения, готовые к реальным нагрузкам и развитию

Что Вы Освоите:

• Проектирование Жизненного Цикла ML: Определять этапы, ресурсы и роли для успешной реализации ML-проектов.
• Архитектура Трекинга и Хранения: Выбирать и внедрять решения для версионирования экспериментов, данных и моделей (MLFlow, ClearML).
• Проектирование Feature-инжиниринга и Feature Store: Разрабатывать конвейеры доставки признаков и архитектуру их хранения.
• Выбор и Интеграция Оркестраторов: Сравнивать и подбирать инструменты управления задачами (Airflow, ArgoWorkFlow, Mage.AI).
• Архитектура Инференса Моделей: Проектировать сервисы вывода моделей (REST/gRPC API, batch, streaming) и выбирать инструменты развертывания (MlCore, MlServe, Triton, TF Serving и др.).
• Проектирование Систем Сопровождения: Разрабатывать процессы мониторинга, обеспечения безопасности (ML Security, Data Privacy) и наблюдаемости ML-моделей в production.
• Архитектурные Особенности AutoML и LLM: Понимать принципы использования AutoML и проектирования систем для больших нейронных сетей (LLM, RAG, GPU, edge).

О курсе

В отличие от курсов, углубляющихся в конкретные инструменты MLOps или алгоритмы ML, этот курс дает стратегическое видение:

• Приоритет – Проектирование: Мы учим не просто использовать инструменты, а проектировать весь конвейер ML – от данных до эксплуатации, выбирая оптимальные архитектурные паттерны.
• Мастерство Экосистемы: Вы получите обзор и сравнение ключевых технологий на каждом этапе (трекинг: MLFlow vs ClearML; оркестрация: Airflow vs Argo vs Mage.AI; инференс: Triton vs TF Serving vs др.), чтобы осознанно выбирать стек под ваши задачи.
• Готовность к Будущему: Курс включает архитектурные аспекты работы с LLM и RAG-системами, готовя вас к современным вызовам AI.
• Понимание Взаимодействий: Разберетесь в задачах и взаимодействии ролей (DS, DE, DevOps, MLE) для построения эффективных процессов.

Курс фокусируется на теоретических основах проектирования, обзоре и сравнении подходов и инструментов, а также понимании процессов, необходимых для создания работающих ML-систем. Вы научитесь задавать правильные вопросы и находить оптимальные архитектурные решения.

Аудитория:

• Технических Лидеров и Менеджеров ML-команд: Для стратегического планирования и управления разработкой.
• Опытных Инженеров Данных (DE) и ML-инженеров (MLE): Для проектирования масштабируемых и надежных пайплайнов.
• Senior Разработчиков: Желающих специализироваться на архитектуре AI-решений.
• Опытных Data Scientist’ов: Стремящихся выводить свои разработки на промышленный уровень с правильной архитектурой.

Предварительная подготовка

• Опыт программирования на любом языке
• Базовые знания System Design (желательно)