Машинное и глубокое обучение с Data Engineer

Основы инженерии данных и архитектуры данных (около 2 дней)

Задачи и области применения в области инженерии данных

Основы современных архитектур данных и платформ данных

Основы и сравнение облачных архитектур данных

OLTP и OLAP

Обработка структурированных, полуструктурированных и неструктурированных данных

Управление требованиями и моделирование данных (около 1 дня)

Требования к данным и источникам данных

Концептуальное моделирование данных

Моделирование структур данных и потоков данных

Контракты на данные, управление данными и прослеживаемость данных

Базы данных и обработка данных (около 1 дня)

Архитектура систем баз данных

Сравнение SQL, NoSQL и NewSQL

Реляционное моделирование данных

SQL для запроса и обработки данных

Хранение данных и современные архитектуры данных (около 2 дней)

Основы и архитектура систем хранилищ данных

Многомерное моделирование данных и проектирование схем

Факты, измерения и хранение исторических данных

Сравнение хранилищ данных, озер данных и lakehouse

Введение в dbt

Практическая реализация моделей данных

Интеграция данных и конвейеры данных (около 5 дней)

Интеграция данных и предоставление данных

Процессы ETL и ELT

Построение и оркестрация конвейеров данных

Очистка, валидация и качество данных

Пакетная и потоковая обработка

Практическое применение Airflow и Spark

Программирование и автоматизированная обработка данных (около 4 дней)

Среды Python и управление пакетами

Обработка и преобразование данных с помощью Python

Автоматизация процессов обработки данных

Подключение различных источников данных и интерфейсов

Разработка рабочих процессов в области инженерии данных

Контейнеризация с помощью Docker

ИИ-поддержка в процессах разработки и обработки данных

Работа над проектом (около 5 дней)

Закрепление изученного материала

Презентация результатов проекта

Введение в машинное обучение и рабочий процесс ML (около 3 дней)

Основы, области применения и виды машинного обучения

Систематизация современных методов искусственного интеллекта и машинного обучения

Рабочий процесс машинного обучения с использованием scikit-learn

Данные для обучения, валидации и тестирования

Недообучение, переобучение и оценка моделей

Кросс-валидация

Подготовка данных и инжиниринг признаков (около 2 дней)

Качество данных и предварительная обработка данных

Масштабирование, нормализация и кодирование

Инженерия признаков и выбор признаков

Работа с отсутствующими значениями, выбросами и несбалансированными наборами данных

Обучение с учителем — регрессия и классификация (около 5 дней)

Методы регрессии и классификации

Линейные и регуляризованные модели

Методы, основанные на расстоянии, вероятности и деревьях

Ансамблевые и бустинг-методы

Сравнение моделей и оптимизация гиперпараметров

Метрики оценки и вероятностные прогнозы

Важность признаков и объяснимый ИИ 

Обучение без контроля (около 2 дней)

Сведение размерности и извлечение признаков

Методы кластеризации и оценка результатов кластеризации

Обнаружение аномалий

Анализ временных рядов и прогнозы (около 1 дня)

Основы и анализ данных временных рядов

Методы прогнозирования и машинное обучение для временных рядов

Нейронные сети и современный ИИ (около 2 дней)

Основы нейронных сетей и глубокого обучения

Машинное обучение для текстовых данных и обработка естественного языка

Базовые модели, крупные языковые модели и генеративный ИИ

Развертывание моделей машинного обучения (около 1 дня)

Хранение и предоставление обученных моделей

Разработка простых приложений машинного обучения

Интерфейсы и платформы для моделей машинного обучения

Работа над проектом (около 4 дней)

Закрепление изученного материала

Презентация результатов проекта

Введение в глубокое обучение (около 1 дня)

Глубокое обучение как разновидность машинного обучения

Основы нейронных сетей (около 4 дней)

Многослойные перцептроны

Расчет нейронных сетей

Оптимизация параметров модели, обратное распространение

Библиотеки глубокого обучения

Регрессия и классификация

Типичные функции потерь и активации

Оценка прогноза модели с помощью метрик

Метрики регрессии и классификации

Кривые обучения, оверфиттинг и регуляризация

Оптимизация гиперпараметров

Регуляризация L1/12

Отсев

Ранняя остановка

Стохастический градиентный спуск (СГС)

Момент, оптимизатор Адама

Оптимизация скорости обучения

Динамическая регулировка скорости обучения

Снижение скорости обучения на плато

Оптимизация скорости обучения с помощью TensorBoard

Управление процессом подгонки с помощью обратных вызовов

Сохранение и загрузка моделей

Конволюционная нейронная сеть (CNN) (около 2 дней)

Классификация изображений

Конволюционные слои, объединяющие слои

Перестраивающие слои, сглаживание, объединение глобальных средних

Архитектуры CNN ImageNet-Competition

Глубокие нейронные сети, исчезающие градиенты, пропуск связей, пакетная нормализация

Трансферное обучение (около 1 дня)

Адаптация и комбинирование моделей

Предварительное обучение без контроля

Дополнение данных изображениями, объяснимый ИИ

Загрузчик данных

Региональный CNN (около 1 дня)

Локализация объектов

Семантическая сегментация

Проблемы регрессии

Разветвленные нейронные сети

Архитектура YOLO

Модели U-Net

Методы творческой генерации изображений (около 1 дня)

Генеративные адверсарные сети (GAN)

Глубокие подделки

Диффузионные модели

Суперразрешение

Дополнение областей изображения

Применение базовых моделей из Hugging Face

Мультимодальные модели

LoRA-Fine-Tuning

Области применения генеративных моделей

Правовые ограничения

Рекуррентные нейронные сети (около 2 дней)

Анализ последовательностей

Рекуррентные слои

Обратное распространение во времени (BPTT)

Анализ временных рядов

Проблемы разрыва и исчезающего градиента

LSTM (Long Short-Term Memory)

GRU (Gated Recurrent Unit)

Глубокий RNN

Глубокий LSTM

Обработка текста с помощью нейронных сетей (около 2 дней)

Предварительная обработка текста

Встраивание слоев

Классификация текста

Анализ настроения

Обработка естественного языка (NLP)

Переводы

Генерация текста

Метод "последовательность-последовательность", архитектура кодер-декодер

Модели, использующие только кодер и только декодер

Локальное применение больших языковых моделей

Языковые модели (около 1 дня)

Архитектура трансфомеров

Внимание и многоголовое внимание

Позиционные кодировки

Тонкая настройка больших языковых моделей

Подсказки

Конвейеры генерации текста

Резюме

Чат-боты

Поиск Расширенная генерация

ИИ-агенты

Глубокое обучение с подкреплением (около 1 дня)

Управление динамическими системами

Агентские системы

Обучение через вознаграждение

Градиенты политики

Глубокое Q-обучение

Байесовские нейронные сети (около 1 дня)

Неопределенности в нейронных сетях

Статистическая оценка прогнозов

Доверие, стандартное отклонение

Несбалансированные данные

Методы выборки

Работа над проектом (около 3 дней)

Закрепление изученного материала

Презентация результатов проекта