Модели и методы машинного обучения: понятный обзор
Модели и методы машинного обучения простыми словами: с учителем и без, регрессия, бустинг, нейросети, трансформеры. Что и когда применять.
Машинное обучение (МО, ML) — раздел искусственного интеллекта, в котором программа выводит закономерности из данных, а не получает готовые правила от человека. Метод — общий подход к обучению (например, «обучение с учителем»). Модель — конкретный алгоритм и его обученные параметры (например, градиентный бустинг, обученный на ваших продажах). Ниже — карта методов и моделей и рекомендации, что выбрать под задачу.
ИИ, машинное обучение и нейросети: как соотносятся
- Искусственный интеллект — самое широкое понятие: любые системы, выполняющие «интеллектуальные» задачи, в том числе на правилах.
- Машинное обучение — подмножество ИИ: системы, которые учатся на данных.
- Глубокое обучение — подмножество ML на многослойных нейросетях.
- Генеративный ИИ и LLM — модели глубокого обучения, которые создают текст, изображения и звук.
Основные методы (виды) машинного обучения
1. Обучение с учителем (supervised)
У каждого примера есть правильный ответ (метка). Задачи:
- классификация — отнести к классу (спам/не спам, тип обращения, болезнь растения);
- регрессия — предсказать число (цена, спрос, время доставки).
Нужен размеченный датасет. Это самый распространённый вид ML в бизнесе.
2. Обучение без учителя (unsupervised)
Меток нет, модель ищет структуру сама:
- кластеризация — сегменты клиентов, группы товаров;
- снижение размерности — визуализация, сжатие признаков (PCA, UMAP);
- поиск аномалий — мошенничество, сбои оборудования.
3. Обучение с частичным привлечением учителя (semi-supervised) и самообучение (self-supervised)
Мало размеченных данных, много неразмеченных. На self-supervised построены современные языковые модели: они учатся предсказывать пропущенные или следующие слова в огромных корпусах.
4. Обучение с подкреплением (reinforcement learning)
Агент учится действовать, получая награды и штрафы: игры, робототехника, управление. Вариант RLHF (обучение с подкреплением на обратной связи людей) используют для настройки чат-моделей. Для него нужны датасеты оценок и предпочтений, которые создают асессоры.
5. Перенос обучения (transfer learning)
Берём модель, обученную на большой задаче, и дообучаем на своей маленькой. Главная причина, по которой сегодня можно получить хорошую модель на небольшом собственном датасете. См. Как обучить нейросеть.
Основные модели машинного обучения
| Модель | Тип задач | Плюсы | Минусы | Данные |
|---|---|---|---|---|
| Линейная / логистическая регрессия | регрессия, классификация | простая, интерпретируемая, быстрая | не ловит сложные зависимости | таблицы |
| k ближайших соседей (kNN) | классификация, рекомендации | понятная идея | медленная на больших данных | таблицы, эмбеддинги |
| Дерево решений | классификация, регрессия | наглядная | склонна к переобучению | таблицы |
| Случайный лес (Random Forest) | классификация, регрессия | устойчива, мало настроек | тяжелее и менее точна, чем бустинг | таблицы |
| Градиентный бустинг (CatBoost, LightGBM, XGBoost) | классификация, регрессия, ранжирование | лидер на табличных данных | нужна настройка | таблицы |
| SVM | классификация | хороша на средних данных | плохо масштабируется | таблицы, тексты |
| k-means, DBSCAN | кластеризация | просто | нужно выбирать число кластеров и параметры | таблицы, эмбеддинги |
| Свёрточные нейросети (CNN) | изображения | стандарт CV | нужны данные и GPU | изображения |
| Рекуррентные сети (RNN, LSTM) | последовательности | исторически для текстов и рядов | вытеснены трансформерами во многих задачах | ряды, тексты |
| Трансформеры (BERT, GPT и др.) | тексты, речь, изображения | лучшие результаты в NLP и генерации | дорогие в обучении | тексты, мультимодальные |
| Диффузионные модели | генерация изображений | высокое качество | ресурсоёмкие | изображения с подписями |
Практическое правило: на табличных данных начинайте с градиентного бустинга (CatBoost создан в Яндексе и хорошо работает с категориальными признаками). На текстах, речи и изображениях — с предобученных нейросетей и дообучения.
Как выбрать метод под задачу
- Есть ли правильные ответы в данных? Да — обучение с учителем. Нет — без учителя, или сначала разметка.
- Что предсказываем? Класс — классификация. Число — регрессия. Порядок — ранжирование.
- Какие данные? Таблицы — бустинг. Тексты, картинки, звук — нейросети.
- Нужна ли объяснимость? Для скоринга и медицины часто да: линейные модели, деревья, SHAP-объяснения.
- Сколько данных и вычислений? Мало — перенос обучения и простые модели.
Как оценивают модели
- Классификация: accuracy, precision, recall, F1, ROC-AUC.
- Регрессия: MAE, RMSE, MAPE.
- Речь: WER (доля ошибок в словах).
- Генерация: экспертная оценка, бенчмарки, сравнение «бок о бок».
Метрику всегда считают на отложенной тестовой выборке. См. глоссарий: тестовая выборка, переобучение.
Данные важнее модели
В прикладных проектах разница между «хорошей» и «лучшей» моделью часто меньше, чем разница между «плохими» и «хорошими» данными. Что даёт прирост:
- больше разнообразных примеров, особенно для редких случаев;
- чище разметка;
- признаки из внешних источников: открытые данные, погода, календарь;
- свежесть данных.
Поэтому рынок данных растёт вместе с рынком моделей: модели доступны всем, а уникальные данные — нет. Готовые наборы под задачи: таблицы, тексты, изображения.
С чего начать изучение
- Python и pandas — 2–4 недели.
- Основы статистики и линейной алгебры — параллельно, на уровне интуиции.
- scikit-learn: регрессия, деревья, кросс-валидация.
- Бустинг на табличном соревновании Kaggle. См. Kaggle датасеты.
- Нейросети: PyTorch, предобученные модели, дообучение.
- Свой проект на реальных русскоязычных данных — для портфолио.
FAQ
Чем модель отличается от метода машинного обучения? Метод — подход (например, обучение с учителем). Модель — конкретный алгоритм с параметрами, обученный на данных.
Какие основные виды машинного обучения? С учителем, без учителя, с частичным привлечением учителя (и самообучение), с подкреплением.
Какая модель лучше всего для табличных данных? Чаще всего градиентный бустинг: CatBoost, LightGBM, XGBoost.
Нейросеть — это машинное обучение? Да, нейросети — одна из моделей ML, основа глубокого обучения.
Где взять данные для обучения модели? Открытые датасеты (Kaggle, Hugging Face, открытые данные), собственные данные компании или готовые наборы на AI Data Stock.
Изучаете ML или запускаете проект? Подберите датасет в каталоге каталог AI Data Stock — с карточкой и превью. Сделали качественную разметку для своей задачи? Продайте её тем, кто решает похожие задачи.