Skip to content

Latest commit

 

History

History
52 lines (38 loc) · 5.88 KB

README.md

File metadata and controls

52 lines (38 loc) · 5.88 KB

Лабораторная № 2 по курсу "Анализ и разработка данных".

Задание - нужно построить модель классификации, используя шаблон cooke cutter для Data Science и DVC для трекинга экспериментов.

Описание данных

Данные взяты из обучающего соревнования на Kaggle. По ссылке можно найти описание данных и ноутбуки с примерами кода моделей.

Мы немного разбирали сами данные на практике. Видео можно посмотреть тут (для доступа нужен аккаунт ВШЭ).

Требования к реализации

  • Нужно выбрать метрику качества и обосновать ее выбор (1 балл).

  • Нужно написать стадии для полного цикла жизни ML модели (4 баллов)

    1. Препроцессинг.
    2. Разделение данных train/val
    3. Генерация признаков. Обратите внимание, что если вы генерируете признаки, которые предполагают обучение на тренировочном датасете (fit), то для валидационного вы должны применять уже обученные трансормации (transform). Так, если бы данные из val к вам пришли из будущего и у вас нет для них правильных ответов. Данные из val вы никак не используете в обучении/тюнинге параметров/и т.д., только для оценки качества. Представьте, что данных val у Вас на момент создания модели нет, они придут к вам только в будущем.
    4. Обучение модели.
      • Здесь вы можете использовать внутри различные методы оценки качества модели train/test split, k-fold validation и т.д. Многие из них уже реализованы в scikit-learn. Вы их используете "для себя" чтобы решить какую модель/ модели вы отправите дальше работать с "реальным миром".
      • Нужно имплементировать
        1. Что-то из scikit-learn используя Scikit-Learn Pipelines...
        2. Catboost
        3. Если захочется, то что-то еще. Больше - можно, меньше - нет.
    5. Оценка модели по метрике качества, выбранном в первом пункте на val датасете и сохранение метрик / графиков.
    6. Предсказание (инференс) модели на новых данных.

  • Из стейджей выше соберите один или два пайплайна (1 балл):

    1. Обучения модели и ее оценки
    2. Инференса модели

  • В пайплайнах используется работа с категориальными признаками (2 балла):

  • Для управления данными и экспериментами использован DVC (2 балла).

Код должен быть написан в функциях и разнесен по модулям шаблона. Если вы изменяете шаблон - напишите об этом комментарий, какая мотивация. Вы можете использовать ноутбук для разработки, но нужно писать код так, чтобы это потом было легко перенести в функции и разнести по модулям проекта. Пример такой работы мы разбирали на практике.

Deadlines

  • Hard deadline 23.10.2022 23:59

Куда и что отправлять.

  1. Выложить весь код и метрики в свой гитхаб
  2. Прислать на него ссылку письмом на почту [email protected]
    • Тема письма "Лаба № 1. ФИО Группа X. Анализ и разработка данных.
      Где X это номер вашей группы в соответствии с ведомостью.
      ФИО ваши фамилия, имя, отчество.

Вопросы задавайте в общей группе telegram.
Удачи!