О курсе: чего ожидать

Цели урока

• Как использовать pipeline() для решения NLP-задач генерации и классификации текста
• Об архитектуре трансформеров
• Как различать архитектуры кодировщика, декодировщика и кодировщика-декодировщика и варианты их использования

О чём урок

В этом курсе вы научитесь основам обработки естественного языка (NLP) с использованием библиотек от Hugging Face. Экосистема состоит из: моделей (🤗 Transformers), датасетов (🤗 Datasets), вспомогательных библиотек (🤗 Accelerate, 🤗 Tokenizers), а также репозитория Hugging Face Hub. Это полностью бесплатно! Краткое описание курса: Главы 1-4 содержат в себе введение в главные концепции библиотеки 🤗 Transformers. К концу этой части курса вы будете знакомы с тем, как функционируют трансформеры, как применять модели из репозитория Hugging Face Hub, как дообучить модели на собственных данных и опубликовать результаты на Hugging Face Hub! Главы 5-8 научат вас основам библиотек 🤗 Datasets и 🤗 Tokenizers (датасеты и токенизаторы); это необходимо для дальнейшего погружения в область обработки естественного языка. К концу этой части вы научитесь решать наиболее распространенные задачи в NLP самостоятельно! Главы 9-12 выходят за рамки NLP, в них описано, как можно применять трансформеры в задачах обработки речи и компьютерном зрении. Также вы узнаете, как создавать и демонстрировать свои модели, оптимизировать их для промышленного использования. После изучения этой части вы будете в силах применить 🤗 Transformers к (почти) любой задаче машинного обучения! Этот курс: Требует хорошего знания Python Будет лучше усвоен после ознакомления с курсом по глубокому обучению, например: fast.ai's Practical Deep Learning for Coders или одной из программ, подготовленных DeepLearning.AI Не предполагает предварительных знаний библиотек: PyTorch или TensorFlow, однако знакомство с ними поможет вам в дальнейшем После прохождения текущего курса мы рекомендуем ознакомиться со специализацией от DeepLearning.AI: Natural Language Processing Specialization, которая покрывает широкий спектр традиционных моделей NLP: от наивного Байеса до LSTM-сетей! Об авторах: Abubakar Abid окончил PhD в области прикладного машинного обучения в Стэндфордском университете. Во время PhD, он основал Gradio - свободная библиотека для Python, с помощью которой увидели свет свыше 600000 тысяч демоверсий моделей машинного обучения. Hugging Face приобрел Gradio, и теперь Abubakar работает с нами в качестве руководителя разработки машинного обучения.

План урока

1. Добро пожаловать на 🤗 курс!
2. Чего ожидать от курса?
3. Кто мы?
4. ЧАВО
5. Поехали!