Поколение ИИ: Нейросети-Трансформеры для Работы с Текстом [stepik]

Складчина: Поколение ИИ: Нейросети-Трансформеры для Работы с Текстом [stepik]

Чему вы научитесь

• Понимание основ Обработки Естественного Языка (NLP) при помощи моделей Transformer: Вы получите твердое понимание основ NLP и того, как работают нейросети-трансформеры. Это знание будет служить основой для более глубокого понимания и применения NLP в ваших собственных проектах, будь то ваш собственный стартап или проекты для компании в которой вы работете на данный момент.
• Использование библиотек Hugging Face: Вы научитесь работать с основными библиотеками Hugging Face, включая Transformers, Datasets, Tokenizers и Accelerate. Это даст вам понимание набора инструментов от самой популярной NLP библиотеки В МИРЕ!
• Настройка и использование моделей Transformer: Вы научитесь настраивать модели Transformer на конкретных наборах данных и использовать эти модели для решения задач NLP. Это навык, который будет полезен в любом проекте!.
• Решение задач связанных с Обработкой Естественного Язка (NLP): Вы научитесь решать такие задачи, как: классификация текста, генерация текста, анализ тональности и многие другие. Это даст вам возможность применять NLP в широком спектре областей и проектов.
• Создание и оптимизация моделей для производственных сред: Вы научитесь создавать и оптимизировать модели для использования в производственных средах. Это важный навык для любого специалиста по машинному обучению, который хочет не просто иметь теоретические навыки, но прежде всего внедрять свою работу в реальный мир.
• Совместная работа и обмен результатами с сообществом: Вы научитесь делиться своими результатами и работать с сообществом Hugging Face. Это поможет вам стать частью глобального сообщества специалистов по машинному обучению и NLP.

Программа курса
Знакомство с Трансформерами

1. Как работают Трансформеры?
2. Трансформеры, что они умеют?

Использование Трансформеров

1. Как работает Пайплайн?
2. Модели
3. Токенизаторы
4. Обработка сразу нескольких последовательностей
5. Объединение всего вместе

Настройка Предобученной Модели

1. Обработка данных
2. Тонкая настройка модели с использованием Trainer API
3. Полный цикл обучения

Работа с Хабом
Библиотека "Datasets"
Библиотека "Tokenizers"
Основные Примеры Задач Применения Трансформеров
Практические Задачи
Создание Full Stack Демо Проектов c Gradio
Производительность и масштабирование (Бонус)
Это только начало