Описание курса

Natural Language Processing (NLP) — это область искусственного интеллекта, направленная на решение задач, связанных с обработкой человеческого языка, таких как извлечение информации, машинный перевод, автоматическое суммирование и диалоговые системы. За последние годы мы увидели значительный прогресс благодаря статистическому и глубокому обучению. Демонстрация возможностей современных диалоговых систем по типу ChatGPT от OpenAI позволила нам переосмыслить перспективы NLP в повседневной жизни, что привлекло к области внимание как со стороны исследователей и инженеров, так и институциональных инвесторов, готовых финансировать бурный рост отрасли.

Данный курс ставит перед собой следующие цели:

• познакомить слушателя с ключевыми направлениями современного развития области, сформировать понимание запросов, с которыми сталкиваются инженеры и исследователи в повседневной работе.
• развить понимание фундаментальных концепций, необходимых для самостоятельного решения задач как прикладного, так и исследовательского характера.
• познакомить слушателя с инструментами, необходимыми для решения прикладных задач.

Пререквизиты

Предполагается, что на момент начала курса слушатели уже владеют рядом важных теоретических концепций машинного обучения, а также соответствующими им инструментами. Значимые для понимания моменты будут освещены в ходе курса, однако предварительное комфортное владение ими является большим плюсом:

• Так что же такое машинное обучение? Что именно мы обучаем и каким образом? Как оцениваем качество получившихся моделей?
• Задача регрессии, многоклассовая классификация (multi-class) и классификация с несколькими метками (multi-label classification).
• Обучение вычислительного графа (нейронная сеть). Полносвязные (fully connected) , сверточные (convolutional), рекуррентные (recurrent) нейронные сети.
• Классический стек: Python, Numpy, Pandas, PyTorch, bash (опционально).
• (Опционально) Большим плюсом является:
  • понимание линейной алгебры на уровне, достаточном для оперирования тензорами (векторами, матрицами) как фундаментальными единицами расчетов;
  • навык матричного дифференцирования;
  • комфортное владение концепциями теории вероятностей и математической статистики;

Информация по курсу

Курс основан на материалах Школы Анализа Данных Яндекса (ШАД), CS224n by Stanford, а также личном опыте автора. Курс приоритезирует понимание слушателями пространства существующих на сегодня в отрасли задач и умение их решать над полнотой освещения исторически важных, однако на текущий день устаревших концепций.

Материалы курса

Репозиторий, где собраны материалами курса: https://github.com/greedisneutral/NLP-course

Контакты организаторов курса

По вопросам стоит обращаться к куратору:

• Савелий Прохоров: @Savely_Prokhorov