Natural language processing 1000-318bNLP
1. Wprowadzenie, wektory słów
2. Modele podsłowowe
3. Struktura lingwistyczna: parsowanie zależności
4. Rekurencyjne sieci neuronowe i modele językowe
5. Translacja maszynowa, seq2seq i skupianie uwagi
6. Mechanizmy skupiania uwagi
7. Reprezentacje kontekstowe i wstępne trenowanie
8. Systemy dialogowe
9. Generowanie języka naturalnego
10. Odpowiadanie na pytania
11. Uczenie wielozadaniowe
Koordynatorzy przedmiotu
Rodzaj przedmiotu
Wymagania (lista przedmiotów)
Efekty kształcenia
Wiedza: student zna i rozumie
* zna metodyki, zagadnienia i techniki oraz narzędzia służące do przetwarzania języka naturalnego [K_W13].
Umiejętności: student potrafi
* potrafi zastosować w praktyce techniki przetwarzania języka naturalnego [K_U16].
Kompetencje społeczne: student jest gotów do
* krytycznej oceny posiadanej wiedzy i odbieranych treści [K_K01];
* uznawania znaczenia wiedzy w rozwiązywaniu problemów poznawczych i praktycznych oraz zasięgania opinii ekspertów w przypadku trudności z samodzielnym * rozwiązaniem problemu [K_K02];
* myślenia i działania w sposób przedsiębiorczy [K_K03].
Kryteria oceniania
Ocena końcowa na podstawie punktów z zadań (programów) zaliczeniowych, egzaminu pisemnego oraz egzaminu ustnego.
Literatura
Dan Jurafsky and James H. Martin. Speech and Language Processing
Jacob Eisenstein. Natural Language Processing
Yoav Goldberg. A Primer on Neural Network Models for Natural Language Processing
Ian Goodfellow, Yoshua Bengio, and Aaron Courville. Deep Learning
Delip Rao and Brian McMahan. Natural Language Processing with PyTorch