Optymalizacja głębokich sieci neuronowych na urządzenia IoT zima 2021/22
| Język wykładowy | Polski |
|---|---|
| Opiekun | Jan Otop |
| Liczba godzin | 7 (wyk.) 7 (prac.) |
| Rodzaj | K2 - kurs zaawansowany |
| ECTS | 2 |
| Polecany dla I roku | Nie |
| Egzamin | Nie |
Opis przedmiotu:
** Przedmiot jest prowadzony przez Grzegorza Latosińskiego z Antmicro. ** Celem przedmiotu jest przedstawienie procesu optymalizacji głębokich sieci neuronowych pod konkretne urządzenia IoT. Słuchacze będą zapoznawać się z różnymi narzędziami do optymalizacji, kompilacji i uruchamiania sieci neuronowych na urządzeniach IoT, i następnie będą wykonywać zadania wykorzystujące te narzędzia na różnych modelach głębokiego uczenia. W trakcie kursu będzie weryfikowany wpływ optymalizacji i kompilacji modeli na ich wydajność i jakość. Omawianymi technikami optymalizacji będą konwersje wag, z szczególnym uwzględnieniem kwantyzacji, techniki optymalizacji sieci na etapie uczenia, jak uczenie z uwzględnieniem kwantyzacji, regularyzacja, czy destylacja wiedzy, jak i uproszczenie sieci z użyciem algorytmów pruningu sieci. Przykładowymi kompilatorami omawianymi w trakcie kursu będą Apache TVM oraz TensorFlow Lite. Omówiony będzie proces optymalizacji i konwersji sieci pod dane urządzenie IoT, uruchamianie sieci na docelowym urządzeniu, oraz rozwijanie kompilatorów w celu wsparcia dodatkowych optymalizacji oraz urządzeń. Omówione również zostaną różne akceleratory obliczeń dla głębokich sieci neuronowych, wraz z opisem ich działania.Wykłady
Lista| Prowadzący | Termin zajęć | Limit | Zapisani | Kolejka |
|---|---|---|---|---|
|
Grzegorz Latosiński
zdalna |
pt 13:00-14:00 (s. ) | 15 | 16 | 0 |
UWAGA! Wyższa liczba oznacza wyższy priorytet, po zapisaniu do grupy zostajemy usunięci z kolejek o niższym priorytecie.
Pracownie
Lista| Prowadzący | Termin zajęć | Limit | Zapisani | Kolejka |
|---|---|---|---|---|
|
Grzegorz Latosiński
zdalna |
pt 14:00-15:00 (s. ) | 15 | 16 | 0 |
UWAGA! Wyższa liczba oznacza wyższy priorytet, po zapisaniu do grupy zostajemy usunięci z kolejek o niższym priorytecie.
Konsultacje prowadzących:
| Imię i nazwisko | Pokój | Konsultacje |
|---|---|---|
| Grzegorz Latosiński |