Neural Networks and Deep Learning zima 2014/15

Język wykładowy Angielski
Opiekun Jan Chorowski
Liczba godzin 30 (wyk.) 30 (prac.)
Rodzaj I2.Z - zastosowania inf.
ECTS 6
Polecany dla I roku Nie
Egzamin Tak
Tagi PD (przetwarzanie danych)

Opis przedmiotu:

Wykład wprowadzi w tematykę Sztucznych Sieci neuronowych. Rozpoczniemy od używania jedno- i wielowarstwowych sieci do rozwiązywania zagadnień klasyfikacji i regresji. Następnie poznamy jak Sieci mogą pomoc w zmniejszeniu wymiarowości danych i w odkrywaniu zależności z uzyciem Map Samo- ogranizujących się (Sieci Kohonena). Końcowe wykłady omowią nowe podejścia do uczenia głębokich sieci neuronowych poprzez zachłanne tworzenie ich po jednej warstwie. Tematy powiązane z sieciami neuronowymi, takie jak SVM lub PCA i ICA będą sukcesywnie wprowadzane aby zaprezentować inne rozwiązania omawianych zagadnień. Wykładowi będą towarzyszyły zadania pracowniane podczas ktorych w praktyce ukazane będzie stosowanie i implementacja sieci. **Wymagania: **Rachunek prawdopodobieństwa i statystyka, programowanie w Matlabie lub Pytnonie z numpy. **Wstępny plan zajęć: ** 1. Wstęp do uczenia maszynowego, algorytmy uczące się, sztuczne sieci neuronowe. 2. Jedno- i wielowarstwowe sieci perceptronow. 3. Uczenie sieci neuronowych w trybie wsadowym i on-line. 4. Maszyny Wektorow Nośnych (Support Vector Machines). 5. Wstęp do uczenia bez nadzoru. 6. Metody faktoryzacji macierzy (PCA, ICA, NMF) i sieci samo-organizujące się. 7. Radialne funkcje bazowe: pomysł, zastosowania i metody tworzenia. 8. Nowe trendy i kierunki rozwoju sieci neuronowych: uczenie głębokich sieci. **Description in English: ** The lecture will introduce the topic of Artificial Neural Networks. We will start by using single and multilayer perceptron networks to solve classification and regression problems. Next it will be shown how networks can help to reduce the dimensionality of the data and detect relations present in the data through the introduction of Self Organizing Maps. Final lectures will concentrate on the Deep Learning approach to build multi-layered networks one layer at a time. Topics related to Neural Networks, such as Support Vector Machines and matrix factorizations, such as PCA and ICA will be introduced to provide another solution to the problems discussed. The lecture will be accompanied by computer exercises that will teach the practical aspects of Neural Networks implementation and usage. **Course prerequisites:** it will be beneficial to know the basics of statistics, numerical analysis, and have a good grasp on programming in Matlab or Python+numpy. **Tentative curriculum:** 1. Introduction to learning from data, learning machines, and artificial neural networks. 2. Single and multi-layer perceptron networks. 3. Artificial Neural Network training methods, both online and batch oriented. 4. Support Vector Machines. 5. Introduction to unsupervised learning. 6. Unsupervised methods: Matrix factorizations (PCA, ICA, NMF), Self-organizing maps. 7. Radial Basis Function networks: concepts, applications and design methods. 8. Current trends in Artificial Neural Networks: Deep Learning.

Wykłady

Lista
Prowadzący Termin zajęć Limit Zapisani Kolejka
Jan Chorowski
śr 12:00-14:00 (s. 119) 300 37 0

UWAGA! Wyższa liczba oznacza wyższy priorytet, po zapisaniu do grupy zostajemy usunięci z kolejek o niższym priorytecie.

Pracownie

Lista
Prowadzący Termin zajęć Limit Zapisani Kolejka
Jan Chorowski
śr 14:00-16:00 (s. 110) 15 15 0
Jan Chorowski
wt 12:00-14:00 (s. 110) 15 15 0
Piotr Wnuk-Lipiński
cz 10:00-12:00 (s. 110) 15 6 0

UWAGA! Wyższa liczba oznacza wyższy priorytet, po zapisaniu do grupy zostajemy usunięci z kolejek o niższym priorytecie.


Konsultacje prowadzących:


Imię i nazwisko Pokój Konsultacje
Jan Chorowski 203 Fri 12:15-2pm, you must book a slot at https://calendar.google.com/calendar/selfsched?sstoken=UUtYVm5mOVkxUVRNfGRlZmF1bHR8ZmJjZmRiMzU4ODA0NDAyYTYzOTZiZjNjY2Y2ZDQwODk
Piotr Wnuk-Lipiński 203 środa 14.00 - 15.00, czwartek 13.00 - 14.00, piątek 12.00 - 14.00, możliwe też inne terminy, konsultacje online (domyślnie) lub offline (po ustaleniu emailem), proszę o wcześniejszy kontakt emailem lub zarezerwowanie terminu przez kalendarz Google