Popis předmětu - B0B33DPL
| B0B33DPL | Základy hlubokého učení | ||
|---|---|---|---|
| Role: | PV, PZ | Rozsah výuky: | 2P+2C |
| Katedra: | 13133 | Jazyk výuky: | CS |
| Garanti: | Zimmermann K. | Zakončení: | Z,ZK |
| Přednášející: | Zimmermann K. | Kreditů: | 6 |
| Cvičící: | Osob je mnoho | Semestr: | L,Z |
Webová stránka:
https://cw.fel.cvut.cz/wiki/courses/b0b33dpl/startAnotace:
Kurz představuje hluboké neuronové sítě a hluboké učení jako jednou z oblastí strojového učení a umělé inteligence. Úvodem představuje základní pojmy strojového učení (minimalizace empirického rizika, lineární klasifikátory a regrese, meze zobecnění). Následně jsou představeny sítě jako třídy modelů pro predikci (klasifikaci) a regresi společně se složitostí jejich modelů a meze zobecnění. Cílem kurzu je důkladné pochopení konceptů a algoritmů potřebných k úspěšnému návrhu, implementaci a učení hlubokých sítí v aplikacích strojového učení. To zahrnuje metody zpětného šíření chyb a stochastického gradientu, inicializaci a normalizaci vah, deterministické a stochastické metody regularizace, rozšiřování dat a také nepříznivě odolné přístupy k učení. Kurz je zakončen úvodní diskusí o generativních neuronových sítích (VAE a GAN) a rekurentních neuronových sítích (GRU a LSTM) pro klasifikaci strukturovaných výstupů. Studující získají znalosti souvisejících metod a konceptů i praktické dovednosti potřebné pro úspěšný návrh, implementaci a učení hlubokých sítí v aplikacích strojového učení. Kurz poskytuje základ pro specifické aplikace, např. v počítačového vidění, využívající specializované a často složitější varianty neuronových sítí, ztrátových funkcí a učebních přístupů. Předmět může být vyučován v anglickém jazyce.Cíle studia:
Cílem kurzu je poskytnout příslušné algoritmické a teoretické koncepty potřebné pro úspěšný návrh a trénování (hlubokých) neuronových sítí. Současně poskytuje technické a praktické dovednosti v této oblasti.Osnovy přednášek:
| 1. | Lineární klasifikátory, lineární regrese, logistická regrese, ztrátová funkce Empirická minimalizace rizika, |
| 2. | Umělé neuronové sítě, aktivační funkce, síťové architektury, a dopředné neuronové sítě. | |
| 3. | Neuronové sítě jako klasifikátory, empirická minimalizace rizika, ztrátové funkce, složitost modelu a meze |
| 4. | Zpětné šíření, zjednodušení/modularizace pro vrstevnaté sítě. | |
| 5. | Metoda gradietního sestup a stochastický gradientní sestup (SGD). | |
| 6. | Konvoluční neuronové sítě, architektury, příklady použití, předtrénování a ladění neuronových sítí. | |
| 7. | Rekurentní neuronové sítě (RNN), Long Short-Term Memory (LSTM), Autoenkodér, obousměrné a hluboké |
| 8. | Trénování neuronových sítí: Průběh projektu, sběr dat, trénovací/validační/testovací množina, výběr modelu |
| 9. | Trénování neuronových sítí 1: předzpracování dat, inicializace vah, dávková normalizace | |
| 10. | Trénování neuronových sítí 2: adaptivní metody SGD. | |
| 11. | Trénování neuronových sítí 3: regularizace, regularizace vah L1/L2, náhodné prediktory, výpadek, rozšíření |
| 12. | Trénování neuronových sítí 4: nepříznivé vzory, robustní přístupy k učení. | |
| 13. | Generativní modely: Generativní sítě: VAE, GAN (úvodní úroveň). | |
| 14. | Rezerva, další neprobraná témata, např. grafové neuronové sítě, konvoluce na grafech. |
Osnovy cvičení:
Cvičení jsou orientované na praktické ověření teoretických konceptů společně s konzultacemi řešení domácích úkolů, ve kterých mají studující možnost implementovat metody diskutované v kurzu a experimentovat s nimi.Literatura:
Goodfellow, Y. Bengio and A. Courville, Deep Learning, MIT Press, 2016.Požadavky:
Klíčová slova:
Hluboké učení, neuronové sítěPředmět je zahrnut do těchto studijních plánů:
| Plán | Obor | Role | Dop. semestr |
| BPKYR_2021 | Před zařazením do oboru | PV | 5 |
| BPOI1_2025 | Základy umělé inteligence a počítačových věd | PZ | 4 |
| Stránka vytvořena 7.11.2026 11:54:15, semestry: L/2025-6, L/2027-8, L/2029-30, L/2028-9, Z,L/2026-7, Z/2028-9, Z/2027-8, připomínky k informační náplni zasílejte správci studijních plánů | Návrh a realizace: I. Halaška (K336), J. Novák (K336) |