Perceptron dokáže rozdělit prostor pouze přímkou. Co když data nelze rozdělit jednou přímkou?
Které datasety zvládne jeden perceptron (přímka)?
Doplň názvy částí:
| Část sítě | Co dělá? | V simulátoru |
|---|---|---|
| Vstupní vrstva | Přijímá data (features) | |
| Skryté vrstvy | Učí se rozpoznávat vzory | |
| Výstupní vrstva | Dává finální rozhodnutí | |
| Synapse (spojení) | Přenášejí signály s vahami |
Nakresli síť s 2 vstupy, 1 skrytou vrstvou (3 neurony) a 1 výstupem:
Nastav dataset "Kruh" a porovnej:
| Nastavení | Počet epoch do 90% přesnosti | Pozorování |
|---|---|---|
| Pouze X, Y (4 skryté vrstvy) |
||
| X, Y, X², Y² (1 skrytá vrstva) |
Závěr: Proč X² a Y² pomáhají s kruhem?
| Nastavení | Přesnost po 500 epochách | Komentář |
|---|---|---|
| Pouze X, Y | ||
| X, Y + X·Y |
Dataset: XOR, Features: X, Y, 1 skrytá vrstva, Learning Rate: 0.03
| Počet neuronů ve vrstvě | Epoch do 95% | Kvalita hranice |
|---|---|---|
| 2 neurony | ||
| 4 neurony | ||
| 8 neuronů |
Dataset: Spirála, Features: X, Y, Aktivace: Tanh
| Architektura | Celkem parametrů* | Přesnost po 1000 epochách | Pozorování |
|---|---|---|---|
| 1 vrstva (4 neurony) | |||
| 2 vrstvy (4, 3) | |||
| 3 vrstvy (4, 4, 3) | |||
| 5 vrstev (8, 6, 4, 3, 2) |
*Parametry = váhy + biasy. Více parametrů = více se toho síť může naučit, ale i více přeučení.
Experiment: Pozoruj overfitting
Co pozoruješ?
Proč je to problém?
Nastav dataset XOR a přepínej aktivace. Sleduj tvar rozhodovací hranice.
| Aktivace | Tvar hranice | Rychlost učení | Nakresli tvar |
|---|---|---|---|
| Sigmoid |
|
||
| Tanh | |||
| ReLU |
Proč ReLU vytváří ostré hranice?
Natrénuj síť na XOR (2 skryté vrstvy). Pak prozkoumej neurony:
| Neuron | Vrstva | Co "vidí"? (nakresli nebo popiš) |
|---|---|---|
| Neuron 1 | Skrytá 1 | |
| Neuron 2 | Skrytá 1 | |
| Neuron 1 | Skrytá 2 | |
| Výstupní | Výstup |
Proč je tohle důležité pro pochopení AI?
Nakresli schematicky, jak 2 neurony v první vrstvě (každý "vidí" jednu přímku) společně vytvoří XOR:
V simulátoru můžeš klikat do grafu a přidávat vlastní body (levé tlačítko = modrá, pravé = růžová).
Vymysli vlastní vzor a zkus ho naučit síť:
| Popis vzoru: | |
| Použitá architektura: | |
| Features: | |
| Úspěšnost: |
Pro každý dataset najdi nejmenší síť, která dosáhne 95% přesnosti:
| Dataset | Minimální architektura | Potřebné features |
|---|---|---|
| Lineární | ||
| XOR | ||
| Kruh | ||
| Spirála |
| Koncept | Tvé shrnutí |
|---|---|
| Vícevrstvá síť (MLP) | |
| Feature Engineering | |
| Aktivační funkce | |
| Overfitting | |
| Vizualizace neuronů |
Jaký byl tvůj největší "aha moment"?
Co tě překvapilo nejvíce?
Jak bys vysvětlil/a overfitting kamarádovi?
Jak dobře rozumím neuronových sítím? (1 = vůbec, 5 = úplně)