4.2 Parciális derivált és gradiens

4.2.1 Cél, előismeret és induló kérdés

A 4.1. Függvény, határérték és derivált egyetlen valós paraméter esetén értelmezte a deriváltat: a függvény lokális lineáris közelítésének meredekségét. A neurális hálózat tanítása során azonban a veszteség egyszerre sok súlytól függ, ezért azt kérdezzük: ha egy $d$ dimenziós $w$ paramétervektort egyszerre több irányban is elmozdíthatunk, melyik irányban változik a leggyorsabban a veszteség, és hogyan foglalható össze a változás egyetlen vektorban? A fejezet a parciális deriváltat, a gradienst, az iránymenti deriváltat és a többváltozós differenciálhatóságot építi fel. Előismeret: határérték és egyváltozós derivált a 4.1. Függvény, határérték és derivált alfejezetből, valamint a mátrixszorzás és az oszlopvektor-konvenció a 3.2. Mátrixszorzás és affín réteg alfejezetből. Induló becslésként gondoljuk végig: ha $f(w_1,w_2)=w_1^2+4w_2^2$, akkor a $(2,1)$ pontból a $(-1,1)$ irányba tett kis lépés vajon növeli vagy csökkenti az értéket? A válaszhoz mindkét koordináta menti változást össze kell kapcsolnunk.

4.2.2 Parciális derivált

Legyen $U\subseteq\mathbb R^d$ nyílt halmaz, $f:U\to\mathbb R$, és $x\in U$. Az $i$-edik koordináta szerinti parciális derivált (partial derivative) az $x$ pontban az egyváltozós derivált mintájára definiálható:

$$\frac{\partial f}{\partial x_i}(x) =\lim_{h\to 0}\frac{f(x+h e_i)-f(x)}{h},$$

ahol $e_i\in\mathbb R^d$ az $i$-edik standard bázisvektor, $h\in\mathbb R\setminus\{0\}$ pedig olyan, hogy $x+h e_i\in U$. A parciális derivált tehát úgy vizsgálja a függvényt, hogy csak az $i$-edik koordinátát mozgatjuk, a többit rögzítjük. A $\partial f/\partial x_i(x)$, $D_i f(x)$ és $f_{x_i}(x)$ jelölések mind ugyanezt jelentik. Az eredmény skalár, mértékegysége a függvényérték és a koordináta mértékegységének hányadosa; a könyv későbbi fejezeteiben jellemzően „veszteségegység per súlyegység”.

1. példa. Legyen $f:\mathbb R^2\to\mathbb R$, $f(w_1,w_2)=w_1^2+3w_1w_2+2w_2^2$. Az első parciális derivált a $w_2$ rögzítése mellett a $w_1\mapsto w_1^2+3w_1w_2+2w_2^2$ egyváltozós függvény deriváltja:

$$\frac{\partial f}{\partial w_1}(w_1,w_2)=2w_1+3w_2,$$

és hasonlóan

$$\frac{\partial f}{\partial w_2}(w_1,w_2)=3w_1+4w_2.$$

A $(1,-1)$ pontban a két parciális derivált $\partial f/\partial w_1=-1$ és $\partial f/\partial w_2=-1$. Az első azt mondja meg, hogy csak a $w_1$ koordinátát mozgatva a függvény lokálisan $-1$ meredekséggel változik; a második ugyanezt mondja a $w_2$ irányra.

A parciális deriváltakból képzett vektort gradiensnek (gradient) nevezzük:

$$\nabla f(x) =\begin{pmatrix} \frac{\partial f}{\partial x_1}(x)\\ \vdots\\ \frac{\partial f}{\partial x_d}(x) \end{pmatrix} \in\mathbb R^d.$$

A könyv oszlopvektor-konvenciót használ: a gradiens alakja megegyezik az input $x$ alakjával. Ha a függvény argumentuma mátrix vagy magasabb dimenziós tensor, a gradiens a parciális deriváltaknak ugyanolyan alakú, komponensenkénti rendezett gyűjteménye. A PyTorch-ban a .grad mező alakja ezért megegyezik annak a tensornak az alakjával, amelyre a skalár veszteséget deriváltuk [D05]. Az 1. példában $\nabla f(1,-1)=(-1,-1)^\top$.

4.2.3 Iránymenti derivált és kapcsolata a gradienssel

A parciális deriváltak csak a koordinátatengelyek menti változást írják le. Általános irányhoz rögzítsünk egy $v\in\mathbb R^d$, $v\neq 0$ vektort. A $v$ irányú iránymenti derivált (directional derivative) az

$$D_v f(x)=\lim_{h\to 0}\frac{f(x+h v)-f(x)}{h}$$

határérték, ha létezik. Ez a $t\mapsto f(x+t v)$ egyváltozós függvény deriváltja a $t=0$ pontban. Ha $\|v\|=1$, az érték a $v$ irányú meredekség; ha $v$ nem egységvektor, a definíció arányosan nagyobb lépést vizsgál, ezért $D_{\alpha v}f(x)=\alpha D_v f(x)$ minden $\alpha\neq 0$-ra.

A gradiens és az iránymenti derivált kapcsolatát a következő lemma adja.

Lemma (iránymenti derivált a gradiensből). Ha $f$ differenciálható az $x$ pontban, akkor minden $v\in\mathbb R^d$ vektorra

$$D_v f(x)=\nabla f(x)^\top v.$$

Bizonyítás. A többváltozós differenciálhatóság definíciója szerint létezik olyan $\nabla f(x)\in\mathbb R^d$ vektor, amellyel

$$f(x+u)=f(x)+\nabla f(x)^\top u+r(u),$$

és a maradéktag teljesíti a $\lim_{u\to 0}r(u)/\|u\|=0$ feltételt. Rögzítsünk egy $v\neq 0$ irányt, és helyettesítsünk $u=h v$-t:

$$\frac{f(x+h v)-f(x)}{h} =\nabla f(x)^\top v+\frac{r(h v)}{h}.$$

Mivel $\|h v\|=|h|\,\|v\|$,

$$\lim_{h\to 0}\frac{|r(h v)|}{|h|} =\lim_{h\to 0}\frac{|r(h v)|}{\|h v\|}\,\|v\|=0,$$

tehát a differenciahányados határértéke $\nabla f(x)^\top v$. A $v=0$ esetre mindkét oldal nulla. $\square$

A lemma közvetlen következménye a legmeredekebb változás iránya. Ha $\|v\|=1$, akkor a Cauchy–Schwarz-egyenlőtlenséggel

$$D_v f(x)=\nabla f(x)^\top v\le \|\nabla f(x)\|\,\|v\|=\|\nabla f(x)\|,$$

és egyenlőség pontosan akkor áll, ha $v=\nabla f(x)/\|\nabla f(x)\|$ (pozitív gradiensű irány). A gradiens iránya tehát a legmeredekebb növekedés iránya, nagysága pedig az egységnyi hosszúságú lépésre jutó maximális növekedés. A negatív gradiens iránya a legmeredekebb csökkenésé; erre épül majd a gradienslépés a 6.1. Objektív, reguláris tag és gradienslépés alfejezetben.

4.2.4 Többváltozós differenciálhatóság

A parciális deriváltak puszta létezése nem elegendő ahhoz, hogy a fenti lineáris közelítés igaz legyen. A pontos definíció a következő. Az $f:U\to\mathbb R$ függvény differenciálható (differentiable) az $x\in U$ pontban, ha létezik olyan $a\in\mathbb R^d$ vektor, amellyel

$$f(x+u)=f(x)+a^\top u+r(u), \quad\text{és}\quad \lim_{u\to 0}\frac{r(u)}{\|u\|}=0.$$

Ekkor az $a$ vektor éppen a gradiens: $a=\nabla f(x)$. Szavakkal: a függvény jól közelíthető egy $a^\top u$ lineáris funkcionállal, és a hiba a $\|u\|$-nál gyorsabban tart nullához. A gradiens ennek a lineáris funkcionálnak a reprezentánsa a standard belső szorzatban.

A gyakorlatban hasznos elégséges feltétel a következő.

Tétel (folytonos parciális deriváltak). Ha az $f$ függvény minden parciális deriváltja létezik az $x$ egy környezetében, és azok folytonosak az $x$ pontban, akkor $f$ differenciálható $x$-ben.

A tétel bizonyítása az egyváltozós középértéktétel koordinátánkénti alkalmazásával történik; a teljes levezetést itt nem ismételjük meg, mert a 4.1. Függvény, határérték és derivált nem építette fel a többváltozós középértéktételt. Az állítás standard anyag, lásd [B01] többváltozós differenciálszámítási fejezeteit (a forrásstátuszt a fejezet végi lista rögzíti). A fontos gyakorlati üzenet: ha a parciális deriváltakat zárt képletből, folytonos elemi műveletekkel kapjuk, a differenciálhatóság általában teljesül; a nem folytonos pontokban külön vizsgálat szükséges.

4.2.5 A kvadratikus veszteség gradiense

A neurális hálózatok tanításában gyakran előforduló kvadratikus veszteség a következő. Legyen $X\in\mathbb R^{N\times d}$ a batchelt bemenet ($N$ megfigyelés, $d$ jellemző), $y\in\mathbb R^N$ a célvektor, $w\in\mathbb R^d$ a paramétervektor. A közönséges legkisebb négyzetek felezett négyzetösszege:

$$f(w)=\frac12\|Xw-y\|_2^2 =\frac12\sum_{i=1}^{N}\Big((Xw)_i-y_i\Big)^2.$$

A $\frac12$ konstans a későbbi gradiens egyszerűsítésére szolgál; a minimum helyét nem befolyásolja. Számítsuk ki a $j$-edik parciális deriváltat komponensenként. Az $(Xw)_i=\sum_{k=1}^{d}X_{ik}w_k$ lineáris kifejezés $w_j$ szerinti deriváltja $X_{ij}$. A láncszabály és az összeg deriválási szabálya szerint

$$\frac{\partial f}{\partial w_j}(w) =\sum_{i=1}^{N}\Big((Xw)_i-y_i\Big) X_{ij} =\Big(X^\top(Xw-y)\Big)_j.$$

Mivel ez minden $j=1,\ldots,d$-re fennáll, a teljes gradiens:

$$\nabla f(w)=X^\top(Xw-y)\in\mathbb R^d.$$

Ez a levezetés a könyv saját kidolgozása; a mátrixderivált-szabályok ugyanezt adják. Az alakellenőrzés kulcsa: $X^\top\in\mathbb R^{d\times N}$, $(Xw-y)\in\mathbb R^N$, így a szorzat $d$ dimenziós, pontosan a $w$ alakja. A bias nélküli lineáris réteg veszteségének gradiense ezzel a képlettel számítható; a biasos affin esetben a konstans tag deriváltja a konstans bemenetre vonatkozó $X^\top(Xw+b-y)$ képletben kap szerepet, de ezt a 4.3. Jacobi-mátrix, láncszabály és VJP és 10.2. Affín réteg és aktiváció backward fejti ki.

4.2.6 Kontúrok és a gradiens merőlegessége

Egy $c\in\mathbb R$ szinthez tartozó kontúrvonal vagy szintvonal (contour, level set) az

$$C_c=\{x\in U: f(x)=c\}$$

halmaz. Két paraméter esetén ez a felület szintvonala; magasabb dimenzióban szintfelületről beszélünk.

Lemma (gradiens merőleges a szintvonalra). Legyen $f$ differenciálható, és legyen $\gamma:(a,b)\to C_c$ differenciálható görbe a szintvonalon, $\gamma(t_0)=x$. Ekkor

$$\nabla f(x)^\top \gamma'(t_0)=0,$$

vagyis a gradiens merőleges a szintvonal $x$ pontbeli érintőjére.

Bizonyítás. Mivel $\gamma(t)\in C_c$ minden $t$-re, $f(\gamma(t))=c$ konstans. Deriváljuk mindkét oldalt $t$ szerint a $t_0$ pontban. A láncszabály és az iránymenti derivált lemma szerint

$$0=\frac{d}{dt}f(\gamma(t))\bigg|_{t=t_0} =\nabla f(\gamma(t_0))^\top \gamma'(t_0).$$

Ez pontosan a merőlegességi állítás. $\square$

A lemma indokolja, miért mutat a gradiens a szintvonalakra merőlegesen: ha egy szintvonalon mozogva a függvényérték nem változik, akkor a leggyorsabb változás irányának merőlegesnek kell lennie erre a mozgásra. A gradiens iránya ezen felül a növekvő függvényértékek felé mutat; nagysága heurisztikusan a szintvonalak sűrűségéhez köthető, de ez utóbbi nem pontos, általános tétel, csak szemlélet.

4.2.7 Eredeti kézi példa és ellenőrzés

Tekintsük a

$$f(w_1,w_2)=(w_1-1)^2+2(w_2+1)^2$$

kétparaméteres veszteséget. A parciális deriváltak:

$$\frac{\partial f}{\partial w_1}=2(w_1-1),\qquad \frac{\partial f}{\partial w_2}=4(w_2+1),$$

tehát a gradiens

$$\nabla f(w_1,w_2)=\begin{pmatrix}2(w_1-1)\\4(w_2+1)\end{pmatrix}.$$

A $w^{(0)}=(2,-2)^\top$ pontban:

$$f(w^{(0)})=(2-1)^2+2(-2+1)^2=1+2=3, \qquad \nabla f(w^{(0)})=\begin{pmatrix}2\\-4\end{pmatrix}.$$

Ellenőrizzük először az iránymenti deriváltat a $v=(1,0.25)^\top$ irányban. A lemmából $D_v f(w^{(0)})=\nabla f(w^{(0)})^\top v=2\cdot 1+(-4)\cdot 0.25=1$. Numerikusan, $h=10^{-5}$ mellett a differenciahányados:

$$\frac{f(w^{(0)}+h v)-f(w^{(0)})}{h}$$

a számított közelítésben $1{,}0000$-hez közeli értéket ad; a részletes numerikus kontrollt a labor F3 feladata végzi el.

Végezzünk egy gradienslépést $\eta=0{,}1$ lépésközzel a negatív gradiens irányában:

$$w^{(1)}=w^{(0)}-\eta\nabla f(w^{(0)}) =\begin{pmatrix}2\\-2\end{pmatrix}-0{,}1\begin{pmatrix}2\\-4\end{pmatrix} =\begin{pmatrix}1{,}8\\-1{,}6\end{pmatrix}.$$

Az új függvényérték:

$$f(w^{(1)})=(1{,}8-1)^2+2(-1{,}6+1)^2 =0{,}64+0{,}72=1{,}36,$$

ami kisebb, mint a kezdeti $3$. A lépés irányában a veszteség tehát csökkent. Hangsúlyozzuk: ez egy konkrét numerikus példa, nem általános konvergenciaállítás; a lépésköz megválasztásának feltételeit a 6.2. Konvexitás és sima optimalizálási határ tárgyalja.

4.2.8 Labor: gradienslépés kétparaméteres felületen

A labor a fenti $f$ függvényre rajzol szintvonalakat és egy gradienslépést, majd kézzel ellenőrzi a lépést. A kód NumPy-t és Matplotlibet használ; a függvény számításához float64 típust, a kiindulóponthoz $w^{(0)}=(2,-2)^\top$ értéket rögzítünk.

# lab/n014_grad_demo.py
# Futtatas: python lab/n014_grad_demo.py
import numpy as np
import matplotlib.pyplot as plt

def f(w):
    w = np.asarray(w, dtype=np.float64)
    return (w[0] - 1.0) ** 2 + 2.0 * (w[1] + 1.0) ** 2

def grad_f(w):
    w = np.asarray(w, dtype=np.float64)
    return np.array([2.0 * (w[0] - 1.0),
                     4.0 * (w[1] + 1.0)], dtype=np.float64)

w0 = np.array([2.0, -2.0], dtype=np.float64)
eta = 0.1
g0 = grad_f(w0)
w1 = w0 - eta * g0
print("w0 =", w0, " f(w0) =", f(w0))
print("grad f(w0) =", g0)
print("w1 =", w1, " f(w1) =", f(w1))

# Szintvonalak es a lepes szamitott abrazolasa
w1_vals = np.linspace(-1.0, 3.0, 101)
w2_vals = np.linspace(-3.0, 1.0, 101)
W1, W2 = np.meshgrid(w1_vals, w2_vals)
F = (W1 - 1.0) ** 2 + 2.0 * (W2 + 1.0) ** 2
plt.contour(W1, W2, F, levels=[0.25, 0.5, 1.0, 2.0, 4.0])
plt.quiver(w0[0], w0[1], -eta * g0[0], -eta * g0[1],
           angles='xy', scale_units='xy', scale=1,
           color='tab:red', width=0.012)
plt.scatter([w0[0], w1[0]], [w0[1], w1[1]], color='black', s=25)
plt.gca().set_aspect('equal')
plt.xlabel('w1')
plt.ylabel('w2')
plt.title('Gradiens lepes: szamitott szemleltetes')
plt.savefig('lab/n014_grad_step.png', dpi=120)

A kézirat ezt a kódot nem futtatta; az alábbi kimenet ezért analitikus kézzel számított érték, nem mért futás. A futtatás után a várt értékek:

w0 = [ 2. -2.]  f(w0) = 3.0
grad f(w0) = [ 2. -4.]
w1 = [ 1.8 -1.6]  f(w1) = 1.36

A lépés szemléltetése a szintvonalakkal együtt:

Az ábra és a kimenet ellenőrzése három ponton történik: a gradiens értéke $(2,-4)$; a frissített pont $(1{,}8,-1{,}6)$; a veszteség $3$-ról $1{,}36$-ra csökken. Ha a lépés irányát a pozitív gradiensre cserélnénk, a veszteség nőne; ez a labor lehetséges negatív kontrollja.

4.2.9 Feladatok

F1 (fogalmi, nehézség 1). Definiálja pontosan a parciális deriváltat és a gradienst egy $f:\mathbb R^3\to\mathbb R$ függvényre. Magyarázza el, miért nem elegendő a három parciális derivált létezése a differenciálhatósághoz. Adjon rövid ellenpélda-vázlatot.

F2 (levezetési, nehézség 2). Legyen $f(w_1,w_2)=w_1^2+3w_1w_2+2w_2^2$. Számítsa ki $\nabla f(1,-1)$ vektort, a $v=(1,2)^\top$ irányú $D_v f(1,-1)$ iránymenti deriváltat, és a legmeredekebb növekedés irányába mutató egységvektort az $(1,-1)$ pontban. Ellenőrizze az eredményt a $D_v f$ definíciójából is egy konkrét kis $h$-ra.

F3 (implementációs, nehézség 2). Írjon Python függvényt, amely centrális differenciával közelíti egy $f:\mathbb R^2\to\mathbb R$ függvény gradiensét: $\partial f/\partial w_i\approx [f(w+h e_i)-f(w-h e_i)]/(2h)$. Használja a labor $f(w_1,w_2)=(w_1-1)^2+2(w_2+1)^2$ függvényét, $h=10^{-5}$, float64 típust és a $w=(2,-2)^\top$ pontot. Az elvárt átadandó eredmény: a numerikus gradiens és az analitikus $(2,-4)$ közötti abszolút hiba mindkét komponensben $10^{-4}$ alatt van.

F4 (hibakeresési, nehézség 2). A következő függvény a labor gradiensét hivatott számítani:

def hibas_grad(w):
    w = np.asarray(w, dtype=np.float64)
    return np.array([4.0 * (w[0] - 1.0),
                     2.0 * (w[1] + 1.0)], dtype=np.float64)

A $w=(2,-2)$ pontban a helyes gradiens $(2,-4)$, a függvény azonban $(4,-2)$ értéket ad. Lokalizálja a hibát, magyarázza el a következményét egy gradienslépésre, javítsa a kódot, és ellenőrizze a javítást ugyanabban a pontban.

F5 (kísérleti/transzfer, nehézség 3). Tervezzen protokollt annak ellenőrzésére, hogy a negatív gradiens irányú lépés mikor csökkenti a veszteséget. Megfigyelési egység: egy rögzített $w$ pont; a változó tényező: a $\eta$ lépésköz; a metrika: $f(w-\eta\nabla f(w))-f(w)$ előjeles különbség. Számítsa ki a labor függvényére a $w^{(0)}=(2,-2)^\top$, $\eta=0{,}1;0{,}5;1{,}0$ eseteket, és indokolja, miért nő a veszteség $\eta=1{,}0$-nál. Adja meg, milyen további $\eta$ értékeket vizsgálna, és mi a kísérlet érvényességi korlátja.

4.2.10 Megoldások és indoklás

F1 megoldás. A parciális derivált definíciója $f:\mathbb R^3\to\mathbb R$ esetén $i=1,2,3$-ra:

$$\frac{\partial f}{\partial x_i}(x) =\lim_{h\to 0}\frac{f(x+h e_i)-f(x)}{h},$$

ahol $e_i$ a háromdimenziós standard bázisvektor. A gradiens

$$\nabla f(x)=\left(\frac{\partial f}{\partial x_1}(x), \frac{\partial f}{\partial x_2}(x), \frac{\partial f}{\partial x_3}(x)\right)^\top\in\mathbb R^3.$$

A puszta létezés nem elég, mert a differenciálhatóság ennél erősebb, közös lineáris közelítést követel: a maradéktagnak minden irányból $\|u\|$-nál gyorsabban kell nullához tartania. Ellenpélda-vázlat: az origón kívül $f(x_1,x_2)=x_1x_2/(x_1^2+x_2^2)$, az origóban $0$; mindkét parciális derivált létezik és nulla az origóban, de a függvény nem folytonos ott, így nem differenciálható.

F2 megoldás. A parciális deriváltak $\partial f/\partial w_1=2w_1+3w_2$ és $\partial f/\partial w_2=3w_1+4w_2$. A $(1,-1)$ pontban:

$$\nabla f(1,-1)=\begin{pmatrix}2\cdot1+3(-1)\\3\cdot1+4(-1)\end{pmatrix} =\begin{pmatrix}-1\\-1\end{pmatrix}.$$

Az iránymenti derivált a lemma alapján $D_v f(1,-1)=(-1)(1)+(-1)(2)=-3$. A $\|v\|=\sqrt5$ normájú vektor miatt az egységirányra normált érték $-3/\sqrt5$. A legmeredekebb növekedés egységvektora $\nabla f/\|\nabla f\|=(-1,-1)^\top/\sqrt2$. Numerikus ellenőrzés $h=10^{-5}$-tel: $f(1+h,-1+2h)\approx f(1,-1)+h(-3)$, így a differenciahányados $-3$-hoz tart; a $h$ melletti eltérés $O(h)$, mert $f$ sima.

F3 megoldás. A teljes függvény:

import numpy as np

def f(w):
    w = np.asarray(w, dtype=np.float64)
    return (w[0] - 1.0) ** 2 + 2.0 * (w[1] + 1.0) ** 2

def numerical_grad(f, w, h=1e-5):
    w = np.asarray(w, dtype=np.float64)
    g = np.zeros_like(w)
    for i in range(w.size):
        e = np.zeros_like(w)
        e[i] = 1.0
        g[i] = (f(w + h * e) - f(w - h * e)) / (2.0 * h)
    return g

w = np.array([2.0, -2.0], dtype=np.float64)
g_num = numerical_grad(f, w)
g_an = np.array([2.0, -4.0], dtype=np.float64)
print("numerikus:", g_num)
print("abszolut hiba:", np.abs(g_num - g_an))

A centrális differencia $O(h^2)$ csonkolási hibája és a $10^{-5}$ lépésköz melletti kerekítési hiba együttesen $10^{-10}$ nagyságrendű eltérést ad, ami bőven a $10^{-4}$ korlát alatt van. A kódot a hallgató futtassa; a kézirat itt nem állít mért kimenetet, csak a képletből következő várt értéket.

F4 megoldás. A hiba oka: a hibas_grad a $w_1$ szerinti parciális derivált együtthatójának $2$ helyett $4$-et, a $w_2$ szerintinek $4$ helyett $2$-t használ; a két komponens együtthatója fel van cserélve. Következmény: a frissítés $\eta=0{,}1$ mellett $\Delta w=-0{,}1\cdot(4,-2)=(-0{,}4;0{,}2)$ lenne, ami a helyes $\Delta w=(-0{,}2;0{,}4)$ helyett rossz irányú és hibás nagyságú lépést ad; a $f$ ebben a konkrét pontban még csökkenhetne ugyan, de más pontokban növekedést is okozhat, és a tanítás torzul. Javítás: az együtthatókat rendre $2$-re és $4$-re kell cserélni:

def javitott_grad(w):
    w = np.asarray(w, dtype=np.float64)
    return np.array([2.0 * (w[0] - 1.0),
                     4.0 * (w[1] + 1.0)], dtype=np.float64)

Ellenőrzés a $(2,-2)$ pontban: javitott_grad(w) értéke $(2,-4)$, megegyezik az analitikus gradienssel.

F5 megoldás. A protokoll rögzíti a $w^{(0)}=(2,-2)^\top$ pontot és a $\nabla f(w^{(0)})=(2,-4)^\top$ gradienst. A változó az $\eta\in\{0{,}1;0{,}5;1{,}0\}$ lépésköz, a kimenet $f(w^{(0)}-\eta\nabla f(w^{(0)}))-f(w^{(0)})$. Számolás:

• $\eta=0{,}1$: $w=(1{,}8;-1{,}6)$, $f=1{,}36$, különbség $-1{,}64$; csökken.
• $\eta=0{,}5$: $w=(1;0)$, $f=2$, különbség $-1$; csökken.
• $\eta=1{,}0$: $w=(0;2)$, $f=(0-1)^2+2(2+1)^2=1+18=19$, különbség $+16$; nő.

A növekedés oka: a kvadratikus függvény mentén a gradiens maga is változik; túl nagy lépésköz átugorja a minimumot, és a túloldalon nagyobb értéket talál. A kísérlet ezért csak azt állíthatja, hogy elég kis $\eta$-ra a lépés csökkenti a veszteséget, nem azt, hogy minden $\eta$-ra csökken. Tovább vizsgálandó $\eta$ értékek: $0{,}25;0{,}33;0{,}4$ a csökkenés tartományának határához; az érvényességi korlát, hogy az eredmény erre az egy függvényre és pontra vonatkozik, nem általános optimalizálási garancia.

4.2.11 Tipikus tévedés ellenpéldával

A leggyakoribb tévedés: ha minden parciális derivált létezik egy pontban, akkor a függvény ott differenciálható. Ez hamis. A klasszikus ellenpélda a

$$f(x_1,x_2)= \begin{cases} \frac{x_1x_2}{x_1^2+x_2^2},&(x_1,x_2)\neq(0,0),\\ 0,&(x_1,x_2)=(0,0) \end{cases}$$

függvény. Az origóban mindkét parciális derivált létezik és nulla:

$$\frac{\partial f}{\partial x_1}(0,0) =\lim_{h\to0}\frac{f(h,0)-f(0,0)}{h} =\lim_{h\to0}\frac{0}{h}=0,$$

és szimmetrikusan $\partial f/\partial x_2(0,0)=0$. A függvény mégsem differenciálható az origóban, mert nem is folytonos ott: az $x_1=x_2=t\neq0$ egyenes mentén $f(t,t)=t^2/(2t^2)=1/2$, ami nem tart a $0$-hoz, ha $t\to0$. A 4.1. Függvény, határérték és derivált alfejezetbeli egyváltozós tétel analógiája itt is érvényes: a differenciálhatóságból következik a folytonosság, ezért a folytonosság hiánya kizárja a differenciálhatóságot. Ráadásul az $(1,1)$ irányú iránymenti derivált sem létezik, mert

$$\frac{f(h,h)-f(0,0)}{h} =\frac{1/2}{h}$$

nem konvergál $h\to0$ esetén. A gradiens-képletből számított $\nabla f(0,0)^\top(1,1)=0$ tehát nem adná a tényleges iránymenti viselkedést; ez is mutatja, hogy a lemma feltétele, a differenciálhatóság, lényeges.

4.2.12 Önellenőrzés és visszahívás

Ellenőrizze a fejezet állításait három ponton. (1) A kvadratikus veszteség gradiensének alakja: $X\in\mathbb R^{3\times2}$, $w\in\mathbb R^2$, $y\in\mathbb R^3$ esetén $X^\top(Xw-y)\in\mathbb R^2$, azonos alakú a $w$ paraméterrel. (2) Az iránymenti derivált homogenitása: $D_{2v}f=2D_vf$ a definícióból közvetlenül látszik, és a lemmával is konzisztens. (3) A kontúr-merőlegesség: a szintvonalon $f$ konstans, így az érintő irányú derivált nulla. Visszahívás a 3.2. Mátrixszorzás és affín réteg alfejezetből: a mátrixszorzás alak-egyeztetése itt a gradiens alakjának ellenőrzésében ismétlődik; a 4.1. Függvény, határérték és derivált alfejezetből: az egyváltozós határértékes definíciót terjesztettük ki irányonként.

4.2.13 Rövid összefoglaló

A parciális derivált egy többváltozós függvény egy koordinátája szerinti, rögzített többi változójú deriváltja. A gradiens a parciális deriváltak oszlopvektora, alakja az input alakjával egyezik. Az iránymenti derivált a $v$ irányú egyváltozós derivált; differenciálható függvény esetén $D_vf(x)=\nabla f(x)^\top v$. Ebből következik, hogy a gradiens a legmeredekebb növekedés iránya, és merőleges a szintvonalakra. A differenciálhatóság erősebb, mint a parciális deriváltak létezése: a lineáris közelítés maradékának minden irányból $\|u\|$-nál gyorsabban kell nullához tartania. A kvadratikus veszteség gradiense $X^\top(Xw-y)$; a labor ezt két paraméteren, kézi értékekkel és gradienslépéssel ellenőrizte.

4.2.14 Következő alkalmazás

A 4.3. Jacobi-mátrix, láncszabály és VJP a többváltozós láncszabályt és a Jacobi-mátrixot vezeti be. A gradiens itt tanult alak-egyeztetése ott válik a vektor–Jacobi-szorzat alapjává: a rétegenkénti visszafelé számításban a skalár veszteség gradiense mindig a megfelelő tensor alakjában jelenik meg.

4.2.15 Források

• [B01] Deisenroth, Faisal és Ong (2020). Mathematics for Machine Learning. Cambridge University Press. https://mml-book.github.io/.
• [B02] Goodfellow, Bengio és Courville (2016). Deep Learning. MIT Press. https://www.deeplearningbook.org/.
• [D05] PyTorch contributors (2.14). Autograd mechanics. https://docs.pytorch.org/docs/2.14/notes/autograd.html.