37.3 Linearitás, adjungált és határfeltétel

37.3.1 Cél, előismeret és induló kérdés

A 37.2. Backward és ellenőrzési lefedettség egységben levezettük a konvolúciós réteg $\nabla_X,\nabla_K,\nabla_b$ értékeit, és az átfedő bemeneti foltok miatt az inputgradienst összegezéssel képeztük. Most ugyanazt az operátort matematikai leképezésként vizsgáljuk, és szétválasztjuk a bizonyított operátortulajdonságot a választott implementáció futási tulajdonságától. A szükséges előismeret a 37.2. Backward és ellenőrzési lefedettség referencia-ősszegező konvolúciója, a 4.3. Jacobi-mátrix, láncszabály és VJP alfejezetből a Jacobi-mátrix és a 13.2. Konvolúció és cross-correlation alfejezetből a cross-correlation definíciója.

Induló kérdés: egy $3\times3$-as, 1 csatornás képen $3\times3$-as kernellel, stride 1 és padding 0 mellett a bias nélküli réteg hány dimenzióból hány dimenzióba képez? Van-e lineáris inverze? Tippeljen, mielőtt a levezetést elolvassa; a választ a szakasz végén numerikusan is ellenőrizzük.

37.3.2 Operátordefiníció és jelölések

A [D10] szerint a Conv2d térbeli cross-correlationt számol; a könyvben a $T$ operátor ezt valósítja meg. Legyen a bemenet $X\in\mathbb R^{N\times C_{in}\times H\times W}$, a súly $K\in\mathbb R^{C_{out}\times C_{in}\times k_h\times k_w}$, a bias $b\in\mathbb R^{C_{out}}$, a stride $s\ge1$, a szimmetrikus zero padding $p\ge0$, a dilation $d\ge1$. A kimenet $Y=T_{K,b}(X)\in\mathbb R^{N\times C_{out}\times H_{out}\times W_{out}}$, ahol

$$H_{out}=\left\lfloor\frac{H+2p-d(k_h-1)-1}{s}\right\rfloor+1,$$

és $W_{out}$ ugyanígy számolandó. Az alapeset $d=1$, $s=1$. A bias nélküli operátort $T_K=T_{K,0}$ jelöli, és a komponensenkénti definíció

$$T_K(X)_{n,o,i,j}=\sum_{c=0}^{C_{in}-1}\sum_{u=0}^{k_h-1}\sum_{v=0}^{k_w-1}X_{n,c,\,si-p+u,\,sj-p+v}\,K_{o,c,u,v}.$$

A bias az összegzés után adódik hozzá: $T_{K,b}(X)=T_K(X)+B$, ahol $B_{n,o,i,j}=b_o$. Az $X$-et vektorizálhatjuk $\mathrm{vec}(X)\in\mathbb R^{N C_{in} H W}$ sorrendben; ekkor a rögzített $K$ melletti $T_K$ lineáris leképezést egy $M_K\in\mathbb R^{(N C_{out}H_{out}W_{out})\times(N C_{in} H W)}$ mátrix reprezentálhat.

37.3.3 A bias nélküli linearitás

A „lineáris” szót itt a lineáris algebra pontos értelmében használjuk.

Tétel (a bias nélküli operátor linearitása). Rögzített $K$, $s$, $p$, $d$ és alakok mellett a $T_K$ leképezés lineáris: minden $X_1,X_2$ azonos alakú bemenetre és minden $\alpha\in\mathbb R$-re

$$T_K(X_1+X_2)=T_K X_1+T_K X_2,\qquad T_K(\alpha X_1)=\alpha T_K X_1,$$

ha az összegzés tartománya mindkét oldalon ugyanaz a $H_{out}\times W_{out}$ rács.

Bizonyítás. A homogenitáshoz írjuk be a definíciót. Az $\alpha X_1$ bemenetre a kimenet komponensenként:

$$T_K(\alpha X_1)_{n,o,i,j}=\sum_{c,u,v}(\alpha X_1)_{n,c,\,si-p+u,\,sj-p+v}K_{o,c,u,v} =\alpha\sum_{c,u,v}X_{1,n,c,\,si-p+u,\,sj-p+v}K_{o,c,u,v} =\alpha T_K(X_1)_{n,o,i,j}.$$

Az additivitás ugyanezzel az indexfelbontással:

$$T_K(X_1+X_2)_{n,o,i,j} =\sum_{c,u,v}(X_1+X_2)_{n,c,\,si-p+u,\,sj-p+v}K_{o,c,u,v} =\sum_{c,u,v}X_{1,n,c,\dots}K_{o,c,u,v}+\sum_{c,u,v}X_{2,n,c,\dots}K_{o,c,u,v},$$

mert az összeadás a rögzített indexhalmazon tagonkénti. A két szumma éppen $T_K X_1$ és $T_K X_2$ komponense. ∎

A $T_K$ így lineáris operátor, de a biasos $T_{K,b}$ nem lineáris. Ennek közvetlen oka, hogy a lineáris leképezés a nullvektort nullvektorba viszi, míg

$$T_{K,b}(0)=B\neq0,\quad\text{ha }b\neq0.$$

A $T_{K,b}$ affin: eltolással komponál lineáris leképezést. Az eltolás itt nem egy input-eltolás, hanem a kimeneti tér konstans $B$ eleme; ezért a $T_{K,b}$-t nem lehet egyszerűen egy $T_{K'}$ alakú bias nélküli operátorral helyettesíteni, hacsak nem bővítjük az inputot egy rögzített 1 értékű csatornával. A gyakorlatban a bias éppen ezt a bővítést valósítja meg anélkül, hogy a bemeneti tenzort meg kellene növelni.

37.3.4 Adjungált azonosság és a transposed convolution

A véges dimenziós tereken a szokásos valós belső szorzat a tenzorok Frobenius-szorzata:

$$\langle A,B\rangle_F=\sum_{n,o,i,j}A_{n,o,i,j}B_{n,o,i,j}.$$

Ezzel az euklideszi struktúrával definiálhatjuk a $T_K$ adjungáltját mint azt a $T_K^*$ leképezést, amelyre minden megfelelő alakú $X,Y$ esetén

$$\langle T_K X,Y\rangle_F=\langle X,T_K^* Y\rangle_F.$$

A [D11] szerint a ConvTranspose2d ennek az adjungált operátornak a diszkrét megvalósítása a megfelelő stride, padding, output_padding konvencióval; a dokumentáció és az [S01] is megkülönbözteti a matematikai konvolúció inverzétől.

Tétel (adjungált azonosság). Rögzített $K,s,p$ mellett az $X\in\mathbb R^{N\times C_{in}\times H\times W}$ és $Y\in\mathbb R^{N\times C_{out}\times H_{out}\times W_{out}}$ tenzorokra fennáll

$$\sum_{n,o,i,j}Y_{n,o,i,j}\sum_{c,u,v}X_{n,c,\,si-p+u,\,sj-p+v}K_{o,c,u,v} =\sum_{n,c,p,q}X_{n,c,p,q}\sum_{\substack{o,u,v\\ p=si-p_{pad}+u\\ q=sj-p_{pad}+v}}Y_{n,o,i,j}K_{o,c,u,v},$$

ahol a jobb oldalon az összegzés azokra az $(i,j,u,v)$ indexekre megy, amelyek kielégítik a feltüntetett két egyenletet, és a $p_q$ indexhatárok automatikusan a definíciós tartományra szorítkoznak.

Bizonyítás. A bal oldal három egymásba ágyazott összeg: $Y$-szumma $n,o,i,j$ szerint, belső szumma $c,u,v$ szerint. Az összeadás kommutativitása miatt a szummákat tetszőlegesen átrendezhetjük, ha minden tag véges sokszor szerepel. Az indexeket az $X$-indexek szerint csoportosítjuk: minden rögzített $(c,p,q)$ bemeneti pozícióhoz azok a $(o,u,v)$ súlypozíciók tartoznak, amelyekre létezik $(i,j)$, hogy $p=si-p_{pad}+u$ és $q=sj-p_{pad}+v$. Ekkor a tag

$$Y_{n,o,i,j}\,X_{n,c,p,q}\,K_{o,c,u,v},$$

és az $X_{n,c,p,q}$ minden $p,q$-ra közös tényezőként emelhető ki a belső szummából. Ez adja a fenti jobb oldalt. ∎

A bizonyítás közvetlen következménye: a 37.2. Backward és ellenőrzési lefedettség alfejezetben levezetett $\nabla_X$ képlet éppen $T_K^*(Y)$, ha az upstream gradiens $Y$. A 37.2. Backward és ellenőrzési lefedettség overlap-összegzése tehát nem egy numerikus trükk, hanem az adjungált operátor definíciójának implementációja. A batchdimenzió $N$ és a csatornadimenzió $C$ független a térbeli átrendezéstől, ezért a levezetés tagonként azonos.

37.3.5 Nem-invertálhatósági példa

Az adjungáltságból nem következik invertálhatóság. A $T_K$ általában nem injektív, tehát nincs bal oldali inverz, és a $T_K^*$ sem általános inverz.

Állítás (dimenziócsökkenés). Ha $C_{in}HW>C_{out}H_{out}W_{out}$, akkor a $T_K:\mathbb R^{C_{in}HW}\to\mathbb R^{C_{out}H_{out}W_{out}}$ lineáris leképezés nem lehet injektív, így nem invertálható.

Bizonyítás. A rang–nullitás tétel szerint $\dim\ker T_K+\dim\operatorname{ran}T_K=\dim(\text{input})=C_{in}HW$, és $\dim\operatorname{ran}T_K\le C_{out}H_{out}W_{out}$. Így $\dim\ker T_K\ge C_{in}HW-C_{out}H_{out}W_{out}>0$, tehát létezik nemnulla $X$, amelyre $T_K X=0$. ∎

A tisztán dimenziós érvelés után adjunk konkrét nulltér-elemet. Legyen $N=C_{in}=C_{out}=1$, $H=W=3$, $k_h=k_w=2$, stride 1, padding 0. A kimenet $2\times2$, a leképezés $\mathbb R^9\to\mathbb R^4$. Válasszuk a kernelt

$$K=\begin{pmatrix}1&0\\0&0\end{pmatrix}.$$

Ekkor $Y_{i,j}=X_{i,j}$ a bal felső $2\times2$-es blokkra. Az

$$X_1=\begin{pmatrix}0&0&0\\0&0&0\\0&0&1\end{pmatrix},\qquad X_2=\begin{pmatrix}0&0&0\\0&0&0\\0&0&0\end{pmatrix}$$

bemenetekre $T_K X_1=T_K X_2=0$, noha $X_1\neq X_2$. A $T_K$ tehát több különböző inputot képez ugyanabba az outputba; a kép jobb alsó sarka „nem látszik” a kimeneten.

Ugyanez a példa azt is mutatja, hogy a $T_K^*:\mathbb R^4\to\mathbb R^9$ nem adhat általános rekonstrukciót: a rekonstrukcióhoz szükséges elveszett $X_{2,2}$ komponens a kimenetből elvileg nem állítható elő, mert a kimenetbeli $Y_{i,j}$ minden tagja csak a $0\le i,j\le1$ tartományból olvas. A későbbi ConvTranspose2d laborban ezért sosem várunk allclose(x_hat, x) egyezést.

37.3.6 Eltolási equivariance és annak határfeltétele

Legyen $\tau_v$ az infinite-lattice $\mathbb Z^2$ eltolása $v=(v_h,v_w)$ vektorral. A véges képet a zero padding zónán túl zérusnak tekintve $X$-et kiterjesztjük $\mathbb Z^2$-re; ugyanez a kiterjesztés érvényes $T_K X$-re is. A kernel súlyai pozíciófüggetlenek, ezért stride 1 és zero padding mellett a konvolúció minden egész eltolással kommutál:

$$T_K(\tau_v X)=\tau_v(T_K X),\qquad s=1.$$

Bizonyítás (váz). A $T_K$ definíciójában a kernelindexek $(u,v)$ szerinti összegzés ugyanaz marad, ha a bemeneti indexet $p+q$ helyett $p+v_h+u$ írjuk; mivel a padding zóna is eltolódik a $\tau_v$ alatt, az összegzés tartománya invariáns. Az output oldalán ugyanez az eredmény a $v$-vel eltolt pozíció.

A határfeltétel két ponton szűkíti ezt az állítást.

1. Stride-részcsoport. Ha $s>1$, az equivariance csak az $s\mathbb Z^2$ rács eltolásaira áll: $T_K(\tau_{s u}X)=\tau_{s u}T_K(X)$ minden $u\in\mathbb Z^2$-re, de egy általános $v$ eltolásra nem. Ennek oka, hogy az output csak minden $s$-edik rácsponton mintavételez.
2. Nem zéró padding. A reflect/replicate padding szabálya a véges ablak határához kötött, ezért nem viselkedik transzláció-invariáns kiterjesztésként. Itt a $\tau_v$-equivariance már stride 1 mellett is meghiúsul a határ közelében.

Ellenpélda stride 2-re. Legyen $H=W=4$, $k=2$, stride 2, pad 0, $K=\begin{pmatrix}1&0\\0&0\end{pmatrix}$, tehát $Y_{i,j}=X_{2i,2j}$, output $2\times2$. Legyen az inputban $X_{0,0}=1$, a többi 0. Ekkor $T_K X$ a $(0,0)$ outputban 1. Toljuk el a bemenetet$\tau_{(0,1)}$-gyel: a delta a $(0,1)$ pozícióba kerül, amely nincs a $2\mathbb Z^2$ mintavételi rácson, ezért $T_K(\tau_{(0,1)}X)=0$. Másrészt az output $\tau_{(0,1)}$-eltolása a $\mathbb Z^2$-re kiterjesztett $T_K X$-en az 1-et a $(0,1)$ pozícióba viszi, tehát $\tau_{(0,1)}T_K X\neq0$. A két oldal különbözik.

Határ-ellenpélda replicate paddingre. Legyen $N=C_{in}=C_{out}=1$, $H=W=3$, kernel $1\times1$-es identitás, stride 1, replicate padding 1. Input: a $(0,2)$ pixel 1, a többi 0. A replicate padding a jobb szélső oszlopot másolja a padding zónába, ezért $T_K X$ az $5\times5$-ös kimeneten a $(0,2)$, $(0,3)$, $(0,4)$ pozíciókban 1. Most toljuk az inputot jobbra 1-gyel a zéróval kiterjesztett infinite-rácson: az input delta kilép a $3\times3$-as ablakból, így $T_K(\tau_{(0,1)}X)=0$. Ezzel szemben az output jobbra tolva nem nulla: $\tau_{(0,1)}T_K X$ a $(0,3)$ és $(0,4)$ pozícióban 1. A replicate padding tehát a határnál megtöri az equivarianciát, mert a paddingérték az ablakhatártól függ, nem pedig a shiftelt infinite-rács kiterjesztésétől. Ez a példa egyben a „boundary counterexample” szerepét tölti be: a határkezelés választása nem semleges operátorazonosság, hanem további előfeltétel.

37.3.7 Labor: matematikai jegyzőkönyv a referenciakódhoz

A 37.2. Backward és ellenőrzési lefedettség. egységben elkészített reference_conv.py felületét használjuk. Az alábbi szkript a lab/ munkakönyvtárból futtatható, feltételezve, hogy a 37.2. Backward és ellenőrzési lefedettség referenciája az NCHW bemenetet, groups=1-et, szimmetrikus paddinget és a fent definiált összegző képletet valósítja meg. A kód az adjungált tesztet a belső szorzat azonossággal, a linearitást két oldal összehasonlításával, a nem-invertálhatóságot a nulltér-példával, az equivariancia-korlátot pedig a stride=2 és replicate példák ellenőrzésével vizsgálja.

# lab/n147_operator_report.py
import numpy as np

# A n146 saját referenciája; az aláírás az ott rögzített specifikációt követi.
from reference_conv import conv2d_forward_np as conv_ref

rng = np.random.default_rng(20261020)
tol = 1e-12

# 1) Linearitás bias nélkül
X1 = rng.normal(size=(1, 2, 5, 5)).astype(np.float64)
X2 = rng.normal(size=(1, 2, 5, 5)).astype(np.float64)
K = rng.normal(size=(3, 2, 3, 3)).astype(np.float64)
left = conv_ref(X1 + X2, K, bias=None, padding=1, stride=1)
right = conv_ref(X1, K, bias=None, padding=1, stride=1) + conv_ref(X2, K, bias=None, padding=1, stride=1)
print("linearity max|left-right|:", np.max(np.abs(left - right)))
assert np.allclose(left, right, atol=tol, rtol=tol)

# 2) Adjungált azonosság: <T_K X, Y> == <X, T_K^* Y>
Y = rng.normal(size=(1, 3, 5, 5)).astype(np.float64)  # stride=1, pad=1, k=3 => H_out=5
TX = conv_ref(X1, K, bias=None, padding=1, stride=1)
TstarY = conv_ref(Y, np.transpose(K, (1, 0, 2, 3))[:, :, ::-1, ::-1],
                  bias=None, padding=1, stride=1)  # a transposed operátor a kernelfordítással
print("adjoint lhs:", np.sum(TX * Y))
print("adjoint rhs:", np.sum(X1 * TstarY))
assert np.allclose(np.sum(TX * Y), np.sum(X1 * TstarY), atol=1e-10, rtol=1e-10)

A fenti conv_ref hívás bias=None argumentuma a 37.2. Backward és ellenőrzési lefedettség specifikációjában azt jelenti, hogy a biasvektor elhagyható; ha a saját függvény más aláírást használ, a hívást igazítsa hozzá. A transposed operátor kernelkonvenciója: az adjungáltban a súlyt a kimeneti–bemeneti csatornák felcserélésével és a két térbeli tengely megfordításával kapjuk, mert a cross-correlation kernelje az adjungált képletben pontosan így jelenik meg.

A jegyzőkönyv formátuma a 36.3. Szakirodalmi reprodukció és attribúció. mintát követi:

A kimeneti sorok a képletekből számított elvárt értékek, nem mért futási eredmény; a 37.2. Backward és ellenőrzési lefedettség referenciakóddal való tényleges futtatáskor ugyanezeket a tűréseket kell reprodukálni. A parancs a lab könyvtárból:

python n147_operator_report.py

A szkript célja nem a sebesség mérése, hanem a matematikai jegyzőkönyv négy sorának gépi kontrollja.

37.3.8 Feladatok

F1 (fogalmi, nehézség 1). Pontosan idézze fel a lineáris leképezés két axiómáját, és mutassa meg egy konkrét, $1\times1\times2\times2$ bemenetű, $k=2$, stride 1, padding 0 konvolúción, miért sérti meg a két axiómát a $b=2$ bias. Elvárt átadandó: az axiómák nevei, két olyan konkrét input, amelyre a homogenitás vagy additivitás ellentmondásba kerül, és a kiszámolt outputok.

F2 (levezetési, nehézség 2). Vezesse le a $T_K^*$ teljes mátrixát a $C_{in}=C_{out}=1$, $H=3$, $W=4$, $k=2$, stride 1, padding 0, $K=\begin{pmatrix}1&2\\3&4\end{pmatrix}$ esetre, és ellenőrizze a $\langle T_K X,Y\rangle=\langle X,T_K^*Y\rangle$ azonosságot egy olyan $X$-szel, amelynek minden eleme 1, és $Y$-nal, amelynek minden eleme 1. Elvárt átadandó: a $T^*Y$ konkrét $3\times4$-es mátrixa, a két belső szorzat kiszámítása, és annak indoklása, miért térhetnek el az egyes komponensek, miközben az összeg egyezik.

F3 (implementációs, nehézség 1). Egészítse ki a 37.2. Backward és ellenőrzési lefedettség referenciakódját egy test_linear_adjoint függvénnyel, amely a fenti laborban megadott seed mellett ellenőrzi a linearitást és az adjungált azonosságot, majd három különböző padding értékre is futtatja. Elvárt átadandó: a függvény forrása, a futtatási parancs, a három assert feltétele, és a tolerancia indoklása.

F4 (hibakeresési, nehézség 2). Az alábbi hibás érvelés szerint egy réteg rekonstruálható az adjungálttal:

x_hat = conv_transpose(conv(x, K), K_flipped)  # remélt x
assert np.allclose(x_hat, x)                   # gyakran elhasal

Lokalizálja a hibát az operátor tulajdonságaira hivatkozva, mutassa meg a $3\times3\to2\times2$-es példán a rekonstrukció kudarcát, és adja meg a javítás módját: mit lehet és mit nem lehet ebből a műveletpárból garantálni. Elvárt átadandó: az ok, a következmény, a javított assert, és az ellenőrzés visszaigazolása.

F5 (kísérlettervezési, nehézség 3). Tervezzen megismételhető vizsgálatot, amely a reflect padding equivarianciáját a véges kép határa mentén összehasonlítja a zero paddinggel. Használja a 36.3. Szakirodalmi reprodukció és attribúció. protokollsablonját. Elvárt átadandó: kérdés, hipotézis, megfigyelési egység, baseline, változó tényező, metrika (például max abszolút eltérés $T_K\tau_v-\tau_vT_K$), a használt véges shiftlista, a számítási keret, és az érvényességi korlát leírása. Előre megadott eredmény nem elvárt; a kézzel kiszámolt replicate ellenpéldát referenciaesetként kell szerepeltetni.

37.3.9 Megoldások és indoklás

F1. A lineáris leképezés axiómái: $L(x_1+x_2)=L(x_1)+L(x_2)$ (additivitás) és $L(\alpha x)=\alpha L(x)$ (homogenitás). A $b=2$ biasos rétegben legyen $K=\begin{pmatrix}1&0\\0&0\end{pmatrix}$, $X_1=\begin{pmatrix}1&0\\0&0\end{pmatrix}$, $X_2=\begin{pmatrix}0&0\\0&1\end{pmatrix}$, bemenet $2\times2$, kimenet $1\times1$. Ekkor $T_{K,b}(X_1)=1+2=3$, $T_{K,b}(X_2)=0+2=2$, ezért $T(X_1)+T(X_2)=5$. Ugyanakkor $T_{K,b}(X_1+X_2)=1+2=3$, tehát $3\neq5$, az additivitás sérül. A homogenitás is sérül például $X_1$-re és $\alpha=2$-re: $T(2X_1)=4+2=6\neq2\cdot3=6$? Ez éppen egyezik; a homogenitás sérülése általában $\alpha=0$-val látszik: $T(0)=2\neq0\cdot T(X_1)=0$. A biasos réteg affin, nem lineáris.

F2. A $Y$ minden elemét 1-nek választva $T_K X$ minden kimeneti eleme $1+2+3+4=10$. A belső szorzat $\langle T_K X,Y\rangle=6\cdot10=60$. A $T_K^*Y$ komponenseit az adjungált indexfeltétel adja: minden $(p,q)$ bemeneti pozícióra azon $(i,j,u,v)$ kombinációk összege, amelyekre $p=i+u$, $q=j+v$. A kiszámított mátrix:

$$T_K^*Y=\begin{pmatrix}1&3&3&2\\4&10&10&6\\3&7&7&4\end{pmatrix},$$

és az elemek összege $1+3+3+2+4+10+10+6+3+7+7+4=60$, egyezik. A komponensek eltérése abból fakad, hogy a határpixelek kevesebb output-patchben szerepelnek; a $\langle X,T^*Y\rangle$ azonban a teljes összeget őrzi meg, mert az indexcsere minden tagot pontosan egyszer számol.

F3. Egy lehetséges teljes függvény:

def test_linear_adjoint(rng=20261020):
    rng = np.random.default_rng(rng)
    X1 = rng.normal(size=(1, 2, 7, 7)).astype(np.float64)
    X2 = rng.normal(size=(1, 2, 7, 7)).astype(np.float64)
    K = rng.normal(size=(3, 2, 3, 3)).astype(np.float64)
    for pad in (0, 1, 2):
        left = conv_ref(X1 + X2, K, bias=None, padding=pad, stride=1)
        right = conv_ref(X1, K, bias=None, padding=pad, stride=1) + conv_ref(X2, K, bias=None, padding=pad, stride=1)
        assert np.allclose(left, right, atol=1e-12, rtol=1e-12)
        Y = rng.normal(size=left.shape).astype(np.float64)
        TstarY = conv_ref(Y, np.transpose(K, (1, 0, 2, 3))[:, :, ::-1, ::-1], bias=None, padding=pad, stride=1)
        assert np.allclose(np.sum(left * Y), np.sum(X1 * TstarY), atol=1e-10, rtol=1e-10)
    return "OK"

A toleranciát a float64 összegzési hibája és az adjungáltnál az $H_{out}$-eltolású transposed rács konvenciója indokolja; a 1e-12 az additív, a 1e-10 a szorzatösszeg relatív hibájára szól. A $p=0$ esetben a transposed hívás és az adjungált indexfeltétel bemeneti tartománya pontosan illeszkedik a padding=pad konvencióhoz; a három paddingérték a null-, kis- és nagy-padding szélső eseteket fedi.

F4. A hiba oka: az adjungált nem általános inverz. A $T_K:\mathbb R^9\to\mathbb R^4$ leképezés nem injektív, ezért bármely lineáris $U$ leképezésre $U T_K$ sem lehet identitás $\mathbb R^9$-en; a $T_K^*T_K$ önadjungált, de nem invertálható. A $3\times3$-as, $2\times2$-es kernel példán a jobb alsó $X_{2,2}$ pixel semelyik outputra nem hat, így a transposed út sem állíthatja vissza. A assert np.allclose(x_hat, x) ezért szükségszerűen megbukik. A javítás: az adjungáltat kizárólag a belső szorzat azonossággal ellenőrizzük, a rekonstrukciós állítást pedig csak akkor fogalmazzuk meg, ha teljes rangú, négyzetes operátorral dolgozunk; a jelen példában ez nem áll fenn. A javított teszt a labor 2. pontja.

F5. A protokoll a 36.3. Szakirodalmi reprodukció és attribúció. sablonja szerint: kérdés, hogy a reflect padding a határ mentén megtöri-e a shift-ekvivarianciát; hipotézis, hogy legalább egy határmenti shiftre eltérés van; megfigyelési egység egy $7\times7$-es, rögzített seeddel generált véletlen kép; baseline a zero padding ugyanazon kernelre és shiftre; változó tényező a padding módja; metrika $e(v)=\max_{n,o,i,j}|T_K(\tau_vX)-\tau_vT_K(X)|$, ahol $\tau_v$ a $v\in\{-1,0,1\}^2$ rács eltolása a megfelelő kiterjesztéssel; a számítási keret a 37.2. Backward és ellenőrzési lefedettség NumPy-referenciája CPU-n, float64. A teszt akkor érvényes, ha a zero padding minden $v$ esetén $e(v)=0$ a numerikus tűrésen belül, a reflect padding viszont legalább egy $v$-nél pozitív $e(v)$, és a kézzel kiszámolt replicate/reflect ellenpélda minimálisan reprodukálódik. A korlát: az észlelt hiba a padding-implementáció és a rögzített ablak határán mérhető jelenség; nem általános bizonyítás tetszőleges képre, de egy ellenpélda az equivarianciát mint univerzális állítást megcáfolja.

37.3.10 Tipikus tévedés és ellenpélda

Gyakori hiba, hogy a matematikai operátor és a választott gyors implementáció futási költségét azonosítják. Például egy $3\times3$-as kernel hatása felírható naiv összegzéssel, im2col bontással, Winograd-gyorsítással vagy depthwise separable közelítéssel; ez utóbbi gyorsabb lehet, de más operátort ad. Az az állítás, hogy „a gyorsabb implementáció nem lineáris, mert hardveresen szaturál”, az operátortulajdonságra nem vonatkozik, csak az implementáció numerikus tartományára. Megfordítva: abból, hogy két implementáció azonos matematikai $T_K$-t számol, nem következik azonos futási költség vagy azonos numerikus hiba. Az operátor linearitását, adjungáltságát és equivarianciáját a definiáló összegzésből bizonyítjuk; a futási idő mérése külön, a 24.2. CPU/GPU profiling és helyes időmérés alfejezetben tárgyalt protokollt igénylő empirikus állítás.

37.3.11 Önellenőrzés és korábbi fogalom visszahívása

Ellenőrizze a levezetést négy ponton: a bias nélküli $T_K$ nullvektorra nullát ad; az adjungált azonosság jobb oldalán az összegzés valóban az $X$-indexek szerint csoportosít; a stride=2 példában a mintavételi rács $2\mathbb Z^2$; a replicate példában az output shift a paddingos output egész rácsán értelmezett, nem a $H_{out}$ ablak csonkításán. A 37.2. Backward és ellenőrzési lefedettség alfejezetből idézzük vissza, hogy az inputgradiens overlap-összegzése pontosan az itt bizonyított $T_K^*$; a 36.3. Szakirodalmi reprodukció és attribúció alfejezetből a jegyzőkönyv formátuma; a 33.3. torch.export és ONNX alfejezetből, hogy az export ekvivalenciájának ellenőrzése ugyanilyen feltételeket és toleranciát igényel; a 25.3. Kis adat és feature-alapú baseline alfejezetből pedig azt, hogy a lineáris pixelmodell is operátor, és reprezentációértékelésnél a leképezés tulajdonságait a tanulási kísérlettől külön kell kezelni.

37.3.12 Rövid összefoglaló

A bias nélküli cross-correlation $T_K$ lineáris operátor, mert a definiáló összegzés tagonként homogenitást és additivitást ad; a biasos réteg affin, de nem lineáris. A Frobenius-belső szorzatra nézve az adjungált indexcserével bizonyítható, és a ConvTranspose2d-féle operátort adja; ez nem általános inverz. A nem-invertálhatóságot dimenziócsökkenéssel és konkrét nulltér-elemmel mutattuk. A shift-ekvivariancia stride 1 és zero padding mellett teljesül az infinite-rácson, de stride $s>1$-nél csak az $s\mathbb Z^2$-részcsoportra, replicate paddingnél pedig a határon sem. A referenciakódos jegyzőkönyv minden állítást analitikus és numerikus kettős kontroll alá helyez.

37.3.13 Következő alkalmazás és források

A 37.4. Rétegből kis tanulómodell egység ezt az operátort kis tanulómodellé építi: a réteg paramétereit gradienslépéssel tanítjuk, ahol a backward éppen a $T_K^*$ művelet, a linearitás pedig a gradienslinearitást garantálja. A 37.4. Rétegből kis tanulómodell laborjában az itteni jegyzőkönyvteszteket a tanítás előtti automatikus ellenőrzésként futtatjuk.

Felhasznált források:

• [D10] PyTorch contributors (2.14). Conv2d. https://docs.pytorch.org/docs/2.14/generated/torch.nn.Conv2d.html.
• [D11] PyTorch contributors (2.14). ConvTranspose2d. https://docs.pytorch.org/docs/2.14/generated/torch.nn.ConvTranspose2d.html.
• [S01] Stanford CS231n (n.d.). Convolutional Neural Networks. https://cs231n.github.io/convolutional-networks/.