26.1 Globális és lokális magyarázat

26.1.1 Cél és konkrét helyzet

Egy már betanított prediktív modellt akarunk értelmezni. A magyarázandó modell egy logisztikus regressziós pipeline, amely két standardizált folytonos feature-ből becsli a késés valószínűségét. A magyarázat egysége a betanított predikciós függvény viselkedése: mit tesz a modell az adott bemenettel, nem pedig a valódi üzleti vagy fizikai hatásmechanizmus. A bemenet egy szintetikus adatállomány: $x_1$ és $x_2$ együttesen normális eloszlású, korrelációjuk körülbelül $0{,}8$; a $y$ bináris cél Bernoulli-változó. A megfigyelési egység egy rendelés. Az eredmény három magyarázati forma: standardizált regressziós koefficiens, permutációs fontosság, valamint PDP/ICE görbék; mindegyikhez tartozik egy pontosan megnevezett érvényességi korlát.

Előzetes becslés: mivel mindkét feature egyformán, $1{,}5$ logit-együtthatóval hat a generáló folyamatban, de $x_2$ zajosabb komponenst is tartalmaz, várható, hogy a permutációs fontosság $x_1$-re kissé nagyobb lesz. A koefficiensek hasonló nagyságúak lehetnek, de a $0{,}8$-as korreláció miatt instabilabbak.

26.1.2 Fogalmi magyarázat

26.1.2.1 Regressziós koefficiens

A logisztikus modell a logit-skálán lineáris:

$$\eta_i = \log\frac{P(y_i=1)}{1-P(y_i=1)} = \beta_0 + \beta_1 x_{i1} + \beta_2 x_{i2}.$$

Itt $x_{ij}$ a $j$-edik standardizált feature értéke a $i$-edik megfigyelésre, $\beta_j$ pedig a hozzá tartozó regressziós koefficiens (regression coefficient). A sklearn lineáris modelljében a becsült coef_ tömb alakja $(1, p)$, ahol $p$ a feature-ök száma. Ha $x_1$ egy szórással nő, miközben a másik feature változatlan, akkor a log odds $\beta_1$-gyel változik; valószínűségi skálán a változás nem konstans, mert a logisztikus függvény nemlineáris. A koefficiens tehát feltételes meredekség a modellen belül. Erősen korrelált $x_1, x_2$ esetén a közös jel magyarázatát a két együttható között osztja meg a modell, ezért egyedi standard hibájuk nagy lehet akkor is, ha a modell predikciója stabil. A $\beta_j$ pontbecslés nem tesztstatisztika; konfidenciaintervallumhoz bootstrap vagy statsmodels kell (Predikciós, paraméter- és Monte Carlo intervallum).

26.1.2.2 Permutációs fontosság

A permutációs fontosság (permutation importance, PI) azt méri, mennyit romlik egy előre rögzített pontossági mérőszám, ha a kérdéses feature oszlopát véletlenné tesszük:

$$\mathrm{PI}_j = \frac{1}{R}\sum_{r=1}^{R} \left(S_{\mathrm{base}} - S^{(r)}_{\mathrm{perm},j}\right).$$

Itt $S$ a scoring, például ROC AUC vagy a negatív Brier-pontszám (neg_brier_score); $S_{\mathrm{base}}$ az eredeti adaton mért érték, $S^{(r)}_{\mathrm{perm},j}$ pedig az $r$-edik permutáció után számított érték. Az sklearn.inspection.permutation_importance importances kimenete $(p, R)$ alakú, ennek sorátlaga és szórása adja a jelentett értéket. Az $R$ ismétlés a permutáció véletlen zaját csökkenti, de nem statisztikai konfidenciaintervallum. A $\mathrm{PI}_j$ mértékegysége megegyezik $S$ mértékegységével; ROC AUC esetén az eltérés $[-1,1]$ közé esik, és lehet negatív is, ha a permutáció véletlenül javítja a pontszámot.

Korrelált feature-öknél két torzítás is felléphet. Ha $x_2$ hordozza $x_1$ jelének nagy részét, $x_1$ permutálása alig ront, mert $x_2$ helyettesíti; így a PI alábecsüli a változó predikciós szerepét. Másrészt a permutálás olyan $(x_1,x_2)$ párokat hozhat létre, amelyek a tanító eloszlásban szinte nem léteznek, ezért a modell extrapolál, és a romlás felfúvódhat. A PI tehát az adott modell, adateloszlás és scoring közös tulajdonsága; megváltoztatott adateloszlásra nem vihető át automatikusan.

26.1.2.3 PDP és ICE

A parciális függésgörbe (partial dependence plot, PDP) a modell predikciójának átlagos alakját mutatja a kiválasztott feature mentén, miközben a többi feature értékét a megfigyelt sorokból vesszük, és átlagolunk:

$$\hat f_S(t) = \frac{1}{n}\sum_{i=1}^{n}\hat f(t, x_{i,C}).$$

Itt $x_{i,C}$ az $i$-edik sor komplementer feature-értéke, $t$ pedig a vizsgált feature rácsértéke. Ha a rács $G$ pontból áll, a PDP egy $(G,)$ alakú számsor. Egy kézi mini-példa: legyen $n=4$ és a modell $\hat f(x_1,x_2)=x_1+2x_2$, a megfigyelt párok $(0,0),(1,0),(0,1),(1,1)$. Ekkor $x_1$ PDP-je: $t=0$-ra $(0+0+2+2)/4=1{,}0$, $t=1$-re $(1+1+3+3)/4=2{,}0$.

Az individuális feltételes várható görbe (individual conditional expectation, ICE) nem átlagol a megfigyelések fölött, hanem minden sorra külön hagyja a komplementer értékeket:

$$\hat f_i(t) = \hat f(t, x_{i,C}).$$

Az ICE alakja $(n, G)$, átlaga éppen a PDP. Ha a modellben interakció van, az ICE görbék nem párhuzamosak; ha nincs, a logit-skálán additív modellben alakjuk azonos családból való, de a valószínűségi skálán az eltolás miatt nem párhuzamosak. A PDP tehát elfedheti az ellentétes irányú csoportok kioltódását, ezért a PDP-t és az ICE-t együtt érdemes nézni.

26.1.2.4 Lokális magyarázat

A lokális magyarázat (local explanation) egyetlen megfigyelésre ad felbontást: miért lett éppen $0{,}76$ egy adott rendelés becsült késési valószínűsége? Additív felbontásra törekszünk:

$$\hat\eta_i = \hat\beta_0 + \sum_{j=1}^{p}\hat\beta_j x_{ij}.$$

A $h_{ij}=\hat\beta_j(x_{ij}-r_j)$ tagokkal a referencia $r_j$ értékhez viszonyított hozzájárulást kapunk. Lineáris modellben, ha a referenciát a train-átlagra választjuk, a $h_{ij}$ tagok a SHAP-stílusú additív felbontást adják független feature-ök mellett; a valódi SHAP-csomag használata itt nem szükséges. Fontos: a lokális magyarázat egyetlen predikcióra igaz, három különböző sor három eltérő hozzájárulást mutathat.

26.1.3 Teljes minimális munkapélda

A következő kód szintetikus adatot készít, treníroz egy standardizált logisztikus regressziót, és kiszámolja a koefficienst, a PI-t, a PDP/ICE görbéket és egy sor lokális felbontását. A kódot local_explanation_demo.py néven a projektgyökérbe tesszük. A kimenet szemléltető, nem a könyvírás során végrehajtott mérés; a pontos értékek seedtől és könyvtárverziótól függhetnek.

# local_explanation_demo.py
# Szemléltető kód, nem a könyvgenerálás által futtatott mérés.
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.pipeline import Pipeline
from sklearn.linear_model import LogisticRegression
from sklearn.inspection import permutation_importance, PartialDependenceDisplay

rng = np.random.default_rng(20261020)
n = 400

x1 = rng.normal(0.0, 1.0, n)
x2 = 0.8 * x1 + 0.6 * rng.normal(0.0, 1.0, n)

# Generáló logit; a valóságban ezt a kutató nem ismerné.
logit_true = -1.0 + 1.5 * x1 + 1.5 * x2
p_true = 1.0 / (1.0 + np.exp(-logit_true))
y = rng.binomial(1, p_true)

X = pd.DataFrame({"x1": x1, "x2": x2})

X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.25, random_state=2, stratify=y
)

model = Pipeline([
    ("scale", StandardScaler()),
    ("lr", LogisticRegression(max_iter=1000, random_state=0)),
])
model.fit(X_train, y_train)

coef = model.named_steps["lr"].coef_[0]
intercept = model.named_steps["lr"].intercept_[0]
print("Standardizált koefficiensek (log odds per szórás):", coef)
print("Intercept a standardizált térben:", intercept)

pi = permutation_importance(
    model, X_test, y_test,
    scoring="roc_auc", n_repeats=30, random_state=1,
)
print("PI átlag (AUC-romlás):", pi.importances_mean)
print("PI szórás:", pi.importances_std)

fig, ax = plt.subplots(1, 2, figsize=(10, 4))
PartialDependenceDisplay.from_estimator(
    model, X_test, features=[0], kind="both",
    grid_resolution=20, ax=ax[0],
)
PartialDependenceDisplay.from_estimator(
    model, X_test, features=[1], kind="both",
    grid_resolution=20, ax=ax[1],
)
fig.suptitle("PDP és ICE a két standardizált feature-re")
fig.tight_layout()
fig.savefig("local_pdp_ice.png", dpi=150, bbox_inches="tight")

row = X_test.iloc[[0]]
row_scaled = model.named_steps["scale"].transform(row)[0]
contrib = coef * row_scaled
logit_val = intercept + contrib.sum()
p_val = 1.0 / (1.0 + np.exp(-logit_val))
print("Sor:", row.to_dict(orient="records")[0])
print("Lokális hozzájárulások logit-skálán:", list(zip(X.columns, contrib)))
print("Rekonstruált logit:", logit_val, "valószínűség:", p_val)

Futtatás Linux/macOS terminálból a projektgyökérben:

python local_explanation_demo.py

Windows PowerShellből:

python .\local_explanation_demo.py

A lab pyproject.toml alap numerikus csomagjait feltételezi; a scikit-learn pontos verzióját a projekt zárja. Egy lehetséges helyi futtatás kimenete (szemléltető, nem mért érték): a standardizált koefficiensek valahol $\hat\beta_1 \approx 1{,}6$ és $\hat\beta_2 \approx 1{,}4$ körül, a PI pedig $x_1$-re például $0{,}13$, $x_2$-re $0{,}10$ AUC-romlás. A PDP növekvő, telítődő görbe mindkét feature-nél; az ICE vonalak szétszórtak, mert a másik feature értéke eltolja őket.

26.1.4 Eredmény értelmezése és kézi kontroll

A generáló folyamatból ismert kézzel számolható kontroll: ha $x_1=x_2=0$, akkor $\eta=-1{,}0$, ezért $P(y=1)=1/(1+e)\approx 0{,}269$. A betanított modell interceptje közel lehet ehhez, mert a StandardScaler a train-adaton zéró átlagú feature-öket hoz létre; az eltérés a train-minta véletlen ingadozásából adódik.

A koefficiens értelmezése: standardizált egységre vetített feltételes log odds hatás. Ha $\hat\beta_1=1{,}62$, akkor a modell szerint $x_1$ egy szórásnyi növelése a másik feature rögzítése mellett $1{,}62$-vel növeli a log oddsot. Ez a mondat akkor is igaz, ha $x_1$ és $x_2$ korrelált; viszont a korreláció miatt az egyes együtthatók bizonytalanabbak, és a modell szétoszthatja a közös magyarázó erőt. Ezért nem állítjuk, hogy $\hat\beta_1 > \hat\beta_2$ esetén $x_1$ „fontosabb” lenne; a kettő közötti különbség akár mintavételi zaj is lehet.

A PI ennél óvatosabb nyelvet igényel. A $0{,}13$ és $0{,}10$ érték annyit mond: a tesztadaton a modell ROC AUC-ja ennyivel romlik, ha az adott oszlopot permutáljuk. Mivel a két feature erősen korrelál, a másik változó részben pótolhatja a permutáltat; a tényleges szerep tehát nagyobb lehet a mért romlásnál. Másrészt a permutáció irreális párokat gyárt, ami felfújhatja a fontosságot. A PI korlátja ezért nem pusztán becslési zaj, hanem az együttes eloszlás megsértése.

A lokális felbontásban a contrib értékek logit-skálán értendők. Például ha egy teszt-sorra $x_1=0{,}35$, $x_2=-0{,}40$ standardizált érték, akkor $h_1=1{,}62\cdot0{,}35=0{,}57$, $h_2=-0{,}58$, összegük $-0{,}01$; az intercept hozzáadásával kapjuk a logitot. Ez a felbontás additív, ezért alkalmas arra, hogy elmondjuk: „ez a rendelés főleg azért kapott alacsony késési valószínűséget, mert $x_2$ a referencia alatt van”.

26.1.5 Feladatok

1. Értelmezés. Tegyük fel, hogy egy futtatásban $\hat\beta_1=1{,}66$, $\hat\beta_2=0{,}20$, és a PI éppen ellentétes: $x_2$ romlása $0{,}05$, $x_1$-é $0{,}03$. Fogalmazd meg egy mondatban, mit mond a koefficiens, és miért nem ellentmondás a PI.

2. Implementálás kézi kontrollal. Egy standardizált térben becsült modell paraméterei $\hat\beta_0=-0{,}94$, $\hat\beta_1=1{,}66$, $\hat\beta_2=1{,}38$. Számítsd ki $x_2=0{,}4$ rögzítése mellett a $P(y=1)$ értéket az $x_1 \in \{-2,-1,0,1,2\}$ rács minden pontján, és rajzold fel kézzel az így kapott egyéni görbét. Ez épp egy ICE-görbe.

3. Hibadiagnózis. Egy kolléga a permutációs fontosságot a train-adaton számolta, kiválasztotta a legnagyobb PI-jű változókat, majd ugyanazon a tesztadaton jelentette a jóságot, amelyen a végső AUC-t is nézte. Nevezd meg a két hibát, és mondd meg, hogyan helyeznéd a szelekciót a modellértékelési ciklusba a Feature-szelekció és magas dimenzió és Küszöb, kalibráció és ritka esemény szabályai szerint.

4. Megváltoztatott feltétel. Adj a demóhoz egy $x_3$ zajváltozót: x3 = rng.normal(0.0, 1.0, n), és tanítsd újra a pipeline-t. Milyen értéket vársz $x_3$ koefficiensére és PI-jére? Miért nem elegendő egyetlen pontbecslés annak eldöntésére, hogy $x_3$ valóban haszontalan? Hogyan módosítanád az értékelést a döntéshez?

26.1.6 Megoldások és indoklás

1. A $\hat\beta_1=1{,}66$ azt jelenti, hogy $x_1$ egy szórásnyi növelése átlagosan $1{,}66$ log odds növekedést ad, ha $x_2$ rögzített. A PI nem ellentmondás, mert más kérdésre válaszol: a permutáció során $x_2$ elrontása okozhat nagyobb romlást akkor is, ha az együtthatója kisebb, mert $x_2$ hordozhatja a közös jel nagy részét, vagy mert az AUC nem logit-skálán mér, és a küszöb környéki predikciók érzékenyebbek.

2. Az ICE-görbe pontjai $P(t)=\sigma(-0{,}94+1{,}66t+1{,}38\cdot0{,}4)$, ahol $\sigma(u)=1/(1+e^{-u})$. A számolt értékek: $t=-2$-re $\operatorname{logit}=-3{,}71$, $P\approx0{,}024$; $t=-1$-re $\operatorname{logit}=-2{,}05$, $P\approx0{,}114$; $t=0$-ra $\operatorname{logit}=-0{,}39$, $P\approx0{,}404$; $t=1$-re $\operatorname{logit}=1{,}27$, $P\approx0{,}781$; $t=2$-re $\operatorname{logit}=2{,}93$, $P\approx0{,}949$. A görbe tehát a $-2$ és $2$ közötti tartományban a telítődő logisztikus alakot követi, ahol a rögzített $x_2=0{,}4$ az eltolást adja. A feladatban közölt együtthatók szemléltető bemenetek; a saját futtatásnál a kapott becslésekkel kell újraszámolni.

3. Az első hiba: a train-adaton mért PI optimista lehet a túlillesztés miatt, és a modell általánosító érzékenységét nem méri. A második hiba: a tesztadatot végső értékelés előtt használták fel válogatásra, ezért a jelentett AUC már nem érintetlen teszt; a tesztet csak egyszer, a véglegesített pipeline értékelésére szabad használni. Helyes ciklus: a feature-szelekció a belső train részen belül, például beágyazott validációval vagy a tanító foldokon belül számolt PI-vel történjen; a végső teszt csak a befagyasztott pipeline-ra kerül.

4. Az $x_3$ koefficiense várhatóan nullához közeli, PI-je pedig $0$ körüli, mert a generáló folyamat nem használja. Egyetlen pontbecslés nem elegendő, mert a véletlen permutációk és a mintavételi zaj pozitív PI-t is adhat zajváltozónak. A döntéshez nézd a pi.importances_std értékét, növeld az n_repeats számát, és hasonlítsd a fontosságot nullfeature-re vagy a negatív tartományhoz: ha a PI nulla körül szóródik, a változót nem érdemes megtartani.

26.1.7 Gyakori tévedés ellenpéldával és önellenőrzés

A leggyakoribb félreértés: „a fontos prediktor egyben jó beavatkozási cél”. A PI vagy a PDP a modell asszociációs viselkedését írja le, nem a világbeli oksági hatást. Például egy kampánymodellben az app_letoltes erős prediktora lehet a vásárlásnak, de a letöltés kikényszerítése nem feltétlenül növeli a vásárlást, mert a letöltés és a vásárlás közös oka lehet az érdeklődés. A korreláció és a regresszió az együttes eloszlásból tanul (Esemény, feltételes valószínűség és Bayes); a beavatkozás hatásához randomizált kísérlet vagy explicit oksági elemzés kell (Randomizálás és kísérleti protokoll, Kísérlet eredményének tudományos közlése). A jelen szintetikus demóban ismerjük a generáló paramétereket, de a becsült magyarázat akkor is a modellről szól, nem automatikusan a generáló folyamatról.

Önellenőrzés: meg tudod-e nevezni, mi a magyarázandó modell és mi az állítás egysége? Tudod-e, mi a PI mértékegysége és mit sért a permutáció korrelált feature-öknél? El tudod-e mondani, miért nem azonos a PDP az oksági beavatkozási görbével? Ha a lokális hozzájárulások összege nem adja vissza a logitot, hol keresnéd a hibát?

26.1.8 Rövid összefoglaló

A regressziós koefficiens feltételes log odds meredekség; a permutációs fontosság a modell és scoring közös romlása, amely korrelált feature-öknél alul- vagy felülbecsülhet, mert a permutáció megsérti az együttes eloszlást. A PDP átlagos predikciós görbe, az ICE egyedi görbéket mutat, és az átlag elfedheti a heterogenitást. A lokális magyarázat egyetlen sor additív felbontása. Egyik eszköz sem oksági bizonyíték. Következő alkalmazás: a Kalibrált valószínűség és predikciós bizonytalanság kalibrált valószínűség és predikciós bizonytalanság, ahol a magyarázatokat a modell megbízhatóságával vetjük össze.