Fekete Hattyú esemény (Black Swan)

Egy ismert kísérletben videón kosárlabdát passzolgatnak, a nézők feladata pedig annyi, hogy megszámolják a fehér mezesek passzait. Közben besétál a képbe valaki gorillajelmezben, és a számolók nagy része nem veszi észre. Nem figyelmetlenek: pontosan azt keresték, amit előre megmondtak nekik. Ugyanez a vakfolt működik egy üzemben, ha a biztonság csak az előre listázott veszélyek elhárítása.

A Fekete Hattyú olyan rendkívül nagy hatású esemény, amely a múltbeli tapasztalatból nem jelezhető előre, utólag mégis magyarázhatónak tűnik. A meglévő modellekből nem következik, ezért a gyakorisági alapú előrejelzés rá nem alkalmazható. A jelenség azokban a rendszerekben gyakori, amelyek „Extremisztánban“ élnek, ahol egyetlen kiugró érték dominálhatja az egészet, szemben „Átlagisztánnal“, ahol a szélsőség elhanyagolható. A védekezés nem a jóslás, hanem a felkészültség: robusztusság és redundancia.

1. ábra: Átlagisztánban a haranggörbe korlátos, az átlag értelmes; Extremisztánban a vastag farkú eloszlás kiugró Fekete Hattyúja dominál.

Kinek szól?

Azoknak, akik a ritka, de súlyos eseményekkel és a rendszer tűrőképességével dolgoznak: üzemvezető · technológus · HSE-szakember · folyamatbiztonsági mérnök · reliability engineer · műszakvezető.

Tanulási célok

A cikk elolvasása után képes leszel:

• megkülönböztetni a kis valószínűségű és az elképzelhetetlen eseményt;
• eldönteni, hogy egy jelenség Átlagisztánban vagy Extremisztánban él, és ehhez igazítani a mérőszámaidat;
• megmutatni, hol a határa a gyakorisági kockázatértékelésnek egy folyamatipari üzemben;
• felsorolni a felkészültség eszközeit, és felismerni, mikor NEM Fekete Hattyú egy esemény.

A lényeg

• Fekete Hattyú = elképzelhetetlen, nem csak valószínűtlen. A modelljeinkből nem következik, csak utólag magyarázható.
• Átlagisztánban az átlag és a trend értelmes; Extremisztánban egyetlen kiugró érték dominál, az átlag félrevezet, a Fekete Hattyúk lépten-nyomon előfordulnak.
• Az „okos ember Extremisztánban“ nem jósol, hanem előre alkalmazkodik, ehhez konvertálható tudás kell.
• Process safety következmény: a gyakorisági kockázatértékelés (HAZOP/LOPA) alulbecsülheti a ritka, súlyos eseményeket, ezért kell reziliencia (robusztussag-redundancia).

Rossz metafora

Maga a „fekete hattyú“ képe félrevezető, hiszen fekete hattyút el tudunk képzelni. A feladat nem a valószínűtlenre, hanem az elképzelhetetlenre való felkészülés.

Mi a Fekete Hattyú (Black Swan) esemény, és honnan ered?

A fogalom Nassim Nicholas Taleb munkájából származik. Meghatározása szerint a Fekete Hattyúk rendkívül ritka és nehezen előre jelezhető események, amelyek következménye aránytalanul nagy, és amelyekre „az emberi természet utólag magyarázatot gyárt“.

Taleb életútja is tanulságos: hazája, Libanon összeomlása után a Whartonon megtanulta a pénzügyek eszköztárát, majd a cégében az ellentétére alkalmazta. Évekig napi veszteséget termelt, 2001. szeptember 11-én viszont nagyon sokat nyert, a 2008-as válságban pedig sokszoros milliárdos lett.

A magyar feldolgozás Mérő László ELTE-előadásából származik (International Lean Summit, 2013). Mérő élezi ki a fogalmat: itt „nem kis valószínűségű események“ vannak, „hanem elképzelhetetlenek“. Három együttes jellemző: rendkívüli hatás, retrospektív magyarázhatóság (utólag „nyilvánvaló“, pedig előre nem volt az) és előzetes előrejelezhetetlenség.

Tipikus példái: 2001. szeptember 11., a 2008-as pénzügyi válság, a Szovjetunió felbomlása. A visszatérő tévedés: „ekkora válság tízezer évente sem fordul elő“, miközben 1987, 1998, 2001 és 2008 mind bekövetkezett. A jelenség azért erősödött fel, mert a felhalmozódás, a változó környezet, a növekvő komplexitás és a Máté-effektus együttesen hat.

Átlagisztán és Extremisztán: két világ, két logika

Átlagisztánban a jelenségek korlátosak, ezért az átlag tipikus esetet ír le; Extremisztánban egyetlen kiugró érték dominálhat, ezért az átlag félrevezető. A különbség egy kvízen is látszik:

Kérdés: mennyi az átlaga…	Válasz	Világ
a 2 méter fölötti magyaroknak?	204 cm	Átlagisztán
a 90 év fölöttieknek?	93 év	Átlagisztán
az 5 milliárd Ft feletti vagyonú magyaroknak?	22 milliárd Ft	Extremisztán
az 5 milliárd USD feletti tőkéjű cégeknek? (2012 augusztusában 761 ilyen volt)	27 milliárd dollár	Extremisztán

A két világ nemcsak az átlagban tér el, hanem abban is, milyen viselkedés célravezető benne:

Jellemző	Átlagisztán	Extremisztán
Tudományos ismeret	rengeteg, a működés kiszámítható	kevés, és ami van (káoszelmélet, fraktálelmélet, skálafüggetlenség), épp az előrejelezhetetlenségről szól
Hasznos tulajdonság	szabálykövetés	szkeptikusság
Fekete Hattyú	valóban csak tízezer évente	lépten-nyomon
A történelem	lassan folydogál	hirtelen ugrásokkal halad
Vezérelv	„a víz az úr“	„a fantázia az úr“

A határvonal jó közelítéssel az, hogy amit ember alkotott, az könnyen extremisztáni, amit a természet alkot, az többnyire átlagisztáni. Egy mérnöki rendszer tehát ember alkotta, vagyis hajlamos az extremisztáni viselkedésre. A hétköznapi élet látszólag Átlagisztánban folyik, de bármikor átválthat, ezért kell a kettős gondolkodás. A rendszerszintű tévedés: extremisztáni problémára átlagisztáni eszközt alkalmazni.

Az „okos ember Extremisztánban“: konvertálható tudás

Kétféle okosság létezik, és a kettő nem cserélhető fel:

• Az Átlagisztánban okos ember speciális tudással rendelkezik és jól jelzi előre a jövőt; az okosságából technikák készülhetnek. Ez volt évszázadokon át a fejlődés motorja.
• Az Extremisztánban okos ember tisztán látja, hogy a jövő még közelítőleg sem jelezhető előre, mégis képes előre alkalmazkodni. Ehhez bármire konvertálható tudás kell: szempontváltásra képes gondolkodás a merev szakértelem helyett.

Taleb tanácsa, az előadás zárógondolata: „Válasszuk meg bölcsen, mikor legyünk ostobák“, vagyis mikor engedjük el a beidegződött modelljeinket. A reziliencia-mérnökség ezt adaptív kapacitásnak nevezi.

Hogyan védekezünk? (felkészültség, nem jóslás)

A Fekete Hattyú ellen nem a pontosabb előrejelzés véd (definíció szerint nem jelezhető), hanem a felkészültség:

1. Ismerd el a korlátot: az extrém esemény időpontja és formája kiszámíthatatlan.
2. Építs robusztusságot és redundanciát. Ez nem forgatókönyvre, hanem az ismeretlenre véd (robusztussag-redundancia).
3. Kerüld a túloptimalizálást, amely felszámolja a puffert: „nincs optimalizálás, van viszont józan ész“.
4. Tartsd egyszerűen: az egyszerűség önálló érték, mert kevesebb rejtett meghibásodási módot rejt.
5. Intézményesítsd a szkeptikusságot: rendszeresen tedd fel a kérdést, „mi van, ha az elképzelhetetlen történik?“
6. Maradj nyitott a pozitív Fekete Hattyúkra is: az adódó extrém hullámokat meg lehet lovagolni, és ez skálafüggetlen. A legtöbbet mégis saját hullám keltésével lehet elérni.

Mi köze Átlagisztánnak és Extremisztánnak a folyamatbiztonsághoz?

A folyamatiparban a Fekete Hattyú a tipikus „low-probability, high-consequence“ esemény: soha nem modellezett meghibásodás-kombináció, ritka külső esemény, domino-hatás. A gyakorisági alapú kockázatértékelés (hazop, lopa-sil) ezeket alulbecsülheti vagy ki sem szűri, mert a múltbeli adatokra épül.

A bevett megközelítés az, hogy előre definiáljuk az összes lehetséges kockázatot, és olyan eljárásokat tervezünk, amelyeket pontosan követve minden ismert veszély elkerülhető. Ez a safety by protocol elvben nagyszerű, egyetlen kritikus hibája a tudás illúziója: feltételezi, hogy minden kockázatot ismerhetünk előre. A gorilla-kísérlet pontosan ezt mutatja meg. A HAZOP- vagy FMEA-csapat nem kap ilyen szűkítést, mégis sebezhető a ritka, váratlan eseményekre, amilyen a 2011. március 11-i, 9,0-es japán földrengés és cunami volt: Talebre hivatkozva éppen a ritka és váratlan események a valóban veszélyesek. A folyamatipar tankönyvi példája a Deepwater Horizon, amelyet az emberi megbízhatósági irodalom Taleb Fekete Hattyú fogalmának példájaként tárgyal.

Ezért egészül ki a process safety gondolkodás a rezilienciával: független, redundáns védelmi rétegek és szkeptikus felülvizsgálat („what-if“ a HAZOP mellett). A napi OEE és a kis leállások Átlagisztánban mozognak, a nagy biztonsági események viszont Extremisztánban, ahol egyetlen esemény dominálhatja az egész év veszteségét. A KPI-alapú napi menedzsment önmagában nem véd a ritka, súlyos eseményektől.

Gyakori tévedések

A hibák többsége abból fakad, hogy átlagisztáni reflexeket viszünk át extremisztáni helyzetre:

• „Valószínűtlen“ ≠ „elképzelhetetlen“. A Fekete Hattyú nem ritka, hanem a modellből kimaradó.
• Az átlag mint biztonsági mérce. A baleseti statisztika átlaga elrejtheti a katasztrofális farkat.
• Túloptimalizálás „hatékonyság“ címén. A felszámolt tartalék pont akkor hiányzik, amikor kellene.
• Egyetlen modellhez ragaszkodás. A szempontváltás hiánya vakká tesz az eljárásokba nem illő helyzetekre.
• Megerősítési torzítás, Talebnél „a megerősítés hibája“: csak az elvárásainkat igazoló információt keressük. Ettől a felülvizsgálat önigazolássá válik.

Mikor NE használd?

• Ismert, modellezhető kockázatra. Nem váltja ki a hazop / lopa-sil rendszert, és nem mentség az ismert veszélyek elhanyagolására.
• Ismétlődő, gyakorisági adattal leírható eseményre (tömítés-szivárgás, kis leállás). Ide átlagisztáni eszköz való: statisztika, trend, OEE.
• Utólagos mentségnek. Ha az esemény szerepelt a kockázatelemzésben, vagy volt rá gyenge jel, az nem Fekete Hattyú, hanem elmulasztott védelmi réteg.
• Fordítva sem abszolútum. Semmilyen felkészültség nem előzi meg az összes problémát; a cél a tűrőképesség.

Vidd haza (kulcsok)

• Kérdezd meg, melyik világban vagy. Ha egyetlen esemény dominálhatja az éves eredményt, az átlag nem mérőszám.
• Ne a jóslást élesítsd, a tűrőképességet. A redundancia nem forgatókönyvre, hanem az ismeretlenre véd.
• A megtakarított puffer kockázat. Mielőtt tartalékot vonsz ki, mondd ki, melyik esemény ellen szűnik meg a védelem.
• Az egyszerűség biztonsági érv: kevesebb rejtett meghibásodási mód.
• Építs be szkepszist a rutinba, és figyeld a gyenge jeleket. A Fekete Hattyút nem látod előre, a védelmi réteg gyengülését igen.

Önteszt

1. Melyik eseményre alkalmazható a gyakorisági előrejelzés: a kis valószínűségűre vagy a Fekete Hattyúra? Miért?
2. Milyen tulajdonság célravezető Átlagisztánban, és mi Extremisztánban? Miért éppen az?
3. Adj példát az üzemedből egy átlagisztáni és egy extremisztáni jelenségre, és mondd meg, melyikre milyen eszköz való.

Válaszkulcs: 1) A kis valószínűségűre: az benne van a modellben. A Fekete Hattyúra nem, rá csak a felkészültség hat. 2) Átlagisztánban a szabálykövetés, Extremisztánban a szkeptikusság, mert az előre rögzített szabály éppen a nem modellezett esetre vak. 3) Például kis leállások (statisztika, trend), illetve katasztrofális kibocsátás (redundancia, barrier-felülvizsgálat).

Kapcsolat az OPEREX-hez (műszaknapló)

Bár a Fekete Hattyú nem jelezhető előre, a gyenge jelek és a védelmi rétegek állapota igen, és pont ezek rögzítése a műszaknapló (OPEREX) feladata: a near-miss-ek (near-miss), a kieső tartalékok és a barrier-gyengeségek műszakról műszakra dokumentálva nem maradnak észrevétlenül. A near-miss és eltérés rögzítése auditálható nyomvonalat ad (ISO 45001 §10.2: incidens és nemmegfelelőség kezelése).

Terminológia (HU / EN)

Magyar	Angol	Megjegyzés
Fekete Hattyú	Black Swan	elképzelhetetlen, nagy hatású esemény
Átlagisztán	Mediocristan	korlátos jelenségek
Extremisztán	Extremistan	a kiugró értékek dominálnak
Vastag farkú eloszlás	Fat-tailed distribution	a ritka extrém nem elhanyagolható
Skálafüggetlenség	Scale invariance	a mintázat kicsiben és nagyban ugyanaz
Megerősítési torzítás	Error of confirmation	csak az elvárást igazoló információ
Konvertálható tudás	Convertible knowledge	rugalmas, átvihető képesség
Adaptív kapacitás	Adaptive capacity	szabályokon túli helyzetkezelés

GYIK

Mi a különbség egy kis valószínűségű és egy Fekete Hattyú esemény között?

A kis valószínűségű esemény benne van a modelljeinkben, csak ritkán fordul elő; a Fekete Hattyú viszont a modelljeinkből nem következik, ezért nem „valószínűtlen“, hanem „elképzelhetetlen“ a korábbi tudás alapján.

Miért félrevezető az átlag Extremisztánban?

Mert egyetlen kiugró érték (egy szupergazdag vagy egy katasztrofális leállás) annyira eltorzítja az átlagot, hogy az nem reprezentálja a tipikus esetet, és nem alapozható rá előrejelzés.

Miért nem védenek meg a statisztikai előrejelzések a Fekete Hattyúktól?

Mert az előrejelzés a múltbeli minták kivetítésén alapul, a Fekete Hattyú viszont definíció szerint a múltból nem következik. A védekezés ezért a felkészültség: robusztusság, redundancia és szkeptikus felülvizsgálat.

Mit jelent a „konvertálható tudás"?

Olyan rugalmas, átvihető problémamegoldó képesség, amely szűk szakértelem helyett szinte bármilyen új helyzetre alkalmazható.

Kapcsolódó fogalmak

robusztussag-redundancia · near-miss · hazop · lopa-sil · muda

Következő lépés

1. robusztussag-redundancia — a felkészültség mérnöki eszköztára.
2. near-miss — a gyenge jelek begyűjtése.

Hivatkozások és további olvasnivaló

• Nassim Nicholas Taleb: The Black Swan: The Impact of the Highly Improbable. Penguin Books, 2007.
• Mérő László: Felkészülés az elképzelhetetlenre. ELTE, International Lean Summit, 2013.
• Carl S. Carlson: Effective FMEAs. Wiley, 2012, 2.4 fejezet: a safety-by-protocol kritikája.
• Designing for Human Reliability: Human Factors Engineering in the Oil, Gas and Process Industries, 2015.