Az önjáró kolléga: az Agentic AI az irodában

2024-ben egy kanadai légitársaság chatbotja tévesen azt ígérte egy gyászoló utasnak, hogy visszaigényelheti a kegyeleti kedvezményt a jegy megvásárlása után. Amikor az utas bíróságon követelte az ígért összeget, a cég szokatlan védekezéssel állt elő: a chatbot önálló jogi személy, maga felel a saját nyilatkozataiért. A bíróság ezt határozottan elutasította. Nincs kibúvó: a vállalat nem háríthatja át a felelősséget az általa működtetett automatizált rendszerre.

Nem sokkal korábban egy Chevrolet-dealernél a chatbot 1 dollárért kínált megvételre egy 76 000 dolláros terepjárót. Az eset hamar kiderült, de a kár megtörtént.

Ezek még nem agentikus rendszerek voltak, de jól mutatják, miért kritikus a kontroll, amikor az AI már műveleteket is végrehajt.

A generáláson túl

Míg egy hagyományos chatbot csupán megválaszolja a kérdést, az Agentic AI cselekvő rendszer. Az „ágens" szó angolul ügynököt jelent, az agentikus AI pedig olyan rendszert, amely előre megadott célok, jogosultságok és korlátok között részfeladatokra bontja a kérést, eszközöket használ, adatokat kér le, műveleteket indít, és szükség esetén emberi jóváhagyást kér. Önállóan tervez, dönt és cselekszik, emberi utasítás nélkül. Az agentikus mesterséges intelligencia lényege pontosan ez. Egy AI-ágens fogadja a kérést, utánanéz az ügyféladatoknak, lefuttatja az üzleti logikát, elvégzi a módosítást a háttérrendszerekben, majd visszajelzést küld. Mindezt egybefüggő, autonóm folyamatban, emberi beavatkozás nélkül.

A Klarna fintech vállalat 2024 februárjában vezette be AI-asszisztensét. Az első hónap eredménye: 2,3 millió ügyfélinterakció, körülbelül 700 teljes munkaidős ügyintézőnek megfelelő volumen. Az átlagos megoldási idő 11 percről 2 percre esett vissza, a visszatérő megkeresések aránya 25 százalékkal csökkent. Éles rendszer volt, valós ügyfelekkel.

Ahol az ágens már dolgozik

A Clifford Chance nemzetközi ügyvédi iroda esettanulmányai szerint az AI segítségével a korábban hetekig tartó komplex ingatlanportfólió-átvilágításokat és szerződés-ellenőrzéseket mintegy 70-80%-kal gyorsabban tudják elvégezni. Az OpenTable vendéglátóipari platform ügyfélszolgálati megkereséseinek 70 százalékát teljesen önállóan zárja le az ágens. Foglalások, hűségpontok, módosítások szerepelnek a „menüben”. Ember nem is érinti őket.

A szellemágens problémája 

Kár lenne elhallgatni az árnyoldalt: az autonóm működéssel arányosan nő a kockázat. Komplex, több lépéses, nyílt végű feladatokban az AI-ágensek hibaaránya ma még magas lehet, különösen akkor, ha több autonóm komponens kapcsolódik össze ellenőrzőpontok nélkül. Ha egy folyamatban három ágens kapcsolódik össze, és mindegyikük önállóan 70 százalékos sikerességgel dolgozik, a teljes láncolat együttes sikere mindössze 34 százalékra süllyed.

Még ennél is kellemetlenebb az, amit szellemágens-jelenségnek nevezhetnénk. Vállalati környezetben az ágensek jellemzően egy koordinátor irányítása alatt dolgoznak. (A koordinátor az a vezérlőágens, amely kiosztja a részfeladatokat a többi, specializált ágens között.) Ha a koordinátort leállítják, az alágensek önállóan futnak tovább, mert az indításkor megkapták az API-kulcsokat és a jogosultságokat. Írják az adatbázisokat, küldik a hibás értesítéseket, mert annyira automatizáltak, hogy senki nem állította le őket.

A kill switch nem elég

A kill switch kifejezés szó szerint ölőkapcsolót jelent: az a vállalati biztosíték, amellyel egy félrement ágenst azonnal le lehet állítani. A megoldás mégsem az ágensek kódjában, hanem az infrastruktúrában keresendő. A modern vállalati gyakorlatban három mechanizmus terjedt el. Először is, az áramköri megszakítók automatikusan zárolják az ágens hozzáférését határérték-túllépés esetén. Másodszor, a rövid élettartamú tokenbérletek csak ideiglenesen engedik az ágenseket dolgozni, így a hozzáférés automatikusan megszűnik, ha a feladat véget ért. Harmadszor, a HITL-(human-in-the-loop, vagyis emberi felügyeleti) pontok visszafordíthatatlan döntéseknél kötelezővé teszik az emberi jóváhagyást.

Az EU AI Act magas kockázatú rendszerekre vonatkozó előírásai 2026. augusztus 2-től kötelezőek (e sorok írásakor úgy tűnik, meghosszabbítják a határidőt). HR-kiválasztás, hitelképesség-értékelés, kritikus infrastruktúra: ezeken a területeken a rendszernek naplóznia, dokumentálnia kell, és biztosítania az emberi felügyeletet.

Kié marad az irányítás?

A Salesforce nemrég bejelentette a 3,6 milliárd dollárba kerülő Fin ügyfélszolgálati ágens-platform felvásárlását, darabáron 99 centért számlázva sikeresen lezárt interakcióként. Ez az árazás sokat elárul az iparági logikáról: a bizalom az egyik összetevő, a kontroll a másik.

A legnagyobb kontroll akkor érhető el, ha az ágensek is a vállalat saját infrastruktúráján futnak. A SERCO Informatika Zrt. AI és Innovációs üzletága pontosan ezt kínálja: saját tűzfal mögé telepített agentikus AI-rendszert, amelynek adatai, naplói és leállítási mechanizmusai soha nem kerülnek idegen szerverre.

Aki kill switch nélkül telepít ágenst, az legalább annyit kockáztat, mint a cikk elején szereplő, végül bíróság előtt magyarázkodó légitársaság.

Fotó: Envato

A cikk megjelenését a SERCO Informatika Zrt. AI és Innovációs üzletága támogatta.