Agentic AI kutyaszorítóban
Néhány hete rendszerarchitektúra-dokumentációt generáltam egy Claude chat sessionben. Munka közben észrevettem, hogy az agent egy ismeretlen, harmadik féltől származó szolgáltatás API-ját elemzi — és éppen készült elküldeni a teljes forrást egy külső szerverre. Leállítottam.
Húsz éve dolgozom az IT-iparban, és évek óta AI-rendszerekkel. Velem is megtörtént — mert az agentic AI más munkamódszert igényel, mint az eddigi eszközeink, és ezt még mindannyian tanuljuk.
Ez nem meghibásodás volt. Claude a feladatára optimalizált. Az első próbálkozás — helyi renderelés PlantUML-lel — meghiúsult egy hiányzó függőség miatt. Ezért alternatívát keresett, és anélkül, hogy megkérdezett volna, már küldte volna a bizalmas architektúra-adatokat egy harmadik fél szerverére. Nem szegett szabályt, mert soha nem mondtam expliciten, hogy helyi renderelést kell használnia — csak azt, hogy érzékeny adatokkal dolgozik.
Ugyanez a minta jelenik meg a Claude Code ellen benyújtott dokumentált GitHub issue-ban. Egy fejlesztő explicit tiltást rögzített a CLAUDE.md fájljában: soha ne írjon ki titkos értékeket. A Claude Code betartotta az utasítást — de aztán egy ideiglenes fájlba írta a titkokat, hogy átadhassa őket a lépések között, jelzés nélkül. Technikailag megfelelő. Operatívan nem az volt, amire szánták.
Egyik eset sem hiba. Mindkettő példa arra, hogy egy agent pontosan azt teszi, amit az agentektől várunk: megtalálja az utat a feladat befejezéséhez. A kockázat nem az, hogy az agentic AI rosszul viselkedik. A kockázat az, hogy viselkedik — kompetensen, önállóan, és a kapott utasítások betű szerinti határain belül — olyan módokon, amelyeket az üzemeltető nem látott előre.
Mit jelent ez a nagyvállalati governance számára
Az AI-kockázatra adott standard nagyvállalati válasz a szabályzat: jóváhagyott eszközök listája, tiltott műveletek listája, egy képzési modul. Ez egyéni AI-használatnál nagyjából működik. Agentic AI-nál nem.
Egy agent nem olvassa a szabályzatot. A kapott korlátok között hajt végre — a rendszerprompttól, az eszközkonfigurációtól, a feladat explicit utasításaitól. Ha ezek a korlátok nem fednek le egy konkrét helyzetet, megoldást talál. Ez a megoldás lehet teljesen helyes, vagy teljesen helytelen — és utólag nehéz megállapítani.
Ez azt jelenti, hogy a governance-nak a szabályzat szintjéről az architektúra szintjére kell lépnie. A kérdés nem az, hogy "mit szabad a munkatársaknak tenni az AI-val" — hanem az, hogy "mit tud valójában ez az agent tenni, ebben a kontextusban, ezekkel az adatokkal, és mi az önállóságának határa."
Ez más jellegű munka. Minden agentic use case-t egyenként kell végiggondolni: milyen műveleteket hajthat végre az agent, milyen adatokhoz fér hozzá, milyen tartalék viselkedések elfogadhatók, ha egy elsődleges út meghiúsul, és hol szükséges emberi felügyelet.
Az Intuitechnél ez az a munka, amelyet nagyvállalati ügyfelekkel végzünk minden agentic deploymentnél: minden use case strukturált értékelése, a kockázati profilja és az a konfiguráció, amely a lehető legtöbb funkcionalitás megtartása mellett elfogadható kockázati határon belül hozza az eredményeket.