A beszélgetésalapú AI egy omnichannel probléma

A beszélgetésalapú interfész azt ígéri, hogy a felhasználó a saját szavaival mondhatja el a problémáját, és megoldást kap rá. Az ígéret egyben kísértés is, hiszen ha a modell már érti a problémát, azt is eldöntheti, hogyan oldja meg. Ha a toolokat közvetlenül az agenthez kötjük, a döntési réteget nem kell megépíteni és karbantartani.

Ha a döntés a modellhez kerül, az a jogosultságot és az árazást a saját kontextusából állapítja meg, ahelyett, hogy meghívná a hivatalos rule engine-t. Százból kilencvenkilencszer működik, de szabályozott környezetben ez az arány még az elégséges szintet sem üti meg.

A századik eset nem olyan hiba, amit meg lehet találni. Ugyanarra a kérdésre másodszorra más válasz érkezhet, a nem reprodukálható hibát pedig nem lehet lezárni. Amikor egy ügyfél vitatja az árat vagy az elutasítást, a miértre a válasz csak szabály, verzió és időbélyeg lehet. Az a döntés, amely nem vezethető vissza ezekre, nem állja meg a helyét sem vitában, sem auditban, sem bíróság előtt.

Az AI Act ugyanezt az elvet szigorítja: egy árazási vagy jogosultsági döntés automatizálása épp az, ami a rendszert a magas kockázatú kategóriába teheti, a nyomon követhetőség és az emberi felügyelet kötelezettségével együtt.

A döntési réteg akkor marad meg, ha világos a határvonal. A modellé a megértés és a megfogalmazás: értelmezi, mit akart a felhasználó, rákérdez arra, ami hiányzik, és úgy fogalmazza meg a választ, hogy az ember tudjon vele mit kezdeni. Minden, amin a válasz múlik, kódból jön. Az árazás az árazó szolgáltatás dolga, a jogosultság a rule engine-é. A modell meghívja őket, eredményt és indoklást kap, és ezt adja tovább, a számot sosem maga vezeti le. A composite AI a nyelvet generatív rétegre bízza, az igazságot determinisztikusra.

Modell a backend mélyén is működhet: osztályoz, adatot nyer ki, összegez. Az már másik rendszer, saját határokkal és saját elszámoltathatósággal. Ez a határvonal a beszélgetésalapú csatornán mosódik el a legkönnyebben.

Aki végigvitt egy omnichannel programot, ismeri ezt a mintát. A web, a mobil és a call center csatornák voltak, és egyik sem tartalmazta az árazási logikát. A csatorna azt jelenítette meg, amit a rendszer eldöntött, és ez a szétválasztás ma is érvényes. A beszélgetésalapú AI ugyanabba a felelősségi rétegbe tartozik, így a megjelenítés és az üzleti logika köré épített architektúra módosítás nélkül befogadja. Az architekturális fegyelem, amit igényel, már megvan.

Ha vállalati beszélgetésalapú AI rendszereket tervezel, beszéljünk.