Egy MI-ügynök ma már nemcsak válaszol a kérdésekre, hanem cselekszik is: időpontot foglal, megrendelést ad le, ügyfelekkel levelezik. Amíg minden jól megy, senki sem kérdezi, ki a felelős. Az első komoly hiba után viszont azonnal felmerül a kérdés: a fejlesztő, a cég, amely bevezette, vagy az a felhasználó, aki ráhagyta a feladatot? A hibák ráadásul ritkán egyetlen ok következményei: egy rosszul megfogalmazott utasítás, egy elavult adatbázis és egy figyelmetlen ellenőrzés együtt is elég egy kárhoz. A válasz nem egyetlen név, hanem egy lánc, amelyet három példán keresztül érdemes végigjárni.
Első eset: a chatbot, amely ígéretet tett
2024 elején egy kanadai vitarendező testület kimondta, hogy az Air Canada felel a weboldalán működő chatbot téves tájékoztatásáért. Az utas a bot által leírt, valójában nem létező kedvezményre hivatkozott, a légitársaság pedig azzal érvelt, hogy a chatbot önálló egység, amelyért nem felel. A testület ezt elutasította, és kisebb összeg megfizetésére kötelezte a céget.
A tanulság egyszerű: aki bevezet egy ügynököt, annak a nevében is nyilatkozik az ügynök. Az ügyfél joggal feltételezi, hogy a cég honlapján megjelenő információ a cég álláspontját tükrözi, függetlenül attól, hogy ember vagy program írta. Ez a logika nemcsak a légitársaságokra érvényes.
Érdemes ugyanakkor óvatosnak lenni: a döntést egy kisebb vitákat rendező testület hozta, ezért nem kötelező erejű precedens minden országban. Azt viszont jól megmutatja, hogyan gondolkodnak a hatóságok és a bíróságok, amikor egy cég azzal védekezik, hogy „a program tévedett”. Ez a védekezés önmagában ritkán elég. A cég a saját kommunikációjáért felel, és az ügyfelek szemszögéből mindegy, hogy a szöveget ember vagy gép állította elő.
Második eset: a hibás tájékoztatás az ügyfélszolgálaton
Vegyünk egy hipotetikus esetet egy online játékszolgáltatóval, mondjuk az Ice casino mintájára: az ügyfélszolgálati MI-asszisztens tévesen tájékoztat egy promóció feltételeiről, vagy rosszul írja le a befizetési korlát beállításának módját. A felhasználó ennek alapján dönt, és kár éri.
Itt a felelősség első helyen az üzemeltetőé, mert ő döntött az asszisztens bevezetéséről, ő állította be, és neki kellett volna ellenőriznie a válaszait. A fejlesztő felelőssége akkor merülhet fel, ha maga a rendszer volt hibás. Az üzemeltető kockázatát azonban csökkentik néhány egyszerű védelmi lépés: az asszisztens egyértelműen jelzi, hogy mesterséges intelligenciával beszél a felhasználó, mindig a hivatalos feltételekre hivatkozik, és bonyolult kérdésnél emberhez irányít. Az MI-rendelet átláthatósági előírásai szerint a felhasználót általában tájékoztatni kell arról, hogy géppel kommunikál. A beszélgetések naplózása pedig vitás helyzetben bizonyítékként is szolgálhat. Játékszolgáltatásnál különösen fontos, hogy a korlátokról és a feltételekről szóló információ pontos legyen, mert a szolgáltatás csak nagykorúaknak szól, és a tévedés valódi pénzbe kerülhet.
Harmadik eset: a jóváhagyás, amelyet senki sem olvasott el
Sok szervezet úgy érzi, megoldotta a problémát, ha egy ember hagyja jóvá az ügynök javaslatait. A gyakorlatban azonban az emberek hajlamosak túlzottan megbízni az automatikus javaslatokban, különösen akkor, ha naponta több százat kell átnézniük. Ilyenkor a jóváhagyás formalitássá válik. A hiba így úgy kerül át a rendszerbe, hogy formálisan mindenki megtette a dolgát, valójában viszont senki sem döntött.
Ez a helyzet a felelősség szempontjából is kényes. Aki aláír valamit, amit nem olvasott át, nem mentesül a felelősség alól csak azért, mert egy gép készítette elő a döntést. A valódi felügyelet azt jelenti, hogy az ember érti a javaslatot, látja a forrásokat, és elegendő ideje van ellenőrizni. Ezt a szervezetek tervezéssel segíthetik: kevesebb jóváhagyandó tételt adnak egy emberre, a rendszer jelzi, mennyire bizonytalan a javaslatban, és időnként szúrópróbaszerű utólagos ellenőrzés is történik.
Mit mond a jog Európában
A mesterséges intelligenciának nincs jogi személyisége, ezért a felelősség mindig emberekhez és szervezetekhez tartozik. Az Európai Unió 2024-ben fogadta el az új termékfelelősségi irányelvet (2024/2853), amely a szoftvereket, köztük a mesterséges intelligenciát is termékként kezeli. Az irányelv a 2026. december 9. után forgalomba hozott termékekre vonatkozik, és hibafelelősségről szól: a sérültnek nem kell bizonyítania a gyártó gondatlanságát. A külön MI-felelősségi irányelv tervezetét az Európai Bizottság 2025-ben visszavonta. Az MI-rendelet ezen felül a nagy kockázatú rendszereket üzemeltetőkre is előír kötelezettségeket, például az emberi felügyelet megszervezését, de ezeknek a szabályoknak a bevezetési ütemezése változhat, ezért érdemes mindig az aktuális állapotot ellenőrizni.
A lánc szereplői a következők lehetnek:
- A gyártó vagy fejlesztő, ha a termék hibás volt, vagy egy frissítés okozott hibát.
- A bevezető szervezet, ha rosszul állította be az ügynököt, vagy felügyelet nélkül hagyta.
- A felhasználó, ha figyelmen kívül hagyta a figyelmeztetéseket, vagy nem rendeltetésszerűen használta.
- Más szereplők, például importőrök vagy online piacterek, bizonyos esetekben.
A szerződések is számítanak: a fejlesztő és a bevezető cég egymás közötti megállapodásban megoszthatja a kockázatot, ám a fogyasztók jogait ez nem korlátozhatja. Az, hogy pontosan kit terhel a felelősség, mindig a konkrét esettől függ, de a lényeg állandó: a felelősséget nem lehet az algoritmusra hárítani.
Mielőtt rábízod magad az ügynökre
Egy MI-ügynök bevezetése nem csak technikai döntés, hanem felelősségi döntés is. Mielőtt feladatot adsz neki, tisztázd, mit csinálhat önállóan, ki ellenőrzi a munkáját, és ki felel, ha mégis hibázik. Ha az ügynök külső ügyfelekkel is kapcsolatba lép, a szabályokat ki kell egészíteni az ügyfeleknek szóló tájékoztatással, a panaszkezeléssel és a hibák javításának menetével. Ha ezek a kérdések nem kapnak világos választ, érdemes lassítani, vagy kisebb jogosultságokkal kezdeni. Válassz ki egy olyan feladatot a saját munkádban, amelyet az ügynök végezne, és írd le három mondatban, ki felel érte, ha elromlik: ez a három mondat gyakran többet ér, mint bármelyik hosszú szabályzat. Ha nem tudod egyértelműen megválaszolni, az már önmagában figyelmeztető jel.
