Az AI tévedhet, ezért a fontos információkat ellenőrizni kell” – számos chatbot ezzel az egy mondattal próbálja kijelölni saját felelősségének határát.
Ez addig könnyen elfogadhatónak tűnik, amíg egy rossz válasz legfeljebb néhány perc bosszúságot okoz. Egészen más a helyzet, amikor a rendszer hibás vegyszert ajánl, téves orvosi tanáccsal késlelteti az ellátást, nem létező bírósági ügyeket talál ki, vagy egy lelki válságban lévő embert terel veszélyes irányba.
A legújabb esetben egy kínai gazda csaknem 25 hektárnyi szezámot veszített el, miután megfogadta egy chatbot gyomirtási tanácsát. A program később maga magyarázta el, hogy az ajánlott szer a termesztett növényt is elpusztítja.
Az eset korántsem egyedülálló: az elmúlt években légitársaságot köteleztek kártérítésre a chatbotja téves tájékoztatása miatt, ügyvédeket büntettek meg AI által kitalált ítéletek benyújtásáért, több fejlesztőt pedig halálesetekkel összefüggésben perelnek. A központi kérdés mindenhol ugyanaz: meddig figyelmeztetés az „AI tévedhet”, és mikortól válik egyszerű felelősséghárítássá?
Az egy „az AI tévedhet” felirat viszont nem jelent általános felmentést. Legfeljebb egy körülmény a sok közül, amikor azt vizsgálják, hogy a szolgáltató megfelelően jelezte-e a kockázatot, és a felhasználó észszerűen járt-e el.
A mostani esetben mindkét oldalon van felelősségi kérdés. A gazda ellenőrzés nélkül permetezett le közel 25 hektárt, ami súlyos közrehatás. Ugyanakkor a chatbot konkrét vegyszert és keveréket ajánlott, de nem ellenőrizte, hogy az adott gyomirtó magát a szezámot is elpusztítja, és még az alkalmazás módjára sem figyelmeztetett. Ráadásul ezt csak a pusztítás után magyarázta el. Egy apró, általános figyelmeztetés ezt aligha mossa le teljesen.
A figyelmeztetés akkor jelenthet komoly védelmet, ha:
- jól látható, konkrét és az adott veszélyre vonatkozik
- a szolgáltatás valóban általános tájékoztatóként működik, nem szakértőként reklámozzák
- nagy kockázatú kérdésnél maga a válasz is ellenőrzésre, szakemberre vagy hivatalos használati utasításra irányít
- a rendszer nem ad magabiztos, végrehajtható dózist vagy kezelési utasítást hiányos adatokból
Sokkal kevesebbet ér, ha a felület közben „megbízható szakértőként” viselkedik, pontos utasításokat osztogat, emlékszik az előzményekre és bizalmat épít, majd a lap alján annyi szerepel, hogy „előfordulhatnak hibák”. Egy orvos sem mentesülne a szakmai hiba következményei alól pusztán azzal, hogy előtte közli: ő is tévedhet.
Jogilag a fejlesztő, a szolgáltató, az adott célra bevezető vállalkozás vagy bizonyos esetekben a forgalmazó felel az az AI által válaszokért, ugyanakkor a károsultnak általában bizonyítania kell a kárt, a hibás vagy gondatlan működést és az okozati kapcsolatot. A saját meggondolatlansága csökkentheti a kártérítést, de nem feltétlenül szünteti meg a szolgáltató felelősségét.
Magyarországon ebben hamarosan jelentős változás jön. A 2026. december 9. után forgalomba hozott vagy használatba vett rendszereknél az új termékfelelősségi szabályok már kifejezetten terméknek tekintik a szoftvert. A hiba megítélésekor figyelembe kell venni többek között:
- a használati utasítást és a figyelmeztetéseket
- az észszerűen előrelátható használatot
- a célközönség sajátos igényeit
- a rendszer folyamatos tanulásából eredő viselkedést
A legfontosabb mondat pedig az, hogy a termékkárért felelős vállalkozás felelősségének szerződéses korlátozása vagy kizárása semmis. Vagyis az ÁSZF-be írt „semmilyen kárért nem felelünk” nem lesz varázsmondat. Az EU AI Act elsősorban biztonsági és működési kötelezettségeket, illetve hatósági szankciókat rendez; az egyéni kártérítési út ettől külön kérdés.
Van azonban egy fontos kivétel: az új magyar termékfelelősségi szabályok nem terjednek ki a kizárólag szakmai célra használt dolgokban okozott kárra. Egy gazdaság teljes termésének elvesztése ezért valószínűleg nem ezen az objektív termékfelelősségi úton, hanem szerződésszegés, gondatlanság vagy más általános kártérítési jogcím alapján lenne vizsgálható.
Az Egyesült Államokban már látszik, merre mozdulhatnak a bíróságok: a Character.AI elleni egyik ügyben a bíróság nem fogadta el, hogy egy chatbot eleve nem lehet termék, és továbbengedte többek között a termékfelelősségi, figyelmeztetési és megtévesztő kereskedelmi gyakorlatra alapított igényeket. Ez még nem jogerős végső felelősségmegállapítás, de azt jelzi, hogy a „csak szöveget generálunk” védekezés nem feltétlenül állítja meg már a pert sem.
És ez nem az egyetlen eset. Scott Winters volt lelkész szerint a ChatGPT hónapokon át orvosi tanácsadóként működött, pihenést és mozgáskorlátozást javasolt, valamint lebeszélte a sürgős ellátásról; később életveszélyes tüdőembóliával került kórházba. A 2026 júliusában indított per gondatlanságra és engedély nélküli orvosi tevékenységre is hivatkozik. Még semmilyen érdemi döntés nem született.
A DoNotPay „robotügyvéd” esetén hatósági elmarasztalás történt. A szolgáltatás úgy reklámozta magát, mint amely emberi ügyvédet képes helyettesíteni, ezt azonban nem támasztotta alá megfelelő tesztekkel, és ügyvédek sem ellenőrizték rendszeresen a munkáját. Végül a cégnek 193 000 dollárt kellett fizetnie, értesítenie kellett korábbi előfizetőit, és bizonyíték nélkül többé nem állíthatja, hogy szolgáltatása emberi szakemberrel egyenértékű.
A folyamatban lévő Raine kontra OpenAI ügyben a 16 éves Adam Raine családja szerint a ChatGPT a hosszú beszélgetések során nem szakította meg megfelelően az önkárosítással kapcsolatos párbeszédet, hanem veszélyes módon támogatta azt. A szülők 2025 augusztusában termékfelelősségre, gondatlanságra és jogellenes halálra hivatkozva pereltek. Az OpenAI tagadja a felelősséget, és többek között arra hivatkozik, hogy a rendszer számos alkalommal krízisforrásokhoz irányította a fiút. Érdemi ítélet még nincs.
Nyilván a szolgáltató felelőssége nem jelenti azt, hogy az AI minden rossz felhasználói döntésért fizet. Magyarországon a károsultat is terheli kármegelőzési és kárenyhítési kötelezettség: ha az adott helyzetben elvárható ellenőrzést elmulasztja, a kárt a felek közrehatása alapján megoszthatják. Szélsőséges esetben az is előfordulhat, hogy a szolgáltatónak semmit sem kell megtérítenie. Egy gazdától például aligha életszerűtlen elvárás, hogy 25 hektár lepermetezése előtt ellenőrizze a szer címkéjét, engedélyezett felhasználását, vagy legalább kis területen kipróbálja azt.
Ez azonban nem ad teljes felmentést az AI fejlesztőjének. Azt is vizsgálni kell, mennyire volt nyilvánvaló a veszély, mennyire határozott és részletes utasítást adott a rendszer, szakértőként kínálták-e, illetve előre látható volt-e, hogy valaki valóban végrehajtja a javaslatot. Az új uniós termékfelelősségi szabályok az észszerűen előrelátható használat mellett még az észszerűtlennek nem nevezhető téves használattal is számolnak, és azt is kimondják, hogy egy figyelmeztetés önmagában nem tesz biztonságossá egy egyébként hibás terméket.
Az AI esetében éppen ennek a határnak a meghúzása lesz nehéz. Ha a chatbot azt javasolja, hogy valaki igyon mérget vagy ugorjon le egy hídról, a veszély nyilvánvaló. Egy hihetően megfogalmazott orvosi, jogi vagy növényvédelmi tanácsnál azonban laikusként sokkal nehezebb felismerni a hibát – különösen akkor, ha ugyanaz a rendszer korábban többször helyes válaszokat adott. Ilyenkor a bizalom kialakulása már nem feltétlenül puszta „felhasználói hülyeség”, hanem a termék működésének előre látható következménye is lehet.
Ha pedig a szolgáltató már kifejezetten szakértői képességeket ígér, személyre szabott és közvetlenül végrehajtható utasítást ad, a veszély pedig előre látható és technikailag szűrhető lett volna, akkor egy általános figyelmeztetés már nem lesz elég. A figyelmeztetés bizonyíték lehet a szolgáltató mellett, de nem jogi golyóálló mellény.
(Mindez persze nem az AI ellen szól, hiszen ötletelésre, információk összegzésére vagy egy probléma lehetséges megoldásainak feltérképezésére rendkívül hasznos eszköz lehet. A gond ott kezdődik, amikor segédeszközből tévedhetetlen döntőbíróvá válik, és ellenőrzés nélkül követik a tanácsait olyan kérdésekben, amelyek egészséget, pénzt, biztonságot vagy megélhetést érintenek. A szolgáltatók felelősségét nem lehet minden esetben egy figyelmeztetéssel elintézni, de az AI a felhasználó józan ítélőképességét sem helyettesítheti.)
