Céges adatok az AI-chatben: mekkora baj lehet belőle? A jogász válaszol

A saleses kolléga szerződést másol be egy AI-chatbe, egy másik mesterséges intelligenciával foglalja össze a meetingeket, a HR-es pedig AI-jal rangsorolja a jelentkezőket. Mindennapos helyzetek, amelyek elsőre ártalmatlannak tűnnek, pedig fontos jogi kérdéseket vetnek fel. Mi történik a bevitt adatokkal, szabad-e AI-jal előszűrni a jelölteket, és ki felel, ha az eszköz hibázik?

Sok cégnél ráadásul a vezetés azt sem tudja pontosan, milyen AI-eszközöket használnak a munkatársak. Dr. Flaskay Mátéval, a PV Partners szakértőjével arról beszélgettünk, milyen jogi kockázatokkal kell számolniuk a vállalatoknak, mit jelent számukra az EU AI Act szerinti AI-jártassági kötelezettség, és hogyan alakíthatnak ki a gyakorlatban is működő belső szabályokat.

Ha holnap bemennél egy olyan középvállalathoz, ahol napi szinten használnak AI-eszközöket, mi az a néhány dolog, amiről valószínűleg kiderülne, hogy nincs rendben?

Az első szerintem az lenne, hogy a vezetésnek nincs teljes képe arról, milyen AI-eszközöket használnak a munkatársak. Lehet, hogy van egy hivatalosan bevezetett vállalati megoldás, de mellette többen saját, ingyenes fiókkal használnak különböző chatbotokat vagy böngészőbővítményeket. Ezt nevezzük shadow AI-nak, és a tapasztalatom szerint szinte minden szervezetben jelen van.

Ehhez kapcsolódik a második probléma: sok cégnél nincs AI-eszközleltár. Ráadásul rengeteg AI-funkció épült be olyan szoftverekbe is, amelyeket a vállalat már évek óta használ. Ezekre sokan nem is gondolnak új AI-eszközként.

A harmadik az adatkezelés: személyes adatok és ügyfélinformációk kerülnek ezekbe az eszközökbe anélkül, hogy bárki megvizsgálta volna a jogalapot, az adatfeldolgozói szerződést vagy azt, hogy a szolgáltató felhasználja-e az adatokat a modell tanítására. Gyakran az sincs tisztázva, hogy ki ellenőrzi az AI által előállított tartalmakat, mielőtt azok az ügyfelekhez kerülnének, vagy valamilyen döntés alapjául szolgálnának.

Mi az, amiről a cégek gyakran azt gondolják, hogy ezzel letudták az AI-jogi megfelelést, pedig valójában nem?

Sokan úgy gondolják, hogy a vállalati AI-előfizetés egyenlő a megfeleléssel. Ez fontos lépés, de önmagában nem elég. A cég továbbra is adatkezelő marad, és az előfizetés nem mentesíti az adatvédelmi, valamint az ügyfelekkel szemben vállalt titoktartási kötelezettségei alól sem.

Hasonló a helyzet a szabályzattal és a képzéssel. Sok helyen elkészül egy belső AI-használati szabályzat, felkerül az intranetre, aztán érdemben senki nem foglalkozik vele többet. A képzés pedig gyakran kimerül egy rövid online kurzusban, amivel a cég kipipáltnak tekinti a feladatot.

A közös probléma az, hogy a cégek egyszeri projektként kezelik a megfelelést, miközben ez egy folyamatos feladat, hiszen az eszközök, a felhasználási módok és a szabályozás is folyamatosan változnak.

Tudsz mondani olyan hétköznapi AI-használatot, ami teljesen ártalmatlannak tűnik, mégis komoly jogi kockázatot rejthet?

Jó példa erre a meetingeket rögzítő és összefoglaló AI-eszköz. Praktikus megoldás, de minden résztvevő hangját és szavait rögzíti, köztük külső partnerekét is, akiket gyakran senki nem tájékoztatott erről. Ráadásul olyan információk is elhangozhatnak, amelyeket a partner nem szeretne egy harmadik fél rendszerében tudni.

Egy másik tipikus helyzet, amikor egy HR-munkatárs több önéletrajzot ad át az AI-nak, hogy állítsa sorrendbe a jelölteket. Ő ezt egyszerű segítségnek tekinti, pedig az előszűrés során már az automatizált döntéshozatal lehetősége is felmerülhet. A munkaerő-felvétel pedig az AI Act szerint is kiemelten érzékeny terület, ahol egyes AI-rendszerek magas kockázatúnak minősülnek.

Egy kolléga bemásol egy ügyféllevelet, egy szerződést vagy egy belső Excel-táblát egy AI-chatbe. Milyen jogi és adatvédelmi kérdéseket kell ilyenkor végiggondolni?

Ezt több szempontból érdemes megvizsgálni. 

Az első az adatvédelem. Tartalmaz-e a dokumentum személyes adatot? Egy ügyféllevél esetében ez szinte biztos, és egy belső táblázatban is gyakran előfordul. Ha igen, meg kell vizsgálni, hogy van-e jogalap az adatok ilyen jellegű felhasználására, és ez összeegyeztethető-e az eredeti adatkezelési céllal. Emellett tisztázni kell, hogy van-e adatfeldolgozói szerződés a szolgáltatóval, hol tárolják az adatokat, és felhasználja-e őket a szolgáltató a modell tanítására.

A második az üzleti titok védelme. Itt van egy kevésbé nyilvánvaló kockázat: az üzleti titok védelméhez a cégnek is észszerű intézkedéseket kell tennie, hogy az információk titokban maradjanak. Ha a munkatársak rendszeresen ellenőrizetlen külső eszközökbe másolnak bizalmas információkat, az később gyengítheti a cég helyzetét egy esetleges jogvitában.

A harmadik a szerződéses kötelezettségek kérdése. Sok ügyfélszerződés tartalmaz titoktartási kikötést, amely tiltja az információk harmadik félnek történő átadását. Az AI-szolgáltató pedig ebben az értelemben harmadik félnek minősül. Ha pedig banktitokról vagy egészségügyi adatokról van szó, további, szigorúbb szabályokat is figyelembe kell venni.

Van olyan hazai eset, ami jól mutatja, milyen következményekkel járhat a szabálytalan AI-használat?

Igen, a Budapest Bank ügye, amelyet szerintem mindenkinek érdemes ismernie. A NAIH 2022-ben 250 millió forintos bírságot szabott ki, mert a bank mesterséges intelligenciával elemezte az ügyfélszolgálati hívásokban az ügyfelek érzelmi állapotát, de ehhez nem rendelkezett megfelelő jogalappal, és az érdekmérlegelése sem volt megalapozott.

Számomra ebből az a fő tanulság, hogy a probléma nem magából a technológiából fakadt, hanem abból, hogy az adatvédelmi szempontokat nem vizsgálták meg a bevezetés előtt.

A munkatárs használja az AI-t, az eszközt egy külső szolgáltató biztosítja, a döntést pedig a cég hozza meg. Ha ebből kár lesz, ki felel érte?

Ezt érdemes a különböző jogviszonyok mentén szétválasztani. A károsult ügyféllel szemben jellemzően a cég felel, hiszen ő a szerződő fél, és ő hozta meg a döntést. Jó példa erre a kanadai Air Canada 2024-es ügye: a légitársaság chatbotja téves tájékoztatást adott egy utasnak, a cég pedig azzal próbált védekezni, hogy a chatbot önállóan működik. A bíróság ezt nem fogadta el, és kimondta, hogy a cég felel a saját felületén közölt információkért.

A második kérdés, hogy a cég érvényesíthet-e igényt a szolgáltatóval szemben. Ez elsősorban a szerződésen múlik, a nagy szolgáltatók általános szerződési feltételei azonban jellemzően jelentősen korlátozzák a saját felelősségüket. Emellett külön kérdés a munkavállaló felelőssége a munkáltatóval szemben.

Az AI Act szempontjából azt is tisztázni kell, hogy milyen kockázati besorolású AI-rendszerről van szó, illetve a cég szolgáltatónak vagy alkalmazónak minősül-e. A cég jellemzően alkalmazóként használja a rendszert, így rá is vonatkoznak bizonyos kötelezettségek. Magas kockázatú rendszereknél például az emberi felügyeletre és a naplózásra is lehetnek előírások.

Adatvédelmi szempontból a cég továbbra is adatkezelő marad. Neki kell gondoskodnia a megfelelő jogalapról, tájékoztatnia az érintetteket, szükség esetén adatvédelmi hatásvizsgálatot végeznie, és megfelelő garanciákat nyújtó szolgáltatót választania. Emellett a cégnél marad az AI által előállított tartalmak ellenőrzése, a szerződéses titoktartási kötelezettségek betartása és például a fogyasztóvédelmi szabályoknak való megfelelés is. Ezeket a kötelezettségeket nem lehet egyszerűen a szolgáltatóra hárítani.

Mennyit változtat a helyzeten, ha a cég nem ingyenes AI-chatet használ, hanem vállalati előfizetést, API-t vagy EU-s hostingot?

Érdemben változtat, de nem oldja meg az összes kérdést. 

A vállalati konstrukcióknál jellemzően van adatfeldolgozói szerződés, a szolgáltató vállalja, hogy nem használja a bevitt adatokat a modell tanítására, szabályozott az adatmegőrzés időtartama, és a cég maga kezelheti a hozzáféréseket. API-használatnál gyakran az is beállítható, hogy a szolgáltató egyáltalán ne őrizze meg az adatokat. Az EU-s hosting pedig egyszerűsíti az adattovábbítással kapcsolatos helyzetet, bár amerikai anyavállalat esetén maradhatnak tisztázandó kérdések.

Ami nem változik: a cég továbbra is adatkezelő. Szükség van jogalapra, be kell tartani a célhoz kötöttség elvét, az ügyfelekkel szembeni titoktartási kötelezettségek is fennmaradnak, és az AI hibás kimeneteiért is a cég felel. A vállalati előfizetést tehát szükséges, de nem elégséges feltételnek tartom. 

Az AI Act AI-jártasságra vonatkozó előírásai is változtak. Mit jelent ez a cégeknek? Elég lehet, ha mindenki elvégez egy általános AI-képzést?

A Digital Omnibusról van szó, amely július 27-én lépett hatályba. Fontos hangsúlyozni, hogy a kötelezettség nem szűnt meg. A korábbi szöveg szerint a cégeknek biztosítaniuk kellett a megfelelő szintű AI-jártasságot, a módosított szöveg szerint pedig olyan intézkedéseket kell tenniük, amelyek támogatják annak fejlődését. A rendelet kifejezetten rögzíti, hogy egyetlen munkatárs esetében sem kell konkrét szintet garantálni. Jogászként úgy fogalmaznék, hogy eredménykötelemből, gondossági, „best-effort” kötelem lett.

A gyakorlatban ez azt jelenti, hogy a cégnek igazolnia kell, hogy átgondolt, a saját működéséhez igazított lépéseket tett. Ezért nem gondolom, hogy egy mindenkinek szóló általános képzés elegendő. Egy ügyfélszolgálati munkatársnak más ismeretekre van szüksége, mint egy HR-esnek, aki AI-alapú szűrőeszközt használ, vagy egy fejlesztőnek.

Mi egy rövid, minden munkatársnak szóló alapképzést szoktunk javasolni, amely lefedi az AI működésének alapjait, a korlátait és azt, milyen adatokat nem szabad megosztani. Erre épülhetnek a munkakörökhöz és a ténylegesen használt eszközökhöz igazított modulok. Mindezt pedig dokumentálni kell, mert egy hatósági ellenőrzés során a cégnek kell bizonyítania, hogy eleget tett a kötelezettségének.

Tegyük fel, hogy letöltök egy AI-szabályzat-sablont, átírom benne a cégnevet, és feltöltöm az intranetre. Mit oldottam meg vele, és mi kell még ahhoz, hogy a szabályzat valóban működjön?

Annyit mindenképpen, hogy van egy dokumentum, amely jelzi, hogy a cég foglalkozik a témával, és alapvető iránymutatást adhat annak, aki elolvassa. A letöltött sablon készítője azonban nem ismeri a cég által ténylegesen használt eszközöket, a kezelt adatok körét, az ügyfelekkel szembeni szerződéses kötelezettségeket és a szervezeti felelősségi rendet. Nincs mögötte kijelölt felelős, képzés vagy ellenőrzési mechanizmus, és a munkatársak jelentős része valószínűleg nem is olvassa el.

Egy működő szabályzatban először is rögzíteni kell, mely AI-eszközök használhatók, és hogyan lehet újakat bevezetni. Egyértelműen meg kell határozni azt is, milyen típusú információkat, adatokat szabad betáplálni az egyes AI-eszközökbe.

Fontos az emberi ellenőrzés követelménye is, különösen az ügyfelekhez kerülő vagy döntéseket megalapozó anyagoknál. Szabályozni kell, mikor szükséges jelezni az AI használatát, ki miért felel, és mi a teendő, ha valaki véletlenül érzékeny adatot oszt meg. Emellett a képzési kötelezettséget és a szabályzat rendszeres felülvizsgálatát is rögzíteni kell.

Hosszan lehetne még sorolni, de fontos, hogy a jogszabályi előírásokon túl minden cégnél egyedileg kell meghatározni, minek kell szerepelnie a szabályzatban. Ennek van egy kevésbé nyilvánvaló kockázata is. Egy hatósági vizsgálat során egy olyan szabályzat, amelyet a cég a gyakorlatban nem alkalmaz, akár a cég hátrányára is értékelhető, hiszen azt mutatja, hogy tisztában volt az elvárásokkal, mégsem tett meg érdemi lépéseket.

Kié legyen az AI-megfelelés egy cégen belül? A jogi, az IT-, a HR-, a compliance- vagy az üzleti területé? Hogyan érdemes megosztani közöttük a feladatokat és a felelősséget?

Szerintem egyik terület sem tudja egyedül kezelni. Szükség van egy egyértelmű koordinátorra, ami egy középvállalatnál jellemzően a compliance vagy a jogi terület, esetleg egy erre kijelölt munkatárs. 

A jogi terület értelmezi a szabályozást és kezeli a szerződéseket. Az IT felméri a technikai és biztonsági kockázatokat, és felel a hozzáférésekért, az adatvédelmi tisztviselő a GDPR-megfelelésért, a HR pedig a képzésekért és a munkajogi kérdésekért. Az üzleti területet sem lehet kihagyni, mert ők ismerik a tényleges felhasználási eseteket, és ők felelnek az eszközök mindennapi használatáért.

A gyakorlatban szerintem jól működhet egy kisebb, több területet összefogó munkacsoport, amely egy felelősségi mátrixban rögzíti, ki dönt, ki hajtja végre a feladatokat, és kit kell bevonni. Az AI Act egyébként nem írja elő külön AI-felelős pozíció létrehozását, így a cég maga alakíthatja ki a számára megfelelő struktúrát.

Van olyan AI-jogi kérdés, amit egy jogász nem tud megválaszolni a technológiai szakemberek nélkül? És fordítva: miben van szüksége a technológiai csapatnak jogi segítségre?

Több ilyen kérdés is van. Az egyik az adatvédelemhez kapcsolódik: ha valaki kéri a személyes adatai törlését, tudni kell, hol találhatók meg ezek az adatok. A bevitt szövegekben, a naplófájlokban vagy esetleg magában a modellben? És ha az utóbbiban is, onnan egyáltalán törölhetők-e?

A másik a belső dokumentumokra épülő AI-rendszerek jogosultságkezelése. Ha egy cég a saját dokumentumtárát kapcsolja egy chatbothoz, kulcskérdés, hogy egy munkatárs a chaten keresztül hozzáférhet-e olyan információhoz, amelyet egyébként nem láthatna. Erre csak a rendszer technikai felépítésének ismeretében lehet választ adni.

A harmadik az AI-rendszerekhez kapcsolódó felelősségek és kötelezettségek meghatározása. Ehhez először a technológiai csapattal közösen tisztázni kell, hogy egy adott szoftver AI-rendszernek számít-e az AI Act szerint, vagy csak hagyományos, szabályalapú automatizálásról van szó. Ettől is függ, milyen kötelezettségek vonatkoznak rá, és ezt a működésének ismerete nélkül nem lehet eldönteni.

A másik oldalon pedig elsősorban a jogalap és a célhoz kötöttség kérdésében van szükség jogi segítségre. Technikailag szinte bármilyen adat felhasználható bármilyen célra, jogilag azonban ez korántsem igaz, és ezt a különbséget a technológiai csapat nem mindig érzékeli.

A kockázati besorolásnál is szükség van jogi szakértelemre. Például annak eldöntéséhez, hogy egy toborzási vagy hitelbírálati megoldás magas kockázatúnak minősül-e, és ebből milyen kötelezettségek fakadnak. Ugyanígy ide tartoznak a szolgáltatói szerződések, a felelősség megosztása, valamint a szerzői jogi kérdések, mind a felhasznált adatok, mind az AI által létrehozott tartalmak esetében. Azt is tisztázni kell, hogy mikor és miről kell tájékoztatni az érintetteket.

Szerintem akkor lehet a legjobb eredményt elérni, ha a jogi és a technológiai terület már a tervezés során együtt dolgozik, és nem utólag próbálják egymással jóváhagyatni a kész megoldást.

Ha egy cégnek még nincs AI-szabályzata, nincs kijelölt felelőse és nincs átgondolt képzési terve sem, mivel érdemes kezdenie?

Elsőként mindenképpen az AI-rendszerek feltérképezését javasolnám: milyen AI-eszközöket használ a cég, és milyen célra? Amíg ezt nem tudjuk, nem lehet érdemben felmérni a kockázatokat. Ezzel párhuzamosan ki kell jelölni egy vagy több felelőst, aki koordinálja a folyamatot.

A részletes szabályzat és a szerepkörökhöz igazított képzések csak ezután következnének. A lényeg az, hogy egy gyors, kockázatalapú indulás többet ér, mint hónapokig várni egy minden részletre kiterjedő megoldásra, miközben a kockázatok már most is jelen vannak.