A mesterséges intelligencia egyre szélesebb körű alkalmazása nemcsak technológiai, hanem jogi szempontból is új kérdéseket vet fel. Az Európai Unió válasza erre a fejlődésre a mesterséges intelligencia szabályozására vonatkozó 2024/1689 EU rendelet (a továbbiakban: AI-rendelet) elfogadása volt, amely egységes keretet kíván adni az AI-rendszerek fejlesztésére és használatára. Az alábbiakban a szabályozás alapvető elemeit, valamint azokat a gyakorlatokat mutatjuk be, amelyeket az AI-rendelet kifejezetten tilt.

A legtöbb ember valószínűleg már találkozott valamilyen mesterséges intelligencia-rendszerrel, amelynek használata világszerte egyre nagyobb népszerűségnek örvend. Az egyéni felhasználás mellett számos társaság alkalmazza ezeket a mesterséges intelligencia-rendszereket különféle célokra, vagy tervezi bevezetésüket. A technológia gyors ütemű fejlődése és az AI-rendszerek növekvő jelentősége egyértelművé teszi, hogy szükség van az alkalmazásuk szabályozására ezen rendszerek etikus, biztonságos és átlátható módon való működése érdekében.

Az AI-rendeletet 2024. június 13. napján fogadta el az Európai Parlament, amelynek célja, hogy az Európai Unió területén egységes jogi keretet állapítson meg a mesterséges intelligencia-rendszerekre vonatkozóan.

Az AI-rendelet személyi hatálya

Az AI-rendelet hatálya kiterjed valamennyi olyan személyre vagy szervezetre, aki vagy amely AI-rendszert az Európai Unió területén fejleszt, üzembe helyez, forgalomba hoz vagy ilyen AI-rendszert alkalmaz, használ. Ide tartoznak azon személyek, szervezetek is, akiknek letelepedési vagy tartózkodási helye az Európai Unió területén kívül van, azonban az AI-rendszer által előállított eredmény használatára az Európai Unió területén kerül sor. Erre tekintettel bárki, aki a mesterséges intelligencia-rendszerhez kapcsolódó szakmai tevékenységet végez, annak az AI-rendelet szabályainak megfelelően kell eljárnia.

Hatálybalépés

Az AI-rendelet egyes rendelkezései több szakaszban lépnek hatályba, így az érintett személyeknek és szervezeteknek több lépésben kell eljutniuk az AI-rendeletnek való teljes megfelelésig. Az úgynevezett AI-tudatosság biztosítására, valamint a tiltott AI-gyakorlatokra vonatkozó rendelkezések már 2025. február 2. napjától alkalmazandók és hatályban vannak, ezért ezen rendelkezéseknek való megfelelést már biztosítani kell. Amennyiben egy társaság még eziránt nem tett lépéseket, úgy javasolt azokat haladéktalanul megtenni.

A már hatályba lépett rendelkezéseknek való megfelelés ellenőrzése mellett közel van 2026. augusztus 2. napja, amely az AI-rendelet általános hatálybalépésének időpontja, ezért további compliance lépésekre is fel kell készülniük az érintett személyeknek és társaságoknak.

Kapcsolódó jogterületek jelentősége

Az AI-rendeletnek való megfelelés mellett az érintett személyeknek és társaságoknak számos további jogszabálynak is meg kell felelniük, további szempontokra is tekintettel kell lenniük a mesterséges intelligencia-rendszerek fejlesztése, üzembe helyezése, forgalomba hozatala, alkalmazása és használata során. Ilyenek például a

• szellemi tulajdonjoggal,
• munkajoggal,
• személyes adatok védelmével,
• a fogyasztókkal szembeni tisztességtelen kereskedelmi gyakorlatok tilalmával,
• az üzletfelek megtévesztésének tilalmával vagy a versenyjogi szabályok betartásával kapcsolatos előírások.

Az AI-rendeletre való felkészülés, valamint az egyéb kapcsolódó területekhez tartozó compliance lépések különösen fontosak, hiszen a társaságok az AI-rendeletnek való meg nem felelés esetén jelentős szankciókkal, akár az éves globális árbevételük 7%-ának megfelelő bírsággal is szembenézhetnek, továbbá egy szabálytalanul működtetett mesterséges intelligencia-rendszer vagy az általa okozott bármely incidens reputációs kockázatot is jelenthet.

Tiltott AI-gyakorlatok

Ahogy arra fentebb utaltunk, a tiltott AI-gyakorlatokra vonatkozó rendelkezések már alkalmazandók, ezért valamennyi mesterséges intelligencia-rendszert alkalmazó vagy fejlesztő társaságnak és személynek felül kell vizsgálnia az általa használt vagy fejlesztett AI-rendszereket abból a szempontból, hogy azok nem ütköznek-e az AI-rendelet valamely tiltott AI-gyakorlatába. Amennyiben megállapításra kerül, hogy az adott AI-rendszer a tiltott AI-gyakorlatok bármelyikét megvalósítja, úgy ezen AI-rendszerek működését haladéktalanul meg kell szüntetni.

A tiltott AI-gyakorlatok vonatkozásában fontos rögzíteni, hogy a rendelet a tiltott AI-gyakorlat fejlesztését, forgalomba hozatalát, üzembe helyezését és használatát egyaránt tiltja.. Ez alól kivételt képeznek a valós idejű, távoli biometrikus azonosításra használt AI-rendszerek, amelyek esetében kizárólag a használat tiltott.

Továbbá fontos tisztázni, hogy nemcsak az minősül tiltott AI-gyakorlatnak, amelyet kifejezetten az AI-rendeletben meghatározott tiltott célra fejlesztettek vagy használnak, hanem az is, ha a rendszer jogszerű céllal kerül kifejlesztésre vagy használatra, ugyanakkor működése során mégis képes tiltott AI-gyakorlat megvalósítására.

Az alábbiakban az AI-rendelet által tiltott AI-gyakorlatokat mutatjuk be, az Európai Unió által kiadott iránymutatások figyelembevételével.

Manipulatív vagy megtévesztő technikákat alkalmazó rendszerek

A tilalom hatálya alá esnek egyrészt azon rendszerek, amelyek olyan szubliminális, azaz tudat alatti elemeket, ingereket (hang, kép, videó) használnak (például felvillanó ablakok vagy feliratok), amelyeket az emberek nem képesek tudatosan észlelni, azonban jelentősen befolyásolják, gyengítik az egyén megalapozott döntéshozatalra való képességét, anélkül, hogy az érintett személy ennek tudatában lenne.

Az egyéneket tudat alatt befolyásoló rendszereken túl, tiltottnak minősülnek a manipulatív, megtévesztő technikákat alkalmazó rendszerek is, amelyek olyan céllal vagy hatással működnek, hogy az egyének magatartását érdemben torzítják. A torzításnak oly mértékűnek kell lennie, hogy az észrevehetően rontsa az érintettek képességét az informált, megalapozott döntéshozatalra, és ezáltal olyan döntéshez vezessen, amit az adott személy vagy csoport egyébként nem hozott volna meg.

A tilalmazott gyakorlat megvalósulásának további feltétele, hogy a tiltott AI-gyakorlat az adott személynek vagy személyek egy meghatározott csoportjának jelentős kárt okozzon, vagy ilyen kár bekövetkezése ésszerű valószínűséggel várható legyen.
A megalapozott döntéshozatali képesség gyengítését elősegítheti a virtuális valóság, mivel az nagyobb fokú ellenőrzést tesz lehetővé afelett, hogy milyen ingerek kerüljenek megjelenítésre. Ilyen technikáról beszélhetünk például, amikor online felületeken korlátozott ideig elérhető ajánlatokra felugró ablakokkal vagy figyelemfelkeltő üzenetekkel hívják fel a figyelmet, amelyek sürgetik és nyomás alá helyezik a vásárlót, hogy mielőbb hozzon döntést a vásárlásról, különben lemarad a kedvező feltételekről.

Sebezhetőséget kihasználó AI-rendszerek

Ezen kategóriába olyan technikák tartoznak, amelyek az adott személy vagy személyek egy meghatározott csoportjának életkorát, fogyatékosságát, szociális vagy pénzügyi helyzetét, ezen helyzetéből adódó sebezhetőségét kihasználva ezen személyek magatartását torzítják. A rendelkezés célja, hogy sebezhető csoportokat megvédje a diszkriminációtól, manipulatív technikáktól.

Ilyen technikába ütköző rendszer lehet, ha például a teljesítmény értékelésére vagy a munkavállalók toborzására, az önéletrajzok válogatására mesterséges intelligenciát alkalmaz az érintett társaság, azonban az AI-rendszer nem objektív szempontok szerint értékeli a munkavállalókat vagy válogatja az önéletrajzokat, hanem döntését az álláspályázó fenti valamely tulajdonságára, sebezhetőségére is alapítja, és ezáltal a döntés diszkriminálja például az időseket, a nőket, vagy a szegénységben élőket. Ilyen lehet továbbá, ha az adott rendszer például a modern technológiát átfogóan nem ismerő időseket káros befektetésre sarkallja.

Társadalmi osztályozásra használt rendszerek

Ez esetben olyan rendszerekről beszélhetünk, amelyek egyének különböző körülmények között tanúsított magatartásához, illetve ismert, kikövetkeztetett személyes tulajdonságához vagy személyiségjegyeihez társított adatok alapján értékelik, vagy osztályozzák az egyéneket bizonyos időszakokon keresztül, és ezen értékeléseket olyan kontextusban használják fel, amely túlmutat azon, amelyben eredetileg gyűjtötték őket.

Ebben az esetben a mesterséges intelligencia-rendszer célja, illetve alkalmazásának módja olyan értékelési vagy osztályozási folyamatot valósít meg, amely során természetes személyek vagy személycsoportok egy meghatározott időszakon keresztül kerülnek értékelésre, különösen társadalmi viselkedésük, valamint ismert, feltételezett vagy levezetett személyiségük, illetve személyiségjegyeik alapján.

A fentiek más szóval azt jelentik, hogy egyének magatartásából vagy személyiségéből olyan következtetéseket vonnak le, amelyek nincsenek összefüggésben az osztályozott személyiségjeggyel vagy magatartással, azaz például vallási csoporthoz tartozásból vagy politikai nézetből kiindulva egyéb következtetéseket vonnak le a hitelminősítésre vagy a foglalkoztatásra vonatkozóan, amelyek hátrányos vagy kedvezőtlen bánásmódhoz vezethetnek, sérthetik a méltósághoz való jogot és a megkülönböztetés tilalmát.

Bűncselekmények valószínűségének értékelésére szánt rendszerek

Az AI-rendelet tiltja olyan AI-rendszerek alkalmazását, amelyek az adott egyénről alkotott profil, tulajdonságok, személyiségjegyek (például állampolgárság, gépjármű típusa, adósság mértéke) alapján, ezek értékelésével bűnelkövetésre általában vagy bizonyos bűncselekmények elkövetésére vonatkozó valószínűséget meghatározza, felméri vagy megjósolja.

A tilalom nem vonatkozik olyan AI-rendszerekre, amelyek nem egyének profiljának, személyiségjegyeinek, tulajdonságainak értékelésén alapulnak, hanem ettől eltérő szempontok alapján végeznek kockázatelemzést, például a vállalkozások általi pénzügyi csalás kockázatának gyanús tranzakciók alapján, és nem azzal a céllal történik az értékelés, hogy megjósolja, elkövet-e valaki egy konkrét bűncselekményt.

Bizonyos arcfelismerő adatbázisok létrehozása

Ezen tilalom olyan arcfelismerő adatbázis létrehozását vagy bővítését tiltja, amelyet az úgynevezett „web scraping” útján az internetről vagy zártláncú kamerarendszer felvételeiből hoznak létre. A „web scraping” általában automatizált szoftver használatát jelenti, amely konkrét cél nélkül az internetről információk gyűjtésére, onnan információk kinyerésére, másolására szolgál azok későbbi felhasználása céljából. Ilyen lehet például, ha egy szoftver automatikusan, konkrét cél nélkül begyűjt képeket közösségi médiáról (pl. Facebook, Twitter), arcfelismerés céljából, és ezekből adatbázist épít.

Általánosságban arcfelismerő adatbázis létrehozása nem tiltott az AI-rendelet alapján, annak a fentiekben meghatározott módon és célból történő létrehozását említi tiltott gyakorlatként az AI-rendelet.

Érzelemfelismerő rendszerek használata munkahelyen vagy oktatásban

Ilyen rendszer célja, hogy személyek biometrikus adata alapján, így mimikájából, arckifejezéséből, reakcióiból, gesztusaiból, mozdulataiból, vagy akár hangjából az adott egyén érzelmeire, hangulatára, szándékaira vonatkozó következtetéseket vonjon le vagy azokat azonosítsa.

Biometrikus adatnak egy természetes személy testi, fiziológiai vagy viselkedési jellemzőire vonatkozó minden olyan, sajátos technikai eljárásokkal nyert személyes adat minősül, amely lehetővé teszi vagy megerősíti a természetes személy egyedi azonosítását, ilyen például az arckép, ujjlenyomat.

Az AI-rendelet nem általános tilalmat fogalmaz meg az ilyen rendszerek vonatkozásában, hanem kifejezetten a munkahelyeken vagy oktatási intézményekben való használatot tiltja. Érzelemfelismerő rendszer például, ha egy rendszer egy munkavállaló hangjából, arckifejezéséből szomorúságot vagy dühöt következtet, vagy egy állásinterjú során az álláspályázó érzelmeit elemzi.

Nem tartozik a tilalom hatálya alá a fizikai állapotot, így például fáradtságot észlelő rendszer, amelyet pilóták esetében alkalmazhatnak balesetek elkerülése érdekében.

Személyek biometrikus kategorizálására használt rendszerek

A tiltott AI-gyakorlatokat felsoroló AI-rendelet ezen pontja azon rendszerek létrehozását tiltja, amelyek egyéneket biometrikus adataik alapján kategorizálják annak érdekében, hogy következtetéseket vonjanak le az egyén faji hovatartozására, politikai véleményére, vallási vagy világnézeti meggyőződésére, szexuális életére vagy irányultságára vonatkozóan. Ilyen rendszer lehet például, amely arc- vagy tetoválás alapján vallási hovatartozást próbál meghatározni, vagy amely eltérő hirdetéseket jelenít meg nem vagy bőrszín alapján.

Ez a tilalom nem terjed ki az uniós vagy nemzeti joggal összhangban beszerzett biometrikus adatkészletek, biometrikus adatok jogszerű szűrésére vagy kategorizálására, például képek hajszín vagy szemszín szerinti válogatására, ami felhasználható például a bűnüldözés területén.

Valós idejű, távoli biometrikus azonosításra használt AI-rendszerek nyilvános helyeken bűnüldözési célból

A távoli biometrikus azonosító rendszerek lényege, hogy az egyént annak aktív közreműködése nélkül, távolról biometrikus adatainak valamely adatbázis adataival összevetve azonosítja. A valós idejűség azt jelenti, hogy a biometrikus adatok összehasonlítása, azonosítása a biometrikus adatok rögzítésével egyidejűleg vagy kisebb, nem jelenős késleltetéssel történik meg.

Az AI-rendelet ezen része a biometrikus azonosításra használt valós idejű AI-rendszert tiltja abban az esetben, ha azt bűnüldözési célból használják nyilvánosság számára hozzáférhető helyen, és diszkriminatív hatásokat, torzított eredményt hoz létre.

Az AI-rendelet több olyan kivételt határoz meg, mint például eltűnt személyek, emberrablás, emberkereskedelem vagy szexuális kizsákmányolás áldozatainak célzott felkutatása, amely cél érdekében valós idejű, biometrikus azonosításra használt AI-rendszerek használata megengedett.

Összegzés és megfelelési szempontok

Összességében elmondható, hogy érdemes valamennyi feltételt részletesen értékelni, mérlegelni, az adott rendszer sajátosságait, műszaki jellemzőit, a rendszer létrehozásának célját, annak hatását megvizsgálni annak érdekében, hogy olyan rendszer ne kerüljön kifejlesztésre, forgalomba hozatalra vagy használatba, amely tiltott AI-gyakorlatokat használ.

Annak érdekében, hogy az érintett társaság biztosítsa az AI-rendeletnek való megfelelést, érdemes már az AI-rendszer használata vagy – amennyiben az AI-rendszer specifikusan egy adott társaság igényeinek megfelelően kerül kifejlesztésre – már a fejlesztési folyamat elején bevonni jogi és információbiztonsági szakembereket, hogy a kezdeti fázistól kezdve biztosítva legyen az AI-rendeletnek való megfelelés, ezzel időt, energiát és anyagi ráfordítást kímélve.

A tiltott AI-gyakorlatokra vonatkozó rendelkezések be nem tartása esetén komoly szankciókra számíthatnak az érintettek, a kiszabható bírság maximális mértéke 35.000.000 Euró (nagyjából 14 milliárd forint) vagy az érintett szervezet teljes globális előző évi árbevétele 7%-ának megfelelő mértékű bírsággal sújtható. Ezen túl az érintett személyek, szervezetek más jogszabályok, például az általános adatvédelmi rendelet (2016/679 EU rendelet, a továbbiakban: GDPR) vagy a Munka Törvénykönyvének be nem tartása miatt további jogkövetkezményekkel, bírságokkal nézhetnek szembe.

A cikk szerzője dr. Putnoki Poppea, a CLM Bitai & Partners Ügyvédi Iroda együttműködő ügyvédje.