Kockázatok és lehetőségek
a mesterséges intelligencia
jogi szabályozásában

Szerkesztette: Mezei Kitti

Wolters Kluwer Hungary • Budapest, 2025

Kiadja a

Wolters Kluwer Hungary Kft.

Budapest, 2025

1117 Budapest, Budafoki út 187–189.

Telefon: +36 (1) 464-5656

E-mail: info-hu@wolterskluwer.com

wolterskluwer.com/hu-hu

Felelős vezető: Kézdi Katalin, a Wolters Kluwer Hungary Kft. ügyvezetője

Kiadásért felelős: Kézdi Katalin

A kiadványok szerkesztéséért felelős: dr. Váci Tímea, dr. Krizsán Brigitta

Felelős szerkesztő: dr. Antal Ildikó

Műszaki szerkesztés: Wolters Kluwer Hungary Kft.

Grafikai tervezés: Wolters Kluwer Hungary Kft.

ISBN 978-963-594-425-5

Termékkód: NEB1080

Kiadványaink megvásárolhatóak a shop.wolterskluwer.hu webáruházban.

Minden jog fenntartva, beleértve a sokszorosítás és a mű bővített, illetve rövidített változatának kiadási jogát is.

A Kiadó írásbeli hozzájárulása nélkül sem a teljes mű, sem annak bármely része semmiféle formában (fotokópia, mikrofilm vagy más hordozó) nem sok sokszorosítható.

Szerzők:

Ambrus István: Az AI Act – büntetőjogászi szemmel

Chronowski Nóra – Kálmán Kinga – Szentgáli-Tóth Boldizsár: Gépi tanulás az igazságszolgáltatásban: az alkalmazás két konkrét modellje Észtország és Malajzia példáján

Eszteri Dániel: Az automatizált döntéshozatal és profilalkotás (nem csak) adatvédelmi kockázatai

Friedery Réka: Arcfelismerő rendszerek, uniós keretek

Grad-Gyenge Anikó: Néhány gondolat a mesterséges intelligencia által termelt művek szerzői jogi védelméről – különös tekintettel az AI Act-re

Héder Mihály: Bevezetés a mesterséges intelligencia etikájába

Hoffman István: Közigazgatás és a mesterséges intelligencia – a közigazgatási jogi szabályozás tükrében

Kecskés Gábor: Mesterséges intelligencia és a globális fenntarthatósági célok jogi aspektusú vizsgálata

Mezei Kitti – Träger Anikó: Mesterséges intelligencia és emberi jogok, különös tekintettel az algoritmusok alkalmazása és a diszkrimináció kapcsolatára

Mezei Kitti: Az AI Act compliance kihívásai

Papp Mónika – Firniksz Judit: Adatok, algoritmusok, verseny: a B2B adatáramlás kérdései a digitális gazdaságban

Schubauer Petra: A mesterséges intelligencia polgári jogi felelőssége, különös tekintettel az új uniós irányelv-javaslatra

Varju Márton: A mesterséges intelligencia szabályozása az Európai Unióban: szakpolitika, szabályozási stratégia és jog

Zorkóczy Miklós: A mesterséges intelligencia egészségügyi jogi, etikai vonatkozásai

Szerkesztette:

Mezei Kitti

Lektorálta:

Polyák Gábor

Kézirat lezárva: 2024. szeptember 1.

A kutatás a Mesterséges Intelligencia Nemzeti Laboratórium, a 138965. sz. „Kockázatok és lehetőségek a mesterséges intelligencia jogi szabályozásában és gyakorlati alkalmazásában” NKFIH pályázat, az Európai Unió RFF2.3.1-21-2022-00004 projektje, valamint az Innovációs és Technológiai Minisztérium támogatásával valósult meg.

A szöveg gondozásáért köszönetet mondunk Fedinec Csillának.

© Ambrus István, Chronowski Nóra, Eszteri Dániel, Firniksz Judit, Friedery Réka, Grad-Gyenge Anikó, Héder Mihály, Hoffman István, Kálmán Kinga, Kecskés Gábor, Mezei Kitti, Papp Mónika, Schubauer Petra, Szentgáli-Tóth Boldizsár, Träger Anikó, Varju Márton, Zorkóczy Miklós Budapest, 2025

© Wolters Kluwer Hungary Kft., Budapest, 2025

Rövidítések jegyzéke

(EU) 2016/943 irányelv

a nem nyilvános know-how és üzleti információk (üzleti titkok) jogosulatlan megszerzésével, hasznosításával és felfedésével szembeni védelemről szóló 2016. június 8-i (EU) 2016/943 európai parlamenti és tanácsi irányelv

2000/43/EK irányelv

a Tanács 2000/43/EK irányelvét a személyek közötti, faji- vagy etnikai származásra való tekintet nélküli egyenlő bánásmód elvének alkalmazásáról

2000/78/EK irányelv

a Tanács 2000/78/EK irányelvét a foglalkoztatás és a munkavégzés során alkalmazott egyenlő bánásmód általános kereteinek létrehozásáról

2004/113/EK irányelv

a Tanács 2004/113/EK irányelvére a nők és férfiak közötti egyenlő bánásmód elvének az árukhoz és szolgáltatásokhoz való hozzáférés, valamint azok értékesítése, illetve nyújtása tekintetében történő végrehajtásáról

85/374/EGK irányelv

a hibás termékekért való felelősségre vonatkozó tagállami törvényi, rendeleti és közigazgatási rendelkezések közelítéséről szóló 85/374/EGK tanácsi irányelv

ABC

automatizált határellenőrzés

adatrendelet, Data Act

a méltányos adathozzáférésre és -felhasználásra vonatkozó harmonizált szabályokról, valamint az (EU) 2017/2394 rendelet és az (EU) 2020/1828 irányelv módosításáról szóló (EU) 2023/2854 európai parlamenti és tanácsi rendelet

AI Act

EU a mesterséges intelligenciáról szóló jogszabály, az (EU) 2024/1689 európai parlamenti és tanácsi rendelet

Ákr.

az általános közigazgatási rendtartásról szóló 2016. évi CL. törvény

Alapjogi Charta

Alapjogi Charta

Alaptörvény

Magyarország Alaptörvénye

BMS

közös biometrikus megfeleltetési szolgáltatás, shared BMS

Btk.

a Büntető Törvénykönyvről szóló 2012. évi C. törvény

CIR

közös személyazonossági adattár

DMA

az Európai Parlament és a Tanács 2022. szeptember 14-i (EU) 2022/1925 rendelete a digitális ágazat vonatkozásában a versengő és tisztességes piacokról, valamint az (EU) 2019/1937 és az (EU) 2020/1828 irányelv módosításáról (digitális piacokról szóló jogszabály)

Ebktv.

az egyenlő bánásmódról és az esélyegyenlőség előmozdításáról szóló 2003. évi CXXV. törvény

ECRIS–TCN

Európai Bűnügyi Nyilvántartási Információs Rendszer

EES

Európai Határregisztrációs Rendszer

EESZT

Elektronikus Egészségügyi Szolgáltató Tér

EJEB

Emberi Jogok Európai Bírósága

ENSZ

Egyesült Nemzetek Szervezete

ESP

európai keresőportál

ETIAS

Európai Utasinformációs és Engedélyezési Rendszer

EU

Európai Unió

EUB

Európai Unió Bírósága

eu-LISA

nagy méretű IT-rendszereinek üzemeltetési igazgatását végző EU-s ügynökséget, az eu-LISA

EUMSZ

Az Európai Unió Működéséről szóló szerződés

Eurodac

Európai Ujjnyomat-Azonosító Rendszer

Eütv.

az egészségügyről szóló 1997. évi CLIV. törvény

GDPR

a természetes személyeknek a személyes adatok kezelése tekintetében történő védelméről és az ilyen adatok szabad áramlásáról szóló (EU) 2016/679 európai parlamenti és tanácsi rendelet

iBorderCtrl

Intelligens Hordozható Ellenőrző Rendszer, az iBorderCtrl (Intelligent Portable Control System

IKT

infokommunikációs technológiák

Info tv.

Az információs önrendelkezési jogról és az információszabadságról szóló 2011. évi CXII. törvény

Irányelv-javaslat

a szerződésen kívüli polgári jogi felelősségre vonatkozó szabályoknak a mesterséges intelligenciához való hozzáigazításáról szóló 2022-es Irányelv-javaslat [COM(2022) 496 final

KAÜ

Központi Azonosítási Ügynök

Keretegyezmény

Az Európa Tanács mint nemzetközi szervezet a mesterséges intelligenciáról, az emberi jogokról, a demokráciáról és a jogállamiságról szóló keretegyezménye (Convention on AI, Human Rights, Democracy and the Rule of Law)

kkv

kis- és középvállalkozás

LED

az Európai Parlament és a Tanács (EU) 2016/680 bűnüldözési irányelve a személyes adatoknak az illetékes hatóságok által a bűncselekmények megelőzése, nyomozása, felderítése, a vádeljárás lefolytatása vagy büntetőjogi szankciók végrehajtása céljából végzett kezelése tekintetében a természetes személyek védelméről és az ilyen adatok szabad áramlásáról

MI

mesterséges intelligencia

MDR

az egészségügyben használt szoftver orvostechnikai eszköz az Európai Parlament és a Tanács (EU) 2017/745 rendelete az orvostechnikai eszközökről

MID

személyazonosság-érzékelő

NAV

Nemzeti Adó- és Vámhivatal

Ptk.

a Polgári Törvénykönyvről szóló 2013. évi V. törvény

SaaS,
vagy pongyolábban:
a „felhő”

Szoftver-mint-Szolgáltatás

SIS

Schengeni Információs Rendszer

Szjt.

a szerzői jogról szóló 1999. évi LXXVI. törvény

UNEP

United Nations Environment Programme

VIS

Vízuminformációs Rendszer

Előszó

A szakkönyv célja, hogy interdiszciplináris megközelítésben átfogó képet nyújtson a mesterséges intelligencia (MI) gyors ütemű fejlődésével és egyre szélesebb körű alkalmazásával összefüggésben felmerülő kihívásokról, kockázatokról, valamint az ezekre választ adó jogi szabályozási megoldásokról. Az MI mára a mindennapi életünk szerves részévé vált, és számos területen – az egészségügytől az igazságszolgáltatáson át egészen a közigazgatásig – alapvető változásokat hozott. A technológia nemcsak felgyorsítja és megkönnyíti az emberi tevékenységeket, hanem új etikai, társadalmi és jogi kérdéseket is felvet, amelyekre alapos és átgondolt válaszokat kell adni. A kötet szerzői e kihívások elemzésére vállalkoznak, miközben különös figyelmet fordítanak az etikai dilemmákra, a szabályozási stratégiákra és az MI-alkalmazás felelősségi kérdéseire.

A kötet első fejezete az etikai alapok megteremtésére fókuszál. Héder Mihály az MI használatával kapcsolatos morális kérdéseket vizsgálja, bemutatva a technológia által generált dilemmákat és az emberi értékrenddel való összeegyeztetésük lehetséges módjait. Az MI alkalmazása ugyanis olyan etikai kihívásokat vet fel, mint az emberi autonómia védelme, a döntéshozatal átláthatósága, valamint a társadalmi egyenlőtlenségek minimalizálása.

A következő fejezetek a jogi szabályozási kérdéseket tárgyalják. Varju Márton részletesen elemzi az Európai Unió szabályozási stratégiáit. Mezei Kitti az AI Act compliance kihívásait tárgyalja. Träger Anikó és Mezei Kitti közös tanulmánya az MI-rendszerekkel kapcsolatos antidiszkriminációs kérdésekre összpontosít a gyakorlatban.

Eszteri Dániel az algoritmusok alkalmazásából eredő adatvédelmi kockázatokkal foglalkozik, és rámutat a magánszféra védelmének kritikus jelentőségére, a GDPR által támasztott követelményekre az MI-rendszerek tervezése és alkalmazása során.

A szellemi tulajdon védelme az MI fejlődésének egy másik kiemelt területe. Grad-Gyenge Anikó elemzi az MI által generált alkotások szerzői jogi kihívásait, különös figyelmet fordítva arra, hogy az MI-által létrehozott tartalmak miként illeszthetők be a meglévő szellemi tulajdonjogi keretekbe.

A digitális gazdaság és az adatáramlás szabályozási kérdései szintén központi szerepet kapnak. Papp Mónika és Firniksz Judit a Data Act rendelkezéseit elemzik.

Az MI alkalmazásának társadalmi és jogi felelősségi aspektusai szintén részletes tárgyalást kapnak.

Zorkóczy Miklós az MI egészségügyi alkalmazásainak specifikus vonatkozásait vizsgálja, kitérve az adatbiztonság, az orvosi döntéshozatal és a betegek jogainak kérdéseire. Ambrus István a büntetőjogi szempontokat elemzi, különös tekintettel az AI Act-re. Schubauer Petra a polgári jogi vonatkozásokkal foglalkozik, bemutatva, hogyan alakulnak az MI által okozott károkért való felelősség szabályai.

A kötet további fejezetei további aktuális témákat is feldolgoznak. Friedery Réka az arcfelismerő rendszerek használatával kapcsolatos adatvédelmi és etikai kérdéseket tárgyalja. Kecskés Gábor az MI fenntarthatósági aspektusait elemzi, hangsúlyozva, hogyan járulhat hozzá a technológia a környezetvédelem célkitűzéseihez. Hoffman István az algoritmikus döntéshozatal közigazgatásban betöltött szerepét vizsgálja. Chronowski Nóra, Kálmán Kinga és Szentgáli-Tóth Boldizsár az igazságszolgáltatásban alkalmazott MI-rendszerek által felvetett etikai és jogi kihívásokat elemzik.

A technológia fejlődése új, innovatív jogi megközelítéseket igényel, amelyek célja, hogy a technológiai sajátosságokból eredő kockázatokat csökkentsék, miközben támogatják a társadalmi fejlődést. A jogi szabályozásban ugyanis kiemelt szerepet kap a társadalmi felelősségvállalás, az emberi jogok védelme és a fenntarthatóság.

A kötet szerzői abban bíznak, hogy e szakkönyv alapos és részletes elemzései hasznos eszközként szolgálnak az MI jogi, etikai és szabályozási kérdései iránt érdeklődő olvasók számára, legyenek akár szakértők, kutatók vagy gyakorlati szakemberek.

A kutatás a Mesterséges Intelligencia Nemzeti Laboratórium, a 138965. sz. „Kockázatok és lehetőségek a mesterséges intelligencia jogi szabályozásában és gyakorlati alkalmazásában” NKFIH pályázat, az Európai Unió RFF2.3.1–21–2022–00004 projektje, valamint az Innovációs és Technológiai Minisztérium támogatásával valósult meg.

A szöveg gondozásáért köszönetet mondunk Fedinec Csillának.

Budapest, 2024. szeptember 30.

A szerkesztő

Héder Mihály1

Bevezetés a mesterséges intelligencia etikájába

1. Bevezetés: a mesterséges intelligencia etikája kanonikus témái

E fejezet célja áttekintést adni a mesterséges intelligencia (a továbbiakban: MI) etikájának leggyakrabban vitatott kérdéseiből. Nincs nehéz dolgunk, ha vonatkozó forrásokat keresünk. A kérdéskört számos áttekintő cikk, monográfia és kötet tematizálja. Az Oxfordi Kézikönyv a mesterséges intelligencia etikájáról 44 fejezetében kísérli meg a teljes lefedettség elérését [Dubber–Pasquale–Das (szerk.) (2020)]. Mark Coeckelbergh a saját AI Ethics című művében inkább néhány kérdésre fókuszál, amelyeket mélyebben, de olvasmányosan fejt ki [Coeckelberg (2020)]. Az MI etikai kihívásainak legszisztematikusabb áttekintését valószínűleg Thilo Hagendorff nyújtja, aki módszeresen elemez közel két tucat etikai irányelvet, és azonosít 22 kérdést, majd ezeket lefedettség szerint rangsorolja: például a 22 irányelvből 18 foglalkozik a magánélet védelmének és a méltányosság kérdéseivel, így következtetése szerint ezek az MI etikájának legelfogadottabb kérdései [Hagendorff (2020)].

Ebben a fejezetben felvázolom az MI-etika problématérképét a fenti művekből és más forrásokból kiindulva. Nem a témák legmélyebb, kimerítő tárgyalására törekszem, ehelyett az érdeklődő olvasót primer forrásokhoz vagy kritikákhoz irányítom. A kanonikus MI-etika témákat néhány saját észrevétellel egészítem ki.

2. Az MI társadalmi kontrollja

Ahogy egy technológia jelenléte növekszik a mindennapokban, olykor a nyilvánosság valamilyen érdekes demonstráció vagy hír miatt egyszerre nagy intenzitással kezd érdeklődni iránta. A hirtelen megnövekedett figyelem a következő fázisban szabályozási igénnyé alakul át. Az MI esetében ez a fázis a 2010-es évtized utolsó éveire tehető. Ekkor szerte a világon egyszerre indultak szabályozási erőfeszítések az MI etikájának kezelésére; annak ellenére csak ekkor, hogy addigra már számtalan ajánló rendszer, fordítórendszer, orvosi szakértői rendszer támaszkodott a technológiára, évtizedek óta. Globális intézmények, mint az UNESCO, szakmai szervezetek, mint a Villamos- és Elektronikai Mérnökök Nemzetközi Intézete (IEEE) és az Európai Unió, valamint számos más szervezet és cég 2019 környékén adott hírt arról, hogy szabályozást vagy ajánlást alkot ezen a területen [Héder (2020)].

Nem egyértelmű, milyen feltételek váltják ki a nyilvános érdeklődés lavináját. Néha úgy tűnik, hogy egy meggyőző bemutató indítja be a folyamatot (például MidJourney vagy ChatGPT), de más demonstrációk (mint például az IBM Deep Blue vagy az IBM Watson) nem érik el ugyanezt a hatást. Mindenesetre az MI körül jelenleg tapasztalható cselekvési vágy meglehetősen hasonlónak tűnik ahhoz, amit a globális felmelegedés körül tapasztalunk, és azt gyaníthatjuk, hogy az oka hasonló: mindkét jelenséget a visszafordíthatatlan változással asszociálják. Természetesen a félelem lényege, hogy a változás nem csak pozitív lehet. Ez az első jelentős etikai kérdés, amit érdemes megvizsgálnunk.

Több tényező is különösen hajlamosítja az MI-t a technológiai bezártság kialakítására, ezáltal visszafordíthatatlan változások okozására [Héder (2021)]. Először is, az MI szoftver. Mint minden szoftvernél, a „gyártás” költsége – azaz ugyanannak a programkódnak a sokszorosítása és felhasználóhoz juttatása, ami ebben az esetben másolást jelent – nevetségesen alacsony; a legtöbb esetben teljesen elhanyagolható. És mégis, minden példányon vagy licencen profit realizálható, ami azt jelenti, hogy jelentős piaci kereslettel rendelkező szoftver sikeres létrehozása rendkívül jövedelmező lehet – egyszer készítjük el, de számtalanszor profitálunk akár nullához közeli bemeneti költséggel.

Nem véletlen, hogy a társadalmi mobilitás leginkább sikeres útvonala a szoftverek és kapcsolódó infrastruktúra, szolgáltatások létrehozása és birtoklása – érdemes megnézni a világ leggazdagabb embereinek történetét.

Mindez azt jelenti, hogy ha a jövőben egy problémaosztályt sikeresen megold egy MI szoftver, amely árazásában és licenc tekintetében is könnyen hozzáférhető, akkor nem lesz nagy ösztönző erő alternatívák fejlesztésére, mert az elterjedt megoldás ára nagyon alacsonyra csökkenthető, és mégis kifizetődő lesz forgalmazni. Valójában ez ritkán jelent teljes monopóliumot egy problémaosztály felett, és mindig van néhány kereskedelmi és néhány nyílt forráskódú versenytárs, de ha belegondolunk, ma sok problémaosztályra rendkívül kevés megoldás létezik: kevesebb mint öt operációs rendszer, kevesebb mint öt böngésző, kevesebb mint öt irodai programcsomag található a több milliárd felhasználós piacon. Sok szoftver projekt generációkon átívelő karriert fut be, és az adott technológia aktuális birtoklóinak korlátozott irányítása lehet a szoftver múltban determinált fejlődési útja felett, különösen, ha a szoftver már mindent átható, és bármely jelentős átírása több erőfeszítést igényelne, mint amennyit az aktuális generáció kínálni tud. Ez a technológiába zártság (technological lock-in) jelensége.

A szoftver digitális természetének sajátosságain – amelyek fokozzák a bezártság kialakítására való hajlamát – túlmenően, a Szoftver-mint-Szolgáltatás (a továbbiakban: SaaS, vagy pongyolábban: a „felhő”) jelensége újabb bezáró tényezőt hoz létre. Az extrém méretgazdaságosság ebben az esetben nem példányok, hanem az adatok szempontjából és a felhasználószám segítségével érvényesül. Több felhasználó és használati eset aggregálásával az SaaS-t kínáló vállalatok saját hasznukra aknázhatják ki a felhasználók közötti hálózati hatásból eredő információkat. Bár a szoftver másolása és szállítása nevetségesen olcsó, a nem SaaS-szoftver használatának mégis van költsége, főleg telepítési és karbantartási költségek formájában. Az SaaS-szel ezek a költségek is jelentősen csökkennek. Ez természetes monopóliumokhoz hasonló helyzeteket teremt.

A szoftver és „felhő” (SaaS) kombinációjának már egyébként is szokatlanul nagy bezárási potenciálját tovább fokozza egy különleges MI-jellemző: az adatok iránti igény a gépi tanulás során. Az SaaS-ként szállított MI egyedülálló potenciállal rendelkezik, amelyet a dobozos szoftverként árusított MI nem tud utolérni, mert ott nem aggregálódnak az adatok hasonló mértékben, mint a felhőben igénybe vett MI esetén. Ezért bizonyos magabiztossággal várható, hogy amikor egy SaaS MI eléggé jóvá válik a célzott problématérben – például fordító vagy lektoráló megoldás –, akkor közel lehetetlen lesz vele versenyezni észszerű befektetéssel, csak a stratégiai, nemzetbiztonsági szempontok figyelembevételével lehet majd a szükséges kiadásokat indokolni.

A fentiek értelmében tehát a szinte soha nem látott érdeklődés és szabályozási törekvés mennyisége indokolt. Ugyanakkor, mint minden technológiára, félő, hogy a mesterséges intelligenciára is igaz a Collingridge-dilemma: egy technológia könnyen alakítható, amikor új, de ekkor a szükséges információ nem áll rendelkezésre; miután elterjedt, már tudjuk, hogy hogyan lenne jó megváltoztatni, de akkor már ez nagyon költséges, ha egyáltalán kivitelezhető [Colligridge (1982)].

Az MI szoftver és szolgáltatás könnyű replikálhatósága nem csak a technológiába zártság veszélyét hordozza magában. Ugyanebben a fent bemutatott fogalmi keretben érthető meg az is, hogy miért lehet képes az MI sok munkahelyet megszüntetni nagyon rövid idő alatt. E fejezet az MI munka világát felforgató potenciálját nem tárgyalja, de nem azért, mert az ne lenne fontos, hanem azért, mert a jelenség nem MI-specifikus, a gépesítés társadalmi következményei az ipari forradalom előző hullámaiban is jelen voltak, így jelentős szakirodalom áll rendelkezésre. Ugyanakkor elképzelhető, hogy az MI terjedésének sebessége és mértéke olyan nagy, hogy az már önmagában egy új minőséget hoz létre ebben a folyamatban.

3. Az MI-fejlesztés etikai kérdései

Az MI etikájáról szóló diskurzus legnagyobb része az MI technológiák alkalmazásával kapcsolatos sokrétű kockázatokra és aggályokra összpontosít.

Az egyik fontos aggodalom a felelősség-rés kialakulása a nagymértékben automatizált rendszerek használata során. Egy olyan világban, ahol az autonóm járművek, az MI által létrehozott orvosi diagnózisok és az algoritmikus köz- és magánszolgáltatások terjedése mindennapossá válik, a felelősség megállapítása, amikor a felelősség kérdése felmerül (általában, ha valami félresikerül), egyre bonyolultabbá válik.

Egy másik jelentős etikai kérdés az MI-ben a torzítások és diszkrimináció propagálása. Olyan híres esetek, mint a Google rasszista automatikus címkézése, az Amazon álláskereső szoftvere, amely a nőket diszkriminálta, és a nem-fehér páciensek számára pontatlanul kalibrált orvosi rendszerek, rávilágítottak az MI rendszereknek arra a technológiába zártságon keresztül érvényesülő hajlamára, hogy tükrözzék és felnagyítsák a meglévő diszkriminatív mintákat.

A generatív MI fejlesztése további kockázatokat vet fel, különösen a hamis, de realisztikus szövegek, képek és videók létrehozásában és terjesztésében. A deepfake-ek, mint például a pápa luxus télikabátjának hamis fotói, jól példázzák a kockázatoknak ezt az új műfaját, komoly aggodalmakat vetve fel a dezinformáció terjedése és a nyilvános észlelés manipulálása kapcsán. De nemcsak az jelent problémát, hogy a felhasználók szándékos konfabulációt megkönnyítik ezek a rendszerek; a szándékolatlan „hallucinációk” is gondot okoznak.

Az MI-rendszerek átláthatatlansága [Héder (2023a), Héder (2023b)] megnehezíti a döntéseik mögötti logika megértését, egy releváns ismeretelméleti probléma jelentős etikai következményekkel. Ezeknek a rendszereknek az effektív kontrollálhatatlansága, társítva jelentős befolyásukkal kritikus területeken, mint az infrastruktúra és az oktatás, valamint környezeti hatásuk további aggodalmak, amelyek egyre nagyobb figyelmet kapnak az MI etikáját érintő vitákban.

Az MI-vel kapcsolatos potenciális kockázatok növekvő tudatosságára válaszul olyan fogalmi keretek jöttek létre, mint a megbízható MI (Trustworthy AI), a felelős MI (Accountable AI), az emberközpontú MI (Human-Centered AI) a tudományos és politikai diskurzusban. Ezek a fogalmak olyan MI-rendszerek tervezésére irányulnak, amelyek nemcsak jelentős előnyöket valósítanak meg egyének és társadalmak számára, hanem minimalizálják a kapcsolódó kockázatokat is.

A megbízható MI fogalmát kormányok, nemzetközi szervezetek, szakmai szövetségek, szabványalkotó testületek, kutatóintézetek és iparági szereplők is előtérbe helyezték. Ezen irányelvek szerkezete és célkitűzései figyelemre méltó hasonlóságokat mutatnak és visszatérő kommunikációs mintákat alkalmaznak. Tipikusan azzal az állítással kezdődnek, ami gyakran magától értetődő, de ritkán bizonyított, hogy az MI jelentős előnyöket hoz, amelyet a társadalmaknak fokozatosan elfogadniuk és alkalmazniuk kell. Egyidejűleg széles körű kockázatokra figyelmeztetnek, amelyek közül néhányat az előző szakaszban már említettem. Végül az irányelvek egy sor egymással összehangolt elvet vázolnak fel, amelyekhez az MI-rendszereknek tartaniuk kellene magukat, azzal a céllal, hogy maximalizálják az előnyöket és minimalizálják a kockázatokat.

Ezen irányelvek alapos vizsgálata egy viszonylag kis számú téma konvergenciáját azonosítja [Hagendorff (2020)]. Ezek a már említett transzparencia, igazságosság és a méltányosság elvei, amelyek széles spektrumú szempontokat foglalnak magukban, beleértve az egyenlőséget, inkluzivitást és az elfogultság megelőzését. A nem ártás elve (principle of no harm) hangsúlyozza az MI-rendszerek biztonságos, védett és a felhasználók védelmét biztosító mivoltának szükségességét, túlmutatva az alapvető elven, hogy kerülni kell a károkozást. A felelősség fogalma kiemeli annak fontosságát, hogy meghatározzuk, ki felelős az MI-rendszerek által végrehajtott cselekedetekért és döntésekért. A magánélet védelme gyakran felmerül az MI-rendszerek által használt nagy mennyiségű adat kapcsán, hangsúlyozva a személyes információk védelmét és az adatvédelmi jogszabályok betartását. Végül a jóindulat irányítja az MI-t a nagyobb jó szolgálatába, kiemelve annak szerepét az emberi jólét fokozásában és pozitív társadalmi hozzájárulások megtételében.

A fentiekből látható, hogy az MI etikában jelenleg ugyanazok a kifejezések részben eltérő tartalommal bírnak, gyakran attól függően, hogy önállóan vagy pedig egy nagyobb morális rendszerben jelennek meg. Az alábbiakban részletesebben kifejtek néhány fontosabb témakört, nem elleplezve a megjelenő fogalmak többféle értelmezését sem.

3.1. Méltányosság és részrehajlás-mentesség

Az igazságtalan elfogultság elkerülése, beleértve az MI-t is, központi törekvés. Széles körben elismert, hogy az elfogult automatizált rendszer rendkívüli mértékű kárt okozhat, amelynek jól kutatott példája a hibás holland gyermekjuttatási kockázatelemző algoritmus, ami tízezrek gyermeknevelési segélyeinek és juttatásainak téves törléséhez vezetett.

Az MI elfogultságának egyik fő forrása a tanulóadatokban keresendő. Az olyan rendszereknél, amelyek nem általánosan objektívnek tekintett adatokkal dolgoznak (mint például a tudományos műszerekből származó adatok), a tanulóadatok generálása valamilyen formában emberi beavatkozást jelent (például az adatok címkézése), ami viszont a tanítási folyamatot kognitív torzításnak teszi ki, amelyet az MI-rendszer örököl és sokszorosít. A tanulóadatok előállításánál három kognitív torzítás különösen jelentős: a szelekciós torzítás, a konformitás mint kognitív torzítás és az expozíciós torzítás [Chen–Dong–Wang–Feng–Wang–He (2023)].

A szelekciós torzítás azt jelenti, hogy a tanulóadatot készítő humán szabadon választhatja ki, mit foglal be a tanulókészletbe (mit címkéz/értékel). Ennek eredményeként adatok nem véletlenszerűen hiányoznak (ommissions not at random).

A konformitás arra készteti az embereket, hogy saját ítéletük ellenére más emberekhez hasonlóan döntsenek, ha van többségi vélemény vagy egyhangúság a csoporton belül. A kategorizálási feladatoknál ez a probléma rosszul tervezett tanítási, adatcímkézési munkafolyamatból eredhet, például az ajánlórendszerekben a felhasználó tömegek korábbi értékeléseiből tanulhatnak, mielőtt sajátjukat megalkotnák, ami kiteszi őket a konformitás problémájának.

Az expozíciós torzítás azt jelenti, hogy az emberek egy releváns adatcsoportnak vannak kitéve, míg másoknak nem. A nem-expozíció nagyon nem-véletlenszerű is lehet. Például azok a rendszerek, amelyek felhasználói visszajelzéseket gyűjtenek és abból tanulnak, általában nem tudják figyelembe venni azt, hogy az értékelők milyen egyéb tartalmaknak voltak kitéve a rendszeren kívül, és néha azt sem követik, hogy a rendszer maga milyen tartalmakat jelenített már meg az egyes felhasználóknak, egyszerűen csak az értékelt objektumokhoz átlagot számolnak. Az ajánlórendszerek által alkalmazott nem felügyelt tanulásban a nem megjelenített tartalmak gyakran részei a tanulóadatnak és negatív preferenciát kaphatnak. Az expozíciós torzítás az oka például annak, hogy egy feltörekvő zenekar helyzete kilátástalanná válhat a nagy platformokon.

Az elfogultság a használt tanulási modellből is eredhet még elfogultság nélküli tanulóadatok esetén is. Például egy modell túlgeneralizálhat bizonyos adatpontokból és alulgeneralizálhat másokból, ennek eredményeként különböző heurisztikákat alkalmazva, amelyeknek sok közük nincs az adatok szemantikájához, inkább csak a szintaxisához és szerkezetéhez (például az adatok egy része gép által könnyebben értelmezhető formában jelenik meg). Ezt induktív elfogultságnak nevezhetjük, utalva egy lényegében ismeretelméleti jellegű jelenségre. A rosszul kivitelezett gépi tanulás elfogult rendszerekhez vezet. Egy elfogult rendszer igazságtalan, ami több formát is ölthet: megjelenhet a Máté-effektus, vagy diszkriminálhat attribútumok (rassz, vallás stb.) alapján, ahelyett, hogy a döntései érdemeken alapulnának.

Egy másik, az MI elfogultságára specifikusabb új matematikai módszer az, hogy az MI bemenet-kimenet párosait ok-okozati szemantikával rendelkező irányított aciklikus gráfokként fejezzük ki [Dubber–Pasquale–Das (szerk.) (2020) 493–520.]. Ez a megközelítés feltérképezi azon tényezők hálózatát, amelyek miatt egy MI-rendszer egy döntést hozott, és a fent említett elfogultságokat ebben a gráfban irányított élekként lehet kifejezni. Azonban meg kell jegyezni, hogy az elfogultság felfedezése nem mindig egy egyértelmű statisztikai feladat. Bizonyos határesetekben az elfogultság meghatározása bonyolult filozófiai vagy politikai vitákat igényel [Coeckelbergh (2022)].

Az igazságosság az MI-etika oktatási tematikáiban a leggyakrabban tárgyalt témák közé tartozik. A gépi tanulás kurzusokban az igazságosságot leggyakrabban az ismert igazságossági metrikák áttekintésén keresztül vezetik be, gyakran matematikai definícióik segítségével.2 Bár ezeket a metrikákat egymással ellentmondásosnak találták, mégis lehetővé teszik a diákok számára, hogy számításokat végezzenek példa adatkészleteken és modelleken, és gyakran használják a filozófiai igazságosság fogalmának és kontextuális természetének bevezetésére.

3.2. Automatizációs elfogultság

Az automatizációs elfogultság (automation bias), amelyet David Lyell és Enrico Coiera definiált, kiemel egy kritikus kihívást az MI-rendszerek különböző területeken való integrálásával kapcsolatban, különösen a biztonságkritikus kontextusokban [Lyell–Coiera (2017)]. Az automatizációs elfogultság lényege, hogy a felhasználók megszokják, hogy az automatizált rendszer általában jól működik és kritika nélkül kezdik elfogadni annak kimenetét. Ez az elfogultság egy finom aspektusát hangsúlyozza az MI-etikának, kiemelve az ember-gép interakciók tervezésének fontosságát az MI kontextusában. Az UBER autonóm járművének 2018-ban történt incidense, amikor egy céges alkalmazott által felügyelt tesztautó halálra gázolt egy gyalogost, szigorú emlékeztető arra vonatkozóan, hogy az MI-re való túlzott támaszkodás miként veszélyeztetheti az emberi éberséget és felügyeletet.

Az automatizációs elfogultság kérdése két jelentős területet érint az MI etikájában: a döntéshozatalt és a felhasználói képességek erózióját. Kritikus döntések MI-rendszerekre való delegálásával olyan helyzetbe kerülhetünk, amikor nincsenek biztosítékok arra, hogy az emberi operátorok továbbra is bekapcsolódjanak és szükség esetén beavatkozzanak. Ez a probléma nem korlátozódik az autonóm járművekre, hanem kiterjed azokra a területekre is, ahol az MI-t döntéstámogatásra vagy döntéshozatalra használják, beleértve az egészségügyet, a pénzügyeket és a jogi rendszereket. Az első reakcióként létrehozott megoldás, a felhasználó éberségének tesztelése – például az európai autóipar erőfeszítései, hogy a vezető szemmozgását kövessék – csak átmeneti megoldásnak tekinthetők.

Az automatizációs elfogultság kezelése többoldalú megközelítést igényel. Ez magában foglalja olyan MI-rendszerek tervezését, amelyek támogatják az emberi döntéshozatalt anélkül, hogy túlzott függést hoznának létre. Ide tartozik olyan interfészek fejlesztése, amelyek javítják a szituáció áttekintését. Ezenkívül pusztán ennek a problémának a jelenléte szükségessé teszi a kritikus rendszerek hosszú távú tesztelését, mivel a jelenség is csak hosszú távú használat során teljesedik ki.

Alapvető fontosságú még az ember-MI interakció pszichológiai aspektusainak megértése. A kutatások, amelyek azt vizsgálják, hogyan érzékelik és bíznak az emberek az MI döntéstámogató rendszereiben, informálhatják a jobb tervezési gyakorlatokat, amelyek mérsékelik az automatizációs elfogultsággal kapcsolatos kockázatokat. Ide tartozik a kutatás arra vonatkozóan, hogyan lehet kiegyensúlyozni az MI segítségének előnyeit az emberi ágencia és döntéshozatali képességek megőrzésének szükségességével.

Az automatizációs elfogultság kezelése több szakterület együttműködését igényli azért, hogy az MI rendszerek az emberi döntéshozatalt kiegészítsék, ne pedig aláássák.

3.3. Transzparencia és megmagyarázhatóság

Az emberi igény az általunk használt gépek feletti intellektuális kontrollra univerzálisnak tűnik. Az intellektuális felügyelet transzparenciát igényel a rendszertől: egy olyan állapotot, ahol megértjük annak belső működését, és úgy érezzük, hogy intellektuális hozzáférésünk nem akadályozott. A tudósok gyakran kapcsolják össze a transzparenciát és a megbízhatóságot azzal az állítással, hogy az előbbi szükséges az utóbbihoz. Ez az EU egyik korai (a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról szóló 2024. június 13-i (EU) 2024/1689 európai parlamenti és tanácsi rendeletet, a továbbiakban: AI Act-et megelőző) ajánlásának, a megbízható mesterséges intelligenciával kapcsolatos értékelési listának (ALTAI) is3 a központi eleme. Ennek a kérdésnek a megközelítésére több módszer is létezik. Egy inkább adminisztratív keretben a transzparencia azt jelenti, hogy hozzáférés van azokhoz az adatokhoz, amelyekhez a rendszer szolgáltatója is hozzáfér; vagyis az információ elrejtésének ellentéte.

A transzparenciának van egy ismeretelméleti dimenziója is: az MI-re jellemző tendencia, hogy az „fekete dobozzá” válik, úgy hogy még alkotói sem értik teljesen a belső működését. Általában ez nem abból fakad, hogy az alkotóknak nincs hozzáférésük bármely tetszőleges részlethez a rendszerben; ehelyett annyi a részlet és olyan magas a komplexitás, hogy az emberek nem tudnak érdemi intellektuális felügyeletet és kontrollt fenntartani a rendszer felett.

A számítógépek működésének érthetősége kutatás témája volt már a kezdetektől, de az 1980-as években vált rendszerszintűvé, amikor az ember-számítógép interakció kezdett alakulni. Terry Winograd és Fernando Flores 1986-ban megjelent könyvükben részletesen foglalkoztak a megmagyarázhatóság és a transzparencia kérdéseivel [Winograd–Flores (1986)]. Céljuk az volt, hogy a „felhasználóbarát”, „könnyen tanulható” és „önmagát magyarázó” homályos kifejezéseket tudományosan megalapozott tervezési elvekkel helyettesítsék. Ezt a fenomenológiára és különösen a kognitív tudományra támaszkodva tették meg. Kulcsüzenetük az volt, hogy egy rendszernek tükröznie kell, hogyan képeződik le a felhasználó mentális reprezentációja a használati doménről a gépekben. Az 1980-as években még nagyon messze volt a gépi tanulás mára széles körben elterjedt sikerétől. Ekkoriban a siker az adatszerkezeteken és a logikán alapult. Ezek a korlátok olyan rendszereket eredményeztek, amelyeket a teremtők és alkalmazók intellektuális felügyelete alatt tarthattak, vagy legalábbis tudták, hogy lehetséges „benézni a motorháztető alá”.

A gépi tanulás, különösen a mélytanulás nem hoz létre olyan modelleket és ezeken alapuló rendszereket, amelyekkel ez a jellemző szükségszerűen megvalósulna, ezért tudásdeficitet teremtenek. A jó teljesítményük miatt mégis preferáljuk őket, ezért az a kérdés merül fel, hogy utólag hogyan lehet transzparensebbé tenni őket. Két fő stratégia létezik a probléma megoldására: először is, lehet az egész modellt értelmezni, ebben az esetben a kapott magyarázatot „globálisnak” nevezik. Ezt egy helyettesítő rendszerrel lehet elérni, amely leegyszerűsítésekkel, de lényegileg hűen képviseli az eredeti modellt, miközben olyan elemeket használ, amelyeket az emberek könnyen megértenek. Természetesen a leegyszerűsítés eltérést okoz a rendszerben működő és a demonstrációs modell között. A számítástudomány számára jelenleg aktuális kutatási probléma, hogy az eltérés például gyengébb pontosságot jelentsen, és ne azt, hogy a helyettesítő modell teljesen ellentétesen viselkedik. Egy ilyen modell birtokában képesek vagyunk előre jelezni a viselkedést képzelt bemenetekre, mielőtt az megtörténne, ezáltal intellektuális kontrollt teremtve a rendszer felett. Más globális magyarázatok vizualizálják a modellt vagy feltérképezik a modell által használt fogalmakat.

A második értelmezési stratégia a „lokális” értelmezés. Ekkor magyarázatot csak egy kimenetre készítenek, de oly módon, hogy hasonló bemenetekre is alkalmazható legyen, ahol a hasonlóságot matematikai térben kifejezett távolságként mérjük.

Egy MI-rendszer érthetősége elkerülhetetlenül a konkrét személyek tudásának függvénye, akik megpróbálják elérni az intellektuális felügyeletet. Ezt a tényt a legjobban az IEEE P7001 szabványtervezete4 foglalkoztatja, amely várhatóan harmonizált EU-szabvánnyá válik, ahogy az AI Act előrelép; a rendelet, amely központi helyre helyezi az átláthatóságot (és ezáltal a magyarázhatóságot). Ez a tervezet az érintett felek feltérképezésének elvét alkalmazza, és a feleket „felhasználókra”, a „nagy nyilvánosságra” vagy „nem felhasználókra” (akiket mégis érinthet) és „szakértőkre” osztja fel. Az utolsó csoportot tovább osztják tanúsító hivatalok és auditorokra, incidensvizsgálókra és igazságügyi szakértőkre peres ügyekben. Ez a tervezet nagyon hasznos, mivel tisztázza, hogy a magyarázható MI alatt szereplő matematikai módszer a szakértők számára készült, míg a felhasználói átláthatóság egyszerűbb nyelvezettel hozható létre, mint például a klaszterezés elmagyarázására a „más felhasználók, akik ezt hallgatták, szintén az alábbiakat kedvelték” fordulat. Az hivatalok számára egy harmadik, inkább adminisztratív átláthatósági keretrendszert kínálnak, amely az elszámoltathatóságra van hangolva.

3.4. Felelősség-rés

A felelősséget hagyományosan annak a személynek tulajdonítják, aki döntést hoz vagy cselekményt végez. Ebben az értelemben egy természetes vagy jogi személy felelősségre vonható vagy büntethető. Az MI is hozhat döntéseket és végezhet cselekedeteket, de nem szokás személyként kategorizálni (bár ez az állapot változhat), és nem lehet felelősségre vonni vagy büntetni sem. Így jön létre a felelősség-rés (accountability gap).

Az MI sokszorosan fokozta a felelősség-rés problémáját. Az MI szinte bármilyen szerepet betölthet, amit az emberi értelem ellátni képes, de egyik olyan tulajdonsággal sem rendelkezik, amely felelősségre vonhatóvá tehetné. Vegyük például egy olyan MI-rendszer esetét, amely téves orvosi diagnózist szolgáltat. Felmerül a kérdés, ki viseli a felelősséget: a betegellátást végző kórház, az orvos, aki az MI ítéletére támaszkodik, az MI-rendszert biztosító cég, a fejlesztő mérnökök, vagy a tanulóadatok összeállítói? A kérdést huszárvágással az emberi felügyeletre hivatkozók (például „a végső felelősség mindig az orvosé”) zsákutcába kerülnek, mert nem a probléma lényegét oldják meg. Ennek az oka az, hogy az elvet követve egyre több döntésért egyre kevesebb ember felelne, ami nem fenntartható, hiszen egyrészt a felhasználó ellenérdekelt, másrészt nem is feltételezhető, hogy képes a felelősséghez szükséges intellektuális kontroll fenntartására a fekete dobozként viselkedő rendszerrel szemben.

Ez a probléma egyre fokozódik az MI-rendszerek autonóm és adaptív képességei miatt, ami kihívásokat jelent azok számára, akik kárt szenvednek, és kompenzációt szeretnének. Ugyanakkor a probléma másik oldalát is figyelembe kell vennünk: milyen elszalasztott lehetőségek és megelőzhető károk keletkeznek az MI alkalmazásának elmulasztása miatt (például a felelősség-résre hivatkozva), és ezekért ki a felelős?

3.5. Hallucináció vagy konfabuláció

Az MI-ben a hallucináció vagy a konfabuláció olyan esetekre utal, ahol a rendszerek váratlanul helytelen módon generálnak vagy értelmeznek adatokat, azaz „hallucinálnak”. Természetesen ilyesmit csak egy adott viszonyítási alaphoz képest tudunk meghatározni; ez az alap leggyakrabban a tényszerű valóság, de elviekben egy fiktív, például számítógépes játékhoz létrehozott világ kontextusában is elképzelhető ilyen probléma.

A hallucináció különösen aggasztó például a tudományos felhasználásokban, ahol a rendszer sosemvolt cikkeket és kitalált szerzőket prezentál; vagy az orvosi diagnosztikában, mivel a helytelenül interpretált vagy generált képi adatok téves diagnózisokhoz, és így a betegek számára helytelen kezelésekhez vezethetnek. Ez a jelenség különösen jellemző a mélytanulás, a kép- és beszédfelismerés, valamint a generatív modellek esetében. Az ilyen típusú hibák minimalizálása érdekében a kutatók olyan technikákat fejlesztenek, mint a kimenet utóellenőrzése, illetve a modell validáció és a felügyelet nélküli tanulás során alkalmazott különféle korrekciós stratégiák.

Megjegyzendő ugyanakkor, hogy a jelenség nem önmagában probléma: a kreatív alkalmazások, például a zene, a kép és egyéb tartalomgenerátorok esetében a hallucináció a megoldás lényege, hiszen épp az egyedi, új, korábban soha nem előállított kimenet az elvárás.

3.6. Egyenlőtlen hozzáférés

Az előrehaladott technológiák esetében az elérhetőség visszatérő téma a technológiafilozófiában, és különösen az MI esetében problémás, mivel az eszköz lehet, amely rendkívüli módon növeli azok lehetőségeit, akik hozzáférnek, miközben a többiek lemaradnak. Ennek következtében a szakadék szélesedik, és egy ördögi kör jön létre. Szakpolitikák enyhíthetik ezeket a hatásokat, többek között újraelosztással, hogy kompenzálják azokat, akik veszíthetnek az MI fejlesztéseiből [Korinek–Stiglitz (2017)].

Egy másik lehetséges egyenlőtlenség a nemekkel kapcsolatos: az MI szerepe az információs technológiában tapasztalható nemek közötti szakadék növelésében jelentős, amennyiben az MI használata versenyelőny-növelő, miközben a felhasználók túlnyomó része férfi, mert az IT-szektor eszközei és kapcsolatrendszere szükséges hozzá, amit a férfiak dominálnak. Az implicit elfogultságok kezelése kulcsfontosságú lépés ennek a szakadéknak a csökkentése felé [Idemudia–Onoshakpor (2023)].

3.7. A biztonság és az értékegyeztetés problémája

A biztonság, amelynek célja a rendszer környezetére gyakorolt negatív hatások korlátozása, központi szempont az MI-etikában, figyelembe véve, hogy ezek a rendszerek milyen méretekben kerülnek alkalmazásra: a kis hibaszázalékok, mint például a 99%-os pontosság is tömegeket érint a több 100 milliós felhasználói tábor esetén.

Az MI biztonság fogalmára jellemző, hogy az előző témakörökkel részben átfed, részben kiegészíti azokat, mivel egy másik szakma szemszögéből vizsgálja az MI-t. Az MI biztonságának és biztonság biztosítási eljárásainak egyik fő kihívása az, hogy megküzdjön a rendszer nem determinisztikus és fekete doboz természetével. Látens hibák, nehezen előre jelezhető hibamódok és a modellek eltolódása (model drift) – példák az MI-rendszerek biztonságával kapcsolatos számos nehézségre, amit az önvezető járművek kontextusában Missy Cummings mutat be [Cummings (2024)]. A hagyományos szoftverbiztonsági módszerek, mint a tesztelés és a kódellenőrzés, nagyon nehezen – ha egyáltalán – használhatók, és a hírek tele vannak olyan MI-rendszerekkel kapcsolatos példákkal, amelyek szemléltetik a problémát. Ezért új tesztelési megközelítéseket alkalmaznak, mint például az etikus hackelés vagy a felhasználók tömegeinek bevonásával történő ellenőrzés.

Az MI biztonsági kockázatait különböző időskálákon lehet szemléltetni, és ez a pont különösen heves viták tárgya, amely két „tábort” állít szembe egymással. Egyrészt azokat, akik a hosszú távú kockázatokra, különösen az egzisztenciális kockázatokra (ún. x-kockázatokra) helyezik a hangsúlyt, azaz az emberiség létezését fenyegető katasztrofális eseményekre hívják fel a figyelmet. Az x-kockázatok különösen az MI-rendszerek magas szintű autonómiájából erednek, amely a (morálisan helyes vagy helytelen) döntések meghozatalának képességét jelenti, ezáltal felvetve az értékegyeztetés problémáját (alignment problem), azaz biztosítani, hogy a döntéseiben és cselekedeteiben megnyilvánuló értékek összhangban legyenek az emberi társadalom érdekeivel. Másrészt azokat az embereket, akik azt állítják, hogy több figyelmet kellene fordítani a rövid távú kockázatokra, amelyek már demonstráltak és már befolyásolják a populációkat és a környezetet.

Az MI értékegyeztetési problémája alapvetően két elemből áll: a) mely értékekkel kellene az MI-t összehangolni és b) hogyan lehet ezt megtenni? [Gabriel (2020)]. Mindkét kérdést értékről értékre külön kitérve érdemes megközelíteni. Néhány érték, mint az elfogulatlanság és a diszkriminációmentesség olyan univerzálisan elfogadott, hogy csak a b) elemmel kell foglalkoznunk, ami természetesen messze nem triviális, mivel az elfogultság jelentése ismét értékvitákat vált ki egy másik szinten. Azonban más kérdések, mint a centralizált és decentralizált elemek egyensúlya egy architektúrában; a magánélet és a hasznosság közötti egyensúly; a reprezentációs kérdések, mint az MI avatárának vizuális és hangbeli megjelenése, nemi kifejezése és általában a stílus és az esztétika általában vitatottabbak.

Egy mélyebb kérdés az, hogy mely értékekkel kellene összehangolni egy pluralisztikus világban? A globális IT-vállalatok viselkedésében látjuk, hogy bizonyos dolgok földrajzilag konfigurálhatók: határok, helységnév és egyéb jellemzők a térképen különböző módon jelennek meg attól függően, hogy a felhasználó hol van. Azonban néhány érték, mint az alapvető emberi jogok remélhetőleg univerzálisak, és ezért az MI ezeknek jó esetben a terjesztőjévé válik, hiszen erőfeszítés nélkül lépi át a határokat. A b) kérdés másik része meta-etikai: a kötelesség-etikák a normakövetést hangsúlyozzák, míg a konzekvencializmus a kimenetek valószínűségének mélyebb megértését igényli. Nincs konszenzus arról, hogy melyik meta-etikai megközelítés jobb, és a gyakorlatban azt találjuk, hogy az emberek egy meghatározatlan hibridjére támaszkodnak mindkettőből, valamint az erényetikára és példaképekre. Ez homályossá teszi, hogy milyen képességek megvalósítására kellene törekedniük az MI-fejlesztőknek. Elképzelhető, hogy amikor egy MI-rendszert globális felhasználói tábor számára készítenek, akkor a viselkedés beállítása voltaképpen a több ezer éves etikai viták megismétlésével jár.

4. A gépek morális státusza és jogai

„Mesterséges intelligenciát nem ért bántalmazás a termék készítése során” – ma a legtöbben meglepődnének egy ilyen nyilatkozat láttán. Bár a társadalom általánosságban aggódik az MI mint morális ágens miatt, maguk a gépek nem alanyai, páciensei a morális keretrendszereinknek. Kérdés, hogy ez indokolt-e?

Mint bármely entitás, az MI ágens morális inklúziója is akkor szükséges, ha teljesíti egy morális keretrendszer alanyává válás elégséges feltételét [Coeckelbergh (2010)], amit „kemény feltétel”-nek is neveznek. Keretrendszertől függően a kemény feltétel lehet például a tudatosság, az érzetekre való képesség, a racionalitás. Természetesen vita tárgya, hogy mesterséges ágensek rendelkezhetnek-e ezek valamelyikével. A kemény feltételként azonosított tulajdonságok jelentős része fenomenológiai jellegű, így nem mérhető kívülről. Mérhetők ugyanakkor az ezen tulajdonságokhoz társított viselkedés mintái. Ezen az úton további két kérdéssel találjuk szembe magunkat: a) lehetséges-e, hogy a számunkra vízválasztó tulajdonság (például intelligencia) nélkül létrejöhet a kísérő viselkedés (például az intelligencia követelményeinek megfelelő viselkedés), és b) kit terhel a bizonyítás kényszere, ha a tulajdonság kísérőjelenségei megfigyelhetők: azt, aki az ágens morális státusza mellett érvel, vagy azt, aki megtagadná?

Bizonyos kemény feltételek, mint például az „élőnek lenni” vagy „embernek lenni” nem problémásak a mérhetőség szempontjából, és egyértelműen nem teljesítik őket a mesterséges ágensek, viszont az elvi megalapozásuk problémás lehet, amennyiben esetleges és ön-preferenciális erkölcsi választásokként keretezhetők. Az MI-ágensek morálisan előléptethetők anélkül is, hogy birtokolnák ezeket a belső, kemény feltételt kielégítő tulajdonságokat. Jogokkal ruházhatók fel – a morális pácienssé válás egy formája – egy nagyobb rendszerben betöltött szerepük alapján. Ez hasonló lenne néhány környezetetikai iskolához, amely morális státuszt ad a növényeknek vagy a víztesteknek.

Egy harmadik út az MI-ágensek morális inklúziójához újfajta meta-etikai megközelítéseken át vezet. Például a relációs etika szerint morális státuszt a szociális kapcsolatok hálózatában betöltött pozíciója alapján kaphat egy olyan ágens, amely önmagában nem rendelkezik a szükséges, kemény feltétel szerinti tulajdonságokkal. Ez azt jelentené például, hogy egy MI-ágens morálisan páciens lenne azon az alapon, hogy éveken át egy család megbízható társa volt, míg egy másik, ugyanolyan típusú ágens nem, mivel azt nem használták.

Végül, és ez az opció a legkevésbé elméleti, az MI morális bevonására sor kerülhet az emberi igények és preferenciák tisztelete okán, anélkül hogy új elméletekre lenne szükség. Az emancipáció számos korábbi hulláma így működött: az elvi alapú vita nem zárult le, de többségbe kerültek az emancipáció támogatói, és olykor konfliktusok árán, de átvitték az akaratukat.

5. Az elvek és megvalósítás közötti szakadék

Az etikai ajánlások érdeme, hogy felvetik a társadalmi, etikai és alapvető jogi szempontokat az MI kutatásában, fejlesztésében és használatában, de egyértelmű korlátaik is vannak. Az MI etikájának területén több kritikus állítja, hogy a jelenlegi trend csak széles körű, magas szintű elveket kínál, anélkül hogy megoldásokat nyújtana arra, hogyan alkalmazzuk ezeket az etikai elveket konkrét helyzetekben. Brent Mittelstadt szerint az elvek önmagukban nem garantálhatják az etikus MI-t, és többek között hiányolja az elvek gyakorlatba való átültetésének módszereit [Mittelstadt (2019)]. Thilo Hagendorff még radikálisabban állítja, hogy ezeknek az elveknek a technikai eszközökkel való operacionalizálása azt igényelné, hogy ezeket a komplex etikai fogalmakat leegyszerűsítsük valamire, ami mérhető és kiszámítható [Hagendorff (2020)]. Végül, a saját álláspontom, hogy az átláthatóság és az emberi felügyelet kivételével a legtöbb elv nem MI-specifikus, azaz sok más technológiára is alkalmazhatók lennének, és túl absztraktok ahhoz, hogy hatékonyak legyenek [Héder (2020)].

Ezek a kritikai megállapítások rámutatnak arra a feladatra, hogy áthidaljuk a különbséget az elvek és a gyakorlat között. Feltehetjük, hogy a tisztán elvalapú megközelítés elégtelen, és a tendenciák is azt mutatják, hogy egyre több az esetspecifikus szabályozás, azaz konkrét, problémás ügyeket precedensnek tekintenek, és abból próbálnak általánosítani. Továbbá lehetséges az MI fejlesztését hatalmi dinamikák megnyilvánulásaként értelmezni, ahol a vállalatok és a kormányok versengenek e potens technológia feletti ellenőrzésért. A legjobb példa erre az AI Act története, amelyet a lobbik legalább annyira alakítottak, mint az elvek.

A potens technológiák folyamatosan politikai érdeklődést és értelmezést generálnak. Az MI esetében szokatlanul sok tényező élteti ezt a folyamatot: a munkahelyek elvesztésének félelme, annak az eldöntése, hogy milyen gépi viselkedés etikus, és a vélt vagy valós egzisztenciális kockázatok. Az MI szabályozása elengedhetetlen potenciáljának kiaknázásához, a társadalmi kontroll fenntartása mellett – ami viszont megkerülhetetlen igény egy olyan technológiánál, ami az élet minden területén kikerülhetetlen lesz [Taddeo–Floridi (2018)].

Irodalomjegyzék

Chen–Dong–Wang–Feng–Wang–He (2023) = Chen, Jiawei – Dong, Hande – Wang, Xiang – Feng, Fuli – Wang, Meng – He, Xiangnan: Bias and Debias in Recommender System: A Survey and Future Directions. ACM Transactions on Information Systems, 2023/3. sz., 1–39. o.

Coeckelbergh (2010) = Coeckelbergh, Mark: Robot rights? Towards a social-relational justification of moral consideration. Ethics and Information Technology, 2010/12. sz., 209–221. o.

Coeckelbergh (2020) = Coeckelbergh, Mark: AI Ethics. The MIT Press, 2020

Coeckelbergh (2022) = Coeckelbergh, Mark: The Political Philosophy of AI: An Introduction. John Wiley & Sons, 2022

Collingridge (1982) = Collingridge, David: The Social Control of Technology. St. Martin’s Press, New York, 1982

Cummings (2024) = Cummings, Missy: A Taxonomy for AI Hazard Analysis. Journal of Cognitive Engineering and Decision Making, 2024

Dubber–Pasquale–Das (szerk.) (2020) = Dubber, Markus Dirk – Pasquale, Frank – Das, Sunit (szerk.): The Oxford Handbook of Ethics of AI. Oxford University Press, 2020

Gabriel (2020) = Gabriel, Iason: Artificial Intelligence, Values, and Alignment. Minds and Machines, 2020, 411–437. o.

Hagendorff (2020) = Hagendorff, Thilo: The Ethics of AI ethics: An Evaluation of Guidelines. Minds and Machines, 2020, 99–120. o.

Héder (2020) = Héder, Mihály: A criticism of AI ethics guidelines. Információs Társadalom, 2020/4. sz., 57–73. o.

Héder (2021) = Héder, Mihály: AI and the resurrection of Technological Determinism. Információs Társadalom, 2020/4. sz., 57–73. o.

Héder (2023a) = Héder, Mihály: The epistemic opacity of autonomous systems and the ethical consequences. AI & Society, 2023, 1819–1827.

Héder (2023b) = Héder, Mihály: Explainable AI: A brief History of the Concept. ERCIM News, 2023/134. sz., 9–10. o.

Idemudia–Onoshakpor (2023) = Idemudia, Isi – Onoshakpor, Chioma: Gender, Workforce and Artificial Intelligence. In: 2023 IEEE AFRICON. IEEE, 2023

Korinek–Stiglitz (2017) = Korinek, Anton – Stiglitz, Joseph E.: Artificial Intelligence, Worker-Replacing Technological Change, and Income Distribution. NBER Meeting on the Economics of Artificial Intelligence, Toronto, Sept. 2017

Lyell–Coiera (2017) = Lyell, David – Coiera, Enrico: Automation bias and verification complexity: a systematic review. Journal of the American Medical Informatics Association, 2017/2. sz., 423–431. o.

Mittelstadt (2019) = Mittelstadt, Brent: Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, 2019/1. sz., 501–507. o.

Taddeo–Floridi (2018) = Taddeo, Mariarosaria – Floridi, Luciano: How AI can be a force for good. Science, 2018/361. sz., 751–752. o.

Winograd–Flores (1986) = Winograd, Terry – Flores, Fernando: Understanding Computers and Cognition: A New Foundation for Design. Intellect Books, 1986

Varju Márton5

A mesterséges intelligencia szabályozása az Európai Unióban: szakpolitika, szabályozási stratégia és jog

1. Bevezetés: a technológia hatása az egyénre és a társadalomra

Az EU a mesterséges intelligenciáról szóló jogszabály, az (EU) 2024/1689 európai parlamenti és tanácsi rendelet (a továbbiakban: AI Act)6 elfogadásával a mesterséges intelligencia (a továbbiakban: MI), a jogszabály szóhasználatát követve, az MI-rendszerek első átfogónak tekinthető jogi szabályozására tett kísérletet. A szabályozás vegyes jogi eszköztárat felvonultatva alapvetően a technológia, valamint a technológia használatának egyes, a technológiai fejlődés jelen állapotában ismert és felmérhető kockázatait fogja kezelni. Az AI Act ambíciói azonban az MI jelentősebb kockázatainak közvetlen, valamint közvetett jogi-szabályozási eszközökkel történő kezelésénél jóval messzebbre mutatnak. Az AI Act az EU és ezzel az EU tagállamok jelenkori ipar- és technológiapolitikájának egyik zászlóshajója, amely a politikai-szakpolitikai térben azt az összetett, ellentmondásokkal terhelt feladatot kapta, hogy egyszerre biztosítsa Európa gazdasági és technológiai versenyképességét a világban, és garantálja, hogy a technológia társadalmi, erkölcsi és etikai, valamint emberi jogi problémáira elfogadható és legitim válaszok születnek. Mindezek mellett a szabályozás egy olyan szakpolitikai környezetben született, amelyben az európai államok és az EU technológiai, techno-gazdasági önrendelkezésének (szuverenitásának) biztosítása kiemelt céllá vált. Az AI Act összekapcsolódása ezen politikai-szakpolitikai célokkal azt is jelentette, hogy a szabályozás tartalmát egy konkrét, alapjait tekintve sajátosan európai szabályozási stratégiára tekintettel alakították ki.

Ebben a fejezetben az EU AI Act politika-szakpolitikai környezetének jelentősebb elemeit tekintjük át, valamint elemezzük azok hatását a szabályozás céljaira, struktúrájára és tartalmára. Az EU MI szakpolitikájának kialakítása során már a kezdeti fázisban világossá vált, hogy az uniós fellépés nem hagyhatja figyelmen kívül a technológia a társadalomra és az egyénre gyakorolt hatásait, illetve hogy a technológia társadalmi és emberi kockázatainak és ártalmainak kezelését a szabályozás középpontjába kell állítani. Ebből következett az a szabályozási koncepció, miszerint az MI uniós szabályozásának a technológia a konkrét technológiai kockázatokon túlmutató megbízhatóságát (trustworthiness) kell biztosítania. Ez a koncepció adta az alapját az EU szabályozási stratégiájának, amelynek értelmében Európa az ún. emberközpontú (human-centred) MI-szabályozás bevezetésével fogja tudni biztosítani vezető szerepét a globális gazdasági, technológiai és szabályozási versenyben az MI területén. A fejezet először az EU MI szakpolitikájának fejlődését és célkitűzéseit tekinti át. Ezt követően tér rá az EU technológiai szuverenitási szakpolitikájára, amely közvetlenül befolyásolta az MI szakpolitikát és az annak keretében meghirdetett szabályozási stratégiát. A fejezetet az AI Act rövid elemzésével zárjuk.

2. Az Európai Unió MI szakpolitikája

Az EU szakpolitikai tevékenysége az MI területén, amely viszonylag korán elfogadta a technológia jogi szabályozásának szükségességét, a kezdetektől fogva kettős célrendszert követett. Egyrészt felismerte a technológia ipari és gazdasági jelentőségét, de emellett nyíltan elismerte, hogy a technológia és használata jelentős társadalmi kockázatokkal és ártalmakkal járhat, különös veszélyt jelentve a közös európai értékekre és az Európában védett alapvető emberi jogokra [lásd COM(2016) 180 final,7 COM(2017) 479 final,8 COM(2018) 795 final9]. A szakpolitika céljainak kettősségét a politikai szinten is megerősítették. A hivatalba lépő Ursula von der Leyen által vezetett Bizottság politikai iránymutatásai kihangsúlyozták, hogy az MI-rendszerek bevezetésére és széles körű alkalmazására Európában egyedül abban az esetben kerülhet sor, ha sikerül elfogadható egyensúlyt teremteni a technológia várt gazdasági és társadalmi előnyei, valamint annak társadalmi és etikai, különösen a magánélet védelmét és a személy biztonságát érintő kockázatai között.10 A Bizottság politikai álláspontja mögött a szakértői tanácsadó testülete által elkészített jelentéseket kell keresnünk. Az Európai Etikai Csoport (European Group on Ethics in Science and New Technologies) a „Nyilatkozat a mesterséges intelligenciáról, a robotikáról és az »autonóm« rendszerekről” címet viselő 2018-as dokumentuma11 azt a központi elvet fogalmazta meg, hogy az embereknek valódi lehetőséget kell biztosítani arra, hogy eldönthessék, hogy az általuk használt technológiáknak milyen értékeket kell szolgálniuk, illetve tiszteletben tartaniuk.

A nyilatkozat, amelyet a csoport kifejezetten abból a célból készített, hogy feltárja mely, az uniós értékekből és az EU Alapjogi Kartájából származó etikai elveket kell érvényesíteni a szóban forgó technológiák részletes szabályozásában, és amelynek nem volt célja konkrét szabályozási elvek meghatározása, az érvényesítendő etikai elvek átfogó listáját állította össze. Ezzel párhuzamosan azon lehetséges etikai kockázatok körét is feltérképezte, amelyeket a jövőben az uniós szakpolitikának és szabályozásnak – ha az értékek és az alapvető jogok védelme céljaik között marad – kezelnie kell. Az etikai elveket kilenc nagyobb csoportba sorolta az alábbi elnevezések szerint: emberi méltóság; személyi autonómia; felelősség; igazságosság, méltányosság és szolidaritás; demokrácia, jogállamiság és elszámoltathatóság; biztonság; biztonságos működés és a használók integritásának védelme; a magánélet és a személyes adatok védelme; fenntarthatóság.

Az EU MI szakpolitikáját és szabályozását közvetlenül befolyásolni hivatott etikai elveket a Bizottság MI magas szintű szakértői csoportja (High-level expert group on AI, AI HLEG) állította össze. A szakértői csoport a „Megbízható mesterséges intelligencia etikai iránymutatásai”12 elnevezésű dokumentuma a szabályozás és a szakpolitika középpontjába a megbízható MI fogalmát állította. A fogalom az MI emberközpontú, az alapvető jogok védelmét és azokból származó etikai elvek érvényesítését szem előtt tartó értelmezésén alapul. Az iránymutatások definíciója értelmében a technológia emberközpontúsága azt jelenti, hogy az MI csupán eszköz az emberiség számára, amelyet a közérdekre és az emberiség érdekeire tekintettel szabad csak használni, egyedül abból a célból, hogy növekedjen az emberek jóléte és szabadsága. A dokumentum egyértelműen szembeállította az EU ipar- és gazdaságpolitika kapcsolódó hasznossági és hatékonysági megalapozottságú célkitűzéseit az MI megbízhatóságának értékalapú elvárásával, viszont azt is fenntartotta, hogy ezeket meg kell és meg is lehet párhuzamosan valósítani. A szakértői csoport egy másik dokumentumban13 azt az elképzelést vezette elő, hogy az európai MI-ágazat versenyképességét a felelősségre és a megbízhatóságra kell alapítani. Ez viszont feltételezi, hogy az MI fejlesztését és használatát etikai felügyeleti és megbízhatósági ellenőrzési rendszer alá kell rendelni.

A megbízható MI fogalmának kialakítása megerősítette, hogy az uniós MI szakpolitikában és szabályozásban párhuzamosan kell érvényesülniük az ipar-, gazdaság- és technológia-politikai szempontoknak, valamint a technológia társadalmi és morális környezetével kapcsolatos követelményeknek. A szakértői csoport etikai iránymutatásai világosan rögzítették, hogy az MI akkor tekinthető megbízhatónak és így bevezethetőnek Európában, amennyiben egyszerre teljesíti a jogszerűség, az etikai megfelelőség, a technológiai stabilitás, valamint a társadalmi kiszámíthatóság követelményeit. A fogalom az MI-t egyértelműen összeköti az uniós jog alapjogvédelmi és más kapcsolódó jogvédelmi (például adat- és fogyasztóvédelmi) rendszereivel. Az iránymutatások jogvédelmi, különösen alapjogvédelmi követelményei egyértelmű átfedésben vannak az Európai Etikai Csoport 2018-as nyilatkozatában meghatározott etikai elvekkel. Továbbá számos konkrét szabályozási jelentőségű részletkövetelményt fogalmaztak meg, mint például a technológiai átláthatóság és nyitottság követelményét, amely az MI megmagyarázhatóságának elvárását foglalta magában. Az utóbbi a döntések a felhasználók számára történő utólagos magyarázatának kötelezettségeként is megjelent. További követelmény volt a károk és ártalmak megelőzésének elve, amely egyrészt az MI-rendszerek biztonságos működésének elvárását foglalta magában, valamint annak tilalmát, hogy az MI-rendszerek károkat vagy sérüléseket okozzanak az embereknek, vagy azokat súlyosbítsák. Az iránymutatások világossá tették, hogy az MI-rendszerek nem sérthetik az emberi méltóság és autonómia elveit, illetve az MI-rendszereknek pontosan ezen értékek érvényesülését kell megerősíteniük.

Az Európai Bizottság tényleges MI szakpolitikájának részleteit ezen ideológiai és koncepcionális keretek között dolgozta ki. A Bizottság 2018-as MI közleménye [COM(2018) 237 final]14 az uniós szakpolitikai keret álalános elveként és a jövőben elfogadandó szabályozás külön feladataként határozta meg, hogy a technológiai fejlődésnek az EU értékek és az EU alapjogok védelmén, valamint a technológiai partnerek közötti bizalmon kell alapulnia. A közlemény is elismerte, hogy a kívánt szakpolitikai keretnek több pilléren kell nyugodnia. Ennek megfelelően az MI szabályozását egyszerre több területen, több célt követve kell kialakítani. A Bizottság javaslata szerint a szabályozási keret tartalmazná egyrészt a meglévő és az előkészületben lévő uniós adatvédelmi, valamint hálózat- és információbiztonsági jogszabályokat, a termékbiztonsági és termékfelelősségi jogszabályokat, valamint azt a szabályozást, amely az alapvető jogok védelme szempontjából szabályozná a technológiát. Tematikusan az uniós szabályozásnak le kell fednie az MI-rendszerek megmagyarázhatóságát és átláthatóságát, a szellemi tulajdonjogok védelmét, valamint az MI-rendszerekkel összefüggésbe hozható jelentősebb kockázatokat. Az utóbbiak közé tartoznak: az MI-rendszerek köz- és nemzetbiztonsági kockázatai; az MI-rendszerek okozta hátrányos megkülönböztetés; az MI-rendszerek működésének kockázatai; az MI-vel működő technológiák elterjedésének diszkriminatív és más negatív társadalmi hatásai; az MI-rendszerek használata során felmerülő döntési hibák és torzítások.

A Bizottság 2019-es közleménye [COM(2019) 168 final]15 a kialakulóban lévő szabályozási koncepcióhoz kapcsolódóan külön szabályozási stratégiát hirdetett meg. A magas szintű szakértői csoporthoz hasonlóan a Bizottság úgy ítélte meg, hogy az értékek és az alapvető jogok védelmét céljai között elismerő uniós szabályozás, amely garantálja, hogy a kifejlesztett és a bevezetett MI-rendszerek megfeleljenek az emberközpontúság és az etikai követelményeknek megfelelő működés elvárásainak, meg fogja alapozni Európa globális szintű vezető szerepét és versenyképességét a technológiában. Várakozásai szerint az európai társadalmak alapvető értékeinek megfelelő és emiatt a használók szempontjából megbízhatónak minősülő AI-rendszerek, amelyek létrejöttét az EU szabályozás kényszeríti ki, a világon mindenhol keresettek lesznek. Lényegében Európa sajátos fókuszú szabályozása révén, kiterjedt technológiai képességek hiányában is képes lesz vezető pozíciót kialakítani és azt fenntartani a globális technológiai versenyben. A 2020-as MI Fehér Könyv [COM(2020) 65 final]16 tovább pontosította az uniós szabályozási koncepciót és stratégiát. A dokumentumban a Bizottság ismét elkötelezte magát amellett, hogy olyan szabályozást vezet be, amely egyszerre garantálja a technológiai fejlődést és a szóban forgó technológia által veszélyeztetett alapvető értékek és jogok védelmét. Továbbá megerősítette, hogy ez a szabályozás garantálni fogja Európa versenyképességét. Ez abból következik, hogy olyan MI-rendszerek kifejlesztését és bevezetését teszi lehetővé, amelyek megfelelnek a társadalmak alapvető értékeinek.

Az egymással párhuzamos szabályozási szempontok és célok összeegyeztethetőségét valló MI Fehér Könyv a magas szintű szakértői csoport etikai iránymutatásaihoz hasonlóan rögzítette, hogy az előnyök és hátrányok értékelése és a közöttük lévő egyensúly felállítása során figyelembe kell venni, hogy a technológia nemcsak kockázatot jelent az alapvető jogok védelme szempontjából, hanem a jövőben biztosítéka lehet az alapvető jogok mind hatékonyabb érvényesülésének. Az MI Fehér Könyv nem részletezte, hogy a párhuzamos, feltehetően egymással versenyző, esetlegesen egymásnak ellentmondó, egyrészről gazdasági, másrészről társadalmi jellegű szabályozási célok mennyiben egyeztethetők össze, illetve pontosan hogyan lehetne közöttük a kívánt egyensúlyt megteremteni. Arra sem tért ki, hogy ezek a törekvések, valamint megvalósításuk nyilvánvaló nehézségei milyen módon befolyásolhatják a szabályozás hatékonyságát. Az MI Fehér Könyv azt sem vizsgálta mélyrehatóan, hogy figyelembe véve a technológia bevezetéséből eredő kockázatok és előnyök bizonytalanságait – például a jelenlegi és a jövőbeli társadalmi kockázatok és előnyök közötti kapcsolat tisztázatlan, előre fel nem mérhető kérdéseit –, lehetséges-e egyáltalán a hatékony szabályozás. A dokumentum az előbb bemutatott szabályozási stratégiát meghirdetve kínált megoldást. Ennek lényege, hogy az értékek és az alapvető jogok védelmét céljai között elismerő uniós szabályozás minden szabályozási igényt ki tud elégíteni. A szabályozásnak megfelelő, megbízható MI nemcsak az etikai és az alapvető jogokkal kapcsolatos követelményeknek fog megfelelni, hanem olyan technológiát is képvisel, amelyet a piaci szereplők keresni fognak.