Jó eséllyel igen, még ha nem is vetted észre. Számos állami intézmény, hivatal használ algoritmusokat működése során, például gyorshajtók kiszűrésénél, vizsgálati mintavételnél vagy térfigyelő kamerák működtetése során. Bizonyos országokban a bírósági ügyeket is algoritmusok osztják ki, máshol algoritmusok ajánlanak új munkát az álláskeresőknek, vagy sorolnak betegeket kockázati kategóriákba. A K-Monitor más közép-kelet európai szervezetekkel felmérést végzett arról, hogy milyen területeken használnak a közigazgatásban algoritmusokat, és milyen szabályok határozzák meg ezek működését.

A demokráciák létrejöttének egyik jelentős eredménye, hogy a polgárok elviekben védettséget élveznek az állam önkényétől. A róluk hozott döntéseket jó esetben nem zárt hivatali helyiségekben, senki által nem ismert protokollok alapján hozzák meg, hanem a jog uralma alatt, átlátható folyamatok és az egyének számára is hozzáférhető szempontok szerint. A XXI. században azonban nem várt nehézségbe ütköztünk: sorra látnak napvilágot a hírek, hogy nemcsak a milliók életét és látásmódját befolyásoló globális techcégek algoritmusai átláthatatlanok, de az állami szervek automatizált döntéshozatali mechanizmusai sem mindig állnak a polgárok közvetett kontrollja alatt. Ez az új fenyegetés újfajta jogokat és szabályokat igényel, hogy a digitális világban is megőrizhessük a szabadságunkat. 

A kutatásunk kulcsszava az alGOVritmus, amely olyan, a kormányzatok által használt automatizált döntési, kiválasztási mechanizmusokat takar, melyek eredménye az állampolgárokat valamilyen módon érinti. Különös hangsúlyt fektettünk azon algoritmusokra, amelyek közvetlenül érintik az egyén jóllétét. Olyan folyamatokról vagy szabályrendszerekről van szó, amelyek kalkulációkon, számítógépes műveleteken keresztül emberi mérlegelés nélkül hoznak eredményt.

A kutatás az ePaństwo Alapítvány (Lengyelország), a KohoVolit.eu (Csehország és Szlovákia), az IDFI (Grúzia), a K-Monitor (Magyarország) és a CRTA (Szerbia) munkatársai által 2018 novembere és 2019 áprilisa között gyűjtött adatokra és az általuk végzett elemzésekre támaszkodik, teljes egészében ezen a linken olvasható angolul.

A kutatás során a közigazgatás számos területen találtunk példát algoritmusok alkalmazására és automatizált döntéshozatalra, többek között a sebességkorlátozások betartásának ellenőrzésénél, bírák és tisztviselők kirendelésénél, ellenőrzések és felülvizsgálatok tárgyának kiválasztásánál, szociális juttatások elosztásánál, csalások felderítésénél vagy éppen közbeszerzések nyerteseinek a kiválasztásánál, de csak egyetlen példát találtunk mesterséges intelligencia vagy gépi tanulás alkalmazására ezen a területen. Érdekesség, hogy az általunk megkeresett intézmények között voltak, amelyek számára a példáink ellenére nem volt világos, hogy mit értünk algoritmus alatt, mások viszont kimerítő választ adtak. Ezekkel egy külön blogposztban fogunk foglalkozni.

A kutatásban részt vevő országok egyikében sem találtunk közigazgatási algoritmusokra vonatkozó szakpolitikai irányelveket vagy szabályozási koncepciót. Noha készültek a visegrádi országokban a mesterséges intelligencia használatának támogatására vonatkozó stratégiák, egyik állam sem alkotott még olyan szabályozást vagy akár etikai irányelvet, amely automatikus döntéshozatal átláthatóságát és ellenőrizhetőségét szavatolná.

Szintúgy nem találtunk olyan jogi szabályozást, amely átfogóan tárgyalná az állam kötelezettségeit és az állampolgárok jogait ezen a területen. Ahol találtunk algoritmusokra vonatkozó szabályokat, ott is egy-egy algoritmus valamely aspektusára vonatkozó szabályról van szó, mint például egyes eljárások bírókhoz való rendelésének esetében, vagy Magyarországon az általános közigazgatási rendtartásról szóló törvényben, kérelmek elbírálásának vonatkozásában.

Az Európai Unió országaiban az automatizált döntéshozatalra vonatkozó általános szabályokat az Általános Adatvédelmi Rendelet (General Data Protection Regulation, GDPR) 2018. májusi életbe lépésének köszönhetően vezették be. A GDPR 22. cikkének első paragrafusa szerint „az érintett jogosult arra, hogy ne terjedjen ki rá az olyan, kizárólag automatizált adatkezelésen – ideértve a profilalkotást is – alapuló döntés hatálya, amely rá nézve joghatással járna vagy őt hasonlóképpen jelentős mértékben érintené.” Ugyanakkor az általunk vizsgált esetekben az algoritmus közreműködése mellett megmarad az „emberi tényező” is, tehát ilyen formában ez a szabály nem jelent valódi védelmet. Ebbe a kategóriába tartozik az összes vizsgált országban alkalmazott automatizált kamerás sebességmérés (VÉDA-rendszer).

Megállapítottuk, hogy az automatizált döntéshozatal céljából megalkotott szoftverek nem átláthatók, és az algoritmusokhoz vagy azok forráskódjához való hozzáférés csak a legritkább esetben lehetséges. Egyetlen vizsgált országban sem találtunk olyan intézményt, amely nyilvántartja, vagy felügyeli az adott országban működtetett automatizált döntéshozatali rendszereket. 

A kutatás eredményei (angolul)

Részletes szakpolitikai ajánlásaink (magyarul)

Javaslatok

A kutatással szerettünk volna hozzájárulni a témában zajló szakmai vita élénküléséhez és ahhoz, hogy a közeljövőben megtörténjenek azok a szakpolitikai döntések, amelyek elengedhetetlenek ahhoz, hogy a szabályozási környezet kövesse az automatizált döntéshozatal és az algoritmusok területén lezajlott gyors változásokat. Alább következzen néhány olyan intézkedés, amely szerintünk jelentős előrelépést jelente a közigazgatási algoritmusok szabályozásának területén. 

1) Algoritmusok használatára vonatkozó irányelvek megalkotása: Szülessenek meg az algoritmusokra vonatkozó alapvető irányelvek, amely reflektál arra, hogy az algoritmusok nem elszigetelten működnek, sokféle hatásuk lehet.

2) Kormányon belüli koordinációs testület felállítása: Fontosnak tartjuk, hogy a meglévő intézményrendszeren belül kijelöljék azt az intézményt, amely felelős az az automatizált döntéshozatalra vonatkozó koordinációs munkáért.

3) Az automatizált döntésekre vonatkozó egyértelmű és átfogó jogi környezet megteremtése: Meg kell teremteni az automatizált döntéshozatal jogi definícióját, figyelembe véve annak összetett természetét és sokrétű felhasználhatóságát. A jogi szabályozásnak ki kell terjednie az algoritmus forráskódjának átláthatóságára, illetve működésének leírására, beleértve a felhasznált adatok körét és a működést befolyásoló tényezők felsorolását.

4) Etikai iránymutatások: Az etikai iránymutatásoknak követniük kell a közigazgatásra vonatkozó általános elvárásokat, mint a diszkriminációmentesség, az egyén jogainak tiszteletben tartása, beleértve az azzal kapcsolatos tájékoztatáshoz való jogot, hogy mely adatokat milyen célból dolgoznak fel.

5) A civil társadalom és külső szakértők bevonása az algoritmusok megalkotásának teljes folyamatába: A közigazgatási algoritmusok megalkotása során, azok összetettsége miatt elengedhetetlen a multidiszciplináris megközelítés. A társadalmi szervezetek és a külső szakértők szerepe fontos továbbá az algoritmusok működésének ellenőrzése és monitorozása során is, annak értékelésében, hogy az algoritmusok megfelelően szolgálják-e az eredetileg kitűzött célokat. 

6) Az algoritmusok hatásvizsgálatának bevezetése: Amennyiben az algoritmusok hatásvizsgálata az automatizált döntéshozatali megoldások megalkotásának kötelező része volna, világossá válna minden esetben, hogy mi a kormány vagy az adott szerv célja az algoritmus megalkotásával, később pedig értékelhető volna, hogy mennyiben érte el célját, mely társadalmi csoportokra van hatással.

7) Átláthatósági passzus alkalmazása szoftvercégekkel kötött szerződéseknél és a forráskódhoz való nyílt hozzáférés biztosítása: Csak a forráskódhoz való hozzáféréssel ellenőrizhető tényleges az algoritmus működése. Csak kivételes esetekben engedélyezhető azok zártan kezelése (pl. amikor nemzetbiztonsági érdekből indokolható).

8) Az algoritmusok működését magyarázó útmutatók kiadása: Az iránymutatásokra nemcsak az általános tájékoztatás miatt van szükség, hanem annak érdekében is, hogy az azzal dolgozó tisztségviselők is teljességgel megértsék a munkájukat támogató algoritmus működését, céljait és az esetleges kockázatokat.

9) Felülvizsgálati és jogorvoslati rendszer kidolgozása: Biztosítani kell, hogy a közigazgatási algoritmusok működésével kapcsolatos problémák vagy szabálytalanságok megoldására létezzenek alacsonyabb szintű felülvizsgálati és jogorvoslati rendszerek.Szükségesnek tartjuk az algoritmusok rendszeres „műszaki vizsgáztatását” is, amelyek során külső, független szakemberek vizsgálják az algoritmusok pontos és elfogulatlan működését. A vizsgálatok eredménye az szerv honlapján publikálandó.

 A kutatást a Visegrádi Alap támogatta.