háló

Közpénz nem vész el, csak átalakul. A K-blog ezt a különös fizikai jelenséget vizsgálja.

pokhalo_ado_2_b_kicsi.jpg

EU hírek

EU hírek

ms-kitek.png

Infografika

Átláthatóság

Modern városok

English materials

legyel_az_onkentesunk.png

Facebook

Címkék

1% (3) 2014 (1) 2018 (1) adatigénylés (39) adatok (50) adatozz okosan (22) adatsprint (3) adatvédelem (4) adatvédelmi (1) Áder János (1) adócsalás (1) afganisztán (1) afrika (3) agrártámogatások (10) ajándék (1) algoritmusok (1) alkotmánybíróság (3) alkotmányozás (1) állami szféra (4) állás (2) amsterdam (1) antikorrupció (32) anti korrupció (24) asp (3) ÁSZ (1) átlátható (1) átláthatóság (158) atomenergia (1) atomerőmű (2) ausztria (1) Azerbajdzsán (2) a szomszéd kertje (2) Bahrein (1) balkán (1) ballmer (1) bánkitó (1) bell and partners (1) berlusconi (1) bíróság (1) bizottság (2) biztos (1) bkk (1) bolívia (1) bosznia hercegovina (1) bővítés (1) btk (1) budapest (3) bulgária (1) bunda (1) cégek (2) cenzúra (3) ciklusértékelő (1) civilek (7) civilzseb (3) civil kapocs (1) CÖF (2) compr (4) conspiracy for democracy (1) crowdsourcing (3) csalás (2) csányi (6) csatorna (1) Csehország (1) daimler (1) databoom (1) dél-korea (1) demokrácia (2) direkt36 (1) dk (2) e-government (1) egészségügy (1) egyesült (2) egyesült királyság (2) egyiptom (1) együtt (1) együtt2014 (1) ekd (1) elnökség (1) english (9) ensz (2) eötvös károly közpolitikai intézet (1) építőipar (7) érdekérvényesítés (1) erzsébet (2) esemény (2) észtország (1) eu (34) eurobarometer (1) európai (2) eu elnökség (1) évvégi (4) exszabi (1) ezaminimum (8) e governance (1) facebook (1) fehér könyv (1) felcsút (2) felejtéshez való jog (1) fidesz (3) fizetések (1) flier (3) földbérlet (1) forgóajtó (1) fotó (1) franciaország (1) futball (1) garancsi istván (1) geodézia (1) goldenblog (1) görögország (2) GRECO (1) gruevszki (1) Grúzia (3) gyógyszergyártás (1) gysev (1) hackathon (4) hacks hackers (1) hálapénz (2) hamburg (2) helsinki bizottság (1) heves (1) hillary clinton (1) hírlevél (2) hódmezővásárhely (1) honlap (1) honvédelmi (1) Horváth András (1) horvátország (1) Hungary (1) idegenforgalom (1) igazságszolgáltatás (1) infografika (45) információszabadság (40) ingatlan (4) integritás (1) international (3) internet (4) internetpenetráció (1) IPI (1) izland (3) játék (1) jobbik (2) jogalkotás (13) k-monitor (9) k-teszt (4) kalifornia (1) kampány (13) kampányfinanszírozás (24) kdnp (1) KEHI (2) kenőpénz (1) képviselő (3) képzés (1) kerényi imre (1) királyság (2) költségvetés (6) kormányzati adatok (1) korrupció (26) korrupciós séta (2) közadatok (4) közbeszerzés (43) közérdekű (3) közérdekű bejelentő (3) közgép (10) Közgép (2) közpénz (26) külföld (54) kultúra (3) k monitor (48) Lázár János (4) légifotó (1) leisztinger (7) lengyelország (3) libéria (1) liget (1) lmp (2) lobb (1) lobbi (8) macedónia (1) magánszektor (2) magyarország (47) mahir (2) MÁK (6) máv (2) media (2) média (7) meetup (3) mentelmi bizottság (1) mészáros lőrinc (7) mezőgazdaság (10) microsoft (1) miniszterelnökség (3) minisztérium (2) mnb (2) MNV (2) mobilapp (3) modern városok (7) moldávia (2) montenegró (1) mozgaskorlatozott (1) mszp (2) mtva (1) munkaerőpiac (1) mvh (2) NAIH (4) NAV (3) navalnij (3) NCTA (3) németország (6) nemzetbiztonság (1) nepotizmus (1) népszavazás (1) nerhotel (3) new york (1) ngm (1) nhit (1) NIF (1) nkoh (2) nyerges (6) nyílt adat (1) nyílt kormányzás (19) obama (2) OGP (21) OGP16 (1) OHÜ (2) OKFN (5) oktatás (1) olaszország (1) olimpia (1) önkéntes (3) önkormányzat (28) opencorporates (1) Open Knowledge (3) Orbán Ráhel (1) orbán viktor (5) oroszország (9) országgyűlés (3) összeférhetetlenség (2) ösztöndíj (1) pakisztán (1) paks (2) PallasAthene (1) párbeszéd magyarországért (1) parlament (6) pártfinanszírozás (9) pártok (9) pénzmosás (1) per (5) politika (2) politikusok (1) porto alegre (1) portugália (1) posta (1) prestige media (1) privacy (1) privatizáció (1) program (2) psi (2) publimont (1) putyin (1) rágalmazás (1) red flags (3) RekonstrukceStatu (1) rendelet (1) replicationsprint (1) részvétel (10) revolving door (1) right to know (1) rogán cecília (1) rokonok (1) rólunk (1) románia (2) rospil (1) sajtószabadság (5) sarka kata (1) school of data (2) siemens (1) simicska (18) Simon Gábor (1) smart city (3) sopot (1) spanyolország (3) sport (7) strabag (1) sunlight (1) századvég (1) szerbia (2) szerzői jog (1) Szijjártó Péter (1) szlovénia (1) szólásszabadság (2) szponzoráció (1) Tactical Technology Collective (1) takarítás (1) támogatás (12) tasz (11) térkép (11) teszt (1) thales (1) theengineroom (1) timeline (1) titkosszolgálat (1) törvényhozás (4) trafikmutyi (2) transparency (4) trócsányi (1) TTIP (1) tulajdonos (2) tunézia (1) ud (1) ügyészség (2) új nemzedék központ (1) ukrajna (1) uncac (2) unió (1) usa (18) usaid (1) utalvány (1) utazás (6) vagyonnyilatkozat (29) Vagyonnyilatkozatok Hajnala (8) választások (11) vám (1) várhegyi (2) varsó (1) vasút (2) vesztegetés (6) vietnam (1) vizes vébé (2) vizuális (3) Voksmonitor (5) whistleblowing (14) wikileaks (4) workshop (2) young and partners (1) zambia (1) zmne (1) zrt. (1)

Te találkoztál már közigazgatási algoritmussal?

MerényiM // 2019.05.29.

Címkék: algoritmusok átláthatóság antikorrupció anti korrupció adatigénylés

Jó eséllyel igen, még ha nem is vetted észre. Számos állami intézmény, hivatal használ algoritmusokat működése során, például gyorshajtók kiszűrésénél, vizsgálati mintavételnél vagy térfigyelő kamerák működtetése során. Bizonyos országokban a bírósági ügyeket is algoritmusok osztják ki, máshol algoritmusok ajánlanak új munkát az álláskeresőknek, vagy sorolnak betegeket kockázati kategóriákba. A K-Monitor más közép-kelet európai szervezetekkel felmérést végzett arról, hogy milyen területeken használnak a közigazgatásban algoritmusokat, és milyen szabályok határozzák meg ezek működését.

A demokráciák létrejöttének egyik jelentős eredménye, hogy a polgárok elviekben védettséget élveznek az állam önkényétől. A róluk hozott döntéseket jó esetben nem zárt hivatali helyiségekben, senki által nem ismert protokollok alapján hozzák meg, hanem a jog uralma alatt, átlátható folyamatok és az egyének számára is hozzáférhető szempontok szerint. A XXI. században azonban nem várt nehézségbe ütköztünk: sorra látnak napvilágot a hírek, hogy nemcsak a milliók életét és látásmódját befolyásoló globális techcégek algoritmusai átláthatatlanok, de az állami szervek automatizált döntéshozatali mechanizmusai sem mindig állnak a polgárok közvetett kontrollja alatt. Ez az új fenyegetés újfajta jogokat és szabályokat igényel, hogy a digitális világban is megőrizhessük a szabadságunkat. 

1_1.png

A kutatásunk kulcsszava az alGOVritmus, amely olyan, a kormányzatok által használt automatizált döntési, kiválasztási mechanizmusokat takar, melyek eredménye az állampolgárokat valamilyen módon érinti. Különös hangsúlyt fektettünk azon algoritmusokra, amelyek közvetlenül érintik az egyén jóllétét. Olyan folyamatokról vagy szabályrendszerekről van szó, amelyek kalkulációkon, számítógépes műveleteken keresztül emberi mérlegelés nélkül hoznak eredményt.

A kutatás az ePaństwo Alapítvány (Lengyelország), a KohoVolit.eu (Csehország és Szlovákia), az IDFI (Grúzia), a K-Monitor (Magyarország) és a CRTA (Szerbia) munkatársai által 2018 novembere és 2019 áprilisa között gyűjtött adatokra és az általuk végzett elemzésekre támaszkodik, teljes egészében ezen a linken olvasható angolul.

A kutatás során a közigazgatás számos területen találtunk példát algoritmusok alkalmazására és automatizált döntéshozatalra, többek között a sebességkorlátozások betartásának ellenőrzésénél, bírák és tisztviselők kirendelésénél, ellenőrzések és felülvizsgálatok tárgyának kiválasztásánál, szociális juttatások elosztásánál, csalások felderítésénél vagy éppen közbeszerzések nyerteseinek a kiválasztásánál, de csak egyetlen példát találtunk mesterséges intelligencia vagy gépi tanulás alkalmazására ezen a területen. Érdekesség, hogy az általunk megkeresett intézmények között voltak, amelyek számára a példáink ellenére nem volt világos, hogy mit értünk algoritmus alatt, mások viszont kimerítő választ adtak. Ezekkel egy külön blogposztban fogunk foglalkozni.

A kutatásban részt vevő országok egyikében sem találtunk közigazgatási algoritmusokra vonatkozó szakpolitikai irányelveket vagy szabályozási koncepciót. Noha készültek a visegrádi országokban a mesterséges intelligencia használatának támogatására vonatkozó stratégiák, egyik állam sem alkotott még olyan szabályozást vagy akár etikai irányelvet, amely automatikus döntéshozatal átláthatóságát és ellenőrizhetőségét szavatolná.

Szintúgy nem találtunk olyan jogi szabályozást, amely átfogóan tárgyalná az állam kötelezettségeit és az állampolgárok jogait ezen a területen. Ahol találtunk algoritmusokra vonatkozó szabályokat, ott is egy-egy algoritmus valamely aspektusára vonatkozó szabályról van szó, mint például egyes eljárások bírókhoz való rendelésének esetében, vagy Magyarországon az általános közigazgatási rendtartásról szóló törvényben, kérelmek elbírálásának vonatkozásában.

Az Európai Unió országaiban az automatizált döntéshozatalra vonatkozó általános szabályokat az Általános Adatvédelmi Rendelet (General Data Protection Regulation, GDPR) 2018. májusi életbe lépésének köszönhetően vezették be. A GDPR 22. cikkének első paragrafusa szerint „az érintett jogosult arra, hogy ne terjedjen ki rá az olyan, kizárólag automatizált adatkezelésen – ideértve a profilalkotást is – alapuló döntés hatálya, amely rá nézve joghatással járna vagy őt hasonlóképpen jelentős mértékben érintené.” Ugyanakkor az általunk vizsgált esetekben az algoritmus közreműködése mellett megmarad az „emberi tényező” is, tehát ilyen formában ez a szabály nem jelent valódi védelmet. Ebbe a kategóriána tartozik az összes vizsgált országban alkalmazott automatizált kamerás sebességmérés (VÉDA-rendszer).

Megállapítottuk, hogy az automatizált döntéshozatal céljából megalkotott szoftverek nem átláthatók, és az algoritmusokhoz vagy azok forráskódjához való hozzáférés csak a legritkább esetben lehetséges. Egyetlen vizsgált országban sem találtunk olyan intézményt, amely nyilvántartja, vagy felügyeli az adott országban működtetett automatizált döntéshozatali rendszereket. 

Néhány példa kormányzati algoritmusokra hazánkban:

Európai Támogatásokat Auditáló Főigazgatóság (EUTAF) vizsgálati minta kiválasztása, Nemzeti Eszközkezelő szerződései, Fővárosi Rendészeti Igazgatóság margitszigeti futókör CCTV kameráinak működése, a Magyar Államkincstár önkormányzati ellenőrzései, NAV-ellenőrzések, Nemzeti Egészségbiztosítási Alapkezelő gyógyszer-finanszírozási döntései, NÉBIH élelmiszerbiztonsági és egyéb ellenőrzései, az ORFK VÉDA-rendszere, Országos Meterológiai Szolgálat előrejelzései

61945065_682543272204468_7838712316207038464_n.jpg

 

A kutatás eredményei (angolul)

Részletes szakpolitikai ajánlásaink (magyarul)

Javaslatok

A kutatással szerettünk volna hozzájárulni a témában zajló szakmai vita élénküléséhez és ahhoz, hogy a közeljövőben megtörténjenek azok a szakpolitikai döntések, amelyek elengedhetetlenek ahhoz, hogy a szabályozási környezet kövesse az automatizált döntéshozatal és az algoritmusok területén lezajlott gyors változásokat. Alább következzen néhány olyan intézkedés, amely szerintünk jelentős előrelépést jelente a közigazgatási algoritmusok szabályozásának területén. 

1) Algoritmusok használatára vonatkozó irányelvek megalkotása: Szülessenek meg az algoritmusokra vonatkozó alapvető irányelvek, amely reflektál arra, hogy az algoritmusok nem elszigetelten működnek, sokféle hatásuk lehet.

2) Kormányon belüli koordinációs testület felállítása: Fontosnak tartjuk, hogy a meglévő intézményrendszeren belül kijelöljék azt az intézményt, amely felelős az az automatizált döntéshozatalra vonatkozó koordinációs munkáért.

3) Az automatizált döntésekre vonatkozó egyértelmű és átfogó jogi környezet megteremtése: Meg kell teremteni az automatizált döntéshozatal jogi definícióját, figyelembe véve annak összetett természetét és sokrétű felhasználhatóságát. A jogi szabályozásnak ki kell terjednie az algoritmus forráskódjának átláthatóságára, illetve működésének leírására, beleértve a felhasznált adatok körét és a működést befolyásoló tényezők felsorolását.

 

K-Monitor: Technológiával, tudással és részvétellel a korrupció ellen. Támogasd a munkánkat!

  ▶︎ Adományozz átutalással, vagy PayPalon: k-monitor.hu/tamogatas

 

4) Etikai iránymutatások: Az etikai iránymutatásoknak követniük kell a közigazgatásra vonatkozó általános elvárásokat, mint a diszkriminációmentesség, az egyén jogainak tiszteletben tartása, beleértve az azzal kapcsolatos tájékoztatáshoz való jogot, hogy mely adatokat milyen célból dolgoznak fel.

5) A civil társadalom és külső szakértők bevonása az algoritmusok megalkotásának teljes folyamatába: A közigazgatási algoritmusok megalkotása során, azok összetettsége miatt elengedhetetlen a multidiszciplináris megközelítés. A társadalmi szervezetek és a külső szakértők szerepe fontos továbbá az algoritmusok működésének ellenőrzése és monitorozása során is, annak értékelésében, hogy az algoritmusok megfelelően szolgálják-e az eredetileg kitűzött célokat. 

6) Az algoritmusok hatásvizsgálatának bevezetése: Amennyiben az algoritmusok hatásvizsgálata az automatizált döntéshozatali megoldások megalkotásának kötelező része volna, világossá válna minden esetben, hogy mi a kormány vagy az adott szerv célja az algoritmus megalkotásával, később pedig értékelhető volna, hogy mennyiben érte el célját, mely társadalmi csoportokra van hatással.

7) Átláthatósági passzus alkalmazása szoftvercégekkel kötött szerződéseknél és a forráskódhoz való nyílt hozzáférés biztosítása: Csak a forráskódhoz való hozzáféréssel ellenőrizhető tényleges az algoritmus működése. Csak kivételes esetekben engedélyezhető azok zártan kezelése (pl. amikor nemzetbiztonsági érdekből indokolható).

8) Az algoritmusok működését magyarázó útmutatók kiadása: Az iránymutatásokra nemcsak az általános tájékoztatás miatt van szükség, hanem annak érdekében is, hogy az azzal dolgozó tisztségviselők is teljességgel megértsék a munkájukat támogató algoritmus működését, céljait és az esetleges kockázatokat.

9) Felülvizsgálati és jogorvoslati rendszer kidolgozása: Biztosítani kell, hogy a közigazgatási algoritmusok működésével kapcsolatos problémák vagy szabálytalanságok megoldására létezzenek alacsonyabb szintű felülvizsgálati és jogorvoslati rendszerek.Szükségesnek tartjuk az algoritmusok rendszeres „műszaki vizsgáztatását” is, amelyek során külső, független szakemberek vizsgálják az algoritmusok pontos és elfogulatlan működését. A vizsgálatok eredménye az szerv honlapján publikálandó.

 A kutatást a Visegrádi Alap támogatta.

 

tarsadalmi_reszvetelert_1.png


Szólj hozzá!

A bejegyzés trackback címe:

https://k.blog.hu/api/trackback/id/tr7514581750

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.