háló

Közpénz nem vész el, csak átalakul. A K-blog ezt a különös fizikai jelenséget vizsgálja.

EU hírek

EU hírek

ms-kitek.png

Infografika

Átláthatóság

Agrártámogatások

English materials

Hírlevél

Legfrissebb tanulmányainkról, fejlesztéseinkről értesülj havi beszámolónkból!

 


Hírek

Nincs megjeleníthető elem

Címkék

1% (4) 2014 (1) 2018 (1) adat (3) adatigénylés (87) adatok (97) adatozz okosan (23) adatsprint (3) adatvédelem (6) adatvédelmi (1) Áder János (1) adócsalás (1) afganisztán (1) afrika (3) agrártámogatások (17) ajándék (1) algoritmusok (3) alkotmánybíróság (6) alkotmányozás (1) állami szféra (4) állás (10) amsterdam (1) antikorrupció (70) anti korrupció (44) asp (3) ÁSZ (5) átlátható (1) átláthatóság (241) atomenergia (1) atomerőmű (2) ausztria (1) Azerbajdzsán (2) a szomszéd kertje (2) Bahrein (1) balaton (2) balkán (1) ballmer (1) bánkitó (1) bell and partners (1) berlusconi (1) bethlen gábor alap (1) bíróság (11) bizottság (4) biztos (1) bkk (1) bolívia (1) bosznia hercegovina (1) bővítés (1) btk (1) budapest (14) bulgária (1) bunda (1) c4hu (2) (1) cégek (4) cenzúra (3) cerv (1) chile (1) chilecracia (1) ciklusértékelő (1) civilek (18) civilzseb (3) civil kapocs (1) CÖF (2) compr (4) conspiracy for democracy (2) covid (1) crowdfunding (4) crowdsourcing (3) csalás (2) csányi (9) csatorna (1) Csehország (1) daimler (1) databoom (1) dél-korea (1) demokrácia (4) direkt36 (1) dk (3) drón (3) e-government (2) egészségügy (18) egyesült (2) egyesült királyság (2) egyiptom (1) együtt (1) együtt2014 (1) ekd (3) elnökség (1) energiaválság (2) english (62) ensz (2) eötvös károly közpolitikai intézet (1) építőipar (10) érdekérvényesítés (3) erzsébet (2) esemény (3) esettanulmány (2) észtország (1) eu (77) eurobarometer (2) európai (3) EU conditionality (17) eu elnökség (1) évvégi (11) exszabi (1) ezaminimum (24) e governance (1) facebook (2) fehér könyv (1) felcsút (3) felejtéshez való jog (1) fidesz (7) fizetések (1) flier (3) földbérlet (1) forgóajtó (1) fotó (1) franciaország (1) futball (1) garancsi istván (1) geodézia (1) goldenblog (1) görögország (2) GRECO (1) gruevszki (1) Grúzia (3) gyógyszergyártás (1) gysev (1) hackathon (5) hacks hackers (1) hálapénz (12) hamburg (2) helsinki bizottság (1) HET (3) heves (1) hillary clinton (1) hirdetés (3) hírlevél (2) hódmezővásárhely (1) hök (1) honlap (1) honvédelmi (3) Horváth András (1) horvátország (1) Hungary (1) idege (1) idegenforgalom (5) igazságszolgáltatás (5) igazságügyi minisztérium (1) ígyszültem (6) infografika (83) információszabadság (71) ingatlan (5) integritás (2) integritás hatóság (4) international (3) internet (4) internetpenetráció (1) IPI (1) iskola (2) ITM (1) izland (3) játék (3) javaslat (7) jobbik (2) jog (2) jogalkotás (51) jogállamiság (11) jordánia (1) k-monitor (40) k-teszt (4) kalifornia (1) kampány (27) kampányfinanszírozás (44) kamupártok (8) kdnp (1) kegyelem (1) KEHI (2) kekva (9) kemcs (5) kenőpénz (1) képviselő (3) képzés (1) kerényi imre (1) kincstár (2) királyság (2) költségvetés (16) koncesszió (1) konzultáció (3) kormányzati adatok (3) koronavírus (9) korrupció (38) korrupciófigyelő (7) korrupciós séta (2) koszovó (1) közadatok (5) közbeszerzés (55) közérdekű (3) közérdekű bejelentő (6) Közgép (2) közgép (10) közigazgatás (2) közösértékeink (1) közpénz (38) külföld (61) kultúra (3) külügyminisztérium (4) k monitor (71) Lázár János (5) légifotó (1) leisztinger (7) lengyelország (7) libéria (1) liget (2) lmp (2) lobb (1) lobbi (8) macedónia (2) magánszektor (2) magyarország (89) mahir (2) MÁK (6) máv (3) mbvk (1) media (2) média (9) meetup (3) mentelmi bizottság (1) mészáros lőrinc (13) mezőgazdaság (13) microsoft (1) miniszterelnökség (4) minisztérium (5) mnb (2) MNV (4) mobilapp (3) modern városok (10) moldávia (2) monitoring (1) montenegró (1) mozgaskorlatozott (1) mszp (2) mtva (1) munkaerőpiac (1) mvh (2) naffa (1) NAIH (13) naih (1) NAV (4) navalnij (3) NCTA (3) németország (6) nemzetbiztonság (1) nepotizmus (1) népszavazás (1) nerhotel (9) new york (1) ngm (1) nhit (1) NIF (1) nkoh (3) nyerges (6) nyílt adat (4) nyílt kormányzás (20) nyitott önkormányzat (1) obama (2) OGP (22) OGP16 (1) OHÜ (2) OKFN (5) oktatás (6) olaszország (2) olimpia (1) oltás (1) önkéntes (3) önkormányzat (69) opencorporates (1) Open Knowledge (3) Orbán Ráhel (1) orbán viktor (10) oroszország (11) országgyűlés (4) összeférhetetlenség (3) ösztöndíj (1) pakisztán (1) paks (2) PallasAthene (1) panoráma (3) párbeszéd magyarországért (1) parlament (11) pártfinanszírozás (17) partimap (7) pártok (10) pénzmosás (4) pénzügyminisztérium (7) per (18) plakát (1) politika (2) politikusok (1) porto alegre (1) portugália (1) posta (1) prestige media (1) privacy (1) privatizáció (2) program (2) psi (2) publimont (1) putyin (1) rágalmazás (1) red flags (4) RekonstrukceStatu (1) rendelet (1) replicationsprint (1) részvétel (42) revolving door (1) right to know (1) rogán cecília (2) rokonok (3) rólunk (1) románia (4) rospil (1) RRF (9) sajtószabadság (5) sarka kata (1) Schadl György (2) school of data (2) siemens (1) simicska (20) Simon Gábor (1) smart city (3) sopot (1) spanyolország (3) sport (9) strabag (1) sunlight (1) századvég (2) szerbia (2) szerzői jog (1) Szijjártó Péter (2) szlovénia (1) szólásszabadság (2) szponzoráció (1) sztfh (1) Tactical Technology Collective (1) takarítás (1) támogatás (21) társadalmi egyeztetés (2) tasz (14) tényleges tulajdonos (1) tényleges tulajdonosi nyilvántartás (1) térkép (17) teszt (1) thales (1) theengineroom (1) tihany (1) timeline (1) titkosszolgálat (1) törvényhozás (5) trafikmutyi (2) transparency (5) trócsányi (1) TTIP (1) tulajdonos (2) tunézia (1) UBO (1) ügyészség (3) új nemzedék központ (1) ukrajna (2) uncac (2) unió (2) usa (18) usaid (1) utalvány (1) utazás (12) vagyonnyilatkozat (39) Vagyonnyilatkozatok Hajnala (8) választások (27) vám (1) várhegyi (2) varsó (2) vasút (2) végrehajtói kar (2) vesztegetés (6) vietnam (1) vitorlázás (2) vizes vébé (2) vizuális (4) Voksmonitor (11) Völner Pál (1) whistleblowing (15) wikileaks (4) workshop (3) young and partners (1) zambia (1) zmne (1)

Mennyire automatizáltak a közszféra eljárásai? (algovritmusok 3.0)

orsivin // 2023.04.27.

Címkék: közigazgatás algoritmusok átláthatóság e-government

Az elmúlt időszakban robbanásszerű fejlődésen mentek keresztül a számítógépes döntéshozatalt támogató informatikai eszközök. Míg pár éve a "mesterséges intelligencia" szóösszetételt a közbeszédben még gyakran egyfajta jövőbeli fantáziaképként emlegettük, ma már ez a jelen idejű technológia elválaszthatatlan részét képezi, amely egyre nagyobb teret nyer a szórakoztatóiparban, az oktatásban, kereskedelemben -- és az államigazgatásban is. Egy egyedülálló kutatássorozat keretében immár harmadik alkalommal vesznek részt a K-Monitor szakértői abban a munkában, ami a közép-kelet-európai régióban, Magyarországon, Lengyelországban, Csehországban és Koszovóban vizsgálja a közigazgatásban, illetve a közhatalmi szférában használt algoritmusokat. A kutatás legújabb szakaszát az Open Data Kosovo koordinálta.

A kutatás 2021-es szakaszában azt állapítottuk meg, hogy a régióban -- vélhetően részben annak köszönhetően, hogy a COVID-pandémia miatt hatalmas igény formálódott az elektronikusan elérhető szolgáltatásokra -- egyre több automatikus döntéshozatali mechanizmust alkalmaznak a közhatalmi szervek, és ezzel párhuzamosan a terület jogi szabályozásában is óriási mozgolódás kezdődött: Lengyelországban és Magyarországon is ebben az időszakban fogadták el például a mesterséges intelligencia stratégiát. Az újabb, 2023-as pillanatfelvétel azonban vegyes képet mutat, kevés új eszközt tudtunk azonosítani, és azt tapasztaltuk, hogy a szabályozási keretrendszerben sem történtek hatalmas előrelépések. A kutatás uniós tagállamai esetén ez többek között azzal is magyarázható, hogy az elmúlt két év során és jelenleg is annak az EU-s jogi keretrendszernek a fejlesztése zajlik, amelynek során megszülethet az Unió Mesterséges Intelligencia-rendelete --  az egyes tagállamok saját szabályozásukat részben ehhez fogják majd igazítani. Ugyanakkor egyértelmű, hogy a technológiai fejlődés nem áll meg pusztán attól, hogy az etikai és alapjogi alapelvek kidolgozása késlekedést szenved. 

screenshot-2023-04-05-153708.png

 

Szabályozás és stratégiák Magyarországon és a régióban 

Magyarországon különböző döntéseket segítő, támogató alkalmazásokat már a 2010-es évek közepe óta nagy számban használnak a különböző kormányzathoz tartozó szereplők, költségvetési szervek a legkülönbözőbb területeken a katasztrófavédelmetől kezdve az audit ellenőrzésekig. Fontos mérföldkő volt, hogy 2020 májusában elfogadták a Magyarország Mesterséges Intelligencia Stratégiáját. A stratégia különlegessége volt, hogy azt az akkori ITM a Mesterséges Intelligencia Koalícióval, egy főként iparági szereplőket tömörítő szervezettel közösen dolgozta ki (a Koalíciónak ugyanakkor jó néhány szakmai érdekképviseleti szervezet, kutatóintézet is tagja). A stratégiában hangsúlyos szerepet kapott a mesterséges intelligencia közhatalmi alkalmazása, és ezzel kapcsolatban intézkedési tervet is tartalmazott, ugyanakkor fő fókuszát az iparági fejlesztések adták (elsősorban az autóipar, egészségügy, agrárgazdálkodás). Az etikai szabályozásra, a mesterséges intelligencia felhasználásának korlátozására vonatkozóan nem rögzített (legfeljebb utalásképpen) szabályokat, ugyanakkor indítványozta egy etikai monitoring és tanácsadó szervezet felállítását, amelynek a későbbiekben lett volna feladata a konkrét etikai szabályok, szabályzatok, alapelvek megalkotása. Ezeknek a megalkotásáról ugyanakkor máig nincs hír, sőt az is kérdéses, hogy a Koalíció egyáltalán mennyire tekinthető aktívnak jelenleg ebben a kérdésben.
Érdemes lehet kitérni rá, hogy a Mesterséges Intelligencia Stratégia elfogadásának idején még a Belügyminisztérium volt a felelős az e-közigazgatással kapcsolatos fejlesztésekért, az ITM pedig az informatikáért, ennek következtében a Stratégiához kapcsolódó intézkedési terv főként erre a két minisztériumra telepített feladatokat. Ugyanakkor 2022 májusában mindkét terület a Rogán Antal által vezetett Kabinetirodához került, és 2022 augusztusában lényegében az egész terület (együtt azokkal a 100%-os állami tulajdonban lévő cégekkel, amelyek a különböző kormányzati fejlesztések megvalósításáért voltak felelősek) kiszervezték egy újonnan létrehozott Digitális Magyarország Ügynökségnek. Az átszervezés fő célja vélhetően az informatikai és e-közigazgatási fejlesztések áramvonalasítása, a stratégiák összehangolása volt, ugyanakkor a kormányzati fejlesztések végrehajtásának külső monitoringját, átláthatóságát kevésbé segíti az, hogy ezeket a feladatokat nem közigazgatási szervek, hanem egy cég felügyeli.

2022 decemberében ugyanakkor megjelent az új Nemzeti Digitalizációs Stratégia, amely épül a korábban elfogadott MI Stratégiára, ugyanakkor nem teljesen világos, hogy annak elemeiből pontosan mit tart meg és mit vet el, illetve nem tér ki a Koalíció szerepére sem. A Digitalizációs Stratégia látóköre ugyanakkor kétségkívül szélesebb, és pontosabban meghatározza a következő évek prioritásait és a digitalizációval kapcsolatos (etikai) aggályokat is.

Az automatikus döntéshozatali eljárások szempontjából kiemelendő, hogy a Stratégia a következő elemeket is tartalmazza:

  • Külön fejezet szól az állami digitalizációról, itt két jelentős beavatkozási területet különböztetnek meg, egyrészt azokat a beavatkozási pontokat, amelyek az állam hatékonyságát növelhetik (ide értendő például a pénzügyi monitoring, audit rendszerek, illetve azok az informatikai eszközök, amelyekkel a büntetőügyek, csalások felderítését stb. fokozhatják), másrészt azok, amelyek a közigazgatás és az állampolgár közötti kapcsolatot könnyítik meg. Mindkét területen jelentős fejlesztések valósultak meg az elmúlt időszakban.
  • Ezeken felül jelentős szerepet szán magának az adatkörnyezetnek a fejlesztésére is. Ez nyilvánvalóan fontos szempont, hiszen a fenti fejlesztések csakis akkor valósulhatnak meg, ha a különböző, állam által kezelt különböző adatbázisok összekapcsolása biztosított. (Fontos kiemelni, hogy az adatvagyonnal kapcsolatban már 2020-ban született szabályozás.)
  • A stratégia kitér arra is, hogy a végrehajtás monitoringjában szerepet kell kapniuk a különböző civil szervezeteknek is (itt azonban az informatikai fejlesztésekkel foglalkozó civil szervezeteket emelik ki, és nem azokat, amelyek fókuszában ezen fejlesztések esetleges emberi jogi következményei, etikai vonatkozásai állnának.)
  • A stratégia helyzetelemzése bemutatja, hogy problémát jelenthet az adatvagyon töredezettségén túl a különböző legacy-rendszerek alkalmazása is, illetve (esetlegesen) az algoritmusok átláthatatlansága – ezekre azonban nem tartalmaz megoldási irányelveket, például nem foglalkozik az elektronikus informatikai rendszerek beszerzésével kapcsolatos szabályozással, illetve ezen rendszerek átláthatóságával.

 

Ezzel együtt a magyar szabályozásban már régóta vannak arra vonatkozó törekvések, amelyek azt hivatottak elérni, hogy az elektronikus informatikai rendszerek beszerzése központosított, szabályozott formában történjen, ennek oka azonban kevésbé az átláthatóság biztosítása, hanem a párhuzamosságok elkerülése, illetve a jobb ár-érték arány elérése -- erre hivatkozva létre annak idején a Digitális Kormányzati Ügynökséget. Állami alkalmazásfejlesztési katalógus is létezik, amelyben pillanatképet kaphatunk a teljes állami szoftvervagyonról. Ez a katalógus azonban nem nyilvános, ahhoz – kevés kivétellel – csak az állami szervek férnek hozzá. Az állami e-közigazgatási szoftverfejlesztések többnyire az állami tulajdonú Idomsoft-on keresztül történnek (amely lényegében az összes, EU-s forrásból finanszírozott e-közigazgatási fejlesztési projektben konzorciumi tag), és amelynek ugyan van saját szoftverfejlesztői gárdája, mégis számos fejlesztést külső szerződésen keresztül valósít meg. Az elektronikus szoftverek auditálást, megfelelőségét és információbiztonsági auditját szintén szabályozott keretek között végzik.

A szabályozással kapcsolatban érdemes felhívni a figyelmet egy olyan körülményre, amelyet a 2021-es  jelentésben még nem hangsúlyoztunk: ez az úgynevezett "dobozos" szoftverek kérdése: elsősorban a bankok, illetve a pénzügyi monitoring és audit területén működő cégek kezdték el tömegesen alkalmazni olyan techvállalatok szoftvereit, amelyek adatbázisok segítségével alkalmasak arra, hogy felismerjék a pénzügyi csalásokat, pénzmosást. Az ezekhez hasonló termékek viszonylag rövid idő alatt világszerte megjelentek a kormányzati piacon is, és a magyarországi szervezetek is szereztek be belőlük (ugyanakkor az – kevés kivétellel – nem teljesen világos, hogy melyik szervezet pontosan milyen feladatra vett ilyen licenszeket). Ezek ellenőrzésének, monitoringjának és átláthatóságának kérdése a jövőre vonatkozóan fontos lehet. Ezekkel kapcsolatban a profilalkotás kérdése is felmerül, amely értelemszerűen nem csak a csalás- és kockázatfelderítésben kap szerepet, hanem  marketingszempontból, illetve az ügyfélszerzéssel, -megtartással kapcsolatban is (pl. elégedettségmérés, termékfejlesztés). Érdemes megjegyezni, hogy már 2021-ben el kellett járnia a Nemzeti Adatvédelmi és Információszabadság Hatóságnak egy magyarországi bank esetében, amely az ügyfélszolgálat hanganyagait MI-eszközökkel elemezte (érzelemfelismerés), hogy ez alapján válassza ki, mely ügyfelekkel érdemes kiemelten foglalkozni – mivel azonban erről nem tájékoztatták megfelelően az ügyfeleket, a bank súlyos bírságot kapott. Ehhez hasonló esetről a közigazgatásban nem tudunk, ugyanakkor azáltal, hogy a Nemzeti Digitális Stratégia épp az ügyfélbarát közigazgatást tűzi ki maga elé prioritásként, érdemes szem előtt tartani a kérdéssel kapcsolatos veszélyeket.

 

 

1_1.png

 

Ahogy feljebb említettük, egyik kutatásban részt vevő  országban sincs világos keretrendszer, amely kitérne a mesterséges intelligenciával, vagy akár csak az egyszerűbb automatikus döntéshozatali algoritmusokkal kapcsolatos alapjogi  (diszkriminációmentességet szolgáló) aggályokra.  Lengyelországban  2021 januárjában fogadták el a Mesterséges Intelligencia Fejlesztéssel Kapcsolatos Stratégiát, amelyben bár felhasználták a korábbi kutatások ajánlásait, az etikai vonatkozásokra vagy az átláthatósági keretekre is kitérő szabályozás még csak tervezési fázisban sincs. Koszovóban több digitális átállást célzó program is fut egyszerre, azonban ezekből egyelőre jórészt szintén hiányoznak az alapjogi garanciákat biztosító célkitűzések.

 

Milyen területeken találkozhatunk a közszférában algoritmusokkal? 

Igazságszolgáltatás területén alkalmazott algoritmusok

Az idei kutatás fő fókuszát az igazságszolgáltatás területén alkalmazott algoritmusok jelentették. Egy általunk vizsgált országban sem találkoztunk olyan megoldásokkal, amelyek a konkrét ítélethozatalban segítenék a bírókat, pedig ez számos nyugati országban már egyáltalán nem science fiction kategória. Ugyanakkor az ügyelosztásban Magyarországon is alkalmaznak számítógépes algoritmust a Fővárosi Törvényszéken, erre az Országos Bírói Hivatal utasítása kifejezett felhatalmazást ad. Olyan kutatás is létezik, amely bemutatja, hogy a már rendelkezésre álló Bírói Integrált Informatikai Rendszert alkalmassá lehetne tenni arra, hogy egyszerre biztosítsa a bírói ügyteher egyenletes eloszlását és a véletlenszerű ügykiosztást, amely a tisztességes eljáráshoz való jog alapja. Érdemes kitérni arra, hogy Magyarország a Helyreállítási és Rezilienciaépítési Alaphoz, illetve a kohéziós forrásokhoz való hozzáférés érdekében komplex igazságügyi reform átültetését vállalta, amelynek részét képezi az is, hogy számítógépes algoritmussal fogják a Kúrián az ügykiosztást végezni. Jelenleg a törvényjavaslat a parlamenti elfogadásra vár. A legutóbbi elérhető (2023. április 28.) verzió már tartalmaz olyan megoldást [naplózás, illetve indoklási kötelezettség eltérés esetén], amely hozzájárulhat ahhoz, hogy ezek az algoritmusok ellenőrizhetőek legyenek, ugyanakkor kérdéses, hogy ez kellőképp biztosítja-e a törvényes bíróhoz való jogot abban az esetben, ha az érdekelt felek vitatják az ügy szignálását, illetve az eltérés indoklását.

Már az előző jelentésben is foglalkoztunk a Lengyelországban bevezetett rendszerrel, amely elméletileg véletlenszerűen szignálta ki az ügyeket bíróknak. Mivel azonban a számítógépes program által alkalmazott algoritmus működési mechanizmusát és magát a forráskódot sem hozták nyilvánosságra, társadalmi szervezetek közérdekű adatigénylést nyújtottak be, majd bírósághoz fordultak, amely elvi jelentőségű döntésekben határozott ezek nyilvánosságáról: "Az a tény, hogy ezt a tevékenységsorozatot számítógépes program hajtja végre, és ezért technikai jellegű, nem foszthatja meg ezt az információt (a bíró kinevezésének módjáról) a közérdekű információ jellegétől. Az (..) algoritmus a jelen ügy körülményei között nem csupán technikai információ, hanem egy eljárás leképezése, amely szorosan kapcsolódik azon polgárok közvetlen helyzetéhez, akiknek az ügyében döntést hoznak. Ezen információ technikai jellege kizárólag a technológiai fejlődésnek köszönhető"   Az ítélet ellenére a lengyel igazságügyi minisztérium továbbra sem hozta nyilvánosságra a forráskódot.

Koszovóban a norvég állam támogatásával hoztak létre olyan igazságügyi adminisztrációs rendszert, amelyet lényegében az igazságügy teljes spektrumában alkalmaznak az ügyek szignálásán túl az ügykezelésre és a bírák, ügyészek közötti kapcsolattartásra is. A rendszert nem csak az állami szervek, hanem a norvég donor igazságügyi szolgálata is auditálja. 

      

Kockázati előszűrést végző algoritmusok

Valószínűleg az ország egyik legrégebbi, folyamatosan fejlesztett rendszerét a Nemzeti Adó és Vámhivatal alkalmazza, ez az úgynevezett RADAR-rendszer (Rugalmas Adóellenőrzési Döntéstámogató és Adatbányászati Rendszer), amelyet már a 2000-es évek közepén kezdtek el fejleszteni. Ez a szakrendszer több helyről gyűjti be az információkat, és abban segíti az adóhatóságot, hogy előre meghatározott kockázatok alapján adóellenőrzésre történő kiválasztást tesz lehetővé

A rendszernek már a fejlesztés korai szakaszában volt olyan modulja (RIASZT-ALERT), amely például a hirtelen megváltozott adózói magatartások esetén adott le jelzést, illetve létezett egy úgy nevezett KoKaIn (!) nevű alrendszer is, amely a KOckázatos KApcsolatok INformációs listáját jelentette, ennek célja az adócsalók kapcsolati hálójának feltérképezése volt. 

Az elmúlt tíz év során egyre komplexebbé vált a rendszer, többek között azért is, mert a számlázásokat (pl. online számla, elektronikus pénztárgép), útnyilvántartásokat (EKÁER) elektronikus útra terelték, de említhetjük azt is, hogy Magyarországon a központi UBO (végső tulajdonosi) nyilvántartást is az adóhatóság kezeli - így egy óriási, digitális adatvagyont hoztak létre. Az adóhatóság lényegében számlaszinten látja az összes tranzakciót, a tulajdonosi nyilvántartást, a bevallásokat, de akár azt is, hogy például egy számlát kiállító cég rendelkezik-e azokkal az eszközökkel, vagy annyi munkavállalóval, amelynek segítségével az adott, leszámlázott munkát reálisan el tudja végezni.

Maga az adatbázis tudomásunk szerint jelenleg Oracle-alapon működik, a különböző csalásfelderítő alkalmazások pedig SAS-környezetben (maga a szerver és az adatbányászat is a SAS által fejlesztett eszközökkel történt), a konkrét igényeknek megfelelő fejlesztéseket részben saját fejlesztők, részben külső vállalkozók végezték el. Bár néhány, a rendszer fejlesztésével kapcsolatos közbeszerzés nemzetbiztonsági okból nem nyilvános, a közbeszerzési értesítőből kiderül, hogy a NAV a RADAR rendszer alkalmazása során jelenleg az SAS Detection and Investigation for Government nevű szoftverét is használja, amely a mesterséges intelligenciát is használ a csalások felderítésére – itt a közbeszerzés körében érdemes megjegyezni, hogy a kizárólagos jogok miatt hirdetmény nélküli tárgyalásos eljárással történt a beszerzés, az erről szóló tájékoztatóban pedig kiemelték, hogy a legacy rendszerről történő áttérés óriási költségekkel járna. Mindeközben érdemes kiemelni, hogy az adóhatóságon belül is megalakult egy mesterséges intelligencia munkacsoport 2022-ben, amelynek célja, hogy megvizsgálja, milyen további módokon használhatja a hatóság a mesterséges intelligenciát hatalmas adatvagyonának hatékonyabb felhasználására.

Itt szükséges kitérni arra is, hogy 2022-től bizonyos, közpénzből megvalósított építési beruházások esetén kötelező az úgynevezett “Üvegkapu”, azaz egy intelligens beléptető-rendszer használata, amely rögzíti, hogy az építési munkaterületre kik (foglalkoztatottak és vendégek), mikor, mennyi időre lépnek be. Az itt létrejövő adatokhoz az építésfelügyeletei, a foglalkoztatási és az adóhatóság is hozzáfér, sőt, az adóhatóság 2023-as ellenőrzési terve már tartalmazza az üvegkapu adatai alapján alkalmazott kockázatértékelés során kiválasztott beruházások ellenőrzését. Az építési vállalkozóknak lényegében szabad kezük van abban, hogy melyik cég intelligens beléptető-rendszerét vásárolják meg, a legtöbb forgalmazott, illetve maga a bemutató modell is alkalmas a biometrikus azonosításra (3D arcfelismerés), valamint a véralkohol-szint és testhőmérséklet mérésre, bár ez utóbbi adatok nem kerülnek továbbításra a kormányzati adatbázisba.

A csalásszűrő és detektáló rendszer esetében mindenképp fontos kiemelni, hogy nem automatikus az ellenőrzésre történő kiválasztás, vagyis akár emberi és intézményi elfogultságok is szerepet játszhatnak abban, hogy a rendszer által csalásgyanúsnak ítélt eseteket valóban ellenőrzik-e.

Természetesen a fentieken túl egyéb olyan eszközökről is érhetőek el információk, amelyeket a közigazgatásban használnak bűn- és csalásfelderítési céllal. Az EU-s források felhasználásával kapcsolatos kockázatok szűrésére használja például az EUTAF mintavételezésre a Caseware IDEA szoftverét. Ezt a rendszert a Bizottság és az Európai Számvevőszék is auditálja. Az uniós források felhasználásában nemzeti adatbányászati eszközöket is használnak, illetve (2022 második felétől) a Bizottság által rendelkezésre bocsátott ARACHNE-rendszert – utóbbiaknál sem automatikus az ellenőrzésre történő kiválasztás. 

Lengyelországban hamarosan bevezetésre kerül egy átfogó, mesterséges intelligencián alapuló követeléskezelő rendszer, amely alkalmas lesz arra, hogy a követeléssel kapcsolatban a különböző adatbázisokban felkutassa az adósok vagyonát -- a végrehajtással kapcsolatban kérdéses még, hogy a bankszámlákra vonatkozóan a rendszer képes lesz-e automatikus zárolásra, vagy ezt csak valós, emberi felügyelet, döntés alapján teheti meg. Ugyanakkor az ilyen eszközöknek - mivel közvetlenül érintik az állampolgárokat - garantálniuk kell, hogy a döntésekért felelős személyeket azonosítani lehessen. A számlán lévő pénzeszközök téves zárolása messzemenően negatív következményekkel járhat, ezért a rendszer átláthatóságának a lehető legszélesebb körűnek kell lennie, ami nem jelenti azt, hogy a rendszer működésével kapcsolatos minden információt hozzáférhetővé kell tenni. A hasonló eszközök esetében elfogadható, hogy bizonyos adatokat, amelyek nyilvánosságra hozatala segítené a tisztességtelen adófizetőket a rendszer "átverésében", csak egy szűk kör számára szabad hozzáférhetővé tenni. A működésért felelős hatóságoknak azonban úgy kell eljárniuk, hogy lehetővé tegyék az erre szakosodott külső szakértők teljes körű ellenőrzését.  

Intelligens monitorozó és megfigyelő algoritmusok
154888_source.jpg

Korábban már beszámoltunk a magyarországi Véda-KAFIR-ROBOTZSARU ("Robotzsaru") rendszerről. A Véda egy intelligens közúti kamerarendszer, amely a KAFIR (Közlekedésbiztonsági Automatizált Feldolgozó és Információs Rendszer - Közlekedésbiztonsági Automatizált Feldolgozó és Információs Rendszer) számára szolgáltat adatokat. A Robotzsaru integrált ügyviteli, ügyfeldolgozó és elektronikus iratkezelési rendszer, lényegében a rendőrség főszoftvere által nyújtott megoldásokkal együtt a közúti közlekedési szabálysértésekért kiszabott bírságok szinte automatikusak.
A rendszert egy 2012-2015 közötti uniós program keretében hozták létre, és (jelenleg) 365 fix és 160 mobil intelligens kamerából áll. A kamerák rögzítik a gyorshajtást vagy más szabálysértést, rögzítik a jármű rendszámát, a sebességét, a helyszín koordinátáit, valamint az esemény dátumát és időpontját, és továbbítják az adatokat a KAFIR-nak, amely összeveti az adatokat a közlekedési nyilvántartással (pl. ha a járművet ellopták), és az adatokat együttesen feltölti a Robotzsaru informatikai rendszerbe, amely osztályozza és továbbítja a keletkezett fájlokat az illetékes hatóságnak. Eddig a pontig emberi beavatkozásra egyáltalán nincs lehetőség, sőt, amennyiben a szabálysértés az üzembentartói felelősség alapján ítélhető meg és az adatokhoz nem fér kétség, még a döntés is automatikusan megszületik, azonban be van iktatva egy utólagos ügyintézői ellenőrzési fázis is.
Bár a közbeszerzési dokumentumok és a szerződések kivonatai rendelkezésre állnak, a hibaelhárításról és az ellenőrzésről keveset tudhatunk meg belőlük. Itt is problémába ütközhet ugyanakkor az, hogy a fejlesztések egy részéhez (például a rendszámfelismerés) egy magyar vállalkozás által fejlesztett szoftvert használnak – ezáltal lényegében megint csak egy legacy-rendszer létrehozására kerül sor.

Az intelligens megfigyelésre irányuló igény azonban érezhetően egyre növekszik: Siófokon 2021-ben telepítettek a legforgalmasabb sétányára, azaz közterületre olyan kamerarendszert, amely arcfelismerésre is alkalmas, ezáltal a bűncselekmények gyors feltárása és a bűnelkövetők kiszűrése volt a cél. Ugyanakkor kérdéseket vet fel, hogy az ehhez használatos eszközöket az a kínai cég szállította, amely a Kínában az ujgurok tömeges megfigyelésére alkalmas kamerarendszert is gyártotta. Az önkormányzat által telepített rendszer nem került összekapcsolásra más rendszerekkel (tehát például rendőrségi adatbázissal), pusztán arra alkalmas elméletileg, hogy az arcfelismerés segítségével egyes személyek mozgását kövesse – de önmagában már ez is aggályos adatvédelmi szempontból (ugyanakkor a Nemzeti Adatvédelmi és Információszabadság Hatóság vizsgálata alapján ezt a funkciót nem kapcsolták be).

Még ennél az esetnél is nagyobb, tömeges megfigyelést infrastrukturálisan lehetővé tevő projekt az úgynevezett Szitakötő-rendszer kiépítése. Ez a rendszer arra szolgál, hogy a biztonsági kamerák képeit egy központi adatbázisba (a Kormányzati Adatközpontba, amely egy tárhelyszolgáltató) továbbítsa – ez a tervek szerint több mint 35000 kamera képét jelenti, ideértve nemcsak a közterületi, hanem például a stadionok lelátóit pásztázó kamerák képeit is. Az adatbázis ötlete még a 2015-ös menekültválság kapcsán merült fel; annyiban nem véletlenül, hogy utóbb kiderült, hogy a párizsi terrortámogatások elkövetői közül többen is megfordultak a megelőző hónapokban Budapesten. Mivel a projekthez még 2015-ben a beszerző nem vásárolt forráskódot, itt is egyfajta legacy-rendszer jött létre, azaz jelenleg – a forráskódhoz tartozó kizárólagos jogok miatt – egyetlen egy vállalkozás képes az adatbázissal kapcsolatos fejlesztési feladatok ellátására.
Jogvédők és az adatvédelmi hatóság is aggályait fejezte ki 2018-ban amiatt, hogy nem szabályozott garanciálisan, hogy ki és milyen feltételek mellett férhet hozzá a kamerafelvételekhez. Bár az adatvédelmi hatóság felvetéseit beépítették a vonatkozó törvényjavaslatba, elméletileg az adatbázishoz a nemzetbiztonsági szolgálatok például külső ellenőrző szerv előzetes engedélye nélkül hozzáférhetnek, és akár arcfelismerő szoftvert is alkalmazhatnak rajtuk a nemzetbiztonsági szolgálatokról szóló törvény alapján.

Csehországban a prágai repülőtéren alkalmaznak arcfelismerő rendszert, azonban az ezzel kapcsolatos információk nem nyilvánosak.

Számos önkormányzat, köztük a prágai is, rendszámfelismerésen alapulva, kamerás járőrkocsikkal ellenőrzi a parkolási jogosultságokat. A fejlesztést egy külsős cég végzi, maga a szoftver sincs az önkormányzat tulajdonában, és nem egyértelmű, hogy a jogosultsági adatokhoz hogyan fér hozzá az amúgy mesterséges intelligenciával is foglalkozó cég. Némi eljárási garanciát ugyanakkor jelenthet az, hogy a parkolási bírságok kiszabását minden esetben a városi rendőrség hagyja jóvá. 

Egyéb algoritmusok

Ahogy fentebb említettük, a közigazgatás elektronizálására tett erőfeszítéseknek csak az egyik részét jelenti az állami szervek hatékonyabbá tétele például a szabálytalanság vagy a bűnfelderítés során, a másik – legalább ilyen hangsúlyos – irányzat a közigazgatási szolgáltatások ügyfélbarátabbá tétele. 

Már 2016 óta létezik olyan jogszabály, amely lehetővé teszi egyes (döntően egyszerűbb megítélésű ügyek) ténylegesen automatikus elintézését, abban az esetben, ha 

  1. a) azt a törvény vagy kormányrendelet megengedi,
  2. b) minden adat és információ a kérelem benyújtásakor a hatóság rendelkezésére áll, vagy automatikus információcsere révén beszerezhető (– ez utóbbi  rendelkezést 2021-ben, épp az AKD-rendszer továbbfejlesztése céljából módosították ami arra utal, hogy a jövőben felgyorsulhat az állam kezelésében lévő adatbázisok összekapcsolása – az már másik kérdés, hogy ennek akadályát képezhetik a különböző szervezetek által használt legacy-rendszerek, bár 2021 óta erőteljes kormányzati szándék, hogy minden új fejlesztés során vizsgálják, hogy az új rendszer képes-e a kormányzati adatközponthoz való csatlakozásra)
  3. c) a döntés nem igényel mérlegelést, és
  4. d) nincs ellenérdekű fél.

E szigorú feltételek miatt jelenleg az automatizált döntéshozatalt általában az ügyfél kezdeményezi, és ezek többsége vagy valamilyen normatív támogatáshoz, vagy különböző dokumentumok (pl. vezetői vagy parkolási engedélyek) kiadásához kapcsolódik. Ez azt jelenti, hogy ebben a kategóriában jelenleg nem beszélhetünk igazán összetett algoritmusokról, a rendszerek alapvetően csak a törvény által előírt szükséges dokumentumok meglétének keresztellenőrzését végzik. 

Ezzel egyidejűleg egy uniós projektben egy munkafolyamatot dolgoztak ki a bonyolultabb döntéshozatali eljárásokhoz, de ez a projekt folyamatos késésben van, a céldátum 2023. június vége.  E tervek első fázisában feltehetően csak egy általános döntéshozatali folyamatmodellt dolgoznak ki.

Időközben a közigazgatásban is megkezdődött a mesterséges intelligencia eszközeinek alkalmazása: ilyen például a kormányzati ügyintéző Kioszk, amelyből 2022 folyamán többet is felállítottak a kormányzati ügyfélszolgálati pontokon (ezeknél a mesterséges intelligencia egyrészt arcfelismerést végez, azaz összeveti az ügyfél képét az adatbázisban tárolt korábbi igazolványképekkel, profilt azonban ezen túl nem alkot; másrészt mélytanuló algoritmusok segítségével “chatel”, azaz többek között TextToSpeech és VoiceToText technológiát alkalmaz, ennek segítségével ügyfél és cégkapus ügyeket is lehet intézni. (A kormányzati videochates ügyfélvonal is ezt a technológiát alkalmazza, vagyis arckép-összehasonlítást alkalmaz, ugyanakkor más tekintetben nem végez profilalkotást.

Koszovóban is létezik olyan platform, amely a diákok továbbtanulását segíti, ez egy jóval komplexebb rendszer, amely (szintén egyfajta, bár összetettebb kérdőív segítségével) meghatározza a diákok személyes érdeklődését, értékeit, képességeit és preferenciáit, majd ez alapján javasol személyre szabott karrier-életutat, ideétve a vonatkozó továbbképző intézmények bemutatását, illetve adott esetben munkaajánlatokat is közvetít, vagy on-line távtanácsadást biztosít. A rendszer célja ezen felül, hogy a diákok válaszainak elemzésén keresztül a szakpolitikát és az oktatási intézményeket is segítse abban, hogy a tankövetelményeket a munkaerőpiaci igényekhez tudják igazítani. 

Csehországban a Hidrometeorológiai szolgálat végez időjárási előrejelzéseket, és ad ki riasztásokat az állampolgároknak rendkívüli időjárási események esetén. Míg az előrejelzési modellek nem nyilvánosak, a riasztások alapjául szolgáló paraméterek nyilvánosan elérhetőek.

Lengyelországban kísérleti jelleggel került bevezetésre egy iskolában olyan valós idejű áramfogyasztást figyelő és elemző rendszer, amelynek alkalmazásával akár komoly energiamegtakarítások érhetőek el. A rendszert egy startup  Ugyanakkor kérdéses, hogy a rendszer akár olyan fogyasztásoptimalizási javaslatot is tehet, ami komoly alkalmazkodást követel meg az állampolgároktól.  

Összegzés

A fentiek alapján az általunk azonosított problémák hasonlóak maradtak ahhoz, amelyeket már a korábbi kutatások során feltártunk:

  1. sok esetben még maguk a közintézmények sem tudták egyértelműen beazonosítani a közigazgatási algoritmusokat
  2. a területet szinte semelyik vizsgált országban nem szabályozzák átfogóan, 
  3. a fejlesztések néha ad hoc módon, a kockázatok mérlegelése nélkül történnek: ez nemcsak a belsős, hanem a külső szereplők bevonásával készült fejlesztések esetén is jellemző.
  4. az algoritmusok fejlesztésbe a legritkább esetben vonják be a civil társadalmat vagy a tudományos élet képviselőit, fontos kompetenciák hiányoznak mind az algoritmusok alkalmazói, mind a civil társadalom részéről
  5. az etikai szabályozás gyermekcipőben jár

 

Erre építve, a kutatás szerzői a következőeket javasolják:

 

  • Az algoritmusok átláthatóságát biztosító keretrendszer bevezetése: 

E követelménynek több szinten kell megvalósulnia. Az algoritmus működési alapelveit egyértelműen kell kommunikálni (például az algoritmust alkalmazó szervezet honlapján), kitérve arra, hogy milyen adatokat használnak fel, milyen mechanizmusok alapján kapcsolják össze őket, ki a technológia megalkotója, ki felelős a működéséért, és végül hogyan lehet panaszt tenni az elbírálás eredményével kapcsolatban. A következő szint az algoritmus tartalmának és a forráskódjának a hozzáférhetővé tétele. A hatóságok által használt automatikus döntéshozatali mechanizmusoknak elvileg úgynevezett nyílt forráskódon kellene alapulniuk. 

 

  • A közszféra dolgozóinak és a civil társadalmi szervezetek képviselőinek kapacitásépítése: 

A digitális ismereteket és kompetenciákat meg kell erősíteni egyrészt a közszférában (ahol az automatikus döntéshozatali mechanizmusokat alkalmazzák), másrészt azon szereplők körében, ahol ezen algoritmusokat – például a diszkrimináció kockázatainak felmérése érdekében – értékelni tudják. A különböző képzéseknek ki kell térni az állampolgári és közhivatali nézőpontok ütköztetésére is.

 

  • Az automatikus döntéshozatali mechanizmusok teljesítményértékelésére szolgáló keretrendszer bevezetése:

Elengedhetetlen, hogy erre az adott eszköz létrehozásának, beszerzési, illetve tervezési szakaszában, valamint az eszköz használatának teljes életciklusa során sor kerüljön. A társadalmi szervezeteknek és a független ellenőrző intézményeknek fontos szerepet kell játszaniuk ebben a folyamatban.

 

Magyarországra vonatkozóan a következőeket is ajánljuk megfontolásra:

  • Az átláthatóságnak vezérelvnek kell lennie:
    • A legacy rendszereket és az automatikus döntéshozatali mechanizmusokhoz használt “dobozos” IT-szoftvereket felül kell vizsgálni, annak érdekében, hogy nyílt forráskódú megoldásokkal váltsák fel őket. 
    • központi, kormányzati leltárt kell létrehozni, ahol a nyilvánosság hozzáférhet az összes olyan közigazgatási algoritmusra vonatkozó információhoz, amely automatizált döntéshozatallal és profilalkotással kapcsolatos.

 

  • A közeljövőben az oktatás a legfontosabb tényező:
    • Az érdekelt feleket átfogó és érthető módon tájékoztatni kell a jogaikról.
    • Az alapjogi megközelítést a közigazgatásban is terjeszteni kell, különösen azokon a területeken, ahol ilyen automatikus döntéshozatali mechanizmusokat fejlesztenek, terveznek és szereznek be.
    • A hatóságokkal folytatott civil és érdekelt felek között folyamatos párbeszédet kell fenntartani a témában

 

A kutatás a Visegrádi Alap támogatásával készült.

 

Hasznosnak tartod a munkánkat? Segítenél?

Támogasd a K-Monitort adód 1%-ával!


Címkék: közigazgatás algoritmusok átláthatóság e-government

Szólj hozzá!

A bejegyzés trackback címe:

https://k.blog.hu/api/trackback/id/tr1018112910

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.


süti beállítások módosítása