Register rabe UI
Zbiramo podatke o uporabi umetnointeligenčnih sistemov v slovenskem javnem sektorju ter na njihovi podlagi ustvarjamo celovit in vsem dostopen register. Zahtevamo popolno odgovornost in transparentnost pri uporabi UI v javnem sektorju.
Edina pot do vzpostavljanja javnega zaupanja v poštenost, zanesljivost in zakonitost avtomatiziranih sistemov, ki so v uporabi v javnem sektorju, je njihova popolna transparentnost.
Javnost ima pravico do razumljivih in celovitih informacij o delovanju teh sistemov ter o načinih, kako organi sprejemajo odločitve, ki vplivajo na življenja posameznikov.
Slovenska javnost doslej ni imela dostopa do sistematično zbranih informacij o načinih in razlogih za uporabo umetnointeligenčnih sistemov v javnem sektorju ter o njihovem vplivu na družbo in posameznike. Register rabe UI premošča to vrzel.
Kontroliranje obračunov DDV (sistem eDIS)odkrivanje davčnih utaj in goljufij ter iskanje napak v obračunih DDV
Institucija: | Generalni finančni urad |
Področja: | Davki |
Oznake: | Napovedna analitika Ocena tveganja |
Razvijalci: |
SAP GmbH (implementator Sapphir d.o.o.)
|
Cena: |
16.188.185,88 EUR z DDV
?
|
Trajanje licence: |
Ni časovno omejena
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
?
|
V okviru sistema eDIS finančna uprava uporablja umetnointeligenčne sisteme za odkrivanje shem davčnih utaj in davčnih goljufij ter iskanje napak v obračunih DDV.
Davčni zavezanci oddajajo DDV obračune prek sistema eDavki v elektronski obliki, vsak oddan obračun DDV se prenese v zaledni sistem, ob tem pa se sprožijo različne kontrole. V primeru, da kontrole zaznajo izbrano nepravilnost ali odstopanje, se obračun DDV dodeli uslužbencu v vsebinsko kontrolo. Umetnointeligenčni sistem deluje kot dodatna kontrola. Za vsak DDV-O se izračuna ocena tveganja v razmerju med 0 in 1. Bližje 1 je ocena, večjo tveganost je obračunu določil sistem. Določeni obračuni DDV, pri katerih se preostale kontrole ne sprožijo, so lahko zaradi višine tveganosti, ki jo dodeli umetnointeligenčni sistem, prav tako dodeljeni uslužbencem v pregled.
Izdelava modelov poteka z orodjem SAP Data Intelligence. To orodje v fazi izdelave ustvari veliko število modelov (več kot 1000), nato se v več fazah izloča manj ustrezne modele in na koncu izbere enega, ki se ga potem uporabi v produkciji.
VAT-R (sistem eDIS)odkrivanje nepravilnosti ali odstopanj v VAT-R zahtevkih
Institucija: | Generalni finančni urad |
Področja: | Davki |
Oznake: | Napovedna analitika Ocena tveganja |
Razvijalci: |
SAP GmbH (implementator Sapphir d.o.o.)
|
Cena: |
16.188.185,88 EUR z DDV
?
|
Trajanje licence: |
Ni časovno omejena
|
Analiza učinka na človekove pravice opravljena: |
Ne
|
Analiza učinka na osebne podatke opravljena: |
Ne
?
|
V okviru sistema eDIS finančna uprava uporablja umetnointeligenčne sisteme za odkrivanje nepravilnosti ali odstopanj v VAT-R zahtevkih tujih davčnih zavezancev s sedežem v drugih državah članicah EU za vračilo DDV plačanega v Sloveniji. Sistem uporablja prediktivno analitiko, ki z metodami strojnega učenja na podatkih iz zahtevkov in drugih podatkov, do katerih dostopa FURS, ustvarja modele, ki računajo tveganost.
Za vsak prejet zahtevek se v zalednem sistemu prožijo kontrole (poslovna pravila, določena na podlagi izkušenj poslovnih uporabnikov, ki določajo uvrščanje zahtevkov v proces kontrole). V primeru, da kontrole zaznajo izbrano nepravilnost ali odstopanje, se zahtevek dodeli uslužbencu v vsebinsko kontrolo. Umetnointeligenčni sistem deluje kot dodatna kontrola in temelji na prediktivnem modelu. Vsak VAT-R zahtevek vsebuje enega ali več računov. Za vsak račun se izračuna ocena tveganja, ki je 0 ali 1. Če je 1, ga sistem določi kot tveganega, če je 0, ga sistem zazna kot netveganega. Na tej podlagi se šteje, da je tvegan VAT-R zahtevek, ki vsebuje vsaj en tvegan račun. O zahtevkih VAT-R, ki so ocenjeni kot tvegani ali na katerih se prožijo druga poslovna pravila, vedno vsebinsko odločajo uslužbenci FURS.
V okviru razvoja je bila izvedena analiza in izbor modelov za področje VAT-R z orodjem SAP Data Intelligence. Narejena je bila analiza podatkov, izbrani so bili relevantni atributi za modeliranje, pripravljena je bila učna in testna množica podatkov ter validacijska množica. Z uporabo funkcionalnosti AutoML je bilo kreiranih cca. 1000 modelov. V nadaljevanju se v več fazah izloča manj ustrezne modele in na koncu izbere enega, ki se ga potem uporabi v produkciji.
Edina pot do vzpostavljanja javnega zaupanja v poštenost, zanesljivost in zakonitost avtomatiziranih sistemov, ki so v uporabi v javnem sektorju, je njihova popolna transparentnost.
Javnost ima pravico do razumljivih in celovitih informacij o delovanju teh sistemov ter o načinih, kako organi sprejemajo odločitve, ki vplivajo na življenja posameznikov.
Slovenska javnost doslej ni imela dostopa do sistematično zbranih informacij o načinih in razlogih za uporabo umetnointeligenčnih sistemov v javnem sektorju ter o njihovem vplivu na družbo in posameznike. Register rabe UI premošča to vrzel.