Register rabe UI
Zbiramo podatke o uporabi umetnointeligenčnih sistemov v slovenskem javnem sektorju ter na njihovi podlagi ustvarjamo celovit in vsem dostopen register. Zahtevamo popolno odgovornost in transparentnost pri uporabi UI v javnem sektorju.
Edina pot do vzpostavljanja javnega zaupanja v poštenost, zanesljivost in zakonitost avtomatiziranih sistemov, ki so v uporabi v javnem sektorju, je njihova popolna transparentnost.
Javnost ima pravico do razumljivih in celovitih informacij o delovanju teh sistemov ter o načinih, kako organi sprejemajo odločitve, ki vplivajo na življenja posameznikov.
Slovenska javnost doslej ni imela dostopa do sistematično zbranih informacij o načinih in razlogih za uporabo umetnointeligenčnih sistemov v javnem sektorju ter o njihovem vplivu na družbo in posameznike. Register rabe UI premošča to vrzel.
Sistem za zgodnje zaznavanje učnih težav METISzaznavanje učnih težav
| Področja: | Izobraževanje |
| Oznake: | Napovedna analitika |
| Razvijalci: |
Odsek za inteligentne sisteme Instituta "Jožef Stefan"
|
| Institucija: |
| Cena: |
69.743,20 EUR
|
| Analiza učinka na človekove pravice opravljena: |
Ne
|
| Analiza učinka na osebne podatke opravljena: |
Ne
|
Sistem METIS je uporabljal metode strojnega učenja, ki so na podlagi zgodovinskih ocen učencev napovedovale verjetnost nastanka učnih težav. Cilj sistema je bil čimprejšnje opozarjanje pedagoškega osebja na učence, ki bi lahko potrebovali dodatno podporo.
METIS je za vsakega učenca uporabil zgodovinske ocene (psevdonimizirane z enolično kodo) in na podlagi teh vzorcev napovedal verjetnost nastanka učnih težav. Sistem je deloval popolnoma avtomatizirano pri analizi podatkov in generiranju napovedi. Sistem je za vsakega učenca pripravil oceno verjetnosti, da bo v nadaljevanju šolskega leta imel učne težave, kar je bilo namenjeno kot podpora učiteljem pri usmerjanju dodatne pozornosti.
Sistem je bil uporabljen prototipno v času trajanja projekta.
Tipkoavtomatizirana prepoznava govora in pretvorba v besedilo
| Področja: | Splošne storitve |
| Oznake: | Prepoznava govora |
| Razvijalci: |
iLOL informacijske tehnologije d.o.o.
|
| Institucija: |
| Cena: |
169.580,00 EUR z DDV
|
| Trajanje licence: |
Ni časovno omejena
|
| Analiza učinka na človekove pravice opravljena: |
Ne
|
| Analiza učinka na osebne podatke opravljena: |
Ne
|
| Cena: |
Brezplačno
?
|
| Trajanje licence: |
Ni časovno omejena
|
| Analiza učinka na človekove pravice opravljena: |
Ne
|
| Analiza učinka na osebne podatke opravljena: |
Ne
|
Orodje uporablja metode strojnega učenja, predvsem nevronske mreže, z namenom učinkovite in zanesljive prepoznave govora. Orodje prepozna različne vrste zvočnih datotek, izvede prepoznavanje govora, vključno z ločitvijo na govorce, po najboljših močeh popravi besedišče in prepis opremi z ločili ter omogoča sprotno podnaslavljanje oziroma zapisovanje izgovorjenega besedila v tekst neposredno med samo glavno obravnavo.
Kontroliranje obračunov DDV (sistem eDIS)odkrivanje davčnih utaj in goljufij ter iskanje napak v obračunih DDV
| Področja: | Davki |
| Oznake: | Ocena tveganja Napovedna analitika |
| Razvijalci: |
SAP GmbH (implementator Sapphir d.o.o.)
|
| Institucija: |
| Cena: |
16.188.185,88 EUR z DDV
?
|
| Trajanje licence: |
Ni časovno omejena
|
| Analiza učinka na človekove pravice opravljena: |
Ne
|
| Analiza učinka na osebne podatke opravljena: |
Ne
?
|
V okviru sistema eDIS finančna uprava uporablja umetnointeligenčne sisteme za odkrivanje shem davčnih utaj in davčnih goljufij ter iskanje napak v obračunih DDV.
Davčni zavezanci oddajajo DDV obračune prek sistema eDavki v elektronski obliki, vsak oddan obračun DDV se prenese v zaledni sistem, ob tem pa se sprožijo različne kontrole. V primeru, da kontrole zaznajo izbrano nepravilnost ali odstopanje, se obračun DDV dodeli uslužbencu v vsebinsko kontrolo. Umetnointeligenčni sistem deluje kot dodatna kontrola. Za vsak DDV-O se izračuna ocena tveganja v razmerju med 0 in 1. Bližje 1 je ocena, večjo tveganost je obračunu določil sistem. Določeni obračuni DDV, pri katerih se preostale kontrole ne sprožijo, so lahko zaradi višine tveganosti, ki jo dodeli umetnointeligenčni sistem, prav tako dodeljeni uslužbencem v pregled.
Izdelava modelov poteka z orodjem SAP Data Intelligence. To orodje v fazi izdelave ustvari veliko število modelov (več kot 1000), nato se v več fazah izloča manj ustrezne modele in na koncu izbere enega, ki se ga potem uporabi v produkciji.
VAT-R (sistem eDIS)odkrivanje nepravilnosti ali odstopanj v VAT-R zahtevkih
| Področja: | Davki |
| Oznake: | Ocena tveganja Napovedna analitika |
| Razvijalci: |
SAP GmbH (implementator Sapphir d.o.o.)
|
| Institucija: |
| Cena: |
16.188.185,88 EUR z DDV
?
|
| Trajanje licence: |
Ni časovno omejena
|
| Analiza učinka na človekove pravice opravljena: |
Ne
|
| Analiza učinka na osebne podatke opravljena: |
Ne
?
|
V okviru sistema eDIS finančna uprava uporablja umetnointeligenčne sisteme za odkrivanje nepravilnosti ali odstopanj v VAT-R zahtevkih tujih davčnih zavezancev s sedežem v drugih državah članicah EU za vračilo DDV plačanega v Sloveniji. Sistem uporablja prediktivno analitiko, ki z metodami strojnega učenja na podatkih iz zahtevkov in drugih podatkov, do katerih dostopa FURS, ustvarja modele, ki računajo tveganost.
Za vsak prejet zahtevek se v zalednem sistemu prožijo kontrole (poslovna pravila, določena na podlagi izkušenj poslovnih uporabnikov, ki določajo uvrščanje zahtevkov v proces kontrole). V primeru, da kontrole zaznajo izbrano nepravilnost ali odstopanje, se zahtevek dodeli uslužbencu v vsebinsko kontrolo. Umetnointeligenčni sistem deluje kot dodatna kontrola in temelji na prediktivnem modelu. Vsak VAT-R zahtevek vsebuje enega ali več računov. Za vsak račun se izračuna ocena tveganja, ki je 0 ali 1. Če je 1, ga sistem določi kot tveganega, če je 0, ga sistem zazna kot netveganega. Na tej podlagi se šteje, da je tvegan VAT-R zahtevek, ki vsebuje vsaj en tvegan račun. O zahtevkih VAT-R, ki so ocenjeni kot tvegani ali na katerih se prožijo druga poslovna pravila, vedno vsebinsko odločajo uslužbenci FURS.
V okviru razvoja je bila izvedena analiza in izbor modelov za področje VAT-R z orodjem SAP Data Intelligence. Narejena je bila analiza podatkov, izbrani so bili relevantni atributi za modeliranje, pripravljena je bila učna in testna množica podatkov ter validacijska množica. Z uporabo funkcionalnosti AutoML je bilo kreiranih cca. 1000 modelov. V nadaljevanju se v več fazah izloča manj ustrezne modele in na koncu izbere enega, ki se ga potem uporabi v produkciji.
Edina pot do vzpostavljanja javnega zaupanja v poštenost, zanesljivost in zakonitost avtomatiziranih sistemov, ki so v uporabi v javnem sektorju, je njihova popolna transparentnost.
Javnost ima pravico do razumljivih in celovitih informacij o delovanju teh sistemov ter o načinih, kako organi sprejemajo odločitve, ki vplivajo na življenja posameznikov.
Slovenska javnost doslej ni imela dostopa do sistematično zbranih informacij o načinih in razlogih za uporabo umetnointeligenčnih sistemov v javnem sektorju ter o njihovem vplivu na družbo in posameznike. Register rabe UI premošča to vrzel.