Prva evropska raziskava o algoritmih, v njo vključena tudi Slovenija
V dobi velepodatkov algoritmi vse bolj vplivajo na naše življenje. Avtomatizirano odločanje pa ima poleg številnih koristi lahko tudi negativne posledice. Politični odločevalci zelo površno sledijo, na katerih področjih in s kakšnim namenom se uvajajo sistemi za avtomatizirano odločanje. Zato sta nevladna organizacija AlgorithmWatch in fundacija Bertelsmann Stiftung pripravili poročilo o avtomatizaciji družbe (Automating Society – Taking Stock of Automated Decision-Making in the EU), s katerim sta hotela prvič celovito predstaviti uporabo algoritmov pri odločanju. Avtorji poročila so tako zbrali več kot 60 primerov avtomatiziranega odločanja v dvanajstih državah Evropske unije, med njimi tudi Slovenije. Raziskavo in njene rezultate nam bo predstavil novinar in publicist ter raziskovalec pri tem projektu Lenart J. Kučič.
Lenart J. Kučič je izpostavil, da je treba v zvezi s strojnim učenjem upoštevati cel proces uvajanja nove tehnologije.
»Ko so na Nizozemskem uvajali sistem za preprečevanje goljufij pri prejemanju socialne podpore, se je namreč razvila zelo živahna razprava. Kritiki so namreč želeli, da vlada pojasni, kakšen je namen uvajanja tega sistema. Ali želi vlada dejansko izboljšati učinkovitost dodeljevanja pomoči, ali pa je bil motiv – in tu so spravili državo v zadrego – zmanjševanje števila zaposlenih na centrih za socialno delo. Ali celo tretja možnost, dokazati, da je upravičencev v resnici manj in na ta način prihraniti.«
Kot je poudaril, je to primer, ki bi ga morali imeti vedno pred očmi:
»To je to tak lep primer, da je treba vsak sistem pred uvajanjem preveriti skozi več filtrov – kdo ga uvaja, zakaj, s kakšnim namenom, kakšna je potem dejanska raba in kakšne so varovalke pred zlorabami.«
