AI4GOV

OSNOVNE INFORMACIJE

Logotip

Naslov
Trusted AI for Transparent Public Governance fostering Democratic Values

Trajanje
2022 – 2025

Spletne strani
Projektna stran →
CORDIS info →

OPIS

Projekt AI4Gov je namenjen raziskovanju možnosti uporabe tehnologij umetne inteligence (AI) in velikega podatkovja za demokratične namene. V okviru projekta se ukvarjamo z vprašanji etike, zaupanja v tehnologije umetne inteligence in diskriminacije in pristranskosti AI rešitev. Namen  projekta je ponuditi rešitve za izzive uporabe umetne inteligence v sodobnih demokracijah.

Projekt AI4Gov je usmerjen v razvoj in uvedbo AI rešitev, ki so zaupanja vredne, transparentne ter razložljive, pri čemer gre za sposobnost razumevanja in interpretacije, kako in zakaj sistemi umetne inteligence sprejemajo določene odločitve ali generirajo specifične rezultate.

Cilj projekta je tudi nuditi podporo odločevalcem pri uvajanju ustreznih politik in političnih priporočil v zvezi z rešitvami umetne inteligence. Člani projekta AI4Gov zagovarjamo stališče, da morajo biti rešitve umetne inteligence preproste za uporabo, pregledne, vredne zaupanja, brez diskriminacije in nepristranske. Prav tako pa je eden izmed ciljev projekta dvigniti ozaveščenost o umetni inteligenci in povečati zaupanje državljanov v te tehnologije, ki se morajo uporabljati odgovorno in etično.

Temeljni koncept projekta je, da morajo rešitve umetne inteligence varovati in spodbujati človekove pravice in demokratične vrednote, spoštovati veljavno zakonodajo (zlasti iz področja varstva osebnih podatkov, GDPR) ter biti razvite v skladu z etičnimi priporočili za umetno inteligenco (npr. HLEG (High-level expert group on artificial intelligence) in EU AI Act). Posebno pozornost projekt namenja vprašanju tim. pristranskosti rešitev umetne inteligence. Pri pristranskosti gre za neenakomerno obravnavanje različnih skupin ljudi, ki je lahko posledica nepravilnosti v delovanju AI sistemov. Rešitve umetne inteligence, ki so pristranske, lahko vodijo do diskriminacije, kršenja človekovih pravic, posledično pa tudi rušijo zaupanje v te sisteme.

V okviru projekta smo v lanskem letu že pripravili prvo delavnico na temo pristranskos v umetni inteligenci (Bias in AI). V okviru delavnice smo predstavili osnove umetne inteligence, razložili in s praktičnimi primeri prikazali kaj pomeni pristranskost v umetni inteligenci ter se dotaknili tudi vpliva pristranskosti AI na človekove pravice.

Videoposnetki predavanja so javno dostopni na platformi VideoLectures.NET.

PILOTNI PROJEKTI
Prev Next

POLITIKE ZA TRAJNOSTNO UPRAVLJANJE VODNEGA KROGA V VELIKEM OBSEGU

Prvi pilotni projekt prihaja iz Badajoze v Španiji, vodi pa ga lokalna oz. deželna uprava Diputación Provincial de Badajoz. Pilot se bo ukvarjal s politikami za trajnostno upravljanje vodnega kroga in sicer tako na področju pitne vode kot tudi odpadnih voda. Deželna uprava upravlja 63 čistilnih postaj za pitno vodo za oskrbo 137.910 prebivalcev ter sistem za čiščenje odpadnih voda.

V okviru projekta želijo implementirati uporabo inteligentnih orodij, ki bodo omogočala učinkovito upravljanje z vodo. Učinkovitost upravljanja vodnega kroga je namreč mogoče povečati s pomočjo senzorjev, velikega podatkovja in umetne inteligence. Deželna uprava že uporablja sistem za upravljanje vodnega kroga, ki vsebuje veliko senzorskih ter drugih podatkov, nova orodja pa bodo obstoječi sistem nadgradila ter izboljšala. Trenutno se razvijajo tehnologije, ki omogočajo izboljšanje učinkovitosti čiščenja, distribucije in porabe pitne vode ter odpadnih voda. Konkretno gre za to, da se senzorske in druge podatke skuša povezati z možnimi vzroki za neučinkovitost v sistemu, npr. puščanjem in izgubo vode v ciklu obdelave, porabo električne energije izven delovnega časa, itd. Podatki že obstoječega sistema za upravljanje vodnega kroga bodo tako uporabljeni za trening AI modela za odkrivanje motenj v sistemih upravljanja z vodo (tako za pitno kot tudi za kanalizacijske vode).

Pilotni projekt pa bo koristen tudi za oblikovalce politik, saj bodo na podlagi rezultatov analiz lahko določili najboljši način ukrepanja v zvezi z izboljšavami infrastrukture, dodelitvijo proračunskih sredstev, itd.

TRAJNOSTNI RAZVOJ IN EVROPSKI ZELENI DOGOVOR

Drugi pilotni projekt se bo izvajal na IJS v Sloveniji in sicer v okviru Mednarodnega raziskovalnega centra za umetno inteligenco (IRCAI). Pilotni projekt se bo izvajal na treh sklopih.

 IRCAI tekmovanje za 100 najboljših AI projektov

»Najboljših 100 AI projektov« je pobuda IRCAI, ki financira projekte za reševanje problemov, povezanih s cilji trajnostnega razvoja z uporabo umetne inteligence iz vseh petih geografskih regij: Afrike, Evrope in Amerike, Azije in Pacifika ter Bližnjega vzhoda. Primarni cilj je identificirati in predstaviti AI rešitve, ki lahko prispevajo k ciljem trajnostnega razvoja. Pri tem so seveda pomembni etični vidiki teh rešitev. Prijavitelji svoje projekte prijavijo preko spletnega obrazca, recenzenti IRCAI pa nato te projekte ocenijo ter pripravijo končno poročilo. Recenzenti so že poudarili, da bi bilo preko spletnega obrazca potrebno zbirati več informacij glede etičnih vprašanj in zlasti glede tega, kako prijavljeni projekti rešujejo problem pristranskosti. Prav tako bi bilo potrebno izboljšati metodologijo ocenjevanja projektov, zlasti za na področju ocenjevanja pristranskosti podatkov in modelov ter upoštevanja etičnih vidikov umetne inteligence. V okviru projekta bomo prijaviteljem in ocenjevalcem pripravili nabor orodij, ki jim bodo omogočala, da ocenijo pristranskost v AI rešitvah.

SDG Observatorij

Eden izmed projektov IRCAI je razvoj orodje, ki bo spremljalo doseganje ciljev trajnostnega razvoja (SDG) ter nudilo podporo oblikovalcem politik na področju trajnostnega razvoja človeštva. IRCAI se želi pri razvoju SDG observatorija v največji možni meri izogniti pristranskosti podatkov in AI modelov. V okviru pilota bomo razvijalcem IRCAI SDG observatorija nudili pomoč in podporo pri odkrivanju in odpravljanju pristranskosti. Tako na področju podatkov, kot tudi na področju identifikacija tematik, ki so bolj nagnjene k pristranskosti. Pristranskost je sicer lahko tudi v tem, da se nekateri podatki, ki so sicer pomembni, ne prikazujejo, in v okviru pilotnega projekta bomo naslovili tudi takšne primere.

Analiza političnih dokumentov OECD

OECD ima zbirko različnih nacionalnih politik in strategij umetne inteligence. Njihovo spletno skladišče vsebuje več kot 800 pobud in politik umetne inteligence iz 69 držav, ozemelj in EU. Naša ekipa bo te dokumente analizirala, v njih poiskala poglavja, ki predstavljajo politike in dobre prakse proti pristranskosti ter na podlagi te analize ustvarila vizualni povzetek s predstavitvijo teh rešitev in dobrih praks. Cilj sklopa v pilotnem projektu je ozaveščanje o pomenu etike v umetni inteligenci in pomembnosti pristopov za preprečevanje pristranskosti AI rešitev. V okviru tega pilotnega projekta želimo tudi spodbuditi oblikovalce politik, da ta vprašanja ustrezno obravnavajo, hkrati pa tudi ozaveščati razvijalce rešitev umetne inteligence.

 

UPRAVLJANJE IN OPTIMIZACIJA VEČDOMENSKIH POLITIK, USMERJENIH V TURIZEM

Zadnji pilotni projekt bo izvedla občina Vari-Voula-Vouliagmeni v Atenah v sodelovanju z grškim ministrstvom za turizem.

Turistični značaj občine vzpodbuja potrebo po spremembi in optimizaciji občinskih politik na različnih področjih, od prevoza, čistoče in sanitarij do zdravstvenega varstva, varnosti in javnih del. Glavni izziv je prilagoditev politik, ki temeljijo na tokovih državljanov in turistov ob upoštevanju prostorsko-časovnih elementov (tj. določenih območij v določenih časovnih okvirih) in ad hoc scenarijev (npr. v primeru hudih vremenskih razmer). Poleg tega bi morale posodobitve posebnih politik (npr. v primeru upravljanja parkiranja) dvosmerno upoštevati posodobitve drugih politik (npr. v primeru ravnanja z odpadki).

V okviru pilotnega projekta bomo obravnavali področje upravljanja parkirnih kart in ravnanja z odpadki.

Contact Us

Jožef Stefan Institute
Centre for Knowledge Transfer in
Information Technologies (CT3)

Jamova 39, SI-1000 Ljubljana
Slovenia

email: ct3@ijs.si
phone: +386 1 477 3593
fax: +386 1 477 3935