Tulokset korostavat tarvetta avoimelle keskustelulle ja selkeille linjauksille tekoälyn käytössä
Julkishallinnon organisaatiot kohtaavat päätösongelman suhteessaan tekoälyn ja erityisesti kielimallien käyttöön. Kielimalli on tekoälypohjainen järjestelmä, joka on koulutettu ymmärtämään ja tuottamaan tekstiä luonnollisessa kielessä, ja se pystyy ennustamaan sanoja, lauseita tai jopa kokonaisia tekstejä annettujen syötteiden perusteella.
TekstiJaana Leikas, Antero Karvonen, Nina Wessberg ja Anton Sigfrids, Teknologian tutkimuskeskus VTT Oy
Yhä enemmän pohditaan kielimallien vaikutuksia ja sen rajaamista, millaisissa tilanteissa niitä kannattaa hyödyntää ja millaisissa ei.
Pohdinta herättää sekä strategisia että käytännön kysymyksiä. Päätösten tekeminen ei ole yksinkertaista.
Organisatoristen jännitteiden tutkiminen tarjoaa empiirisen väylän hahmottaa tekoälyn hyödyntämiseen liittyviä mahdollisuuksia ja haasteita.
Valtionhallinnon virkahenkilöt ja VTT:n ja Tampereen yliopiston tutkijat istuivat teeman äärelle STN-rahoitteisen ETAIROS-hankkeen työpajoissa. Tavoitteena oli lisätä ymmärrystä kielimallien käytöstä, tekoälyn eettisestä hallinnasta ja kehittää näihin liittyviä taitoja.
Dialogityöpajoista apua
Uusien ja nopeasti kehittyvien tekoälysovellusten käyttöönotto yhdistettynä toimintaympäristön lisääntyvään monimutkaisuuteen luo organisaatioille ristiriitaisia vaatimuksia ja pulmia.
Voidaanko teknologiaan luottaa?
Kuinka toimia vastuullisesti ja eettisesti, estää haittoja ja saada hyötyjä?
Miten käy inhimillisen asiantuntemuksen? Erotetaanko enää totta ja valhetta toisistaan, rapautuvatko kognitiiviset taidot?
Valmiita vastauksia ei juuri löydy. Huolimatta tekoälykokeilujen yleistymisestä, toistaiseksi on vain vähän kokemusta tekoälyn laajamittaisesta käytöstä julkishallinnon organisaatioissa.
Joka tapauksessa tekoälyteknologian käyttöönotolla on vaikutuksia kaikkiin organisaatioihin, joko suoraan tai välillisesti.
Vaikka tutkimuksissa on hahmoteltu tekoälyn käyttöön liittyviä riskejä, hyötyjä ja haasteita, tekoälyn julkiseen arvonluontiin liittyviä jännitteitä ei vielä täysin hahmoteta.
VTT ja Tampereen yliopisto olivat mukana STN-rahoitteisessa ETAIROS-hankkeessa (2019–2025), jonka yhtenä tavoitteena oli tarkastella tekoälyn eettistä hyödyntämistä valtionhallinnossa.
Hankkeessa hyödynnettiin ja kehitettiin sparrausklinikan konseptia, jossa virkahenkilöt ja tutkijat törmäytetään uuden tiedon ja ymmärryksen saavuttamiseksi.
Valtioneuvoston johdolla usean eri ministeriöiden virkahenkilöiden kanssa toteutetut työpajat järjestettiin syksyllä 2024 ja keväällä 2025.
Niissä keskityttiin dialogisuuden ja yhteiskehittämisen avulla yhteisen ymmärryksen luomiseen ja tutkimustiedon välittämiseen tekoälykokeilujen ja strategisen kehittämisen yhteydessä, päätyen erityisesti lainvalmisteluun liittyviin erityiskysymyksiin.
Tutkimukselliseksi näkökulmaksi nousi lopulta organisatoriset jännitteet. Niitä nostettiin esiin tarkastelemalla tekoälyn ja erityisesti kielimallien käyttöönoton strategisia ja käytännöllisiä kysymyksiä sekä eettisiä haasteita.
Jännitteet mahdollistavat
Organisatoriset jännitteet ovat tyypillisiä muutostilanteissa, kuten uuden teknologian käyttöönotossa. Ne eivät johdu ainoastaan yksilöiden arvojen ja näkökulmien eroista, vaan ilmenevät esimerkiksi toimintamalleina, joilla voi olla sekä haitallisia että hyödyllisiä vaikutuksia organisaatioihin.
Joskus ne nähdään joko-tai-kysymyksinä, joissa yhden vaihtoehdon valitseminen sulkee toisen vaihtoehdon pois. Jännitteiden ratkaiseminen edellyttää joka tapauksessa uusia ideoita, ratkaisuja tai innovaatioita, jotka uudistavat ja järjestävät organisaatiota uudelleen.
Jännitteiden hyödyntäminen muutoksen ajurina edellyttää kuitenkin niistä tietoiseksi tulemista.
Työpajakeskustelujen kautta kerätystä aineistosta nousi kymmenen jännitettä, jotka liittyvät organisaation arvoihin, käytön toteutukseen ja käytön vaikutuksiin.
Tunnistetut jänniteryhmät osoittavat, mihin näkökohtiin organisaatioiden olisi kiinnitettävä erityistä huomiota ottaessaan käyttöön tekoälyä.
Tämä puolestaan tukee organisaatioiden käytäntöjen ohjaamista ja johtamista. Tunnistetut jännitteet ovat epäilemättä melko yleismaailmallisia ainakin julkishallinnon yhteydessä.
On kuitenkin hyvä huomata, että niiden arvo on myös siinä, että lähteenä ovat toimineet organisaatioiden jäsenet.
Jännitteet kertovat todellisista ja relevanteista kysymyksistä organisaation sisällä. Ne synnyttivät runsaasti keskustelua kertoen tunnistettujen ilmiöiden merkityksestä osallistujille.
Viimeisen työpajan ja loppukeskustelun yhteydessä löydökset validoitiin, osallistujien korostaessa erityisesti jännitteitä, joita on muun muassa laadun ja tehokkuuden välillä.
Vastuullinen tekoälyn käyttö
Tekoälyn hyödyntäminen toteutetaan vallalla olevassa organisaatiokulttuurissa, mutta kulttuuri voi myös vähitellen muuttua.
Kulttuuri voi joko edistää tai vastustaa tekoälyn käyttöönottoa. Toisaalta tekoälyn mahdollisuudet tulkita organisaation kulttuuria, kuten esimerkiksi puhetapaa tai merkityksiä, voivat olla vähäiset.
Tehokkuus on tavallisesti keskeisin arvo, jonka pohjalta tekoälyyn siirtymisen päätös tehdään. Samalla tavoitellaan laatua, mikä voi olla vaikeaa, jos tehokkuus on päätavoite.
Tekoäly voi tehostaa ja nopeuttaa päätöksentekoa tuoden ja analysoiden enemmän tietoa, mutta se voi myös painottaa vääriä asioita ja oikaista prosesseissa.
Tekoälyn ja ihmisen tekemät virheet ovat erilaisia ja kykymme ymmärtää tekoälyn virheitä on rajallinen. Kielimalliin ja sen lopputuloksiin voi myös olla vaikea luottaa.
Kielimallin taustalla voi vaikuttaa arvoja ja näkemyksiä, joita ei saada näkyviksi. Mallin avulla voidaan päätyä uskottavan näköisiin tuloksiin ilman, että analyysi lopulta sisältää oikeita asioita.
Julkishallintoa tehostavan teknologian käyttö tulisi olla vastuullista. Silti voidaan joutua riippuvaisiksi malleista, joiden koodaus- ja kehitystausta ei ole omissa käsissä.
Teknologian myötä organisaation jo hyvin toimivat prosessit voivat rapautua eikä toimintaa välttämättä kyetä enää myöhemmin suorittamaan ilman kyseessä olevaa teknologiaa, jolloin on tultu riippuvaisiksi valitusta teknologiasta ja sen toimittajasta.
Tämä nivoutuu myös ajassamme turvallisuuden ja strategisen autonomian kysymyksiin.
Tekoälyä hyödynnettäessä hallinnan läpinäkyvyys osin heikkenee, mikä vaikuttaa julkishallintoa kohtaan koettuun luottamukseen.
Puhutaan mustan laatikon problematiikasta, jossa neuroverkot työskentelevät osittain siten, että emme täysin ymmärrä miten kaikkia yhteyksiä haetaan ja miten analyyseihin päästään.
Toisaalta päätöksentekokriteereitä voidaan ja kenties joudutaan avaamaan tarkemmin, jolloin päästään aiempaa yhtenäisempään ja johdonmukaisempaan lopputulemaan.
Avoin vuoropuhelu
Yhdessä tietoiseksi tuleminen tekoälyyn liittyvistä organisatorisista jännitteistä luo jatkokehitykselle parempia edellytyksiä.
Jännitteiden pohtiminen lisää ymmärrystä tekoälyn käyttöönoton ja hyödyntämisen kannalta keskeisistä avaintekijöistä.
On oleellista pohtia, miten jännitteet esiintyvät organisaatiossa, millaisia kehityskulkuja on mahdollista nähdä, miten jännitteet vaikuttavat työntekijöiden rooleihin, ja millaisia konkreettisia eettisiä kysymyksiä ne nostattavat.
Pohdinta jäsentää organisaatioissa kompleksista vyyhtiä, tekijöitä, joissa kaivataan eettistä harkintaa tekoälyn kestävyydestä ja hyväksyttävyydestä. Tällöin voidaan ymmärtää paremmin, millaisia uhrauksia tehdään, mitä mahdollisuuksia voidaan saavuttaa, eri tilanteiden taustalla vaikuttavia tekijöitä ja vaikutusten muodostumista yksilöön, organisaatioon ja ympäristöön.
Todellisuudessa jännitteet ovat päällekkäisiä ja toisiinsa nivoutuvia. Ne kuvaavat pienen osan, ikään kuin pysäytyskuvan todellisuudesta.
Jännitteen idea on siinä, että kumpikin vastakkaiselta tuntuva tila on yhtä aikaa voimassa. Oleellista on pyrkiä säilyttämään organisaation toimintakyky, vaikka läsnä olisi kaksi vastakkaista suuntausta, ajatusta tai tilannetta. Tässä tilanteessa tarvitaan eettistä harkintaa ja näkymiä organisaatioiden sisäisiin todellisuuksiin.
Virkahenkilöiden ja tutkijoiden yhteiset työpajat tarjosivat arvokasta tietoa tekoälyn eettisestä hyödyntämisestä valtionhallinnossa.
Tulokset korostavat tarvetta avoimelle keskustelulle ja selkeille linjauksille tekoälyn käytössä. Jatkotutkimus ja -kehitys ovat välttämättömiä, jotta tekoälyn mahdollisuudet voidaan hyödyntää täysimääräisesti ja eettisesti kestävällä tavalla.
Organisatoriset jännitteet osoittavat, ettei tekoälyn käyttöönottoon liittyviä kysymyksiä voida ratkaista ulkopuolelta, abstraktisti. Täytyy syventyä niihin realiteetteihin ja arvoihin, jotka kussakin organisaatiossa tosiasiallisesti vaikuttavat.
Julkishallinnon ei tarvitse olla kuin ranskalaisfilosofi Jean Buridanin mukaan nimetty herkullisten heinäkasojen väliin asetettu aasi. Parhaimmillaan se pikemmin harkitsee tarkkaan valintojaan hyvän ja vastuullisen hallinnon periaatteisiin nojaten, sietäen jopa nälkää yhteisen hyvän nimissä.
Yhteistä kuitenkin on, että päättämättömyys on myrkkyä. Mutta miten löytää hyvän päätöksen kriteerit?
Miten tasapainottaa muutoksen tarve, hyvä teknologian hyödyntäminen ja hyvän hallinnon periaatteet? Organisatoriset jännitteet tarjoavat empiirisen väylän hahmottaa näitä kysymyksiä asiayhteydessään.
Lue myös: