I dag ble PwCs rapport om Tromsø kommunes bruk av kunstig intelligens i utformingen av høringsgrunnlaget for ny barnehage- og skolestruktur lagt frem av Tromsø kommune. Jeg har fått «skummet» hele rapporten, hørt på pressekonferansen og samtidig «blogget» om mine umiddelbare inntrykk.
Tilfeldigvis kom rapporten omtrent samtidig, som min masteroppgave om «Kunstig intelligens som reform i Kommune-Norge» ble publisert på Munin. Sammen med ganske lang erfaring som folkevalgt i politisk ledelse i nettopp Tromsø kommune, føler jeg å ha kompetanse og innsikt i akkurat hva dette dreier seg om. Det gjør også at jeg jo også var særlig interessert i å høre hva PWC har funnet ut.
I første omgang ser evalueringen faglig solid, og peker på en rekke forbedringspunkter knyttet til kvalitetssikring, kompetanse og ansvarslinjer. Likevel sitter jeg igjen med to grunnleggende spørsmål innledningsvis:
(1) Forteller rapporten oss egentlig noe vi ikke visste fra før? Jeg mener nei, de peker mye på det åpenbare, som vi også vet fra mye forskning, og vi vet også hva som har gått galt.
(2) Går PwC langt nok i å analysere de dypere, strukturelle utfordringene som KI reiser for kommunen Også her mener jeg nei!
En nødvendig rapport – eller en bekreftelse på det åpenbare ?
PwCs rapport dokumenterer klart at det ble begått feil, gjennom at de konstaterer at KI ble brukt ukritisk, kilder ble fabrikkert, og det manglet kvalitetssikring. Men dette visste vi i praksis allerede da kommunen selv trakk høringsdokumentet og ville starte evaluering. Rapporten gir riktignok en mer systematisk gjennomgang, men mye av innholdet kan oppleves som en katalog over velkjente prinsipper, som vi vet fra forskning og som vi ser i veiledere fra statlige myndigheter. Det går på mer opplæring, tydeligere ansvar, bedre rutiner.
Jeg vil absolutt forsvares at en uavhengig gjennomgang ble gjennomført nå, for å rydde, lære og skape tillit. Men evalueringen har hatt stram tidsfrist, og skulle gjøres gjøre på kort tid, og dermed bærer det preg av å være gjort med tidspress og begrensinger i dybden. Da kan det virke som mer et produkt av behovet for å vise handlekraft (NÅ skal vi evaluere og DA ordner det seg…), enn at man kunne brukt noe bedre tid på finne dypere forståelse. For min umiddelbare inntrykk er å spørre om ikke rapporten burde gått dypere i sin analyse ? Eksempelvis «borre» enda mer i spørsmål som:
=> Hvorfor var organisasjonen i Tromsø kommune faktisk så dårlig forberedt, når vi vet at KI har vært på agendaen i flere år?
=> Hva sier dette om kultur, ledelse og intern kommunikasjon i Tromsø kommune og ikke bare om rutiner?
=> Hvilke mekanismer fører til at KI som teknologi fikk forrang fremfor faglig (menneskelig) skjønn, spesielt i komplekse og sensitive saker som skolestruktur?
=> Hvorfor ble ikke KI-prosjektet evaluert underveis, dersom man erkjenner at dette er ganske nytt og kraftfull, hvorfor skjedde det først etter at det gikk galt?
Dette er spørsmål som rapporten etter min umiddelbare mening burde stilt enda tydeligere. Den er altså god på å peke på symptomer, men svakere baser på å utforske de underliggende og strukturelle årsakene, hvor virkelig lærings punktene ligger. Dermed har rapporten pekt på mye av det vi altså kjenner fra forskningen allerede, og som gjentas mye av «KI-eksperter» som ulike konsulent-miljøer tilbyr…..
Hva min masteroppgave viser, som ikke rapporten fanger opp
I min masteroppgave intervjuet jeg fagfolk og ledere fra ulike kommuner. Ett av hovedfunnene var jo at kunstig intelligens ikke bare er et verktøy – det er en reform. Og reformer må behandles som nettopp det, og det vil så tydelig pilotering, bred deltakelse, kontinuerlig evaluering og forankring i hele organisasjonen.
PwC-rapporten peker på behov for kvalitetssikring, men sier lite om behovet for faglig medledelse og tverrsektorielle team. De anbefaler bedre internkontroll, men sier lite om hvordan kommunen kan utvikle en læringskultur for trygg eksperimentering, som vi vet er veldig viktig. De foreslår opplæring, men går ikke inn i spørsmålet om hvordan politiske og etiske vurderinger må integreres i KI-prosjekter.
Som mangeårig folkevalgt i politisk ledelse i Tromsø kommune vet jeg hvor krevende – og viktig – det er at saker med høy offentlig interesse har et beslutningsgrunnlag folk kan ha tillit til. Når kommunen bruker kunstig intelligens til å produsere et politisk sensitivt høringsnotat uten åpenhet om metode, faglig kontroll eller datakilder, så er det ikke bare en feil i verktøyet, men det er et direkte brudd med prinsippene for offentlig forvaltning. Derfor sitter jeg altså igjen med spørsmålet;
=> Vil Tromsø kommune og vi som er innbyggere lære det vi trenger av denne rapporten? Eller trenger vi mer systematisk refleksjon, og ikke bare mer kontroll?
Hva bør Tromsø kommune gjøre nå? Og hva kan kommune-Norge lære ?
Da har PwC gjort sitt. Nå er det opp til Tromsø kommune å ta neste steg. Dersom jeg fortsatt hadde hatt politisk innflytelse i kommune ville jeg fokusert på følgende og anbefalt at kommune straks :
1. Utvikling av en egen KI-strategi for kommunen
Som er forankret både i fag, politikk, tverrsektoriell, men også hos innbyggere og brukere (dette pekte PWC også noe på)
2. Etablering av en testarena for KI – der nye løsninger prøves ut trygt og gradvis, med aktiv evaluering
Eller som er beskrevet i masteroppgaven min, som «sandkasser» hvor KI- bruken kan testes ut.
3. Systematisk metodeåpenhet
Det betyr at alle dokumenter må redegjøres for KI- bruk, og de som er generert skal tydeligere merkes og forklares.
4. Bruker- og innbyggerinvolvering
Særlig i saker om angår barn og oppvekst, barnehager, skole, og eldre og helse, må det i mye større grad også fokuseres på brukerinnvolvering, fordi feil der får så store konsekvenser. Så KI må også sees opp mot brukermedvirkning.
5. Politisk diskusjon om KI og tillit
Ikke bare på den tekniske innføringen og bruken, men at det faktisk er en grunnleggende reform, og handler om mer enn algoritmer.
Avsluttende kommentarer
PwCs rapport er absolutt en nødvendig milepæl. Men hvis vi vil gjøre KI til en styrke for kommunen, hele Kommune-Norge og offentlig sektor, og ikke bare blir sett på som en risiko, så må vi videre. Det er ikke nok å tette hullene. Vi må bygge et system som forstår hvordan teknologi griper inn i både forvaltning og demokrati.
Som jeg har skrevet en kronikk om i bl.a. Nord-norsk debatt, så er kunstig intelligens ikke magi. Det er ledelse! Og Tromsø kommune – som allerede har måtte innrømme feil og begynt å rydde opp, har nå muligheten til å bli et eksempel for resten av Kommune-Norge.
*****
Min masteroppgave – «Kunstig intelligens som reform i Kommune-Norge» – er nylig publisert på Munin. Jeg tar gjerne imot spørsmål, innspill og samarbeid rundt hvordan offentlig sektor kan bruke KI klokt, etisk og effektivt.
Her finner er PWC rapporten publisert 2.7.25: «Evaluering av bruk av kunstig intelligens i Tromsø kommune»