Vi har ikke råd til det tillitstapet som kommer med generativ KI

Feil fra generativ KI påvirker «aldri» resultatet

Hver eneste gang dette skjer, må virksomheten ut og beklage. Og hver gang gjentas de samme flosklene:

«Feila har liten betydning for innhaldet i teksten vår», sier Alver kommune.

«Det er henvisningene i saksfremlegget som er feil, ikke innholdet», lyder det fra Asker kommune.

«PwC kan ikke se at bruk av kunstig intelligens har hatt betydning for innholdet i arbeidsgruppens forslag til ny skole- og barnehagestruktur», står det i granskningsrapporten etter Tromsø-saken. 

Det virker mistenkelig beleilig at slike feil fra en generativ KI-tekst aldri ser ut til å ha noen påvirkning på resultatet.

Ida Thorsrud
Jurist og personvernekspert

Eller fra selveste Riksrevisjonen: «Vi ser nå at vi burde forklart tallet bedre, blant annet at KI var brukt for å komme fram til tallet.» Uten at konklusjonen i rapporten endres.

Resultatet er det samme hver gang. Ja, det offentlige har gjort feil. Ja, det har blitt vist til feil kilder. Noen ganger betyr det til og med at innholdet i saksdokumentene er feil. Men resultatet er alltid riktig. Ingen av feilene har hatt innvirkning på utfallet. 

Tilliten til det offentlige brytes ned

Det er mange problemer med denne typen kommunikasjon, men la meg si det åpenbare: Det virker mistenkelig beleilig at slike feil fra en generativ KI-tekst aldri ser ut til å ha noen påvirkning på resultatet. Det er rett og slett skikkelig vanskelig å tro på.

Så vanskelig at når kommunikasjonsavdelingen må ut og forsvare dette, har tillitsbruddet allerede skjedd.

Min påstand er at denne måten å bruke generativ KI på, ødelegger tilliten til det offentlige på en måte som vi ikke har råd til. Og samtidig ser jeg at disse virksomhetene overhodet ikke tar inn over seg det alvorlige tillitsbruddet som denne typen saker innebærer. Disse sakene blir bagatellisert bort når det kommuniseres at feil kilde lagt til grunn aldri får konsekvenser for utfallet. 

Min frykt er at et ønske om økt effektivitet kommer på bekostning av ikke bare riktighet, men også tillit.

Ida Thorsrud
Jurist og personvernekspert

Norge er et samfunn preget av høy tillit. Det er vanskelig å måle verdien av høy tillit, men jeg mener det er en beredskapsressurs vi snakker lite om. Vi så det under pandemien, folk flest følger føringene fra styringsmaktene.

Når KI rulles ut så raskt, uten tydelige rammer og helt uten et bevisst forhold til hva teknologien bør brukes til, vil feil som dette fortsette å skje. Min frykt er at et ønske om økt effektivitet kommer på bekostning av ikke bare riktighet, men også tillit.

Kjære digitaliseringsminister, vi har råd til å gå saktere

Nylig ble det kjent at Norge er det landet i Europa som bruker mest KI. Det er ikke vanskelig å se hva det skyldes. Vi er allerede ganske digitaliserte, og i tillegg har det offentlige fått en tydelig føring fra digitaliseringsministeren om at alle offentlige virksomheter skal ta i bruk KI innen 2030.

Dette fordi KI skal økt effektiviteten, noe som har potensiale for å redde velferdsstaten. Jeg forstår deg godt, Digitaliseringsminister. Når selveste velferdsstaten står på spill, haster det med utrullingen av KI.

Problemet er bare at selve utrullingen også truer velferdsstaten. Den er helt fullstendig avhengig av vår alles kollektive tillit, og den brytes sakte, men sikkert ned for hver ny sak som dette.

Min oppfordring til deg, kjære Digitaliseringsminister, er at vi har råd til å gå langsommere. Det vi ikke har råd til, er svekket tillit.