MDG vil gå til strafferettslige skritt mot Grok - eller stenge den ned

– Situasjonen med KI-generering av seksualiserte og krenkende bilder er svært alvorlig. I tillegg til de personene som har blitt rammet, så normaliserer KI-generere overgrepsbilder hets av kvinner og seksualisering av mindreårige.

MDG-politikeren mener det enten må tas strafferettslige skritt eller at tjenesten må stenges.

– Grok sine KI-løsninger er blant de som går aller lengst i å ikke ta personvernhensyn, sier han og understreker at han er redd for konsekvensene dersom man ikke tar grep. 

– Vi risikerer at KI-generert seksualisert hets kommer ut av kontroll, dersom internasjonale selskap kan operere nærmest lovløst og verken blokkeres eller straffeforfølges.

Ønsker umiddelbart forbud

Daglig leder i stiftelsen Barnevakten, Leif Gunnar Vestbøstad Vik, oppfordrer regjeringen og Stortinget til å snarlig innføre forbud mot KI-teknologi som kan lage seksualiserte bilder og videoer.

– Vi vil oppfordre regjeringen til å gå i front internasjonalt for å få med andre land på et globalt forbud.

Han sier han anerkjenner at KI-teknologi kan bidra med mye polsitivt, men ønsker fokus på hvordan man skal jobbe mot det negative i teknologien. Vik mener foreldre og barn må få mer kunnskap om hvordan de kan unngå å lage eller bli eksponert for seksualiserte bilder og videoer, men legger samtidig ansvaret på tekselskapene.  

– Vi krever også at tech-selskapene gjør mer for at deres tjenester er trygge, uavhengig av foreldreinnstillinger, sier han.

– Vi er ikke tjent med at enkelpersoner bli mer sårbare ved ny teknologi. Da må vi stoppe opp som samfunn og komme sammen for å finne gode løsninger.

Ikke mulig å lage lettkledde bilder lengre

Siden lanseringen har X moderert tjenesten flere ganger. 

9. januar ble bildegeneratoren lagt bak betalingsmur og ble bare tilgjengelig for «premium-brukere». Noen dager senere innførte selskapet en teknisk begrensning for å hindre at Grok tillater redigering av reelle personer i avslørende bekledning som bikinier.

EU-kommisjonens talsperson, Thomas Regnier sa at de vil «nøye vurdere disse endringene for å sikre at de faktisk beskytter innbyggerne i EU». 

Som svar til Dalin, skriver digitaliseringsminister Karianne Tung at hun har fått med seg grepene X har tatt og at hun følger utviklingen i EU.

Til tross for modereringen av Grok, florerer det med alternative tjenester som reklamerer med å være helt usensurerte, med «spicy mode» som kan generere innhold som er NSFW («not safe for work»).