Fremveksten av kunstig intelligens stiller nye krav til kildekritisk kompetanse. Det omfatter å vite litt om hva KI er, hvilke former det kan ta og ikke minst hvordan vi kan være kildekritiske i møte med KI. 

Hva er KI?

Kunstig intelligens er en teknologi og et fagfelt innen programmering. Kunstig intelligente programmer er trent opp til å gjøre oppgaver uten at mennesker er involvert. Eksempler på kunstig intelligens du møter i hverdagen er ansiktsgjenkjenning på mobilen din, chatboter i kunderservice, robotstøvsugere og virtuelle assistenter som Siri og Alexa.

Det “intelligente” i kunstig intelligens handler om at et program utvikler seg selv og selv finner ut hvordan det skal løse en oppgave. Derfor kan ikke vi mennesker vite sikkert hvordan programmet har løst oppgaven, vi kan kun se resultatet av oppgaven.

Hvordan fungerer det?

Hva er kunstig intelligens? 

Den typen kunstig intelligens som produserer nytt innhold, for eksempel bilder og tekst, kalles generativ kunstig intelligens. Eksempler på dette er ChatGPT som produserer tekst, og Dall-E som produserer bilder.

Teksten vi får fra språkmodeller som ChatGPT, er ikke basert på informasjon den har lagret et sted, men på ordsammensetninger den har lest tidligere.

La oss ta et eksempel. Hvis man spør ChatGPT hvor i Norge Det kongelige slott ligger, vil den som oftest svare Oslo. Det er ikke fordi den henter frem kunnskap om hverken Slottet eller Oslo, for den har ingen slik kunnskap. Men ordene Slottet og Oslo opptrer mye oftere sammen i datamaterialet enn Slottet og noen annen by. Det er statistisk sannsynlig at disse ordene passer sammen, og det er grunnen til at man får svaret Oslo. Dette er slik all generativ KI lager innhold, og gjelder også for musikk, bilder, video og lyd.

Flere av de store språkmodellene har fått funksjoner der man kan legge inn informasjon, eller der den kan søke på internett etter svar. Likevel har ikke programmene noen mekanisme for å sjekke om svarene de kommer med, er sanne. Det betyr at selv om ChatGPT tar utgangspunkt i korrekt informasjon, kan den fremdeles sette sammen ord og setninger på en måte som gjør at den genererte teksten inneholder unøyaktigheter eller rene faktafeil. Dette er fordi programmet først og fremst er laget for å sette sammen ord i en rekkefølge som gir godt språk, og ikke har noen mekanismer for å kontrollere at det den skriver, er sant.

Generativ KI

Laget for å kommunisere, ikke informerere

Språkmodeller kan finne på informasjon

Er ikke nøytral

Kan forsterke stereotypier og fordommer

KI lager lyd, bilder og video som ligner på virkeligheten 

Kildekritikk i møte med KI

Introduksjon til kunstig intelligens

Falskt innhold i feeden

Maskiner som mener

Film, oppgaver og quiz om deepfakes

Kan vi stole på Snapchats MyAI?

Kunstig intelligens

#fff

#000

Læringssti 30 min

Hallusinerer KI?

Kunstig intelligens – begrensninger eller muligheter?

Musk med makt

Fire hjørner

Blir mennesker dummere enn maskiner?

Avsluttende spørsmål KI

Jeg tror kunstig intelligens vil forbedre...

Spørsmål til klassesamtale MyAI

Oppstartsoppgaver om kunstig intelligens

Oppgave 3 kunstig intelligens

Kunstig intelligens og kjeldebevisstheit

Telefonen din ringer. Nummeret er hemmelig, men du tar den likevel.

“Hjelp, jeg har blitt bortført!” hører du i andre enden.

Det går kaldt nedover ryggen din. Stemmen er ikke fremmed. Det er broren din.

“Hjelp, jeg har blitt bortført!” hører du igjen. “Du er nødt til å overføre 10.000 kroner til en konto for å få meg løslatt!”.

Hjertet ditt banker raskere. Du svetter i håndflatene. Hva er det som skjer? Hvem har bortført broren din?

Men det har ikke skjedd. Selv om det høres ut som broren din, så er det ikke det. Det er kunstig intelligens som etterlikner stemmen hans, så godt at det kan lure deg.

Det kan høres ut som et vilt fremtidsscenario, men dette er virkeligheten akkurat nå. Slike svindelforsøk har nemlig skjedd flere ganger den siste tiden, og formålet er å svindle bekymrede pårørende for penger.

 at det var datteren hennes som ringte henne, at hun kontaktet politiet for å melde datteren som kidnappet.

 er ikke lenger noe man bare forestiller seg i en sci-fi-film, og 

og musikkprodusenter har tatt teknologien til seg

. Det virker i det hele tatt som om kunstig intelligens plutselig er overalt. Du kan 

sorterer filmene og seriene dine på Netflix

r med på å bestemme hvilke innlegg du ser først

Sannsynligvis har vi kun sett begynnelsen. Det er bred enighet om at kunstig intelligens vil forandre fremtiden. Men hvordan?

Teknologien vil sannsynligvis bringe med seg gode ting. Kloke hoder sier at kunstig intelligens kommer til å gjøre det mulig å 

. Det høres jo bra ut. La oss komme i gang, tenker du kanskje.

Men så enkelt er det ikke. Det er nemlig også en bekymring at kunstig intelligens kan bringe med seg problemer. 

Bare se på populærkulturen. I nesten hundre år - bokstavelig talt - har man laget film om det ene skrekkscenarioet etter det andre.

Allerede i 1927 kom den tyske filmen Metropolis, som forteller hvordan en menneskelignende robot med navn Maria, infiltrerer og lurer et samfunn som faller fullstendig fra hverandre. I A Space Odyssey fra 1968 vender teknologien seg mot menneskeheten og begynner å handle på egen hånd. Det får - spoiler alert - fatale konsekvenser.

Dette er scenarier som kan få nesten hvem som helst til å engste seg. Det går nok ikke så galt i virkeligheten. Men noen av bekymringene er helt reelle.

Hva vil kunstig intelligens for eksempel gjøre med informasjonen vi møter, og ikke minst med hvordan vi møter den? Hva vil det gjøre med tilliten vår til informasjon og muligheten vår til å stole på den?

Feilinformasjon var et problem allerede før kunstig intelligens ble tilgjengelig for oss alle. For eksempel deler folk uriktig informasjon på sosiale medier, enten fordi de ønsker å påvirke andres holdninger, tjene penger eller rett og slett fordi de har misforstått et eller annet. 

Med kunstig intelligens har det blitt enda lettere både å lure og å bli lurt.

Det er spesielt generativ kunstig intelligens som i denne forbindelsen gir ekspertene svette håndflater. KI-modeller som kan skape helt nytt innhold som tekst, lyd, bilder og videoer - når de fôres med data av de kloke hodene som har skapt dem.

Generativ kunstig intelligens hadde for eksempel en virtuell finger med i spillet da de to canadiske superstjernene Drake og The Weeknd tilsynelatende plutselig utga en sang ved navn Heart on My Sleeve våren 2023. Sangen rakk å 

 før det ble avslørt at den var generert av kunstig intelligens. Etter å ha fått tilgang på lydklipp med Drake og The Weeknd sine stemmer, hadde programmet skapt nærmest en tro kopi av dem. Det er samme teknologi som er i bruk når svindlere etterlikner familiemedlemmers stemme for å lure folk for penger. 

På samme måte kan man allerede nå forvrenge virkeligheten ved hjelp av AI-generte bilder og videoer. Man kan få det til å se ut som hendelser som aldri har funnet sted, har skjedd. At mennesker sier eller gjør ting de aldri har sagt eller gjort. Det kan få store konsekvenser.

Som da et AI-generert bilde av en eksplosjon ved det amerikanske forsvarsdepartementet Pentagon gikk viralt på internett, og i en kort periode 

påvirket hele den amerikanske økonomien

Allerede nå ser vi at kunstig intelligens gjør det vanskelig å skille mellom virkelighet og fantasi. Men hvordan vil dette se ut i fremtiden? Når man på få sekunder kan generere ethvert bilde man kan ønske seg, ethvert musikkstykke med enhver kunstner, når man kan få chatbots til å skrive bøker, taler og nyheter. Er det i det hele tatt noen som vil ta sine egne bilder, filme egne videoer og lage egen musikk?

Hva om alle bilder du ser på sosiale medier, er KI-genererte? Hvis du og vennene dine kan generere feriebilder fra steder dere aldri har besøkt, eller fester dere aldri har vært på? Hvis ikke engang ansiktene du ser på TikTok er ekte? Og hvis en maskin bestemmer både hvilke nyheter vi skal se og hvordan de blir fortalt? 

Hvis kunstig intelligens får fritt spillerom, vil maskinene sannsynligvis ikke bare kunne fabrikkere misvisende versjoner av virkeligheten, men også optimalisere de versjonene av virkeligheten den skaper.

Ut ifra den kunnskapen den har, kan den gi oss alt det statistikken sier at vi liker. Det vi lytter til, liker og klikker på. Vil den da kun lage musikk som lyer som Drake og The Weeknd fordi det er det som er øverst på hitlistene? Vil alle KI-generte ansikter likne Kim Kardashian og Christiano Ronaldo fordi det er de som får flest likes på Instagram? Vil alle nyhetshistorier handle om fotball og reality-tv fordi det er dette som får mest klikk?

Og hva kan vi egentlig stole på? Hvilken versjon av virkeligheten sitter vi igjen med? 

Det kan godt hende at kunstig intelligens ikke erklærer krig mot menneskeheten slik den gjør i The Terminator. Men det er helt sikkert at den er i stand til å endre fullstendig på virkeligheten vår hvis vi lar den gjøre det. 

Spørsmålet blir da, skal vi la den gjøre det?

En fremtid med kunstig intelligens?

KI og kommersielle krefter

Kunstig intelligens og ChatGPT i skolen

Søk med språkmodeller

KI i klasserommet

Deepfake

Inga Strümke om MyAI

Inga Strümke forklarer hva språkmodeller som ChatGPT er, og gjennom det hvordan MyAI fungerer.

MyAI og språkmodeller

Kunstig intelligens og kildebevissthet

Jeg frykter at KI...

Video om AI - NORDIS

Kompetansepakke om kunstig intelligens

Maskiner som snakker

KI-influensere

Oppstartsaktivitet: AI slop i den amerikanske valgkampen

Er ChatGPT nøytral?

Kunstig intelligens og kildekritik

KI forklart på fem sekunder

Andre klassesamtale MyAI

Denne artikkelen er over tre år gammel og kan inneholde utdatert informasjon.

 dersom du fikk se en film der Erna Solberg sier at hun vil fraråde deg å bruke munnbind og at smittevern ikke er så viktig? Kanskje ville du lurt på om det virkelig var sant at statsministeren sa noe sånt. Men det var da vitterlig hennes ansikt du så og hennes stemme du hørte? Så var det nok likevel ikke det. Men det er slett ikke sikkert du hadde klart å finne ut at videoen var falsk bare ved å bruke ryggmargsrefleksen.

Ord kan legges i munnen på en president.

 Ny teknologi gjør det nemlig mulig å forfalske stemmer og ansikter til hvem som helst. Denne teknologien, best kjent som «deepfakes», muliggjør dype forfalskninger av lyd og bilder, som kan manipulere ansikter og stemmer. Gjennom kunstig intelligens går det an å lage lyd, bilder eller film der en person tilsynelatende sier eller gjør noe han eller hun faktisk ikke har sagt eller gjort. Tilbake i 2018 ble mange overrasket av en film som viste Barack Obama omtale Donald Trump som en idiot. Sammenliknet med dagens deepfake er denne filmen lett å avsløre som falsk. Teknologien er i rask utvikling, og blir stadig både bedre og billigere å bruke. Dermed blir falske videoer også stadig vanskeligere å avsløre.

Unges tillit til ryggmargsrefleksen gjør dem ekstra sårbare.

 En godt produsert deepfake er i dag umulig å avsløre som falsk kun ved å se på den. Fra Medietilsynets undersøkelse om nordmenns kritiske medieforståelse i 2019 vet vi at fire av ti nordmenn sliter med å avdekke falske nyheter. Da er det urovekkende å tenke på at det er enda vanskeligere å avsløre deepfakes. I den samme undersøkelsen ble respondentene spurt hva de gjorde for å avsløre en konkret falsk nyhet. To av tre svarte at “det var helt åpenbart” at saken var falsk. Særlig blant de unge var tiltroen til egen ryggmargsrefleks stor. Kun én av ti svarte at de aktivt sjekket kildene i saken.

Barn og ungdom møter på falske nyheter oftere enn andre.

 Barn og ungdom møter oftere på falske nyheter enn resten av befolkningen. Det ser vi når vi sammenligner Medietilsynets undersøkelse Barn og medier 2020 med undersøkelsen om nordmenns kritiske medieforståelse fra 2019. At unge er mer eksponert for falske nyheter henger sannsynligvis sammen med at de har sosiale medier som sin fremste nyhetskilde, og at falskt og manipulert innhold sprer seg lettere gjennom slike kanaler. Norske ungdommer har dessuten mangelfulle strategier for å drive kildekritikk, ifølge en analyse av PISA-undersøkelsene gjennom de siste 20 årene.

Det kan være lønnsomt å lure oss eller å skape splid.

 Falske nyheter beskrives gjerne som nyhetsliknende innhold som bevisst sprer usannheter. På fagspråket kalles det desinformasjon. De som står bak kan ha ulike motiv, som økonomisk fortjeneste eller å skape splid i samfunnet. En forvrengt sannhet er virkemiddelet. Aktører som sprer desinformasjon og falske nyheter bruker ofte ny teknologi for å oppnå større effekt, fordi det falske innholdet da blir vanskeligere å avsløre.

Nye lærerplaner gir drahjelp til unges kritiske medieforståelse.

 Kritisk medieforståelse og kildekritikk har heldigvis fått stor plass i de nye lærerplanene som kom i høst. Det er avgjørende at skolen tar ansvar for å utvikle kunnskap og ferdigheter på dette området. Kompetente lærere og gode undervisningsopplegg er avgjørende for å lykkes. For å bidra til det, har Medietilsynet og Tenk, skoleavdelingen til Faktisk.no, utviklet et opplegg om bildemanipulering og deepfakes for elever på ungdomsskolen og videregående skole. Undervisningsopplegget skal styrke de unges kildebevissthet og kritiske mediebruk, og lære dem å ikke stole blindt på ryggmargsrefleksen. Selv om opplegget er laget for ungdom, tror vi folk i alle aldre kan ha nytte av å ta en titt. Dette er kunnskap vi alle trenger.

 Det har nylig vært et presidentvalg i USA, og kampen om sannheten blant landets toppledere har skapt uro i et samfunn hvor vi har sett både desinformasjon og påvirkningsoperasjoner. Det kan virke langt unna og fjernt fra den norske virkeligheten, men heller ikke i Norge kan vi ta demokratiet eller ytringsfriheten for gitt. Vi er avhengig av sannferdig informasjon for å ta gode valg og bidra i en opplyst offentlig debatt. Da trenger vi kritisk medieforståelse og metoder for å drive kildekritikk. Vi må rett og slett utvikle en ny ryggmargsrefleks. Den må fortelle oss at vi bør sjekke om avsenderen er troverdig, om andre medier rapporterer om det samme, og om personen som sier noe i en video som spres på nett, har sagt noe lignende i andre kanaler. Slik bygger vi gode kildekritiske vaner tilpasset de utfordringene dagens digitale medielandskap fører med seg.

Publisert på Midtnorsk debatt 22.11.2020

Det kan være lønnsomt å lure oss

Læringssti 60 min

Falske bilder og videoer

Hva tror dere kan være grunnen til en økning av KI-boter som nyhetsankre fremfor ekte mennesker foran kamera?

Diskuter fordeler og ulemper ved bruk av kunstig intelligens for å produsere nyheter.

Hva tenker dere om at nyheter og politisk innhold blir laget og delt av kunstig intelligens?

Kunstig intelligens

Introduksjon til kunstig intelligens

Undervisningsopplegg

Samlinger

Video

Samtalekort

Quiz

Presentasjoner

Artikler