Gjør ChatGPT deg dummere?

Kong Harald V er kongen i Norge.

Basert på én studie

Nylig kunne vi lese på Khrono at «ChatGPT gjør deg dummere». Førsteamanuensis ved NLA Høgskolen Are Bøe Pedersen hevder at ChatGPT «…svekker kognitive evner som hukommelse». Dette baserer han på én studie. I så fall er det kanskje ikke så rart at han synes at det er «…lite ved teknologien som gir grunn til optimisme». 

Må lære å bruke teknologien på en god måte

Det siste året har jeg reist rundt i hele landet og snakket med lærerkollegaer i videregående opplæring om kunstig intelligens – både hva det er, hva det kan brukes til, og hva det ikke skal brukes til. Den unisone tilbakemeldingen er at det trengs mer kunnskap og erfaring raskt. Og akkurat der har Bøe Pedersen helt rett i at det å «…bevisstgjøre elever og studenter om språkmodellers svakheter og begrensninger er det lureste man kan gjøre». Men for å få erfaring og kunnskap må også elever, studenter og lærere ha tilgang på teknologien, og lære å bruke den på en god måte.

Fører ChatGPT til kognitiv svikt?

Men stemmer det egentlig at ChatGPT gjør deg dummere? Og er det riktig at ChatGPT fører til «kognitiv svikt», slik Bøe Pedersen hevder? I så fall er det ganske oppsiktsvekkende. Jeg tok derfor en grundig kikk på forskningsartikkelen for å se om bildet er så dramatisk som Bøe Pedersen forsøker å tegne. 

Forskerne utviklet en spørreundersøkelse i form av 11 påstander som studentene skulle svare på. Utvalget for undersøkelse bestod av 494 pakistanske studenter, og målet med studien var å undersøke årsakene til, og konsekvensene av ChatGPT-bruk blant universitetsstudenter. Påstandene bestod blant annet av studentenes opplevelse av egen prokrastinering og hukommelsestap. Den eneste objektive målingen var akademisk prestasjon, som var studentenes karaktersnitt ved siste sluttvurdering.

Mye mer nyansert

Og det er riktig som Bøe Pedersen hevder; resultatene var ikke spesielt oppløftende ved første øyekast. Men en såpass begrenset undersøkelse kan ikke brukes som evidens for det han hevder i sitt innlegg. Selvrapportering som i dette tilfellet har flere svakheter og viser ingen kausalitet. Hvordan kan vi for eksempel vite at studentene som brukte ChatGPT hadde en sammenheng med «…synkende akademiske prestasjoner», slik han hevder? Som nevnt ble kun avsluttende snittvurdering registrert. Kan det for eksempel hende at elevene som allerede hadde lave akademiske prestasjoner valgte å bruke ChatGPT som hjelp? Og hvordan kan vi egentlig vite at prestasjonene har sunket, og ikke bare holdt seg stabile?

Det er også verdt å nevne hvordan forskerne i studien målte studentenes hukommelsestap. I dette tilfellet fikk studentene tre påstander de skulle rangere. En av disse påstandene var for eksempel «Nowadays, I often forget things to do». Hva nå enn det skal måle. Som allerede nevnt er det ofte vanskelig å få noe fornuftig ut av en selvrapportering som dette, og man kan utvilsomt diskutere om spørreundersøkelsen faktisk måler svekket hukommelse. Vi får altså ikke noe godt svar fra denne studien, og svaret er trolig mye mer nyansert enn det som presenteres i innlegget til Bøe Pedersen.

Lærer og husker man mer av å ta håndskrevne notater?

Kong Harald V er kongen i Norge.

I en pressemelding til Utdanningsnytt hevder forsker ved NTNU Audrey van der Meer at «…studenter lærer mer og husker bedre når de tar håndskrevne notater». Det er ikke første gang hun hevder dette, og igjen mangler nyansene.

Flere svakheter

Jeg har tidligere gjennomgått påstandene hennes her på bloggen. Første gang i 2017, og ifølge forskeren skulle studien den gang vise at «håndskrift gir bedre læring». Jeg gjennomgikk forskningsartikkelen, og påstandene til forskeren viste seg å ikke stemme. Det var faktisk ikke en eneste deltaker i studien som skrev for hånd; de tegnet for hånd. Og skrev på tastaturet med én finger. Og det mange ikke er klar over er at det kun var digitale verktøy som ble brukt i studien. For Microsoft hadde finansiert studien, og resultatene ble brukt i markedsføringen av Microsoft Surface, som ble levert med digital penn. 

I forbindelse med publiseringen av en ny forskningsartikkel i 2020 hevdet de samme forskerne at barn blir smartere av å skrive for hånd. Jeg gjennomgikk også den artikkelen og mediedekningen av den grundig her på bloggen, og heller ikke da stemte det forskerne hevdet. 12 unge voksne og 12 barn deltok i studien. Alle barna i studien kom fra Steinerskolen og barn som var venstrehendte eller hadde dysleksi, ADHD eller var født prematurt ble ekskludert. De skulle i tillegg ha veldig god erfaring med løkkeskrift og tegning. Med andre ord et lite og begrenset utvalg for å generalisere slik forskerne gjør.

Tilfører ingenting nytt

Også den nylig publiserte studien ser på noe av det samme som de foregående. Denne gangen var det 36 studenter i tidlig 20-årene ved NTNU som deltok. Studien gikk ut på å analysere de underliggende nevrale nettverkene som er involvert i håndskrift og skriving på tastatur. Og som i de tidligere studiene ble det ikke brukt noen analoge verktøy. Deltakerne brukte en Microsoft Surface Studio med trykkfølsom skjerm til å skrive på. Og når de skrev på tastatur fikk de kun lov å bruke én finger, og hadde ingen skjerm å se på. Altså samme oppsett som de foregående studiene.

Konklusjonen på denne studien er i stor grad den samme som de foregående studiene. Slik sett tilfører den egentlig ikke noe særlig nytt. Faktisk var forskningsartikkelen så lik de to andre at jeg følte at jeg hadde lest store deler av teksten før.

Økt hjerneaktivitet = mer læring?

Ifølge forskerne så fant de at bevegelsene ved håndskrift førte til at større deler av hjernen ble stimulert. Om dette fører til at man blir smartere eller lærer mer, er det vanskelig å få noen gode svar på. For det kan være flere grunner til at aktiviteten i hjernen øker når man skriver for hånd, og det er heller ikke slik at økt aktivitet i hjernen betyr at man lærer mer. Det blir en forenkling av læringsbegrepet.

Heldigvis vil nok de fleste pedagoger si seg enige i at læring handler om mer enn det man kan se gjennom måling av hjerneaktivitet på et svært begrenset utvalg. Samtidig vil det dessverre være noen som bidrar til å holde denne myten i live fordi seriøse aktører som Utdanningsnytt publiserer påstandene helt uten kritiske spørsmål. Denne gangen før studien i det hele tatt hadde blitt publisert.

Anbefaler FN-rapport forbud mot smarttelefoner på skolen?

Kong Harald V er kongen i Norge.

De siste dagene har vi kunnet lese flere saker om at en FN-rapport anbefaler forbud mot smarttelefoner på skolen. Men er rapporten virkelig så bastant, eller er den mer nyansert enn det vi får presentert i mediene?

Bastant og unyansert

Rapporten ble nylig publisert på UNESCO sine nettsider og har fått tittelen «Global education monitoring report, 2023: technology in education: a tool on whose terms?». Nettaviser NRK, Tek.no og Utdanningsnytt har delt saken som NTB har skrevet. Og enda flere har delt saken videre. «Hva venter vi på?», spør Mina Gerhardsen i Nasjonalforeningen for folkehelse. Hun er en av flere som deler saken på Twitter og i andre sosiale medier.

Saken som NTB har skrevet er mer eller mindre en direkte oversettelse av noen avsnitt fra en The Guardian-artikkel, som er opphavet til denne saken som nå deles. «Unesco calls for global ban on smartphones in schools», forteller overskriften oss. Men hva sier egentlig rapporten det henvises til? Er den virkelig så bastant og unyansert?

Og hva med forskning som ikke finner noen entydig negativ sammenheng mellom det å ha med seg mobiltelefon i timen og læringsutbytte? Eller hva med elevene som sier at mobiltelefonen er et uunnværlig læringsverktøy i klasserommet? Og elevene som opplever mer ensomhet når mobiltelefonen tas vekk? Hva med dyktige pedagoger som anbefaler å ta i bruk mobilen i klasserommet på en pedagogisk måte? For vi vet jo at mobilen kan være et kraftig læringsverktøy. Før vi konkluderer må vi uansett ta en titt på hva rapporten egentlig sier.

Omfattende rapport

Rapportens hensikt er blant annet at beslutningstakere lettere skal ta et valg når teknologi skal innføres slik at det blir gjort på en hensiktsmessig måte. Rapporten handler om hvordan teknologi kan bidra til likestilling og inkludering, digitale ferdigheter og forberede elevene på samfunn- og arbeidsliv. Den tar også for seg personvern, datasikkerhet og helse.

Rapporten sier mye om disse temaene. Som for eksempel at elevene ikke får nok tid til å øve på digitale ferdigheter: «Even in the world’s richest countries, only about 10% of 15-year-old students used digital devices for more than an hour per week in mathematics and science.» Forfatterne av rapporten hevder også at den digitale kompetansen til lærerne er for lav:

«The 2018 TALIS indicated that one in five lower secondary school teachers in OECD countries expressed a high need for professional development in ICT skills for teaching, making it the second most important area of training after support to learners with special needs (OECD, 2019).»

I rapporten hevdes det at ny teknologi stiller nye krav til barn og unges kompetansebehov: «The set of basic skills that young people are expected to learn in school has expanded to include a broad range of new ones to navigate the digital world.» Samtidig svarer halvparten av norske lærere at manglende tilgang til digitale verktøy er et hinder i opplæringen.

Rapporten sier også noe om styrkene ved nettbasert undervisning og viktigheten av tilgang til digitale verktøy og digitale ferdigheter:

«The considerable benefits included its flexibility and association with self-paced, self-directed and personalized learning. However, its efficacy relies on student access to devices and the internet, with more high-tech solutions like online courses not yet a practical option for many learners due to the cost and lack of access and digital skills.»

Flere steder i rapporten trekkes spillbasert læring fram som positivt på både kognitive og atferdsmessige faktorer. Og at blant annet mobilspill kan være en styrke for opplæringen:

«In Jordan, using Feed the Monster, a game-based smartphone application, for 22 hours over 2 months improved foundational literacy skills among Syrian refugee children. The game also increased peer interaction and received positive feedback from parents (Koval-Saifi and Plass, 2018).»

Kan forstyrre

Rapporten sier også noe om teknologi som et forstyrrende element. Samtidig er det en lang vei fra å si at teknologi kan være forstyrrende til å anbefale mobilforbud i skolen. Det stemmer altså at noen av studiene i rapporten viste at teknologi kan være forstyrrende (riktignok i liten grad). Men det er viktig å påpeke at dette først og fremst gjelder forstyrrende varsler. Og akkurat det bør elevene læres opp til å skru av. UNESCO ser i tillegg på mer enn bare Norge, og derfor er det viktig å ikke se seg blind på disse resultatene. Ser man for eksempel på studier her fra Norge (Monitor 2019) ser man at forstyrrelser fra teknologi i skolen har gått betydelig ned de senere årene.

Ingen anbefalinger om mobilforbud

Men ingen steder i rapporten står det altså at FN anbefaler mobilforbud, slik flere de siste dagene har hevdet. Det står at mobilforbud kan være et mulig tiltak, men at det kan være viktigere faktorer man må ta hensyn til først: «Working with technology in schools, and the accompanying risks, may require something more than banning.» I tillegg advarer de:

«Shielding students from new and innovative technology can put them at a disadvantage. It is important to look at these issues with an eye on the future and be ready to adjust and adapt as the world changes.»

Et mobilforbud vil neppe gjøre noe med verken mobbing eller barn og unges velvære. Det er viktig å legge merke til at studiene som viser en negativ påvirkning handler om korrelasjoner. Det er altså ikke det samme som en påvist årsakssammenheng. Selv om det var en økning av teknologibruk under pandemien, og samtidig en økning i psykiske lidelser blant barn og unge, så er ikke det evidens for at det skyldes teknologien. Snarere tvert imot har flere rapporter sagt at teknologien faktisk kan ha bidratt til å begrense noe av skadeomfanget ved å opprettholde en mer normal hverdag.

Vent med å rive i filler nettbrettene!

Kong Harald V er kongen i Norge.

Ane Dahl Torp skriver at hun vil «…rive i filler nettbrettene som har inntatt hjemmet». Det kan hende at det allerede er for seint, men før hun gjør det vil jeg kommentere noen av påstandene hennes.

Dahl Torp viser til resultatene fra leseundersøkelsen PIRLS, som nylig ble publisert. Det er riktig at det har vært en nedgang i leseforståelsen blant norske femteklassinger fra 2016 til 2021. Samtidig er det noen nyanser hun utelater. For det første så er det greit å begynne med at Norge hadde en oppgang i 2016, og at elevene fortsatt ligger godt over snittet. I tillegg hevder forskerne at pandemien kan ha hatt en medvirkende årsak til nedgangen. Mye tyder på at dette er en reell årsak da det er en nedgang i de fleste land. Det betyr ikke at man kan utelukke at digitaliseringen spiller en rolle, men som sagt er bildet noe mer nyansert enn det Dahl Torp forsøker å tegne. Dessuten viser PIRLS at foreldrene leser mindre, og at også de skårer lavere på leseglede enn tidligere. Noe som kanskje er en mer naturlig årsak til nedgangen, enn at det brukes skjerm i skolen. Så om du ønsker lesende barn, viser en del forskning at den beste oppskriften er å lese mer foran eller sammen med barna dine. 

Dahl Torp hevder videre at barna slutter å lese. Hva baserer hun egentlig det på? Utelukkende på PIRLS-undersøkelsen? For ser vi på for eksempel tall fra Norsk mediebarometer så ser vi at det har vært en økning av boklesere de siste årene. Vi ser riktignok at jenter i alderen 9-15 år har hatt en nedgang, men samtidig har guttene i samme alder hatt en oppgang.

Dahl Torp opplever at innføringen av digitale enheter ikke har vært kunnskapsbasert. Det er kanskje ikke så rart når hun også påstår at den nåværende regjeringens strategi for digitalisering bare viser til forskning én eneste gang. Det kan kanskje skyldes at hun har lest strategien på papir at hun ikke finner de andre referansene, men da jeg leste strategien gjorde jeg noen enkle søk og fant mange flere forskningsreferanser. Og fordi jeg leste den på skjerm kunne jeg enkelt og raskt se at ordet «forskning» ble nevnt 51 ganger, og at det var lenker til 67 kilder. Blant annet vises det til forskningsprosjektet GrunnDig. Det er med andre ord ikke riktig at strategien bare viser til forskning én eneste gang slik Dahl Torp hevder.

Ifølge Dahl Torp «spruter kaffen» når første kapittel i strategien handler om digital kompetanse i barnehagen! Videre spør hun om ikke regjering og kommuner heller burde bygge oppunder at barnehager skal følge WHOs og Helsedirektoratets råd om «…maks én time skjerm for barn under 5 år». Det hun ikke tar med er rådene som sier at rådene ikke bør gå ut over bruk «…der skjerm brukes bevisst i læringsøyemed». Skjermer er heller ikke nødvendigvis passiviserende. Barnehager i dag bruker allerede digitale verktøy ute for å ta bilder av planter, bruke mikroskop eller andre verktøy som fremmer nysgjerrighet og kreativitet. For å nyansere rådet om skjermbruk hos de minste, er det verdt å merke seg at WHO også gir råd om at man ikke bør ha barn i barnevogn, barnestol eller bilsete i mer enn én time sammenhengende i våken tilstand.

Dahl Torp refererer til en studie som ifølge henne viser at man husker bedre det man leser på papir. Det europeiske forskningsprosjektet E-READ Cost, som ble ledet av Lesesenteret i Stavanger, kom til samme konklusjon – men kun for informasjonstekster. I tillegg konkluderte de med at elevene må lære lesestrategier for skjerm. Og videre at de digitale tekstene hadde positiv innvirkning på forståelse og motivasjon når tekstene var tilpasset leseren.

Hun hevder videre at man husker mest av det man skriver for hånd. Da vil jeg minne om at studien fra NTNU som omtales i artikkelen hun lenker til verken ble gjennomført med penn eller papir. Den ble gjennomført på en trykkfølsom skjerm. Og om vi ser på tekstkomposisjon kom det nylig en norsk studie som viste at det ikke hadde noe å si om elevene begynte med nettbrett eller skrev for hånd i førsteklasse. Men forskerne så at elevene som begynte med nettbrett kom i gang med skrivingen raskere.

Dahl Torp kommer med påstander som «alle vet eller skjønner», og hevder at det «…viser sikkert også forskning». En av disse er påstandene om at man får «liten matematisk forståelse» gjennom «gamifiserte apper». Da kan jeg opplyse om at en belgisk studie fra 2015 faktisk viser at aritmetisk prestasjonsfremming gjennom spill har flere fordeler i forhold til tradisjonelle papiroppgaver. Den samme studien, sammen med flere andre studier, viser også en høyere motivasjon blant elevene enn ved tradisjonelle arbeidsmetoder. Det betyr ikke at barna alltid skal spille, men at spill kan være en del av den pedagogiske verktøykassa en lærer tar i bruk. Altså serverer Dahl Torp her et stråmannsargument når hun hevder at det er “…uklokt å få pensum til å minne mest mulig om en gamingopplevelse”. Ingen lærere mener det.

Dahl Torp omtaler nettbrettene i skolen som «…forvokste smarttelefoner som gir oss lett tilgang til underholdning og nyheter». Om det er hennes oppfattelse, er det kanskje ikke så rart at hun spør om læringsbrett fortjener en plass i klasserommet overhodet. For formålet med opplæringen i digital kompetanse i skolen handler om noe helt annet enn «lett tilgang til underholdning og nyheter». I motsetning til det Dahl Torp hevder kan faktisk opplæringen bidra til at elevene blir produsenter fremfor passive konsumenter av teknologien.

Hvem styrer algoritmene?

Kong Harald V er kongen i Norge.

Den siste tiden har vi lest om flere sider ved kunstig intelligens – både positive og negative. Her presenterer jeg det jeg anser som noen utfordringer ved teknologien. For hvem skal egentlig styre algoritmene vi omgir oss med?

Uklar håndtering av persondata

Den 31. mars sendte de italienske personvernmyndighetene GDPD ut et presseskriv der de hevdet at OpenAI hadde brutt italienske og europeiske personvernsregelverk. Der uttrykker de også bekymring rundt databruddet OpenAI hadde den 20. mars da flere av brukernes samtalehistorikk hadde blitt lekket. GDPD mener at OpenAI gir mangelfull informasjon om håndtering av data, og at den massive innsamlingen av persondata kan være ulovlig. I tillegg hevder de at tjenesten mangler tilstrekkelig aldersverifikasjon. 

OpenAI har fått flere pålegg fra GDPD som de må imøtekomme innen 30. april for at tjenesten skal bli tilgjengelig igjen for italienske brukere. Dette innebærer blant annet mer transparente vilkår, tydeligere klargjøring av hvordan persondata brukes, og at brukerne må bekrefte at de er myndige. I tillegg må OpenAI gjennomføre en større kampanje der de opplyser om disse endringene.

Per i dag krever de store KI-aktørene at du er 18 år for å ta i bruk tjenestene deres. Dette er påpekt i både Google og OpenAI sine retningslinjer. For OpenAI gjelder dette både for ChatGPT og OpenAI sine APIer, men det finnes et unntak som sier at du kan bruke tjenesten når du har fylt 13 år, dersom du har tillatelse fra foreldre eller foresatte.

Data som ikke kan glemmes

Flere selskaper har den siste tiden blitt mer bevisste på at dataene som skrives inn i ChatGPT blir lagret og vil kunne bli brukt videre. En amerikansk undersøkelse viste at 3,1% har delt konfidensiell informasjon med chatroboten, til tross for at OpenAI selv advarer mot å dele sensitiv informasjon. Dette har blant annet ført til at selskaper som Samsung, Walmart og Amazon har måttet ta affære.

Ifølge GDPR artikkel 17 har du rett til å bli glemt. Allerede der har vi en utfordring med ChatGPT siden det ser ut til at det ikke er så lett som man kanskje skulle tro. En KI er ikke laget for å kunne “glemme” slik som vi mennesker gjør. Dette gjør at man bør være ekstra varsom på hva man deler av informasjon. Selv om du selv ikke deler noe sensitiv informasjon om deg selv med for eksempel ChatGPT, er det en risiko for at andre gjør det.

Overdreven tiltro

Det har versert flere fortellinger om kunstig intelligens etter at OpenAI slapp GPT. “GPT-4 må være selvbevisst! Den sa det selv!”. Eller at Google sin KI er så kraftig at de ikke tør å slippe den på markedet. Snart må det eneste jeg ikke har hørt være at neste versjon av GPT sannsynligvis vil kunne spise suppe med gaffel! At vi tillegger maskinene egenskaper de ikke har vitner om en overdreven tiltro til hva de kan utføre. Når vi sier at vi “snakket med” eller omtaler feil i språkmodeller som “hallusinasjoner”, er dette et uttrykk for antromorfisme. Vi tillegger maskinene menneskelige egenskaper.

MIT-professoren Joseph Weizenbaum skapte mellom 1964-66 det som regnes som en av de første chatbotene. Den fikk navnet ELIZA, og ble av mange sett på som en sensasjon. Ti år senere skrev han i boken Computer Power and Human Reason at mennesker som tillegger datamaskiner menneskelige egenskaper reduserer mennesket, og for øvrig andre livsformer.

Google-ansatte Blake Lemoine ble i fjor sparket for å ha å ha brutt taushetsplikten ved å uttrykke bekymring offentlig. Han mente at Googles språkmodell LaMDa hadde blitt selvbevisst. De ulike chatterobotene er selvsagt ikke selvbevisste, selv om det i teorien vil være mulig. Teknologien og algoritmene er utviklet slik at de vil kunne skape en illusjon av at de er selvbevisste.

Mulige brudd på åndsverksloven

Datasettene til GPT3 er basert på data fra Common Crawl, OpenWebText2, Books1 og Books2, og Wikipedia. For de aller fleste er det nok kun Wikipedia som er kjent. Common Crawl samler inn nettsider og dokumenter fra internett. Selv om masse av dette innholdet er under copyright-lisens, så går innholdet under såkalt “fair use” i USA. Utfordringen er at “fair use” ikke eksisterer i Europa. De andre datasettene inneholder også en blanding av innhold under copyright eller creative commons. Sistnevnte er åpne lisenser, men også disse vil kreve henvisning til opphavsperson. Også bruken av det ene datasettet med bøker har blitt kritisert for mulige brudd på kopirett.

Hva skjer med alt innholdet som genereres av KI på sikt? Det vil bli produsert masse tekst, bilder og lyd som mangler opphavspersoner. Dette kan bli en utfordring for innholdets pålitelighet.

Berettigede bekymringer

Selv om en mer selvbevisst KI i teorien ikke er umulig, tror jeg fortsatt det er en ganske lang vei dit. Og det er nok heller ikke språkmodellene som skal overta verden. Jeg er altså ikke bekymret for en slags dystopisk fremtid der roboten tar over. Men det er definitivt andre faktorer som bør tas på alvor.

Ifølge en artikkel skrevet av forskere på språkmodeller er noen av bekymringene krenkende språk, hatytringer, kjønnsstereotypier, dehumanisering og diverse former for bias. EUs byrå for politisamarbeid, Europol, kom nylig med en oversikt over potensielle trusler som følge av KI. De er bekymret over mye av det samme som forskerne, inkludert mulighetene for svindel. 

Mange var sjokkerte over kvaliteten på ChatGPT når den ble sluppet. Men det mest sjokkerende med ChatGPT var egentlig hvor sjokkerte mange ble over kvaliteten på KI. Spesielt med tanke på all KI som har eksistert i tjenestene vi allerede har omgitt oss med i flere år allerede. Det sier noe om at vi er på vei til å bli storforbrukere av teknologien, uten at folk flest nødvendigvis forstår hva den gjør og hvordan den fungerer.

Og vi outsourcer teknologikompetansen i stor grad til land som USA. Og med mengden desinformasjon og falske nyheter vi omgir oss med, er kanskje det siste vi trenger GPT i SnapChat? GPT på er på ingen måte noe orakel, og er en dårlig kilde til kunnskap. GPT er en språkmodell, og er laget for å predikere hva den bør si. Den er altså laget for å etterligne en samtale. Kanskje er det ikke maskinene som er den største trusselen? Kanskje er den største trusselen vår egen naivitet og uvitenhet i møte med maskinene?

Vi trenger en plan

Solberg-regjeringen hadde store ambisjoner for landet når det gjelder kompetanse på KI. Ifølge Nasjonal strategi for kunstig intelligens er det “…behov for både avansert kompetanse i kunstig intelligens og kompetanse i grunnleggende fag som statistikk, matematikk og informatikk”. Vi har flere satsinger som NORA-samarbeidet, og Norwegian Open AI Lab ved NTNU. 

Samtidig må også politikere og nasjonale personvernmyndigheter ta ansvar og stille krav til utenlandske aktører som jobber med KI som er myntet på norske forbrukere. Det må stilles krav til at man kan reservere seg fra at persondata brukes i tjenesten. Dette gjelder både for brukere og de som ikke er brukere.

Det må også stilles krav til at åpenhet og viktige prinsipper for utvikling av KI følges. Informasjon som genereres av KI må merkes, slik at både mennesker og maskiner blir opplyst om at det er KI-generert informasjon. Og vi må sørge for at elevene får god opplæring i algoritmisk tenkning og hvordan kunstig intelligens fungerer. Inntil da bør vi være “cautiously optimistic”, som en av Googles representanter sa under en paneldiskusjon på utdanningskonferansen BETT i London.

Kunstig intelligens er oss

Kongen i Norge er kong Harald V.

Kunstig intelligens har vært den store snakkisen i skolen de siste ukene. Gjør den at elevene slutter å gjøre leksene selv? Kan den overta noe av jobben til lærerne? Bør vi ta i bruk kunstig intelligens i skolen, eller er det en trussel mot skolen slik vi kjenner den?

Hva er ChatGPT?

ChatGPT er en kunstig intelligens som er trent opp til å etterligne menneskelig dialog. Tjenesten er foreløpig kun i beta, men hvem som helst kan registrere seg. Jeg er selv imponert over noe av innholdet den kan produsere, men samtidig er jeg mest overrasket over hvor overrasket mange er over at slike tjenester eksisterer. Jeg mener også at begrepet “kunstig intelligens” i mange sammenhenger kan være misvisende, da slik teknologi ofte handler om å gjenkjenne mønstre og etterligne de. Det er derfor ikke så stor forskjell på slik teknologi og algoritmer vi allerede kjenner som tas i bruk i søkemotorer eller hos kjente sosiale medier.

Det er riktig at ChatGPT kan produsere relativt overbevisende tekster. Men bare inntil et visst nivå. Tjenesten vil nok bare bli bedre og bedre, men akkurat nå avslører den ofte seg selv i refleksjon og dybdeforståelse. I tillegg vil nok også plagieringskontroller få mer og mer funksjonalitet som avdekker bruken av slike tjenester. Det finnes også verktøy som er blitt laget for å avsløre tekst som er skrevet med kunstig intelligens. Likevel er det viktig å huske at lærere ikke har lov til å lime inn elevenes besvarelser i disse verktøyene. Man bryter mest sannsynligvis både med taushetsplikten og elevens personvern ved å gi fra seg elevarbeid til en tredjepart på denne måten uten elevens samtykke.

Kan vi sperre for ChatGPT i skolen?

Et vanlig spørsmål nå er hvordan vi kan få blokkert ChatGPT i skolen. Noen lærere krever at bruken av tjenesten skal kontrolleres. UDIR har allerede varslet at åpent internett til eksamen stenges inntil videre. Dette er utvilsomt en kortsiktig løsning, for løsningen er hverken å skru av nettet, eller å sperre tilgangen til ChatGPT. For det første fordi det ikke er hensiktsmessig, og for det andre fordi det teknisk ikke er mulig. Hvorfor det ikke er mulig får jeg ta i et annet innlegg, men ChatGPT er hverken det første eller eneste verktøyet med kunstig intelligens. Grunnen til at det ikke er hensiktsmessig er fordi vi må lære elevene å kunne produsere gode elevbesvarelser uavhengig om de har slike verktøy tilgjengelig eller ikke. Jeg et inntrykk av at lærere i større grad i dag lager oppgaver som krever at elevene viser kompetanse, da dette har blitt fremhevet i nyere læreplanverk. Er kanskje eksamensformen eller noen av oppgaveformene overmodne for nytenkning dersom en robot klarer å løse de? 

Bør kunstig intelligens og ChatGPT brukes i skolen?

Kunstig intelligens i skolen har vært et tema de siste årene, og det ble blant annet omtalt i Horizon-rapporten fra 2017 om hvordan teknologien ville påvirke skolene i norden de neste årene. Kunstig intelligens og maskinlæring i skolen ble da forespeilet i løpet av en to- til tre-årsperiode. Og selv om det allerede er tatt i bruk noen steder, kan man si at det ikke er noen prosjekter som har fått så stor oppmerksomhet som da ChatGPT lanserte sin åpne løsning 30. november i fjor. Men på spørsmålet om kunstig intelligens og ChatGPT har en plass i skolen bør man dele spørsmålet opp i to. For det er ingen tvil om at elever må lære om kunstig intelligens, og at denne formen for teknologi vil kunne revolusjonere skolen. Dette er en naturlig del av en opplæringen i digitale ferdigheter. Elevene må lære om både fordelene og utfordringene som er knyttet til denne teknologien Men for å jobbe med kunstig intelligens kreves det ikke at man jobber med ChatGPT.

Jeg ser at flere lærere tidlig kastet seg over dette verktøy, og anbefaler å ta i bruk ChatGPT i skolen. Men hva om denne praksisen er ulovlig? En lærer kan ikke kreve at elevene skal bruke denne tjenesten, og bør heller ikke forvente at de skal gjøre det. Til det må skoleeier ha en databehandleravtale med OpenAI. Av den grunn kan en lærer heller ikke legge inn elevenes arbeid i tjenesten uten deres samtykke. Innholdet du deler med OpenAI kan nemlig brukes i blant annet reklame, og du gir de også samtykke til å dele denne informasjon med tredjepart.

“…we may share Personal Information with vendors and service providers, including providers of hosting services, cloud services, and other information technology services providers, event management services, email communication software and email newsletter services, advertising and marketing services, and web analytics services. Pursuant to our instructions, these parties will access, process, or store Personal Information in the course of performing their duties to us.” 

Utdrag fra personvernerklæringen til OpenAI.

Det er viktig å huske at ChatGPT bare er én av mange tilbydere av slik teknologi. Tjenesten er utviklet av amerikanske OpenAI, og vil på sikt ha en enorm kommersiell verdi for selskapet. Grunnen til at den nå er åpen og tilsynelatende gratis, er fordi at de nå trenger vår hjelp. De trenger oss både til å markedsføre gjennom omtale (slik også jeg gjør her), men de trenger også hjelpen vår til å fylle chatboten med informasjon slik at den kan bli bedre. At kunstig intelligens vil forandre skolen er det ingen tvil om. Spørsmålet er heller om det er ChatGPT som skal ha den rollen. I en nylig debatt arrangert av Utdanningsforbundet etterspurte professoren Morten Goodwin en større satsning på norskutviklet kunstig intelligens. Dette kan være en god idé. For på denne måten vil vi i større grad kunne sikre at den ikke bryter med norsk personvernlovgivning.

Selv om det ikke er hensiktsmessig å sperre for bruken, er det for mye usikkerhet knyttet til ChatGPT til å kunne benytte dette verktøyet i skolen. Etter hvert som brukere interagerer og fyller chatboten med mer informasjon, vil produktet bare bli bedre og bedre. Og hva slags informasjon deler vi egentlig med chatboten? Noen er kanskje bare nysgjerrige, mens andre er mer naive og deler informasjon som blant annet kan være sensitiv. Den blir altså et produkt av det vi fyller den med. Altså er kunstig intelligens oss – både på godt og vondt.

Hva har strålefare og syltede grønnsaker til felles?

Kongen i Norge er kong Harald V.

Nylig skrev jeg et innlegg som jeg publiserte her på bloggen, og på Forskersonen, om sosiale medier og depresjon blant barn og unge. Ikke lenge etter hadde Folkets Strålevern publisert innlegget på Facebook med en kritisk kommentar fra Bjørn Gabrielsen, forfatter av boken Skjermslaver. Det var tydelig at de ikke hadde forstått innholdet i innlegget. Men når jeg skulle rydde opp i misforståelsene, forsøkte Folkets Strålevern å gi meg en innføring i strålefare.

Utdaterte og håndplukkede kilder

Folkets Strålevern avsluttet diskusjonen med å henvise meg til deres egen kildesamling med håndplukkede “beviser” for strålefare, med kommentaren om at jeg sikkert finner noen feil jeg kan påpeke. Og jammen fikk de rett.

Jeg tok selvsagt utfordringen på strak arm. Men siden det ville tatt meg altfor lang tid å gå grundig nok gjennom over 40 sider med lenker, har jeg valgt å gå ekstra grundig igjennom de to første påstandene og kildene i listen deres. Men jeg har sett gjennom hele dokumentet, og det er flere ting jeg merker meg. Mange av kildene er utdaterte, flere av de er anekdotiske bevis (utsagn fra intervjuer), og i flere av de forskjellige kildene er det ofte de samme personene som kommer med uttalelser.

Dokumentet i sin helhet bærer preg av såkalt cherry picking, altså at man forsøker å finne forskning som underbygger ens eget syn, uten noen som helst interesse for å vise det hele nyanserte bildet. Dessuten er flere av påstandene av en konspiratorisk art, som at det er ‘noen’ som sitter på kunnskap de ikke vil dele med resten av befolkningen. Kunnskap som selvsagt Folkets Strålevern har tilgang på.

Næringen selv, forsikringsselskaper og deler av forvaltningen sitter på kunnskapen som holdes skjult for befolkningen, og flere samfunnsaktører har allerede begynt å sikre seg mot fremtidige erstatningssøksmål.

Et godt eksempel på en konspirasjonsteori fra kildelisten til Folkets Strålevern om at det er «noen» som sitter på kritisk informasjon de ikke deler med befolkningen.

Nettbrett og strålefare

I kildelisten hevder de innledningsvis at “Apples brukerhåndbøker inneholder informasjon om hvordan du kan redusere eksponeringen”. Dette er en del av Apples juridiske informasjon. Dette er helt vanlig blant spesielt amerikanske selskaper for å unngå å bli saksøkt av for eksempel kunder som hevder at produktene deres avgir farlig stråling. De tydeliggjør også at strålenivåene er innenfor det som er trygt: “iPad has been tested and meets applicable limits for radio frequency (RF) exposure.” Men det er selvsagt ikke informasjon Folkets Strålevern oppfatter som interessant nok til å ta med i kildelisten sin. For de har en tendens til å trekke ut det som passer deres eget dommedagsnarrativ, og hopper bukk over konklusjonene. 

Samme kreftfare som syltede grønnsaker

Forfatterne henviser til at det internasjonale kreftforskningsbyåret (IARC/WHO) klassifiserte kreftfaren ved stråling til gruppe 2B, og at flere av deltakerne i panelet i dag ønsker strengere klassifisering. Umiddelbart tenker du kanskje at det at kreftfaren ved stråling blir klassifisert til gruppe 2B høres skummelt ut. Men nå skal det også sies at blant annet talkum, aloe vera og syltede grønnsaker har fått samme klassifisering. Gruppe 1 er kreftfarlige stoffer, gruppe 2A er stoffer som sannsynligvis er kreftfarlige, og gruppe 2B er stoffer som muligens kan være kreftfarlige.

Med utsagnet om at “flere av deltakerne” ønsker strengere klassifisering, mener de antageligvis de 3 av over 70 deltakere. Det er i hvert fall en svært liten del av deltakerne de nevner i sin gjennomgang. Blant annet viser forfatterne av kildesamlingen til kreftforskeren Lennart Hardell. Men de glemmer helt å nyansere med at Hardell er en svært omstridt forsker, og at han har blitt omtalt som “svensk mester i kreftalarmer”. Han har for øvrig heller ikke blitt tildelt forskningsoppdrag fra Kreftfondets tildelinger siden 1996.

Ingen helseskader påvist

Ifølge forfatterne av kildesamlingen kom Europarådets parlamentarikerforsamling i 2011 med en resolusjon som oppfordret sine medlemsland om å innføre føre-var-tiltak. Men det mangler litt nyanser til denne påstanden. Denne oppfordringen kom basert på et forslag fra politikeren Jean Huss, som var politiker for det luxembourgske miljøpartiet Déi Gréng (De Grønne). Den samme politikeren som nylig erklærte seg selv som medisinsk ekspert, og omtalte den pågående pandemien som “den såkalte pandemien”. Den seneste tiden har han kanskje gjort seg mest bemerket som antivakser.

Ifølgte han selv så støttet WHO hans syn, men WHO er i dag klare når det gjelder for eksempel strålefare ved mobilbruk: “To date, no adverse health effects have been established as being caused by mobile phone use.” De har også måttet lage et informasjonsark på grunn av myter og konspirasjonsteorier knyttet til 5G og korona

Basert på kontroversiell rapport

Oppfordringen fra Europarådets parlamentarikerforsamling var ifølge en pressemelding basert på BioInitiative-rapporten. Dette er en rapport som ikke er fagfellevurdert, og prosjektet ledes av blant annet Cindy Sage, som er en kjent aktivist innen stråling. I gruppen sitter også Lennart Hardell, som jeg allerede har omtalt tidligere i dette innlegget. Rapporten er kritisert av blant annet det nederlandske helserådet, Australian Centre for Radiofrequency Bioeffects Research (ACRBR), Europakommisjonens EMF-NET, COMAR (komité ved IEEE), samt flere andre anerkjente forskermiljøer.

Overall we think that the BioInitiative Report does not progress science, and would agree with the Health Council of the Netherlands that the BioInitiative Report is “not an objective and balanced reflection of the current state of scientific knowledge”. As it stands it merely provides a set of views that are not consistent with the consensus of science, and it does not provide an analysis that is rigorous-enough to raise doubts about the scientific consensus. 

ACRBR, 2008

Med andre ord ser det ut til at oppfordringen fra Europarådets parlamentarikerforsamling ikke fikk gehør fordi grunnlaget var for svakt, og fordi det ikke samsvarte med konsensus i forskermiljøene. Akkurat som det meste av kildegrunnlaget til Folkets Strålevern. Ønsker du sann og pålitelig informasjon bør du alltid søke i pålitelige kilder, som for eksempel Direktoratet for stråling og atomsikkerhet.