AI kan vara vår tids neurosedynskandal. Ny forskning pekar på att användande av AI fördummar människan. MIT:s Media Lab har nyligen gjort en studie som visar att ju mer hjälpmedel en student använder, desto mindre hjärnaktivitet pågår. Björn Vassnes skriver om den nedgående intelligensspiralen.

Tänk er en värld där vi påverkades att ta nya kraftfulla mediciner utan att någon lagt ner tid på att studera effekterna. Om du ifrågasatte fick du till svar att ”detta är hursomhelst framtiden, så det är bara att tacka och ta emot”.

Detta sker faktiskt idag, i stor skala. Inte inom medicinen, där lärde man av neurosedynskandalen, som orsakade tusentals fosterskador i mitten av förra seklet utan på ett annat område, något som snabbt kommer att vända upp och ner på världen och påverka oss på ett sätt vi knappt kan föreställa oss.

Vi ser redan hur AI håller på att ta över elevers och studenters vardag, i stort sett utan att någon invänder. Och utan att någon ställer den avgörande frågan: Hur påverkar användandet av artificiell intelligens (vilket i utbildningssammanhang betyder stora språkmodeller, där ChatGPT är det mest kända exemplet) de kognitiva förmågorna hos elever och studenter, de som snart ska hålla igång vårt samhälle?

Det har inte saknats preliminära rapporter om att AI har negativa effekter. Den gör eleverna och studenterna dummare, för att uttrycka det enkelt. Men nu börjar även vetenskaplig forskning komma fram, och dess resultat är faktiskt än mer skrämmande.

Det har inte saknats preliminära rapporter om att AI har negativa effekter. Den gör eleverna och studenterna dummare, för att uttrycka det enkelt. Men nu börjar även vetenskaplig forskning komma fram, och dess resultat är faktiskt än mer skrämmande.

Ett exempel är ett test som nyligen genomfördes på MIT:s Media Lab, som länge varit ledande inom forskning och utveckling kring nya medier (jag besökte dem själv med ett TV-team i början av 90-talet när vi gjorde en serie om informationsteknik).

I detta test kombinerades hjärnskanningar med intervjuer och testuppgifter för att mäta hur studenter svarade på uppgifter relaterade till uppsatsskrivning, med och utan hjälp av ChatGPT. Målet var att belysa hur användning av olika hjälpmedel, inte minst AI, påverkade studenternas kognitiva prestationer. Vid försöket delades de in i tre grupper: En grupp fick använda ChatGPT från start, medan nästa grupp fick klara sig med sitt eget huvud. Den tredje gruppen fick använda en “gammaldags” sökmotor.

I samband med uppgifterna mättes hjärnaktivitet med EEG, och studenternas svar analyserades med hjälp av såväl verktyg som NLP (Natural Language Processing) som mer traditionella metoder. Det hela gick ut på att mäta olika effekter, som var och en på sitt sätt illustrerar hur användning av artificiell intelligens påverkade hjärnaktiviteten.

För att ta de direkta, synliga effekterna först: EEG-analyserna visade att de olika arbetssätten (med och utan AI, och med sökmotor) resulterade i vitt skilda mönster i den så kallade “neurala konnektiviteten”: det vill säga hur hjärnans nätverk aktiveras och sammankopplas, en central process för inlärning.

En ny studie från MIT visar ett ju mer stöd hjärnan fick från hjälpmedel, desto mindre hjärnaktivitet. Allra minst hjärnaktivitet hade studenterna som använde ChatGPT. De med bara sina egna huvuden till hjälp hade störst aktivitet i sina hjärnceller.

Ju mer stöd hjärnan fick från hjälpmedel, desto mindre konnektivitet. Med andra ord minskade bruket av hjälpmedel hjärnaktiviteten, och särskilt hur hjärnnätverk tränas genom samarbete. Allra minst hjärnaktivitet hade studenterna som använde ChatGPT. De med bara sina egna huvuden till hjälp hade störst aktivitet i sina hjärnceller.

Skillnaderna i hjärnaktivitet enligt EEG-analyserna resulterade även i skillnader i lärandet, det bekräftades av de mer traditionella testerna och intervjuerna efteråt: De som fick nöja sig med att använda sin egen hjärna kom bättre ihåg vad de hade gjort och hade en mindre ytlig förståelse av uppgifterna. Det verkade som att AI-användarna inte engagerade sig lika djupt i uppgifterna eller var tillräckligt kritiska till vad ChatGPT kom fram till. Som en följd blev deras lärande inte lika djupt. De som fick ta hjälp av en enklare sökmotor hamnade någonstans mittemellan.

Forskarna konstaterar i sin analys av studien att det som uppstår när man i alltför hög grad lämnar över arbetet till AI är en “ackumulering av kognitivt underskott, ett tillstånd där upprepat beroende av externa system som språkmodellen LLM ersätter de mer mödosamma kognitiva processer som krävs för självständigt tänkande.” Eller enklare uttryckt: Ju mer du använder AI istället för ditt huvud, desto dummare blir du.¹ Den här bilden blir tydligare ju mer de nya hjälpmedlen tas i bruk. Vad den samlade effekten kan ge för resultat över tid är nästan för skrämmande att tänka på.

De som fick nöja sig med att använda sin egen hjärna kom bättre ihåg vad de hade gjort och hade en mindre ytlig förståelse av uppgifterna. AI-användarna engagerade sig inte lika djupt i uppgifterna och var inte kritiska till vad ChatGPT kom fram till. Som en följd blev deras lärande inte lika djupt. De som fick ta hjälp av en enklare sökmotor hamnade någonstans mittemellan.

I USA tas frågan på allvar, eftersom man där har forskningsexpertis för att bedöma det nya hotet. Men i Skandinavien blir det allt tydligare att vi saknar expertis inom helt centrala områden (som psykologi och hjärnforskning) för att ta ställning till hur vi ska förhålla oss till denna nya teknik.

Den här situationen uppstod för övrigt i samband med att de första digitala hjälpmedlen introducerades i skolan, eller släpptes lösa bland barn och unga. Det kom inga motfrågor eller invändningar från fackexperter. Detta var nämligen inget område där man hade skaffat sig psykologisk kompetens eller hjärnexpertis. Istället blev det medievetarna som fick rollen som ”experter”, trots deras avsaknad av kunskaper om just sådant som: Hur påverkar de nya skärmarna och digitala medierna barns och ungas kognitiva utveckling?

I dagens läge där AI-revolutionen är här blir bristen på kritisk kompetens tydlig på nytt. De enda experter som myndigheter och medier vänder sig till är de som enbart har teknisk kompetens och har som jobb att sälja in den nya tekniken. Eftersom det saknas andra experter? Det vore som att överlåta rekommendationer om medicinanvändning till säljarna och tänka att man får ta tag i problemen som kan uppstå allt eftersom. Men då kan skadorna redan vara oåterkalleliga.

Vad gäller neurosedyn var det inte så många som använde medicinen och skadorna som orsakades blev snabbt synliga. Det är annorlunda med AI:s skadliga effekter. Det tycks nu som att alla elever, studenter (och lärare?) kommer att använda AI.

Ökande kognitiv nedgång kommer sannolikt att kamoufleras genom gradvis sänkta prestationskrav, något som startar en nedåtgående spiral. Det är som att man bestämt att mänsklig intelligens inte längre ska vara så viktig.

Artikeln har tidigare varit publicerad i norska Klassekampen. Översättning från norska: Eva Berlin