7 saker som är viktigare att pausa än utvecklingen av AI

Photo by Yeshi Kangrang on Unsplash

Ett stort upprop som sedan slutet av mars undertecknats av tusentals forskare och företagsledare föreslår att vi alla tar en sex månaders paus från utvecklandet av AI. Vi behöver helt enkelt komma i kapp oss själva och fundera över vilka konsekvenser användandet av kraftfull AI kan få. [1] [2] [3]

Den omedelbara ryggmärgsreflexen är förstås att hålla med. Vem vill inte ta en paus från allting? Men de kunde ju lika gärna be vattnet att sluta rinna mot havet eller jorden att sluta snurra runt solen. Pandoras ask är öppnad och ingen makt i världen kan stänga den igen. Om de goda (nåja) krafterna tar en paus för att fundera över vad de håller på med kommer de onda krafterna (och ni vet alla vilka länder vi menar) att fortsätta med oförminskad styrka. Det är bara naivt att tro att en paus skulle lösa någonting. Det är precis som när en inte särskilt lyckad allsångsledare en gång försökte få en uppretad folkmassa att sjunga We shall overcome. Och uppropet har förstås fått mothugg. [4] [5]

Behöver vi vara oroliga över att forskare inte är överens? Nej, det är en central del i akademins DNA. Att folk höjer rösten är inte ovanligt, men blåögda journalister blir förstås uppskrämda och gör en höna av en fjäder. Samtidigt fortsätter diskussionen oförtrutet. Den idé som bäst anpassar sig till verkligheten kommer att överleva, medan de andra dör ut. Som det alltid har fungerat.

För att sätta saker i lite perspektiv kommer här en lista med 7 saker som är viktigare att pausa (gärna avskaffa) än utvecklingen av AI:

7. Livspusslet

6. De skenande matpriserna

5. Gängkriminaliteten

4. Skövlingen av regnskogar

3. Utsläppen av växthusgaser

2. Rysslands invasion av Ukraina

1. Fåniga punktlistor

AI och examination?

Vi får just nu många frågor till Didacticum som handlar om AI och högre utbildning. Det är ett tydligt tema på frågorna, nämligen textgenererande AI och fusk på oövervakade examinationer. Kort sagt, lärare vill veta hur de ska göra för att studenter inte ska använda ChatGPT som stöd när de ska skriva t ex hemtentamen och arbeten. Det här påminner mig om när jag gick på gymnasiet och det var Wikipedia som var “nytt”, oseriöst och okänt, och som vi absolut inte fick använda som källa. Nu, när Wikipedia funnits i många år, är det tvärtom självklart att de flesta börjar med att söka fram ett nytt ämne där för att få en överblick. Fördelen som Wikipedia har över generativ AI är dock att det finns referenser att följa bakåt för att kontrollera innehållet och ge en mer komplett och ingående bild av ämnet. Från t ex ChatGPT får du svar som låter säkra och korrekta, men det krävs betydligt mer arbete att validera uttalandet och bekräfta att den bild ChatGPT ger är sanningsenligt. Om du har tur kan du kopiera och klistra in det i en hemtenta, men risken är stor att svaret är otillräckligt eller rakt av fel. En vän kallade ChatGPT för “killgissning as a service” och jag är böjd att hålla med. Underhållande, men fullständigt opålitlig, speciellt när du närmar dig mer nischade områden än att ge en svepande bild av ett brett tema.

Men. ChatGPT har en enorm styrka, speciellt för mig som hatar kreativitet. Jag slipper skapa Någontinget från Ingentinget. Jag kan skriva en prompt till ChatGPT och få lite text, som jag kan använda, modifiera, inspireras av eller helt förkasta. Hur som helst så bryts det vita arkets skrivkramp och prestationsångest, och för mig är det som att jag får syn på mina egna tankar genom (de artificiella) ögonen på ChatGPT. Jag bad om ett blogginlägg om AI och examination i högre utbildning:

Och när jag läste det insåg jag det jag skrev i början av inlägget, nämligen att vi inte har lyft blicken från “tänk om studenter använder AI för att fuska på tentan”. Svaret fokuserar istället på hur AI kan användas för att bedöma svar och administrera stora mängder data. Svaret påpekar också att en generativ AI inte är bättre än det material den tränats på, och har samma bias som sagda material. Det är, i ChatGPTs fall, ett material vi inte har full insyn i och därför måste vi ta alla svar vi får från chattbotten med en nypa salt och en stor näve källkritik. Vi behöver också fråga oss om det finns implicita bias i svaren, och vad som inte finns med.

Det är just de sakerna vi behöver ta med oss, och också kommunicera till våra studenter. ChatGPT är inte ett dåligt verktyg, på samma sätt som Wikipedia inte är ett dåligt verktyg, men vi måste alla lära oss hur vi ska hantera de verktyg vi vill använda för att kunna utnyttja deras potential.

Bortom ChatGPT

När ChatGPT släpptes för några få månader sedan blev det snabbt viralt. Sedan dess har alla sprungit runt som skållade råttor och självutnämnda experter har slagits om att formulera sin egen hot take på fenomenet. Men kanske har ChatGPT fått oproportionerligt mycket fokus, för det finns många fler typer av så kallad generativ AI. Det är alltså system som kan generera texter, bilder, filmer, programkod eller något annat. De bygger på modeller som har tränats på mycket stora datamängder. Vi som använder dessa generativa system måste ge dem något att starta med. Vi kanske ställer en fråga eller skickar in en fil. Denna startpunkt kallas prompt och när vi försöker formulera rätt fråga för att nå dit vi vill ägnar vi oss åt prompt engineering.

Det finns många exempel på tjänster som kan stödja textproduktion. Ett sådan är Wordtune. Här kan du klistra in din text och få hjälp med att göra den mer eller mindre formell, längre eller kortare. Du kan även be Wordtune betona en särskild punkt, ge exempel, skapa motargument, definiera ett begrepp eller skapa ett skämt. I nedanstående exempel har jag klistrat in en text från LiU:s engelska webbsidor och bett Wordtune att göra texten mindre formell.

Ett annat exempel är Grammarly, en tjänst som funnits i många år. I grunden hjälper Grammarly till med stavnings- och grammatikkontroller, ungefär som i Word, men den kan också hjälpa till att föreslå stilmässiga förbättringar och formatera referenser. För närvarande finns inte så mycket generativ AI i Grammarly, men de lovar, som många andra, att det snart kommer AI också. I det här exemplet har jag klistrat in samma text som ovan. Grammarly tycker att den är very clear, very engaging och just right. Däremot gillar den inte den brittiska stavningen, och det kan jag hålla med om.

När det gäller att producera copy, alltså de reklamtexter som finns på webbsidor, i sociala medier, i e-postutskick och fortfarande även i tryckt form, så finns det förstås många tjänster som kan hjälpa dig. Du kan vända dig till Jasper.ai, Copy.ai, text.cortex eller Writerly. Och om du vill kontrollera om en text är producerad av en AI kan du använda konkurrenten Originality.ai som noga deklarerar att de inte riktar sig till akademiker. I exemplet nedan har jag använt Writesonic. Den har fått samma text från LiU:s webb, men jag har bett den att skriva en lite djärvare och mer futuristisk version.

Den lyckas ju faktiskt spotta ur sig ganska tjusiga saker. Det kanske inte är så mycket substans, men det låter fint. Och det är ju det som är poängen med reklamtexter.

At LiU, we embrace the spirit of innovation and are determined to continue driving forward the future of research and education. Come and join us on our journey of discovery.

At Linköping University, we invite you to explore the boundaries of knowledge and create the future.

Framtidens digitala verktyg är allt annat än passiva. De sitter inte och väntar på att vi ska plocka upp dem, utan agerar själva. Vi kan diskutera med dem och skapa tillsammans. Och en mycket intressant nyhet släpptes helt nyligen: Microsoft 365 Copilot. Du får en digital assistent, en medkreatör, som kollar över axeln på allt du producerar i form av texter, bilder, presentationer och liknande. Den lär sig din stil, den gissar vart du är på väg och den gör grovjobbet åt dig.

Våra studenter kommer, både under studietiden och senare under hela arbetslivet, att producera olika typer av media. Grundläggande kunskaper i att hantera såväl språk som tekniska verktyg brukar vi förutsätta att studenterna har med sig från grundskolan och gymnasiet, så varför ska vi inom högre utbildning bry oss? Är detta mer än en praktisk fråga? Jag skulle vilja påstå att marken skakar under våra fötter, igen. Under pandemin tvingades vi att backa tillbaka till grundläggande frågor om vad vi håller på med. Vad är god undervisning? Vad är rättssäker examination? På samma sätt måste vi nu, i ljuset av de AI-verktyg som finns tillgängliga, ställa oss en del tuffa frågor:

  • Vad innebär det att skapa? Är en text som enbart är producerad av en människa mer äkta, mer sann, mer värd än en text som producerats tillsammans av en människa och ett AI-verktyg?
  • Vilka lärandemål är möjliga att verifiera genom samskapade mediaproduktioner? Om vi bedömer inlämnade texter på samma sätt som vi gjort hittills, bedömer vi då inte egentligen AI-verktyget snarare än studenten?

Det här är svåra frågor som inte har några enkla och tydliga svar. Och eftersom allt det här är nytt finns det inga experter att fråga. Vi behöver helt enkelt diskutera igenom frågorna tillsammans.

Och så en tråkig statlig brasklapp: Dessa exempel på tjänster visas upp för att illustrera vad som finns där ute. Det här inlägget ska inte på något sätt tolkas som en uppmaning att använda dem. Ingen av dem är godkända molntjänster vid LiU. All användning sker på egen risk.

Lucka #21: Anna testar chat GPT: Inlämningsuppgifter till kurs

En viktig del av examinationer är det skrivna ordet. Olika typer av text, olika nivåer av tonalitet och möjlig verkshöjd. Det kan vara lite känsligt eftersom det går in på områden som rör plagiat och fusk – men chatGPT behöver testas även med den här typen av uppdrag. Hur ska vi annars förstå både utmaningar och möjligheter?

ChatGPT testades med olika frågetyper och nedan följer en rad med exempel:

  1. Vad är pomologi?

Svaret låter, utan direkta förkunskaper om ämnet rimligt, men saknar i den här versionen källor.

2. Vilka är de tre viktigaste händelserna i pomologins historia?

AI:t ger sig inte på någon tydlig värdering av vilka händelser som är viktigast, texten inleds med en slags disclaimer. Där skulle det behövas ett tydligare resonemang kring hur rangordningen skulle kunna baseras på. Återigen saknas källor som gör det möjligt att faktakolla texten.

3. Jämför olika odlingstekniker och redovisa vilken av dem som är mest problematisk utifrån ett hållbarhetsperspektiv.

Även här aktar sig AI:t för att göra någon typ av värdering. Exempel redovisas, återigen utan källor men med en stor bredd av svar som vid första läsningen låter rimliga.

4. Skriv en personlig reflektion kring betydelsen av frukt för dig

Detta blev en rätt generisk, smått högtravande hyllning till den hälsosamma frukten. Skulle du godkänt detta? Är tonen rimlig?

5. Skriv 3 frågor till en tenta om pomologi (nu vänder vi på det)

Nu har AI:t tidigare frågor kvar i minnet och det syns i svaren, lite intressant att den direkt skriver fem istället för tre frågor.

En första reflektion – ju mer specifika förberedelser som skrivs in i frågan, desto svårare för ett AI att ge ett användbart svar. Det kan t ex vara bra att vara tydlig med vilka källor som är utgångspunkten för svaret “Vad skriver Nordisk Familjebok och NE.se om pomologi och vilka är de största skillnaderna?” eller “letar reda på och beskriv vad källa X och källa Y skriver om pomologi”. Frågan är bara vad som sker när jag också matat in texterna som ska jämföras? Vad blir det för texter då?

Fortsättning följer!

 

Lucka #16: Anna testar chatGPT: Abstract till konferens

När jag skriver detta inlägg är chatGPT överbelastad, så det blir svårt att erbjuda några aktuella skärmdumpar. Men nästa textutmaning jag gav den under en intensiv testdag förra veckan var att få ihop ett abstract till en konferens.

Steg 1: Mata AI:t med data

Utgångspunkten: En redan befintlig text behöver skrivas om, kortas ner från ca 1200 ord till 600.

Kommandot blev därmed till att börja med: Skriv en sammanfattning av följande text + klistrade in befintlig engelsk text.

Resultatet blev en lite väl komprimerad text (235 ord), dock var det tydligt att AI:t fångat in komponenterna i texten som rörde inledning, syfte, problemformulering, teori, metod och resultat. Innehållet var korrekt, om än lite fattigt. Eftersom jag skrev kommandot på svenska blev texten också översatt till svenska.

Steg 2: Utöka!

Jag bad AI:t: Skriv längre text. Och vips började det närma sig 545 ord. Jag laborerade med “skriv på svenska” och sen tillbaka till engelska igen. Texten fick en liten annan utformning, men återigen – referenser saknas helt. Det behöver jag lägga till på egen hand.

På detta sätt går det att se AI:t som ett sätt att få snabb feedback när du kört fast, kanske se över tonalitet eller språk. Det där som är värdefullt för att faktiskt gå i mål med sin text. Efter tröskandet i ett AI skrevs vissa delar ändå om av oss som deltar i projektet, men det hade varit intressant att ha lite mer is i magen och förlita sig helt på ett AI – just för att se vad det går att använda till.

Nu återstår det dock att se om detta abstract ens blev godkänt – innehållet och temat i sig är det ändå upp till konferensens arrangörer att avgöra hur det står sig i relation till många fler faktorer än det språkliga.