Förhållningssätt till AI i skolverksamhet
Karlstads kommun har koncerngemensam riktlinje och anvisning gällande artificiell intelligens (AI). Dessa kan du ta del av på Solsidan: AI – verktyg och möjliggörare | Karlstads kommun.
Följande dokument beskriver Barn- och ungdomsförvaltningens gemensamma förhållningssätt vad gäller användande av generativa AI-tjänster i skolverksamhet. Generativ AI kan till exempel hjälpa dig med utkast eller idéer, sammanfatta textmassor, generera eller analysera bilder. Begreppet skolverksamhet avser i detta dokument förskola, fritidshem, grundskola, anpassad grundskola och kulturskola.
I dagens snabbt föränderliga värld är det avgörande att ha en tydlig strategi för att implementera AI i skolverksamhet. Denna anvisning måste därför vara ett levande dokument som uppdateras kontinuerligt.
Redan idag utgör AI en stor del av vårt samhälle och vardag, från rekommendationer i streamingtjänster till diagnosticering inom sjukvården. Vi kan inte veta hur framtida teknik kan hjälpa oss lösa komplexa problem och måste därför våga vara öppen för förändring men samtidigt vara medvetna om risker vid användning av AI-tjänster.
Skolan ska förmedla de mer beständiga kunskaper som utgör den gemensamma referensram alla i samhället behöver. Eleverna ska kunna orientera sig och agera i en komplex verklighet med stort informationsflöde, ökad digitalisering och snabb förändringstakt. (Lgr22)
Utbildningen ska också ge barnen förutsättningar att utveckla adekvat digital kompetens genom att ge dem möjlighet att utveckla en förståelse för den digitalisering de möter i vardagen. Barnen ska ges möjlighet att grundlägga ett kritiskt och ansvarsfullt förhållningssätt till digital teknik, för att de på sikt ska kunna se möjligheter och förstå risker samt kunna värdera information. (Lpfö18)
Generellt om AI-tjänster och säkerhet
Vid användning av generativa AI-tjänster ska försiktighetsprincipen gälla. Det finns en risk att information som du förser en AI-tjänst med kan spridas på olämpligt sätt. Därför ska du aldrig ladda upp personuppgifter, känslig eller konfidentiell information. Med personuppgifter menas uppgifter som gör att det går att identifiera en fysisk person.
Om du anser att du måste lägga in personuppgifter i en AI-tjänst, behöver du först göra en särskild, skriftlig konsekvensbedömning avseende dataskyddet i AI-tjänsten eller säkerställa att en sådan konsekvensbedömning har gjorts. Kontakta förvaltningens personuppgiftssamordnare för mer information och hjälp.
Generellt kan en AI-tjänst förses med information som finns öppen på internet eller material som du själv har skapat under förutsättning att du följt ovanstående kring personuppgifter, känslig eller konfidentiell information.
Rekommenderade tjänster
Microsoft Copilot
Microsoft Copilot, din digitala assistent i Microsoft 365 online, är den tjänst som vi inom BUF ska använda med våra jobbkonton eftersom det innebär en säkrare miljö. I den här tjänsten kan du ladda upp information som finns öppen på internet och material som du skapat själv men även intern information som kräver inloggning, till exempel från Solsidan eller Teams.
Kom dock ihåg att begränsningarna avseende personuppgifter, känslig eller konfidentiell information fortfarande gäller enligt vad som sagts ovan.
Microsoft Copilot har informationsklassningsnivå 1.[1]
AI Skolan
Ett enkelt sätt att komma igång med generativ AI är tjänsten AI Skolan. Tjänsten är uppbyggd kring moduler anpassade för skolverksamhet. I den här tjänsten kan du ladda upp information som finns öppen på internet eller material som du skapat själv. Du ska inte ladda upp information som innehåller personuppgifter, känslig eller konfidentiell information som kan härledas till en person.
AI Skolan har informationsklassningsnivå 0.[2]
Andra AI-tjänster
För att använda andra AI-tjänster måste du först ha säkerställt att tjänsten hanterar personuppgifter och inmatad information på säkert sätt enligt kommunens övergripande om GDPR, Riktlinjer Informationssäkerhet och Informationsklassningsmodell för koncernen Karlstads kommun.
Förteckning över granskade AI-tjänster finns på skola.karlstad.se/aitjanster
Personalens användning
Användning av generativ AI kan underlätta och utveckla pedagogens uppgifter och undervisning men det kräver medvetna val.
Det innebär att man kan se att det ger ett mervärde och väger in eventuella risker eller faror. AI utgår till exempel inte automatiskt från svenska styrdokument. Vidare måste man vara vaksam så att användningen inte riskerar påverka betygssättning och annan myndighetsutövning. Generativ AI får därför inte användas vid bedömningar och betygsgrundande beslut.
Copilot och AI Skolan kan exempelvis användas för att bearbeta och få återkoppling på texter, idéer och förslag till lektionsplanering eller individanpassa material till barn/elever. Utgångspunkten ska vara att din digitala assistent kan hjälpa dig men det är ditt pedagogiska omdöme som ska styra. Det är alltid ditt ansvar att granska och säkerställa att informationen är korrekt.
Tänk på att se genererat material från AI som utkast som du i de flesta fall behöver bearbeta för att passa dina ordval, beskrivningar och just din barn- eller elevgrupp.
AI i undervisningen
I undervisning om och med AI bör pedagogen ha ett fokus på att AI alltid levererar ett svar men inte nödvändigtvis sanningen, vilket kräver ett sak- och källkritiskt förhållningssätt.
Pedagog som anser sig ha kompetens inom området kan utforska generativa AI-tjänster tillsammans med barn/elever när pedagogen bedömer det lämpligt.
Inledningsvis ska undervisning om och med AI bedrivas i helgrupp för att visa på möjligheter, risker och hur AI påverkar och förändrar samhället.
Kollegiet bör kontinuerligt samtala och diskutera planering av införande samt dela erfarenheter om lämplig användning för barn/elever.
För skolan är det viktigt att ha ett proaktivt förhållningssätt för att vara observant på om och hur elever använder generativ AI i sitt skolarbete.
När AI används i undervisningen med elever ska fokus ligga på hur eleven kan förbättra och utveckla sitt eget lärande snarare än att hitta genvägar till en slutprodukt. Det kan till exempel handla om att sammanfatta och anpassa längre information, skapa kontrollfrågor eller få återkoppling på egna texter.
Elevers egen användning
Förutsatt att eleven har fått undervisning kring lämplig användning, har ett kritiskt förhållningssätt till det utkast som AI ger och är medveten om risker kan eleven på egen hand använda sig av generativ AI för att stärka det egna lärandet. Läs mer i stycket AI i undervisningen.
Alla elever har automatiskt tillgång till Microsoft Copilot med sitt skolkonto. För skolarbete ska Copilot användas med skolkontot då det är en säkrare IT-miljö.
Eventuella risker vid användning
Användning av generativ AI innebär en risk att du får felaktig information då AI alltid vill vara dig till lags. Därför måste du ha ett kritiskt förhållningssätt och vara sak- och källkritisk.
Det kan vara svårt som pedagog att avgöra om AI använts som ett verktyg i processen att skapa ett elevarbete eller som en genväg till en färdig produkt. Det är därför viktigt att du kontinuerligt följer elevens progression i processen och inte enbart förlitar dig på slutprodukten i bedömningen.
Huvudregeln är att inlämningsuppgifter inte används som betygsunderlag. Möjlighet finns att göra undantag om du som pedagog kan säkerställa tillförlitligheten i underlaget.
[1] Intern information som, om den sprids till obehöriga, kan medföra måttlig negativ
påverkan på Karlstads kommun, externa aktörer eller på individer.
[2] Öppen information som kan spridas fritt inom och utom Karlstads kommun.