1. Hva slags informasjon tror dere at KI-verktøy samler inn når vi bruker dem?

• Alt vi skriver eller laster opp (tekst, bilder, dokumenter)
• Søkeord og spørsmål vi stiller
• Når og hvor ofte vi bruker verktøyet
• Hvilken enhet vi bruker (mobil, PC, nettbrett)
• Hvor vi befinner oss
• Hvilke resultater vi klikker på eller bruker
• Hvor lenge vi bruker verktøyet
• Språk og dialekt vi bruker
• Hvilke emner vi er interessert i
• Reaksjoner på svar (om vi liker dem eller ikke)

2. Hvorfor tror dere at selskapene bak KI-verktøyene ønsker å samle inn denne informasjonen?

• For å forbedre verktøyet og gjøre det mer nøyaktig
• For å tilpasse innhold spesielt til hver bruker
• For å selge målrettet reklame basert på våre interesser
• For å utvikle nye funksjoner basert på hva brukerne gjør
• For å tjene penger ved å selge data til andre selskaper
• For å analysere trender og forstå brukernes behov
• For å trene KI-modellene til å bli bedre
• For å konkurrere med andre KI-selskaper
• For å vite hva som fungerer bra og hva som må forbedres

3. Hvordan kan innsamlede data brukes på måter som kan være positive og negative?

Positive måter:

• Gjøre verktøyene mer personlige og relevante
• Forbedre brukervennlighet og funksjonalitet
• Oppdage og rette feil i verktøyet
• Gjøre informasjon lettere tilgjengelig
• Utvikle ny teknologi som kan hjelpe mennesker
• Bidra til forskning som kan løse problemer i samfunnet

Negative måter:

• Overvåke og spore brukere uten samtykke
• Selge personlig informasjon til tredjeparter
• Manipulere brukere til å ta visse valg
• Diskriminere basert på innsamlede data
• Skape avhengighet av digitale tjenester
• Lage detaljerte profiler som kan misbrukes
• Sette folk i «bobler» hvor de bare ser innhold som bekrefter egne meninger

4. Hvilken type personlig informasjon kan du ha delt med et KI-verktøy uten å tenke over det?

• Fullt navn og alder
• Skole eller arbeidsplass
• Hjemmeadresse eller hvor du vanligvis er
• Informasjon om venner og familie
• Interesser og hobbyer
• Personlige problemer eller bekymringer
• Politiske meninger
• Helseinformasjon
• Bilder av deg selv eller andre
• Planer for fremtiden (reiser, aktiviteter)

5. Hva kan skje hvis personlig informasjon havner i feil hender?

• Identitetstyveri
• Svindel og nettfisking (phishing)
• Uønsket reklame og spam
• Utpressing eller trusler
• Forfølgelse (stalking)
• Diskriminering ved jobbsøking eller forsikring
• Tyveri av kontoer på sosiale medier
• Målrettede svindelforsøk som virker troverdige
• Misbruk av bilder eller informasjon til falske profiler
• Innsyn i privatliv som kan føre til mobbing

6. Hvordan kan vi beskytte personvernet vårt når vi bruker KI-verktøy?

• Lese personvernerklæringer før vi bruker tjenesten
• Ikke bruke vårt ekte navn
• Ikke dele sensitiv personlig informasjon
• Slette samtalehistorikk regelmessig
• Bruke tjenester som lover ikke å selge dataene dine
• Sjekke personverninnstillinger og justere dem
• Være kritisk til hvilke tillatelser apper får
• Bruke VPN for å skjule lokasjon
• Logge ut av tjenester når de ikke er i bruk
• Regelmessig bytte passord

7. Er det noen typer informasjon som aldri bør deles med et KI-verktøy?

• Passord og PIN-koder
• Personnummer og ID-numre
• Bankkortinformasjon
• Helseopplysninger og diagnoser
• Adresser og bostedsdetaljer
• Skole/arbeidsplass kombinert med detaljert timeplan
• Bilder av andre uten deres samtykke
• Dypt personlige hemmeligheter
• Informasjon om mindreårige
• Detaljerte reiseplaner med datoer

8. Hva synes dere om at KI-verktøy kan lære og tilpasse seg basert på informasjonen vi gir dem?

Positivt:

• De blir mer nyttige og relevante for hver enkelt
• De kan spare oss tid ved å forstå hva vi liker
• De kan hjelpe oss med å oppdage nye ting basert på våre interesser
• De kan bli bedre til å forstå språket vårt og måten vi kommuniserer på

Negativt:

• Det kan føles som en invasjon av privatlivet
• De kan forsterke fordommer vi allerede har
• De kan skape avhengighet når alt er perfekt tilpasset
• Vi vet ikke alltid hvordan dataene våre brukes til å lære opp verktøyet
• Det kan gjøre det vanskeligere å oppdage nye ting utenfor våre vanlige interesser

9. Forslag til regler for innsamling og bruk av data:

• Tydelig informasjon om hvilke data som samles inn
• Krav om aktivt samtykke før innsamling
• Rett til å få slettet all informasjon
• Forbud mot å selge personlige data til tredjeparter
• Begrensning på hvor lenge data kan lagres
• Transparens om hvordan dataene brukes
• Spesiell beskyttelse for data fra mindreårige
• Rett til å få innsyn i hvilke data som er lagret om deg
• Rett til å bruke tjenester uten å bli sporet
• Obligatorisk varsling ved databrudd

10. Hvordan KI-selskapenes datainnsamling kan påvirke samfunnet på lang sikt:

• Mer personaliserte tjenester, men mindre privatliv
• Økt effektivitet i mange yrker, men kanskje færre jobber
• Bedre løsninger på komplekse problemer, men avhengighet av teknologi
• Lettere tilgang til informasjon, men mer falsk informasjon
• Større forståelse av menneskelig atferd, men risiko for manipulasjon
• Nye typer tjenester, men større digitale skiller mellom grupper
• Mer automatisering, men mindre menneskelig kontakt
• Flere personaliserte tjenester, men risiko for diskriminering
• Effektivisering av utdanning, men bekymringer for å miste kritisk tenkning
• Økt fokus på personvern i lovgivning, men utfordringer med global regulering

Hvorfor tror dere appen samler inn ansiktsdata?

• Appen trenger ansiktsdata for å kunne bruke filteret og forbedre teknologien sin.
• Selskapet kan bruke dataene til å trene opp kunstig intelligens for å lage bedre ansiktsgjenkjenning.
• Noen selskaper samler inn data for å selge dem videre til andre selskap, for eksempel reklamebyråer.

Hvilke konsekvenser kan det ha at ansiktsdata blir lagret og delt videre?

• Bildene kan brukes uten tillatelse i reklamer eller andre digitale produkter.
• I verste fall kan ansiktsdata brukes til overvåkning eller til å lage deepfakes (kanskje usannsynlig i dette scenarioet…)
• Hvis en database med ansiktsdata blir hacket, kan uvedkommende få tilgang til bildene og bruke dem på uønskede måter.

Hvilke rettigheter har Maja og Emil i en slik situasjon?

• Ifølge GDPR har de rett til å be om innsyn i hvilke data som er lagret om dem.
• De kan kreve at dataene deres slettes.
• De kan protestere mot at dataene deres brukes til kommersielle formål uten samtykke (men har de samtykket i brukervilkårene de måtte svare ja på for å bruke appen, tro?).

Hvordan kunne de ha beskyttet personvernet sitt bedre?

• • Lese vilkårene før de laster opp bilder og se hvilke data som samles inn (Men hvem gjør det? De er lange og vanskelige å forstå. Kan man bruke KI til å oppsummere lange og vanskelige brukerbetingelser og få fremhevet mulige konsekvenser?).
  • Bruke apper og tjenester som respekterer personvern og ikke lagrer data unødvendig.

Er det positivt eller negativt at systemet tilpasser seg elevenes læringsvaner?

• Positivt: Systemet kan hjelpe elevene med å få tilpasset undervisning og oppgaver som motiverer til økt innsats fordi de passer til elevens niv¨
• Negativt: Det kan føre til at systemet tolker data feil, noe som kan gi urettferdige konsekvenser for elevene.
• Det kan være problematisk hvis elevene ikke vet at de blir overvåket, eller hvis læreren stoler blindt på systemets vurderinger.

Hvordan kan innsamlingen av data påvirke hvordan lærere ser på elevene?

• Læreren kan få verdifull innsikt i hvordan elevene lærer.
• Men hvis systemet har feil, kan systemet gi tilbakemeldinger om eleven uten at de stemmer.
• Elever kan føle seg presset til å prestere på en bestemt måte fordi de vet at systemet overvåker dem.

Hva om systemet tolker dataene feil, slik som i Markus’ tilfelle?

• Eleven kan få oppgaver som ikke passer til kompetansenivået, og det kan virke demotiverende og frustrerende
• Dette viser at KI ikke alltid er feilfri – systemet kan gjøre feil basert på mønstre som ikke er reelle.
• Elever bør få en mulighet til å forklare hvorfor de har svart som de har gjort.

Hva bør skolen gjøre for å sikre at elevenes personvern blir ivaretatt?

• Fortelle hvilke data systemet samler inn, og hvorfor
• Sørge for at systemet følger GDPR og ikke samler inn mer data enn nødvendig.
• Gi elevene og foreldrene mulighet til å si nei til datainnsamling.

Hvorfor kan det være problematisk at en KI-chatbot samler inn informasjon om følelser og personlige problemer?

• Personlig informasjon kan brukes til å målrette reklame, noe som kan føles ubehagelig og at man blir overvåket
• Noen selskaper kan selge disse dataene videre til andre selskaper
• Elever kan føle at de snakker med en trygg «venn», men egentlig gir de fra seg sårbar informasjon til en datamaskin.

Synes dere det er greit at Hanna får tilpasset reklame basert på det hun har skrevet? Hvorfor eller hvorfor ikke?

• Det kan være nyttig hvis reklamen gir gode råd eller hjelp.
• Det kan være ubehagelig at en app vet så mye om dem og utnytter det kommersielt.
• Det kan føles invaderende for Hanna hvis hun ikke visste at samtalen ble analysert for reklameformål.

Hva kunne hun ha gjort for å unngå at samtalen ble brukt på denne måten?

• Sjekket personverninnstillingene før hun begynte å bruke chatboten (Men hvem gjør det? De er lange og vanskelige å forstå. Kan man bruke KI til å oppsummere lange og vanskelige brukerbetingelser og få fremhevet mulige konsekvenser?).
• Unngått å dele personlige detaljer i en samtale med en KI.
• Brukt en anonym chatbot som ikke lagrer samtaler.

Hvilke rettigheter har Hanna i denne situasjonen i henhold til GDPR?

• Rett til å vite hvilke data som er lagret om henne.
• Rett til å be om at dataene slettes.
• Rett til å protestere mot bruken av dataene hennes til reklame (men har hun samtykket i brukervilkårene de måtte svare ja på for å bruke appen, tro?).
• Rett til å få informasjon om hvordan dataene brukes.