For å lage en chatbot som ChatGPT, er maskinlæring nødvendig. Maskinlæring gjør at systemet kan finne sammenhenger og mønstre i store mengder data. Ved å forstå disse mønstrene kan chatboten gi fornuftige svar på mange ulike spørsmål. Du kan lese mer om maskinlæring her.

Naturlig språkprosessering (eller NLP: Natural Language Processing), er en del av kunstig intelligens som hjelper datamaskiner å forstå og bruke menneskelig språk. Tenk på det som når du lærer et nytt språk – du må lære ord, grammatikk og hvordan setninger bygges opp. På samme måte trenes datamaskiner til å gjenkjenne mønstre i språket vårt. Dette gjør at de kan oversette tekst fra ett språk til et annet, svare på spørsmål vi stiller, rette skrivefeil, eller til og med lage ny tekst som høres ut som om et menneske har skrevet den. Chatboter som du kanskje har snakket med på nettsider, oversettelsestjenester som Google Translate, og virtuelle assistenter som Siri eller Alexa – alle disse bruker naturlig språkprosessering for å forstå hva du sier og gi deg fornuftige svar. Det er som om datamaskinen har lært seg å «snakke» med oss på vår måte.

En annen viktig del av en chatbot er generativ kunstig intelligens. Dette er teknologi som kan lage nytt innhold som tekst, bilder, musikk eller video. Det fungerer litt som en kreativ elev som har sett veldig mange eksempler på kunst, tekster eller musikk, og så lært seg mønstrene i disse. Les mer om hvilke data KI er trent på her. Når du ber en generativ KI om å lage noe, bruker den alt den har «sett» før for å skape noe nytt. For eksempel kan den skrive en historie om en romreise, tegne et bilde av en fantasiverden, eller lage en melodi – alt basert på millioner av eksempler den har lært fra. Den genererer ikke bare tilfeldige ting, men prøver å lage noe meningsfullt som ligner på det mennesker ville skapt. Verktøy som ChatGPT kan skrive tekster for deg, DALL-E kan lage bilder fra tekstbeskrivelser, og det finnes programmer som kan komponere musikk eller lage falske videoer som ser ekte ut. Du kan tenke på det som en slags digital fantasi som kan skape nye ting basert på alt den har lært.

Disse tre delene – maskinlæring, naturlig språkprosessering og generativ KI – kombineres til det vi kaller en stor språkmodell (Large Language Model, eller LLM). Store språkmodeller, som GPT-4, er trent til å forstå og produsere menneskelig språk. GPT-modeller, som ChatGPT bygger på, er spesielt gode på å generere tekst og innhold. Husk at ChatGPT ikke “er” språkmodellen – den kan “bruke” forskjellige GPT-modeller (som GPT-3.5, GPT-4, eller nyere varianter) for å snakke med deg.

GPT-modeller er store språkmodeller, men ikke alle store språkmodeller er GPT-er

Det avhenger av hvilken teknologi som brukes for trening om språkmodellen er en GPT. G står for generative, altså at modellen er designet for å generere tekst spesifikt. Multimodale modeller (som kan håndtere bilder) er en nyere utvikling. P står for pre-trained siden modellen er trent på store datamengder, som så blir fintunet til spesielle typer oppgaver, og T står for transformer, en modellarkitektur som bruker en «attention»-mekanisme som gjør at kunstig intelligens kan legge ekstra vekt på de viktigste ordene i en setning, slik at den forstår sammenhengen bedre,  og som kan bearbeide store mengder data parallelt. Her vurderes hvordan hvert ord forholder seg til alle andre ord i en tekst. For eksempel i setningen «hunden bet mannen fordi han provoserte den», vil attention-mekanismen hjelpe modellen å forstå at «den» refererer til «hunden» og «han» til «mannen».

Du må være klar over at KI ikke alltid snakker sant. Vi kaller det en hallusinasjon når en KI-modell genererer informasjon som virker overbevisende, men som er feilaktig, oppdiktet eller ikke samsvarer med virkeligheten. Dette skjer fordi modellen fyller inn hull i sin kunnskap med sannsynlige, men ikke nødvendigvis korrekte data. Hallusinasjoner kan framstå som fakta, referanser til ikke-eksisterende kilder, eller oppfunne detaljer som presenteres med samme sikkerhet som faktisk korrekt informasjon. Hallusinasjoner er rett og slett løgn. Sjekk alltid informasjon du får av KI!