Del 10 av 14 · AI-grunnkurs for kunnskapsarbeid
Sikker og likevel feil
Et flytende svar kan være feil, utdatert, for enig eller preget av skjevheter i materialet.
Innhold i denne delen
01 · Et sikkert språk er ikke et bevis
Et sikkert språk er ikke et bevis
En språkmodell lager svar som passer godt med mønstrene den har lært og konteksten den har fått. Det betyr ikke at den alltid vet hva som er sant.
Den kan finne på fakta, blande sammen personer, oppgi en kilde som ikke finnes eller fylle et hull med noe som høres sannsynlig ut. Dette kalles ofte en hallusinasjon.
Problemet er at feilene kan være formulert like ryddig og selvsikkert som de riktige svarene. Språklig kvalitet er derfor ikke det samme som faglig kvalitet.
Jo viktigere en påstand er, desto viktigere er det å kontrollere den mot en pålitelig kilde, en beregning eller et menneske med riktig kompetanse.
02 · Kunnskap og hukommelse har grenser
Kunnskap og hukommelse har grenser
Det kan føles som om agenten kjenner deg fordi den følger en lang samtale. Men den husker ikke på samme måte som et menneske.
Den arbeider med den informasjonen som er tilgjengelig akkurat nå. Når konteksten blir for stor, samtalen avsluttes eller du bytter klient, kan viktig informasjon forsvinne.
Noen tjenester tilbyr egne minnefunksjoner, men du bør ikke gjøre arbeidet avhengig av et skjult minne du ikke ser eller kontrollerer.
Det som skal vare, lagres derfor i filer du eier: instrukser, kontekst, beslutninger, arbeidsresultater og neste steg. Da kan både en ny samtale og en annen modell finne det igjen.
Modellens grunnkunnskap kommer fra materiale den ble trent på. Den har derfor ikke automatisk oversikt over hva som har skjedd etterpå.
En agent med tilgang til nettet eller andre kilder kan hente oppdatert informasjon. Men den må fortsatt finne riktig kilde, forstå den og gjengi den korrekt.
Når oppgaven handler om nyheter, priser, lover, produktfunksjoner, personer eller andre forhold som kan ha endret seg, må agenten undersøke ferske kilder i stedet for å svare fra hukommelsen.
Be om datoer og kilder, og kontroller at kilden faktisk støtter påstanden.
03 · En sterkere modell erstatter ikke manglende virkelighet
En sterkere modell erstatter ikke manglende virkelighet
KI kjenner ikke virksomheten, kundene, menneskene eller historien din før du gjør denne kunnskapen tilgjengelig.
Den kan heller ikke se hva som skjer i et møte, forstå en usagt konflikt eller vite at en intern regel har endret seg, med mindre noen forteller den det eller gir den tilgang til en relevant kilde.
Når svaret blir generisk eller bommer på situasjonen, er det ofte fordi agenten mangler en viktig del av virkeligheten.
Da er ikke løsningen nødvendigvis en sterkere modell. Løsningen kan være bedre kontekst, et konkret eksempel, en avklaring eller et menneske som kjenner situasjonen.
Språkmodeller er laget for å være hjelpsomme. Det kan også gjøre dem for raske til å støtte retningen eller antakelsene i spørsmålet ditt.
Hvis du ber om argumenter for en idé, får du gjerne gode argumenter for ideen. Det betyr ikke at ideen er god, eller at agenten har vurdert de sterkeste innvendingene.
Be derfor agenten lete etter svakheter, alternative forklaringer og grunner til at forslaget kan mislykkes. På viktige spørsmål kan den få en egen rolle som kritiker før den anbefaler noe.
Men heller ikke kritikken er en fasit. Målet er å få flere perspektiver før et menneske gjør vurderingen.
04 · Bestem kontrollnivået etter risiko
Bestem kontrollnivået etter risiko
En modell lærer av store mengder menneskeskapt materiale. Dermed lærer den også skjevhetene, prioriteringene og blindsonene som finnes i materialet.
Vestlige og engelskspråklige perspektiver kan være overrepresentert. Mindre språk, lokale forhold og erfaringene til enkelte grupper kan få mindre plass eller bli fremstilt for enkelt.
Dette betyr ikke at alle svar er partiske på samme måte. Det betyr at du bør spørre hvilke perspektiver svaret bygger på, hvem som ikke er representert og om konklusjonen passer i den faktiske sammenhengen din.
På områder som handler om mennesker, kultur, rekruttering, helse eller fordeling av muligheter, er dette særlig viktig.
Prøv i din egen arbeidsflate
Gjør det konkret
Ta én påstand fra et AI-svar. Marker om den krever oppdatert kilde, lokal virksomhetskontekst eller en motforestilling.
Påstand fra AI-svaret: […] Trenger fersk kilde: [ja/nei + hvorfor] Trenger lokal kontekst: [ja/nei + hva] Trenger motforestilling eller annet perspektiv: [ja/nei + hva]
Arbeidet skjer hos deg. Læringsportalen lagrer ikke svaret.
Sjekk forståelsen