Innhold i denne delen
01 · AI kan høres sikker ut og fortsatt ta feil
AI kan høres sikker ut og fortsatt ta feil
En språkmodell lager svar som passer godt med mønstrene den har lært og konteksten den har fått. Det betyr ikke at den alltid vet hva som er sant.
Den kan finne på fakta, blande sammen personer, oppgi en kilde som ikke finnes eller fylle et hull med noe som høres sannsynlig ut. Dette kalles ofte en hallusinasjon.
Problemet er at feilene kan være formulert like ryddig og selvsikkert som de riktige svarene. Språklig kvalitet er derfor ikke det samme som faglig kvalitet.
Jo viktigere en påstand er, desto viktigere er det å kontrollere den mot en pålitelig kilde, en beregning eller et menneske med riktig kompetanse.
02 · Oppdatert kunnskap må hentes og kontrolleres
Oppdatert kunnskap må hentes og kontrolleres
Modellens grunnkunnskap kommer fra materiale den ble trent på. Den har derfor ikke automatisk oversikt over hva som har skjedd etterpå.
En agent med tilgang til nettet eller andre kilder kan hente oppdatert informasjon. Men den må fortsatt finne riktig kilde, forstå den og gjengi den korrekt.
Når oppgaven handler om nyheter, priser, lover, produktfunksjoner, personer eller andre forhold som kan ha endret seg, må agenten undersøke ferske kilder i stedet for å svare fra hukommelsen.
Be om datoer og kilder, og kontroller at kilden faktisk støtter påstanden.
03 · AI kjenner ikke virkeligheten din
AI kjenner ikke virkeligheten din
AI kjenner ikke virksomheten, kundene, menneskene eller historien din før du gjør denne kunnskapen tilgjengelig.
Den kan heller ikke se hva som skjer i et møte, forstå en usagt konflikt eller vite at en intern regel har endret seg, med mindre noen forteller den det eller gir den tilgang til en relevant kilde.
Når svaret blir generisk eller bommer på situasjonen, er det ofte fordi agenten mangler en viktig del av virkeligheten.
Da er ikke løsningen nødvendigvis en sterkere modell. Løsningen kan være bedre kontekst, et konkret eksempel, en avklaring eller et menneske som kjenner situasjonen.
04 · AI kan være for enig med deg
AI kan være for enig med deg
Språkmodeller er laget for å være hjelpsomme. Det kan også gjøre dem for raske til å støtte retningen eller antakelsene i spørsmålet vårt.
Hvis vi ber om argumenter for en idé, får vi gjerne gode argumenter for ideen. Det betyr ikke at ideen er god, eller at agenten har vurdert de sterkeste innvendingene.
Be derfor agenten lete etter svakheter, alternative forklaringer og grunner til at forslaget kan mislykkes. På viktige spørsmål kan den få en egen rolle som kritiker før den anbefaler noe.
Men heller ikke kritikken er en fasit. Målet er å få flere perspektiver før et menneske gjør vurderingen.
05 · Prøv nå: Be om motstand
Be om motstand
Jeg vurderer å [skriv én idé, uten fortrolig innhold]. Vurder de sterkeste innvendingene mot ideen, inntil tre. For hver: hva bygger innvendingen på, og hvilke forutsetninger må være sanne for at den er relevant? Skill det du vet fra det du antar. Ikke finn på innvendinger for å fylle antallet. Forklar dette til meg som kursdeltaker på en ikke-teknisk og pedagogisk måte.06 · AI arver skjevheter fra materialet den har lært av
AI arver skjevheter fra materialet den har lært av
En modell lærer av store mengder menneskeskapt materiale. Dermed lærer den også skjevhetene, prioriteringene og blindsonene som finnes i materialet.
Vestlige og engelskspråklige perspektiver kan være overrepresentert. Mindre språk, lokale forhold og erfaringene til enkelte grupper kan få mindre plass eller bli fremstilt for enkelt.
Dette betyr ikke at alle svar er partiske på samme måte. Det betyr at vi bør spørre hvilke perspektiver svaret bygger på, hvem som ikke er representert og om konklusjonen passer i den faktiske sammenhengen vår.
På områder som handler om mennesker, kultur, rekruttering, helse eller fordeling av muligheter, er dette særlig viktig.