Del 5 av 18 · AI-grunnkurs for kunnskapsarbeid
Kontekstvindu og systemet rundt modellen
Du lærer hva agentens midlertidige arbeidsminne er, og hvordan arbeidsmiljøet rundt modellen gir tilgang til filer, instrukser og godkjenninger.
Innhold i denne delen
01 · Kontekstvinduet er arbeidsminnet
Kontekstvinduet er arbeidsminnet
Kontekstvinduet er mengden informasjon modellen kan ha tilgjengelig mens den arbeider. Det kan inneholde samtalen, instrukser, filer, verktøyresultater og det agenten selv har produsert underveis.
Tenk på kontekstvinduet som et skrivebord der du legger utover papirer og dokumenter du trenger til arbeidet. Bordet har begrenset plass. Når du stadig legger på mer, begynner noen av papirene å falle utenfor kanten. De er ikke lenger blant dokumentene du har foran deg.
På samme måte har modellen begrenset plass til informasjon i kontekstvinduet. Når det fylles opp, må systemet rundt modellen forkorte, oppsummere eller utelate noe. Viktige detaljer fra tidligere i arbeidet kan dermed mangle når modellen lager neste svar.
Filene er arkivet, ikke skrivebordet. At en opplysning faller ut av kontekstvinduet, betyr ikke at filen den kom fra er slettet. Agenten kan hente den fram igjen hvis den har tilgang. Derfor bør det som skal vare, lagres i filer i stedet for bare å bli liggende i en lang samtale.
Senere i kurset skal du få prøve hvordan du kan lagre viktige beskjeder og oppsummeringer i filer, slik at agenten kan lese dem når den trenger dem.
02 · AI trenger verktøy for å gjøre jobben
AI trenger verktøy for å gjøre jobben
Når du bruker AI, er det nyttig å skille mellom modellen og programmet du bruker. Modellen er den delen som tolker oppgaven, bearbeider informasjon og lager svar. Programmet rundt modellen bestemmer blant annet hvilke filer den kan få lese, og hvilke handlinger den kan få utført.
Tenk at du ber om dette: «Les de tre møtereferatene og lag en samlet oppfølgingsliste.»
Hvis AI-en bare kan lese og svare i chatten, må du selv legge inn referatene. Du får et forslag til en liste, men må selv lagre den der du vil ha den.
Hvis programmet også har verktøy for å åpne og lagre filer, kan AI-en gjøre mer av jobben. Med din tillatelse kan den få lest referatene fra en mappe, lage oppfølgingslisten og få den lagret som et nytt dokument.
Arbeidet skjer da i flere steg. Modellen ber om å få åpnet en fil. Programmet åpner den og gir teksten til modellen. Modellen bruker innholdet til å lage listen og ber deretter programmet om å lagre den. Programmet kontrollerer hvilke handlinger som er tillatt.
Systemet som gjør dette mulig, kalles ofte et agent harness. Det knytter modellen til verktøy og regler, slik at den kan arbeide videre fra ett steg til det neste.
Derfor kan den samme modellen gjøre mer i ett program enn i et annet. Det avhenger av hvilke verktøy den har, og hva du har gitt den lov til. Tillatelse til å lese møtereferatene betyr for eksempel ikke automatisk tillatelse til å endre dem eller sende oppfølgingslisten til andre.