Spørsmålene folk stiller før de spør oss

Mindre enn folk frykter for selve modellen, og mer enn de tror for alt rundt den. Med volumene en liten bedrift har, koster modellkallene lite i måneden. Det du betaler for, er en agent som bare svarer ut fra det dere faktisk vet, gir samtalen videre til et menneske når den bør, og blir bedre av sine egne samtaler. En avgrenset agent som svarer kundene fra deres eget innhold, med en innboks der et menneske kan ta over, er et spørsmål om uker og ikke måneder.

Ja, hvis dere behandler KI-verktøyet som ethvert annet system med personopplysninger: et behandlingsgrunnlag for formålet, en databehandleravtale med leverandøren, et klart svar på hvor dataene behandles og om de brukes til trening, og en linje i personvernerklæringen. Den vanligste feilen er kundedata limt inn i et gratis chatteverktøy som ingen i bedriften har godkjent.

Det avhenger mer av fire ting enn av selve appen: om den må ligge i App Store eller kan leve i nettleseren, om folk skal logge inn og betale, hvor mange andre systemer den må snakke med, og hvem som passer på den når den er i drift. En avgrenset førsteversjon som gjør én jobb godt, er typisk et par måneders arbeid. Prisen følger det appen skal gjøre, og antallet skjermbilder sier lite om det.

RAG, eller retrieval-augmented generation, betyr at modellen slår opp de relevante delene av deres egne dokumenter før den svarer, og svarer ut fra dem. Dere trenger det når svarene må komme fra innhold som er for stort til å gi modellen hver gang, eller som endres ofte: manualer, kontrakter, produktark, år med e-post. Dere trenger det ikke for en FAQ på én side, som får plass i instruksjonene som den er. Det vanskelige er å holde dokumentene oppdatert, og å sørge for at ingen finner det de ikke har lov til å se.

Det finnes ikke ett tall, men det finnes fire spørsmål som avgjør det: hvem som betaler, hva som skjer etter betalingen, hvor mange som deler samme kalender, og om noe fysisk må skje, som en dør som åpnes eller en ovn som skrus på. Et system som bare tar imot en tid er noen få uker. Et som tar betaling, holder styr på medlemskap og slipper gjesten inn i et varmt rom, er et annet produkt, og det er den forskjellen prisen handler om.

For de fleste norske nettjenester er svaret begge deler, og spørsmålet er egentlig et annet: hvilket system som eier sannheten om hva kunden har kjøpt. Vipps MobilePay er måten nordmenn faktisk vil betale på og bør ligge i kassen. Stripe er verktøykassen for abonnement, fakturering og betalingsmåter utover Norden, inkludert Klarna. Bestem hvem som er fasit før du velger leverandør, så blir resten en integrasjon i stedet for en omskriving.

Det innebærer tre lag, ikke ett: utstyret som gjør jobben, forbindelsen som er borte av og til, og skyen som bestemmer hva som skal skje. Selve integrasjonen (å få en verdi ut og en kommando inn) er som regel den minste delen. Arbeidet ligger i å bestemme hvilken logikk som må virke uten nett, hva systemet skal gjøre når utstyret ikke svarer, og hvordan noen ser at det står før kunden ringer.

Det som virker i dag er avgrensede jobber med et svar noen kan sjekke: et utkast et menneske godkjenner, informasjon hentet ut av rot og inn i et skjema, en henvendelse sendt til riktig sted, et spørsmål besvart fra deres egne dokumenter. Det som ikke virker ennå er agenten som «driver bedriften» uten tilsyn. Og den vanligste feilen er at systemet rundt modellen kaster et svar som var riktig.