Fremtidens programvare: hvorfor AI-assistert programvare blir standarden

Hva er AI-assistert programvare?

AI-assistert programvare har en assistent bygget inn i selve programmet. Du skriver hva du vil ha gjort med vanlige ord, og assistenten bruker programmets egne funksjoner til å svare eller gjøre jobben. Svaret bygger på dataene i systemet og på tilgangene brukeren allerede har.

Forskjellen fra en frittstående chatbot ligger i verktøyene. En chatbot kan forklare hvordan en god vaktplan ser ut. En innebygd assistent kan se hvem som er ledig på lørdag, og lage et utkast til vakta.

Hvordan dette endrer arbeidsdagen for brukerne, står i artikkelen om hvordan kunstig intelligens endrer måten vi bruker programvare på.

Hvorfor blir AI-assistert programvare standarden?

Tre endringer flytter assistenten inn i programmene folk bruker på jobb. Hver av dem løser et problem brukerne har hatt lenge.

Vanlig språk erstatter lange menyer

De fleste systemer har flere funksjoner enn brukerne finner fram til. Med en assistent holder det at brukeren vet hva som skal gjøres, og hvor funksjonen ligger i menyen, betyr mindre. Det hjelper mest for nyansatte og for dem som bruker systemet sjelden.

Assistenten bruker verktøy

En språkmodell alene kan bare skrive tekst. Får den tilgang til verktøy, kan den slå opp i data, lage utkast og utføre handlinger i systemet. En slik assistent kalles ofte en agent.

Verdien ligger i hvilke verktøy assistenten har, og hvor grensene går. En agent som kan lese vaktplanen, er nyttig. En agent som publiserer den uten å spørre, er en risiko.

Et menneske bekrefter

Gode løsninger lager utkast og forslag, og lar et menneske bekrefte før noe viktig skjer. Fagfolk kaller dette «human in the loop». Assistenten gjør grovarbeidet, og du tar beslutningen.

Sikkerhetsmiljøene har også beskrevet hvordan dette gjøres trygt. OWASP, en åpen organisasjon for programvaresikkerhet, har for mye handlefrihet («Excessive Agency») på sin topp ti-liste over risikoer ved språkmodeller.

Hva skiller en trygg assistent fra en risikabel?

OWASP peker på tre årsaker til at en assistent gjør skade: for mange funksjoner, for vide tilganger og for mye selvstendighet. Tabellen bygger på rådene fra OWASP, med to punkter i tillegg som gjør bruken tryggere i hverdagen.

Be gjerne om en demonstrasjon der assistenten får en uklar beskjed. Se om den spør tilbake, viser hva den har tenkt å gjøre og venter på bekreftelse.

Hva bør dere kreve av leverandøren?

AI-funksjoner kan endre hvem som behandler dataene deres, og hvor det skjer. Spørsmålene under kommer i tillegg til de vanlige kravene til en programvareleverandør. Kravene til kontroll i hverdagen står i tabellen over: bekreftelse, tilgang, logging og muligheten til å slå av.

Avtaler og underleverandører

• Databehandleravtale som dekker AI-funksjonene. Setter dere ut behandling av personopplysninger, skal det være en databehandleravtale. Sjekk at AI-funksjonen er omtalt i den.
• Liste over underleverandører. Leverandøren av språkmodellen er som regel en underleverandør. Ifølge Datatilsynet skal dere varsles om nye underleverandører og ha mulighet til å protestere.
• Hvor dataene behandles. Språkmodellen kan kjøres i et annet land enn resten av systemet. All overføring ut av EØS krever et særskilt grunnlag, for eksempel standard personvernbestemmelser (SCC).

Data og trening

• Trening. Spør om leverandøren eller modelleverandøren bruker dataene deres til å trene modeller.
• Hva som sendes til modellen. Be om en liste. Sensitive opplysninger, som helse og lønn, bør holdes utenfor når oppgaven ikke krever dem.

Hos Operra ligger databehandleravtalen og listen over underleverandører åpent på operra.no/dpa. Kundene varsles på e-post minst 30 dager før en ny underleverandør tas i bruk. Siden slik fungerer plattformen i praksis viser roller, tilgang og lagring av data i Operra.

De generelle spørsmålene om team, tjenestenivå og avslutning av avtalen står i ti spørsmål å stille før dere velger utviklingspartner.

Hva sier KI-forordningen, og når gjelder den i Norge?

KI-forordningen, EUs AI Act, er det felles regelverket for kunstig intelligens i EU. Den trådte i kraft 1. august 2024 og gjelder i trinn:

De to siste datoene ble utsatt da EU endret forordningen i juli 2026. Åpenhetsreglene betyr blant annet at folk skal vite når de snakker med en maskin.

Europakommisjonen bruker programvare som sorterer CV-er, som eksempel på høyrisiko i arbeidslivet. Slike systemer får krav om menneskelig tilsyn og logging av aktiviteten. Om et verktøy er høyrisiko, avhenger av hva det brukes til.

Status i Norge

I Norge gjelder ikke de KI-spesifikke reglene ennå. Forordningen må først tas inn i EØS-avtalen, og ifølge regjeringen pågikk forhandlingene om det i august 2026.

Regjeringen varslet 4. august 2026 at forslaget til norsk KI-lov skal på ny høring høsten 2026. Målet er å legge loven fram for Stortinget våren 2027.

Personvernregelverket gjelder allerede, også når programvaren bruker AI. Krav om menneskelig kontroll og logging er dessuten god praksis uansett når forordningen gjelder her.

Slik gjør dere bedriften klar

En innebygd assistent får tilgang til data og handlinger. Derfor trenger den noen avklaringer som en frittstående chattetjeneste ikke krever.

1. Bestem hvem som får bruke assistenten. Avklar også hvilke handlinger som skal kreve bekreftelse, og om noen skal slås av.
2. Informer de ansatte. Fortell hva assistenten brukes til, og hvilke opplysninger den ser. Minn alle på at AI kan ta feil, så utkastet må leses før noen bekrefter.
3. Les loggen de første ukene. Da ser dere hva assistenten faktisk brukes til, og hvor den bommer.

Den generelle trinnplanen for å ta AI i bruk, fra første oppgave til evaluering, står i artikkelen om AI for små bedrifter. Hvordan nye brukere lærer et system raskere, står i artikkelen om å komme i gang med nytt system.