Når KI skriver klagen… og svarer på klagen

I takt med at kunstig intelligens (KI) får stadig større plass i offentlig sektor, reises det nye og komplekse spørsmål om ansvar, etikk og rettssikkerhet. Hva skjer egentlig når KI sitter på begge sider av bordet? Hvem har ansvaret når KI har skrevet både konkurransegrunnlaget, klagen på tildelingen og svaret på klagen?

KI i offentlig anskaffelse: En ny virkelighet

Bruken av KI i offentlige anskaffelser har eksplodert de siste årene. Mange virksomheter benytter nå avanserte språkmodeller til å utforme konkurransegrunnlag, evaluere tilbud og til og med svare på spørsmål fra leverandører. Samtidig har leverandørene selv tatt i bruk KI for å skrive tilbud, utforme klager og analysere tildelingsbeslutninger. Dette gir effektivisering og kvalitetssikring, men åpner også for en rekke nye dilemmaer.

Når KI møter seg selv i døren

Forestill deg følgende scenario: En offentlig oppdragsgiver bruker KI til å utforme konkurransegrunnlaget for en stor anskaffelse. En leverandør som ikke vinner frem, benytter sin egen KI til å skrive en klage på tildelingen. Klagen sendes inn, og oppdragsgiveren lar – kanskje uten å tenke over det – sin KI generere svaret på klagen. Resultatet er at ingen mennesker har hatt en reell hånd på rattet i noen av de avgjørende dokumentene.

Les også: Kunstig intelligens i anbudsprosessen – nyttig hjelper eller vill hest?

Hvem har ansvaret?

Dette reiser det grunnleggende spørsmålet: Hvem har egentlig ansvaret når KI har skrevet både konkurransegrunnlaget, klagen og svaret på klagen? Juridisk sett er det fortsatt mennesker – enten det er saksbehandlere, ledere eller leverandører – som står ansvarlig for innholdet. Men når KI har generert teksten, kan det være vanskelig å oppdage feil, misforståelser eller manglende vurderinger. Risikoen for at viktige nyanser går tapt øker, og det kan bli utfordrende å etterprøve beslutningsgrunnlaget.

Etiske og praktiske utfordringer

Bruken av KI på begge sider av bordet utfordrer også prinsippene om likebehandling og rettssikkerhet. Hvis begge parter bruker ulike KI-verktøy med forskjellige treningsdata og algoritmer, kan det oppstå skjevheter eller utilsiktede forskjeller i argumentasjon og vurderinger. Samtidig kan det bli vanskeligere for mennesker å gripe inn og korrigere åpenbare feil, særlig hvis tilliten til KI-systemene er høy.

Veien videre: Kontroll og bevissthet

Det er selvsagt avgjørende å ha gode rutiner for kontroll og kvalitetssikring når KI brukes i anskaffelsesprosesser. Menneskelig vurdering må fortsatt være en integrert del av prosessen, både for å sikre rettssikkerhet og for å kunne stå til ansvar for beslutningene som tas. Det er også viktig å være åpen om bruken av KI, slik at alle parter vet hva de forholder seg til.

Treningsdata og innovasjon

KI må trenes. For å få til det, trengs store mengder treningsdata, eksempelvis tidligere konkurransegrunnlag. Men KI er ikke alltid så god på innovasjon. Gjenbruk er ikke nyskaping. Hvor beveger vi oss hvis alt vi gjør bare baseres på det vi har gjort før? Det kan lett bli konsekvensen hvis vi ikke tenker sjøl. Mennesker er fortsatt best på å tenke utenfor boksen.

Konklusjon

KI gir store muligheter for effektivisering og forbedring av offentlige anskaffelser, men når teknologien brukes på begge sider av bordet, må vi være ekstra oppmerksomme på ansvar, etikk og rettssikkerhet. Til syvende og sist er det fortsatt mennesker som må stå for de endelige beslutningene, også når KI har gjort det meste av jobben.