Sådan arbejder vi med AI‑agenter i CSL

Den samme adgang afgør bare også, hvor stor en fejl kan nå at blive. Når agenten kan læse, skrive og kalde, kan en misforståelse forlade samtalen og lande et sted, hvor den bliver til data. Den henter oplysninger, den ikke burde se. Den opdaterer et felt, ingen havde bedt om. Den sender noget af sted. Og det er sjældent, fordi modellen vil noget ondt — den vil gerne hjælpe, og hjælpsomhed er en overraskende effektiv måde at rydde en tabel på.

Derfor er »husk nu at være forsigtig« i systemprompten ikke en sikkerhedsmekanisme. Det er en venlig opfordring, og den bliver fulgt lige indtil den ikke bliver det. Vi er glade for opfordringer. Vi tør bare ikke bygge adgangen til et lønsystem baseret på dem.

Så vi behandler adgang som en del af arkitekturen, på linje med datamodellen. Agenten får ikke hovednøglen til hele bygningen, men nøgler til de rum, opgaven faktisk handler om. Vi skelner mellem medarbejderens identitet og agentens mandat. Vi udleverer kun de felter, opgaven kræver — ikke hele rækken, fordi den nu engang lå der. Politikken håndhæves på serveren, før der læses data eller udføres en handling, og ikke i en instruktion, modellen selv skal huske.

Det giver os et mere afgrænset arbejdsmiljø, hvor følsomme oplysninger ikke automatisk bliver en del af agentens kontekst, blot fordi de findes i vores systemer.