Dirbtinio intelekto agentų valdymas: sistema, skirta įmonių komandoms

Įvadas

TL;DR: AI agentų valdymas – tai tapatybės, politikos, stebėjimo ir audito kontrolės priemonių rinkinys, kuris užtikrina, kad autonominiai agentai veiktų saugiose ribose. Tradicinis IT valdymas buvo sukurtas programinei įrangai, kuri laikosi nustatytų taisyklių, todėl jis neatsižvelgia į tai, kaip agentai savarankiškai priima sprendimus, naudoja įrankius ir prieina prie duomenų. Šiame vadove aptariama, kas yra agentų valdymas, kokias rizikas jis padeda valdyti, ir pateikiama sistema, kurią galite įdiegti prieš įtraukiant agentus į kritinius darbo srautus.

AI agentas gali perskaityti užklausą, atlikti užklausą trijose vidinėse sistemose, parengti atsakymo projektą ir atnaujinti įrašą be jokio žmogaus įsikišimo. Būtent ta autonomija ir yra esmė. Tai taip pat yra priežastis, kodėl dauguma esamų valdymo priemonių netinka. Prieigos taisyklės remiasi prielaida, kad už kiekvieno veiksmo stovi žmogus, o audito žurnalai remiasi prielaida, kad tą veiksmą galima susieti su konkrečiu asmeniu. Agentai paneigia abi šias prielaidas.

AI agentų valdymas užpildo šią spragą. Jis suteikia kiekvienam agentui atskirą tapatybę, nusprendžia, ką kiekvienam iš jų leidžiama daryti, stebi, ką jis iš tikrųjų daro, ir įrašo pakankamai išsamią informaciją, kad vėliau būtų galima atsakyti į klausimus. Aptarsime, kaip tai atrodo praktikoje, kokias konkrečias rizikas reikia aprėpti ir kaip mes tai darome „TrueFoundry“.

Kas yra AI agentų valdymas?

AI agentų valdymas – tai sritis, kurioje kontroliuojama, kaip autonominiai agentai atlieka autentifikavimą, kokiomis priemonėmis ir duomenimis jie gali naudotis, taip pat kaip stebimi ir registruojami jų veiksmai. Ji traktuoja agentą kaip savarankišką subjektą, o ne kaip jį įdiegusio asmens pratęsimą.

Šis skirtumas svarbus, nes agentai priima savarankiškus sprendimus. Duomenų bazės agentas gali turėti skaitymo įgaliojimus, tačiau tikrasis klausimas yra, ar jis turėtų užklausti lentelę, kurioje yra klientų įrašai, atsižvelgiant į konkretų prašymą. Valdymas yra tai, kas atsako į šį klausimą tuo pačiu metu, kai atliekamas užklausimas, o ne per peržiūrą po kelių savaičių. Be jo komandos galiausiai pasitiki, kad agentas neperžengs ribų, nes kol kas nieko blogo neatsitiko.

Geras valdymas taip pat turi būti praktiškas. Jei kontrolės priemonės lėtina agentų veikimą arba apsunkina jų diegimą, komandos jas apeina, ir jūs vėl atsiduriate su nevaldomais agentais, kurių valdymo politika egzistuoja tik popieriuje.

Kodėl tradicinė prieigos kontrolė agentams yra nepakankama

Standartinė prieigos kontrolė suteikia leidimus vartotojams ir registruoja veiksmus, susijusius su vartotojų paskyromis. Agentai šį modelį iškreipia trimis būdais.

Atsakomybės priskyrimas tampa neaiškus. Kai agentas atlieka veiksmą, žurnale paprastai nurodoma paslaugos paskyra, o ne žmogus, kuris inicijavo užklausą, ar mąstymo grandinė, kuri lėmė tą veiksmą. Jei kas nors nepavyksta, matote, kad užklausa buvo įvykdyta, bet nematote, kodėl ar kieno vardu.

Prieiga prie įrankių plinta. Vienas agentas gali pasiekti dešimtis įrankių ir duomenų šaltinių, kurių kiekvienas turi savo leidimų modelį. Ši sritis auga greičiau, nei bet koks rankinis politikos procesas gali sekti, o būtent tose spragose ir įvyksta incidentai.

Elgesys kinta. Tradicinė programinė įranga, gavusi tą patį įvesties duomenį, grąžina tą patį rezultatą. Agentai – ne. Jų atsakymai kinta priklausomai nuo pokalbių istorijos, konteksto ir pagrindinio modelio pokyčių, todėl kontrolė, kuri praėjusį mėnesį buvo saugi, šiandien gali veikti kitaip.

Nė vienas iš šių atvejų nėra išimtinis. Tai yra įprastos agentų veikimo sąlygos, todėl valdymo sistema turi būti sukurta specialiai jiems, o ne perimta iš senesnių sistemų.

Keturi agentų valdymo sistemos ramsčiai

Veiksminga sistema remiasi keturiais vienas kitą stiprinančiais elementais.

Tapatybė yra svarbiausia. Kiekvienam agentui reikalinga savo tapatybė su apibrėžtomis teisėmis, atskirta nuo žmonių, kurie jį kuria ar iššaukia. Būtent tai leidžia viską kitą, nes negalima nieko priversti vykdyti ar tikrinti, jei negalima atskirti agentų vieno nuo kito.

Politikos įgyvendinimas turi vykti vykdymo metu. Skirtumas tarp stebėjimo ir valdymo yra tas, ar sistema gali užblokuoti neleistiną veiksmą prieš jo vykdymą, o ne tik pažymėti jį po to. Tik skaitymo režimu veikiantis agentas turėtų būti nepajėgus rašyti, o ne tik pranešamas apie bandymą tai padaryti.

Stebėjimas suteikia jums realaus laiko įžvalgą į tai, ką daro agentai. Jūs norite matyti anomalijas, politikos pažeidimus ir rizikingus sprendimus tuo metu, kai jie įvyksta, kad galėtumėte reaguoti į signalus, o ne atkurti įvykius iš neišsamių žurnalų.

Audito žurnalavimas fiksuoja sprendimų seką. Kiekvienas įrankio iškvietimas, prieiga prie duomenų ir atsakymas turėtų būti įrašomi nurodant autorystę ir kontekstą tokia forma, kurią galėtumėte perduoti auditoriui ar incidentų reagavimo specialistui. Tai yra skirtumas tarp teiginio, kad agentas elgėsi tinkamai, ir galimybės tai įrodyti.

AI agentų keliamos rizikos ir kaip jas sumažinti

Agentai kelia riziką, kurios įprastos programų saugumo priemonės nevisiškai padengia. Agentinio AI rizikos valdymas prasideda nuo jų įvardijimo.

Pagrindinė rizika – įvesties įterpimas. Piktavališka įvestis, paslėpta vartotojo turinyje ar išoriniame duomenų šaltinyje, gali priversti agentą nutekinti duomenis arba imtis veiksmų, kurių jis niekada neturėjo atlikti. Labiausiai pažeidžiami yra agentai, apdorojantys nepatikimą turinį.

Antroje vietoje yra prisijungimo duomenų atskleidimas. Agentai, saugantys API raktus ar žetonus, gali juos nutekinti į išvesties duomenis ar žurnalus, jei šios reikšmės nebus aptiktos ir užmaskuotos perdavimo metu.

Asmens duomenų nutekėjimas vyksta nepastebimai. Per agentą tekantys klientų duomenys gali atsirasti pokalbių žurnale, klaidos pranešime ar tolesniame iškvietime, nors niekas to nenorėjo.

Pernelyg didelė agentų veikimo laisvė – tai rizika, kylanti suteikus agentui daugiau teisių, nei jam reikia. Kodavimo agentas, turintis rašymo prieigą prie gamybinių saugyklų, kelia riziką, kurią visiškai pašalintų tik skaitymo prieiga. Sprendimas – apibrėžti veikimo sritį: suteikti kiekvienam agentui tik minimalų reikalingą lygį ir ne daugiau.

Šių rizikų mažinimui reikalingas įvairių kontrolės priemonių derinys. Patikrinkite įvestis ir išvestis dėl prisijungimo duomenų, asmens duomenų ir draudžiamo turinio, kol jie neperžengė ribos. Sudarykite leidžiamų įrankių sąrašą, kuriuos kiekvienas agentas gali iškviesti, o ne leiskite viską pagal numatytuosius nustatymus. Nustatykite eskalavimo ribas taip, kad didesnės rizikos sprendimai būtų nukreipiami žmogui, ir suderinkite tas ribas atsižvelgdami į tai, ką iš tikrųjų matote gamybinėje aplinkoje.

Kiekvieno agento tapatybė ir ribotos prieigos teisės

Bendrai naudojamos paslaugų paskyros yra dažniausias „trumpasis kelias“, tačiau jos sukelia daugiausia problemų. Kai keli agentai dalijasi vienu prisijungimo duomenų rinkiniu, nebegalima nustatyti, kuris agentas ką padarė. Šios paskyros saugumo pažeidimas paveikia kiekvieną ją naudojantį agentą, o ne tik tą, kurio paskyra buvo įsilaužta. Be to, kiekvienas agentas paveldi visą bendrai naudojamos paskyros teisių rinkinį, o ne tik savo užduočiai pritaikytą taikymo sritį.

Tapatybė kiekvienam agentui išsprendžia visas tris problemas. Kiekvienas įdiegtas agentas gauna savo prisijungimo duomenis, kuriuos galima atskirai keisti ir panaikinti, leidimus, atitinkančius jo paskirtį, ir aiškų audito seką. Tai taip pat yra priešnuodis nuo agentų plitimo – situacijos, kai komandos kuria agentus greičiau, nei kas nors spėja juos stebėti. Kai kiekvienas agentas turi registruotą tapatybę, plitimas tampa matomas, o ne nematomas, ir jį galima valdyti.

Agentų tapatybės valdymui reikalingos kitokios abstrakcijos nei vartotojų valdymui. Agentams reikalingos nuolatinės tapatybės, išliekančios ilgiau nei viena sesija, nepriklausomai keičiami prisijungimo duomenys ir apimtys, susietos su tuo, ką agentas daro, o ne su tuo, kas jį sukūrė.

Atitiktis reikalavimams ir pasirengimas auditui

Reglamentavimas sparčiai prisitaiko prie autonominių sistemų, o tokios sistemos kaip SOC 2, HIPAA ir BDAR jau nustato įpareigojimus, kuriuos turi atitikti agentų diegimai. Praktinis reikalavimas – infrastruktūra, kuri pati generuoja įrodymus, o ne dokumentaciją, kurią kas nors rankiniu būdu surenka prieš auditą.

Tai reiškia išsamius audito sekimus, kuriuose kiekvienas agento veiksmas registruojamas kartu su priskyrimu, laiko žyma ir kontekstu. Tai reiškia nekintamus įrašus, kurių negalima redaguoti po fakto. Tai reiškia saugojimą, atitinkantį jūsų įrašų tipų ir jurisdikcijų taisykles, bei galimybę eksportuoti žurnalus į saugumo įrankius, kuriuos jūsų komanda jau naudoja.

Reguliuojamoms komandoms svarbu ne tik tai, kaip valdomi agentai, bet ir kur jie veikia. Agentų veikimas jūsų pačių VPC, lokaliose patalpose arba izoliuotoje aplinkoje leidžia išlaikyti jautrius duomenis jūsų ribose, tuo pačiu taikant tas pačias tapatybės, politikos ir žurnalavimo kontrolės priemones.

Kaip „TrueFoundry“ požiūris į agentų valdymą

Mes sukūrėme savo platformą taip, kad valdymas būtų neatsiejama agentų veikimo dalis, o ne vėliau pridėtas sluoksnis. „Agent Gateway“ suteikia kiekvienam agentui savo tapatybę su apibrėžto taikymo srities, keičiamais prisijungimo duomenimis, todėl veiksmai yra priskiriami konkrečiam agentui, o leidimai atitinka agento užduotį, o ne jo kūrėjo prieigos teises.

Prieiga prie įrankių vyksta per tą pačią valdymo plokštumą. Agentai pasiekia įrankius ir duomenis per MCP, taikant OAuth2, RBAC ir metaduomenų politikas kiekvienam įrankio iškvietimui, o tai leidžia leisti duomenų bazės skaitymą, tuo pačiu blokuojant rašymą. „Guardrails“ tikrina užklausas ir atsakymus, ieškodama asmens tapatybės informacijos (PII) ir kito draudžiamo turinio tiek įvesties, tiek išvesties keliuose, o kiekvienas iškvietimas registruojamas stebėjimo ir audito tikslais. Kadangi platforma veikia jūsų VPC, lokaliame arba izoliuotame tinkle, palaikydama SOC 2, HIPAA ir BDAR reikalavimus, valdymo kontrolės priemonės galioja nepriklausomai nuo to, kur veikia jūsų agentai.

Dėl to tapatybės nustatymas, vykdymo politikos taikymas, stebėjimas ir auditas vykdomi iš vienos vietos, o ne iš keturių tarpusavyje nesusijusių įrankių – būtent tai užtikrina sistemos vientisumą dideliu mastu.

Praktikos kūrimas remiantis technologija

Kontrolės priemonės veikia tik tada, kai jas remia organizacija. Komandos, kurios valdymą laiko kliūtimi, ras būdų, kaip jį apeiti, todėl tikslas yra padaryti, kad valdomas kelias taptų lengviausiu keliu.

Paprastai veiksmingas yra etapinis diegimas: suraskite jau veikiančius agentus, suteikite jiems tapatybes, įjunkite stebėjimą, tada automatizuokite atitikties įrodymų rinkimą. Laikas priklauso nuo to, kiek sudėtinga yra jūsų aplinka ir kokie teisės aktai taikomi. Be to, tarpfunkcinė grupė, apimanti platformos inžineriją, teisinius klausimus, atitiktį ir operacijas, turėtų būti atsakinga už politikos sprendimus ir spręsti naujus atvejus, kurių neapima esamos politikos. Mokymai užbaigia visą procesą, kad agentus kuriantys žmonės suprastų leidimų modelį ir žinotų, kaip taikyti apsaugos priemones savo naudojimo atvejais.

Dažnai užduodami klausimai

Kas yra AI agentų valdymas?

AI agentų valdymas – tai kontrolės priemonių rinkinys, kuris reguliuoja, kaip autonominiai agentai atlieka autentifikavimą, prie kokių įrankių ir duomenų jie gali prieiti bei kaip jų veiksmai yra stebimi ir tikrinami. Jis traktuoja kiekvieną agentą kaip atskirą subjektą su apibrėžtomis teisėmis, o ne leidžia agentams perimti to asmens, kuris juos įdiegė, prieigos teises.

Kuo agentinio AI rizikos valdymas skiriasi nuo įprastos programų saugumo užtikrinimo?

Jis prideda rizikų, kurių standartinis saugumas iki galo neapima, įskaitant komandų įterpimą, prisijungimo duomenų nutekėjimą per agento išvestis, asmens tapatybės informacijos atskleidimą pokalbių žurnaluose ir pernelyg didelę autonomiją dėl per plačių leidimų. Šių rizikų valdymui reikalinga vykdymo metu atliekama įvesties ir išvesties patikra, leidžiamų veiksmų sąrašo sudarymas įrankių lygmeniu ir mažiausių teisių principo taikymas kiekvienam agentui.

Kodėl svarbi kiekvieno agento tapatybė?

Bendrai naudojamos paslaugų paskyros neleidžia nustatyti, kuris agentas atliko veiksmą, padidina žalos mastą, jei prisijungimo duomenys yra pavogti, ir suteikia kiekvienam agentui daugiau prieigos teisių, nei jam reikia. Tapatybė kiekvienam agentui suteikia jam savo keičiamus prisijungimo duomenis, aiškų priskyrimą ir jo paskirtį atitinkančią prieigos sritį.

Ar galiu valdyti agentus savo VPC arba lokaliame tinkle?

Taip. „TrueFoundry“ veikia jūsų VPC, vietinėje aplinkoje, izoliuotoje aplinkoje arba skirtinguose debesyse, todėl jokie duomenys nepalieka jūsų domeno. Nepriklausomai nuo to, kur veikia agentai, taikomos tos pačios tapatybės, politikos ir audito kontrolės priemonės, todėl reguliuojamos komandos renkasi savarankiškai valdomą modelį, o ne vien tik SaaS vartus.

Ar tai atitinka SOC 2, HIPAA ir BDAR reikalavimus?

„TrueFoundry“ atitinka SOC 2, HIPAA ir GDPR standartus, turėdama integruotas RBAC, SSO ir nekintamo audito žurnalo funkcijas. Būtent šis derinys užtikrina, kad agentų diegimas būtų paruoštas auditui, o ne kažkas, ką tenka skubotai dokumentuoti prieš patikrinimą.

Išvada

AI agentų valdymas – tai, kas skiria agentus, kuriuos galima masiškai diegti, nuo tų, dėl kurių tenka tik tikėtis. Iš esmės sistema nėra sudėtinga: suteikti kiekvienam agentui tapatybę, užtikrinti politikos laikymąsi veiksmo metu, stebėti, ką daro agentai, ir tvarkyti įrašus, už kuriuos galima atsakyti. Sudėtingiausia yra atlikti visus keturis veiksmus vienu metu, taikant juos kiekvienam agentui, nesulėtinant komandų darbo. Būtent šį lygmenį mes ir siekiame užtikrinti. Pažiūrėkite, kaip „TrueFoundry“ AI Gateway sujungia tapatybę, taisykles ir stebėjimą į vieną valdomą jūsų agentų valdymo lygmenį.