Mākslīgā intelekta aģentu pārvaldība: sistēma uzņēmuma komandām

Ievads

Īsumā: AI aģentu pārvaldība ir identitātes, politikas, uzraudzības un audita kontroles pasākumu kopums, kas nodrošina, ka autonomie aģenti darbojas drošās robežās. Tradicionālā IT pārvaldība tika izstrādāta programmatūrai, kas ievēro fiksētus noteikumus, tāpēc tā neņem vērā to, kā aģenti patstāvīgi pieņem lēmumus, izmanto rīkus un piekļūst datiem. Šajā rokasgrāmatā ir izklāstīts, kas ir aģentu pārvaldība, kādi riski ar to tiek risināti, kā arī ietvars, ko var ieviest, pirms aģenti tiek iekļauti kritiskās darba plūsmās.

AI aģents var izlasīt pieprasījumu, veikt vaicājumus trīs iekšējās sistēmās, sastādīt atbildes projektu un atjaunināt ierakstu, neiesaistot cilvēku nevienā no šiem posmiem. Šī autonomija ir galvenais mērķis. Tā ir arī iemesls, kāpēc lielākā daļa esošo pārvaldības kontroles pasākumu šeit neder. Piekļuves noteikumi balstās uz pieņēmumu, ka aiz katras darbības stāv cilvēks, savukārt revīzijas žurnāli paredz, ka šo darbību var attiecināt uz konkrētu personu. Aģenti atspēko abus šos pieņēmumus.

AI aģentu pārvaldība novērš šo nepilnību. Tā piešķir katram aģentam savu identitāti, nosaka, ko katram ir atļauts darīt, uzrauga, ko tas faktiski dara, un reģistrē pietiekami detalizētu informāciju, lai vēlāk varētu atbildēt uz jautājumiem. Mēs izskatīsim, kā tas izskatās praksē, kādus konkrētus riskus tam jāaptver un kā mēs pieejam šim jautājumam uzņēmumā „TrueFoundry”.

Kas ir AI aģentu pārvaldība?

AI aģentu pārvaldība ir disciplīna, kas kontrolē, kā autonomi aģenti autentificējas, kādiem rīkiem un datiem tie var piekļūt un kā to darbības tiek uzraudzītas un reģistrētas. Tā aģentu uzskata par patstāvīgu subjektu, nevis par to personas paplašinājumu, kas to ieviesusi.

Šī atšķirība ir svarīga, jo aģenti pieņem neatkarīgus lēmumus. Datu bāzes aģents varētu būt pilnvarots lasīt datus, taču patiesais jautājums ir, vai tam konkrētā pieprasījuma gadījumā vajadzētu veikt vaicājumu tabulā, kas satur klientu ierakstus. Pārvaldība ir tas, kas atbild uz šo jautājumu brīdī, kad tiek veikts pieprasījums, nevis pārskatīšanas laikā pēc vairākām nedēļām. Bez tās komandas galu galā paļaujas uz to, ka aģents paliks pieļaujamās robežās, jo līdz šim nekas nav nogājis greizi.

Labai pārvaldībai jābūt arī praktiskai. Ja kontroles pasākumi padara aģentu darbību lēnu vai apgrūtina to izvietošanu, komandas tos apiet, un jūs atkal nonākat pie nepārvaldītiem aģentiem ar pārvaldības politiku, kas pastāv tikai uz papīra.

Kāpēc tradicionālā piekļuves kontrole aģentiem nav pietiekama

Standarta piekļuves kontrole piešķir atļaujas lietotājiem un reģistrē darbības saistībā ar lietotāju kontiem. Aģenti šo modeli izpludina trīs veidos.

Atbildības noteikšana kļūst neskaidra. Kad aģents veic darbību, žurnālā parasti tiek parādīts pakalpojuma konts, nevis cilvēks, kurš ierosināja pieprasījumu, vai loģiskā secība, kas noveda pie šīs darbības. Ja kaut kas noiet greizi, var redzēt, ka tika izpildīts vaicājums, bet ne to, kāpēc vai kāda vārdā.

Piekļuve rīkiem strauji paplašinās. Viens aģents var piekļūt desmitiem rīku un datu avotiem, katram ar savu atļauju modeli. Šī joma paplašinās ātrāk, nekā to spēj izsekot jebkurš manuāls politikas process, un tieši šajās nepilnībās rodas incidenti.

Uzvedības novirzes. Tradicionālā programmatūra uz vienu un to pašu ievadi atgriež vienādu rezultātu. Aģenti tā nedara. To atbildes mainās atkarībā no sarunu vēstures, konteksta un izmaiņām pamatmodelī, tāpēc kontrole, kas pagājušajā mēnesī bija droša, šodien var darboties citādi.

Neviens no šiem gadījumiem nav izņēmums. Tās ir aģentu normālas darbības apstākļi, tāpēc pārvaldība ir jāizstrādā tieši viņiem, nevis jāpārņem no vecākām sistēmām.

Aģentu pārvaldības sistēmas četri pīlāri

Darbspējīga sistēma balstās uz četriem elementiem, kas viens otru papildina.

Identitāte ir pirmajā vietā. Katram aģentam ir nepieciešama sava identitāte ar noteiktām atļaujām, kas ir atdalīta no cilvēkiem, kuri to izstrādā vai izsauc. Tas ir tas, kas padara visu pārējo iespējamu, jo nevar neko piemērot vai pārbaudīt, ja nevar atšķirt aģentus.

Politikas īstenošanai jānotiek izpildes laikā. Atšķirība starp uzraudzību un pārvaldību ir tajā, vai sistēma var bloķēt neatļautu darbību pirms tās izpildes, nevis tikai to atzīmēt pēc tam. Aģentam, kam ir tikai lasīšanas tiesības, nevajadzētu būt iespējai rakstīt, nevis tikai ziņot par to, ka tas ir mēģinājis.

Novērojamība nodrošina reāllaika pārskatu par to, ko aģenti dara. Jūs vēlaties redzēt anomālijas, politikas pārkāpumus un riskantus izsaukumus brīdī, kad tie notiek, lai varētu reaģēt uz signāliem, nevis rekonstruēt notikumus no nepilnīgiem žurnāliem.

Revīzijas žurnāls fiksē lēmumu ķēdi. Katrs rīka izsaukums, datu piekļuve un atbilde ir jāreģistrē ar atribūciju un kontekstu tādā formā, ko var nodot revidentam vai incidentu reaģētājam. Tā ir atšķirība starp to, ka tiek teikts, ka aģents rīkojās pareizi, un to, ka to var pierādīt.

AI aģentu riski un to mazināšanas veidi

Aģenti rada riskus, kurus parastā lietojumprogrammu drošība pilnībā neaptver. AI aģentu risku pārvaldība sākas ar to nosaukšanu.

Galvenais risks ir „prompt injection”. Ļaunprātīga ievade, kas paslēpta lietotāja saturā vai ārējā datu avotā, var novest aģentu pie datu noplūdes vai darbību veikšanas, kuras tam nekad nebija paredzētas. Visvairāk apdraudēti ir aģenti, kas apstrādā neuzticamu saturu.

Tieši aiz tā seko autentifikācijas datu noplūde. Aģenti, kas glabā API atslēgas vai žetonus, var tos nopludināt izvades datos vai žurnālos, ja vien šīs vērtības netiek atklātas un maskētas to apstrādes laikā.

Personas identifikācijas informācijas (PII) noplūde notiek nemanāmi. Klientu dati, kas plūst caur aģentu, var parādīties sarunas žurnālā, kļūdas ziņojumā vai nākamajā izsaukumā, nevis tāpēc, ka kāds to ir nolēmis.

Pārmērīga aģenta rīcības brīvība ir risks, kas rodas, piešķirot aģentam vairāk pilnvaru, nekā tam nepieciešams. Kodēšanas aģents ar rakstīšanas piekļuvi ražošanas repozitorijiem rada risku, ko pilnībā novērstu tikai lasīšanas piekļuve. Risinājums ir darbības jomas ierobežošana: piešķirt katram aģentam minimālo nepieciešamo un ne vairāk.

Šo risku samazināšanai ir nepieciešams dažādu kontroles pasākumu kopums. Pārbaudiet ieejas un izejas datus, lai atklātu autentifikācijas datus, PII un aizliegto saturu, pirms tie šķērso robežu. Izveidojiet atļauto rīku sarakstu, kurus katrs aģents drīkst izsaukt, nevis pēc noklusējuma atļaujiet visus. Iestatiet eskalācijas sliekšņus tā, lai lēmumi ar augstāku risku tiktu novirzīti cilvēkam, un pielāgojiet šos sliekšņus atbilstoši tam, ko faktiski novērojat ražošanas vidē.

Identitāte katram aģentam un piekļuves tiesības ar noteiktu darbības jomu

Koplietotie pakalpojumu konti ir visbiežāk izmantotais īsais ceļš, un tie rada vislielākās problēmas. Ja vairāki aģenti koplieto vienu piekļuves datu kopumu, jūs zaudējat iespēju noteikt, kurš aģents ko darīja. Šā konta kompromitēšana ietekmē katru aģentu, kas to izmanto, nevis tikai to, kurš tika uzlauzts. Turklāt katrs aģents pārņem koplieto konta pilno atļauju kopumu, nevis darbības jomu, kas atbilst tā uzdevumam.

Identitāte katram aģentam atrisina visas trīs problēmas. Katrs izvietotais aģents saņem savas autentifikācijas datus, kurus var atsevišķi mainīt un atsaukt, atļaujas, kas atspoguļo tā mērķi, un skaidru revīzijas izsekojamību. Tas ir arī pretlīdzeklis pret aģentu izplatīšanos — situāciju, kad komandas izveido aģentus ātrāk, nekā kāds spēj tos izsekot. Kad katram aģentam ir reģistrēta identitāte, izplatīšanās kļūst redzama, nevis neredzama, un jūs to varat pārvaldīt.

Aģentu identitātes pārvaldībai ir nepieciešamas citas abstrakcijas nekā lietotāju pārvaldībai. Aģentiem ir nepieciešamas pastāvīgas identitātes, kas pastāv ilgāk par vienu sesiju, autentifikācijas dati, kurus var mainīt neatkarīgi, un pilnvaru jomas, kas saistītas ar to, ko aģents dara, nevis ar to, kurš to izveidojis.

Atbilstība normatīvajām prasībām un gatavība revīzijai

Regulējums sāk panākt autonomās sistēmas, un tādi standarti kā SOC 2, HIPAA un GDPR jau nosaka pienākumus, kuriem aģentu ieviešanai ir jāatbilst. Praktiskā prasība ir infrastruktūra, kas pati rada pierādījumus, nevis dokumentāciju, ko kāds ar rokām apkopo pirms revīzijas.

Tas nozīmē visaptverošas revīzijas izsekojamības ceļus, kur katra aģenta darbība tiek reģistrēta kopā ar atribūciju, laika zīmogu un kontekstu. Tas nozīmē nemainīgus ierakstus, kurus pēc tam vairs nevar rediģēt. Tas nozīmē datu glabāšanu atbilstoši jūsu ierakstu tipu un jurisdikciju noteikumiem, kā arī iespēju eksportēt žurnālus uz drošības rīkiem, kurus jūsu komanda jau izmanto.

Regulētām komandām ir tikpat svarīgi, kur aģenti darbojas, cik tas, kā tie tiek pārvaldīti. Aģentu darbināšana jūsu pašu VPC, uz vietas vai izolētā vidē ļauj saglabāt konfidenciālos datus jūsu robežās, vienlaikus piemērojot tās pašas identitātes, politikas un reģistrēšanas kontroles.

Kā TrueFoundry pieiet aģentu pārvaldībai

Mēs esam izveidojuši savu platformu tā, lai pārvaldība būtu daļa no aģentu darbības, nevis vēlāk pievienots slānis. Agent Gateway piešķir katram aģentam savu identitāti ar ierobežotām, maināmām piekļuves tiesībām, tādējādi darbības ir attiecināmas un atļaujas atbilst aģenta uzdevumam, nevis tā izveidotāja piekļuvei.

Piekļuve rīkiem notiek caur to pašu kontroles plānu. Aģenti piekļūst rīkiem un datiem caur MCP, izmantojot OAuth2, RBAC un metadatu politiku, kas tiek piemērota katram rīka izsaukumam, kas ļauj atļaut datubāzes lasīšanu, vienlaikus bloķējot rakstīšanu. Aizsardzības mehānismi pārbauda pieprasījumus un atbildes, meklējot personas identifikācijas informāciju (PII) un citu aizliegtu saturu gan ieejas, gan izejas ceļos, un katrs izsaukums tiek reģistrēts novērošanas un audita nolūkos. Tā kā platforma darbojas jūsu VPC, lokālajā vai izolētā vidē ar SOC 2, HIPAA un GDPR atbalstu, pārvaldības kontroles darbojas neatkarīgi no tā, kur darbojas jūsu aģenti.

Rezultātā identitātes pārvaldība, darbības laika politikas, uzraudzība un audits tiek nodrošināti no vienas vietas, nevis no četriem savstarpēji nesaistītiem rīkiem, un tieši tas nodrošina sistēmas vienotību lielā mērogā.

Prakses veidošana ap tehnoloģiju

Kontrolpasākumi darbojas tikai tad, ja organizācija tos atbalsta. Komandas, kas pārvaldību uztver kā šķērsli, atradīs veidus, kā to apiet, tāpēc mērķis ir padarīt pārvaldīto ceļu par vieglāko ceļu.

Parasti labi darbojas pakāpeniska ieviešana: atrodiet jau darbojošos aģentus, piešķiriet tiem identitātes, ieslēdziet uzraudzību, tad automatizējiet atbilstības pierādījumu vākšanu. Laika grafiks ir atkarīgs no jūsu vides sarežģītības un piemērojamajiem noteikumiem. Papildus tam starpnozaru grupai, kas aptver platformas inženieriju, juridiskos jautājumus, atbilstību un darbības, būtu jāuzņemas atbildība par politikas lēmumiem un jārisina jauni gadījumi, kurus esošās politikas neaptver. Apmācība papildina šo procesu, lai aģentu izstrādātāji saprastu atļauju modeli un zinātu, kā piemērot drošības pasākumus saviem lietošanas gadījumiem.

Bieži uzdotie jautājumi

Kas ir AI aģentu pārvaldība?

AI aģentu pārvaldība ir kontroles pasākumu kopums, kas regulē to, kā autonomi aģenti veic autentifikāciju, kādiem rīkiem un datiem tie var piekļūt, kā arī to, kā tiek uzraudzītas un pārbaudītas to darbības. Tā katru aģentu uzskata par atsevišķu subjektu ar noteiktām atļaujām, nevis ļauj aģentiem pārņemt to personas piekļuves tiesības, kura tos ir ieviesusi.

Kā AI aģentu riska pārvaldība atšķiras no parastās lietojumprogrammu drošības?

Tā rada papildu riskus, kurus standarta drošības pasākumi pilnībā neaptver, tostarp prompt injection, autentifikācijas datu noplūdi caur aģenta izvadi, personas identifikācijas informācijas (PII) atklāšanu sarunu žurnālos un pārmērīgu aģenta rīcības brīvību, ko rada pārāk plašas atļaujas. Šo risku pārvaldība prasa izpildes laika ieejas un izejas pārbaudi, atļauto sarakstu izveidi rīku līmenī un minimālo privilēģiju noteikšanu katram aģentam.

Kāpēc ir svarīga identitāte katram aģentam atsevišķi?

Koplietotie pakalpojumu konti neļauj noteikt, kurš aģents veica darbību, palielina ietekmes rādiusu, ja autentifikācijas dati tiek kompromitēti, un piešķir katram aģentam plašāku piekļuvi, nekā tam nepieciešams. Identitāte katram aģentam nodrošina katram aģentam savus maināmos autentifikācijas datus, skaidru atbildības attiecināšanu un darbības jomu, kas atbilst tā mērķim.

Vai es varu pārvaldīt aģentus savā VPC vai uz vietas?

Jā. TrueFoundry darbojas jūsu VPC, uz vietas, izolētā vidē vai vairākās mākoņvidēs, tādējādi dati neiziet ārpus jūsu domēna. Neatkarīgi no tā, kur darbojas aģenti, tiek piemēroti vienādi identitātes, politikas un revīzijas kontroles pasākumi, tāpēc regulētās komandas izvēlas pašuzstādītu modeli, nevis tikai SaaS vārteju.

Vai šis risinājums atbalsta SOC 2, HIPAA un GDPR?

TrueFoundry atbalsta SOC 2, HIPAA un GDPR standartus, un tajā ir iebūvēta RBAC, SSO un nemainīga revīzijas žurnāla reģistrēšana. Tieši šī kombinācija padara aģentu ieviešanu gatavu revīzijai, nevis kaut ko, ko jums jāsteidzas dokumentēt pirms pārskatīšanas.

Secinājums

AI aģentu pārvaldība ir tas, kas atšķir aģentus, kurus var mērogot, no aģentiem, par kuriem var tikai cerēt. Principā šī sistēma nav sarežģīta: piešķirt katram aģentam identitāti, nodrošināt politikas ievērošanu darbības brīdī, novērot aģentu darbības un veikt uzskaiti, par kuru varat atbildēt. Grūtības rada tas, ka visas četras darbības jāveic vienlaikus visiem aģentiem, neapgrūtinot komandu darbu. Tieši šo slāni mēs esam nolēmuši nodrošināt. Uzziniet, kā TrueFoundry AI Gateway apvieno identitāti, politiku un uzraudzību vienā pārvaldītā kontroles līmenī jūsu aģentiem.