Proč se pilotní projekty v oblasti umělé inteligence nedaří rozšířit a jak to mohou firmy napravit

Úvod

Projekt umělé inteligence může během testování vypadat úspěšně, ale přesto může narazit na vážné problémy, jakmile jej společnost začne využívat v každodenním provozu.

Malý pilotní projekt může přesně zpracovávat faktury, odpovídat na dotazy zákazníků nebo pomáhat zaměstnancům rychleji plnit úkoly. Výsledky vypadají slibně a vedení se rozhodne systém zavést v celé firmě.

Jakmile jej však začne používat více lidí, objeví se problémy.

AI si neví rady s neočekávanými požadavky. Některé podnikové systémy nedokážou správně vyměňovat informace. Zaměstnanci zjišťují, že nástroj vyžaduje více manuální podpory, než se očekávalo. Začínají také stoupat provozní náklady.

To nemusí vždy znamenat, že původní projekt umělé inteligence byl špatně navržen.

Problém spočívá v tom, že úspěšný pilotní projekt a spolehlivý produkční systém jsou dvě odlišné věci.

Zavedení umělé inteligence do produkčního prostředí vyžaduje více než jen dobré výsledky testů. Firmy se musí připravit na reálná data, větší pracovní zátěž, selhání systému, bezpečnostní rizika a průběžnou podporu.

Pochopení těchto výzev před nasazením může zabránit tomu, aby se slibný projekt umělé inteligence proměnil v nákladný provozní problém.

1. Úspěšný pilotní projekt nezaručuje připravenost pro produkční nasazení

Pilotní projekty AI se obvykle vyvíjejí v kontrolovaném prostředí.

Vývojový tým ví, jaký problém má systém řešit. Testovací data jsou často připravena předem a aplikaci používá pouze malá skupina zaměstnanců.

Díky těmto podmínkám je snazší předvést, čeho může daná technologie dosáhnout.

Každodenní obchodní provoz je však málokdy tak předvídatelný.

Uvažujme společnost, která testuje AI pro zpracování faktur.

Během pilotního projektu tým poskytne 100 faktur v čitelném formátu a s úplnými informacemi o dodavateli. Systém přesně extrahuje požadované údaje a poskytuje užitečné výsledky.

Po nasazení však systém přijímá faktury od stovek dodavatelů.

Některé dokumenty jsou špatně naskenované. Jiné obsahují různé měny, chybějící čísla objednávek nebo neznámé rozvržení.

Umělá inteligence nyní může vyžadovat více ručních oprav, než se očekávalo.

Původní test ukázal, že technologie dokáže vykonat konkrétní úkol. Neprokázal však, že systém zvládne každou situaci, s níž se podnik setká.

Před rozšířením by společnosti měly identifikovat podmínky, které přispěly k úspěchu pilotního projektu, a prověřit, zda tyto podmínky zůstanou stejné i v produkčním prostředí.

2. Skutečná obchodní data způsobují neočekávané problémy

Kvalita dat je jedním z nejčastějších důvodů, proč systémy umělé inteligence po nasazení čelí potížím.

Během testování týmy často pracují s vybranými informacemi, které jsou přesné, uspořádané a snadno zpracovatelné.

Provozní systémy musí pracovat s informacemi shromážděnými v rámci každodenních obchodních činností.

Tato data mohou obsahovat duplicitní záznamy, zastaralé údaje, chybějící pole a nekonzistentní formáty.

Například asistent zákaznického servisu založený na umělé inteligenci může podávat dobré výkony při zodpovídání otázek z ověřené znalostní báze.

Společnost jej však později může propojit se záznamy o produktech, zákaznickými účty a podpůrnými dokumenty.

Pokud tyto zdroje obsahují protichůdné informace, mohl by asistent poskytovat nesprávné odpovědi.

V jednom systému se může produkt jevit jako dostupný, zatímco jiný systém ukazuje, že je vyprodán.

Umělá inteligence nedokáže spolehlivě vyřešit každý nesoulad bez jasných obchodních pravidel.

Společnosti by proto měly před nasazením AI otestovat její fungování na reálných datech.

Potřebují také osoby odpovědné za udržování kvality dat a opravu problémů, jakmile se objeví.

Dobré výsledky z pečlivě připravených dat jsou užitečné, ale nestačí k prokázání, že je systém připraven k každodennímu použití.

3. Stávající obchodní systémy nemusí spolu hladce spolupracovat

Mnoho pilotních projektů umělé inteligence funguje nezávisle na softwaru, který společnost používá každý den.

Vývojáři mohou vzorové soubory nahrávat ručně nebo připojit AI k dočasné databázi.

To je v rané fázi testování přijatelné, protože hlavním cílem je zjistit, zda daný nápad funguje.

Pro produkční prostředí je však zapotřebí něco spolehlivějšího.

Umělá inteligence možná bude muset sdílet informace se softwarem CRM, platformami ERP, finančními aplikacemi, nástroji zákaznické podpory a interními databázemi.

Tato propojení s sebou přinášejí nové výzvy.

Prodejní asistent s umělou inteligencí může identifikovat slibného potenciálního zákazníka, ale selhat při pokusu o aktualizaci systému CRM.

Nástroj pro zpracování faktur může sice extrahovat správnou částku, ale odeslat informace ve formátu, který účetní systém nedokáže přijmout.

V obou případech umělá inteligence splní přidělený úkol, ale širší obchodní proces zůstane neúplný.

Před nasazením by týmy měly otestovat celý pracovní postup, včetně toho, co se stane, když dojde k výpadku jiného systému.

Užitečným zdrojem informací je tento průvodce, jak převést pilotní projekty s umělou inteligencí do produkčního prostředí, který vysvětluje, jak mohou podniky před rozšířením umělé inteligence zkontrolovat připravenost dat, spolehlivost systému, bezpečnost a provozní požadavky.

Cílem by mělo být zajistit, aby umělá inteligence spolehlivě fungovala v rámci stávajících obchodních procesů, a ne pouze připojit další aplikaci.

4. Testování v produkčním prostředí musí zahrnovat více než jen přesnost

Pilotní projekt se často zaměřuje na to, zda AI vygeneruje správnou odpověď nebo splní očekávaný úkol.

Přesnost je důležitá, ale je to pouze jedna část testování v produkčním prostředí.

Podniky musí také pochopit, jak systém funguje, když k němu přistupuje několik uživatelů současně, když chybí informace nebo když se objeví neočekávaný požadavek.

Předpokládejme, že asistent s umělou inteligencí během testování zpracuje 20 konverzací se zákazníky.

Může reagovat rychle a přesně.

Co se ale stane, když se ho během špičky pokusí využít 500 zákazníků?

Doba odezvy se může prodloužit. Některé požadavky mohou selhat a náklady na zpracování každého rozhovoru by se mohly zvýšit.

Plán testování v produkčním prostředí by měl zkoumat několik oblastí:

• Přesnost v reálném světě: Zvládne systém neúplné, neobvyklé nebo špatně formátované informace?
• Výkon: Reaguje spolehlivě při nárůstu využití?
• Integrace: Dokáže správně vyměňovat informace s propojenými podnikovými aplikacemi?
• Zabezpečení: Chrání citlivé informace a dodržuje omezení přístupu?
• Řešení selhání: Co se stane, když model umělé inteligence nebo jiná služba přestane být dostupná?
• Lidská kontrola: Mohou zaměstnanci opravovat chyby a převzít řešení složitých případů?

Tyto testy by měly odrážet, jak bude podnik systém ve skutečnosti využívat.

Společnost by se také měla před spuštěním dohodnout na přijatelném výkonu.

Vedení může například stanovit cíle pro úspěšné dokončení úkolů, dobu zpracování a počet případů vyžadujících ruční kontrolu.

Bez dohodnutých cílů mohou mít týmy potíže s rozhodnutím, zda je systém připraven.

5. S rostoucím počtem uživatelů AI se zvyšují bezpečnostní rizika

Malý pilotní projekt s umělou inteligencí může být přístupný pouze několika zaměstnancům, kteří pracují s omezeným množstvím informací.

Jakmile je však nasazen v celé společnosti, může stejný systém zpracovávat záznamy o zákaznících, finanční dokumenty, údaje o zaměstnancích a důvěrné obchodní informace.

To s sebou nese další bezpečnostní povinnosti.

Podniky musí mít přehled o tom, kteří zaměstnanci mají přístup k aplikaci s umělou inteligencí a k jakým informacím se prostřednictvím ní mohou dostat.

Zaměstnanec zákaznické podpory by například neměl automaticky získat přístup k důvěrným finančním záznamům jen proto, že obě oddělení používají stejnou platformu umělé inteligence.

Společnosti by také měly prověřit, jakým způsobem se informace přenášejí mezi systémy a zda externí poskytovatelé zpracovávají nebo uchovávají obchodní data.

Před širším nasazením by měly být zavedeny kontroly oprávnění, záznamy o aktivitách, zabezpečené připojení a jasná pravidla pro nakládání s daty.

Bezpečnostní kontroly by měly pokračovat i po spuštění, zejména při připojení nových oddělení nebo datových zdrojů.

Rozšiřování umělé inteligence bez přezkoumání těchto kontrolních mechanismů může vést k odhalení informací, které nikdy neměly být sdíleny.

6. Nejasné vlastnictví ztěžuje řešení problémů v produkčním prostředí

Během pilotního provozu vývojáři systém často pečlivě sledují.

Pokud dojde k selhání, může projektový tým problém prošetřit a napravit.

Toto uspořádání se stává problematickým, jakmile AI začne podporovat každodenní obchodní operace.

Kdo zasáhne, pokud systém přestane fungovat mimo pracovní dobu?

Kdo rozhodne, zda je nesprávné doporučení natolik závažné, aby bylo třeba pozastavit automatizaci?

Kdo aktualizuje obchodní informace, když dojde ke změně firemních zásad?

Na tyto otázky je třeba najít odpovědi ještě před nasazením systému.

Produkční systém AI by měl mít jasně vymezené odpovědnosti napříč technickými a obchodními týmy.

Vývojáři se mohou zabývat softwarovými problémy, zatímco vedoucí oddělení posuzují, zda AI přináší užitečné obchodní výsledky.

Provozní týmy mohou sledovat dostupnost systému a zaměstnanci mohou řešit případy, které vyžadují lidský úsudek.

Bez této struktury mohou problémy zůstat nevyřešeny, zatímco se týmy neshodnou na tom, kdo by měl převzít odpovědnost.

Jasné rozdělení odpovědnosti usnadňuje udržování výkonu a rychlou reakci, když se něco pokazí.

7. Náklady mohou po nasazení rychle stoupat

Pilotní projekty umělé inteligence obvykle zahrnují omezené využití, což usnadňuje kontrolu nákladů.

U produkčních systémů to může být jiné.

Větší počet uživatelů může znamenat další požadavky na modely, vyšší náklady na cloud, větší úložiště dat a náročnější požadavky na monitorování.

Některé pracovní postupy s využitím umělé inteligence mohou také vyžadovat, aby zaměstnanci pravidelně kontrolovali nebo opravovali výstupy.

Například automatizovaný systém zpracování dokumentů může sice zkrátit dobu zadávání dat, ale i tak může vyžadovat, aby finanční pracovníci kontrolovali mnoho výjimek.

Pokud společnost měří pouze rychlost zpracování, může přehlédnout náklady na tuto dodatečnou práci.

Podniky by měly před rozšířením odhadnout celkové provozní náklady.

To zahrnuje infrastrukturu, využití softwaru, údržbu integrace, technickou podporu a zapojení zaměstnanců.

Měly by také porovnat tyto náklady s přínosem, který systém poskytuje.

Levnější model umělé inteligence nemusí být nutně lepší volbou, pokud zaměstnanci tráví výrazně více času opravováním jeho chyb.

Skutečným měřítkem úspěchu není to, jak levně AI vytváří výstup, ale jak efektivně pomáhá podniku splnit užitečný úkol.

8. Postupné zavádění snižuje rizika při produkci

Jednou z největších chyb, které mohou společnosti udělat, je zavedení AI do všech oddělení ihned po úspěšném pilotním projektu.

Plné zavedení může ztížit identifikaci problémů, protože na tuto technologii začne současně spoléhat mnoho uživatelů a systémů.

Postupný přístup poskytuje větší kontrolu.

Podniky mohou začít tím, že budou AI provozovat souběžně se stávajícím procesem, aniž by jí umožnily provádět změny v reálném provozu.

To umožňuje zaměstnancům porovnávat výsledky umělé inteligence s běžnými obchodními rozhodnutími a identifikovat chyby.

Dalším krokem by mohlo být zavedení systému v jednom oddělení nebo pro malou skupinu uživatelů.

Během této fáze by společnost měla sledovat odezvy, přesnost, selhání systému, zpětnou vazbu zaměstnanců a provozní náklady.

Jakmile se výkon ustálí, může firma rozšířit využití.

Například společnost zavádějící zpracování faktur pomocí umělé inteligence může začít s jednou skupinou dodavatelů.

Po ověření, že extrakce dokumentů, schvalovací pravidla a propojení s ERP fungují správně, může přidat další dodavatele.

Pokud se objeví problémy, může je společnost vyřešit dříve, než systém ovlivní mnohem větší objem transakcí.

Každý plán zavádění by měl také vysvětlovat, jak se vrátit k předchozímu procesu, pokud se něco pokazí.

Zaměstnanci potřebují spolehlivou alternativu pro případ, že automatizovaný systém nebude k dispozici.

Tím se zabrání tomu, aby technická porucha zcela zastavila důležitý obchodní proces.

9. Umělá inteligence vyžaduje monitorování i po spuštění

Spuštění systému umělé inteligence neznamená, že vývoj a testování jsou u konce.

Obchodní informace se mění. Zákazníci kladou nové otázky, zaměstnanci postupují podle aktualizovaných postupů a propojený software dostává aktualizace.

Tyto změny mohou ovlivnit výkon AI.

Systém, který dnes funguje dobře, může po několika měsících poskytovat méně spolehlivé výsledky.

Společnosti by měly pravidelně kontrolovat přesnost, dobu odezvy, neúspěšné požadavky, opravy provedené zaměstnanci a provozní náklady.

Měly by také shromažďovat zpětnou vazbu od uživatelů systému.

Pokud zaměstnanci opakovaně opravují stejný typ chyby, musí společnost zjistit, proč k tomu dochází.

Problém může souviset se zastaralými informacemi, nesprávným obchodním pravidlem nebo integrací, která již nefunguje správně.

Pravidelné sledování pomáhá týmům tyto problémy včas odhalit.

Poskytuje také podklady pro rozhodnutí, kdy je třeba systém vylepšit nebo zda je připraven podporovat další oddělení.

Závěrečné úvahy

Úspěšné pilotní projekty v oblasti AI jsou důležitým prvním krokem, ale nezaručují úspěch v každodenním podnikání.

Výzvy se často objevují, když musí AI zpracovávat reálné informace, propojovat se se stávajícími systémy, podporovat více uživatelů a fungovat bez neustálé pomoci vývojářů.

Podniky mohou tyto problémy omezit testováním reálných situací, prověřením bezpečnosti, jasným rozdělením odpovědností a plánováním provozních nákladů před nasazením.

Postupné zavádění také dává týmům čas na identifikaci problémů a zlepšení výkonu před dalším rozšiřováním.

Projekty umělé inteligence by neměly být posuzovány pouze podle toho, jak dobře fungují během demonstrace.

Skutečná zkouška začíná teprve tehdy, když se technologie stane součástí každodenního podnikání a musí přinášet spolehlivé výsledky, aniž by způsobovala další problémy.