Perché i piloti basati sull'intelligenza artificiale non riescono a diffondersi su larga scala e come le aziende possono risolvere il problema

Introduzione

Un progetto di intelligenza artificiale può sembrare un successo durante la fase di test, ma può comunque incontrare gravi problemi quando un'azienda inizia a utilizzarlo nelle operazioni quotidiane.

Un piccolo progetto pilota potrebbe elaborare le fatture in modo accurato, rispondere alle domande dei clienti o aiutare i dipendenti a portare a termine le attività più rapidamente. I risultati sembrano promettenti e la direzione decide di introdurre il sistema in tutta l’azienda.

Ma non appena un numero maggiore di persone inizia a utilizzarlo, cominciano a emergere i problemi.

L’IA fatica a gestire richieste impreviste. Alcuni sistemi aziendali non riescono a scambiare le informazioni correttamente. I dipendenti si rendono conto che lo strumento richiede un supporto manuale maggiore del previsto. Anche i costi operativi iniziano ad aumentare.

Ciò non significa necessariamente che il progetto di IA originale fosse stato realizzato male.

Il problema è che un progetto pilota di successo e un sistema di produzione affidabile sono due cose diverse.

Portare l’IA in produzione richiede più che semplici buoni risultati nei test. Le aziende devono prepararsi a gestire dati reali, carichi di lavoro più consistenti, guasti di sistema, problemi di sicurezza e assistenza continua.

Comprendere queste sfide prima del lancio può impedire che un promettente progetto di IA si trasformi in un costoso problema operativo.

1. Un progetto pilota di successo non garantisce la prontezza per la produzione

I progetti pilota di IA vengono solitamente sviluppati in un ambiente controllato.

Il team di sviluppo sa esattamente quale problema il sistema deve risolvere. I dati di test sono spesso preparati in anticipo e solo un piccolo gruppo di dipendenti utilizza l’applicazione.

Queste condizioni rendono più facile dimostrare ciò che la tecnologia è in grado di realizzare.

Tuttavia, le operazioni aziendali quotidiane sono raramente così prevedibili.

Si consideri un'azienda che sta testando l'IA per l'elaborazione delle fatture.

Durante la fase pilota, il team fornisce 100 fatture in formati leggibili e con informazioni complete sui fornitori. Il sistema estrae i dettagli richiesti in modo accurato e produce risultati utili.

Dopo l’implementazione, il sistema riceve fatture da centinaia di fornitori.

Alcuni documenti sono scansionati male. Altri contengono valute diverse, numeri d’ordine mancanti o layout insoliti.

L'IA potrebbe ora richiedere più correzioni manuali del previsto.

Il test iniziale ha dimostrato che la tecnologia era in grado di svolgere un compito specifico. Non ha però dimostrato che il sistema fosse in grado di gestire ogni situazione che l’azienda avrebbe potuto incontrare.

Prima di passare alla fase di implementazione su larga scala, le aziende dovrebbero identificare le condizioni che hanno contribuito al successo del progetto pilota e verificare se tali condizioni rimarranno invariate in fase di produzione.

2. I dati aziendali reali creano problemi inaspettati

La qualità dei dati è uno dei motivi più comuni per cui i sistemi di IA incontrano difficoltà dopo l’implementazione.

Durante la fase di test, i team lavorano spesso con informazioni selezionate che sono accurate, organizzate e facili da elaborare.

I sistemi di produzione devono invece operare con informazioni raccolte attraverso le attività aziendali quotidiane.

Tali dati possono contenere record duplicati, dettagli obsoleti, campi mancanti e formati incoerenti.

Ad esempio, un assistente di assistenza clienti basato sull’IA potrebbe funzionare bene nel rispondere alle domande attingendo da una knowledge base approvata.

Tuttavia, l’azienda potrebbe in seguito collegarlo a record di prodotto, account dei clienti e documenti di supporto.

Se queste fonti contengono informazioni contrastanti, l’assistente potrebbe fornire risposte errate.

Un prodotto potrebbe apparire disponibile in un sistema, mentre un altro sistema indica che è esaurito.

L'IA non è in grado di risolvere in modo affidabile ogni discrepanza senza regole aziendali chiare.

Le aziende dovrebbero quindi testare l’IA utilizzando informazioni realistiche prima della sua implementazione.

Hanno inoltre bisogno di persone incaricate di garantire la qualità dei dati e di correggere i problemi man mano che si presentano.

Ottenere buoni risultati da dati preparati con cura è utile, ma non è sufficiente a dimostrare che un sistema sia pronto per l’uso quotidiano.

3. I sistemi aziendali esistenti potrebbero non integrarsi senza intoppi

Molti progetti pilota di IA operano indipendentemente dal software che un'azienda utilizza quotidianamente.

Gli sviluppatori potrebbero caricare manualmente file di esempio o collegare l’IA a un database temporaneo.

Ciò è accettabile durante le prime fasi di test, poiché l’obiettivo principale è capire se l’idea funziona.

La produzione richiede qualcosa di più affidabile.

L'IA potrebbe dover scambiare informazioni con software CRM, piattaforme ERP, applicazioni finanziarie, strumenti di assistenza clienti e database interni.

Queste connessioni introducono nuove sfide.

Un assistente alle vendite basato sull'IA potrebbe identificare un potenziale cliente promettente, ma non riuscire ad aggiornare il CRM.

Uno strumento di elaborazione delle fatture potrebbe estrarre l’importo corretto, ma inviare le informazioni in un formato che il sistema contabile non è in grado di accettare.

In entrambi i casi, l’IA esegue il compito assegnato, ma il processo aziendale più ampio rimane incompleto.

Prima dell’implementazione, i team dovrebbero testare l’intero flusso di lavoro, compreso ciò che accade quando un altro sistema non è disponibile.

Una risorsa utile è questa guida su come portare i progetti pilota di IA in produzione, che spiega come le aziende possano valutare la disponibilità dei dati, l’affidabilità del sistema, la sicurezza e i requisiti operativi prima di espandere l’uso dell’IA.

L’obiettivo dovrebbe essere quello di far funzionare l’IA in modo affidabile all’interno dei processi aziendali esistenti, non semplicemente di collegare un’altra applicazione.

4. I test in produzione devono andare oltre la semplice accuratezza

Spesso un progetto pilota si concentra sul fatto che l’IA produca la risposta corretta o completi l’attività prevista.

L’accuratezza è importante, ma è solo una parte dei test di produzione.

Le aziende devono anche comprendere come si comporta il sistema quando diversi utenti vi accedono contemporaneamente, quando mancano informazioni o quando si presenta una richiesta inaspettata.

Supponiamo che un assistente basato sull’IA gestisca 20 conversazioni con i clienti durante i test.

Potrebbe rispondere in modo rapido e accurato.

Ma cosa succede quando 500 clienti cercano di utilizzarlo durante un periodo di punta?

I tempi di risposta potrebbero aumentare. Alcune richieste potrebbero non andare a buon fine e il costo di elaborazione di ogni conversazione potrebbe aumentare.

Un piano di test in produzione dovrebbe esaminare diversi aspetti:

• Accuratezza nel mondo reale: il sistema è in grado di gestire informazioni incomplete, insolite o formattate in modo errato?
• Prestazioni: risponde in modo affidabile quando l’utilizzo aumenta?
• Integrazione: è in grado di scambiare correttamente le informazioni con le applicazioni aziendali collegate?
• Sicurezza: protegge le informazioni sensibili e rispetta le restrizioni di accesso?
• Gestione degli errori: cosa succede quando il modello di IA o un altro servizio non è disponibile?
• Revisione umana: i dipendenti possono correggere gli errori e occuparsi dei casi più complessi?

Questi test dovrebbero rispecchiare il modo in cui l’azienda utilizzerà effettivamente il sistema.

Un'azienda dovrebbe inoltre concordare i livelli di prestazione accettabili prima del lancio.

Ad esempio, la direzione potrebbe fissare obiettivi relativi al completamento con esito positivo delle attività, ai tempi di elaborazione e al numero di casi che richiedono una revisione manuale.

In assenza di obiettivi concordati, i team potrebbero avere difficoltà a stabilire se il sistema sia pronto.

5. I rischi per la sicurezza aumentano quando più persone utilizzano l’IA

Un piccolo progetto pilota di IA potrebbe essere accessibile solo a pochi dipendenti che utilizzano informazioni limitate.

Una volta implementato a livello aziendale, lo stesso sistema potrebbe gestire i dati dei clienti, i documenti finanziari, i dati dei dipendenti e le informazioni aziendali riservate.

Ciò comporta ulteriori responsabilità in materia di sicurezza.

Le aziende devono capire quali dipendenti possono accedere all’applicazione di IA e quali informazioni questa possa recuperare.

Un addetto all’assistenza clienti, ad esempio, non dovrebbe ricevere automaticamente l’accesso a documenti finanziari riservati semplicemente perché entrambi i reparti utilizzano la stessa piattaforma di IA.

Le aziende dovrebbero inoltre verificare come le informazioni circolano tra i sistemi e se i fornitori esterni elaborano o conservano i dati aziendali.

Prima di procedere a un'implementazione su più ampia scala, è necessario stabilire controlli delle autorizzazioni, registri delle attività, connessioni sicure e regole chiare per la gestione dei dati.

Le revisioni di sicurezza dovrebbero inoltre proseguire anche dopo il lancio, in particolare quando vengono collegati nuovi reparti o nuove fonti di dati.

Scalare l’IA senza rivedere questi controlli può esporre informazioni che non erano mai state destinate alla condivisione.

6. Una proprietà poco chiara rende più difficile risolvere i problemi di produzione

Durante una fase pilota, gli sviluppatori spesso monitorano attentamente il sistema.

Se si verifica un malfunzionamento, il team di progetto può indagare e correggere il problema.

Questa organizzazione diventa difficile quando l’IA inizia a supportare le operazioni aziendali quotidiane.

Chi interverrà se il sistema smette di funzionare al di fuori dell’orario d’ufficio?

Chi decide se una raccomandazione errata è sufficientemente grave da sospendere l’automazione?

Chi aggiorna le informazioni aziendali quando cambiano le politiche aziendali?

Queste domande richiedono una risposta prima dell’implementazione.

Un sistema di IA in produzione dovrebbe avere responsabilità ben definite tra i team tecnici e quelli aziendali.

Gli sviluppatori possono occuparsi dei problemi software, mentre i responsabili di reparto valutano se l’IA stia producendo risultati aziendali utili.

I team operativi possono monitorare la disponibilità del sistema, mentre i dipendenti possono gestire i casi che richiedono un giudizio umano.

Senza questa struttura, i problemi possono rimanere irrisolti mentre i team non riescono a mettersi d'accordo su chi debba assumersi la responsabilità.

Una chiara attribuzione delle responsabilità rende più facile mantenere le prestazioni e reagire rapidamente quando qualcosa va storto.

7. I costi possono aumentare rapidamente dopo l’implementazione

I progetti pilota di IA comportano solitamente un utilizzo limitato, il che rende i costi più facili da controllare.

I sistemi di produzione possono essere diversi.

Un numero maggiore di utenti può comportare ulteriori richieste di modelli, maggiori spese per il cloud, un aumento dello spazio di archiviazione dei dati e maggiori requisiti di monitoraggio.

Alcuni flussi di lavoro basati sull'IA potrebbero inoltre richiedere ai dipendenti di rivedere o correggere regolarmente i risultati.

Ad esempio, un sistema automatizzato di elaborazione dei documenti potrebbe ridurre i tempi di inserimento dei dati, ma richiedere comunque al personale finanziario di esaminare numerose eccezioni.

Se l’azienda si limita a misurare la velocità di elaborazione, potrebbe trascurare il costo di quel lavoro aggiuntivo.

Le aziende dovrebbero stimare il costo operativo complessivo prima di scalare il sistema.

Ciò include l’infrastruttura, l’utilizzo del software, la manutenzione dell’integrazione, il supporto tecnico e il coinvolgimento dei dipendenti.

Dovrebbero inoltre confrontare questi costi con il valore offerto dal sistema.

Un modello di IA più economico non è necessariamente l'opzione migliore se i dipendenti dedicano molto più tempo a correggere i suoi errori.

Il vero metro di misura del successo non è quanto sia economico il risultato prodotto dall’IA, ma quanto efficacemente aiuti l’azienda a portare a termine un’attività utile.

8. Un'implementazione graduale riduce i rischi di produzione

Uno degli errori più gravi che le aziende possono commettere è quello di introdurre l’IA in tutti i reparti immediatamente dopo il successo di un progetto pilota.

Un'implementazione completa può rendere più difficile l'individuazione dei problemi, poiché molti utenti e sistemi iniziano a fare affidamento sulla tecnologia contemporaneamente.

Un approccio graduale garantisce un maggiore controllo.

Le aziende possono iniziare utilizzando l’IA parallelamente al processo esistente, senza consentirle di apportare modifiche in tempo reale.

Ciò consente ai dipendenti di confrontare i risultati dell’IA con le normali decisioni aziendali e di individuare eventuali errori.

Il passo successivo potrebbe consistere nell’introdurre il sistema in un reparto o in un piccolo gruppo di utenti.

Durante questa fase, l’azienda dovrebbe monitorare i tempi di risposta, l’accuratezza, i malfunzionamenti del sistema, il feedback dei dipendenti e i costi operativi.

Una volta che le prestazioni si saranno stabilizzate, l’azienda potrà estenderne l’utilizzo.

Ad esempio, un'azienda che introduce l'elaborazione delle fatture basata sull'IA potrebbe iniziare con un gruppo di fornitori.

Dopo aver verificato che l’estrazione dei documenti, le regole di approvazione e le integrazioni con l’ERP funzionino correttamente, potrà includere altri fornitori.

Se dovessero emergere dei problemi, l’azienda potrà correggerli prima che il sistema influisca su un volume di transazioni molto più ampio.

Ogni piano di implementazione dovrebbe inoltre spiegare come tornare al processo precedente nel caso in cui qualcosa vada storto.

I dipendenti hanno bisogno di un'alternativa affidabile nel caso in cui un sistema automatizzato non sia disponibile.

Ciò impedisce che un guasto tecnico blocchi completamente un’importante operazione aziendale.

9. L’IA richiede monitoraggio dopo il lancio

Il lancio di un sistema di IA non significa che lo sviluppo e i test siano terminati.

Le informazioni aziendali cambiano. I clienti pongono nuove domande, i dipendenti seguono procedure aggiornate e il software collegato riceve aggiornamenti.

Questi cambiamenti possono influire sulle prestazioni dell’IA.

Un sistema che oggi funziona bene potrebbe produrre risultati meno affidabili dopo alcuni mesi.

Le aziende dovrebbero verificare regolarmente l’accuratezza, i tempi di risposta, le richieste non andate a buon fine, le correzioni apportate dai dipendenti e i costi operativi.

Dovrebbero inoltre raccogliere il feedback da parte delle persone che utilizzano il sistema.

Se i dipendenti correggono ripetutamente lo stesso tipo di errore, l’azienda deve capirne il motivo.

Il problema potrebbe riguardare informazioni obsolete, una regola aziendale errata o un'integrazione che non funziona più correttamente.

Un monitoraggio regolare aiuta i team a identificare tempestivamente questi problemi.

Fornisce inoltre elementi di valutazione per decidere quando il sistema necessita di miglioramenti o se è pronto a supportare ulteriori reparti.

Considerazioni finali

I progetti pilota di IA di successo rappresentano un primo passo importante, ma non garantiscono il successo nelle operazioni aziendali quotidiane.

Le sfide spesso emergono quando l’IA deve gestire informazioni reali, interfacciarsi con i sistemi esistenti, supportare un numero maggiore di utenti e funzionare senza l’assistenza costante degli sviluppatori.

Le aziende possono ridurre questi problemi testando situazioni realistiche, verificando la sicurezza, assegnando responsabilità chiare e pianificando i costi di produzione prima dell’implementazione.

Un'implementazione graduale offre inoltre ai team il tempo necessario per individuare eventuali problemi e migliorare le prestazioni prima di procedere con un'ulteriore espansione.

I progetti di IA non dovrebbero essere giudicati solo in base alle prestazioni dimostrate durante una presentazione.

La vera prova inizia quando la tecnologia diventa parte integrante delle operazioni aziendali quotidiane e deve fornire risultati affidabili senza creare ulteriori problemi.