Models-as-a-Service: basta parole, passiamo ai fatti

Creare e valutare nuove tecnologie di intelligenza artificiale (IA) sono attività fondamentali per la riuscita dei progetti a lungo termine, ma non bastano. Red Hat dedica il proprio tempo anche alla creazione di modelli riutilizzabili e al perfezionamento delle modalità di utilizzo dei modelli di IA, in modo che sia Red Hat sia i clienti possano adottare l'IA con fiducia. 

Infine, cerchiamo di non perdere di vista l'aspetto pratico dell'IA, chiedendoci ad esempio come possiamo garantire a tutti l'accesso privato ai modelli di IA, riducendo al minimo i costi? Come possiamo sfruttare il valore e la scalabilità di questa tecnologia così innovativa?

Una risposta c'è: Models-as-a-Service (MaaS).  

Non tutti vogliono diventare esperti di IA, e non ogni organizzazione può chiedere ai propri team di realizzare modelli personalizzati. Attualmente, l'obiettivo principale è fare in modo che più persone possibili utilizzino l'IA di cui già disponiamo. L'approccio MaaS è la soluzione.

Cos'è il Models-as-a-Service

I nostri utenti si suddividono in due gruppi:

1. I sostenitori dell'IA: chi la realizza, chi la sviluppa, i dilettanti, i professionisti e chiunque altro abbia fatto dell'IA uno dei propri principali interessi.
2. Tutti gli altri: coloro che vogliono semplicemente usare l'IA, senza immergersi negli aspetti tecnologici.

L'approccio MaaS permette di distribuire in azienda i modelli di IA come risorse a consumo, sotto forma di endpoint API. Saranno il team IT o i tecnici della piattaforma di IA a erogare i modelli tramite un gateway API, fornendo agli sviluppatori e, a cascata, a tutti gli utenti, gli strumenti per utilizzare l'IA nelle proprie attività quotidiane. 

Il concetto è semplice: i giganti dell'IA non concedono l'accesso al loro hardware, ma permettono di accedere alle loro app o agli endpoint API fornendo l'approccio MaaS. L'unica differenza è che in questa situazione, invece di acquistare i loro servizi, puoi eseguire un MaaS proprietario e mantenere il controllo su costi, accesso e ritmi di innovazione. 

Si tratta di un ottimo vantaggio. 

Dopo aver utilizzato i servizi MaaS per oltre un anno, in Red Hat siamo arrivati alle conclusioni seguenti. 

Più innovazione a costi ridotti

Ogni volta che viene rilasciato un nuovo modello, centinaia di dipendenti Red Hat vogliono provarlo immediatamente. MaaS ci aiuta a distribuirlo una sola volta, e a risparmiare sul budget. Non è più necessario installare 10, 20, 50 e più GPU perché altrettante persone vogliono provare il nuovo modello.

È un'opportunità vincente per tutti, per i nostri sviluppatori che possono sperimentare i nuovi modelli e dedicarsi a creare nuovi strumenti, e per l'azienda, che non rischia la bancarotta. 

Innovazione più veloce

Possiamo testare ogni nuovo modello lanciato sul mercato secondo i nostri tempi. Ricordi quando DeepSeek ha sconvolto il mercato dell'IA? DeepSeek R1 è diventato disponibile a tutti poco tempo dopo il suo rilascio. Lo stesso vale per Granite, Llama 4 e Phi.

Privacy e sicurezza

I dati sensibili richiedono un controllo attento e totale. L'approccio MaaS ti trasforma nel tuo provider privato di IA e ti permette di proteggere in autonomia le tue risorse digitali, senza l'obbligo di utilizzare gli endpoint di API destinati al pubblico. Molti dei nostri clienti eseguono i propri modelli in data center air gap, totalmente isolati.

Utilizzo in azienda

Il gateway API alla base di MaaS fornisce la scalabilità necessaria a raggiungere ogni persona interessata, la flessibilità che serve per tenere il passo con l'innovazione e strumenti di sicurezza e osservabilità avanzati che permettono di distribuire i modelli di IA in modo efficiente e alle tue condizioni.

Un'ulteriore riduzione dei costi

MaaS riduce i costi utilizzando direttamente un modello di risorse condivise. Potrai ottenere lo stesso risultato con un numero inferiore di GPU e miglioreranno anche le metriche di utilizzo. Poiché i modelli vengono continuamente perfezionati e diventano sempre più piccoli, questo footprint resterà valido nel tempo. Utilizzando strumenti di compressione open source per i modelli linguistici di grandi dimensioni (LLM) potrai bilanciare prestazioni e dimensione del modello, adeguandoli alle esigenze della tua azienda. In sostanza, MaaS ti consente di ottimizzare footprint e modelli, ottenendo i risultati migliori.

Con MaaS puoi creare le fondamenta più adatte su cui prepararti per il futuro. Pensiamo, ad esempio, agli agenti di IA. Non si tratta solo di applicazioni monouso, che funzionano con domanda e risposta. Lasciati fare, continuano a cercare altre risposte. Cosa significa? Token,un gran numero di token. Per ottenere la scalabilità e la capacità di pianificare con precisione i costi dei progetti, puoi valutare di eseguire i sistemi MaaS in azienda. 

L'intelligenza artificiale è qui per restare, ed è ormai tempo di esaminare costi, tempi di innovazione e privacy dal punto di vista pratico. Il Models-as-a-Service è una soluzione promettente su cui Red Hat è impegnata da tempo. Se hai queste stesse priorità, l'approccio MaaS merita di essere valutato.

Guarda questa demo interattiva nella quale Parasol, un'azienda fittizia, realizza tre applicazioni di IA con MaaS. Chi è appassionato di IA può trovare utili spunti nel repository GitHub su MaaS. Infine, se quest'anno hai intenzione di partecipare al Red Hat Summit, non dimenticare di registrarti agli eventi How to become the hero of your artificial intelligence story e LLM-as-a-Service for enterprise: Building a customer large language model platform per saperne di più.