La Retrieval-Augmented Generation (RAG) è una tecnica che combina modelli di linguaggio generativi (LLM) con sistemi di recupero di documenti.
Durante la generazione, il modello interroga una base di conoscenza esterna all’LLM per recuperare informazioni rilevanti in tempo reale.
Queste informazioni vengono poi integrate nella risposta, garantendo accuratezza e aggiornamento dei contenuti.
La RAG è utile in contesti dove serve rispondere con dati aggiornati o specialistici non presenti nel modello LLM che gestisce la comunicazione con l’utente
In particolare, GAIA è dotata di un ambiente specifico per il caricamento dei documenti a supporto della RAG. Questo ambiente consente di specializzare le basi documentali in base alla natura della richiesta (es. marketing, tecnica, normativa, etc), in modo da fornire risposte pertinenti e precise.
GAIA consente inoltre di recuperare i testi originali alla base di ciascuna risposta, in modo da consentire una verifica immediata in caso di necessità.

La natura modulare di GAIA consente un’implementazione modulare basata su vari Large Language Model (LMM).
L’implementazione standard si avvale di ChatGPT, potendo quindi sfruttare il continuo rilascio di nuove funzionalità, nonché l’immenso potere computazionale offerto da modelli full-web
Basti pensare che si ritiene che ChatGPT 4 sia basato su otto modelli specializzati, ciascuno dei quali implementa circa 200 miliardi di parametri (pesi).
E’ possibile anche implementare GAIA in modalità “full edge”, ovvero supportata esclusivamente dalle risorse di un PLC o di un industrial PC, senza accesso al web.
Tale architettura è basata su modelli linguistici della famiglia LLaMA (Large Language Model Meta AI) che possono girare anche su macchine senza una Graphic Processing Unit dedicata.
Per riferimento, un modello LLaMA con un miliardo di pesi occupa una memoria locale nell’ordine di 1GByte.
Inoltre, è necessario prevedere lo spazio necessario per implementare la RAG a livello locale
Questo significa che un’implementazione full edge di GAIA deve essere focalizzata su una missione ben precisa per raggiungere una potenza e un’efficacia comparabili con la versione web (es. support tecnico per la risoluzione di fermi macchina, includendo nella RAG documentazione tecnica della macchina e una base storica dei ticket di manutenzione).
La natura modulare di GAIA consente comunque di affiancare chatbot cloud e full edge, a seconda della tipologia di quesito e della necessità di essere utilizzabili anche offline.

La piattaforma G-Mation si presta particolarmente bene per supportare l’implementazione di GAIA sia in modalità cloud che full edge.
Innanzitutto, l’architettura docker consente di implementare e aggiornare con facilità le app dockerizzata di GAIA, anche su macchine già presenti in campo.
Inoltre, l’architettura webserver di G-Mation, grazie alla tecnologia NGINX, consente di gestire backend addizionali, oltre a quello integrato nel PLC per il controllo e la configurazione della macchina.
In particolare, il backend contenuto nel docker GAIA consente di richiamare l’applicazione direttamente sul pannello operatore G-Mation, basato su tecnologia web.
E’ altrettanto semplice che aprire una nuova finestra nel browser del vostro personal computer.
Per quanto riguarda l’implementazione cloud-based, la disponibilità di una VPN dockerizzatta direttalente sul PLC G-Mation consente di raggiungere la piattaforma cloud di GAIA in tutta sicurezza, senza dover passare attraverso gateway addizionali.
Per quanto riguarda l’implementazione full edge, gli 8 GB di memoria e l’architettura multicore della CPU consentono di assolvere a molti compiti di supporto all’operatore senza influire minimamente sul controllo della macchina.