Simone Pellicci

L'architettura della conoscenza: il mio approccio No-RAG al know-how aziendale

Un sistema on-premise che trasforma la documentazione in una rete semantica navigabile, mantenendo la proprietà intellettuale strettamente sottochiave.

Il problema: la sovranità del dato

Nelle realtà industriali complesse, il know-how è il vero asset strategico. L'idea di prendere i manuali tecnici, le logiche di funzionamento dei macchinari o le distinte base e regalarle a un'API cloud esterna mi ha sempre fatto rabbrividire. Al tempo stesso, il classico RAG (Retrieval-Augmented Generation) che il mercato oggi vende come panacea, spesso si limita a tritare i documenti in anonimi frammenti sparsi in un database vettoriale, perdendo puntualmente il quadro generale. Per questo ho progettato un'architettura diversa, basata su un concetto di sovranità digitale assoluta.

Una pipeline custom, non un pacchetto pronto

Non stiamo parlando di un pacchetto pre-confezionato che si installa con due clic. Ho sviluppato una pipeline custom capace di prendere gigabyte di materiale grezzo, dai vecchi PDF ai file Word, e trasformarli in un ecosistema strutturato. Il motore di tutto è un LLM che gira rigorosamente in locale, a cui ho "insegnato" a non pescare dati a strascico, ma ad analizzare, dedurre e creare collegamenti semantici tra i file, esattamente come farebbe un tecnico esperto che unisce i puntini.

L'ingegneria dietro le quinte

Far ragionare un modello su queste moli di dati, facendogli orchestrare i collegamenti in background senza perdere la bussola, richiede un livello di ingegneria e di automazione non banale. Ha richiesto script proprietari, logiche di classificazione ferree e un tuning hardware chirurgico. Vi basti pensare che, per la sola fase di indicizzazione massiva e di generazione della struttura, ho dovuto spremere fino all'ultimo ciclo di clock una RTX 3090, rigorosamente in undervolt per mantenere stabilità ed efficienza sotto sforzo estremo.

L'uso quotidiano

Ma il vero ritorno sull'investimento e la dimostrazione che il sistema funziona, emergono nell'utilizzo quotidiano. Oggi, se devo aggiornare la base di conoscenza, mi basta caricare il nuovo documento in chat: il sistema lo legge, capisce autonomamente dove va archiviato e genera i link verso il resto della rete aziendale.

Sostenibilità: gira su un normale PC da ufficio

Sembra fantascienza o roba da server farm americane, ma la vera sfida vinta è la sostenibilità. Se lo sforzo computazionale estremo – e le competenze per gestirlo – sono necessari per costruire l'architettura, per l'uso quotidiano nei vari reparti basta un normale PC da ufficio. Zero dati in uscita, zero abbonamenti cloud, zero allucinazioni da RAG mal configurato.

Progetto Tissue: costruire un'infrastruttura per l'addestramento AI

L'Intelligenza Artificiale viene spesso vista come un'entità puramente software, ma la sua vera potenza si esprime quando interagisce con il mondo reale. Con il "Progetto Tissue" sto facendo un passo indietro verso l'hardware, costruendo da zero un Proof of Concept fisico per testare le logiche di integrazione tra macchinari tangibili e modelli di intelligenza artificiale.

Attualmente nel pieno della fase di progettazione e fabbricazione, questo progetto rappresenta il mio laboratorio personale per sperimentare la filiera completa del dato, dalla struttura fisica fino al futuro processamento neurale.

1. La fase attuale: stampa 3D e progettazione modulare

Il punto di partenza è puramente hardware. Sto progettando e stampando in 3D (tecnologia FDM) le varie componenti di un modello modulare.

La sfida su cui mi sto concentrando oggi è creare un'architettura solida e scalabile: sto calcolando tolleranze di montaggio specifiche e ottimizzando i pezzi per la stampa, con un occhio di riguardo alla flessibilità strutturale. La struttura non è fine a se stessa, ma viene predisposta fin da ora con alloggiamenti e supporti che, nella fase successiva, andranno a ospitare i moduli di acquisizione visiva (telecamere).

2. Lo step successivo: generazione dati e Computer Vision

Una volta completato l'assemblaggio del modello, l'hardware si trasformerà in un vero e proprio "generatore di input". Avere a disposizione un ambiente fisico mi permetterà di risolvere il problema principale nello sviluppo dell'IA: la reperibilità di dataset di qualità.

L'obiettivo sarà installare le telecamere sull'infrastruttura per raccogliere e strutturare dataset visivi altamente specifici. Questi flussi di dati grezzi diventeranno il materiale di partenza per addestrare modelli di Machine Learning. Questa seconda fase mi permetterà di testare l'intera pipeline di Data Engineering: dall'acquisizione dell'immagine reale fino all'elaborazione algoritmica.

3. Le prossime sfide tecniche

Il Progetto Tissue è un cantiere aperto e in continua evoluzione. Interfacciare componenti fisici in divenire con futuri flussi di dati AI porta con sé diverse sfide pratiche che sto già pianificando:

• Completamento Hardware: terminare la modellazione 3D e la stampa FDM di tutti i moduli necessari per garantire la stabilità dell'infrastruttura.
• Gestione del Dataset (progetto futuro): prevedere come gestire l'illuminazione e i fondali dell'ambiente di test, per evitare di "inquinare" le future acquisizioni visive e non trasferire bias al modello AI.
• Architettura Agnostica: progettare concettualmente il sistema affinché, una volta operativo, possa interfacciarsi in modo flessibile con diverse logiche di automazione e protocolli standard.

È un esperimento tecnico a 360 gradi, nato per "sporcarmi le mani" costruendo le fondamenta fisiche necessarie per esplorare la Computer Vision e l'innovazione guidata dai dati.

ELIA: un assistente sperimentale per lo studio dell'inglese

Studiando su piattaforme online come EF English Live, o facendo pratica di conversazione pura su app come Sesame, mi sono accorto che mi mancava un feedback unificato. Ogni piattaforma ha i suoi punti di forza, ma nessuna sa dirti esattamente dove stai sbagliando nel quadro generale, contestualizzando gli errori in tempo reale.

Così ho deciso di usare l'Intelligenza Artificiale per costruire un prototipo di "tutor" personale: ELIA (English Learning Intelligence Assistant).

Come funziona: dare un contesto all'IA

L'idea alla base è fornire a un modello IA le informazioni necessarie per capire esattamente cosa sto facendo in quel momento, agendo da osservatore esterno. Ho strutturato una web app che, sfruttando le API del browser, gestisce due flussi di dati in background mentre studio:

• Screen Capture per il contesto visivo: cattura screenshot della pagina per dare all'IA le informazioni sull'esercizio di grammatica o di reading che ho davanti (ad esempio su EF English Live).
• Cattura audio per la pronuncia: registra l'input del mio microfono, fondamentale per analizzare la fluidità, gli inciampi e la costruzione delle frasi durante le esercitazioni parlate.

L'analisi dei dati

I dati raccolti vengono inviati a modelli LLM multimodali. L'obiettivo di questo proof-of-concept è creare un compagno di studi in grado di dedurre informazioni come: "Nello screenshot vedo che l'esercizio richiede il Past Perfect. Dal tuo audio ho notato che hai esitato e hai usato il Simple Past. Ecco un ripasso mirato."

In corso e sfide aperte

Essendo un progetto nato per sperimentare e sporcarsi le mani con l'integrazione AI, il sistema è un cantiere aperto e presenta diverse sfide architetturali che sto affrontando:

• Latenza e sincronizzazione: inviare contemporaneamente stream audio e screenshot pesanti all'LLM genera a volte qualche secondo di ritardo. Occasionalmente capita che io sia passato all'esercizio successivo, ma l'IA stia ancora elaborando l'immagine precedente, generando consigli fuori contesto.
• Analisi delle sessioni vocali veloci (es. Sesame): questa è un'area su cui sto lavorando molto, ed è decisamente da potenziare. Quando utilizzo piattaforme di pura conversazione vocale rapida (come Sesame), ELIA fatica ancora a elaborare l'audio e fornirmi consigli utili in tempo utile senza interrompere il ritmo serrato del bot vocale con cui sto parlando.
• Gestione aggressiva dei permessi browser: quando cambio scheda o lascio la sessione in background per una pausa, i permessi di Chrome per la cattura dello schermo spesso vanno in timeout, costringendomi a ricaricare i flussi.

Al di là dell'aiuto pratico con l'inglese, ELIA rimane un eccellente banco di prova. Affrontare questi piccoli bug di integrazione e imparare a gestire stream di dati non strutturati verso le API dei modelli IA è la dimostrazione pratica di come mi piace approcciare la tecnologia: costruire, testare, rompere e migliorare.

Come si può misurare oggettivamente l'efficacia dell'addestramento di un'Intelligenza Artificiale? La teoria suggerisce di testarla su un dominio sconosciuto, ma la pratica ingegneristica mi ha insegnato l'opposto: per validare le capacità analitiche di un modello, devi prima addestrarlo su un ambiente che tu conosci alla perfezione. Solo così puoi avere una ground truth (una verità di base) su cui misurare se l'IA sta davvero ragionando o sta solo allucinando dati.

Per questo test ho scelto un terreno a me molto familiare, ma tecnicamente ostico: l'ecosistema chiuso di un server privato di Metin2. L'obiettivo era unire le mie competenze di sistemista, data engineering e AI per "aprire" la scatola nera del server e trasformare i dati grezzi in un vero e proprio strumento di supporto decisionale strategico.

1. L'estrazione: aggirare l'anti-cheat

Il primo ostacolo era l'acquisizione dei dati. Il server era blindato da protezioni anti-cheat che impedivano il datamining sui file client tradizionali.

Per aggirare il blocco, ho adottato un approccio a basso livello: l'estrazione diretta dalla RAM. Intercettando i processi in esecuzione, ho generato un memory dump da 820MB. Un monolite di dati frammentati e non strutturati, che nascondeva al suo interno il DNA del server.

2. Data Cleaning: costruire la "mente" dell'agente con Python

Un dump della memoria è solo "rumore" per un LLM senza una massiccia pipeline di elaborazione. Ho progettato una serie di script in Python per scansionare la memoria allocata dinamicamente, isolare i pattern rilevanti e scartare il resto.

Questa fase di data engineering ha prodotto un dataset chirurgicamente pulito di oltre 150.000 righe. All'interno c'erano le chiavi del regno:

• Formule matematiche esatte per il calcolo dei danni.
• Tabelle di probabilità (drop rate) per ogni singolo item.
• Statistiche complete, meccaniche di progressione e bilanciamenti occulti.

3. Training locale: da database a stratega

Con il dataset pronto, sono passato alla fase cruciale: il fine-tuning. Coerentemente con la mia filosofia di sviluppo focalizzata sul deploy locale e la sovranità del dato, ho gestito l'addestramento interamente sulla mia infrastruttura.

Sfruttando la mia RTX 3090, ho sottoposto un modello base a un addestramento di 3 epoche. L'obiettivo non era creare un semplice motore di ricerca per le statistiche dei mostri: volevo un agente capace di comprendere la "fisica" del gioco.

Il risultato: un sistema di supporto alle decisioni

Il modello risultante ha superato le aspettative. Conoscendo a fondo le meccaniche originali, ho potuto validare le risposte dell'IA, constatando che non si limitava a restituire numeri, ma generava veri e propri insight.

L'IA è diventata un Decision Support System (DSS) per l'ambiente di gioco: interrogandola, era in grado di calcolare il ritorno sull'investimento (ROI) di specifiche azioni, suggerire i percorsi di progressione statisticamente più efficienti e ottimizzare le strategie in vista di scenari competitivi.

Questo progetto è stata la prova sul campo che cercavo. Mi ha dimostrato concretamente come una pipeline ben strutturata — dall'estrazione a basso livello (sistemistica), alla pulizia del dato (Python), fino al fine-tuning (AI) — possa trasformare un caotico flusso di byte in un "consigliere" in grado di orientare decisioni strategiche complesse in scenari competitivi. E le applicazioni di questo metodo, al di fuori del gioco, sono infinite.