Un esperimento di un weekend diventato il mio secondo cervello: RAG su misura, embeddings calcolati in casa, zero dati spediti nel cloud. Architettura, errori grossolani e i numeri veri di latenza e memoria.
Da uno script bash di 300 righe a un binario singolo da 2MB. Cosa ho guadagnato, cosa ho perso, e perché la curva di apprendimento del borrow checker vale ogni bestemmia.
Una password SSH debole, fail2ban dimenticato e un cron sospetto. Racconto passo passo come ho trovato l'intruso, cosa cercava e l'hardening che avrei dovuto fare prima.
Quantizzazione, offloading e aspettative ridimensionate. Tutti dicono che "si può fare": ecco i token al secondo reali, dove crasha e quando conviene davvero rispetto alle API.
Tre mesi di programmazione assistita, misurati. Dove accelero davvero, dove perdo tempo a correggere allucinazioni, e perché continuo a leggere il codice riga per riga.
Niente servizi esterni, niente abbonamenti. Schema della tabella, indici HNSW, e una query che trova le mie vecchie note meglio di quanto facessi io a memoria.
Ho buttato un weekend nel config in Lua e quasi mollato due volte. Poi qualcosa ha fatto click. Cosa ho tenuto, cosa ho rubato ad altri e il mio init.lua minimale.