MokuML: Previsioni ML locali senza pipeline

Ricerca come prova di concetto. github.com/amiune/MokuML

E se una piccola impresa potesse collegare Postgres, descrivere una previsione in inglese comune e ottenere risultati sul proprio Mac senza un team di scienza dei dati, un’infrastruttura ML nel cloud o un abbonamento in stile Kumo?

È quello che stiamo esplorando con MokuML. Pensalo come un Kumo.ai leggero: colleghi un database, chiedi previsioni e ottieni risposte. Ma tutto viene eseguito in locale.

L’idea

  1. Collegati al tuo database Postgres.
  2. Descrivi cosa vuoi prevedere («quali clienti ci lasceranno?», «quali fatture saranno pagate in ritardo?»).
  3. Un LLM locale legge lo schema (nomi delle tabelle, colonne e chiavi) e scrive una query SELECT sicura. Non vede mai le righe effettive dei dati.
  4. La query viene eseguita sul tuo computer in una transazione di sola lettura.
  5. TabPFN-3 si addestra e produce previsioni su quella tabella, sempre in locale.

Nessuna pipeline di ingegnerizzazione delle caratteristiche. Nessuna interfaccia per ottimizzare il modello. Nessun invio dei dati dei clienti a un’API.

La privacy è la regola del prodotto

L’LLM riceve i metadati dello schema e il tuo prompt. Nessun valore delle celle, nessuna anteprima, nessuna password. Il codice SQL viene validato con un parser AST prima dell’esecuzione. Modifiche, DDL e tentativi di usare più istruzioni insieme vengono rifiutati.

Esiste una modalità facoltativa con LLM remoto, ma vale lo stesso confine: soltanto lo schema.

Tecnologie

  • App macOS in SwiftUI
  • Processo Python su 127.0.0.1 per l’accesso al database, la validazione SQL e l’inferenza TabPFN
  • Ollama (o API compatibile con OpenAI) per convertire il testo in SQL
  • Cronologia locale delle esecuzioni in ~/Library/Application Support/MokuML/runs/

Limiti dichiarati

Non può prevedere il futuro dal nulla. Servono etichette storiche o un obiettivo ricavabile dallo schema. TabPFN ha limiti sul numero di righe e caratteristiche. E prima di un uso commerciale va verificata la licenza di TabPFN.

Siamo ancora agli inizi, ma la direzione sembra giusta: LLM locali e modelli di base per dati tabellari potrebbero rendere l’apprendimento automatico utile, economico e privato per le piccole imprese.

Repository: github.com/amiune/MokuML