MokuML: Prédictions ML locales sans pipeline

Recherche de preuve de concept. github.com/amiune/MokuML

Et si une petite entreprise pouvait se connecter à Postgres, décrire une prédiction en anglais simple, et obtenir des résultats sur son Mac sans équipe de science des données, pile de machine learning en cloud, ou abonnement du type Kumo ?

C'est ce que nous explorons avec MokuML. Pensez à une version légère de Kumo.ai : connectez une base de données, demandez des prédictions, obtenez des réponses. Mais tout fonctionne localement.

L'idée

  1. Se connecter à votre base de données Postgres.
  2. Décrire ce que vous souhaitez prédire (« quels clients vont se désister ? », « quelles factures seront payées en retard ? »).
  3. Un LLM local lit votre schéma (noms de tables, colonnes, clés) et génère une requête sécurisée SELECT. Il ne voit jamais vos lignes réelles.
  4. La requête s'exécute sur votre machine dans une transaction en lecture seule.
  5. TabPFN-3 entraîne et prédit sur cette table, également localement.

Aucun pipeline de génie des caractéristiques. Aucune interface de réglage du modèle. Aucune transmission de données client à une API.

La confidentialité est la règle du produit

Le LLM reçoit des métadonnées de schéma et votre prompt. Aucune valeur de cellule, aucun aperçu, aucun mot de passe. SQL est validé avec un analyseur d'arbre de syntaxe avant d'être exécuté. Les mutations, les DDL et les trucs à plusieurs instructions sont rejetés.

Un mode LLM distant est proposé en option, mais la même barrière s'applique : uniquement le schéma.

Stack

  • SwiftUI application macOS
  • Worker Python sur 127.0.0.1 pour l'accès à la base de données, la validation SQL, l'inférence TabPFN
  • Ollama (ou API compatible avec OpenAI) pour la conversion de texte en requête SQL
  • Historique des exécutions locales dans ~/Library/Application Support/MokuML/runs/

Limitations honnêtes

Il ne peut pas prédire le futur à partir de rien. Vous avez besoin d'étiquettes historiques ou d'une cible dérivable dans le schéma. TabPFN a des limites de lignes/colonnes. Vérifiez la licence TabPFN avant l'utilisation commerciale.

Le projet est encore jeune, mais la direction semble correcte : les LLMs locaux + des modèles de base tabulaires pourraient rendre l’apprentissage automatique utile, abordable et respectueux de la vie privée pour les petites entreprises.

Dépôt : github.com/amiune/MokuML