MokuML: Predicciones locales de ML sin pipeline

Investigación de prueba de concepto. github.com/amiune/MokuML

¿Qué pasaría si una pequeña empresa pudiera conectar Postgres, describir una predicción en lenguaje común, y obtener resultados en su Mac sin un equipo de ciencia de datos, pila de machine learning en la nube o suscripción de estilo Kumo?

Eso es lo que estamos explorando con MokuML. Piensa en algo ligero como Kumo.ai: conectar una base de datos, preguntar por predicciones, obtener respuestas. Pero todo corre localmente.

La idea

  1. Conectar a tu base de datos Postgres.
  2. Describir lo que deseas predecir ("¿cuáles clientes se perderán?", "¿cuáles facturas se pagarán con retraso?").
  3. Un modelo de lenguaje local lee tu esquema (nombres de tablas, columnas, claves) y escribe una consulta segura SELECT. Nunca ve tus filas reales.
  4. La consulta se ejecuta en tu máquina en una transacción de solo lectura.
  5. TabPFN-3 entrena y predice en esa tabla, también localmente.

No hay pipeline de ingeniería de características. No hay interfaz de usuario para afinar el modelo. No se envían datos de clientes a una API.

La privacidad es la regla del producto

El modelo de lenguaje recibe metadatos de esquema y tu prompt. No se muestran valores de celda, no se muestran vistas previas, no se muestran contraseñas. SQL se valida con un analizador de árbol de sintaxis antes de su ejecución. Las mutaciones, los comandos DDL y los trucos de varias instrucciones se rechazan.

Existe un modo de modelo de lenguaje remoto opcional, pero la misma frontera se aplica: solo esquema.

Pila

  • SwiftUI aplicación para macOS
  • Trabajo en Python en 127.0.0.1 para acceso a bases de datos, validación de SQL, inferencia de TabPFN
  • Ollama (o API compatible con OpenAI) para texto a SQL
  • Historial de ejecuciones locales en ~/Library/Application Support/MokuML/runs/

Limitaciones honestas

No puede predecir el futuro a partir de nada. Necesitas etiquetas históricas o un objetivo derivable en el esquema. TabPFN tiene límites de filas y características. Y verifica la licencia de TabPFN antes de su uso comercial.

Aún temprano, pero la dirección parece correcta: los modelos locales de lenguaje + modelos de base tabulares podrían hacer que la inteligencia artificial útil sea barata y privada para pequeñas empresas.

Repositorio: github.com/amiune/MokuML