MokuML: Previsões ML Locais Sem Pipeline

Pesquisa de prova de conceito. github.com/amiune/MokuML

O que se passa se uma pequena empresa pudesse conectar Postgres, descrever uma previsão em inglês comum, e obter resultados no seu Mac sem uma equipe de ciência de dados, pilha ML na nuvem ou assinatura estilo Kumo?

Essa é a ideia que estamos explorando com MokuML. Pense em algo leve Kumo.ai: conectar um banco de dados, pedir previsões, obter respostas. Mas tudo corre localmente.

A ideia

  1. Conectar-se ao seu banco de dados Postgres.
  2. Descreva o que você deseja prever ("quais clientes irão se desinscrever?", "quais recibos serão pagos com atraso?").
  3. Um modelo LLM local lê sua esquema (nomes de tabela, colunas, chaves) e escreve uma consulta segura SELECT. Ele nunca vê as linhas reais do seu banco de dados.
  4. A consulta é executada na sua máquina em uma transação de leitura apenas.
  5. TabPFN-3 treina e prediz nessa tabela, também localmente.

Nenhum pipeline de engenharia de características. Nenhum interface de ajuste de modelo. Nenhum envio de dados de clientes a uma API.

Privacidade é a regra do produto

O LLM recebe metadados do esquema e sua prompt. Nenhum valor da célula, nenhum pré-visualização, nenhum senha. A SQL é validada com um analisador de árvore de sintaxe antes da execução. Mutações, DDL e truques com múltiplas instruções são rejeitadas.

Existe um modo opcional de LLM remoto, mas a mesma fronteira se aplica: apenas esquema.

Pilha

  • SwiftUI aplicativo macOS
  • Trabalhador Python no 127.0.0.1 para acesso ao banco de dados, validação de SQL, inferência de TabPFN
  • Ollama (ou API compatível com OpenAI) para texto para SQL
  • Histórico de execução local em ~/Library/Application Support/MokuML/runs/

Limitações honestas

Ele não pode prever o futuro a partir do nada. Você precisa de rótulos históricos ou de um alvo derivável no esquema. TabPFN tem limites de linha/feature. E verifique a licença de TabPFN antes do uso comercial.

Ainda cedo, mas a direção parece correta: LLMs locais + modelos de base tabular poderiam tornar a ML útil, barata e privada para pequenas empresas.

Repositório: github.com/amiune/MokuML