BlackBoxApproach: Apps entwickeln, wenn die KI ständig etwas kaputtmacht

Forschung als Machbarkeitsnachweis. github.com/amiune/theblackboxapproach

KI kann gut Code erzeugen. Sie kann aber auch hervorragend das gesamte Projekt umschreiben, obwohl man nur einen Button ändern wollte. Mit BlackBoxApproach versuchen wir, dieses Problem zu lösen.

Welche Probleme der Ansatz lösen soll

Menschliche Entscheidungen und KI-Entscheidungen. Jede Box und jedes Datenfeld hält fest, woher eine Entscheidung stammt: human_defined, ai_defined oder mixed. Sobald ein Mensch etwas bestätigt hat, darf die KI es nicht stillschweigend wieder zu einer Vermutung machen.

Pseudocode als Zwischenebene. Die Boxen verwenden gemischten Pseudocode (CALL, IF, natürliche Sprache): genug Struktur, um ein System zu zerlegen, aber nicht so viel, dass man sich zu früh in Implementierungsdetails verliert.

Modulgrenzen. Es wird jeweils eine Blackbox verfeinert. Übergeordnete Boxen dienen als schreibgeschützter Kontext; nur der ausgewählte Teilbaum darf sich ändern. Der Visualisierer erzeugt Prompts, die diese Grenze durchsetzen. Die Bitte „Repariere den Zahlungsablauf“ führt also nicht dazu, dass die Authentifizierungsschicht umgeschrieben wird.

Eine für Menschen verständliche Ansicht. Ein natives macOS-Programm zeigt den Boxbaum, die Herkunft der Entscheidungen und die Verträge. Das ist übersichtlicher als Dutzende verstreute Spezifikationsdateien.

Wie es funktioniert

Jedes App-Projekt erhält einen Ordner blackboxes/: YAML-Boxen, gemeinsame Datenstrukturen, eine Skill-Datei, der das LLM bei ausdrücklichem Aufruf folgt, und ein Protokoll der Entscheidungsherkunft. ChatGPT oder ein ähnliches System liefert strukturierte Dateiänderungen. Die App schreibt sie, dokumentiert den Git-Diff und verhindert weitere KI-Bearbeitungen, solange deine Änderungen noch nicht committet sind.

Das ist kein Low-Code. Es ist auch keine „Programmierung in natürlicher Sprache“. Es ist die rekursive Zerlegung von Blackboxen mit Verträgen, Absichten und nachvollziehbarer Herkunft.

Stand

Ein früher Machbarkeitsnachweis: eine macOS-App und eine Projektvorlage. Die Methode ist wichtiger als die Oberfläche. Das Ziel ist eine disziplinierte Entwicklung mit KI-Unterstützung, die für Menschen nachvollziehbar bleibt.

Repository: github.com/amiune/theblackboxapproach