LLMs und KI im Jahr 2025: Experimente, Frust und einige große Überraschungen
2025 war für uns ein Jahr praktischer Experimente mit LLMs und angewandter KI. Statt das Geschehen nur von außen zu beobachten, haben wir das ganze Jahr gebaut, getestet, Dinge kaputtgemacht und Ideen ausprobiert, die manchmal funktionierten und manchmal nicht.
Unser Gesamteindruck ist gemischt. Einige Bereiche der Technik sind beeindruckend und entwickeln sich unglaublich schnell. Andere wirken noch jung und anfällig. Hier beschreiben wir, was wir gelernt haben und wie es unsere nächsten Schritte beeinflusst.
Semantische Suche mit Volltextsuche kombinieren
Ein großer Teil unserer Arbeit konzentrierte sich dieses Jahr auf Suchsysteme rund um LLMs. Wir haben viel mit hybrider Suche experimentiert: der Kombination aus semantischer Suche (Embeddings und Vektordatenbanken) und klassischer Volltextsuche.
In der Praxis ist diese Kombination leistungsfähig. Die semantische Suche findet inhaltlich relevante Informationen, während die Volltextsuche für Präzision und Nachvollziehbarkeit sorgt. Sind beide gut aufeinander abgestimmt, sind die Ergebnisse deutlich besser als mit nur einem der beiden Verfahren.
Das Problem ist die Komplexität. Vektorindizes aktuell zu halten, das Ranking abzustimmen und die Infrastruktur zu betreiben erfordert erhebliche Entwicklungsarbeit. Eine Lösung, die man einfach anschließt und sofort nutzt, ist es noch nicht.
Unsere ehrliche Empfehlung lautet derzeit: Wer keine Ressourcen für riskante Experimente und einiges an Ausprobieren hat, wartet vielleicht besser noch. Das Ökosystem verbessert sich schnell, bevorzugt heute aber Teams, die sich Erkundung und wiederholte Anpassungen leisten können.
RAG oder große Kontextfenster: Es kommt darauf an
Wir haben auch RAG-Pipelines mit Ansätzen verglichen, die stärker auf große Kontextfenster setzen.
Wir hofften auf einen klaren Sieger. Den gab es nicht.
RAG eignet sich sehr gut für große oder ständig veränderte Wissensbestände. Große Kontextfenster vereinfachen die Architektur, können bei größerem Umfang aber teuer und unberechenbar werden. In echten Systemen landeten wir ohnehin häufig bei Mischformen.
Die wichtigste Erkenntnis: Es gibt noch kein universelles Rezept. Architekturentscheidungen hängen stark von der jeweiligen Anwendung ab. Vieles, was funktioniert, entsteht durch Experimente und weniger durch etablierte Vorgehensweisen.
Vektordatenbanken für tabellarisches ML verwenden (ein ungewöhnlicher Umweg)
Irgendwann beschlossen wir, etwas Ungewöhnliches zu versuchen: Vektordatenbanken für klassisches maschinelles Lernen mit Tabellendaten zu verwenden.
Aus praktischer Sicht war das nicht besonders erfolgreich. Für übliche Vorhersageaufgaben sind herkömmliche ML-Pipelines weiterhin deutlich effizienter und einfacher.
Der Umweg war dennoch überraschend produktiv. Er brachte uns dazu, uns eingehender mit Clustering, Ähnlichkeitsmaßen und Feature Engineering zu beschäftigen. Daraus entstanden neue Forschungsrichtungen und Beiträge zu Arbeitspapieren, an denen wir noch arbeiten.
Obwohl die ursprüngliche Idee als Produktansatz nicht aufging, hat sie sich als Forschung gelohnt.
Der große Sprung beim Programmieren mit KI
Die beeindruckendste Veränderung dieses Jahres war das Programmieren mit KI.
Anfang 2025 hatten agentenbasierte Programmiersysteme mit vergleichsweise einfachen Aufgaben zu kämpfen. Selbst eine brauchbare Landingpage erforderte oft viel manuelle Nacharbeit. Zum Jahresende konnten dieselben Systeme komplexe Projekte mit mehreren Komponenten so erzeugen und organisieren, dass sie tatsächlich nutzbar wirken.
Das verändert, was kleine Teams realistisch entwickeln können. Programmieren mit KI ist nicht mehr nur eine ausgefeilte Autovervollständigung. Es fühlt sich zunehmend wie die Zusammenarbeit mit einem echten Entwicklungspartner an.
Die Geschwindigkeit der Verbesserungen erstaunt uns wirklich.
Worauf wir uns 2026 konzentrieren
All diese Erfahrungen fließen direkt in unsere Pläne für 2026 ein.
Wir möchten das Gelernte nutzen und uns darauf konzentrieren, mit KI-Unterstützung gezielte iOS-Apps für kleine Unternehmen zu entwickeln. Statt breiter Plattformen interessieren uns konkrete Werkzeuge für konkrete Probleme.
In späteren Beiträgen werden wir erläutern, warum wir uns auf iOS konzentrieren und wie wir über unsere Produktstrategie nachdenken.
Abschließende Gedanken
Wenn wir 2025 in einem Satz zusammenfassen müssten: Die Technik ist leistungsfähig, aber noch uneinheitlich.
Hybride Suche funktioniert, ist aber komplex. Die Wahl zwischen RAG und großen Kontextfenstern hängt vom Anwendungsfall ab. Manche experimentellen Ideen scheitern auf nützliche Weise. Und das Programmieren mit KI hat einen Sprung gemacht, der kleinen Teams neue Möglichkeiten eröffnet.
Wir beenden das Jahr mit gemischten Gefühlen hinsichtlich der Reife, aber viel Optimismus hinsichtlich der Richtung. Die Entwicklung verläuft schnell, und die Lücke zwischen Forschung und praktischen Anwendungen wird kleiner.
Für Teams, die experimentieren und mit Unsicherheit umgehen möchten, ist dies eine sehr spannende Zeit für die Entwicklung neuer Lösungen.