KI als Systemarchitekt? Besser nicht.

KI-Modelle sind beeindruckend. Sie schreiben Code, erklären Konzepte, entwerfen Projektpläne. Für viele Aufgaben im IT-Alltag werdne sie zunehmend unverzichtbar. Wenn es aber um Systemarchitektur geht, die trägt, skaliert und viele Jahre Jahre überdauern soll, sollten wir nüchtern bleiben.

Wie lernt eine KI eigentlich?

Grob gesagt durch das Aufsaugen riesiger Textmengen aus dem Internet. Dokumentationen, Foren, Blogs, Whitepaper, Landingpages von Herstellern. Alles fließt ein. Das Modell lernt, welche Worte typischerweise aufeinander folgen, welche Muster sich wiederholen, welche Antworten auf welche Fragen passen.

Genau da beginnt das Problem.

Marketing ist kein Engineering

Ein großer Teil dessen, was ein Chatbot über Technologien zu wissen glaubt, stammt aus Quellen, die verkaufen wollen. Hersteller beschreiben ihre Produkte im besten Licht. Tutorials zeigen Best Practise aus dem Homelab, keine Grenzfälle. Konferenzvorträge präsentieren Siege, keine Post Mortems nach einem Systemcrash. Die KI übernimmt diese Perspektive, weil sie die dominierende ist.

Was dabei untergeht, ist die stille Erfahrung. Warum ein Dienst in der Produktion unter Last zusammenbricht. Warum eine Datenbankreplikation an einem Feiertag um drei Uhr nachts ausgefallen ist. Warum eine bestimmte Caching Strategie bei einem konkreten Lastprofil versagt hat. Dieses Wissen lebt in Köpfen, in internen Wikis, in Hands-on-Teams mit Narben an besagten Händen. Nicht im Trainingsdatensatz.

Halluzinierte Funktionen sind die teuersten Fehler

Besonders kritisch wird es, wenn eine KI selbstbewusst erklärt, eine Komponente verhalte sich auf eine bestimmte Weise, obwohl das faktisch nicht stimmt. Die Antwort klingt plausibel, die Parameter wirken bekannt, die Syntax passt. Nur das Verhalten in der Realität ist ein anderes.

Baut man auf dieser Grundlage Architekturentscheidungen, wird es unangenehm. Falsch verstandene Zusammenhänge, überschätzte Ausfallsicherheit, unterschätzte Abhängigkeiten. Solche Fehler lassen sich selten durch einen Patch korrigieren. Sie wachsen ins System hinein und sind später nur mit hohem Aufwand rückbaubar, manchmal gar nicht.

Unsere Position

KI gehört ins Werkzeug, nicht ans Steuer. Sie kann Code beschleunigen, Varianten durchspielen, Dokumentation verdichten, Reviews unterstützen. Sie ersetzt aber nicht den Architekten, der ein System schon einmal gegen die Wand hat fahren sehen und weiß, warum es passiert ist.

Wer bei fundamentalen Architekturentscheidungen auf die KI vertraut, spart kurzfristig Zeit und kauft sich langfristig ein Risiko ein, das oft erst sichtbar wird, wenn es teuer geworden ist. Die beste Strategie bleibt die unspektakuläre: KI als Assistent, erfahrene Menschen als Entscheider.

‍