Aus dem Handelsblatt„Wenn KI Code schreibt, wird die Anforderung zum Engpass“

Wo der Plan Lücken hat, füllt sie der Agent mit Annahmen.

KI-Agenten setzen eine Anforderung in Minuten um, auch eine unvollständige. Für Banken, Versicherungen und Behörden entscheidet deshalb, wie genau die fachliche Absicht beschrieben ist, bevor gebaut wird.

Erstgespräch mit Tobias Kilga vereinbaren BEITRAG ALS PDF HERUNTERLADEN

Bausteine antippen, um Annahmen durch Wissen zu ersetzen

Ziel?Annahme

Ergebnis?Annahme

Arbeitspaket?Annahme

Prüfung?Annahme

Intent 0 % vollständig · 100 % Annahmen

Das Problem

Was ein Sachbearbeiter weiß, weiß ein Agent nicht

Bei einem österreichischen Versicherer kamen im ersten Workshop Regeln zum Vorschein, die in keiner Anforderung standen.

Was würde der Agent tun?

Erst lesen, dann aufdecken

01Schadenmeldung

Bereits erfasst

SparteHausrat

Die Kundin schreibt: „Der Schaden betrifft eigentlich das Gebäude.“

02Der Agent handelt

Agent

Sparte auf Gebäude geändert. Erledigt.

Klingt plausibel. Die Kundin hat es ja so gewollt.

03Das Fachwissen

Was weiß der Sachbearbeiter, das der Agent nicht weiß?AufdeckenAusblenden

Regel 01

Geht nicht. Die Sparte lässt sich nach der Erfassung nicht mehr ändern.

Der Agent hat plausibel gehandelt und trotzdem falsch.

Im selben Workshop kamen weitere Regeln zum Vorschein, die nirgends standen

Das Schadendatum lässt sich nur innerhalb desselben Jahres ändern.

Für 40–50 % der Fälle braucht die Deckungsprüfung noch ein Altsystem.

In einer Bank wird daraus schnell ein Befund der Innenrevision.

Der Ansatz

Intent Engineering macht die Absicht prüfbar

SQUER beschreibt die Absicht hinter einem Vorhaben ausdrücklich und hält sie versioniert neben dem Code. Fragt die Revision in zwei Jahren, warum Glasbruch anders behandelt wird als ein Sturmschaden, steht die Antwort dort.

Intents

Sie beschreiben das Was und das Warum. Technologie und Code-Struktur legen sie bewusst nicht fest.

Prüfkriterien

Jede Anforderung endet als Prüfkriterium. Agenten und Menschen testen das Ergebnis dagegen.

Intent und Harness Engineers

Intent Engineers erarbeiten den fachlichen Kontext mit Ihren Fachexperten. Harness Engineers bauen den Harness, also die technische Arbeitsumgebung der Agenten mit festen Regeln für Daten, Modelle und Freigaben.

Verantwortung bei Menschen

Menschen legen fest, was gebaut wird, und geben es frei.

Regulierung

Governance gehört ins System, nicht ans Ende der Freigabekette

DORAEU AI ActBaFinFMA

Vorgaben aus DORA, dem EU AI Act und von BaFin und FMA werden als Prüfkriterien formuliert und laufend geprüft. Weil Modellanbieter nach DORA als IKT-Drittdienstleister gelten, legt die Umgebung auch fest, welche Anbieter zum Einsatz kommen und wo Daten verarbeitet werden.

Das Vier-Augen-Prinzip bleibt. Automatisierte Prüfungen lesen jede Zeile, Menschen prüfen Absicht, Architektur und alles, was als riskant markiert ist. Welche Stellen als riskant gelten, legen Menschen vorher fest.

Wer prüft was?

Läuft automatisch

pipeline / änderungenlive

#01Pflichtfelder für Glasbruch ergänztprüft …geprüft

#02Felder aus E-Mail auslesenprüft …geprüft

#03Zugriff auf Altsystem für Deckungsprüfungprüft …riskantMensch prüftfreigegeben

#04Tests für Marderschäden ergänztprüft …geprüft

Automatisierte Prüfung: jede ZeileMenschliche Prüfung: nur, was als riskant markiert ist

Dass sich jede Änderung lückenlos auf eine freigegebene Absicht zurückführen lässt, ist das Ziel.

Wir sagen Ihnen im Gespräch offen, wo wir dabei heute stehen.

Aus der Praxis

Ein Versicherer, drei Schadenarten, echte Meldungen

Der Versicherer aus dem Workshop wollte eingehende Schadenmeldungen mit KI erfassen. So sah die Arbeit vorher aus, und das hat sich geändert.

Was hat sich geändert?

Erst Vorher lesen, dann Umstellung zeigen

01Vorher

Jede Schadenmeldung wurde von Hand abgetippt. Auf den Haftnotizen stand „Eintippen nervt“.

Die historischen Daten enthielten zahlreiche Unstimmigkeiten.

02Die Umstellung

Was wurde zuerst gemacht?Umstellung zeigenAusblenden

Datenqualität und ein geprüfter Referenzdatensatz

Pseudonymisierung und ein Sicherheitskonzept für CISO und Datenschutz

Start mit Glasbruch, Marderschäden und Verstopfungen, Abnahmekriterien vor der Entwicklung

03Heute

Folgt nach der Umstellung

Die KI schlägt die Angaben vor. Die Sachbearbeiter prüfen und korrigieren.

Sie arbeiten mit echten Schadenmeldungen im System.

„Wer KI nur in der Entwicklung einsetzt, verschiebt den Engpass bloß. Den ganzen Nutzen realisiert nur, wer KI entlang der gesamten Wertschöpfungskette einsetzt.“

Manuel Klein, Mitgründer von SQUER

150Mrd. €

Jahresumsatz des größten Kunden von SQUER

83%

der Features in SQUER-Verantwortung mit einer Durchlaufzeit unter 30 Tagen

97%

der Kunden beauftragen SQUER direkt mit Folgeprojekten

Kunden, unter anderem

Der Einstieg

So beginnen wir

1

Erstgespräch, etwa 30 Minuten

Sie schildern ein Vorhaben. Wir sagen Ihnen ehrlich, ob Intent Engineering dabei hilft.
2

Workshop, ein bis zwei Tage bei Ihnen

Mit Fachbereich, IT und Compliance klären wir, welches Problem zuerst gelöst wird und welche Vorgaben gelten.
3

Abgegrenzter Pilot zum Festpreis

Beide Seiten legen vorher eine klassische Schätzung desselben Umfangs fest. Daran messen wir Kosten, Durchlaufzeit und Qualität, einschließlich der Rechenkosten der Agenten. Verfehlen wir die vereinbarten Kriterien, trägt SQUER die Mehrkosten.
4

Übergabe

Die Umgebung, der Code und die Intents gehören Ihnen. Ihre eigenen Leute können damit weiterbauen.

Häufige Fragen

Was Entscheider uns zuerst fragen

Ist das nicht Requirements Engineering mit neuem Namen?

Die Idee ist mit Spec-driven Development verwandt. Der Unterschied: Das Warum bleibt versioniert mit dem Code verbunden, und jede Anforderung endet als Prüfkriterium, gegen das getestet wird.

Werden unsere Entwickler ersetzt?

Ihre Arbeit verschiebt sich. Sie gestalten die Umgebung, in der Agenten arbeiten, und prüfen deren Ergebnisse. Ihre Fachexperten werden wichtiger, weil ihr Wissen direkt in die Intents einfließt.

Brauchen wir dafür ein großes Programm?

Nein. Wir empfehlen ein kleines Vorhaben, das trotzdem zählt, etwa ein Altsystem, das ohnehin modernisiert werden muss. Ausgeweitet wird erst, wenn die Zahlen stimmen.

Wo der Plan Lücken hat, füllt sie der Agent mit Annahmen.

Was ein Sachbearbeiter weiß, weiß ein Agent nicht

Was würde der Agent tun?

Intent Engineering macht die Absicht prüfbar

Intents

Prüfkriterien

Intent und Harness Engineers

Verantwortung bei Menschen

Governance gehört ins System, nicht ans Ende der Freigabekette

Wer prüft was?

Ein Versicherer, drei Schadenarten, echte Meldungen

Was hat sich geändert?

So beginnen wir

Erstgespräch, etwa 30 Minuten

Workshop, ein bis zwei Tage bei Ihnen

Abgegrenzter Pilot zum Festpreis

Übergabe

Was Entscheider uns zuerst fragen

Sprechen wir über Ihr Vorhaben

Lieber erst zuhören? Treffen Sie Tobias Kilga beim Brainfood Circle

Enabling teams.
Transforming IT landscapes.
Digitalizing enterprises.