Die KI-Grenze: warum eine Zahl niemals aus einem Sprachmodell stammen sollte

Es herrscht viel Begeisterung darüber, künstliche Intelligenz in der Vermögensverwaltung einzusetzen, und viel Unbehagen darüber. Beides ist berechtigt, und beides verweist auf dieselbe Frage: nicht, ob KI einzusetzen ist, sondern wo die Grenze um sie herum zu ziehen ist.

Große Sprachmodelle sind in einer Sache wahrhaft außergewöhnlich: darin, unstrukturierte menschliche Sprache in Struktur zu überführen. Sie können ein weitschweifiges Gespräch über die Hoffnungen und Sorgen einer Familie lesen und daraus eine kohärente Richtlinie entwerfen. Sie können eine Frage zuschneiden, eine Position zusammenfassen und einen Bericht in flüssiger Prosa erzählen. Dafür eingesetzt, sind sie ein bemerkenswertes Produktivitätswerkzeug.

Sie sind zudem, konstruktionsbedingt, probabilistisch. Ein Sprachmodell rechnet nicht; es sagt das nächste plausible Token voraus. Verlangen Sie eine Zahl, gibt es Ihnen eine, die richtig aussieht, erzeugt von derselben Mechanik, die gelegentlich einen Gerichtsfall oder eine Quellenangabe erfindet. Für eine Portfolioempfehlung, mit der eine Familie über Jahre leben wird und die eine Aufsichtsbehörde noch lange im Nachhinein prüfen kann, ist plausibel kein Fundament.

Die sinnvolle Arbeitsteilung ist klar, sobald man sie ausspricht. Das Modell übernimmt die Sprache: Es extrahiert eine Richtlinie aus einem Text, schlägt allenfalls einige klärende Fragen vor und erzählt später einen Bericht rund um Zahlen, die es nicht ändern darf. Eine separate, deterministische Engine übernimmt jede Zahl: erwartete Rendite, Volatilität, Stress, die Allokation selbst. Das Modell schreibt die Worte um die Berechnungen herum; es führt die Berechnungen niemals selbst aus.

Das ist keine kosmetische Unterscheidung. Eine deterministische Engine erzeugt bei gleichen Eingaben jedes Mal dieselben Zahlen. Diese eine Eigenschaft ist es, die eine Empfehlung prüfbar macht. Sie können sie reproduzieren, sie bis zu der Richtlinie zurückverfolgen, aus der sie hervorgegangen ist, und sie gegenüber einem Kunden oder einer Aufsichtsbehörde mit Belegen statt mit Beteuerungen verteidigen. Eine Zahl, die Sie nicht reproduzieren können, ist eine Zahl, die Sie nicht verteidigen können.

Die Grenze ist nicht nur gutes Engineering; sie ist zunehmend auch gute Compliance. Die EU-KI-Verordnung, die 2024 in Kraft getreten ist und in Stufen Anwendung findet, verfolgt einen risikobasierten Ansatz und legt die schwersten Pflichten Hochrisikosystemen sowie intransparenter, vollständig automatisierter Entscheidungsfindung auf. Eine transparente, reproduzierbare Berechnungs-Engine mit einem Menschen, der prüft und freigibt, bevor irgendetwas einen Kunden erreicht, lässt sich weit leichter erklären und verteidigen als eine Blackbox, die eine Antwort liefert, die niemand nachvollziehen kann.

Sie steht zudem im Einklang mit MiFID II. Die Geeignetheit beruht darauf, nachweisen zu können, dass die Beratung zum Kunden passt. Reproduzierbare Zahlen und eine vollständige Dokumentation machen aus der Geeignetheit etwas, das ein Unternehmen nicht mehr nur behauptet, sondern belegen kann. Die KI, auf die Sprache begrenzt, wird zur Entscheidungsunterstützung; sie ist niemals der automatisierte Entscheidungsträger, was genau jene Haltung ist, mit der Aufsichtsbehörden sich am wohlsten fühlen.

Das letzte Element besteht darin, die menschliche Kontrollinstanz strukturell zu verankern, statt sie nur anzustreben. Es genügt nicht zu sagen, ein Berater prüfe das Ergebnis. Der Workflow selbst sollte sich weigern fortzufahren, solange nicht eine Person die extrahierte Richtlinie freigegeben hat. Wenn die Prüfung vom System erzwungen und nicht bloß von der Oberfläche nahegelegt wird, schiebt sich das Urteil des Beraters garantiert zwischen das Modell und den Kunden, jedes Mal, ohne darauf angewiesen zu sein, dass jemand daran denkt, hinzusehen.

In einem gut konzipierten System ist die Trennung bei jedem Schritt sichtbar. Wenn die Antworten einer Familie in einen Richtlinienentwurf überführt werden, besteht der Beitrag des Modells in der Struktur und der Formulierung; die Beschränkungen, die es vorschlägt, sind Leitplanken, keine Allokationen, und sie werden einem Menschen zur Bestätigung vorgelegt. Wenn Szenarien erstellt werden, stammen die Zahlen von der Engine, und das Modell erhält keine Gelegenheit, sie zu verändern. Wenn ein Bericht verfasst wird, wird der Text um Zahlen herum generiert, die das Modell nicht ändern darf, und eine Prüfung gleicht diese Zahlen erneut mit der Engine ab, bevor das Dokument finalisiert wird.

Jeder dieser Schritte ist ein kleiner Akt der Disziplin, und zusammengenommen ergeben sie ein System, dessen Ergebnisse gerade deshalb vertrauenswürdig sind, weil die Maschine niemals improvisieren durfte, wo es darauf ankam. Die Erfindungsgabe des Modells bleibt auf die Sprache beschränkt, wo sie willkommen ist, und wird aus der Arithmetik ausgeschlossen, wo sie es nicht ist.

Der Preis einer falsch gezogenen Grenze ist nicht hypothetisch. Ein Unternehmen, das ein Sprachmodell eine Rendite schätzen oder eine Zahl klammheimlich an eine Erzählung anpassen lässt, hat keine Effizienz gewonnen; es hat eine Haftung erzeugt, die es nicht sehen kann. Der Fehler wird flüssig, selbstsicher und falsch sein, und er kommt vielleicht erst zutage, wenn ein Kunde oder eine Aufsichtsbehörde die eine Frage stellt, die das Unternehmen nicht beantworten kann: Woher stammt diese Zahl? Eine klare Grenze ist die einzige ehrliche Antwort auf diese Frage.

So gezogen, ist die KI keine Bedrohung mehr für die Autorität des Beraters, sondern wird zu deren Verstärker. Das Modell übernimmt das Lesen und das Schreiben, die früher Stunden verschlungen haben. Die Engine übernimmt die Berechnungen, reproduzierbar. Und der Berater übernimmt das Eine, wozu keines von beiden in der Lage ist: ein Urteil zu fällen und dafür einzustehen. Die Grenze ist es, die alle drei ihre Stärken ausspielen lässt.

Für eine Familie, die abwägt, ob sie einem KI-gestützten Prozess vertrauen soll, lautet die entscheidende Frage daher nicht, wie klug das Modell ist, sondern wo es handeln darf. Ein Unternehmen, das die Linie klar ziehen kann, Sprache hier, Zahlen dort, das Urteil über beidem, ist eines, das die Technologie verstanden hat, statt sie bloß übernommen zu haben. Diese Klarheit ist mehr wert als jede Funktion, denn sie ist es, die an dem Tag noch beruhigend wirkt, an dem irgendwo in der Branche etwas schiefgeht und jeder Kunde anfängt, schwierigere Fragen zu stellen.

Quellen: EU-KI-Verordnung (2024); Geeignetheitsanforderungen nach MiFID II. Dieser Artikel ist eine allgemeine Information und keine Rechtsberatung.