Mahemud - stock.adobe.com

KI-Agenten: Zukunft der KI im Finanzwesen

KI-Agenten werden zunehmend im Finanzwesen eingesetzt. Ihr Erfolg stellt sich aber nur ein, wenn sie mit Vertrauen, Transparenz und menschlicher Aufsicht verwendet werden.

KI-Agenten werden zu Recht als die nächste große Entwicklungsstufe der Künstlichen Intelligenz (KI) angesehen. Diese Technologie ist beispielsweise in der Lage, selbständig einen Kontenabgleich durchzuführen oder eine Rechnung zu bearbeiten. Allerdings muss sie verantwortungsvoll eingesetzt werden – speziell im Finanzwesen.

In kleinen und mittleren Unternehmen übernimmt KI schon jetzt mühsame und zeitaufwendige Aufgaben wie die Bearbeitung von Rechnungen, die Überprüfung von Journaleinträgen und die Klassifizierung von Transaktionen.

Und mit dem nächsten großen Schritt der KI nimmt die Entwicklung weiter Fahrt auf: mit autonomen KI-Agenten.

Vorteil durch KI-Agenten

Heutige KI-Tools benötigen häufig eine Aufforderung zum Handeln. Agenten hingegen gehen einen Schritt weiter. Sie arbeiten hinter den Kulissen und sind in der Lage, die Verantwortung für ganze Arbeitsabläufe zu übernehmen. Als Teil des monatlichen Rechnungsabschlusses können sie beispielsweise Aufgaben wie die Kontenabstimmung und Rechnungsbearbeitung schneller und intelligenter bewältigen.

Um beim Beispiel der Rechnungsbearbeitung zu bleiben: Heutige Systeme können eine Rechnung mit einer Bestellung abgleichen und Unstimmigkeiten identifizieren. Stimmt etwas nicht, bleibt es in der Regel bei der Feststellung. Ein KI-Agent jedoch, der sich auf autonome Softwaredesigns und fortschrittliche Large-Language-Modelle (LLM) wie GPT-4o1 oder DeepSeek-R1 stützt, leistet hingegen weit mehr und kontaktiert den Lieferanten, fordert eine korrigierte Rechnung an, storniert die ungültige Rechnung und lernt aus der Interaktion, um seine Genauigkeit in Zukunft zu verbessern.

Dabei geht es um mehr als Automatisierung. Es geht um intelligentes, autonomes Handeln. Der Markt für Agenten steckt noch in den Kinderschuhen, wächst aber rasant – von 7,8 Milliarden Dollar im Jahr 2025 auf 47 Milliarden Dollar im Jahr 2030.

Agenten werden in Zukunft komplexe Aufgaben erledigen, die logisches Denken und mehrere Schritte erfordern – und das über eine einfache Benutzeroberfläche mit einem optimierten Nutzererlebnis.

Richtiges Training bringt Erfolg

Je autonomer KI-Systeme agieren, desto wichtiger ist es, sie sorgfältig zu trainieren. Ein LLM von der Stange wird im Finanzkontext keine zuverlässigen Ergebnisse liefern und zusätzliche Arbeit verursachen, statt Prozesse effizienter zu gestalten. LLMs als Basis für KI-Agenten im Finanzwesen müssen mit handverlesenen Datensätzen trainiert werden. Dazu können technische Dokumente, Gebrauchsanweisungen und Handbücher gehören. Diese Datensätze müssen zudem mit buchhaltungsspezifischem Kontext angereichert werden, um Elemente wie Rechnungen oder Rückstellungen genau zu identifizieren und so eine präzise Aufgabenbearbeitung ohne Fehlklassifizierung zu gewährleisten.

Darüber hinaus sollte das Training Standards von führenden Berufsverbänden berücksichtigen, um sicherzustellen, dass die KI-Systeme auditfähig und von Grund auf konform sind. Dieser Ansatz kann durch Partnerschaften mit Aufsichtsbehörden und rigorose interne Qualitätskontrollen weiter gestärkt werden.

Auch gilt es, die Modellleistung kontinuierlich anhand von Metriken wie False Positives und False Negatives zu messen, um die Antworten so zu verfeinern, dass das KI-System Buchhaltungseingaben korrekt interpretiert, priorisiert und darauf reagiert.

Leistung ohne Leitplanken ist ein Risiko

Natürlich sind die Fortschritte nur dann von Bedeutung, wenn man der Technologie vertrauen kann. Und im Finanzwesen ist Vertrauen keine Option, sondern das Fundament für alles andere.

Man stelle sich den Schaden vor, den ein bösartiger KI-Agent anrichten könnte, wenn er in den Konten einer Organisation Amok läuft. Ein bösartiger Agent, der halluziniert und Daten fälscht oder Rechnungen falsch einordnet, kann in der Buchhaltung des Unternehmens für Chaos sorgen. Ohne strenge Sicherheitsvorkehrungen oder eine klare Stopp-Funktion können die Folgen gravierend sein.

Aaron Harris, Sage

„Auch wenn ein Mensch die Kontrolle über KI-Systeme behält, gilt es, bereits bei der Entwicklung finanzspezifischer KI-Systeme auf die Einhaltung ethischer Vorgaben zu achten, sodass ethische Vorgaben im System eingebettet sind.“

Aaron Harris, Sage

Finanzteams arbeiten unter strengen Revisionsanforderungen. Jede Zahl muss nachprüfbar sein. Deshalb müssen KI-Agenten für das Rechnungswesen, wie erwähnt auf domänenspezifischen LLMs basieren, die in den Rechnungslegungsvorschriften und Best Practices verankert sind. Sie müssen in Zusammenarbeit mit Unternehmen entwickelt und von Buchhaltungsexperten betreut werden.

Entscheidend ist, dass der Mensch die Kontrolle behält. Agenten können autonom agieren, aber es muss immer ein Mensch da sein, der die Kontrolle übernehmen kann.

Eingebettete Ethik

Auch wenn ein Mensch die Kontrolle über KI-Systeme behält, gilt es, bereits bei der Entwicklung finanzspezifischer KI-Systeme auf die Einhaltung ethischer Vorgaben zu achten, sodass ethische Vorgaben im System eingebettet sind. Dazu gehören insbesondere die folgenden Anforderungen:

Vermeidung von Verzerrungen: Tests und Trainings müssen ein kontinuierlicher Prozess sein, um algorithmische Verzerrungen zu erkennen und zu minimieren. Die Überprüfung von Trainingsdaten und Feedback-Schleifen gewährleistet Fairness über alle Benutzersegmente hinweg.

Halluzinationserkennung: Insbesondere müssen verlässliche Kontrollmechanismen implementiert werden, die erkennen, wenn ein KI-System Daten erfindet. Dazu gehören Model Drift Alerts, automatische Meldungen bei unerwartetem Modellverhalten, die menschliche Eingriffe erfordern.

Human-in-the-Loop-Validierung: Jedes Modell-Update muss Plausibilitätsprüfungen, Audit-Trails und Qualitätskontrollen beinhalten, um sicherzustellen, dass keine kritische Entscheidung im luftleeren Raum getroffen wird.

Datenschutz und -sicherheit: KI-Agenten dürfen Kundendaten niemals zu Trainingszwecken an Dritte weitergeben. Die Daten müssen anonymisiert und gemäß DSGVO und anderer globaler Standards gesichert werden. Dazu gehört auch, das Modell-Repository zu schützen und Privacy-by-Design-Protokolle zum Rückgrat der verantwortungsvollen KI-Bereitstellung zu machen.

Transparenz: Benutzer müssen die volle Kontrolle behalten. Jede KI-Interaktion muss nachvollziehbar sein und die Annahme, Ablehnung oder Bearbeitung von Ausgaben ermöglichen. Erklärbarkeit, Zugänglichkeit und Auditierbarkeit haben höchste Priorität, damit Anwender verstehen können, wie Ausgaben generiert werden.

Was kommt als nächstes?

Der Hype um KI-Agenten ist gerechtfertigt, weil sie zunehmend repetitive und komplexe Aufgaben im Finanz- und Rechnungswesen automatisieren. Das spart Zeit, senkt die Kosten und ermöglicht es den Mitarbeitenden, sich auf sinnvollere Aufgaben zu konzentrieren. Allerdings kann dieses Versprechen nur dann eingelöst werden, wenn die Agenten mit Vertrauen, Transparenz und menschlicher Aufsicht eingesetzt werden. Last but not least müssen Anwenderunternehmen und Technologieanbieter akzeptieren, dass nicht alle Aufgaben an KI übertragen werden sollten und es besser ist, bestimmte Aufgaben traditionellen deterministischen Technologien zu überlassen.

Über den Autor:
Aaron Harris ist Chief Technology Officer von Sage, Anbieter spezifischer KMU-Lösungen in den Bereichen Buchhaltung, Finanzen, Personal und Gehaltsabrechnung.

Harris bringt die Buchhaltungsbranche mit transformativen Technologien voran und fördert die nächste Techniker-Generation. Bei Intacct (jetzt Sage Intacct) war Harris ein Cloud-Computing-Pionier und entwickelte die weltweit erste mandantenfähige Cloud-Architektur für On-Demand-Finanzanwendungen. Er gilt als Experte in den Bereichen Cloud Computing, künstliche Intelligenz, moderne Technologien und Standards der Finanztechnologie. Harris verfügt über einen Master in Information Systems und einen Bachelor of Science in Rechnungswesen von der Brigham Young University und gestaltet seit über 25 Jahren die Innovationen von morgen aktiv mit.

 

Die Autoren sind für den Inhalt und die Richtigkeit ihrer Beiträge selbst verantwortlich. Die dargelegten Meinungen geben die Ansichten der Autoren wieder.

Erfahren Sie mehr über Künstliche Intelligenz (KI) und Machine Learning (ML)