Wer haftet für fehlerhafte KI-Ergebnisse?

Künstliche Intelligenz unterstützt Unternehmen etwa beim Verfassen von Texten, bei der Analyse von Sachverhalten, bei Berechnungen und der Gestaltung von Dokumenten sowie bei der Entwicklung von Software. Werden fehlerhafte Ergebnisse in Kundenleistungen übernommen, können erhebliche Schäden entstehen. Die Haftung richtet sich insbesondere nach dem Vertragsverhältnis, dem Leistungsumfang und den Sorgfaltspflichten beim KI-Einsatz.

Vertragliche Verantwortung trotz KI-Einsatz

KI verfügt über keine eigene Rechtspersönlichkeit und ist damit kein selbständiges Haftungssubjekt. Im Verhältnis zum Kunden ist sie grundsätzlich als technisches Hilfsmittel des Unternehmens einzuordnen, das die Leistung erbringt. Dieses bleibt für die Erfüllung seiner vertraglichen Verpflichtungen verantwortlich. Der Hinweis, ein Fehler sei durch die verwendete Software verursacht worden, genügt für sich allein nicht zur Entlastung.

Entscheidend ist zunächst, welche Leistung geschuldet wird. Bei einem Auftrag steht die getreue und sorgfältige Ausführung des übertragenen Geschäfts im Vordergrund (Art. 398 Abs. 2 OR). Ein nachteiliges Ergebnis begründet daher noch keine Haftung. Massgeblich ist, ob das Unternehmen die nach den Umständen gebotene Sorgfalt eingehalten hat. Die ungeprüfte Übernahme eines überprüfungsbedürftigen KI-Ergebnisses kann eine solche Pflichtverletzung darstellen.

Bei einem Werkvertrag wird demgegenüber ein vertragsgemässer Erfolg geschuldet. Wird etwa eine individuell entwickelte Software als Werk vereinbart, muss diese die geschuldeten Eigenschaften aufweisen, unabhängig davon, wie der Programmcode entstanden ist. Bei Mängeln kommen unter den jeweiligen Voraussetzungen Nachbesserung, Minderung oder Wandelung in Betracht (Art. 368 OR). Diese Mängelrechte setzen grundsätzlich kein Verschulden voraus. Vertragliche Abreden sowie Prüfungs- und Rügeobliegenheiten sind zu beachten. Davon zu unterscheiden ist ein allfälliger Schadenersatzanspruch, für den eigene Voraussetzungen gelten.

Ausgangspunkt bildet stets der konkrete Leistungsinhalt den Ausgangspunkt. Der Einsatz von KI begründet keine allgemeine Erfolgs- oder Qualitätsgarantie und entbindet das Unternehmen umgekehrt nicht von seinen bestehenden Verpflichtungen.

Voraussetzungen der Schadenersatzhaftung

Die allgemeine vertragliche Schadenersatzhaftung setzt eine Vertragsverletzung, einen Schaden sowie einen natürlichen und adäquaten Kausalzusammenhang voraus (Art. 97 OR). Das Verschulden wird vermutet; dem Unternehmen steht grundsätzlich der Nachweis offen, dass ihm kein Verschulden zur Last fällt. Besondere Haftungs- und Gewährleistungsregeln bleiben vorbehalten.

Sorgfalt bei Auswahl und Kontrolle

Die Anforderungen an den KI-Einsatz richten sich nach der Aufgabe, den erkennbaren Fehlerrisiken und den möglichen Folgen für den Kunden. Bei einer folgenreichen fachlichen Empfehlung kann eine vertiefte Überprüfung erforderlich sein, während bei einer blossen Formulierungshilfe andere Kontrollmassnahmen genügen können.

Unternehmen sollten deshalb prüfen, ob die Anwendung für den vorgesehenen Zweck geeignet ist und wie ihre Ergebnisse zuverlässig überprüft werden können. Je nach Risiko sind Originalquellen beizuziehen, Berechnungen unabhängig zu verifizieren oder fachkundige Personen einzubinden. Nachvollziehbar dokumentierte Kontrollen können im Streitfall helfen, die Einhaltung der gebotenen Sorgfalt nachzuweisen. Sie ersetzen jedoch weder die tatsächlich erforderliche Prüfung noch die geschuldete Vertragserfüllung.

Zurechnung und Rückgriff

Das Unternehmen muss sich unter den gesetzlichen Voraussetzungen auch das Verhalten von Personen, insbesondere Mitarbeitenden, die es zur Erfüllung seiner vertraglichen Verpflichtung einsetzt, anrechnen lassen (Art. 101 OR). Davon zu unterscheiden ist die interne Haftung des Mitarbeiters nach Art. 321e OR, bei der insbesondere das Berufsrisiko und die Fachkenntnisse zu berücksichtigen sind.

Ein Rückgriff auf den KI-Anbieter bedarf ebenfalls einer eigenständigen Anspruchsgrundlage. Entscheidend sind dessen vertragliche Leistungspflichten und allfällige Haftungsbeschränkungen. Die eigene Ersatzpflicht gegenüber dem Kunden lässt sich daher nicht ohne Weiteres auf den Anbieter überwälzen.

Fazit

Der KI-Einsatz verändert die Art der Leistungserbringung, grundsätzlich aber nicht die vertraglichen Pflichten gegenüber dem Kunden. Ob und in welchem Umfang das Unternehmen haftet, hängt von der geschuldeten Leistung und den jeweiligen Anspruchsvoraussetzungen ab. Klare Leistungsvereinbarungen und risikogerechte Qualitätskontrollen sind deshalb zentral. Ein möglicher Rückgriff auf Mitarbeiter oder Anbieter entbindet das Unternehmen nicht von seiner eigenen Verantwortung im Aussenverhältnis.