Künstliche Intelligenz und D&O-Versicherung

Mit Blick auf die Haftungsrisiken im Zusammenhang mit KI setzt die seit dem vergangenen Jahr in der EU geltende „Verordnung über künstliche Intelligenz“ neue Rahmenbedingungen. Dass diese bislang vergleichsweise wenig diskutiert werden, erstaunt. So sieht die "Verordnung über künstliche Intelligenz" zahlreiche, mit Geldbußen bis 35 Mio. Euro oder 7 % des weltweiten Umsatzes bewehrte Verbote vor. Hier die wohl wichtigsten Punkte in aller Kürze: Unzulässig ist die Nutzung von KI zur Beeinflussung von Personen – insbesondere solchen mit Beeinträchtigungen – damit sie Entscheidungen treffen, die bei ihnen zu Schäden führen können. Gleiches gilt für den Fall, dass ein Unternehmen KI dazu verwendet, um Personen aufgrund besonderer Persönlichkeitsmerkmale zu bewerten, woraufhin sie ungerechtfertigt benachteiligt werden. Einem Verbot gleich kommt es bei Verwendung von Hochrisiko-KI (also solcher KI, die Risiken für Gesundheit, Sicherheit und Grundrechte birgt), um umfangreiche Schutzmaßnahmen zu unterlassen. Ergänzt werden diese Verbote durch die – wenn auch unsanktionierte – Pflicht zu Schulungsmaßnahmen u. a. im Hinblick auf technische Kenntnisse, Erfahrung, Ausbildung sowie den Kontext, in dem die KI eingesetzt werden soll. Auch wenn die „Verordnung über künstliche Intelligenz“ an dieser Stelle nicht eindeutig ist, muss sie dahingehend ausgelegt werden, dass die genannten Verbote, Vorgaben und Geldbußen allein Unternehmen selbst treffen, nicht aber ihre Organmitglieder.

Welche Pflichten ergeben sich für die Geschäftsführung?

Anders sieht es bei den allgemeinen Anforderungen des deutschen Gesellschaftsrechts aus. Deshalb haben Geschäftsführer und Vorstandsmitglieder z.B. genau darauf zu achten, inwieweit sie KI in ihrem Unternehmen einsetzen sollten oder gerade nicht. So kann es ein Organisationsverschulden der Geschäftsführung darstellen, wenn sie es gänzlich unterlässt, künstliche Intelligenz zweckmäßig einzusetzen und hierdurch unnötige Kosten oder Wettbewerbsnachteile verursacht. Geprüft werden muss von der Geschäftsführung auch, ob eine menschliche Kontrolle der durch KI generierten Ergebnisse unerlässlich ist. Ihre Pflichten verletzen kann die Geschäftsführung daher, wenn sie zwar sinnvollerweise künstliche Intelligenz eingeführt hat, es danach jedoch versäumt, die weitere Anwendung zu kontrollieren, entweder selbst oder durch Beauftragung qualifizierter Mitarbeiter. Geschäftsführer können ferner immer ihren Pflichten zuwiderhandeln, wenn sie nicht für denjenigen Versicherungsschutz sorgen, auf den ihr Unternehmen angewiesen ist. Vorliegend kommt insofern insbesondere der unterlassene Abschluss einer Cyberversicherung in Betracht. Mit deren Hilfe hätten nämlich Schäden versichert werden können, welche auf Cyberangriffen beruhen, die mit Hilfe künstlicher Intelligenz erfolgen und die deshalb besonders gefährlich sind.

Wie haftet die Geschäftsführung?

Was die Anforderungen des deutschen Gesellschaftsrechts betrifft, so haften Geschäftsführer und Vorstandsmitglieder nach dem GmbHG bzw. dem AktG ihrem Unternehmen auf Schadensersatz. Die Verordnung über künstliche Intelligenz hingegen kennt keine Haftungsvorschriften, sofern sie die dortigen Vorgaben verletzen – nicht einmal zulasten der Unternehmen selbst. Was letztere angeht, so wird ein geschädigter Dritter in den meisten Fällen nur über die Umwege einer Haftung nach dem BGB (verletztes Vertragsverhältnis, deliktische Ansprüche) zum Erfolg kommen. Haben Geschäftsführer oder Vorstandsmitglieder diese Unternehmenshaftung verschuldet, ist dann auch Raum für einen Schadensersatzregress des Unternehmens bei ihnen. Gleiches kann für den Fall gelten, dass ihretwegen ein Bußgeld gegen ihr Unternehmen verhängt wird. In allen Fällen gilt: Geschäftsführer und Vorstandsmitglieder haften in voller Höhe mit Ihrem Privatvermögen.

Welche Rolle spielt die D&O-Versicherung?

Bei der Versicherung dieser Haftung lohnt sich ein genauer Blick auf den bestehenden D&O-Versicherungsschutz, denn die D&O-Deckung ist hier in zweierlei Hinsicht äußerst sensibel. Falls Geschäftsführer oder Vorstandsmitglieder direkt im operativen Geschäft tätig werden und dort KI verwenden – z.B. im Hinblick auf Details in der Produktentwicklung –, obwohl dies nicht angebracht ist. Gleiches gilt, wenn der eigenhändige Einsatz von KI zwar sinnvoll ist, dem Geschäftsführer bzw. Vorstandsmitglied jedoch bei der Anwendung als solcher Fehler unterlaufen, etwa durch die Eingabe falscher Ausgangsdaten. Allein das Deckungskonzept von SÜDVERS versichert beide Haftungsszenarien und bietet damit eine lückenlose Deckung für Schäden im Zusammenhang mit dem Einsatz oder Nichteinsatz von KI.

Fazit

Künstliche Intelligenz eröffnet Unternehmen erhebliche Chancen, bringt jedoch gleichzeitig neue Anforderungen an Unternehmensleitungen mit sich. Geschäftsführer und Vorstandsmitglieder müssen künftig nicht nur die regulatorischen Vorgaben der Verordnung über künstliche Intelligenz berücksichtigen, sondern auch sicherstellen, dass KI-Anwendungen verantwortungsvoll eingesetzt, überwacht und in bestehende Organisations- und Kontrollstrukturen eingebunden werden. Deshalb ist damit zu rechnen, dass D&O-Schäden im Zusammenhang mit künstlicher Intelligenz eher zunehmen als abnehmen werden. Optimaler Versicherungsschutz bleibt unerlässlich.

Text der Verordnung über künstliche Intelligenz:

https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=OJ:L_202401689

Dieser Beitrag ist Teil unseres Themennewsletters „Managementperspektive: KI verändert Risiken für Unternehmen“. Profitieren Sie von Expertenwissen zu aktuellen Risikoentwicklungen, Cyberrisiken, Unternehmensverantwortung und Versicherungsthemen.