KI und Recht: Datenschutz, Urheberrecht und Compliance im Versicherungssektor

Rechtsanwalt Christian Kuss, LL.M., Partner bei Luther Rechtsanwaltsgesellschaft mbH

Der Einsatz von KI wirft im Datenschutzrecht wie auch im Urheberrecht grundlegende Fragen auf. „Im Datenschutzrecht stellt die Frage nach der Rechtsgrundlage für die Verarbeitung personenbezogener Daten, insbesondere bei großen Trainingsdatensätzen, einen großen Problempunkt dar. Damit einher geht auch die Gefahr der Verletzung der Transparenzpflicht aus der DSGVO, da Betroffene oftmals nicht nachvollziehen können, inwiefern ihre Daten von der KI genutzt werden“, erläutert Christian Kuss. Weitere Konflikte sieht er mit Prinzipien wie Datenminimierung und Zweckbindung, die mit den Funktionsweisen vieler KI-Systeme kollidieren. Auch die Datenübermittlung in Drittstaaten stelle eine Herausforderung dar.

Im Urheberrecht sind laut Kuss insbesondere zwei Aspekte relevant: „Neben der Frage nach der Urheberschaft von KI-generierten Werken ist auch die Verwendung urheberrechtlich geschützter Werke als Trainingsdaten ohne entsprechende Lizenz weiterhin umstritten. Im Hintergrund geht es um die Frage der ausreichenden monetären Beteiligung der Kreativschaffenden an der Verwendung ihrer Werke zur Entwicklung von KI.“

Neue Compliance-Vorgaben durch die EU-KI-Verordnung

Mit der neuen EU-KI-Verordnung kommen auf Unternehmen – auch auf Versicherer – erhebliche neue Anforderungen zu. „Insbesondere falls es sich um den Einsatz eines Hochrisiko-KI-Systems handelt, was für die Bereiche Risikoprüfung, Tarifierung und Schadenbearbeitung zutreffen könnte“, so Kuss. In diesen Fällen seien Risikobewertungen durchzuführen, Datenqualität sicherzustellen und Transparenzpflichten einzuhalten. Unternehmen müssten ihre internen Prozesse sowie Compliance-Strukturen anpassen und bestehende Strukturen nutzen, um diesen Anforderungen gerecht zu werden. „Zudem ist eine Mitarbeiterschulung von hoher Relevanz“, betont Kuss.

Konkrete rechtliche Risiken beim KI-Einsatz

Einige Risiken könnten sich sehr konkret für Versicherer auswirken. „Ein zentrales Risiko stellt der Verstoß gegen Art. 22 DSGVO dar, wenn automatisierte Entscheidungen ohne menschliche Überprüfung getroffen werden und rechtliche Wirkung entfalten oder sich in erheblicher Weise benachteiligend für die Person auswirken“, warnt Kuss. Auch Datenschutzverstöße durch falsche, von KI erzeugte Informationen seien denkbar, etwa wenn Fehler in der Schadenprüfung unbemerkt an Dritte weitergegeben werden.

Bestehende Systeme erweitern, nicht neu erfinden

Ein kompletter Neustart sei nicht erforderlich, um den Anforderungen zu entsprechen. „Risikomanagementsysteme müssen auf KI-spezifische Risiken erweitert werden“, empfiehlt Kuss. Transparenz, Bias, Datensicherheit – diese Themen müssten in Compliance-Systeme integriert werden. Zudem sei eine Erweiterung der Dokumentationspflichten notwendig. „Regelmäßig können auch vorhandene Gremien mit weiteren Aufgaben betraut werden“, fügt er hinzu.

Geschäftsgeheimnisse und Datensicherheit

Ein unterschätztes Thema ist laut Kuss der Schutz von Geschäftsgeheimnissen. „Mit zunehmendem Einsatz von KI-Systemen steigt auch das Potenzial von Datenlecks“, sagt er. Abhilfe schaffen unter anderem Sicherheitsprotokolle, Audits und eine kontinuierliche Systemüberwachung. „Auch die eigenen Mitarbeiter können zur Sicherheitslücke werden. Schutzmaßnahmen müssen so adaptiert werden, dass sie auch den Einsatz von KI adressieren“, so Kuss.

Effizienzsteigerung durch KI – aber nicht ohne Kontrolle

KI könne viele Prozesse in der Versicherungswirtschaft effizienter machen. „Schadenfälle lassen sich schneller abwickeln, Betrugsprüfungen verbessern, Kundenservice automatisieren“, zählt Kuss auf. Gleichzeitig sei klar: „Die menschliche Kontrolle bleibt unersetzlich.“

Auch für Makler gibt es laut Kuss interessante Möglichkeiten: etwa KI-gestützte Kundenprofile, Vertragsanalysen oder Dokumentenverwaltung. „Im Bereich der Akquise kann eine KI zur Erkennung von Mustern im Kundenverhalten und die entsprechende Marketingstrategie angewandt werden“, sagt er. Wichtig sei jedoch: „Dafür ist stets eine Einwilligung des Kunden zur Nutzung seiner Daten erforderlich.“

Balance zwischen Innovation und Regulierung

Wie diese Balance gelingen kann? „Durch ein proaktives Compliance-System mit klaren Kontrollinstanzen und regelmäßigen Audits“, empfiehlt Kuss. Spezialtools und externes Fachwissen könnten dabei helfen, die Komplexität zu bewältigen.

Abschließend richtet Kuss den Blick auf die kommenden Jahre: „Die KI-Verordnung legt einen wichtigen Grundstein. Doch viele Fragen bleiben offen, hier ist die Entwicklung aus der Rechtspraxis abzuwarten.“ Versicherer seien gut beraten, sich flexibel aufzustellen und technologische wie rechtliche Entwicklungen aktiv zu beobachten.

Das gesamte Interview lesen Sie in der AssCompact April-Ausgabe!