KI-Agenten im Unternehmen: Die Rechtsfragen, auf die es jetzt ankommt

KI-Agenten buchen Reisen, beantworten Kundenanfragen, werten Postfächer aus und lösen Bestellungen aus. Darin liegen ihr Nutzen und ihr rechtliches Risiko zugleich: Ein Agent legt innerhalb seiner Berechtigungen selbst fest, welche Daten er heranzieht und welche Schritte er ausführt. Der Rechtsrahmen dafür hat sich im Herbst 2026 deutlich verdichtet. Das neue Produkthaftungsgesetz ist verkündet, das Bayerische Landesamt für Datenschutzaufsicht (BayLDA) hat KI-Agenten zum Prüfschwerpunkt 2027 erklärt, und die Europäische Kommission hat am 11. November 2026 mit dem Digital Fairness Act erstmals (…) Weiterlesen

KI-Kompetenz nach Art. 4 KI-VO: Was Unternehmen nach dem KI-Omnibus 2026 tun müssen

Aktualisierte Fassung, Stand: November 2026. Unseren Beitrag vom 28. Januar 2025 haben wir an den KI-Omnibus, das deutsche Durchführungsgesetz und die aktuellen Hinweise von Bundesnetzagentur und KI-Büro der EU angepasst. Seit dem 2. Februar 2025 müssen Unternehmen, die KI-Systeme beruflich einsetzen, sich um die KI-Kompetenz ihrer Mitarbeitenden kümmern. Das betrifft fast jedes Unternehmen, denn schon der Einsatz von ChatGPT, Copilot oder einem anderen Chatbot im Arbeitsalltag genügt. Mit dem KI-Omnibus (Verordnung (EU) 2026/1744) hat der EU-Gesetzgeber Art. 4 KI-VO im (…) Weiterlesen

Darf Meta personenbezogene Daten für ihr KI-Training verwenden?

Ab dem 27. Mai 2025 will Meta mit den öffentlichen Profildaten ihre KI für den EU-Markt fit machen und daher auch mit den Daten der Nutzerinnen und Nutzer in der EU trainieren. Sie können widersprechen, bis zum 26. Mai 2025, wenn Sie dies nicht möchten. Datenschutzrechtlich bedeutet das: Meta sieht eine Erlaubnis für das Training in ihren berechtigten Interessen nach Art. 6 Abs. 1 UAbs. 1 lit. f DSGVO. Die Verbraucherzentrale NRW sah das anders und beantragte eine einstweilige Verfügung vor (…) Weiterlesen

KI und Datenschutz: Large Language Models und Data Sharing

Die Internationale Arbeitsgruppe für Datenschutz in der Technologie (IWGDPT) – auch genannt „Berlin Group“ – hat am 27. Dezember 2024 unter dem Vorsitz der Bundesbeauftragten für Datenschutz und Informationsformationsfreiheit zwei wegweisende Arbeitspapiere zum Thema „Large Language Models“ (LLMs) und „Data Sharing“ veröffentlicht. Um Innovationen voranzutreiben, neue Erkenntnisse zu gewinnen und neue Produkte und Dienstleistungen zu entwickeln, kommt es immer häufiger zu „Data Sharing“ zwischen Organisationen. Darunter wird die Bereitstellung von Daten zur Nutzung durch andere verstanden. Es findet also eine Datenübertragung (…) Weiterlesen

KI und Datenschutz: EDSA-Stellungnahme zur Verarbeitung personenbezogener Daten in KI-Modellen

Am 18. Dezember 2024 hat der Europäische Datenschutzausschuss (EDSA) eine neue Stellungnahme zu bestimmten datenschutzrechtlichen Aspekten bei der Verarbeitung von personenbezogenen Daten im Zusammenhang mit KI-Modellen veröffentlicht. Die Stellungnahme enthält richtungsweisende Leitlinien für Entwickler und Nutzer von KI-Modellen und adressiert zentrale Themen wie die Frage, wann ein KI-Modell personenbezogene Daten enthält, die Bewertung des berechtigten Interesses als Rechtsgrundlage für die Entwicklung und Nutzung von KI-Modellen und Rechtsfolgen bei unrechtmäßiger Datenverarbeitung bei Entwicklung eines KI-Modells. Mit der Stellungnahme 28/2024 vom 17. (…) Weiterlesen