Die Bundesnetzagentur hat die ersten Bußgelder nach dem EU AI Act verhängt. Zwei Unternehmen wurden wegen Verstößen gegen die Transparenzpflichten des AI Acts belangt – in einem Fall geht es um den Einsatz eines KI-gestützten Bewerbungsprozesses, im anderen um eine automatisierte Kreditentscheidung ohne angemessene menschliche Aufsicht.
Die Verfahren sind ein Weckruf. Der AI Act ist kein zahnloses Regelwerk. Die Aufsichtsbehörden bauen ihre Expertise auf, und erste Urteile zeigen: Die Anforderungen an Transparenz, Dokumentation und menschliche Aufsicht werden ernst genommen. Die Bußgelder bewegen sich im sechsstelligen Bereich – für Mittelständler ein existentielles Risiko.
Was Unternehmen jetzt tun müssen
- Bestandsaufnahme: Welche KI-Systeme sind im Einsatz? Fallen sie unter den AI Act? Je nach Risikoklasse gelten unterschiedliche Anforderungen.
- Dokumentation aufbauen: Der AI Act verlangt detaillierte technische Dokumentation für jedes KI-System. Wer heute nicht dokumentiert, kann morgen nicht compliance-nachweisen.
- Menschliche Aufsicht sicherstellen: Automatisierte Entscheidungen benötigen einen menschlichen Review-Prozess. Das gilt besonders für HR, Finanzdienstleistungen und sicherheitsrelevante Anwendungen.
- Transparenzpflichten umsetzen: Kunden und Geschäftspartner müssen informiert werden, wenn sie mit einem KI-System interagieren. Klingt trivial – in der Praxis komplex.
nAIce-Ansatz
Unsere Agenten-Plattform ist AI-Act-ready. Vollständige Audit-Logs, dokumentierte Entscheidungsprozesse, menschlicher Review-Workflow für kritische Aktionen – und das alles auf deutscher Infrastruktur. Compliance ist kein Add-on, sondern Teil der Systemarchitektur.
„Der AI Act ist kein Grund, auf KI zu verzichten. Er ist ein Grund, KI richtig zu bauen. Wer das jetzt angeht, hat in zwei Jahren einen Wettbewerbsvorteil – alle anderen haben ein Compliance-Problem."