Machine Learning: Compliance und Risikomanagement bei KI-Anwendungen

Auf dem Weg zum Produktiveinsatz von Machine Learning (ML) fokussieren viele Organisationen auf MLOps, also den Aufbau von technischer Infrastruktur und die Entwicklung von Prozessen für Training, Betrieb und Monitoring von ML-Modellen. Mit zunehmendem Einsatz von ML-basierten Systemen für unternehmenskritische Anwendungen rücken jedoch Fragen zu deren Vertrauenswürdigkeit und Compliance in den Mittelpunkt. Insbesondere hochkomplexe “Black-Box”-Systeme stellen hier eine Herausforderung dar.

Anhand verschiedener KI-Anwendungen im Personalbereich zeigen wir, dass auch auf den ersten Blick harmlose Anwendungen erhebliche Risiken mit sich bringen. Anschließend stellen wir Ansätze und Wege vor, wie Organisationen Model Governance und Explainable AI einsetzen können, um diesen Risiken zu begegnen und Stakeholdern wie dem Management, Mitarbeitenden in Fachabteilungen und Prüfer:innen die Möglichkeit zu geben, die Leistung von KI-Systemen und ihre Compliance mit internen sowie regulatorischen Anforderungen zu beurteilen.

Date
2022-12-15
Time
11:00 - 11:45
Online Event
IT-Tage 2022

TAGS