Verbraucherzentrale: Algorithmen kontrollieren - geltendes Recht durchsetzen

Digitale Einkaufsassistenten, Smart-Home-Anwendungen, individuelle Kreditausfallrisiken – Algorithmen nehmen in unserer Welt einen immer größeren Platz ein. Menschen müssen algorithmenbasierte Entscheidungen, zum Beispiel den abgelehnten Kreditantrag oder hohe Versicherungstarife, nachvollziehen, überprüfen und wenn nötig anfechten können. Das fordert der Verbraucherzentrale Bundesverband (vzbv) in einem aktuellen Positionspapier.

„Wenn Entscheidungen automatisiert getroffen werden, die großen Einfluss auf Einzelne und die gesamte Gesellschaft haben können, müssen solche Systeme auch überprüft werden können“, so Klaus Müller, Vorstand des vzbv. „Je größer das Schadenspotenzial für Verbraucher ist, desto transparenter müssen algorithmenbasierte Entscheidungen sein. Dafür müssen die Betreiber des Systems sorgen.“

Das Positionspapier des vzbv basiert auf einem Gutachten von Prof. Dr. Mario Martini, Deutsche Universität für Verwaltungswissenschaften Speyer, sowie auf einem Gutachten von Prof. Dr. Katharina Zweig und Tobias Krafft, TU Kaiserslautern.

Aus Sicht des vzbv sollten Aufsichtsbehörden bei Bedarf Einblick in algorithmenbasierte Entscheidungssysteme (ADM-Systeme) erhalten, gerade in sensiblen Anwendungsfeldern. „Experten müssen die Algorithmen einsehen und überprüfen können“, so Müller. So sollen auch Rechtsverstöße erkannt und sanktioniert werden können. Dazu sollte eine Unterstützungseinheit auf Bundesebene geschaffen werden, die bestehende Aufsichtsbehörden mit technisch-methodischer Expertise unterstützt. Die Überprüfung könne so gestaltet werden, dass Betriebs- und Geschäftsgeheimnisse gewahrt bleiben.

Beispielsweise könnte laut vzbv die Unterstützungseinheit die Gleichstellungsbeauftragte der Bundesregierung darin unterstützen, ADM-Systeme auf eine mögliche Diskriminierung von einzelnen Bevölkerungsgruppen hin zu überprüfen, zum Beispiel, wenn Frauen und Männer unterschiedliche Konditionen für das dasselbe Produkt erhalten würden.

Bei risikobehafteten Entscheidungen sollten Verbraucher aus Sicht des vzbv ein Auskunftsrecht erhalten. Damit sollten Betreiber verpflichtet werden, Betroffenen zu erläutern, wie die Ergebnisse zustande kommen. „Verbraucher sollten algorithmenbasierte Entscheidungen nachvollziehen und wenn nötig anfechten können. Um das tun zu können, müssen sie aber die verwendete Datengrundlage, deren Gewichtung und das Risiko von Fehlschlüssen kennen“, so Müller.

Der vzbv fordert zudem verbindliche Standards für die Gestaltung von ADM-Systemen, um sicherzustellen, dass die Einhaltung gesetzlicher Vorgaben überprüft werden kann. Dafür seien auch technische Schnittstellen erforderlich. „ADM-Systeme müssen verbraucherfreundlich gestaltet werden. Nur so gelingt es, dass die Menschen in Deutschland und Europa diesen Systemen künftig stärker vertrauen können“, so Müller.