Rückblick: Veranstaltung zum Thema Chancen und Risiken der Nutzung von Algorithmen

Unter dem Titel „Chancen und Risiken der Nutzung von Algorithmen – wie können wir die digitale Souveränität der Verbraucher*innen stärken?“ veranstalteten die Berliner Senatsverwaltung für Justiz, Verbraucherschutz und Antidiskriminierung und das iRights.Lab ein abwechslungsreiches Programm zum Thema in der Neuen Mälzerei. Beiträge von spannenden Referent*innen und engagierte Diskussionen der Teilnehmenden in unterschiedlichen Workshops haben das Thema von vielen verschiedenen Seiten beleuchtet und auch Lösungsansätze hervorgebracht.

In ihrem Grußwort betonte Margit Gottstein, Staatssekretärin für Verbraucherschutz und Antidiskriminierung des Landes Berlin, die Omnipräsenz von Algorithmen, die uns tagtäglich umgeben, ohne dass wir sie bewusst wahrnehmen. Gleichzeitig nahm sie die Politik und die Verwaltung in die Verantwortung: „Wir sind in der Pflicht zu einer besseren Verbraucherinformation beizutragen“. Philipp Otto, Direktor des unabhängigen Think Tanks iRights.Lab, schloss sich voller Vorfreude auf den Tag mit seinem Grußwort an. Der Fokus müsse ihm zufolge auf der Frage liegen, wie das Leben der Menschen verbessert werden könne. Zudem sei es wichtig zu bedenken, dass der Umgang mit Algorithmen nicht nur eine Frage der Machbarkeit, sondern vor allem eine politische Frage sei. In der Keynote wurde von Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands, beispielhaft das Phänomen der personalisierten Preise beleuchtet. Seiner Einschätzung nach werde es zukünftig eine Pyramide der Kontrolle geben: Meistens werden Algorithmen auf völlig unproblematische Weise eingesetzt. Falls Probleme auftreten, sei jedoch in einigen Bereichen eine ex post, also nachträgliche Kontrolle nötig, nur in seltenen Fällen sei eine ex ante Überprüfung im Vorfeld erforderlich.

Anschließend an die einleitenden Vorträge haben sich die rund 90 Teilnehmenden in drei vertiefenden Arbeitsgruppen getroffen. Der Workshop „Wohnen – Smart und vernetzt“ profitierte von einem Input durch Carolin Johannsen, Wissenschaftliche Mitarbeiterin in der Arbeitsgruppe Kognitive Neuroinformatik an der Universität Bremen. Dr. Otmar Lell, Leiter des Teams Recht und Handel beim Verbraucherzentrale Bundesverband, führte am Beispiel der persönlichen Assistenz in den Workshop „Einkaufen – Scoring und der Supermarkt der Zukunft“ ein. Der dritte Workshop „Kalkulierte Gesundheit – E-Health und Dr. Google“ wurde von Dr. Matthieu Schapranow, Scientific Manager für Digital Health Innovations des Hasso-Plattner-Instituts, begleitet. In allen Workshops wurde intensiv gearbeitet und diskutiert. Im Anschluss an die Workshops  wurden pointierte Fragen und zentrale Aspekte aus den Workshops zurück ins Plenum getragen. Diese bildeten die Basis für die abschließende Podiumsdiskussion.

Dr. Dirk Behrendt, Senator für Justiz, Verbraucherschutz und Antidiskriminierung des Landes Berlin, stellte heraus, dass die Zukunft noch nicht antizipierbar sei: „Gerade von politischer Seite ist es uns wichtig, im ständigen Dialog mit allen relevanten Stellen zu sein. Wir brauchen einen kontinuierlichen Austausch”. Anekdotisch zeigte er auf, dass Regulierung durchaus geschehe, jedoch teils erfolgreicher durch private Player*innen, als durch staatliche Institutionen. Er machte deutlich, dass viele finanzkräftige Interessen an dem Umgang mit Algorithmen mitgestalten wollen und diese Machtfrage sowohl auf deutscher, als auch auf europäischer Ebene zu diskutieren sei. Es sei wichtig, hier den Blick und die Perspektive der Verbraucher*innen nicht zu vernachlässigen und die Rechte der Nutzer*innen ggf. durch entsprechende Regulierungsmaßnahmen zu schützen.

Algorithmen seien letztendlich nichts anderes als Handlungsanweisungen, betonte Carla Hustedt, Projektmanagerin von „Ethik der Algorithmen“ der Bertelsmann Stiftung, und forderte eine Entmystifizierung. Gleichzeitig seien höhere Standards an algorithmische, als an analoge Systeme zu setzen, da diese skalierbar seien. Besonders hob sie die Bedeutung von Vielfältigkeit der Gesellschaft heraus, die sich sowohl in den Datensets der Algorithmen widerspiegeln müsse als auch bei denen, die diese Daten programmieren.

Dem Kommentar einer Teilnehmerin, dass sie mehr Sorge als Vorfreude in der gegenwärtigen Debatte spüre, widersprach Prof. Dr. Ina Schieferdecker, Gründungsdirektorin des Weizenbaum-Instituts für die vernetzte Gesellschaft. Der Einsatz von Algorithmen sei keine neue Begebenheit, vielmehr seien sie schon lange Bestandteil von jeder Software. Eine plötzlich auftretende Besorgnis sei somit nicht gerechtfertigt. Trotzdem müsse Nachvollziehbarkeit gefördert und belastbare Zertifizierungen aufgebaut werden.

Rebekka Weiß, Bereichsleiterin für Datenschutz & Verbraucherrecht beim Bitkom, ergänzte, dass eine bloße Forderung nach Transparenz nicht die einzige Herangehensweise an die Thematik sein könne. Vielmehr sei es eine interdisziplinäre Aufgabe, bei der sie die Wirtschaft an der Seite der Politik sehe. Lobend hob sie in diesem Zusammenhang die heterogene Panelbesetzung sowie den Ansatz der Veranstaltung hervor, sich dem Thema in verschiedenen Formaten zu nähern. Wichtig sei zudem ein verstetigter Austausch, um sich kontinuierlich über Chancen und Risiken der Nutzung von Algorithmen auszutauschen.

Am Ende herrschte Einigkeit darüber, dass der Fokus beim Einsatz von Algorithmen in teilnehmer- und entscheidungsrelevanten Systemen in Bereichen liegen müsse, in denen die Maschine kompetenter als der Mensch sei und alle von dem Einsatz von Algorithmen profitieren.

Impressionen von der Veranstaltung finden Sie hier in unserer Foto-Galerie.