Algo.Rules
Kriterien entwickeln, um algorithmische Systeme gemeinwohlorientiert zu gestalten
Der immer größere Einsatz von algorithmischen Systemen bringt Chancen, aber auch Risiken für die Gesellschaft. Wir sind überzeugt, dass deshalb die Gestaltung der algorithmischen Systeme einen bestimmten Rahmen haben muss. Gemeinsam mit der Bertelsmann Stiftung haben wir uns dieser Aufgabe gestellt.
Die Herausforderung
Algorithmische Systeme bestimmen für und über uns, indem sie zum Beispiel Bewerbungen filtern und Krankheitsdiagnosen stellen, die Kreditwürdigkeit analysieren oder der Polizei Streifenrouten vorschlagen. Sie werden damit zunehmend auch in Bereichen eingesetzt, die einen direkten oder mittelbaren, immer jedoch signifikanten Einfluss auf das Leben der Menschen oder die Gesellschaft haben – und das längst nicht nur in Taschenrechnern. Deshalb müssen wir als Gesellschaft darüber diskutieren, wie der Einsatz dieser Technologie uns allen mehr Chancen als Risiken eröffnen kann.
Unsere Herangehensweise
Algorithmische Systeme werden nicht nur von Programmierer*innen gestaltet, sondern auch von vielen anderen, angefangen bei Führungskräften bis hin zu Anwender*innen. Deshalb ist uns eine partizipative Herangehensweise mit Vertreter*innen aus der Wissenschaft und Forschung, aus Unternehmen und Verbänden, der Zivilgesellschaft und von NGOs, sowie aus der Politik und Verwaltung besonders wichtig gewesen.
Das Ergebnis
Nach einem offenen, partizipativen und interdisziplinären Prozess mit bislang über 400 Beteiligten, zahlreichen Workshops und Konsultationen, sowie einer großen Umfrage sind neun sogenannte Algo.Rules entstanden.
Dabei handelt es sich um einen Katalog an formalen Kriterien, die beachtet werden sollten, um eine gesellschaftlich förderliche Gestaltung und Überprüfung von algorithmischen Systemen zu ermöglichen und zu erleichtern. Damit legen wir eine Grundlage für ethische Erwägungen und für die Um- und Durchsetzung rechtlicher Rahmenbedingungen.
Damit die Algo.Rules im Arbeitsalltag nutzbar werden, haben wir sie im nächsten Schritt konkretisiert. Wir bieten Praxishilfe an, die sich direkt an die Gestalter*innen, aber auch an Nutzer*innen von Algorithmischen Systemen richten.
Ein Praxisleitfaden unterstützt Entwicker*innen und ihre Führungskräfte bei der Operationalisierung der Algo.Rules in ihrem Arbeitsalltag.
Mehr dazu hier.
Im letzten Schritt haben wir die Algo.Rules in einer Handreichung für den Einsatz algorithmischer Assistenzsysteme für den öffentlichen Sektor übersetzt. Als Praxishilfe dient sie so als Inspirationsquelle und Befähigungswerkzeug, um diese Systeme gemeinwohlorientiert zu gestalten. Mehr dazu hier.
Weitere Informationen zu den Algo.Rules gibt es auf www.algorules.org.
Eine Initiative der
