Algo.Rules

Kriterien entwickeln, um algorithmische Systeme gemeinwohlorientiert zu gestalten

Der immer größere Einsatz von algorithmischen Systemen bringt Chancen, aber auch Risiken für die Gesellschaft. Wir sind überzeugt, dass deshalb die Gestaltung der algorithmischen Systeme einen bestimmten Rahmen haben muss. Gemeinsam mit der Bertelsmann Stiftung haben wir uns dieser Aufgabe gestellt.

Die Her­aus­for­de­rung 

Algo­rith­mi­sche Sys­te­me bestim­men für und über uns, indem sie zum Bei­spiel Bewer­bun­gen fil­tern und Krank­heits­dia­gno­sen stel­len, die Kre­dit­wür­dig­keit ana­ly­sie­ren oder der Poli­zei Strei­fen­rou­ten vor­schla­gen. Sie wer­den damit zuneh­mend auch in Berei­chen ein­ge­setzt, die einen direk­ten oder mit­tel­ba­ren, immer jedoch signi­fi­kan­ten Ein­fluss auf das Leben der Men­schen oder die Gesell­schaft haben – und das längst nicht nur in Taschen­rech­nern. Des­halb müs­sen wir als Gesell­schaft dar­über dis­ku­tie­ren, wie der Ein­satz die­ser Tech­no­lo­gie uns allen mehr Chan­cen als Risi­ken eröff­nen kann.

Unse­re Her­an­ge­hens­wei­se 

Algo­rith­mi­sche Sys­te­me wer­den nicht nur von Programmierer*innen gestal­tet, son­dern auch von vie­len ande­ren, ange­fan­gen bei Füh­rungs­kräf­ten bis hin zu Anwender*innen. Des­halb ist uns eine par­ti­zi­pa­ti­ve Her­an­ge­hens­wei­se mit Vertreter*innen aus der Wis­sen­schaft und For­schung, aus Unter­neh­men und Ver­bän­den, der Zivil­ge­sell­schaft und von NGOs, sowie aus der Poli­tik und Ver­wal­tung beson­ders wich­tig gewe­sen.

Das Ergeb­nis

Nach einem offe­nen, par­ti­zi­pa­ti­ven und inter­dis­zi­pli­nä­ren Pro­zess mit bis­lang über 400 Betei­lig­ten, zahl­rei­chen Work­shops und Kon­sul­ta­tio­nen, sowie einer gro­ßen Umfra­ge sind neun soge­nann­te Algo.Rules ent­stan­den. Dabei han­delt es sich um einen Kata­log an for­ma­len Kri­te­ri­en, die beach­tet wer­den soll­ten, um eine gesell­schaft­lich för­der­li­che Gestal­tung und Über­prü­fung von algo­rith­mi­schen Sys­te­men zu ermög­li­chen und zu erleich­tern. Damit legen wir eine Grund­la­ge für ethi­sche Erwä­gun­gen und für die Um- und Durch­set­zung recht­li­cher Rah­men­be­din­gun­gen. Jetzt arbei­ten wir daran, die Algo.Rules ziel­grup­pen­spe­zi­fisch zu kon­kre­ti­sie­ren.

Wei­te­re Infor­ma­tio­nen gibt es auf der Algo.Rules-Website.

Partner

Bertelsmann Stiftung

Das Lab

Schüt­zen­stra­ße 8
D‑10117 Ber­lin

kontakt@irights-lab.de
Tele­fon: +49 30 40 36 77 230
Fax: +49 30 40 36 77 260