Auf dem Weg zu Güte­kri­te­ri­en für den Algo­rith­men­ein­satz

Unser #algo­ru­les-Pro­zess in Koope­ra­ti­on mit der Ber­tels­mann Stif­tung läuft seit eini­gen Mona­ten – Zeit für einen Zwi­schen­stand. Unser Ziel ist es, einen Güte­kri­te­ri­en­ka­ta­log für algo­rith­mi­sche Pro­zes­se zu ent­wi­ckeln. Die­ser kann als Refe­renz­punkt für Beschwer­den und Über­prü­fun­gen die­nen.

Hier kön­nen Sie sich einen Über­blick über unse­re ver­gan­ge­nen, aktu­el­len und zukünf­ti­gen Akti­vi­tä­ten ver­schaf­fen.

Was bis­her geschah

Recher­che und Arbeits­pa­pier zu bestehen­den Güte­kri­te­ri­en­ka­ta­lo­gen

Man muss das Rad nicht neu erfin­den – vor allem in den USA hat bereits eine Viel­zahl an Orga­ni­sa­tio­nen den Ver­such gewagt, Qua­li­täts­kri­te­ri­en für Algo­rith­men auf­zu­stel­len oder bestehen­de Kri­te­ri­en­ka­ta­lo­ge zu aktua­li­sie­ren. In der ers­ten Phase des Pro­jek­tes haben wir uns daher gefragt: Wel­che Ansät­ze zu Güte­kri­te­ri­en für Algo­rith­men gibt es bereits und was kön­nen wir dar­aus für die Wei­ter­ent­wick­lung ler­nen?

Drei Ent­wür­fe, die „Princi­ples for Accoun­ta­ble Algo­rithms and a Soci­al Impact State­ment for Algo­rith­mus der FAT/ML-Kon­fe­renz, die „Asi­lo­mar AI Princi­ples“ des Future of Life Insti­tu­te sowie die „Princi­ples for Algo­rith­mic Trans­pa­ren­cy and Accoun­ta­bi­li­ty“ des ACM US Public Poli­cy Coun­cil haben wir genau­er unter die Lupe genom­men und dabei fest­ge­stellt, dass eine Viel­zahl sinn­vol­ler Qua­li­täts­kri­te­ri­en für Algo­rith­men schon gefor­dert wird: von Trans­pa­renz über Fair­ness bis hin zu Ver­ant­wor­tung und Nach­voll­zieh­bar­keit. Woran es jedoch man­gelt, sind die Aus­ein­an­der­set­zung mit spe­zi­fisch ethi­schen Fra­gen, die durch die vor­an­schrei­ten­de Ver­wen­dung von Algo­rith­men in immer mehr Lebens­be­rei­chen auf­ge­wor­fen wer­den, sowie kon­kre­te Anga­ben zur Imple­men­tie­rung des jewei­li­gen Kata­lo­ges.

Das Ergeb­nis unse­rer Bemü­hun­gen fin­den Sie hier in Form eines Arbeits­pa­piers.

Ers­ter Expert*innenworkshop in Ber­lin und Start­schuss für den #algo­ru­les-Pro­zess

Auf Grund­la­ge die­ser Erkennt­nis­se haben wir einen ers­ten Güte­kri­te­ri­en­ka­ta­log ent­wor­fen. Um seine inhalt­li­che Aus­rich­tung zu dis­ku­tie­ren, fand am 25. Mai 2018 ein Expert*innenworkshop in Ber­lin statt, in des­sen Ver­lauf ver­schie­de­ne Per­spek­ti­ven und Erfah­rungs­wer­te zur Gel­tung kamen. Denn Algo­rith­men wer­den von der Pri­vat­wirt­schaft und von öffent­li­chen Stel­len in einer Viel­zahl von Sek­to­ren ein­ge­setzt, von Kom­mu­ni­ka­ti­ons­diens­ten, finan­zi­el­len Risi­ko­be­wer­tun­gen und geziel­ter Wer­bung über Anwen­dun­gen im Bereich der Gesund­heit und der Poli­zei­ar­beit bis hin zur Bil­dung. Zugleich besteht der Ent­wick­lungs­pro­zess algo­rith­mi­scher Sys­te­me aus vie­len Pha­sen, in denen sehr unter­schied­li­che Akteur*innen invol­viert sind. Der Ter­min mit hoch­ran­gi­gen Stakeholder*innen aus einer Viel­zahl von Berei­chen und Fach­ge­bie­ten war zugleich der offi­zi­el­le Auf­takt unse­rer Arbeit an den #algo­ru­les. Die Teil­neh­men­den lie­fer­ten eine Reihe wich­ti­ger Impul­se für die Wei­ter­ent­wick­lung des Kata­lo­ges, sowohl für die Prä­am­bel als auch für neue Kri­te­ri­en.

Nach Abschluss des ers­ten Work­shops ent­hält unser Güte­kri­te­ri­en­ka­ta­log nun­mehr über ein Dut­zend Ele­men­te. Unter Bezug­nah­me auf bewähr­te Instru­men­te, wie Fol­gen­ab­schät­zun­gen und Mecha­nis­men zur Schaf­fung von Trans­pa­renz und Nach­prüf­bar­keit bis hin zu grund­le­gen­den Prin­zi­pi­en wie Fair­ness und Nach­hal­tig­keit, arbei­ten wir an einem kohä­ren­ten Kata­log von gang­ba­ren Anfor­de­run­gen, die nun wei­ter­ent­wi­ckelt und geschärft wer­den sol­len.

Kon­sul­ta­ti­ons­pro­zess

Mit unse­rem Kon­sul­ta­ti­ons­pro­zess geht die Ent­wick­lung des Güte­kri­te­ri­en­ka­ta­lo­ges in eine nächs­te Runde. Dazu befra­gen wir aktu­ell rund vier­zig hoch­ran­gi­ge Expert*innen aus Wis­sen­schaft, Poli­tik, Wirt­schaft, Zivil­ge­sell­schaft, Medi­en und wei­te­ren rele­van­ten Berei­chen. Wir möch­ten dabei nicht nur wert­vol­len Input zur inhalt­li­chen Schär­fung sam­meln. Die Erfah­rungs­wer­te der Vertreter*innen aus unter­schied­li­chen Sek­to­ren sind auch für die Imple­men­tie­rungs­stra­te­gie unver­zicht­bar. Wel­che Anfor­de­run­gen muss ein Güte­kri­te­ri­en­ka­ta­log erfül­len, um von den Akteur*innen in ihren Fel­dern ange­nom­men zu wer­den? Wer sind rele­van­te Multiplikator*innen? Wie kann der Kata­log mit bestehen­den pro­fes­si­ons­ethi­schen Leit­li­ni­en kom­bi­niert wer­den? Dazu erwar­ten wir span­nen­de Ant­wor­ten.

Vor­stel­lung in Expert*innenrunden

Wei­te­res wich­ti­ges Feed­back bekom­men wir durch die Vor­stel­lung unse­res Vor­ha­bens auf ein­schlä­gi­gen Expert*innenveranstaltungen. Wir haben den #algo­ru­les-Pro­zess bei­spiels­wei­se kürz­lich bei einem Work­shop zu smar­ten Assis­tenz­sys­te­men der Stif­tung Neue Ver­ant­wor­tung (SNV) vor­ge­stellt – eben­so wie auf einer Ver­an­stal­tung zum Algo­rith­men-TÜV der Hanns-Sei­del-Stif­tung in Mün­chen.

Sol­che For­ma­te bie­ten uns die Mög­lich­keit, das Vor­ha­ben und den Güte­kri­te­ri­en­ka­ta­log in einer grö­ße­ren Runde zu dis­ku­tie­ren. Dar­über hin­aus bekom­men wir ein Gefühl für die Anwend­bar­keit der ein­zel­nen Punk­te in klar defi­nier­ten Kon­tex­ten – sei es in der Medi­zin oder etwa im Zusam­men­hang mit dem Ver­brau­cher­schutz. Das Feed­back nut­zen wir bei der wei­te­ren Aus­ar­bei­tung des Kata­lo­ges und für die Ent­wick­lung einer Imple­men­tie­rungs­stra­te­gie.

Exper­ti­se zur Ver­bind­lich­keit erfolg­rei­cher Pro­fes­si­ons­ethi­ken

Basie­rend auf unse­ren Leh­ren aus bestehen­den Güte­kri­te­ri­en­ka­ta­lo­gen möch­ten wir für unse­re #algo­ru­les eine effek­ti­ve Stra­te­gie für deren rich­ti­ge Anwen­dung ent­wi­ckeln. Eng damit ver­knüpft ist zum Bei­spiel die Frage, wie eine Pro­fes­si­ons­ethik eine gewis­se Ver­bind­lich­keit erlan­gen kann. Warum soll­ten sich die ver­ant­wort­li­chen Akteur*innen an eine mehr oder weni­ger abs­trak­te Samm­lung von Anfor­de­run­gen hal­ten? Wie kann ein Güte­kri­te­ri­en­ka­ta­log für algo­rith­mi­sche Pro­zes­se zum ver­bind­li­chen Stan­dard wer­den, so wie bei­spiels­wei­se der Pres­se­ko­dex für Journalist*innen einer gewor­den ist?

Die­sen Fra­gen gehen die Autor*innen unse­res Arbeits­pa­pie­res „Ethik für Algo­rith­mi­ker – Was wir von erfolg­rei­chen Pro­fes­si­ons­ethi­ken ler­nen kön­nen“ auf den Grund. Alex­an­der Fili­po­vic, Clau­dia Paga­ni­ni und Chris­to­pher Koska ana­ly­sie­ren dazu sechs Berufs­fel­der und deren berufs­ethi­sche Kodi­zes. Diese Fel­der sind Medi­zin, Jour­na­lis­mus, sozia­le Arbeit, Wer­bung, Öffent­lich­keits­ar­beit und das Inge­nieur­we­sen.

Die Autor*innen iden­ti­fi­zie­ren zehn Erfolgs­fak­to­ren von Pro­fes­si­ons­ethi­ken und geben eine prak­ti­sche Ori­en­tie­rung, wie sich diese auf das Feld der Algo­rith­men­ge­stal­tung anwen­den las­sen. Dies geschieht vor dem Hin­ter­grund einer detail­lier­ten Dar­stel­lung und his­to­ri­schen Ein­ord­nung des Berufs­fel­des der „Algo­rith­mi­ker“.

Aktu­el­le Akti­vi­tä­ten

Zwei­ter Expert*innenworkshop in Ber­lin – Ent­wick­lung einer Imple­men­tie­rungs­stra­te­gie

Um wei­te­re Ideen zur Imple­men­tie­rung zu sam­meln, ver­an­stal­te­ten wir im Herbst 2018 einen zwei­ten Expert*innenworkshop in Ber­lin. Wie schon beim ers­ten Work­shop, haben wir Vertreter*innen aus ver­schie­de­nen Sek­to­ren ein­ge­la­den, um einen mög­lichst brei­ten Ein­blick in die Ent­wick­lung und Anwen­dung algo­rith­mi­scher Sys­te­me zu erlan­gen. Die unter­schied­li­chen Per­spek­ti­ven hel­fen dabei, den Güte­kri­te­ri­en­ka­ta­log zu schär­fen und basie­rend auf den Ergeb­nis­sen des Kon­sul­ta­ti­ons­pro­zes­ses und den Emp­feh­lun­gen von Fili­po­vic, Koska und Paga­ni­ni eine Imple­men­tie­rungs­stra­te­gie zu ent­wi­ckeln.

Aus­blick

Brei­ter Betei­li­gungs­pro­zess

Der Aus­tausch mit aus­ge­wähl­ten Expert*innen im Rah­men von Work­shops oder Kon­sul­ta­tio­nen bil­det eine fun­dier­te Grund­la­ge für die Ent­wick­lung unse­res Güte­kri­te­ri­en­ka­ta­lo­ges. Damit die­ser Güte­kri­te­ri­en­ka­ta­log in der Gesell­schaft akzep­tiert wird, soll er sich zudem auch einer brei­te­ren Debat­te stel­len. Daher gibt es nun einen Betei­li­gungs­pro­zess, der eine grö­ße­re Grup­pe an inter­es­sier­ten Per­so­nen in den Ent­wick­lungs­pro­zess invol­vie­ren soll. Wir wer­den auch dazu wei­te­re Infor­ma­tio­nen an die­ser Stel­le und über Twit­ter ver­öf­fent­li­chen.

Der Pro­zess der #algo­ru­les ist in vol­lem Gange. Wir freu­en uns auf die wei­te­re Zusam­men­ar­beit mit der Ber­tels­mann Stif­tung und allen Betei­lig­ten und hal­ten Sie wei­ter­hin auf dem Lau­fen­den.

zurück zum Bei­trag: Ver­hal­tens­ko­dex für den Ein­satz von Algo­rith­men