Rück­blick: Ver­an­stal­tung zum Thema Chan­cen und Risi­ken der Nut­zung von Algo­rith­men

Unter dem Titel „Chan­cen und Risi­ken der Nut­zung von Algo­rith­men – wie kön­nen wir die digi­ta­le Sou­ve­rä­ni­tät der Verbraucher*innen stär­ken?“ ver­an­stal­te­ten die Ber­li­ner Senats­ver­wal­tung für Jus­tiz, Ver­brau­cher­schutz und Anti­dis­kri­mi­nie­rung und das iRights.Lab ein abwechs­lungs­rei­ches Pro­gramm zum Thema in der Neuen Mäl­ze­rei. Bei­trä­ge von span­nen­den Referent*innen und enga­gier­te Dis­kus­sio­nen der Teil­neh­men­den in unter­schied­li­chen Work­shops haben das Thema von vie­len ver­schie­de­nen Sei­ten beleuch­tet und auch Lösungs­an­sät­ze her­vor­ge­bracht.

In ihrem Gruß­wort beton­te Mar­git Gott­stein, Staats­se­kre­tä­rin für Ver­brau­cher­schutz und Anti­dis­kri­mi­nie­rung des Lan­des Ber­lin, die Omni­prä­senz von Algo­rith­men, die uns tag­täg­lich umge­ben, ohne dass wir sie bewusst wahr­neh­men. Gleich­zei­tig nahm sie die Poli­tik und die Ver­wal­tung in die Ver­ant­wor­tung: „Wir sind in der Pflicht zu einer bes­se­ren Ver­brau­cher­infor­ma­ti­on bei­zu­tra­gen“. Phil­ipp Otto, Direk­tor des unab­hän­gi­gen Think Tanks iRights.Lab, schloss sich vol­ler Vor­freu­de auf den Tag mit sei­nem Gruß­wort an. Der Fokus müsse ihm zufol­ge auf der Frage lie­gen, wie das Leben der Men­schen ver­bes­sert wer­den könne. Zudem sei es wich­tig zu beden­ken, dass der Umgang mit Algo­rith­men nicht nur eine Frage der Mach­bar­keit, son­dern vor allem eine poli­ti­sche Frage sei. In der Key­note wurde von Klaus Mül­ler, Vor­stand des Ver­brau­cher­zen­tra­le Bun­des­ver­bands, bei­spiel­haft das Phä­no­men der per­so­na­li­sier­ten Prei­se beleuch­tet. Sei­ner Ein­schät­zung nach werde es zukünf­tig eine Pyra­mi­de der Kon­trol­le geben: Meis­tens wer­den Algo­rith­men auf völ­lig unpro­ble­ma­ti­sche Weise ein­ge­setzt. Falls Pro­ble­me auf­tre­ten, sei jedoch in eini­gen Berei­chen eine ex post, also nach­träg­li­che Kon­trol­le nötig, nur in sel­te­nen Fäl­len sei eine ex ante Über­prü­fung im Vor­feld erfor­der­lich.

Anschlie­ßend an die ein­lei­ten­den Vor­trä­ge haben sich die rund 90 Teil­neh­men­den in drei ver­tie­fen­den Arbeits­grup­pen getrof­fen. Der Work­shop „Woh­nen – Smart und ver­netzt“ pro­fi­tier­te von einem Input durch Caro­lin Johann­sen, Wis­sen­schaft­li­che Mit­ar­bei­te­rin in der Arbeits­grup­pe Kogni­ti­ve Neu­ro­in­for­ma­tik an der Uni­ver­si­tät Bre­men. Dr. Otmar Lell, Lei­ter des Teams Recht und Han­del beim Ver­brau­cher­zen­tra­le Bun­des­ver­band, führ­te am Bei­spiel der per­sön­li­chen Assis­tenz in den Work­shop „Ein­kau­fen – Sco­ring und der Super­markt der Zukunft“ ein. Der drit­te Work­shop „Kal­ku­lier­te Gesund­heit – E‑Health und Dr. Goog­le“ wurde von Dr. Mat­t­hieu Schapra­now, Sci­en­ti­fic Mana­ger für Digi­tal Health Inno­va­tions des Hasso-Platt­ner-Insti­tuts, beglei­tet. In allen Work­shops wurde inten­siv gear­bei­tet und dis­ku­tiert. Im Anschluss an die Work­shops wur­den poin­tier­te Fra­gen und zen­tra­le Aspek­te aus den Work­shops zurück ins Ple­num getra­gen. Diese bil­de­ten die Basis für die abschlie­ßen­de Podi­ums­dis­kus­si­on.

Dr. Dirk Beh­rendt, Sena­tor für Jus­tiz, Ver­brau­cher­schutz und Anti­dis­kri­mi­nie­rung des Lan­des Ber­lin, stell­te her­aus, dass die Zukunft noch nicht anti­zi­pier­bar sei: „Gera­de von poli­ti­scher Seite ist es uns wich­tig, im stän­di­gen Dia­log mit allen rele­van­ten Stel­len zu sein. Wir brau­chen einen kon­ti­nu­ier­li­chen Aus­tausch”. Anek­do­tisch zeig­te er auf, dass Regu­lie­rung durch­aus gesche­he, jedoch teils erfolg­rei­cher durch pri­va­te Player*innen, als durch staat­li­che Insti­tu­tio­nen. Er mach­te deut­lich, dass viele finanz­kräf­ti­ge Inter­es­sen an dem Umgang mit Algo­rith­men mit­ge­stal­ten wol­len und diese Macht­fra­ge sowohl auf deut­scher, als auch auf euro­päi­scher Ebene zu dis­ku­tie­ren sei. Es sei wich­tig, hier den Blick und die Per­spek­ti­ve der Verbraucher*innen nicht zu ver­nach­läs­si­gen und die Rech­te der Nutzer*innen ggf. durch ent­spre­chen­de Regu­lie­rungs­maß­nah­men zu schüt­zen.

Algo­rith­men seien letzt­end­lich nichts ande­res als Hand­lungs­an­wei­sun­gen, beton­te Carla Hustedt, Pro­jekt­ma­na­ge­rin von „Ethik der Algo­rith­men“ der Ber­tels­mann Stif­tung, und for­der­te eine Ent­mys­ti­fi­zie­rung. Gleich­zei­tig seien höhe­re Stan­dards an algo­rith­mi­sche, als an ana­lo­ge Sys­te­me zu set­zen, da diese ska­lier­bar seien. Beson­ders hob sie die Bedeu­tung von Viel­fäl­tig­keit der Gesell­schaft her­aus, die sich sowohl in den Daten­sets der Algo­rith­men wider­spie­geln müsse als auch bei denen, die diese Daten pro­gram­mie­ren.

Dem Kom­men­tar einer Teil­neh­me­rin, dass sie mehr Sorge als Vor­freu­de in der gegen­wär­ti­gen Debat­te spüre, wider­sprach Prof. Dr. Ina Schie­fer­de­cker, Grün­dungs­di­rek­to­rin des Wei­zen­baum-Insti­tuts für die ver­netz­te Gesell­schaft. Der Ein­satz von Algo­rith­men sei keine neue Bege­ben­heit, viel­mehr seien sie schon lange Bestand­teil von jeder Soft­ware. Eine plötz­lich auf­tre­ten­de Besorg­nis sei somit nicht gerecht­fer­tigt. Trotz­dem müsse Nach­voll­zieh­bar­keit geför­dert und belast­ba­re Zer­ti­fi­zie­run­gen auf­ge­baut wer­den.

Rebek­ka Weiß, Bereichs­lei­te­rin für Daten­schutz & Ver­brau­cher­recht beim Bit­kom, ergänz­te, dass eine bloße For­de­rung nach Trans­pa­renz nicht die ein­zi­ge Her­an­ge­hens­wei­se an die The­ma­tik sein könne. Viel­mehr sei es eine inter­dis­zi­pli­nä­re Auf­ga­be, bei der sie die Wirt­schaft an der Seite der Poli­tik sehe. Lobend hob sie in die­sem Zusam­men­hang die hete­ro­ge­ne Panel­be­set­zung sowie den Ansatz der Ver­an­stal­tung her­vor, sich dem Thema in ver­schie­de­nen For­ma­ten zu nähern. Wich­tig sei zudem ein ver­ste­tig­ter Aus­tausch, um sich kon­ti­nu­ier­lich über Chan­cen und Risi­ken der Nut­zung von Algo­rith­men aus­zu­tau­schen.

Am Ende herrsch­te Einig­keit dar­über, dass der Fokus beim Ein­satz von Algo­rith­men in teil­neh­mer- und ent­schei­dungs­re­le­van­ten Sys­te­men in Berei­chen lie­gen müsse, in denen die Maschi­ne kom­pe­ten­ter als der Mensch sei und alle von dem Ein­satz von Algo­rith­men pro­fi­tie­ren.

Impres­sio­nen von der Ver­an­stal­tung fin­den Sie hier in unse­rer Foto-Gale­rie.

Das Lab

Schüt­zen­stra­ße 8
D‑10117 Ber­lin

kontakt@irights-lab.de
Tele­fon: +49 30 40 36 77 230
Fax: +49 30 40 36 77 260