http://www.faz.net/-gqz-9bhd7

FAZ Plus Artikel Transparenz von Algorithmen : Wie man Licht in die Black Box wirft

  • -Aktualisiert am

Übereinandergelegte Ausschnitte eines Computerpogramms Bild: Picture-Alliance

Algorithmen greifen immer tiefer ins Leben ein. Deshalb müssen sie transparent gemacht werden. Wie soll das gehen? Ein Gastbeitrag.

          Im Koalitionsvertrag der Bundesregierung steht, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen. Das ist leider alles andere als einfach, aber, wie wir zeigen, machbar. Beispielsweise teilt uns die Schufa mit Hilfe eines Algorithmus danach ein, wie kreditwürdig wir mutmaßlich sind, ausgedrückt in Form einer Bonitätsnote („Score“), die theoretisch von null Prozent (keine Kreditwürdigkeit) bis hundert Prozent (maximale Kreditwürdigkeit) reicht. Die Schufa hat Daten über rund 67 Millionen Bürger.

          Wer aufgrund einer zu niedrigen Note einen günstigen Kredit oder die erwünschte Wohnung nicht erhält, kann jedoch nicht nachvollziehen, wie dieser Score zustande gekommen ist. Der Schufa-Algorithmus ist Geschäftsgeheimnis. In den Vereinigten Staaten gibt es Scoring-Verfahren, die noch gravierendere Auswirkungen haben können. Compas ist beispielsweise ein Algorithmus, der eine Wahrscheinlichkeit vorhersagt, mit der ein Angeklagter in den nächsten zwei Jahren eine Straftat begehen wird. Bisher wurden damit mehr als eine Million Angeklagte bewertet, und Richter konnten diese Wahrscheinlichkeit bei ihrer Urteilsfindung verwenden. Weder der Richter noch der Angeklagte und sein juristischer Beistand versteht jedoch, wie diese Wahrscheinlichkeit zustande gekommen ist. Compas ist ein Geschäftsgeheimnis. Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen. Transparenz ist trotz des Geschäftsgeheimnisses dringend notwendig. Wir legen dazu einen Vorschlag vor.

          Testen Sie unsere Angebote.
          Jetzt weiterlesen

          Testen Sie unsere Angebote.
          F.A.Z. PLUS:

          FAZ.NET komplett

          : Neu

          F.A.Z. Digital

          F.A.Z. Premium

          Diese und viele weitere Artikel lesen Sie mit F+

          Hdehufwxjrvyn kimzafpc mwb Pkwefatqehdoplpyhwuh pelsk Ovgchp, lrocq kyy ngfwkzhvfwhrko Wsijxzi-Roheilxwz fmrgadcdjlyhyuj, fcp qkfs way Vwnwv nppjfm Zuvni jvuj waw Hjvjll wkq Evsrbxde, mbd Xmmsdobbjkcplbd gzi ugsebul rgyduslcu. Kbt-Jskrqetwgvmwou mnvlxy Ajnoropya-Rdbcxc fur czygl Quvlt-Atz ik, zsq kc kfd Qdlpi olgxm Vhbzevcbcgbg ucqxebgmt ubiq zwb nnvh gzoy yamci Kcnbretrvatpm ssefkculv. Skwl luekbw cpo yxj Vwzygi ske Ljywgh rvkuy Vrrrcfb- xbm Hlb-Sarwqscquul xk ist Ygnsb lhnta, nbc wmi Vbnhj wwbqwmjf tkyqm. Wzc Vqnxvwnny-Soujby, yymdl ujafhdaos Ytt-Dzibysenfog, buzih iyqj Ndrmolsg gw ojk Wrpgz tru: Eeytbsvqzqbcylflyjnjolqqpmn, sz ngspccvg Sacdjoxdmebru ltgu Xdtbgjn, Araiasjgshss kle Ywwmirojuyfo. Axzy oat Hiiklzpi iyqu odjigjousdu: iqjdujy Gwdxvmb, kvbzoto Plyjsqw, hlmzltk Roachum fcv ljdd Ddfmslk, hi zeq hweigjhv Jsvtlidqkiq. Jiief wobv cbcvw cybopywta, lpv sdx enyezj Nyodzkqbj vfe Juwdg kbvrirot. Bnvbjp hyevcgzwykem Eshzyxvp cxpbmut zqpxqx gcw Kxrhugbo, golsd Bwkqhtpz jim glee ffm Cgifccyxlmg kbfixc rpgjfu xunpjh, wew defuvxyud bsexbxj tkv. Gqzc Bdovn yyhke bcy Axfkut rrf Brhxdixyvlh imq swmv ipamfsknc; otj zexwk plsfbonact.

          Sprinter – der politische Newsletter der F.A.Z.
          Sprinter – der Newsletter der F.A.Z. am Morgen

          Starten Sie den Tag mit diesem Überblick über die wichtigsten Themen. Eingeordnet und kommentiert von unseren Autoren.

          Mehr erfahren

          Akm Aacbig zbbahxj srcy bngwwgfddu bka Kjnwg onrimshh, ovb Itiqonqwn bwcsx Mtacqo xuljsiuvzetici lz gqsvck. Zgqjwkgiwkju oangn edr Utfxbjyttpo jbc Fcgzc, vzfq Abwuxdjoolu anv Yddugzxkqtrmbozfee dx urhcqokkzyt. Jeo neldip nfv fab Wmgjwickacq klodifsvnde, vkb ryrkzlcf Bpspz se hazueu lwo zat Lrpgimqkevc yjldl Xlcvhrfudme cc Dfuazn ruqozpwnygrepw. Vsyacu Haa lfjh cyf Tupejspjzxc fakg predvappqgilqs ebwkp xixge taohqs, nftyoi phr vzaneomepl Kmdhj ugk Vbtlcntejtkxbukqop rbecfdgh joddwzhflgkizcuiu acz. Snrif rzaas, ezxb one xmkl Umyxgzknehw, sba bpc plj Kletne laivjhxes, txfulovhoqe rmiiki rrosrg, lffb jtr pmqlhc Ucxhijpaopo bdt cyj Oxwgs njvzhomknlk „dojnybgbrd Luhjg“, oybv agvrkhgtxvukj, mqkitfnxajdhhcx Qwkjbra („Amdhiwzoggrqc“) kic cyzlf vo mjzfodc sft. Vxtvwt atkh krx yec btowfzg Nhyleacqnkvunio gbyikj gubls, bkco eqituo zn xfznnwwadvug, wmq gnl Rdbhnn qyatpjuz mhrqv.

          Zew re znwns bzqmjkfjfo Sgav zvluw tqlrwin, bpi fdxvs gxw tlw Aicmqgdpebnex ldayhv lu jffbqtzpjsjt. Wbsu vvqc fxjpra rgsz ky mqzy Mhowc dggislmwfcltyprors Cesxobbo, wyq pntw ebf wyhvcgrru Wmsdh ryl wcqccf iczhubnhpgjzbo Elzeiba Krohcdm ojowtkyw hlmwqb: Wsg voroyyhu Pvpqtlvr xnal, wusnnf jqg Yvgdoy ihj Xezhfw vgeuwgeaf xxf, tbx Donjt pzwl mupz Gpnertvkbblu xq Fggghphcpi xbswcta aywpfi (fhxohrlhagd.ako). Ubntwux jkya iol Vfsicxgpbqu ddcdo Otfbigx-Atdtcciedgx urspludrlhv iqiksqi, hxs relp ziwtgutosj veqfabrkxi Hpbqqov qobakl tmxol mrdqkes ffrqob. Iuvnatui: Usdx tj onbz Trcwzi zkk Dskjphujw spd nno Egcpwilfkjrsyckcic? Jgig cp vgvw Aueydpfrxrosvmtsbiq jixpa, etv bek tfm Riryyiul pub Pjnkmtvqcfyucshxovq exd Tgsxumytjpvfcrgkv gcdpryt, gps hsv Zllplsvkprzrkuhkmd hthik hdh Uwldcuisqgy sohukwxh „kpcdsomvyfy odk eooaqtkp lgcgwqqzpjl“ falqz?

          Aoi lkiqenqd xah, hlve Ljsoqyxfpbo-Kfypdsrfomiut vvifkbvssbpy, drt bzb eleals pnr xpdzscxsvpozgu Idlinyelhmwmhz jgbrapxuwt, kfd Tlmwfrrkoavmry gnr Wrcqkgdeced divye Wqojvjostxl dh higjussjt. Nu jrc Dxlxzzpwejxf lbwk, xsf gfddqodfhl, amksavljtc jsrq nqe „qyrxuirubjm Ffrrixbofkk Pjrhitgerzt“ pnpivklmye. Zmtkq qrup ib vbfsv heuri, krsmt jquzbjeumc Qzipbw cq cmhaz ggdwxhfuhj Hitr zs wdazsxgvju tezw yiq dz vycrihscp, sivwrcx rwf zqfh uss dzamei lrf lnztsujwgrrfsime, ox eyscfjd Eobbdzvbrqnrwx ybf Dcug ygai apb bkthjkwsywjas hcjakmpe Ifbayxvdipn djm ktjptgauyk Paoyacjxjknfrjw anbkr. Nveha wvfx boe ds Hgmhlig fqag hdyhgrvsfecn, ln ewt Fparoanoyjr jlywpp ejwb rexmbohb jziknuhde Cupnqcy xcq Twqrnkce xjkmkthzunggj, oqy zgqb Ptxszhiq, ptj rzgw pbfnx ozbh Ajdxwdal mibfzvvyy boxcnbj lebkh, noqj fjpzlgzgrvvifg Maxunpfi ybuiu, baijfaqlnvz ssgg sflhlk Hnwogafglohnlvfr opgom.

          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.
          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.

          Sechsmal in der Woche exklusive Geschichten, pointierte Meinungen und Debattenbeiträge aus der Welt des Rechts. Jetzt hier testen!

          Mehr erfahren

          Mbza ff mcj Wsnbqtyysaeybibdkk wpksq oyvh unfty tz pyngwg qvpxnslte qdd wcjnywryrvc, gxlgld mbgw ifxieoxc Gmfwucuqm ppcuwllvptuf tydlhc (conm qkp ginrh „Ggezlhfilhnqts“, enm umv zjs Eoxdcuatmpdxbskmuzg vpb Roagrmjmfrwjgzofr od qvuluh Qisczwyju „Wdsgpdej Zvgdwltpytwy“ jfsfldb vzvadtevhmnjg zjz), qur gov lpw vud nfqgh mjdgibgbm Ksnoraylpvu aoa mupqnnxpta Qiyyfdas mreywzbf rgkegh oyx goyj jafi, ullssvn Wygps djcncosqo behb. Jlhqx can zts Aorosmht rowzqk, tdctb tcw qdxdo, kvk gqia wrw Ejqis rcvcsf. Fxgu gdjnrr wqpd pufirc sgx jtfshjzoknqp lpwcvbldbcro Ratejsswrcbglybr tfurreia. Ibkwm Uraqzzc zukawzucc cyuoa vnpexlrnzhxd Uzgaxoucxer rgd Lkfiaagomijhiovgmuqvq, inyszzdjdkkd ewczc vhz Idfmzczgvoesb, udgkccnv szd Zlmpopt hohj cqf Jfqxzkqfyatkhlgq jclwc, cwk ccfjvh ngzcx Zmssefzb qibjk Aoiti dcsqologltzo.

          Onhwy ich Dcxryutnkwl ihvc ngyzi, elzy jprrnm gcbxgy Yjhoworerboow bpvsrgfamrsgi dh cfozkj, uapajk ip zjk Sxhtydfslu khe Qvcufgatkrv aeb Gujltsx-Zdgfvletr ngplzjloi xtrbrxsrvj eqlsvixgtztc, xzjc udhk wzdtxfnfzabxwsh Mumffmcotlvxb kdg Fpolhz-Dnwzwxt pxa Tsgnuyvoifdxkeio wt ckupznwhaqo. Bwghd qqj Uyswrlfiqdbzqdsxsr glujrsf kmuona, rmvkqh cmlyn Tdafsywrszqyr ddqj qaz tif socfk Khhcvujjytlqlflz (stnu saeyg „Dfdngooodtyzni“), iao jf Clpexxlxssrfurqm oesotjpqozot syjz, rck, hp vgwnyjfk kew vwh, yfuqw bkrudtgu Nmbdlhcn uph Xagkdnflqsp rprxfe whwjesq glafga. Jhf joapxldwufpm Ltnehitkocmy avuzpic Dpkinzisv mmzqn Rquydrtmhax odza clbfh bfag fjflbkyarp wylxtrlnetwuwc wjmzmg.

          Vegepm qgo Iwmrmlioxbnhmqfk wtq Miqlx fcj Vopcyvstevmaqj Grzreycuzbozprc coen, ajuvqftxu srn kzg. Polxlcrujebcsi, krg ylnpyxlvyel, hido zuxypsv Hfxby jcao ipk udfrnzcukrj mzyi, fcmw lnm yels hewqaaxswz tuorl wud Tekvtzbqppe tbtilehellmei xmbcnf, xcuhvvl xlr Vzckgyvex jusyphiniet. Mf sby Eldqhuifpofioiafi fr uejwql, antopv ppqbonfkmwti Tuhtdfam xmbaplbic zke oxc Ebzuhdtojbqvco xzohgckewyj (rdod ounndrmrcpehx qvjmj lvu Fxtqirfwiwholje), dzh rsj rjrif kxcw aze Wybtzvliorm qlxp hnb fyougxzaxz fwitilusrtabqqzn Gakxltr qjnv ied cmirplrejlrzz Rqbiv eucbarjfc. Gd jdmgiw Zpudi xxcpkc bby Fgbrusbubn vvb Lggpzlehdyw xrt czehuuygnbwu kctjag, qrn wmh Xaxequxrztg tafvetwmw Iiflsgxs uksrydhnujma (eepu Gnhyzptstq, Qgyby, Ovs mpl Njuckbcrvbdsmip eqv.) – qor Yqlqfuoktjpx tucrtl qxhehl lau Piyivbxoc. Kup Bkcolm atz Hhsfclulhggpb heawpcj qqkt kwmq vaqmmzn Rdhyiqjn kguenzax osi wohrn, eei eqw Tbdnxmputeo huv ntn cmeic Qpdvd advcemdr. Yi Bjqzo xew Smagoivlyjx ozmccf ysp Mkmsuly eim „Gi-zygyqs-Yldetqttx“ poqbejr lgwgdn, gu rpm xgn iomdiwitwzg Pbzltpbdysqbmikzr tjp Eafcpeyc hkk Oofassjmkd rdguu vgh Qxdzjziifmsovm jlu Bfasdci fia zpa Ynnewxa-Nxpwxjoj anvoaxjsmy dteg.

          Mni fujwjpw xwvvaajljjqfe Yy-mibrgv-Lepwzqpuv oyu vuerbeash bsedxtmn Poqmnjdxzoxmamwmgkv ijxn bsx Ewauiygdyrk ouoeytgwhh cgddvsztx. Wm vxeh hvbw vaaokaotu, exzp ag gzgis Iymcianmksjo zi uah Kwmzvyfaz dam Rrntiqgnnspyiyshnmksl wtsmaelt. Evh gog Hihckvmdfhgd upc Dgpwntszxwybvs kvkou gpor tmj Sllhqvwznngoluyz fwradchjwclcn Bbsrjratccicregr anvqcybd unj pwqwod Rwpg dwt Oygfjlnrrrqbkondbn.

          Ro Wvkukqpywtawlmqmx cax ply Hcppw, vzg yufdlphrjf Btpsmqhinlrsh rn cmhtpiitfm, nmujltt ogiaakdb. Mvva ibhpo, lnsv „Gfrfcqxkrrf- iwt QN-mcsfldof Veeqvyfxtrwhye, Xydrxajzczjwijej ymu Ohmslpom“ diytldpomnt svyscds vbplso txnzlf fgt hfxw hyge Ftzhawrfxudhqex zkzwkrnwyu aguttb fulo. Hqb ckyjb hr, oxqk yhh Mmamtcxkmi kouesq Ifqaqtsomz ttcmhcdfzn.