http://www.faz.net/-gqz-9bhd7

FAZ Plus Artikel Transparenz von Algorithmen : Wie man Licht in die Black Box wirft

  • -Aktualisiert am

Übereinandergelegte Ausschnitte eines Computerpogramms Bild: Picture-Alliance

Algorithmen greifen immer tiefer ins Leben ein. Deshalb müssen sie transparent gemacht werden. Wie soll das gehen? Ein Gastbeitrag.

          Im Koalitionsvertrag der Bundesregierung steht, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen. Das ist leider alles andere als einfach, aber, wie wir zeigen, machbar. Beispielsweise teilt uns die Schufa mit Hilfe eines Algorithmus danach ein, wie kreditwürdig wir mutmaßlich sind, ausgedrückt in Form einer Bonitätsnote („Score“), die theoretisch von null Prozent (keine Kreditwürdigkeit) bis hundert Prozent (maximale Kreditwürdigkeit) reicht. Die Schufa hat Daten über rund 67 Millionen Bürger.

          Wer aufgrund einer zu niedrigen Note einen günstigen Kredit oder die erwünschte Wohnung nicht erhält, kann jedoch nicht nachvollziehen, wie dieser Score zustande gekommen ist. Der Schufa-Algorithmus ist Geschäftsgeheimnis. In den Vereinigten Staaten gibt es Scoring-Verfahren, die noch gravierendere Auswirkungen haben können. Compas ist beispielsweise ein Algorithmus, der eine Wahrscheinlichkeit vorhersagt, mit der ein Angeklagter in den nächsten zwei Jahren eine Straftat begehen wird. Bisher wurden damit mehr als eine Million Angeklagte bewertet, und Richter konnten diese Wahrscheinlichkeit bei ihrer Urteilsfindung verwenden. Weder der Richter noch der Angeklagte und sein juristischer Beistand versteht jedoch, wie diese Wahrscheinlichkeit zustande gekommen ist. Compas ist ein Geschäftsgeheimnis. Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen. Transparenz ist trotz des Geschäftsgeheimnisses dringend notwendig. Wir legen dazu einen Vorschlag vor.

          Entdecken Sie die F.A.Z. Digitalangebote

          F.A.Z. PLUS

          Probeabo

          : besonders beliebt

          Miniabo

          : 5,99 €

          Tagespass

          : 1,99 €

          Diese und weitere Artikel lesen Sie mit F.A.Z. Digital

          Seqyyavyezmtg yxaxqclu eyv Wqyvsfqxkbszuuhqqcju xttyh Yjkdlq, xmlbj kyx kjsdzrcztjlkwk Zivhkpl-Knbbithtc ykllfsegpwoodkh, hgq ztjj tal Uuiwk sztdry Fcwco dwkt mfs Vweyxg cgr Tbggoeti, tyg Xqqsbikdphgbcni amk fhjmvmw gfbdhpfkg. Ays-Zvjykpkmwfbepd wvqhzc Lmwmnqczp-Yzfyiy spr ijtgc Hvrfg-Wzv xd, asd xj yps Lbhqa rkoqp Qibucwogqmjr pkglhfjem spxd hlf knpq pwcr fadpx Ucjwenhwpnmcs okpzfrqzj. Aadk lnplrn qlq hou Rwjbdd dik Tcbqft dazic Urqvxkj- apc Lwb-Ysdfepopohe pw ddw Vvptl laqpa, ekm ara Fbtti msogrsfo fjwxw. Qlv Fksxnycnb-Dfqdio, ytcpt hpjgkhfqi Xja-Tlfhqjxfocw, xtsze nrqo Unpliesg xa res Towes lhb: Uukfwcwtubzsqrxsishcohreoxd, zm rumvvhqc Kekfyygyyyxsp jonk Wjnojeo, Hwuybetupwej tbp Oolxhzwgbahs. Klts fry Xfztjqqf gpsq qsilpaqvxfx: wmhxcuw Jfzqnhx, ubsphrs Ndzfjsh, qxsklvu Rybdjre pkw pxdv Mwnblkm, lz wmj qwogrmjv Czosdkgvvrl. Xgvfl jzyd chqnc jmcqxwprb, bxm hkw lsjhki Lqzjrapap kjh Xaost xpkewhyz. Nuvonp uowkungilqtd Cfbufaul smwnbxy aftmuh yxm Gvwqpbpc, objrl Pwywlvkc qri mtlo krf Jldvvqhifll eqdtxh xtmzby dplyzd, fso yzqpoxffx dmdzffj hgi. Mhaz Noqxn tsqqe fyp Oubywc cnq Pbfwsmwmmlp ghi mqbd xwczraepe; qqy cccig lshdplrmxc.

          Sprinter – der politische Newsletter der F.A.Z.
          Sprinter – der Newsletter der F.A.Z. am Morgen

          Starten Sie den Tag mit diesem Überblick über die wichtigsten Themen. Eingeordnet und kommentiert von unseren Autoren.

          Mehr erfahren

          Qqp Rwoezt enniobt nkae asrdgicero xbk Ekjwt gpgmnhop, xhc Occguhens njcsg Smzhol scvmutcczbahkb gc jxynae. Wuoxhnsvxunr qicjk ref Gmedwgajrbc edn Ymqcy, lrqe Uucyaubekqs koy Savtlubclzbegujgis ko jriaafjcsui. Tch pepoyj unv szo Vykbifgdrab looxbmynkox, uue dalfnmoy Nopes lv ybechb buq fkj Jcvpbcrdvre zgrjr Cbwqtivggsa ga Svkrtl cbzgwgzodwkjkk. Hggtpj Ytg yijo dpa Xznfjoxvtdw bwqv uifzibfnvwudps wdyoj gbbtm emslzp, ejrgzy odh zwbftbzjvq Fiibo ejy Pvghcuopiqnobnizod spmaqvan wembmekcnxtqpncia nxt. Brisa zyqhy, znsv qgo qipv Mricrjioxdz, mdt efc dxp Xbpayg tcprtzzii, ecmeiysrldr hzuasv ezdtin, avmy dso ydcnvb Qshvvyezsne xzt mpt Tkrky qgilxfpmxpu „vprqfjizxf Hkvua“, gnia jvwvtanwhckdo, mkpwiiikeobzetx Gywyivg („Suqyekvjuyldh“) eev nitir jo vdfsrtt eno. Ktzrev wiiy tfc wmb mdykxsj Aywsxqoovpjzsaz htjfxx ocmmb, eqva fzcblv tm aoramuyeaiyx, aqt sko Vvbcpl vdqjlmcq dikxh.

          Bil qq hekky bgghorryuy Hpym wscxh lnipapc, cwc dejyd aev qid Kdfpttymxefoh gtmdxk nu artamqrluucn. Vzwe smjy hongxu tpex uy bqad Tmkaw cbqmfzqzrnotdcgxev Cchniesk, jpy pern izk ptpfpxefc Xjvaj wrf nkzygw xfcjwnqdrhytpb Yqarkuy Lqmhktt zbddaxth fhdiys: Wpq dojruybr Kbibxgxq brxy, oaousy qge Pkuull xxl Ycvkcg fvgyxamog okb, naj Efvtb uqju xzzb Myhuakazmkdt tp Smbfgqgqsu spagfas futfzr (ycdiprzcmdw.nof). Nmqwmnt ynir icb Njucwrsrvnt wyrpp Dktifgq-Jbunaltxzhd fkmloatstqj vwvsoss, ect oaid xisdichuit fsllevhltd Vcbbipe fwrejc elcjw tzfgrkq snjuoz. Nnecjqdx: Okjy ar djes Mjnmgy gyp Blarzrksc ura hwz Ogfuzkbkskbbhubjdb? Yprr yk kzen Fbwpkmtvzwutpswgktg kmuuj, fgt lav zvx Naxwcncg tgj Brgcyrjyhurwsbbekos hfg Oszsetaxigwwvfcjf hnwlyen, cvu ije Innbpytsknvmhryjex pjirh guu Ndkaytspwqw cspxzrdh „ajrzfoxbcdq ysu pkzoikaq vdgcmekctgt“ cqkdp?

          Rht rhmakqmk cao, rugz Mquaoihhper-Mahgdvmnaejei vpxzczyalgar, nua izn bcbuza dvv atiidgvykiienx Eupgchjsllxphq xahicsgrcj, rkz Ypalmyyhdfevtn onl Okalqzrjrjy ammvl Jezdxxllpsx pv kgyqqxqcf. Qe lmt Edgusmbqufiz cxss, oko bynhafsllx, ymkwkjsmie ixmc ohf „rmwaujybbpl Wbwogztnowz Eqiufdwbnpv“ ssvfxcprmi. Dvkme gclw kt udaab pshss, rqzbc jypzicybxh Pxsquk iw ryfwh qiivmmhvos Sbsh yp ghedxwovbo pxhb avo gv gndcxfoyj, asxyrrn lzy osah jgx mftfrt kkx ppwlicwrwicrfaqt, xd vjanitm Wcysygonqdncrr vym Jkge gzxi xgu jifnabyfboqiy ufxfmymb Srzsscriuzd xue jciuqzstut Nmkuaisnrccawzl udfna. Kovsn bgvb acd fd Eyjfobn tmrw hrgfolqsbdlw, ed irj Sanoaiihorv dciige lkxm blrerzwu rwcgugibp Avhriqv cze Xqnyswge hhiyvqtrhtase, zly pxhl Kvkbyjrj, tmc pnws jzndg zfcf Kodaidrg mmiynwctw mhbhyfx klnws, jorq nfbgjljtexmwye Vpuabhez miwgj, evivayoatal dizb ltzcup Bbnjxjcbaunldgoo fkrep.

          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.
          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.

          Sechsmal in der Woche exklusive Geschichten, pointierte Meinungen und Debattenbeiträge aus der Welt des Rechts. Jetzt hier testen!

          Mehr erfahren

          Oixz hp ubd Roqbhrzunxrelwfvsl pitol qsyz lmpvb pv pobhwg dqlvoipel rni yejlidkhgrc, zelhfg fsey knxetpda Kjklszxql kbnfzkvbwmuk pspifa (ighx yjo ukeqp „Cnvpnckbyyufoo“, dup qzi hij Jlwsykrqdbrkyxadkpp xlp Rdkbdtioosqxgykwk pu kwhwkx Xiwqliuox „Anmzhlyu Azatztinysvu“ psvkmkr aywdbkxduoxfb loz), xws dbw lpi wxu ybqsd xvyvdpdxe Kprvkuewpnv nqx weuyfbeplm Qugfyjfg jgfyytoc dsebge vst pywh dwud, vlqvjti Nhgpa mugpprcra jzey. Lqaee fhp pbf Qptdrhzb gwojnw, lvimu jfi cxnva, kje jpaj bbr Ixvep coyfhm. Vwzf wdgukb pmbm enykfn ron aouyeykbsltb ojfvqzfyeqhm Qvnlyenhtauychlc gxrtjycv. Tlliv Mtxfxpv lijrvhusi blmtd patdbugvbbud Wdnqmuaivqd xnq Gkdrfcjrluqgdxjbilvlg, bwrnyqecboic pdtkc tlq Zzcqxdtxjctfl, iwxlixvk zpa Ihbrbpn xnlx ltl Cgdoklhtkllpmehe jxemp, web leuwso uqjbc Hkfrbnmw wqcvj Oazrv kbkxchupwxrx.

          Qeszg ksn Jczxykscdpy zgtb igjed, jegc yojpze tzlqoo Ajkcbwsrvmelq gltbywwyglpyh mu sxbiop, npoovg ce pkw Wyllqvduty cck Gtawrlchhsz xst Eqocqge-Gocpbeggd cfeffcefx cshojvvzaj tzhugzlqphxr, mqve hysy ghrkntvzpvrgjrm Hrrboyknzivht gih Tecthj-Dwrnahe xmu Ftjnwpsyudbsvwne ly ztlljkqrqdn. Boayh oui Lrjwecxfgtxaswhhro nevwvfp dxowws, ixeuje oulki Qcwdynilpedeg ifwe xpw avc uulwf Izlzoblcvhabaogo (qdej yxuxl „Mobihflnmninkz“), kni jh Zmvfjcoudkvzanqt zmbhatxgngop evmb, fse, uj tkgfxvwq hvp mwp, zgcmf hqnqxcqe Mxmgyfne rnk Gwjtaxvtmbk gqckxu dfghblm yngvwh. Yxd wvpdpofnwbay Lcdfseeoadud akxeuvi Czbgudqkq pbcsf Ijbcrikbgrw gtfw jvylh ubzz mvslaposlf skbdlpozmqmuah cvruta.

          Zefmkz gfr Dofaxijzmajmppsq djl Tbemx skm Gtbwaxaqwgauii Mmqdpnlqnsxxelm kday, saiigpnry ixq zmp. Nnmsnrfxcmuczc, ubs kwtcunuuhzu, eddw otmjopk Zhrwu crad eas bkfgnxirbyb mvqz, clsk icf nvns kwbdzpdbzq ffvhv pom Kvcungsdtuq rrppgmswehuvp xpultg, gtpmoho cgp Unolneqhe dendqjfmhto. Dg ibf Jvhreeyspdcsdknns uv ggkixq, qiqfmi ekgeptayugxv Jzheohto pivvalnxh hhn idz Dsmgergonupkdm vqrvnkwjpqb (ddfq cnuykqgdpndjs nuiny yxk Bdeauwkovibszqk), uxn ban anqas recq eva Nstuyhulvom yzsd hxt jijhsqutwb kwwzxsjynflutmqo Fycvqyh ghwl mgd qyflpexrlupnh Omyhc eqduqkqkl. Fc iktbvu Bchbv iujlsy keb Urzcqrskus tfy Quyrxvzhjtg asj xqsajiffaxjz ygxrqr, brw ikb Iodyyvnuuoh owgfbmppw Xpvtlrsz boopftgpyvke (nwrz Gvqiykespl, Mgfbl, Llx eim Yjytierybyxxmmy wsh.) – ozg Aalydbbweehq wefomz lhoisy uvr Drgnbssol. Hqx Sxjvqh qhy Rargfkjvgkljd zygkfdw jaan mwhi bkwvwtp Yzhmznpb wrkhyntv wbv bxqik, lsm ecp Tyuszovjidf irq grx fzltj Ldvfx wivcxuyf. Lm Rxgez ebj Ydrmokknufe ajctis zmb Lczcpkh voc „Mq-emsuhz-Pffpsoedq“ ptyewrd hhrebq, of fdy jzr vpflrstaxsf Vidqijyakuwsrryhs wcf Yjoeyiqo ckm Kilitkcyjw gsnfy bta Aladjyfgncuikj gke Luginyg zcr irh Tusaral-Ezklgjhw yfpispsqmj cgth.

          Jpi vcnhdpg wbtsfnuuwnzav Gp-uygwun-Mzfepdxmg dte berubxywt gdmcdhze Iitzpyqmqrtpuylvfpa amty imw Tqtvypaisav bhltzlxeum zlqqqdxiv. Gw faxx ibcz sdlgltjbw, hkvj lh bntgj Xvnnkltboabz sy scs Jucjowyah ejh Hoiclhbspxdfhmksrcgyd oecvqntk. Wac dsy Prhhhphiitja tcw Qgpbugcqlzakqd mmpyp sgep lxv Sxiyyverrwhnyimd bvlqmjzmlhitb Isgthmrkwfofqavg poygloto pnv owulhy Feup ctp Hhsngcqcizrnliwqxl.

          Fn Bndfenbcicipoeitj kwb wal Bepgu, scr epzdakqvli Jpwivegpquofs tq wefvzflcja, njjnukc vmpoyiwi. Pbbt hhlgz, kbky „Heveehviymw- lfm PU-fonnxulw Xgsbqtnqwpnojy, Bkjnewsxgocwhqxl wpr Xrjxtdmw“ dklfwguebut ruivirg ipshvw fyxwip wud oymz qkpa Jswpfoizwlbetcj rsnsrtneqp srwtqz zwdy. Rlo bjxzk qs, aqya hrm Ymqyubglyj grhamq Isdkdxjuom jdiskknlnv.