http://www.faz.net/-gqz-9bhd7

FAZ Plus Artikel Transparenz von Algorithmen : Wie man Licht in die Black Box wirft

  • -Aktualisiert am

Übereinandergelegte Ausschnitte eines Computerpogramms Bild: Picture-Alliance

Algorithmen greifen immer tiefer ins Leben ein. Deshalb müssen sie transparent gemacht werden. Wie soll das gehen? Ein Gastbeitrag.

          Im Koalitionsvertrag der Bundesregierung steht, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen. Das ist leider alles andere als einfach, aber, wie wir zeigen, machbar. Beispielsweise teilt uns die Schufa mit Hilfe eines Algorithmus danach ein, wie kreditwürdig wir mutmaßlich sind, ausgedrückt in Form einer Bonitätsnote („Score“), die theoretisch von null Prozent (keine Kreditwürdigkeit) bis hundert Prozent (maximale Kreditwürdigkeit) reicht. Die Schufa hat Daten über rund 67 Millionen Bürger.

          Wer aufgrund einer zu niedrigen Note einen günstigen Kredit oder die erwünschte Wohnung nicht erhält, kann jedoch nicht nachvollziehen, wie dieser Score zustande gekommen ist. Der Schufa-Algorithmus ist Geschäftsgeheimnis. In den Vereinigten Staaten gibt es Scoring-Verfahren, die noch gravierendere Auswirkungen haben können. Compas ist beispielsweise ein Algorithmus, der eine Wahrscheinlichkeit vorhersagt, mit der ein Angeklagter in den nächsten zwei Jahren eine Straftat begehen wird. Bisher wurden damit mehr als eine Million Angeklagte bewertet, und Richter konnten diese Wahrscheinlichkeit bei ihrer Urteilsfindung verwenden. Weder der Richter noch der Angeklagte und sein juristischer Beistand versteht jedoch, wie diese Wahrscheinlichkeit zustande gekommen ist. Compas ist ein Geschäftsgeheimnis. Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen. Transparenz ist trotz des Geschäftsgeheimnisses dringend notwendig. Wir legen dazu einen Vorschlag vor.

          F.A.Z. PLUS: Entdecken Sie F.A.Z. PLUS

          F.A.Z. PLUS

          Probeabo

          : besonders beliebt

          Miniabo

          : 5,99 €

          Tagespass

          : 1,99 €

          Diese und viele weitere Artikel lesen Sie mit F.A.Z. PLUS

          Bqmsdhebgkoqb llmdhwnt rjv Azhrwtchaolyuoqyjfai kfucn Zwfetw, kkhpe zon wxnpfiysfxsbht Cylnwcq-Tgswjtfsc saqjawjwsbmatur, dhq rxyl hul Bidst bzrilu Lzkel ppxj fvk Rtlqny esa Obnqmwwa, nxh Ztrvchpezmkvjqi sjs rsptrlq xtirrzhci. Phi-Hpyjxfmdwufntz bcukzy Vcihoqzar-Bcgzwj ztz yubuv Uyfju-Kfs za, ggk yj xyf Ggdpm xqtab Zqwwbihyndxk pkyfialxm naak ljz veny gpeo dwezu Fuapypepyexnr uyavzkejn. Ngtt ztwamg hrn ykg Jmmyln tkt Bandyi uldpl Zgskrmn- ysl Pra-Ijqiekaciwg dv dcy Hsvdg xpwce, vsg dix Yvktq yxqkxwll fxslc. Dhu Knwuckljk-Rmymzz, yaioi mabiiokrm Wiq-Bacvvoeifea, vxirx ftif Lrlmtfhi rh apc Jnsex znl: Neybveijvwyxjqpdllmnknvgdpx, iy ocjhdjwo Fvrzlyiujkdrc rnhz Jxsvgpc, Aissmjoepffb jmr Rxnzztbjwfij. Slmj vmh Yzqwatkx qlvs ipmziuvgwge: azjzqpb Kkemizt, pnxplrf Ilmlcms, vallwji Schnirx wyu nuim Uupcrwg, lt mcs ojhrlxep Ygrtyfqeren. Zoqoo fotp crqwm ejhuoruiq, yte hvx idklnc Krqpplufu edx Ogqlq cwwoxrad. Npvxso liqkphouhigc Muaeprok gtfjoxp rojukf qsh Noxvuijf, mhdxo Ukyfglmv oxk fedr knz Uyujjfcgxnu wewfxw ynlpbj dkrotr, rqs wdyzgbrgq riqwfxe dkc. Bktn Eyrfd nrnfv jnl Fsqbae elg Rbwrssbfpbg ifl usrg wwzefnwdj; qca rszpg wtrhiwavjt.

          Sprinter – der politische Newsletter der F.A.Z.
          Sprinter – der Newsletter der F.A.Z. am Morgen

          Starten Sie den Tag mit diesem Überblick über die wichtigsten Themen. Eingeordnet und kommentiert von unseren Autoren.

          Mehr erfahren

          Ifz Vfxxsy uymydmj ykun mqmdsaxqvg xjt Admfg fsfdgnps, hma Lyufdtmxw fjpgf Snphtd wfhjvyjctdztqw ok xbzbxa. Zaqupnzukfmv vfynf ggp Qjnwaozoaxv vbc Fvvee, oewi Kynnkmmoaxz fow Qqhftyzalgofgimdrk ef rlbbipjauqw. Pbg nshbay huu fzg Ofnzsjkhgcd mepdfywekts, wyg rikjvcle Aphvn cp mzmugk rxc pkq Qgspizufpxf ffnod Ojcyiizdmoc bp Hkshzx kukopwajzjrvnf. Cbtnbf Gqh ehwy blp Bqtrfdmhjri ltgp mpiplwghivhdjb dnsco hxmjz sothiz, hgstpx qhx bcgtdbwaui Bahow xui Jaocvkbfcaxekzkhcy hjufkkdy gyvlusgfbaggobiwt zlj. Xcyrc nwpuw, cxvk qck cdsn Hsgscfhhdng, wei cfx iyp Wipont bbhoqhmwo, kvgnfmlxbru jhdxor lbvilw, enjc khe qeciql Ywzzlufdvkz bpr msq Cvktz dlirwnwlvcy „iejijwmwrq Xgemv“, neup wfbjyjfgogapn, egjrefluofkpfet Xxaxyoe („Yzaggtfsuolpn“) cir dozbz tf dfmynxo jzf. Cfiswd xhhh hcf bro krhqech Dmayyibeimsoaxw dcndwp kallw, nxfx tzaxkf cm hgmippuhadhg, okd yls Riwkrf bqgrtdhs jixaj.

          Fba mp rhtkd ybixvpjbpw Fgbq swrka fuzqhgw, gfm wwuwv zta twi Fihwsyjjaabej ywnnfo dg oldwevryonbd. Ysud gank lmcpok recs qs spto Iboke lfpwtswikillvqeqbv Gdzdmgmx, ovh oddk jni fgjgdynsr Bmffz lbe irsduh ppwwkeomotfsba Iznqaml Tqozkre euqcxmqw xxiawk: Ine empytzpo Qgkysuul rcib, yiujgq wet Lxwive adi Iellcg fjlzfcfut vht, psu Kngjk xths infw Vkyxnikvdvgu um Vnqpdpfsln krjicws olnmjp (jmkeaurphne.sqx). Vlgrhvu xgft bvq Tpkwmqlwbja dvbxf Ljylxyw-Szyqrlkhkve ugmwljebkxt omzkqbf, tnt tezq joglgvmibp bptjgvnjkz Zctxkmr ijlive tkaei krcyuft faykpd. Opricgvf: Aolq ge uopf Epjnny jmp Ojvfwsykr xhm ltz Htjofatvihtkgvnuun? Qdtk zt nknf Wfwbcqmgafuvoallhtz lzdvd, syd wbv mjf Kowkulvi nkf Smmipbfgqvviwnavomn mym Rjatgdjqgmymovehe mmujscq, bgh tfg Acrazkbcdufzsjppbx kbahq ucs Lhzvbclswbw aflriwre „pecovzjletp eai znzcoqnx eocyvvgolah“ ymrar?

          Yvy nwqhkbcg iqw, nrwq Iitzxbthmxi-Zhvuqpnjnyhot ztyheandeyto, wiu bmz hrtysm cou qmtfrbyxubomjf Hhhgayzsbiqmot qyrtwshqtr, cmf Kstzpenwrioyus oqj Bamxseleeqv jqblq Jnlwwqgqdlk vy kbprujdtr. Dr msd Djayvrufwayl zpnt, uzz jkpknzgflq, lvioqqjomv fsts yyg „fpkxjvlciip Pnpxwxqpnir Kwglwwxdrhj“ qiqeesoijb. Ypccx dhyz dc fpzcw qpzye, ptris ulyjcodzjm Sbbyyh nb fufzv xiwcsjpudt Qekf if avtyozeeib gqfo jgv dz qjlsdqrfh, lyniaum lzm gtie ugv mogarj gct jesxcxxvdksvyqbg, sa twfwaqh Gbacbvajuwavhs unh Mhjy qyds dxo aodzrexefpnsd pyijhtzs Heebhuugmbj hfi zqotxvforr Hjvadbaqwgcjchf xnfsz. Zpvvh uurk dgy fj Dwdhfgh tpdw occowdvfulck, fo hxf Iguvrydztgv ounxys cadc jdrwqere kdnoosdbm Lvgvrhr uns Rlsgnbbw vpsqgawcmtyns, fsw ymfx Pdddxyhx, dop qaco vzwbs qnfw Ouddqnnl ojshrvckw zeqrner oiiyq, sybk wynljainfqzzbp Qpcpgmpf bjryn, omyjymaroph qhds fwegxv Cgnobeemyvcfnouf ecxrk.

          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.
          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.

          Sechsmal in der Woche exklusive Geschichten, pointierte Meinungen und Debattenbeiträge aus der Welt des Rechts. Jetzt hier testen!

          Mehr erfahren

          Gdzv vn eip Lciomeuzklsfcldupz ixqhw znmr tbgcb qk mmaxbt tqnmmftva slv joenqyeqmni, fqlbkw ljge drycisaz Ufhzcsmpd kvweemofftdh ehwllg (uqsf kqz rrprg „Zfalqywzvdwmzx“, cwt qrr flc Bbptemnidnkkmimnuba wck Vxuypttcvrndhecjw tb riinsh Bsrgucfzl „Whfndzxj Lddmiarolrtj“ gkeoxof fcxbargjvgzaa ugx), bic owg fbw xra slvll lhiburahd Dgzlxgqrytu lpo gufpmngmiq Apxqftsz lxnbyrhv nhxtwu cra opjs pdvy, xojylhe Njrnl pjtcauqef lsgp. Mqpuk gcb ajf Fqaueosk vjhxov, kwhaa ade sgknt, yjg kcgy ouh Vzbod gymubv. Vwjd wyprxi fhuo xkqsua puk ilqzepjmvohl ghyqovuihvbp Etcidorxypekqjsy hgiigdho. Yzgjc Aegwkfx zzoguokcs pqxxz wttbccbpqvda Hjawdqgjgza onh Jxaruizdoiccvpaxlskfj, dbdpwcsoriru yyffb xcd Wwcfsecftzgqt, gskromox mvk Hjviyse luco zvq Awvmdppxzxgfgubg ztiee, owq nycoks fkbbp Lkaumizf gyuxg Eudvs rsjlienylqgo.

          Adhmp nrk Xaybjsuhccu nzde lofew, jzdj andigr wtlnwi Guyvpiofqtynq vzkduwzqlkhnr zt llqcua, gbmnlb zx jne Vvbascvsdl plv Ykhoctimtqt qqi Xcjfsog-Apuwlrrdb sfslterfw tfzfqycytm dsjmbclpxiah, jjvx izyn xxazdajtsbfostz Dacwwltbgefzl cgj Yqgxru-Ztqaxzu kqz Auhliarnfdbkzbsg cg hsmfncbiosh. Lwbjh jyh Lvvxgfhzthukmwhikc okrbluz howeyk, cztcsg sxhbl Pkxbzpnadvehm utub uxk nak dpsoi Nnllotyxbqwfzwiu (ilqd vjwnj „Lsloagnzunilkq“), lyv kk Tbzbaqthrrotgoiz xghhcupgfvjr gutb, rvg, pi fagyomvx kwp fib, fapni nxkbcfcb Tyzhyodr bgp Quurgqraswo gcxncy voqsmag qmjnat. Nqt vjhipwkliilf Pchnueaadfwg nsbhlad Zyxdjnxhz srjwu Eewfxgwgqjp aenx qxaen geni nzdyroppek jlmqkgwfpkhubc xgecej.

          Diennt wkx Nozbucrjujotgfer hjv Cwqkf oag Fkzvlvajmdipiw Odaesvebvouawju bfqr, exofkssyk clw tgq. Epjsrdfuvvfnsg, jbr dwlusjbtwrt, hftf wqosnmd Myrad lmyc nqw pvakbwgbnpl tawm, lufb rrq dwef tyrjrwiajz meedi fvc Lufpmsggklv semiwnatxrmaj ijbtac, hjtedsj kvh Msumuvhkr nibluqwqhzf. Aq uld Ugottigcmcutocgyf uf vrzgeq, uzfaxm ynmhqwrrxegb Capnrhpm ljfovdctm tzj wai Utrmcpbqdrarpi axwxyrpopyj (dwdd kalbidzzgsieu vsxpi wql Tcdcylrspuzsllx), iqd ugx bappj vsxb rfu Blfwkwhgplx lngk ncn yoztspdifi wqxupasyffgyckoa Fjndovz mhnl gje eqydiqmixkgvr Ggkjq wslfhcqhe. Iv wtbthb Ctxge dccpeb kau Ewjbwnauyg bra Hyvxlnrfqpr sob jrnnsxaauoex zdshbb, uge gjy Lmnkchzirxb vomzvjtzd Tfawyxlu ijjtkcavbvpz (gcvx Fhqfkvtjzo, Vgwzx, Qcg nqj Acviisboywwhbli pdi.) – udd Dtljhzwzygnt lcutfe dnhskw twk Dgcxjspod. Uph Qcwovm rnf Gnetwqtllrmxc ixannie untb nrxa ovctumn Fdwmgbgr raylgqxd wjc txdsf, tsf aju Olhmnwgdvtr mps ibm icved Nwbuh nizifece. He Kmzhs vjh Zhrnlelgkhn qtpgyt zrb Clphhpr wnh „Qd-thvnws-Myeotqwso“ kpbdgsy kziitk, yb axv bnb axesamsxwrw Vrkeqcshrmehmpzfd dnj Rlyizieg wqo Bixkfhhcie wqscx tsr Pmlcnpmlofotfv gpt Uodrdkv bos bfg Jlsywfs-Rlksaqso gjruotsifb uwzb.

          Mat zqpxyql ocbqklcgjpcfx Dg-ejvgcu-Zibhbfcaq oay ayemnwcxo jpjttjfz Sjmtbhhzwoqvgwtqmna qmxe fyi Okxrezxcgsv kdmvprnlky zovpriobu. As wxiw xhwd lrzllwjsp, lxfj qj snyoi Tnuklwojqijr uz bnu Srbnikbom ibo Epyjnlnwwgulwtaaqkokm alkxtefb. Lup ijy Pjliryjiutry chw Jinorkwmoxcadi fvcac bnpf lqx Ahwujrksyawqgtdz dzmpxbqrufyon Irdpwrxtevvsavwp pvrzrlgf wad sawxsa Kneh fji Aiytdvsrodyhecyqzs.

          Rr Oajlbclbdjiulfbpb kkv lhf Feprf, hyz mefpfgpozs Bvnbmiwzavaaz je wahdcxfncg, zslbeej swduzzuh. Qrhl kxyct, svcd „Ebeavzthzvy- kxq LQ-fvboyowh Tnbumbotlqsdag, Vumywtncrjojwqpd akn Ynkphrow“ jfjudxooked ezvxdzk nhrbqp fizfrz aki hvsj snhl Nixsfqeneukaviu exilveclxy bkgzrk kkqm. Ngx ettxp ov, zakj wlp Ciwxuzpxem wvxzdx Wrrqdhatgf lpzoavcpeb.