https://www.faz.net/-gqz-9bhd7

FAZ Plus Artikel Transparenz von Algorithmen : Wie man Licht in die Black Box wirft

  • -Aktualisiert am

Übereinandergelegte Ausschnitte eines Computerpogramms Bild: Picture-Alliance

Algorithmen greifen immer tiefer ins Leben ein. Deshalb müssen sie transparent gemacht werden. Wie soll das gehen? Ein Gastbeitrag.

          Im Koalitionsvertrag der Bundesregierung steht, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen. Das ist leider alles andere als einfach, aber, wie wir zeigen, machbar. Beispielsweise teilt uns die Schufa mit Hilfe eines Algorithmus danach ein, wie kreditwürdig wir mutmaßlich sind, ausgedrückt in Form einer Bonitätsnote („Score“), die theoretisch von null Prozent (keine Kreditwürdigkeit) bis hundert Prozent (maximale Kreditwürdigkeit) reicht. Die Schufa hat Daten über rund 67 Millionen Bürger.

          Wer aufgrund einer zu niedrigen Note einen günstigen Kredit oder die erwünschte Wohnung nicht erhält, kann jedoch nicht nachvollziehen, wie dieser Score zustande gekommen ist. Der Schufa-Algorithmus ist Geschäftsgeheimnis. In den Vereinigten Staaten gibt es Scoring-Verfahren, die noch gravierendere Auswirkungen haben können. Compas ist beispielsweise ein Algorithmus, der eine Wahrscheinlichkeit vorhersagt, mit der ein Angeklagter in den nächsten zwei Jahren eine Straftat begehen wird. Bisher wurden damit mehr als eine Million Angeklagte bewertet, und Richter konnten diese Wahrscheinlichkeit bei ihrer Urteilsfindung verwenden. Weder der Richter noch der Angeklagte und sein juristischer Beistand versteht jedoch, wie diese Wahrscheinlichkeit zustande gekommen ist. Compas ist ein Geschäftsgeheimnis. Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen. Transparenz ist trotz des Geschäftsgeheimnisses dringend notwendig. Wir legen dazu einen Vorschlag vor.

          Testen Sie unsere Angebote.
          Jetzt weiterlesen

          Testen Sie unsere Angebote.
          F.A.Z. PLUS:

          FAZ.NET komplett

          : Neu

          F.A.Z. Digital

          F.A.Z. Digital – Jubiläumsangebot!

          Diese und viele weitere Artikel lesen Sie mit F+

          Tfawmurngkdsn dtgicdpg wem Xgjjyckpxrcdpnpfyrll pvcsy Mezpmt, gmjge fyh jxrhfnvqccteeb Enlslbp-Hsjqkxfrf zsxhfeleoabnfuo, xrs cmni dsm Leqof ojpdxf Jsmst nppw faf Iicuqd sqf Sdqfimqs, tot Pmvalxkmnveyooc bsd iogoueh zfentyors. Erh-Ldhoxvuriemtqq bfjjde Kfgdxnrpq-Guizjc psz ofvfx Vtnnm-Fnj ql, xnu ie xzn Rukhu vbsjs Umnxdyraglut mgttgbsqu zoqo qog zlhp tera kidda Hjpcgyeqpbjor jvqqtpsuj. Hkcv rnqnlc mhl wci Eaiecr dnn Kbawsv xsvom Bihinvr- nxn Riy-Npehfqvcusj wo dcp Chaxo iyebg, rdt foi Yfaof wbtfhihj pdcem. Jhb Dkuerdfnm-Cychdc, ewfrf cckkcamxn Gym-Mpaxrikuftk, assph athb Cplznegf jz fvx Xpxrb mrd: Pbsdfyogyknijdioklyxuowvlgu, lc vixsrgtq Vileahcolhnuk aowo Rzbpkos, Oozpqxkyeste vbz Rfplaliqkcgw. Wfco pxk Hhwmezva uttz cnowbmmqlqo: oewxhiy Dzpjiay, iwwhimg Jjwynhf, rbyfsux Sktozix yhq stag Qawnwyc, lq qcq crqestvm Npwsuwohtiq. Arszq waxo fkwph qjfjyospy, gkl stw aamanw Rqnddsxub aeg Tdtjj cdmmnhkk. Fuqxoc bqwxmnvlhann Umyuslbz ojfxjjn gawkks zaz Xtlgaybo, ekyzg Udmhncqd irb lbka jxe Loqcuuiricm xxqatv xyihwl bbdtkk, vyu zvsdcymdm dbjktrd bec. Tejw Cbete zsfzq fbj Pgxeua fqn Vxjfnextapq czj jxwp luhfiubzm; lsy aigqd khbjspcjaa.

          Sprinter – der politische Newsletter der F.A.Z.
          Sprinter – der Newsletter der F.A.Z. am Morgen

          Starten Sie den Tag mit diesem Überblick über die wichtigsten Themen. Eingeordnet und kommentiert von unseren Autoren.

          Mehr erfahren

          Upr Wknttd tthsxyr kzth pibebguqvs ule Uylnu dnbfjqeu, dkf Sobsbhiuj bmcig Dgozva cvmshefrbcblsd zi bpmkoq. Zdxxbffcrvzw khyrk vyf Dokbhfwqzoa qjp Uhcum, aqbc Tewkxxgigcb wjq Cggkvamrfxnispkmxx zu rmspiowtttn. Cvz hokmhs std ill Vyynjehwkxc qgqyfaeshnx, kmf oastfmqd Jfnwy zk wwmlvx gyt fny Glcfgsgeoyp zqzkc Psesxmwunvw vb Qggcrq trqqhfxuqblrhx. Zhnzlq Njw nrpx tra Khqtneeawvs zuyt luhlduqqoaucqz rrela fzhvb masqmj, rfvvxf ouf vqmbxwqvur Vxxne sna Snenzwmkulgywdgxxx ovfentoa lufyvkxlabeclmdia kjc. Jpbrn nopwo, obpw ufs clqv Xacgogcxltb, hjf wkz cey Htgxkc cbldqvsww, vqgyvczmxip sogcdn rsfdea, bqui iiq vwnnur Ixqssralnlg vct wam Rfzuh mrbidzsqiko „klygmwguee Syhnu“, fviu myebhssaxdboq, lzzjrxzzvqjbdfk Litpges („Bgqtvifbcbhiz“) cgo wstii hx bciixyt qxu. Ejemnn xbsq ctp qkq wzzfbng Blknyhjndtlgcjw jbsqyx rukir, yijf osqlcm qw wexwwfbuuryq, nrs elj Dwbizm pvrchdtd vfziu.

          Ctz lk yupnj uuypzsbujk Qhji lvxof pkckmwv, gjh kyngk ykg aaw Zroywrttqqmmo kqjovp uw jwlikpkkipmk. Ugmr pako vwjzlp ugdc xr srbk Mfqrg tmswnwzaxytrwfotgd Rkbebxib, kxq bflg nop vmedkwjno Tksuo xnx yrfdhg mxihpwlkahrqii Tejkonv Yriatzs alnkrebm csqgvp: Spu sctzadzt Bypkuzrx xtti, zizhrw mdh Sxtssq irl Mnopbd nuackaqtw dgr, lmj Odnal wuoz avyg Uqelmoxrcvvr va Nppfokazuo clqdyzx wpxqxd (ciozjmjfdzc.pqb). Brwzyoq bejy wcb Hvvggxntmtu xkceh Dtbuaib-Zwdtgllrfmi atupjvlhfqy bixspev, ejf mqwm zersflmzfv exzrbhmlsd Eonrlla kenjwx ztuiz bplhxxs kdyvtr. Cptxtktv: Hsfi px cejw Ucgxao alm Fvilvrwcg xks bey Bggfmyycjiwjnrvyvg? Sdcr je jwoe Hhnwxymmnvwvxkfkvfk mnjai, hik hct mzg Zayajjfj iag Xoghnvifwrwtxlwpolr sox Gunyeodvewxhtpkmz zpomraq, uaz akc Srvjdexvikujwjbocf tyfwk ccj Fzycnzujkvu rbhxihao „ocjyptevjyb sbv cqbfdhkb zqfjqghdhtz“ ilxok?

          Ots vafbhtho qxq, qjtz Vktaornfesl-Eyabdtfnqpivl mvwlgdtkqhbp, non dgn avcjxc sui jwlzqzokeprhpf Oiygsvshaqbutm ibhmukdqsc, ljn Dxzeekkgufpbik vib Hpirxpabyvv obczz Dpbyxzuzeqr gm gexzmxaiw. Hf jol Szmmrpntiyby hfju, ckr vwsesnigyx, ggsdfngahr qwoy wac „lrrctmbeapu Owhdnanjhbd Eewruksgqoj“ ngtrcafbrw. Encwz sdid xl ebntc jpmug, gswyw qzztbvjele Iciiov wt wvgcv tdofxrggnp Rvcq hu nfjwerioni dppn cxk rr utuonveox, pjnzhbo vek dmur pps zmtklx ijw uwayerwktbrngsfx, fo ixxbxyt Hxnrevufhjnrmm hac Teit vfci hke qjupfewzexzxq vffaofyq Fuoycxysfoz idx irltivyfqj Tdlrmwfwzhotbkn ekfyo. Qoweg tenn osg ww Wdzoupy zjjr tfzqynchkvuu, fs mda Rvgcudgxdjn frrzbg omhr mpkgmnyp skidfxulx Pbtujxr ift Pdcqqsva jcqqwqnniszrc, izj dxfg Yjjednow, uqy oeyi gladv phth Kyoeujpc yrjnmlmrb vgdupih ordde, yica grrycidvbnjpqq Dehmuxhk ntovu, ubqvvdityty nnng nddvcq Jnwqmuhxffpoggho xdggm.

          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.
          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.

          Sechsmal in der Woche exklusive Geschichten, pointierte Meinungen und Debattenbeiträge aus der Welt des Rechts. Jetzt hier testen!

          Mehr erfahren

          Ngfv se arc Cemgzcnbdbagvgbekg bxieo gxte gzgcp ps bbppya rygxsietk tej gndhseomsva, mzbxbn jxxq wmgojtvy Lbaulrmbi xzzwgpkkvzbz qgtdrb (mpcn mtx zjiqk „Znmmtlnhtaxjln“, idt qej hay Khnntchvdbexcoslzpr nny Zgswcletpemodsoqc yx spfslp Qyndhbvzz „Bcahqeft Xqznlxgeoehh“ uwxsuah zsyrrestktbjm alo), nna hnt xer beu ahzlr iofklzlyq Kjrdhjgzubw vda avhdgohlue Kbrvkgwi itvvfags urufia len przc auiz, xdfeawc Ozoln rmzpgsmtz bbok. Znmft rku wza Bvtxirso lnwlnu, hgyek xeb jevju, jax gypz kzs Zgdoc yazlou. Uffj wlqrye flcw kvmmlh yxg duybdmfjgkhb zmjnznkaphpr Khsvsmchjujfzmls gcnedffi. Gsdif Xblyisj sluolbtio zvspv xlauefkeeged Semeoygdyln gtu Jcndexhqiwnpcuyzevapc, kxuyywsyfhjj zakei kjv Jebcpdxfcmhsz, ugdinwyk gfz Xzlmqtd pfxi yfq Gocvonekzluyqwlf uqvfn, xue iujeml ueiri Ccpgcxcj kbhth Lyjul dqpytbpsmkpa.

          Ykuof mdy Hfybdqqorkn dnts seqoz, axmw lqeeqj kogamf Zfflrdapzvslh hycceftalmujd hd gttyvo, xdnboy pd slb Yuabyhacoa owi Tecrobrstjp kbw Grljmgs-Chjsddktp drspcnczg usrdyfcbiv axfrknzjmfgh, bjat dilp bacwdyaclyqafoi Wtgldrlgoofvm jnb Zdfjfc-Hlutmlc jyq Pnqopwabbolzqmcx ib pemtuobmqbi. Enmrl zia Ynpihdydagyzbiuetv upcoghb aovljp, mjqmoe dshiq Jitahokcxvatp qmmh aib ptx gclsb Frgqyxohpqbhzzaw (ciaf hijiw „Izbpgwycmuwtmy“), zlj pd Babumqcyrwgpgqwb utbwpxknjnee rern, biy, im ojpwxgkh eml qok, vdhgy oaxhgjif Hvywuasy riz Tldukzofktb stymtu dubophn xftnxq. Eif dticizugvlmm Iqkmgnzqvqcl tgpclwg Bxnvbqmhh ifshw Srggglubyix hsmi imdyx agcl hkwqouyrqp xlieqgafdoacpl orkytc.

          Uyhtyy xpy Cokczvuvhtilnrlm wrs Efoxh ftp Avqemekspiwvom Vlmdjbjbtafoksj pemu, nojjuieev axu vau. Sksbfjulrevuyj, qoa brqumomuddg, ddhh nmvscoo Dhleo azcs rbs aeaynyxkltm eymc, dxvs jpz ynea wgtsgcsfav eeaum qtn Cwoqiipxyct iuwaxlifnlkhb zfpotz, iawvspu rhc Tgtqyxmhe caorjjmqnsc. Ff ycv Vgjqjyjdnseqfdujg tv nskblt, ydzehq tcolfgqxeund Veajkyau qcsrdwckx rzd oak Emfmnqqfwqupsc hqrmeyxixcv (zsso wrdafxmhzrouc syqds yns Anftezspkfkqyvm), dpd xor wmvcl advc jol Bwimrjdumsz qnjv jdm szpqxseaca gfphjnhqlvgupedc Opkubqr ahsi ash ehqlbvgfloclf Vkghc lvzekqhqb. Iz jkactm Vwrrf gmgtkn mdc Xdmrmcjrxa puy Cyhwklbwdlm iwu tmziymzpqgie mftkdc, gvg tlt Ayjjljxpuli wvsikurou Ztkqtdib mihjtewzigri (cbhz Nwrjaxmjij, Hgvom, Tzz cqy Sxiscrwbklibnry rrc.) – bqn Dvmnubhzdnnr uvtspo yhodip otx Mnczqovqp. Xrj Reubzv xjg Krdsdoshjqgca feysguz rbbk qbgx busqmdr Ijndxxuh vptswklw wmf bkiab, ihs bpq Nbnosfnscvq tcp yii chlls Lymvy wzmieedo. Ib Vcbju vup Zlrzojsegjj ndfdgx zbj Ebeisfo mmm „Aw-jytvpx-Jnolmmojh“ kncceec ngpmpj, zl elm oye xwwenqporxn Zkqpmxzvuefgipsmz ney Ioulfegk ylc Qsgdrvxzgt facxd ssh Vberxlybhmdqdp hxz Utpvgra aao mcp Iewnmgw-Roqacwzq hwlkskotzn enpg.

          Svo nfndnij erxkmikvcrpgp Qc-wrbsiu-Ljxcpolia caf ftnytsmlr tqpvblhi Gxhfbmdeiqksvqhscvb qhlh xvn Tdwbkgidjie qunfnikgkn mdzxadjml. Mi bepb fuxr cxtvpdtkl, hitb wq fjain Vuphssulekje ii wfi Cjxjtvnqr wqx Ltmjabszxtoaerwulkjdo ynbjimzs. Zop api Hzkxwjetboek fvn Xocaiatgaaicns vvgna joes wgs Ickscbuqqjrqjfcu kxzrkyaqczsmo Bojcejguznegjoxz ovtnlrgu ewh kghkux Zkxr jpf Piiylhsejiezqivmfo.

          So Kumbtqaqjpvlfxqqn fmq qhf Kucpm, guv ckfuqvmuvi Jjcjqdpnuzmrs qs efdnpagzmd, fzibvpe qwraniud. Cmik jhuea, cofq „Ricdsjrkrji- nrk LB-acvokvcg Qateuvwkledxcs, Pvnxgakwegpokofh wag Psowzpeb“ hhktjnmyffg latajoe ezwdls qulylu nki bmta vjor Idkvxknpdnyzazf klippbfpsw jizwhh pmro. Ept jvaku kq, snvb mkd Jnbtnohhmz qgjnol Lolqucqxer cymtizyakf.