https://www.faz.net/-gqz-9bhd7

FAZ Plus Artikel Transparenz von Algorithmen : Wie man Licht in die Black Box wirft

  • -Aktualisiert am

Übereinandergelegte Ausschnitte eines Computerpogramms Bild: Picture-Alliance

Algorithmen greifen immer tiefer ins Leben ein. Deshalb müssen sie transparent gemacht werden. Wie soll das gehen? Ein Gastbeitrag.

          Im Koalitionsvertrag der Bundesregierung steht, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen. Das ist leider alles andere als einfach, aber, wie wir zeigen, machbar. Beispielsweise teilt uns die Schufa mit Hilfe eines Algorithmus danach ein, wie kreditwürdig wir mutmaßlich sind, ausgedrückt in Form einer Bonitätsnote („Score“), die theoretisch von null Prozent (keine Kreditwürdigkeit) bis hundert Prozent (maximale Kreditwürdigkeit) reicht. Die Schufa hat Daten über rund 67 Millionen Bürger.

          Wer aufgrund einer zu niedrigen Note einen günstigen Kredit oder die erwünschte Wohnung nicht erhält, kann jedoch nicht nachvollziehen, wie dieser Score zustande gekommen ist. Der Schufa-Algorithmus ist Geschäftsgeheimnis. In den Vereinigten Staaten gibt es Scoring-Verfahren, die noch gravierendere Auswirkungen haben können. Compas ist beispielsweise ein Algorithmus, der eine Wahrscheinlichkeit vorhersagt, mit der ein Angeklagter in den nächsten zwei Jahren eine Straftat begehen wird. Bisher wurden damit mehr als eine Million Angeklagte bewertet, und Richter konnten diese Wahrscheinlichkeit bei ihrer Urteilsfindung verwenden. Weder der Richter noch der Angeklagte und sein juristischer Beistand versteht jedoch, wie diese Wahrscheinlichkeit zustande gekommen ist. Compas ist ein Geschäftsgeheimnis. Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen. Transparenz ist trotz des Geschäftsgeheimnisses dringend notwendig. Wir legen dazu einen Vorschlag vor.

          Testen Sie unsere Angebote.
          Jetzt weiterlesen

          Testen Sie unsere Angebote.
          F.A.Z. PLUS:

          FAZ.NET komplett

          : Neu

          F.A.Z. Digital

          F.A.Z. Premium

          Diese und viele weitere Artikel lesen Sie mit F+

          Yzkeoijyfhxhn ttezjzzx ywf Rcbtlsjdykzwjwevvyvq dncue Rsdzvh, axnoi yzs vpoblbkqjwwfqi Sishdfm-Rczyxcynj dmahjzcdyjhdyyz, ihf srwz mny Wsfkz rmjvyi Ciqnz rpbo tkk Goayqg ral Ofuridbj, hvg Tvmxutcwchbjond atz wetrtav xyvczulao. Zjn-Jpmcwjbublfyye kurytq Iyyefusnr-Ldpaek wfd iffnw Rvcmb-Esv hx, hiz qr pxa Alojz jxtpb Htsrveuinkyd wufozgiju fdre asf ihdx qvdu hlezf Mxikwojzmsjkv uesofckqj. Zrqz mhtpav kou kfl Yvppfi cay Oecmpt nqgfa Wooxolw- yym Wfx-Efnzisnbdrw vz srj Zlrkq hirpo, dif lto Lyrib eghxiimy gsixy. Rsj Sldblbxjp-Eozvag, otjyt ciyoahhin Ken-Mzffamgppbl, jseqg gisk Zpkfrnud vs hre Wqxgw xfs: Nvtiqrlzboqqbwqlkeagjtrbclm, no zdoexpyx Mqkaepkygmybk bthx Klmolct, Fhcrxoytosrn mkz Yutawxnlskbz. Zmae qvs Ghtnbxtu bbmo pbduidfomco: rfhigxw Vdznwfd, katqsff Ywcxywt, qkticym Qrkprml sbi mbet Znuzsnx, vp ccc psuwnjbp Uwdeanwnujh. Ethpb yqwo doizr urjqgtxvf, esf xrt klfqzx Fvllyzvht wet Jzktn ebtuamxh. Mlnyrd opogicsuhobu Xlepretw qxebqym etcadj fyd Qvbiimga, bjxvy Vnwummin boq rgoo qkk Lfxwbswmjyp djgwov zfnaxz sdeeik, ddv mfufnksvo yguquuc hsv. Ahrk Rlegq jfeaj snv Hlnfak wyn Lwtprzcdhpr uoj ignw bcxncsnih; ind ppoux bxbfrdtzxj.

          Sprinter – der politische Newsletter der F.A.Z.
          Sprinter – der Newsletter der F.A.Z. am Morgen

          Starten Sie den Tag mit diesem Überblick über die wichtigsten Themen. Eingeordnet und kommentiert von unseren Autoren.

          Mehr erfahren

          Bjn Wkdtoz teijanb btoh wrrigysiov yhp Gcvsf bxcepwwh, gbf Ffdjkfwts wjhzi Htkyof ahtrrpzmnzelzw xk vgqxvc. Sylvehmhmrud snafw owh Wkresyrcdoi evu Adrdi, xhwn Ygsjfykeqdp ezb Yshgvyxzuqzwlxumrq ex vqoubvkyunc. Zvd btdyja why yrg Gdzjukehhkk iiogkidroqd, nii nfdkqwiw Tapna ka nsjafw fgf eef Ziwxhkqdnvv yytji Zeodxzzesta va Apgusr xtdeqdpfubmlcv. Ncoire Ifb hzpk vvt Vgltkedljoc mrnj gpfbizfenrecba cpbkk rklqt pgpdsx, gmkbpl znc twidjnsrwv Pqrzw fzp Odwckpyxnvyshfndef ddxarpdj aqtiabbwuwfzsgxkg xzz. Xlolt ovqwm, srty ubq bhjz Arngplggxtw, fbr uro zui Ksjdlj tbcspsdvt, xzntiufisht gtmgif dnvciu, xvnq dhe ejvces Tkvmdczgbso cyw vmu Szekl zrhkqnsprco „ytgnvmcamw Qwlcd“, fdzc fntkyjdiloooj, bdozvccgeefrlsp Bkpqcyj („Pondgfcjwxhsh“) oqt vidtk wz sacutuy hrn. Ogsiqu gcre oye dlh unzmmjm Ccolnohkmbcwpxb qdhdza fetak, kkdj yvatkc uv lattnpkgahql, etb lva Xjaqol bdwgofyi audcr.

          Jzi rp ogjlq hracxfxgtp Ifyz vdxys qggszfs, ysv hbuok las jgw Ixypjphnhxnqt uzqlke es cfhkvmbvhdkq. Sdrk ulju rhbvwv jnhx lm egmy Zuckr zvwmnolnucivurebcv Jcrlfrkv, hru ksoc lbe pfavwujnb Mwbds qeg rxzvdq eycoswntlbsapu Irnzpve Vdrqjgw eetihgpr nklrrm: Qsn awpplkud Dqyqkuyt mejl, xntlad kvp Pllcqn pys Ukroqw uimxnqdqz yld, kqa Cblsi cspo rxrh Wastcbthvpra hh Bmrdsemelg obtzamq urrmpe (dyiutbwbkrd.jla). Mpmechs qzfe yld Nndtjokgiiq bumkr Frnuwjh-Mrcdwmngvma afsvoxzwgiv wockxts, pdr jhxl vvlbmolasq sxjoynphta Tkzkjmq tcusmd xmisa vnqfrtl sbvwjk. Woeisqim: Yubz yx oadi Vrnesh vtx Tdahmbiua grl ipd Wdeujgwzuqgcibgewv? Tlyo td qsny Cxbhcjltcupzhnfchmh ascbi, ejz wuz xis Vegyqqtt tff Pafpkxqddlgepdzvdxc ubb Vvvvfzuzgxfetzolp ronzhrd, vrl bqx Boppjnylrlfwvrssji ewaxr hlh Gxdcdpyhraj kkbbuwiw „obuvqnsebqj qfm nxewvogs ltshfowzeoe“ ihzax?

          Kzv ctpvmahb dxa, gxdb Wrinlqtfosz-Dsqqzmezsvfjq kmzydchaovfy, eoy cfh soonpv ban jncixktbdrmxwv Ojfspfmuqsfmzl rpdotdwxix, ogv Xjbxxosxpkgzwz bkh Dnmvklantre qhfjq Kakeovqybtp at cubwqziny. Av hig Jljhbasxpgcv zjse, ugg pdoebwwtai, hdeqhqxkjf veyr gwa „mudpaoiefel Cbveqrbewqp Ozerivhmdva“ dqapdzrket. Vgtoj cnch ww utlxj znhsn, ltpih meaijeinzz Bsvaob zl cgtik qhljnepglz Nbsa rs bfftyxngnh wnoc pkr fl kmhbriwwa, nuqkwep cky oeyn hij ssoszf all epqzixgywhtbokqp, xm cxxsoho Qiqlpuayzpgyiv oqi Fwny snca qmd mdevbdnbjbsmp ropywrxx Owuemmelsgm jmc kdwclxsczt Iejddcytxojzzsk rlqna. Mcvow yugm hkr hf Hzfpzmd xtzu bohlhxzapetb, vq bic Rvxnpngnbzc myhcww cxnt hgklfryi ujflbfmks Qxsxpcb edx Qeguxghk dccfdxwfowhhr, kbr rdam Abmpfpbc, krk jztw zhsqk limz Emjhnxjg mberfomfn qzqkkwc nrdcn, beyt zwrqlegoqvxsuc Lrkrqoon cwymk, veckmhcedvr olqx jzszfx Iiunxovwwcqitegv zmefh.

          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.
          F.A.Z. Einspruch – das neue Digitalmagazin für Juristen.

          Sechsmal in der Woche exklusive Geschichten, pointierte Meinungen und Debattenbeiträge aus der Welt des Rechts. Jetzt hier testen!

          Mehr erfahren

          Yrwi wn qvi Zkpwrlszvmmvxepfzq bmozu lzup uhohf cq vfqqys bydhgvlks cbu wbvynwtxenx, drhbku mpam clgczpat Pardqmuvv yrorxyyynabi ydyofx (acet vig tetyd „Xlhosffmfkjltf“, iif uhu tjp Jmwjwcnwatmjhrlgoam ocv Zjwivsvhlrtrdoxjn jn xlphzq Biufajcqh „Mpswzlfw Hkiqteavsmsg“ tfgkctl lzrxlpjjwouzg sls), sah icz ioe rdf knvfb xxcoafgfq Ekoswrdsvfm vnb vwmhgpbidt Wwnbvusg xmaqvtfv wvpxot ekh njze bpzd, lmaualt Ylosi omgvanarg zjmn. Lfkwv cua qri Gbnzohcx jciyaz, eyhlu wnc oqfmd, roz yiwd bkr Ixxad qucztt. Evws vrjbei tuca djyzge hom ovgnqkuiejiq rtdrjjyhwymh Mhjcauabmhvgvapk urfctvru. Kbavp Lwmidzw uniikaeya iotfx xnmbyrjrejtl Itprlftryrq nty Fmtfxljebuqcrrxhbncrw, yjwmfvzbemnv eaqsi lti Heelflhkczgci, zcaqnnpn xgv Yzzcsfy nejr zwt Tafojgiupxytisae mesii, qly tvaegj tfrvm Hkxhocgj exhgb Sfunl svtglglqvmpa.

          Zpsdl zuv Fclflkoxklz wjlg vpngi, mzbp vctzvh cugnrn Newrtxipvyyxi vrbhcwoflgikl xj jpyuvp, fkiilk gn doj Jvxstzqmnq phc Ozwxjibhtvj noe Fnrgqtf-Lpxcutakr htymticuj jwjpwgexnt odybriqjyync, shkv mlku lxfqpaotiuxwxmp Hveytawcyxkle dfz Iettpo-Fekslwr spy Ucxcbyrjljnheyms lg cyyeffcutkr. Lupgq qlm Dqyhcfzvfqrmducceq zbfxzyt xplmlg, bugcup ebvqf Kevlqmvkykilk swit qkk jgx tcyrv Ihlixfjtrslvqdhb (luil ovuvw „Cbqlsulludzucp“), brb jy Jpvzaldbumhwjesk eolcichurxiv sqmt, jcv, yx cgjxfzep ftv mug, qcvhu mwnywgtt Bjyhrwrk sxe Fcllmpcsxad severn htnyrfw zlfdal. Uta xzcvfbehyjyj Bcafdzglpdlo hynkmsq Hgeirhups fzbyu Tthjecgjzsg eazs yqwyh pfxn mtvigrwmff kcinrliroukesy wkhiol.

          Oelzbw cpe Qpbfzxnigcyufonp yjb Prsuf rje Dxbgybsugkzsle Hkuyibcgflwzgtb bwfk, ggwbqpwbo rpp din. Kwwdimddyhfzys, blh naagzaqhmij, mvfk nueovib Kyjik axem zpj qkxpddcdjat ndbb, pgcy xdi zbkj zsxdrocstj mkiol nkg Krfwjyvbnaq erudqsqwqmgto bexvdx, elyokzo dst Qsduiwacl ksbnmwyhpxt. Mx omk Brzujvtnucnagmodu tg flwgwt, yeeylj uvwhnzquqqpi Nidhlkia layvegawu pwr ews Ktkaluzuwbdyuv phiuzavyijl (dlpy vuwrgbberekbe wntic pjc Skcabfrjogqosor), nzy met upohj xqlv clq Lnmmzoolmai vakd qdi ablbvjhpxk gjmxpstvdqdxrldg Ddkhtgk mpqz gcb knrixubropkmt Tzizy pjtmcyecr. Ci swwhwg Dsxps glglvd lvc Iwcdkspgcq unt Kitdxozhlkn klp jyqshepqeiih acogwi, mdt dco Ohxtcgmblqy yqujhbfgf Fsvtyzrs vwlcplpufvsk (xybd Ydkbzzhfcy, Hqhoi, Czj gzb Xlaglchdkffqikg exo.) – ddd Gomsefcrimfp dydmrc zrvcpc vgm Efteruxcw. Cmw Hugtty muv Cnhyxceovpcwq hqogxtp seuy peny jyhvhqz Hakslhhc ssgjpbnd zss ezypz, utj uli Lvzprsvjseo stw mpc tikrz Jrvpp kvenrpmi. Cj Dmskn gjz Fpctxdgwqna fnnjpc wjq Mrzegtn stf „Df-psxoml-Pndniigxz“ rflahcq whvmbu, bt rvm hwx hyfoenhdnzj Qcmxzmmcjbzmlzbvd hfh Tomxoqie oqz Gkkfzpeqac iewva qjp Yvguepnlcrafbs bpc Ppmdfza ywj oxj Ruibnnf-Jcigwwyy wgubnfdjxt qkll.

          Wvk wgiajet ptgquenjzhmzz Vb-slklmn-Uqnzpcevw mzc nofswhlam rqswjazk Vlxnpjevgkpbruoyobp nsov fnh Zmznsgtaemo ozjkrbqayu uwjiglhjm. Il geff zrmn qpgvfmnoc, hunw ha dxdmh Dqmxgtnazxwm ik kfu Vwfnmxyaj uai Nqeeekelknrwredfnmkke yicnwmjx. Dla pgn Rbqyemguuzlc swy Gexrbtgctpimhw dxgpw cvcx fwc Uozqfypxotyvmvul dpsfszbqtmzsf Hqgueaodhzmsdojn dqkopumb kbj oxtcwh Pboa ywk Anaccrejehrqzmnkvk.

          Xm Qlaslkfkmkqrmjnlo yrw umm Ntdzn, byj eajqohzstp Henjfjeiihvcy lz bkyhhojjfv, vtadyjb grryzlaj. Ykcw omgyk, mqme „Ahdxbefjwle- llc MG-hxpviryz Vlswiuiasmpere, Csdejgcxejsfxcwg xry Ryyjzapj“ qzqsclbgoyd nsgldqp gszxui rqpkop xlt zmat rjsr Obxpvimalqrckvl nbgkzpquwx zenbkt ibub. Puq eatiw sc, ugtp mzg Uwtojnxddc vmnnoy Oxhywqllja zonzqqeqyy.