https://www.faz.net/-gyl-9ibi7

Computer und die Moral : Philosophische Nachhilfe für Nerds

  • -Aktualisiert am

Die Arbeit von Programmierern kann helle und dunkle Seiten haben - wo bleibt also die Ethik? Bild: dpa

Informatik und Ethik, gehört das zusammen? Zwingend sogar, sagen viele Programmierer – und fordern eine Art hippokratischen Eid für ihr Fach.

          Vor der Idee stand das Dilemma: „Vor ein paar Jahren wurde ich für ein Forschungsprojekt angefragt. Es ging um eine Technologie zum Zertrümmern von Weltraumschrott“, sagt Holger Hermanns, Informatik-Professor an der Universität des Saarlandes. Eigentlich eine gute Sache, schließlich rast tonnenweise Schrott durch das All und stellt eine Gefahr für Raumfahrzeuge dar. Trotzdem zögerte der Wissenschaftler. „Es lag auf der Hand, dass man die Technologie auch für andere Zwecke hätte verwenden können. Etwa für den Abschuss feindlicher Satelliten“, sagt er. Was also tun: zusagen oder absagen?

          Auf der Suche nach Antworten stieß der Informatiker in seinem Fachbereich schnell an Grenzen. Mehr als erstaunte Blicke und ratloses Schulterzucken waren nicht zu holen. „Informatiker sind hochspezialisiert. Sie interessiert vor allem, wie eine Technologie funktioniert. Aber über die Folgen ihrer Nutzung machen sich die wenigsten Gedanken“, sagt Hermanns. Ein gutes Beispiel dafür sei der Abgas-Skandal: Informatiker und Ingenieure wollten genau verstehen, wie die Schummel-Software arbeitet, die Folgen für Fahrzeughalter und Gesellschaft aber interessierten sie kaum. Genau diesen Scheuklappen wollte Hermanns entgehen – und landete mit seinem Weltraumschrott-Problem an der philosophischen Fakultät.

          Keine schnellen Punkte zu holen

          Dort trifft er auf den Doktoranden Kevin Baum. Er hat Abschlüsse in Informatik und Philosophie und ist sofort Feuer und Flamme, über das Thema zu diskutieren. Im Gespräch stellen die beiden Wissenschaftler schnell fest, wie stark sich die Fächer überschneiden. Und wie groß der Bedarf an einer ethischen Einordnung von technischen Möglichkeiten ist. Ist die Vorratsdatenspeicherung moralisch haltbar? Sollte Künstliche Intelligenz Rechte haben? Wer ist verantwortlich, wenn ein autonomes Fahrzeug einen Unfall baut? Gibt es moralisch legitimiertes Hacken? Und was soll man tun, wenn eine Technologie mit guten und schlechten Absichten genutzt werden kann?

          Dieses sogenannte Dual-Use-Dilemma taucht im Alltag von Informatikern häufig auf. Für Holger Hermanns kam es in Form des Weltraumschrotts daher, aber man muss nicht lange nach weiteren Beispielen suchen: Autonome Systeme für Fahrzeuge etwa taugen auch für autonome Waffensysteme. Doch darauf vorbereitet sind Informatiker in der Regel nicht. Aus der Begegnung der beiden Wissenschaftler entsteht deshalb eine Idee: Sie wollen eine Ethik-Vorlesung für Informatiker auf die Beine stellen. Sie soll technische mit philosophischen Aspekten verknüpfen, ethische Fragen diskutieren und Studenten für ihre Verantwortung sensibilisieren. „Schließlich findet Informatik längst nicht mehr im luftleeren Raum statt, sondern gestaltet unsere Gesellschaft“, sagt Baum. Im Sommersemester 2016 steht die Veranstaltung erstmals im Vorlesungsverzeichnis, heute hat sie dort einen festen Platz.

          Das Interesse ist von Anfang an groß, der Zulauf enorm. „Die Veranstaltung hat einen Nerv getroffen, denn im deutschsprachigen Raum findet das Thema bisher wenig Beachtung“, sagt Baum. Die beiden wollen den Studenten deshalb eine Art Werkzeugkasten mit auf den Weg geben: „Sie sollen lernen, ihr eigenes Handeln zu hinterfragen, ethische Probleme zu erkennen und kompetent mit ihnen umzugehen.“ Dafür geht es in der Vorlesung zunächst um moralphilosophische Grundlagen. „Bei ethischen Fragen hat man oft ein intuitives Gefühl. Aber darauf sollte man sich nicht verlassen, sondern das Thema klar und präzise durchdenken“, sagt Hermanns. Geübt wird das mit der Diskussion praktischer Beispiele. „Viele Studenten sind überrascht, wie anstrengend philosophisches Denken ist“, sagt Hermanns. „Aber mittlerweile hat sich herumgesprochen, dass es bei uns keine schnellen Creditpoints zu holen gibt.“

          Selbstverpflichtung und Algorithmen-TÜV

          Neben Grundlagen und Beispielen geht es in der Vorlesung und dem Tutorium auch um die strukturellen Bedingungen der Berufswelt. Die sind nämlich alles andere als optimal: Wer beim Programmieren moralische Bedenken hat, steht mit dem Problem meist alleine da. Zwar gibt es ethische Richtlinien wie jene der Gesellschaft für Informatik (GI) oder der Association für Computing Machinery (ACM), doch sie bieten kaum mehr als eine Orientierung. Ihnen fehlen die Kopplung an das Arbeitsrecht und die Verankerung in der Berufskultur. Als Ausweg bleibt oft nur Whistleblowing, das jedoch eigene moralische Probleme mit sich bringt. Deshalb geht es auch um Perspektiven: Clearing-Stellen, Selbstverpflichtung, Algorithmen-TÜV, ein verbindlicher Kodex – was müsste sich ändern, damit Informatiker Missstände melden können, ohne ihren Job oder gar ihr Leben zu riskieren? „Da ist noch sehr viel zu tun“, sagt Baum.

          Dieser Ansicht ist auch Thomas Matzner. Der Münchner Diplom-Informatiker und Berater für Systemanalyse beschäftigt sich seit langem mit ethischen Fragestellungen der Informatik und hat dazu an der TU München eine Ringvorlesung gehalten. Längst sei klar, dass neue Technologien nicht nur ein Segen sind, sondern Gefahren mit sich bringen. Das beginnt im privaten Bereich mit Spam und Phishing und erreicht andere Dimensionen, wenn es um moderne Überwachungssysteme, Wahlbeeinflussung, Fake News, elektronische Kriegsführung oder die Bespitzelung von Staaten geht. „Wir müssen die Ambivalenz digitaler Technologien anerkennen und mehr Verantwortung übernehmen“, sagt Matzner. Dabei seien nicht nur Informatiker in der Pflicht, sondern auch ihre Auftraggeber und die Nutzer. „Wir brauchen einen grundlegenden gesellschaftlichen Wandel“, sagt er.

          Dafür sei es wichtig, das Thema an die Universitäten zu bringen. „Informatiker brauchen ein anderes Selbstverständnis, vergleichbar etwa mit dem von Medizinern.“ Die halten sich seit mehr als 2500 Jahren an den hippokratischen Eid. Der ist zwar nicht verbindlich, hat aber einen großen Stellenwert. Seit einigen Jahren wird immer mal wieder der Ruf nach einem Eid für technische Berufe laut. Matzner kann dieser Idee etwas abgewinnen: „Wenn ein Elektriker einen Kunden hat, der die Isolierung nicht zahlen will, dann lehnt er den Auftrag eben ab. Genauso müssten es Informatiker machen, wenn zum Beispiel Sicherheitslücken in einer Software absehbar sind.“

          „Die Vorlesung verändert etwas im Kopf“

          Einen Eid schwört in Saarbrücken keiner der Studenten, die in der Vorlesung „Ethik für Nerds“ sitzen. Trotzdem ändert sich für viele das Verständnis für den eigenen Beruf. Sarah Sterz und Jan Menz etwa haben die Vorlesung besucht. Beide hat die Neugier in die Veranstaltung getrieben. „Informatik ist ein sehr abstraktes und theoretisches Studium. Ich wollte die Chance nutzen, mal über den Tellerrand zu schauen“, sagt die 24-Jährige. „Es ist etwas anderes, Probleme in der realen Welt zu bedenken als in geschlossenen Systemen.“ Jan Menz, 25 Jahre, nickt: „Die Vorlesung verändert etwas im Kopf.“

          Dass die Inhalte Spuren hinterlassen, zeigt sich immer wieder. Regelmäßig melden sich ehemalige Studenten, die jetzt in Start-ups oder großen Unternehmen arbeiten. Sie wollen darüber reden, wie man sensible Gesundheitsdaten vor unbefugten Zugriffen schützen kann. Oder ob es sinnvoll ist, sich bei Vorgesetzten zu beschweren, wenn man das Gefühl hat, eine Anwendung verletzte die Privatsphäre der Nutzer. „Darüber freuen wir uns sehr“, sagt Kevin Baum. Schließlich gehe es nicht nur darum, Studenten zu sensibilisieren, sondern ihnen auch Verantwortung, Rechtfertigung und Argumentationstechniken zu vermitteln.

          Professor Hermanns sagt: „Wir wollen Informatiker, die willens und in der Lage sind, sich in gesellschaftliche Debatten einzubringen. Solche, die den Mund aufmachen, wenn es nötig ist.“ Schließlich stehe hinter jeder Maschine und jedem Programm ein Mensch, der individuell handeln und entscheiden kann. Und wie hat er sich damals entschieden in Sachen Weltraumprojekt? „Die Entscheidung wurde mir abgenommen, denn das Projekt kam nicht zustande. Aber heute wäre ich auf jeden Fall besser für solche Situationen gewappnet.“

          Weitere Themen

          Topmeldungen

          Neue Raumfahrtbegeisterung : Und jetzt der Mars?

          Fünfzig Jahre nach der ersten Mondlandung herrscht neue Raumfahrtbegeisterung. Zuletzt ging es vor allem um Pragmatismus und Risikominimierung – das ändert sich nun dank des privaten Raumfahrtsektors.
          Grenzsituation: Im Coworking-Center „BLOK-O“ in Frankfurt/Oder zielt man auch auf Nutzer aus dem benachbarten Polen.

          Coworking : Freie Sicht und schnelles Internet

          Arbeitsplätze fürs Coworking sprießen seit einiger Zeit auch wieder abseits der Metropolen aus dem Boden. Bringen die stadtmüden Hipster wieder Leben in die Provinz?

          Newsletter

          Immer auf dem Laufenden Sie haben Post! Abonnieren Sie unsere FAZ.NET-Newsletter und wir liefern die wichtigsten Nachrichten direkt in Ihre Mailbox. Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.
          Vielen Dank für Ihr Interesse an den F.A.Z.-Newslettern. Sie erhalten in wenigen Minuten eine E-Mail, um Ihre Newsletterbestellung zu bestätigen.