Moin, ich bin Kevin Baum

Ich bin Philosoph (M.A.) und Informatiker (M.Sc.) an der Universität des Saarlandes. Als Dozent bringe ich in erster Linie Informatikern die ethischen Dimensionen ihres Tuns nahe und lehre sie, damit kompetent umzugehen (siehe Ethics for Nerds). Meine Forschungstätigkeit betrifft vor allem den Zusammenhang von Erklärbarkeit von KI-Systemen und gesellschaftlichen Ansprüchen (beispielsweise der Möglichkeit verantwortungsvollen Entscheidens) im Rahmen des von der Volkswagenstiftung geförderten Projekts Explainable intelligent Systems. Außerdem veröffentliche ich zur (Un-)Fairness von Algorithmen und stelle gerade meine Dissertation in Philosophie zu Fragen der normativen Ethik fertig (zu individuelle Pflichten in kollektiven Kontexten).

Ich bin Mitglied und Sachverständiger in diversen inner- und außeruniversitären Kommissionen. Außerdem habe ich Algoright e.V. mitgegründet, die saarländische Denkfabrik für gute Digitalisierung. Als Wissenschaftskommunikator halte ich Vorträge und Workshops und bin auch der universitäre Ansprechpartner für entsprechende journalistische Anfragen. Derzeit gründe ich außerdem noch ein Startup. Mehr Details zu all dem gibt’s weiter unten und meinen Lebenslauf gibt es hier.

Fragen, mit denen ich mich tagein, tagaus beschäftige:

  • Können Algorithmen diskriminieren?
  • Was steckt hinter vertrauenswürdiger Künstliche Intelligenz jenseits des Buzzwords?
  • Warum sind Eigenschaften wie Erklärbarkeit, Nachvollziehbarkeit und Transparenz eigentlich so wichtig?
  • Soll ich diese Corona Warn App installieren? (Ja, sollen Sie!)
  • Und was ist die eigentliche Gefahr von Algorithmen in Bezug auf Fake News und die stetige Polarisierung der Gesellschaft?
  • Manipuliert meine Timeline mich?….

Forschung

eIch bin wissenschaftlicher Mitarbeiter an der Universität des Saarlandes in den Fachrichtungen Informatik (in der Gruppe für Zuverlässige Software und Systeme von Professor Holger Hermanns) und Philosophie (am Lehrstuhl für Praktische Philosophie von Professorin Ulla Wessels und Professor Christoph Fehige).

Gemeinsam mit Sarah Sterz und Prof. Hermanns habe ich die Vorlesung Ethics for Nerds entwickelt. In ihr sensibilisieren wir angehende Informatiker für die ethische Dimension ihrer Forschung und Entwicklungen, geben ihnen aber zugleich die argumentativen und moralphilosophischen Kompetenzen an die Hand, um mit diesen Herausforderungen umzugehen. Ethics for Nerds ist vom Stifterverband als Hochschulperle des Monats Januar 2019 und schließlich auch als Hochschulperle des Jahres 2019 ausgezeichnet worden (zusammen mit Game of TUK von der TU Kaiserslautern).

Vor einigen Jahren hatte ich im Rahmen von Ethics for Nerds die Idee für ein wahrhaft interdisziplinäres Forschungsprojekt: Alle schienen sich einig zu sein, dass für Computersysteme und Modelle Eigenschaften wie Transparenz, Nachvollziehbarkeit und Erklärbarkeit wichtig sind, damit bestimmte gesellschaftliche Ansprüche erfüllt werden können. Beispielsweise damit menschliche Experten auf Grundlage von Empfehlungen von KI-Systemen verantwortungsvolle Entscheidungen treffen können, damit man gerechtfertigt in solche Systeme vertrauen darf, damit Systeme hinterfragbar und Entscheidungen anfechtbar bleiben usw. Aber daraus ergeben sich viele Fragen: Wie genau sieht diese Beziehung zwischen Transparenz, Nachvollziehbarkeit und Erklärbarkeit auf der einen und den diversen gesellschaftlichen Desiderata auf dere anderen Seite aus? Können Methoden (Stichwort: Explainable AI), die versuchen, insbesondere aus den immer komplexer werdenden KI-Verfahren, die auf maschinellem Lernen basieren, immer mehr Informationen ›herauszuquetschen‹, wirklich helfen, diese Ansprüche zu erfüllen? Wie tun sie es gegebenenfalls? Was sind die Voraussetzungen dafür? Und weiß man dies alles nicht, wie kann der Gesetzgeber denn dann überhaupt zielgerecht regulieren?

Zu all diesen zugegebenermaßen hochgradig interdisziplinären Fragen fand ich keine befriedigende, systematische Arbeit. So entstand die Idee für das Projekt Explainable Intelligent Systems (EIS), das nun eine Förderung der Volkswagenstiftung für die kommenden drei Jahre im Rahmen des Tracks Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen erhielt. Hier erforschen wir Arbeitsgruppen aus der Informatik, der theoretischen und praktischen Philosophie, der Organisationspsychologie und der Rechtsinformatik genau diese Fragen. Ich freue mich, die kommenden Jahre ein Teil dieses Projekts zu sein. Mehr zu EIS auf der Projektwebsite.

Ich arbeite derzeit an zwei Dissertationen. Die philosophische, die sich gerade in der Fertigstellung befindet, befasst sich mit der Ethik individuellen Handelns in kollektiven Kontexten aus konsequentialistischer Perspektive. (Wenn wir z.B. zusammen durch die Gesamtheit unserer Handlungen den Klimawandel herbeiführen, aber der ›Beitrag‹ eines jeden Einzelnen keinen bedeutsamen Unterschied bewirkt, solche Unterschiede jedoch maßgeblich für den moralischen Status unserer individuellen Handlungen sind, was bedeutet das dann für unsere individuellen moralischen Pflichten hinsichtlich des Klimawandels? Gibt es keine? Wenn doch, was ist an dem zuvor aufgezeigten Gedankenweg verkehrt?)

In meiner Informatikdissertation geht es indes um den Zusammenhang von maschineller Erklärbarkeit und Maschinenethik, also der Frage, was künstliche Systeme, moralisch gesprochen, tun sollen und wie man dies in ihr Design integriert.

Wissenschaftliche Veröffentlichungen mit meiner Beteiligung findet man auf meiner GoogleScholar-Seite. Eine Liste mit eher populärwissenschaftlichen Veröffentlichungen füge ich demnächst auf dieser Seite hinzu. Außerdem schreibe ich gelegentlich für den Blog von Algoright.

Meine weiteren Forschungsinteressen liegen in modaler (deontischer) Logik sowie Entscheidungs- und Spieltheorie.

Öffentlichkeitsarbeit

In meinen Vorträgen und Workshops stehen vor allem die Themen algorithmische Diskriminierung, Erklärbarkeitsanforderungen an KI-Systeme sowie die Frage der ethischen Verantwortlichkeiten von Informatikern und Softwareentwicklern im Vordergrund. Allgemeiner sind meine Themen im Spannungsfeld von Digitalisierung und Gesellschaft zu finden. An Podiendiskussionen nehme ich teil, ich moderiere sie aber auch gelegentlich.

Einige Beispiele: Auf der Konferenz der Informationsfreiheitsbeauftragten in Deutschland (IFK) habe ich 2019 einen Vortrag zu den Grenzen von Erklärbarkeit moderner KI-Systeme gehalten; beim thüringischen Landesbeauftragten für Datenschutz und Informationsfreiheit war ich kürzlich mit einem Vortrag zu einer Veranstaltung zum Thema Profiling eingeladen; für die saarländische Ärztekammer hielt ich den Vortrag zur Eröffnung des Fortbildungsjahres 2020/2021 zu den Themen digitalen Rechte und der gesellschaftliche Relevanz von Erklärbarkeit von KI; war auf Podien der Techniker Krankenkasse und der saarländischen Arbeitskammer eingeladen, im letzten Fall u.a. mit einem Vortrag zu algorithmischer Fairness.

Je nach Thema und Kontext werde ich entweder als Vertreter der Universität des Saarlandes eingeladen oder trete als Mitglied unserer gemeinnützigen Denkfabrik für gute Digitalisierung, Algoright e.V. auf, beispielsweise zuletzt mit einem Vortrag Digitale Mündigkeit als Mittel gegen Dark Patterns, Profiling und Überwachung? im Rahmen einer Veranstaltung bei den Aktionstagen Netzpolitik & Demokratie, die wir zusammen mit der saarländischen Landeszentrale für politische Bildung organisiert haben: Verhaltensmanipulation durch digitales „Hexenwerk“.

Zurzeit auf der Agenda: beim Safer Internet Day der Landesmedienanstalt Saarland ein Vortrag zu Algorithmen und Desinformation; für die Union Stiftung ein Workshop zu Argumentation und klarem Denken (zusammen mit Sarah Sterz); ebenfalls für die Union Stiftung ein Vortrag zu algorithmischer Diskriminierung.

Expertendienst

Meine Themen sind in den letzten Jahren auch in der Öffentlichkeit auf wachsendes Interesse gestoßen.  Deutschlandfunk, FAZ und Panorama z. B. haben mich als Experten (schreckliches Wort!) im Bereich der Computer-, Maschinen- und Forschungsethik interviewt, Kammern, Unternehmen und Kommissionen innerhalb und außerhalb des universitären Umfelds luden zu Vorträgen ein.

Als offizieller Ansprechpartner der Universität des Saarlandes stehe ich Journalisten für Themen wie etwa diskriminierende Algorithmen, Maschinenethik, Maschinenerklärbarkeit und, ganz allgemein, Computerethik zur Verfügung.

Ich bin außerdem in einigen Kommissionen tätig, als stellvertretender Vorsitzender besonders in der Kommission für die Ethik sicherheitsrelevanter Forschung (KEF) der Universität des Saarlandes, und als sogenannter „ständiger Sachverständiger“ in der Enquetekommission Digitalisierung im Saarland (EDS). Mehr dazu weiter unten unter »Qualifikation und Auszeichnungen«.

Als Adresse für alle nicht wissenschaftlichen und universitätsbezogenen Anfragen habe ich 2019 mit einer Reihe weiterer, interdisziplinärer junger Wissenschaftler die gemeinnützige Denkfabrik für gute Digitalisierung, Algoright e.V.“ gegründet. Mehr Details weiter unten im Bereich »Interessiert an meiner Expertise?«.

»Komplizierte Themen verständlich jedermann erklären können: Das es ist ein Lackmustest für echtes Verständnis.«

Qualifikation und Auszeichnungen

Eine Kurzübersicht

Ausbildung

  • 2006 Abitur in Hamburg (1,5)
  • 2007 Aufnahme Studium an der Universität des Saarlandes (Bachelor in Informatik, Nebenfach: Mathematik)
  • 2011 Bachelor of Science in Informatik (2,0), im Anschluss parallele Aufnahme Studium Master Informatik und Master Philsophie
  • 2013 Master of Science in Informatik (1,4)
  • 2014 Master of Arts in Philosophie (1,1)

Erfahrungen, Ehrungen, Expertise

Journalistische Highlights