Neues Forschungsprojekt zu digitalen ethischen Entscheidungshilfen für Konfliktsituationen

Eine Künstliche Intelligenz als Entscheidungshilfe für ethische Konfliktfälle im Bereich der Kindswohlgefährdung entwickeln Wissenschaftler:innen aus München, Würzburg und Nürnberg in einem neuen Forschungsprojekt. An diesem Beispiel aus dem Bereich der Kinder- und Jugendhilfe untersucht das interdisziplinäre Team aus Sozialwissenschaftler:innen, Informatiker:innen und Philosoph:innen ab Januar 2020 auch, welche Risiken eine solche Software birgt.

Beim Forschungsprojekt „Kann ein Algorithmus im Konflikt moralisch kalkulieren?“ kooperieren Wissenschaftler:innen der Hochschule für Philosophie München (HFPH), der Hochschule für angewandte Wissenschaften Würzburg Schweinfurt (FHWS) und der Technischen Hochschule Nürnberg Georg Simon Ohm (TH Nürnberg). Das Bayerische Institut für digitale Transformation (bidt) fördert das Projekt für eine Laufzeit von bis zu drei Jahren.

Michael Reder, Professor für Praktische Philosophie und Vizepräsident der HFPH, leitet das Forschungsprojekt. Projektpartner sind Nicholas Müller, Professor an der Fakultät Informatik und Wirtschaftsinformatik der FHWS, Robert Lehmann, Professor am Institut für E-Beratung der TH Nürnberg und Alexander Filipović, Professor für Medienethik an der HFPH.

„Wir wollen moralische Forderungen, die in Konflikten um Kindeswohl eine Rolle spielen, in ein möglichst eindeutiges Verhältnis zueinander setzen und sie dann in eine KI übersetzen“, erklärt der Philosoph Michael Reder. „Unser Ziel ist es, digitale Entscheidungshilfen für Jugendämter zu entwickeln.“

In familiären Konfliktfällen entscheiden Jugendämter, ob eine Gefährdung des Kindes vorliegt und welche Maßnahmen ergriffen werden. Das Projekt analysiert, ob und wie normative Kriterien, die das Handeln der Sozialarbeiter:innen leiten, in Algorithmen übersetzt werden können, sodass digitale Instrumente ihnen bei der Entscheidungsfindung helfen könnten.

„Die spannende Frage ist, wie genau wir normative Kriterien für Konfliktsituationen in Algorithmen übersetzen und unterstützende Tools für die Praxis entwickeln können“, sagt Wirtschaftsinformatiker und Sozioinformatiker Nicholas Müller. Sozialwissenschaftler Robert Lehmann hebt den möglichen Mehrwert der gemeinsamen Forschung für die Praxis in der Kinder- und Jugendhilfe hervor: „Für Sozialarbeiter:innen könnten ethisch fundierte digitale Tools zur Einschätzung von Kindswohlgefährdung zu einer deutlichen Entlastung führen“, ist er überzeugt.

Neben den konkreten Konflikten um Kindeswohl geht es in dem Projekt auch um Grundsätzliches: Bevor sie eine konkrete unterstützende KI in die Tat umsetzen, diskutieren die Wissenschaftler*innen, inwiefern KI für die Bearbeitung von sozialen Konflikten hilfreich ist und welche Chancen und Probleme mit der Einführung eines solchen Systems verbunden sind.