Forschungsergebnisse
Zentrale theoretische Erkenntnisse
„Wenn Sie glauben, dass Technologie Probleme lösen kann, verstehen Sie die Technologie nicht – und Sie verstehen Ihre Probleme nicht.“
– Dieses Zitat, das verschiedenen Personen zugeschrieben wird, taucht 2023 in einer Kunstinstallation von Laurie Anderson im Moderna Museet (Stockholm) auf.
Technologische Vermittlung
Einmal adaptiert, prägen Technologien die Art und Weise, wie wir die Welt wahrnehmen und was wir in ihr tun können. Die datengestützte KI beispielsweise verspricht zwar gesellschaftliche Verbesserungen, trägt aber bereits zur Überwachung und zur Vergrößerung gesellschaftlicher Ungleichheiten bei. Dies unterstreicht die Notwendigkeit, sich darauf einzustellen, dass die tatsächlichen Auswirkungen einer Technologie oft die ursprünglichen Absichten ihrer Entwickler:innen übersteigen.
Kulturelle Voreingenommenheit in der Technologie
Jede technische Errungenschaft spiegelt von Anfang an eine kulturelle Voreingenommenheit wider. Ein zentraler Designbegriff wie „intuitiv“ beispielsweise ist historisch durch das profitorientierte Schnittstellendesign geprägt. Dies unterstreicht, wie wichtig es ist, diese Vorurteile im Technologiedesign zu erkennen und zu bekämpfen.
Nicht-Neutralität ethischer Prinzipien
Der Glaube an eine „neutrale“ Auslegung ethischer Grundsätze wie „Fairness“ oder „menschliche Autonomie“ entspricht oft der vorherrschenden Meinung, die uns immer als selbstverständlich erscheint. Dies ermutigt uns, die vermeintliche Neutralität ethischer Grundsätze zu hinterfragen und den breiteren gesellschaftlichen Kontext zu berücksichtigen.
Ethische Grundsätze als Ausgangspunkte
Anstelle starrer und neutraler Regeln sollten ethische Grundsätze als Ausgangspunkt für kontinuierliche, reflexive Überlegungen dienen. So sollten neutral formulierte Ethikgrundsätze mit Warnhinweisen versehen werden wie „Vorsicht, Fairness ist vielleicht nicht das, was Sie denken“ oder „Letztendlich werden Ihre Designentscheidungen die menschliche Autonomie beeinflussen“. Dies verdeutlicht die unausweichliche Verantwortung der technologischen Innovation: Sie ergreift am Ende Partei.
Empirische Schlüsselergebnisse
„Es ist die Aufgabe von Ethiker:innen, zur Selbstreflexion anzuregen und Überzeugungen in Frage zu stellen – eine schwierige Aufgabe, wenn man bedenkt, welche Sorgen die Menschen haben. Tief verwurzelte Überzeugungen in einem einstündigen Ethik-Workshop zu verändern, kann absurd erscheinen, aber ich glaube, wir haben einige Fortschritte gemacht.“
– SIMPORT Forschungsteam
Sozio-technische Kluft
Zwischen Ethik und Softwareentwicklung klafft eine deutliche Lücke, die dadurch gekennzeichnet ist, dass Softwareentwickler:innen sich in erster Linie auf die Funktionalität konzentrieren, während Ethiker:innen oft aus der Ferne arbeiten und abstrakte Konzepte verwenden. Diese sozio-technische Kluft, die durch unterschiedliche Denkweisen und Erzählungen gekennzeichnet ist, behindert eine effektive Zusammenarbeit.
Sehnsucht nach einer Ethik-Toolbox
Das Denken innerhalb dieser sozio-technischen Kluft führt zu einer vereinfachten Sichtweise von „Ethics by Design“, bei der von Ethiker:innen erwartet wird, dass sie einen universellen „Ethik-Werkzeugkasten“ für Entwickler:innen schaffen, um ethisch einwandfreie Ergebnisse zu gewährleisten. In der Praxis führt dieser Ansatz zu gegenseitiger Frustration, da die Ethiker:innen die Erwartungen der Entwickler:innen nicht erfüllen oder die ethische Verantwortung an neue bürokratische Strukturen delegieren.
Die Rolle kultureller Narrative
Die Sehnsucht nach einem „Ethik-Werkzeugkasten“ wird durch fest verankerte, von Männern dominierte Erzählungen über Technologie und Innovation noch verstärkt. Zu diesen Narrativen gehören der Glaube an den technologischen Solutionismus, bei dem Technologie als Allheilmittel für alle Herausforderungen angesehen wird, und das Fortbestehen des linearen Innovationsmodells, das Forschung und Entwicklung von der gesellschaftlichen Anwendung trennt.
Das Potenzial der ergebnisoffenen Praxis
Die Erfahrung im SIMPORT-Projekt zeigt jedoch auch Einblicke in Praktiken, bei denen die sozio-technische Kluft überbrückt wird, wodurch neue Möglichkeiten entstehen. Die Zusammenarbeit zwischen Entwickler:innen und Ethiker:innen kann festgefahrene Narrative aufbrechen und die Bedeutung experimenteller, ergebnisoffener Praktiken hervorheben, bei denen die Verantwortung aktiv übernommen wird, und zwar auf eine Art und Weise, die nie einfach, aber immer einschneidend und kontextspezifisch ist.