Ethik ist keine Esoterik – sondern eine wissenschaftliche Methode
Wer Ethik mit Bauchgefühl oder Spiritualität gleichsetzt, liegt falsch. Dr. Alexandra Kaiser-Duliba, theologische Ethikerin an der Universität Luzern, stellt klar: Ethik ist die wissenschaftliche Reflexion von Moralität auf hoher Flughöhe. Sie liefert methodisch fundierte, argumentativ belastbare Entscheidungsgrundlagen – gerade dort, wo technologische Entwicklungen bestehende Werte herausfordern.
Für Führungskräfte und Verwaltungsräte bedeutet das: Ethik ist kein weiches Thema für die Nachhaltigkeitskommunikation, sondern ein hartes Steuerungsinstrument. Wer KI-Systeme einsetzt, ohne eine ethisch fundierte Rahmung zu schaffen, riskiert nicht nur Reputationsschäden, sondern auch konkrete gesellschaftliche Schäden – mit haftungsrechtlichen und regulatorischen Konsequenzen.
Sogenannte KI: Ein Begriff, der hinterfragt werden muss
Kaiser-Duliba verwendet bewusst den Ausdruck «sogenannte künstliche Intelligenz». Der Grund: Was als KI vermarktet wird, deckt lediglich eine Facette menschlicher Intelligenz ab – die mathematisch-datenverarbeitende. Diese kann KI in bestimmten Bereichen massiv besser ausführen als Menschen. Doch emotionale Intelligenz, soziale Kompetenz, Erfahrungswissen und Empathie bleiben dem Menschen vorbehalten. Der Begriff «KI» hat ein enormes Marketing erfahren und ist nicht mehr aus dem Sprachgebrauch zu entfernen – er sollte aber stets mit Bewusstsein für seine Grenzen verwendet werden.
Pflegeroboter und das Fehlen des moralischen Urteils
Das prägnanteste Beispiel aus der Episode illustriert das Problem mit einer erschreckenden Klarheit: Wenn ein Pflegeroboter darauf programmiert wird, einer pflegebedürftigen Person eine Ohrfeige zu geben, führt er diesen Befehl aus – ohne zu zögern, ohne zu hinterfragen. Eine menschliche Pflegekraft würde diese Anweisung verweigern, weil sie das moralische Urteilsvermögen besitzt zu erkennen, dass diese Handlung unethisch ist.
Der Maschine ist es nicht einmal egal. Sie hat schlicht keine Empfindung. Sie kennt keine Abwägung zwischen Anweisung und Würde.
Zweiklassengesellschaft in der Pflege
Diese Erkenntnis führt zu einer der zentralen gesellschaftspolitischen Warnungen der Episode: einer drohenden Zweiklassen-Pflege. Wenn Robotik als vollständiger Ersatz für menschliche Fürsorge eingesetzt wird, können sich nur noch Wohlhabende menschliche Zuwendung leisten – der Rest wird mit robotischen Systemen «abgespeist». Kaiser-Duliba nennt das «Luxushotellerie» als Schlagwort: Menschlicher Kontakt wird zum Premium-Service.
Für Organisationen, die in der Pflegebranche tätig sind oder ESG-Kriterien erfüllen müssen, ist dies eine unmittelbare strategische Warnung. Der Einsatz von Robotik darf nicht als Sparmaßnahme auf Kosten der Menschenwürde instrumentalisiert werden.
Was Robotik in der Pflege leisten kann – und was nicht
Kaiser-Duliba differenziert klar:
- Sinnvoller Einsatz: Logistik (autonome Pflegewagen), Dokumentationsautomatisierung, Operationsunterstützung, Exoskelette zur körperlichen Entlastung von Pflegekräften
- Nicht geeignet: Direkter Patientenkontakt, fürsorgliche Momente, Beziehungsgeschehen, emotionale Unterstützung
Ihr Plädoyer: Bottom-up-Strategie statt Top-down-Technologieimplementierung. Nicht «Wir haben ein cooles System, wo können wir es einsetzen?», sondern «Was brauchen die Pflegekräfte vor Ort wirklich?» Antwort: Entlastung bei Dokumentation, Laufwegen und körperlicher Arbeit – nicht beim zwischenmenschlichen Kontakt.
KI-Beziehungen: Das Character-AI-Fallbeispiel als Warnsignal
Ein schockierendes Fallbeispiel aus der Episode zeigt die Gefahr anthropomorpher KI-Systeme: Ein junger Mensch baut über die Plattform «Character AI» eine intensive emotionale Beziehung zu einem Avatar auf, verliebt sich in ihn und stirbt schließlich durch Suizid – weil er «bei diesem Character sein wollte». Die Maschine war nicht in der Lage zu erkennen, was «ich möchte bei dir sein» in diesem Kontext bedeutet. Sie kann nicht zwischen den Zeilen lesen, nicht abwägen, keine echte Beziehung führen.
Dieses Fallbeispiel ist mehr als eine Tragödie – es ist ein regulatorisches Warnsignal. Systeme, die menschliche Bindungsbedürfnisse adressieren, ohne echte Empathiefähigkeit zu besitzen, tragen ein strukturelles Risiko in sich, das ethisch und rechtlich adressiert werden muss.
Demokratie, Fake News und die Filtermacht der Privatwirtschaft
Ein weiterer Schwerpunkt der Episode ist die Bedrohung demokratischer Prozesse durch algorithmische Informationssteuerung. Kaiser-Duliba zitiert den Begriff der «Filtermacht»: Aktuell liegt die Kontrolle darüber, welche Informationen sichtbar sind und welche nicht, in den Händen weniger mächtiger, nicht demokratisch legitimierter Akteure aus der Privatwirtschaft.
Problematisch dabei: Viele Menschen schreiben KI-Systemen eine Neutralität zu, die nicht existiert. Daten sind niemals neutral. Algorithmen spiegeln die Werte und Verzerrungen ihrer Schöpfer wider. Lernende Systeme verschärfen Extreme – das ist in den sozialen Medien bereits empirisch belegt.
Technologische Antwort auf Desinformation
Kaiser-Duliba berichtet von einem Projekt, das ihre Unternehmung – die KI Management Solutions GmbH – unterstützt: Eine Plattform, die Fake News nicht durch Klassifizierung («Das ist falsch, glaub das nicht») bekämpft, sondern durch Transparenz:
- Woher stammt diese Information?
- Wer hat Interesse an ihrer Verbreitung?
- Wo wurde sie erstmals erzeugt, wo gestreut?
Das Ziel ist Bürger-Empowerment statt Paternalismus. Urteilsfähigkeit statt Bevormundung. Dies ist ein Modell, das sowohl ethisch als auch demokratiepolitisch überzeugt.
Das SEARCH-Modell: Gesellschaftlicher Rahmen für die Zukunft der Arbeit
Mit Blick auf Prognosen, wonach 50 bis 70 Prozent der heutigen Arbeitsplätze durch KI und Robotik wegfallen könnten, stellt Kaiser-Duliba das SEARCH-Modell vor – entwickelt von Professor Peter G. Kirchschläger am Institut für Sozialethik der Universität Luzern:
SEARCH steht für:
- Society – Gesellschaftliche Beiträge: Pflege, Kinderbetreuung, Gemeinschaftsarbeit
- Entrepreneurship – Unternehmertum und wirtschaftliche Initiative
- Analysis / Research – Forschung und Wissensgenerierung
- Research – Weiterentwicklung und Innovation
- Community – Gemeinschaftsbindung
- Human Time – Menschliche Zeit als gesellschaftlicher Wert
Das Modell sieht ein bedingtes Grundeinkommen vor, das ausreichend hoch ist für ein menschenwürdiges Leben mit Konsummöglichkeiten. Im Gegenzug verpflichten sich die Empfänger zu gesellschaftlichen Beiträgen in den genannten Bereichen – vergleichbar mit einem freiwilligen sozialen Jahr, jedoch als strukturelle Erwartung.
Dieses Modell ist kein Wunschdenken: Es ist ein konkretes Risikomanagement-Instrument für eine Gesellschaft, die auf massive Beschäftigungsverschiebungen vorbereitet sein muss – unabhängig davon, ob die Extremprognosen eintreten oder nicht.
Corporate Responsibility: Was die KI-Industrie der Gesellschaft schuldet
Kaiser-Duliba ist überzeugt: Die meisten Unternehmen wollen ethisch handeln. Das Scheitern liegt nicht am Willen, sondern am fehlenden Werkzeug. Wer ethische Verantwortung delegiert an CEOs ohne Ethikausbildung, riskiert «Ethics Washing» – gut gemeinte Initiativen ohne methodische Fundierung.
Ihr Plädoyer: Unternehmen brauchen Ethik-Expertise als eigenständige Kompetenz – nicht als Anhängsel der Rechts- oder PR-Abteilung. Die Universität Luzern bietet seit zweieinhalb Jahren einen konfessionsungebundenen Master in Ethik an, mit Schwerpunkten in digitaler Transformation, Gesundheitsethik sowie Wirtschafts- und Finanzethik.
Internationale Agentur für datenbasierte Systeme
Auf institutioneller Ebene fordert Kaiser-Duliba eine internationale Kontrollinstanz, die prüft, ob neue KI-Systeme Menschenrechte verletzen können. Social Scoring – die Bewertung von Menschen anhand gesammelter Verhaltensdaten – ist für sie eine klare Menschenrechtsverletzung, die nicht toleriert werden darf.
Executive Takeaways für Führungskräfte
- Ethik ist Methode, keine Meinung. Investieren Sie in ethische Expertise als eigenständige Unternehmensfunktion.
- KI-Systeme sind nicht neutral. Jedes Modell spiegelt die Daten und Werte seiner Entwickler wider – blinde Flecken müssen aktiv identifiziert werden.
- Human in the Loop ist nicht optional. Lernende Systeme ohne menschliche Kontrollinstanz verschärfen Extrempositionen.
- Pflege und Fürsorge sind keine KI-Domänen. Beziehungsgeschehen erfordert menschliche Präsenz – Robotik unterstützt logistische Prozesse, ersetzt aber keine Fürsorge.
- Das SEARCH-Modell als Planungsgrundlage. Unternehmen sollten heute beginnen, Szenarien mit massivem Jobwegfall durchzudenken – und gesellschaftliche Mitverantwortung strategisch verankern.
- Demokratie ist ein Unternehmensthema. Fake News und algorithmische Filtermacht schädigen das gesellschaftliche Fundament, auf dem auch Wirtschaft basiert.
Häufige Fragen
Warum kann künstliche Intelligenz keine echte Empathie entwickeln?
Künstliche Intelligenz kann Empathie auf phänomenologischer Ebene imitieren – das heisst, sie kann Verhaltensweisen empathischer Menschen nachahmen, weil sie entsprechende Daten analysiert hat. Echter Empathie fehlt jedoch die ontologische Substanz: KI folgt stets einem Algorithmus, auch einem lernenden, und ist nicht zu spontanen, unvorhergesehenen emotionalen Reaktionen fähig. Aus ethischer Perspektive bedeutet das: Der Maschine ist es nicht einmal egal, ob sie jemandem schadet – sie hat schlicht keine Empfindung dazu.
Welche konkreten Risiken entstehen durch den Einsatz von Pflegerobotern?
Das grösste Risiko ist eine gesellschaftliche Zweiklassen-Pflege: Wohlhabende können sich menschliche Fürsorge leisten, während andere mit robotischen Systemen versorgt werden. Hinzu kommt, dass Pflegeroboter keine moralische Urteilsfähigkeit besitzen – ein falsch programmiertes System führt schädigende Handlungen ohne jede ethische Reflexion aus. Robotik sollte daher ausschliesslich in logistischen, dokumentarischen und körperlich entlastenden Funktionen eingesetzt werden, nicht im direkten fürsorglich-emotionalen Patientenkontakt.
Was ist das SEARCH-Modell und wie adressiert es den drohenden Wegfall von Arbeitsplätzen?
Das SEARCH-Modell (Society, Entrepreneurship, Research, Community, Human Time) wurde am Institut für Sozialethik der Universität Luzern von Professor Peter G. Kirchschläger entwickelt. Es sieht ein bedingtes Grundeinkommen vor, das ein menschenwürdiges Leben mit Konsummöglichkeiten gewährleistet – im Gegenzug verpflichten sich die Empfänger zu gesellschaftlichen Beiträgen in Bereichen wie Pflege, Forschung oder Gemeinschaftsarbeit. Es fungiert als strategisches Risikomanagement-Instrument für Gesellschaften, die auf massive KI-bedingte Beschäftigungsverschiebungen vorbereitet sein müssen.
Warum sind KI-Systeme nicht neutral, obwohl sie auf mathematischen Daten basieren?
Die weit verbreitete Annahme, datenbasierte Systeme seien objektiver als Menschen, ist ein Trugschluss. Jedes KI-Modell spiegelt die Werte, Verzerrungen und Prioritäten seiner Trainingsdaten und seiner Entwickler wider. Lernende Systeme verstärken zudem Extreme – dieses Phänomen ist aus sozialen Medien bekannt, gilt aber auch für konventionelle Datensätze. Ohne kontinuierliche menschliche Kontrolle («Human in the Loop») driften diese Systeme in Richtung der stärksten statistischen Muster, was gesellschaftliche Polarisierung fördern kann.
Wie sollten Unternehmen KI ethisch korrekt einsetzen, wenn die Expertise im eigenen Haus fehlt?
Ethik in Unternehmen scheitert nicht am Willen, sondern an der fehlenden methodischen Kompetenz. Führungskräfte ohne Ethikausbildung – sei es die Rechtsabteilung oder der CTO – können keine ethisch fundierte Entscheidungsfindung gewährleisten. Unternehmen sollten Ethik-Expertise als eigenständige Funktion aufbauen oder externe Fachleute beiziehen. Andernfalls riskieren sie, trotz guter Absichten dem Vorwurf des «Ethics Washing» ausgesetzt zu sein.
Welche Rolle spielt die Schweiz bei der ethischen KI-Regulierung?
Die Schweiz verfügt über die Grösse, die Neutralität und das Know-how, um einen eigenen regulatorischen Weg zu gehen, der über den EU AI Act hinausgeht. Als neutrales Land kann die Schweiz internationale Massstäbe setzen und eigene Erwartungen an KI-Systeme formulieren, die in ihrer eigenen Rechtsordnung eingesetzt werden. Die Universität Luzern und Institutionen wie die «Ethic Society Switzerland» bieten dabei eine akademische und zivilgesellschaftliche Grundlage für diese Debatte.
Was ist das Demokratierisiko durch algorithmische Filtermacht und wie kann man es adressieren?
Wenige mächtige, nicht demokratisch legitimierte Technologieunternehmen entscheiden darüber, welche Informationen Bürgerinnen und Bürger zu Gesicht bekommen. Diese «Filtermacht» fördert Echokammern, Filterblasen und die Verbreitung von Desinformation. Eine ethisch fundierte Antwort liegt nicht in der staatlichen Zensur, sondern in transparenz-basierten Plattformen, die Nutzerinnen und Nutzern zeigen, woher eine Information stammt und wer ein Interesse an ihrer Verbreitung hat – und so die eigenständige Urteilsbildung stärken.
Kann KI menschliche Beziehungen ersetzen, und welche ethischen Grenzen gelten dabei?
KI kann Beziehungen imitieren, aber nicht konstituieren. Eine echte Beziehung setzt Freiwilligkeit, Spontaneität und gegenseitiges Bewusstsein voraus – Eigenschaften, die Algorithmen grundsätzlich fehlen. Das Fallbeispiel des jungen Menschen, der nach einer intensiven Beziehung zu einem KI-Avatar sein Leben verlor, zeigt das strukturelle Risiko anthropomorpher KI-Systeme. Ethisch ist daher geboten, Systeme, die menschliche Bindungsbedürfnisse adressieren, mit klaren Schutzrahmen zu versehen und niemals als echten Ersatz für menschliche Beziehungen zu deklarieren.