Mensch, Moral, Maschine – Positionspapier setzt sich mit Grundsatzfragen digitaler Ethik auseinander

Quelle: BVDW – Algorithmen, Künstliche Intelligenz, Robotik – all diese Aspekte werden in immer mehr Bereichen unseres Lebens eine Rolle spielen, sei es vor Gericht, in der Mobilität oder insbesondere auch im Gesundheitswesen. Sie bieten Erleichterungen und viele Chancen, sind aber auch mit Risiken behaftet, wenn sie etwa missbraucht oder falsch eingesetzt werden. In jedem Fall ist eine breite wissenschaftliche und gesellschaftliche Diskussion zum ethisch angemessenem Umgang mit den neuen technischen Möglichkeiten notwendig. Der Bundesverband Digitale Wirtschaft (BVDW) hat nun ein Positionspapier zu grundsätzlichen Fragen des Einsatzes von (intelligenten) digitalen Anwendungen veröffentlicht. Experten aus verschiedenen Disziplinen haben sich dafür mit KI-Technologien auseinandergesetzt. Als wichtigste Ergebnisse fordern die Autoren des Positionspapiers, dass

• Algorithmische Entscheidungen gerichtlich überprüfbar sein müssen und
• KI in der Medizin verpflichtend eingesetzt werden sollte, sofern ein Nutzen nachgewiesen ist und das Solidaritätsprinzip der gesetzlichen Krankenversicherung beibehalten wird.

KI-Technologien im Gesundheitswesen – echte Chance oder Wegbereiter einer „Zwei-Klassen-Medizin“?

Die Experten fokussieren in ihrem Papier in größerem Maße das Gesundheitswesen und sehen hier große Chancen für bessere Diagnosen und Therapien. Sollte der Nutzen einer KI-Technologie nachgewiesen sein, müssten Behandelnde im Sinne der ärztlichen Sorgfaltsfplicht die Anwendung von KI berücksichtigen und düften im Umkehrschluss in den ausgewählten Bereichen nicht auf einen Einsatz von KI verzichten. Diese durchaus provokante Forderung erläutert Wolfgang Faisst, stellvertretender Vorsitzender des BVDW-Ressorts Digitale Transformation und Internet of Things: „Hier soll der Arzt natürlich nicht durch eine Software ersetzt werden – ganz im Gegenteil. Es ist eine wertvolle Hilfestellung. Wenn KI aber nachweislich dazu beiträgt, dass diese Diagnose präziser ist als ohne ihren Einsatz, wäre es aus Sicht des Behandelnden fahrlässig, diese Möglichkeit nicht zu nutzen.“

Eng mit dem Einsatz von KI im Gesundheitswesen verbunden ist natürlich auch die Frage nach der Aufrechtherhaltung des solidarischen Krankenversicherungssystems. Skeptiker befürchten etwa, dass Krankenkassen in Zukunft nur noch Individualtarife auf Grundlage der Ergebnisse einer Algorithmus-basierten Gesundheitsprüfung zulassen würden. Es drohe eine „Zwei-Klassen-Medizin“ und Personen, die einer Weitergabe und/oder Analyse ihrer Daten nicht zustimmen würden, hätten womöglich Nachteile. Aus Sicht des BVDW ist dies jedoch keine Option: “
„Unser Gesundheitssystem zeichnet sich durch das Solidaritätsprinzip aus. Das ist vielmehr eine gesellschaftliche Frage und hängt nicht von den technischen Möglichkeiten ab. Eine digitale Zwei-Klassen-Medizin droht nicht“ so Wolfgang Feisst.

Forderungen für einen ethischen Umgang mit KI-Technologien

Um einen nutzenstiftenden Einsatz von KI (nicht nur) im Gesundheitswesen zu unterstützen, stellen die Autoren einige Forderungen auf, was die nächsten Schritte sein sollten:

• Einen aufgeklärten Diskurs fördern und den Bürgern ausreichendes Wissen über KI vermitteln, um sie zu „digital mündigen“ Personen auszubilden.
• Datensouveränität garantieren und technischen Datenschutz fördern. Dies bedeutet nicht nur den Schutz vor Missbrauch von personenbezogenen Daten, sondern vielmehr auch die Teilhabe am technischen Fortschritt und das Treffen aufgeklärte Entscheidungen, was mit den persönlichen Daten geschen soll
• Anforderungen an eine Algorithmentransparenz konkretisieren: Behörden und Prüfstellen müssen mit den notwendigen Ressourcen ausgestatet werden, um für komplexe KI-Systeme ihre Aufsichtspflicht erfüllen zu können. Gleichzeitig würde es jedoch teils ausreichen, strittige Entscheidungen auch ex-post durch die Gerichte überprüfen zu lassen.
• Auskunfts- und Widerspruchsrechte präzisieren, damit algorithmische Entscheidungen grundsätzlich auch vor Gericht überprüfbar sind.
• Professionsethik („Coder-Ethik“) entwickeln und ethische Fragen in der Ausbildung in Informatik und Datascience berücksichtigen und gleichzeitig Branchenverbände, Fachgeselschaften, Unternehmen und Patientenorganisationen aktiv in die Diskussion miteinbeziehen
• Wettbewerb der Algorithmen sichern: Zur Förderung der Transparenz sollten Unternehmen und Staat möglichst viele Daten öffentlich zur Verfügung stellen, sofern sie nicht personenbezogen sind.
• Staatliche Überwachung bändigen – Schutzauftrag sicherstellen: Die Etablierung eines Moratoriums für die Ausweitung staatlicher Überwachungsinstrumente und eine kritische Evaluation bestehender Überwachungsinstrumente, um nicht zu stark persönliche Freiheitsrechte zu beanspruchen
• Diversität fördern und dafür bisher in der Informatik unterrepräsentierte Gruppen anwerben und Unternehmen und Staat gleichzeitig für die unbewusste Diskriminierung bestimmter Personenkreise sensibilisieren
• KI-Forschung massiv vorantreiben, möglichst auf gesamteuropäischer Ebene, verbunden mit der Bereitstellung zusätzlicher Fördermittel und dem Abbau von bürokratischen Hürden.

Das Positionspapier steht unter diesem Link kostenfrei zum Download zur Verfügung.