Digital Health Ethics: Mit neuen Technologien kommt auch neue Verantwortung

09.10.2018 Tech
3 Minuten Lesezeit
Konstantin Kolosov / Shutterstock.com

Die Digitalisierung bringt neue Technologien! Wir müssen uns vorbereiten! Oder zumindest nachdenken, was es bedeutet, wenn demnächst jeder ein Smartphone hat!

Stopp – das ist eigentlich keine Frage der Zukunft mehr. Gefühlt von heute auf morgen sind wir umgesprungen von einem Zustand, in dem „bald jeder ein Smartphone hat“ in eine Realität, in der Smartphones vollkommen selbstverständlich sind und Apps, die ausschließlich für iPhones hergestellt werden, als Accessibility-Superwerkzeuge gepriesen werden.

Wie viele ernsthafte Gedanken haben Sie sich vor der Revolution der Smartphones darüber gemacht, was passiert, wenn ein großes Unternehmen (Google oder Apple) plötzlich über alle Informationen Ihres Lebens verfügt?

Vermutlich recht wenige. Denn man neigt dazu, sich erst zu überlegen, „wo kommen wir da hin?“, wenn wir längst da sind. Die Pharma- und Gesundheitsbranche kann sich den gleichen Fehler bei der Entwicklung neuer Technologien nicht erlauben.

Mahnung an alle Technologen

Sara Holoubeck, CEO der Unternehmens- und Technologie-Beratung Luminary Labs, richtete sich in einem unterhaltsamen Vortrag an Vertreter der Gesundheitsbranche und vor allem Technologen in Pharma. Dabei ging sie vor allem darauf ein, was Entwickler in IT und Ingenieurwissenschaften tun können, um den ethischen Einfluss ihrer Entwicklungen vorab einschätzen zu können.

Ihre wichtigste Botschaft: Nie nur im Nachhinein nachdenken! Die Überlegung muss heißen „Was wäre, wenn wir irgendwann/bald/morgen/in zwei Jahren/…“ – Die Gedanken kommen vor der Entwicklung.

Das geht ein wenig konträr zu vielen Klischeebildern von Wissenschaftlern und auch Informatikern, die in Elfenbeintürmen oder abgeschotteten Kellern Innovationen entwickeln, ohne je über Konsequenzen nachdenken zu müssen.

Sci-Fi-Autoren als ethische Wegbereiter

Dabei ist die „Was wäre wenn …?“-Frage eigentlich auch die Erfüllung eines Klischees. Alle Sci-Fi-Lektüre besteht eigentlich aus Versuchen, die „What if…“-Frage auf unterhaltsame Art zu beantworten. Daher empfiehlt Holoubeck auch Wissenschaftlern, Entwicklern und Unternehmern, mehr Sci-Fi zu lesen.

Gleich das erste Werk des Genres, Mary Shelleys „Frankenstein“, stellte übrigens schon ethische Fragen zu Technologien auch unserer Zukunft: Sie befasste sich mit einem Wissenschaftler, der aus Körperteilen Verstorbener ein „Monster“ zusammensetzte. Im weitesten Sinne befasste sie sich in diesem Roman mit Fragen, die auch bei den Themen Organspende, Embryonenforschung, künstliche Lebenserhaltungs- oder -verlängerungsmaßnahmen, (künstliche) Intelligenz und dem allgemeinen Verhältnis von Wissenschaftlern zur Bevölkerung relevant werden.

Natürlich bedarf es einiger Phantasie und einer gewissen Bereitschaft, sich auch mal mit Metaphern zu beschäftigen, um aus Sci-Fi-Romanen die Erkenntnisse zu ziehen, die im Alltag für Wissenschaftler und Unternehmen relevant werden könnten. Sind diese beiden Voraussetzungen erfüllt, hilft das Lesen (oder Anhören) von Sci-Fi-Geschichten, eine bestimmte Art zu denken zu formen. Gewohnheitsmäßig hinterfragen Sci-Fi-Fans nicht nur was ist, sondern auch was sein könnte.

Weitreichende Konsequenzen digitaler Technologien

Viele Forscher haben das Gefühl, sich heute mit Fragen beschäftigen zu müssen, über die sie früher nie nachdenken mussten. Handlungen können weitreichende Konsequenzen haben. Ein besonders häufiges Problem scheint der Missbrauch von neuen Technologien zu sein.

Beispielsweise werden zurzeit viele Technologien entwickelt, die eine rudimentäre medizinische Versorgung in Gebieten sicherstellen sollen, in denen bisher gar keine HCPs vor Ort sind. Stattdessen werden sie schließlich oft verwendet um eigentlich gute Versorgungssysteme zu ersetzen. „Um das Gesundheitssystem zu entlasten“ oder ausdrücklich um Geld zu sparen, werden Patienten an Apps oder Fernsprechstunden verwiesen.

Die Erfindung, die das Leben von Menschen verbessern sollte, verschlechtert die medizinische Versorgung einer ganz anderen Zielgruppe.

Das Problem am Problem: Es ist nicht neu. Auch vor der Erfindung von digital, AI, Algorithmen und Co waren die Prinzipien hinter diesen Missbräuchen bereits die gleichen.

Die Verantwortung des Einzelnen

Der Einzelne kann, das gibt auch Holoubeck offen zu, nicht immer viel ausrichten. Ein Forscher innerhalb eines Unternehmens hat manchmal vielleicht nur die Wahl, ein Ergebnis abzuliefern oder seinen Job zu verlieren. Eine Entwicklerin kann sich auf das Versprechen ihrer Vorgesetzten verlassen, die Technologie würde nur an „geeignete“ Kunden weiterverkauft. Sie hat aber längst nicht immer die Möglichkeit, auf so einer Verpflichtung zu bestehen. Haben Wissenschaftler also keine Wahl, als ihre Ergebnisse zu veröffentlichen?

Friedrich Dürrenmatts „Die Physiker“ liefert eine bedrückende Perspektive auf diese Frage und beantwortet sie – nahezu frei von Sci-Fi – durch Wissenschaftler, die ihre Erkenntnisse lieber in einer Irrenanstalt haben und dadurch geschützt glauben. Dürrenmatts Wissenschaftler berufen sich dabei auf das Dilemma der Erfinder der Atombombe, aber unterstellen zusätzlich jedem Forscher eine Unfähigkeit, seine Ideen auch mal nicht zu verfolgen.

Amerikanische Artikel berichten bewundernd von Wissenschaftlern bei Google, die ihre Vorgesetzten gebeten haben, sich nicht mit bestimmten Bereichen der Regierung zusammenzutun – damit sie nicht (indirekt) für diese Bereiche arbeiten müssen. Funktionieren kann das, wenn sich ganze Abteilungen an Vorgesetzte wenden.

Die Verantwortung von Pharma- und Healthcare-Unternehmen

In der Pharma- und Healthcare-Branche trifft die Verantwortung immer auch die Unternehmen, die Wissenschaftler anstellen, um für sie zu forschen.

Holoubeck empfiehlt Unternehmen, sich den Fokus auf Ethik nicht nur bewusst zu machen. Sie sollten das Thema auch in ihrer Unternehmensstruktur verankern und beispielsweise in einem Ethikrat auch Sci-Fi-Schriftsteller einladen, die ihre Perspektive auf neue Entwicklungen mitbringen können.

Für andere Entscheidungen kann auch ein kleines Gedankenexperiment helfen, ohne Sci-Fi-Romane zu lesen: Wenn dieses Projekt zu einem Durchbruch führt und die Entwicklung verfilmt wird, welcher Schauspieler bekäme dann meine Rolle? Während Tom Hanks ein gutes Zeichen ist, sollte man bei Willam Dafoe das Projekt lieber gleich einstampfen. Bei allem Witz ist dieser Trick tatsächlich nicht schlecht, weil jeder einzelne im Unternehmen sich so fragen kann, in welcher Geschichte er gerade eine Rolle spielt.

Print Friendly, PDF & Email