KI-Diskussion: „Haben wir diese Geschwindigkeit noch unter Kontrolle?“

Wem vertrauen wir im Ernstfall – Algorithmus oder Ärzt*innen? In einer lebhaft geführten Paneldiskussion an der FH Technikum Wien loteten Ende April Expert*innen aus Technologie, Recht und Ethik die Spannungsfelder aus, in denen sich künstliche Intelligenz (KI) im Gesundheitswesen bewegt. Die Veranstaltung fand auf Einladung von Senior Lecturer/Researcher Lars Mehnen statt und wurde moderiert von der Ethik-Beraterin und AHS-Lehrerin Gabi Holzer.

„Ich beschäftige mich seit Mitte der 1990er mit Künstlicher Intelligenz“, eröffnete Mehnen. „Mich hat immer schon fasziniert, dass KI mit Wissen umgehen kann, das nicht so ganz klar ist.“

Fundament für den Umgang

Ist KI gut oder schlecht? Auf die Frage reagierte Andreas Klein, Ethik-Consultant, Universitätslektor und Autor mit einer Gegenfrage: „Ist der Mensch gut oder schlecht? Ich würde es neutral behandeln und verweise auf die vier Prinzipien ethischen Handelns in der Medizin.“ Diese lauten: Respekt vor der Autonomie der Patient*innen, Nicht-Schaden, Fürsorge, also Verpflichtung zum Wohl der Patient*innen, und Gerechtigkeit. Ergänzt um das Transparenzprinzip ergibt sich laut Kleins ein gutes Fundament, das lediglich angepasst werden muss.

Auch Michael Graf, Lektor für Ethik an der FHTW und Mitglied verschiedener Ethikbeiräte in der Wirtschaft stellte eine Frage: „Kann man verantworten, KI nicht einzusetzen?“ Er bezeichnete KI als General Purpose Technology und brachte exemplarisch aktuelle Medienberichterstattung ein, die stets zwischen den Polen „Heilsbringer KI“ und „Weltuntergang durch KI“ zu schwanken scheint.

Mathias Blaickner, Senior Lecturer/Researcher wies auf den Veröffentlichungs-Bias in den Medien hin. „Veröffentlicht wird, was flashig ist, und die Hersteller kommunizieren, was den Aktienkursen nutzt. ,Zwischen GPT Version 4.5 und 5 ist kein so großer Unterschied‘, ergibt dagegen keine so starke Schlagzeile.“

Human in the Loop?

Zurück in die Medizin: „Aktives wissen ist das Um und Auf, ohne Wissen kommen Sie nicht durch. Wir werden, zum Beispiel, Radiolog*innen immer als Menschen brauchen und nicht nur die KI“, sagte Monika Moritz, Juristin im Gesundheitsdienst der Stadt Wien und Mitglied der Arbeitsgruppe zu Künstlicher Intelligenz. „KI kann viel mehr Daten in kurzer Zeit verarbeiten als jeder Arzt oder jede Ärztin, aber natürlich kann die KI auch Fehler kopieren. Wir müssen immer kritisch draufschauen nach dem Credo: nichts ungeprüft glauben.“

Hier relativierte Mehnen: „Wir erzeugen in Medizin durch Sensorik immer mehr Daten. Wenn dann ein Mensch noch im Loop drin ist – kann er noch leisten, diesen Loop zu kontrollieren?“

„Möchten Sie so behandelt werden, wie Madame Curie mit Strahlen umgegangen ist?“ fragte Moritz zurück. „Man muss schon genau wissen, welcher Datenpool herangezogen wurde.“

Hier setzte Blaickner an und erklärte ein wichtiges Prinzip: „Überwachtes Lernen bedeutet, da gab es Daten, die wurden von Menschen gelabelt und annotiert, idealerweise von vielen. Und darauf wurde die Maschine trainiert. Wenn ich behaupte, ein Computeralgorithmus kann Krebs besser erkennen als ein Arzt, meine ich eigentlich: Der Computer ist auf die Meinung von den Ärzt*innen trainiert worden, die das annotiert haben, und übertrifft im Outcome oft durchschnittliche Ärzt*innen.“

Eine Frage der Geschwindigkeit?

„Wir gehen nicht auf sicherem Boden, wenn wir KI entwickeln, sondern balancieren auf einem Seil“, stellte Moderatorin Gabi Holzer fest. „Sind wir sicher oder wanken wir? Und was liegt überhaupt auf der anderen Seite?“

 „KI an sich bewährt sich seit Jahrzehnten. Neu sind jetzt die wesentlich größeren Datenmengen und Geschwindigkeiten“, antwortete Lars Mehnen und brachte den Vergleich mit dem Straßenverkehr: „Haben wir diese Geschwindigkeit noch unter Kontrolle? Gute Fahrer schon, schlechte nicht.“

„Kontrolle wird immer schwieriger“

Zum Thema Geschwindigkeit ergänzte Michael Graf: „Technik schreitet exponentiell schnell voran, Ethiker*innen hinken hinterher und Jurist*innen noch weiter, denn bis Gesetze soweit sind, braucht es Jahre. Insofern wird Kontrolle immer schwieriger.“

„Ich hoffe, wir Jurist*innen sind nicht immer zu spät“, sagte Monika Moritz, gefolgt von einem Appell: „Bezieht Jurist*innen frühzeitig mit ein und denkt gemeinsam: Was ist das Ziel? Was sind Schnittstellen?“

„Wir sollten die schon vorhandenen Möglichkeiten nutzen, Verzerrungen auszuschließen“, sagte Andreas Klein und verwies unter anderem auf Notebook LM von Google, das man mit belastbaren Quellen speisen kann, ohne dass es unkontrolliert Informationen aus dem World Wide Web hinzuzieht. „Und es sind immer noch zwei unterschiedliche Bereiche: Was machen wir in der professionellen Medizin und was ist draußen in der Gesellschaft los? Im professionellen Bereich wollen wir spezialisierte KI und da sind wir mit der Kontrolle in Europa nicht so schlecht aufgestellt.“

„Denkende Menschen heranziehen“

Was, so die abschließende Frage von Gabi Holzer, sollte man jungen Menschen unter diesen Voraussetzungen beibringen? „Bislang hat sich unser Bildungssystem auf Fakten konzentriert“, sagte Lars Mehnen. „Jetzt ist es umso wichtiger, denkende Menschen heranzuziehen, die oft genug nach dem Warum fragen.“