univie 092024-web ES - Flipbook - Page 17
INTERVIEW
Die Medizin, die wir heute erleben,
basiert auf Daten, die inhärent voreingenommen und unvollständig
sind, weil wir Jahrhunderte eigentlich nur Studien auf Basis der weißen, männlichen Population durchgeführt haben. Das ist weiterhin
ein limitierender Faktor für die bestehenden, meist regelbasierten
Systeme. Hier liegt auch das Versprechen des Einsatzes von KI, denn
wir sehen heute schon, dass sich
die Datenmengen bereits jedes Jahr
verdoppeln. Es kommen viel mehr
neue Daten dazu, die direkt von Patient*innen generiert werden. Diese
immensen Datenmengen können
nicht mehr allein durch Menschen
verarbeitet werden. Genau da sehen
wir die Zukunft: Die KI wird diese
neuen Daten verarbeiten, um den
Gesundheitsbereich zugänglicher,
fairer zu machen und in Systeme zu
übersetzen, die bestimmten Regeln
folgen. Jedoch wird eine symbiotische Beziehung zwischen KI und
Mensch, die auch in der Regelversorgung stattfindet, meiner Einschätzung nach noch mindestens
ein Jahrzehnt benötigen.
In unseren Entwicklungsprozessen
haben wir immer einen „human in
the loop“, also eine ärztliche Aufsichtsperson, die Entscheidungen
überprüft. Zusätzlich arbeiten wir
mit dem Goldstandard der medizinischen Literatur, um sicherzustellen,
dass unsere Systeme auf dem besten
verfügbaren Wissen basieren.
Wir sind uns heute sehr einig darüber, dass KI keine Entscheidungen
über Leben und Tod treffen sollte.
Bestimmte Dinge sollten den Menschen vorbehalten bleiben. Im medizinischen Bereich bedeutet das, dass
wir Systeme nur dann in der Praxis
einsetzen, wenn wir die Sicherheit
und Qualität unter realen Bedingungen testen können.
„Wir sind uns heute sehr einig darüber, dass KI keine
Entscheidungen über Leben und Tod treffen sollte.“
Lukas Seper, Co-Gründer XUND
Es gibt Befürchtungen, dass KIDaten genutzt werden könnten, um
Versicherungsprämien zu erhöhen.
Obwohl es heute rechtliche Einschränkungen gibt, die das verhindern, besteht die Gefahr, dass diese
Daten in Zukunft missbraucht werden könnten. Wir setzen uns dafür
ein, dass solche Szenarien vermieden werden, aber es wird eine ständige gesellschaftliche Diskussion
darüber geben müssen, wie weit wir
gehen wollen.
Bisher haben wir überwiegend positives Feedback erhalten. Die Währung im Gesundheitsbereich ist Ver-
trauen. Wir haben von Anfang an
einen partnerschaftlichen Ansatz
verfolgt. Einer unserer Mitgründer
ist Arzt, was uns geholfen hat, den
hippokratischen Eid in unserer DNA
zu verankern. Wir sehen Regulierung als Katalysator für Innovation
und nicht als Hindernis.
Erfahrungen zeigen, dass Ungleichheit im Gesundheitswesen bereits
ein großes Problem ist, sowohl bei
den Daten als auch in der klinischen
Praxis. Der Einsatz von KI birgt die
Gefahr, diese Ungleichheiten zu verstärken. Ein weiteres Problem ist
die Diskriminierung, da KI-Systeme
bestimmte
Bevölkerungsgruppen
bevorzugen könnten, je nach Datengewichtung. Neben Ungleichheit ist
Transparenz und Verantwortung ein
zentrales Thema. Es reicht nicht,
dass das Ergebnis positiv ist; es muss
auch nachvollziehbar und erklärbar
sein.
Unser Hauptziel ist es heute, die
Gesundheitsversorgung
nachhaltig zu verändern, zum Beispiel die
Ärzt*innen-Patient*innen-Interaktion zu verbessern. Viele Probleme
im Gesundheitsbereich resultieren
daraus, dass Patient*innen heute
nicht Teil der Entscheidungen sind.
Denn wenn sie besser informiert wären, könnten sie in Zusammenarbeit
mit dem Ärzt*innen bessere Entscheidungen treffen. Wenn wir das
erreichen, unabhängig davon, wie
kommerziell erfolgreich wir sind,
werden wir das als Erfolg ansehen.
17
