Ethik, künstliche Intelligenz und Gesundheit miteinander in Einklang bringen

David Gruson betont, dass künstliche Intelligenz den Gesundheitssektor tiefgreifend verändert, wobei sich diese Entwicklung seit dem Aufkommen der generativen KI erheblich beschleunigt hat. Nach einer ersten Welle, die sich auf die Bilderkennung in der Radiologie, Augenheilkunde oder Dermatologie konzentrierte, eröffnen die neuen Tools weitaus umfassendere Perspektiven für Einrichtungen, Ärzte und Patienten. In diesem Zusammenhang rückt die Ethik in den Mittelpunkt. Das Ziel besteht nicht darin, Innovationen zu bremsen, sondern einen vertrauensvollen Rahmen zu schaffen, der es Patienten ermöglicht, von den Vorteilen der KI zu profitieren und gleichzeitig ihre Rechte zu schützen. Ethik-IA, gegründet im Jahr 2017, befasst sich genau mit dieser Frage und verfolgt dabei das Konzept der menschlichen Aufsicht: KI-Systeme müssen sowohl bei ihrer Entwicklung als auch im praktischen Einsatz von medizinischen Fachkräften überwacht werden.Diese menschliche Aufsicht konkretisiert sich in Kontrollökosystemen, an denen Fachärzte beteiligt sind, insbesondere aus den Bereichen Zahnmedizin, Radiologie, Dermatologie, Pathologie oder Augenheilkunde. Es geht darum, den Menschen im Zentrum der medizinischen Entscheidung zu belassen und das Risiko eines Kontrollverlusts über die Algorithmen zu begrenzen.Der europäische Rechtsrahmen geht mit dem AI Act in diese Richtung, der mehr Transparenz und Aufsicht für KI-Systeme im Gesundheitswesen vorschreibt. Patienten müssen informiert werden, wenn ein KI-Tool in ihren Behandlungsverlauf eingreift, und sowohl Entwickler als auch Nutzer müssen Mechanismen zur menschlichen Kontrolle einrichten. Dieser europäische Ansatz inspiriert bereits andere Regulierungsbehörden, insbesondere in den USA mit der FDA.Für Investoren ist diese Entwicklung wegweisend. Unternehmen, die von Anfang an ethische, regulatorische und menschliche Kontrollanforderungen integrieren können, werden besser positioniert sein, um Zugang zu den Märkten zu erhalten, die erforderlichen Genehmigungen zu erlangen und das Vertrauen sowohl von Gesundheitsfachkräften als auch von Patienten zu gewinnen.