Seit dem 2. Februar 2025 gilt in der Europäischen Union (EU) eine neue Verpflichtung für Unternehmen, die Künstliche Intelligenz (KI) einsetzen. Besonders für den Gesundheitssektor ist diese Entwicklung von großer Bedeutung.
Die EU-Verordnung über künstliche Intelligenz (KI-Verordnung) schreibt vor, dass medizinische Einrichtungen, Kassen und Unternehmen sicherstellen müssen, dass ihre Mitarbeitenden über ausreichende Kenntnisse im Umgang mit KI verfügen. Ärzt:innen, Pflegekräfte und Personal sollen KI-Systeme sachkundig einsetzen und sich der Chancen, Risiken sowie möglichen Schäden bewusst sein, die durch den Einsatz von KI entstehen können.
„Mitarbeitende müssen grundlegende Kenntnisse über die Funktionsweisen, Risiken und ethischen Herausforderungen von KI im Gesundheitsbereich erlangen.“
Regulatorische Anforderungen für den Gesundheitssektor
Die neue KI-Verordnung verpflichtet Unternehmen, Krankenhäuser, Arztpraxen und Pflegeeinrichtungen, geeignete Maßnahmen zu ergreifen, um die KI-Kompetenz ihres Personals sicherzustellen. Dies betrifft sowohl hochspezialisierte KI-Anwendungen in der Diagnostik als auch alltägliche Tools wie ChatGPT oder Übersetzungsdienste wie DeepL, die zunehmend in der Patientenkommunikation eingesetzt werden.
Mitarbeitende im Gesundheitswesen müssen in der Lage sein, KI-Systeme sicher zu nutzen und deren Anwendungsgrenzen zu kennen. So darf beispielsweise ChatGPT mangels medizinischer Zertifizierung nicht für Diagnosen oder Therapieempfehlungen verwendet werden.
Obwohl die Verordnung keine spezifischen Maßnahmen vorschreibt, haben Gesundheitseinrichtungen die Verantwortung, wirksame Schulungs- und Sensibilisierungsprogramme zu entwickeln, um die KI-Kompetenz ihrer Mitarbeitenden zu gewährleisten.
Best Practices für KI-Kompetenz im Gesundheitswesen
Um den Anforderungen gerecht zu werden, sollten Gesundheitseinrichtungen, Kassen und Unternehmen eine klare Strategie zur Einführung und Nutzung von KI entwickeln. Ein zentraler Bestandteil dieser Strategie ist die Erstellung interner Richtlinien und Standards, die klare Vorgaben zur Nutzung und Entwicklung von KI-Systemen im medizinischen Umfeld definieren. Diese Standards helfen, Missbrauch und Fehlnutzungen zu vermeiden und gewährleisten, dass KI-Systeme verantwortungsbewusst eingesetzt werden.
Darüber hinaus ist es essenziell, KI in die kontinuierliche Aus- und Weiterbildung zu integrieren. Mitarbeitende müssen grundlegende Kenntnisse über die Funktionsweisen, Risiken und ethischen Herausforderungen von KI im Gesundheitsbereich erlangen. Dies ermöglicht ihnen, informierte Entscheidungen über den Einsatz von KI-gestützten Technologien zu treffen und deren Grenzen zu verstehen.
Eine weitere zentrale Maßnahme ist die Etablierung einer oder eines KI-Beauftragten. Diese Person übernimmt die Verantwortung für die Überwachung der Einhaltung der festgelegten Standards, koordiniert Fortbildungen und fungiert als Schnittstelle zwischen medizinischen Fachkräften und IT-Teams. Die oder der KI-Beauftragte stellt sicher, dass der Einsatz von KI-Systemen sowohl den regulatorischen Anforderungen als auch den spezifischen Bedürfnissen der jeweiligen Einrichtung entspricht.
Zudem ist es von großer Bedeutung, eine kritische Auseinandersetzung mit KI-Tools zu fördern. Mitarbeitende sollten für die Grenzen und Risiken von KI sensibilisiert werden, um Fehlnutzungen, insbesondere in diagnostischen Prozessen, zu vermeiden. Dies beinhaltet auch die Schulung in der Interpretation von KI-generierten Ergebnissen und das Bewusstsein für potenzielle Fehlerquellen.
Alles halb so wild?
Auch wenn die neuen KI-Compliance-Pflichten zunächst nach einem erheblichen Mehraufwand klingen, ist ihr tatsächlicher Umfang stark davon abhängig, welche KI-Systeme genutzt werden und in welchem Maße sie in den Arbeitsalltag integriert sind.
Nicht jede Einrichtung muss sofort umfassende Schulungsprogramme etablieren oder eine:n eigene:n KI-Beauftragte:n benennen. Vielmehr geht es darum, den Einsatz von KI-Technologien realistisch einzuschätzen und die Qualifizierungsmaßnahmen entsprechend anzupassen. Für einfache Anwendungen wie Sprach- oder Übersetzungstools genügen oft kurze Einweisungen, während komplexere KI-Systeme in Diagnostik oder Therapie eine intensivere Schulung erfordern. Mit einem bedarfsgerechten und pragmatischen Ansatz lässt sich die KI-Compliance somit ohne übermäßigen Aufwand umsetzen.
Originally published by Unboxing Healthcare.
The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.
