Künstliche Intelligenz auf dem Prüfstand: Anforderungen, Qualitätskriterien und Prüfwerkzeuge für medizinische Anwendungen

Zusammenfassung Der Einsatz von künstlicher Intelligenz (KI) in der Medizin bietet großes Potenzial zur Steigerung von Qualität und Effizienz. Gleichzeitig sind mit ihrer Anwendung Risiken verbunden. Um potenzielle Schäden zu vermeiden, entwickeln Expert:innen aus Forschung und Politik Anforderungskriterien, Prüfwerkzeuge und Richtlinien zur Identifikation und Kontrolle dieser Risiken. Im Mittelpunkt stehen dabei regulatorische und klinische Anforderungen an KI sowie Anforderungen aus Sicht der Nutzer:innen. Diese unterschiedlichen Perspektiven sind bei der Entwicklung von Qualitätskriterien und Prüfwerkzeugen zu berücksichtigen. In diesem Artikel werden zunächst die Anforderungen an künstliche Intelligenz (KI) in der Medizin erläutert. Anschließend wird dargestellt, wie sich aus diesen Anforderungskriterien konkrete Qualitätskriterien und Prüfwerkzeuge ableiten lassen. Am Beispiel der „Erklärbarkeit“ wird ein zentrales Qualitätskriterium vertiefend behandelt. Zudem wird ein Prüfschema für den Einsatz von KI in der Medizin vorgestellt. Abschließend erfolgt ein Ausblick auf die Standardisierung von Qualitätskriterien. Die Entwicklung von KI, insbesondere im medizinischen Bereich, schreitet rasant voran. Geeignete Prüfverfahren können dazu beitragen, Risiken zu minimieren und das Vertrauen in die Technologie zu stärken. Für eine erfolgreiche Umsetzung von Prüfverfahren in der Praxis sind jedoch kontinuierliche Forschungsanstrengungen erforderlich.