Eine Sache des Vertrauens

KI in der Medizin läuft sich warm. Aber noch hängt alles daran, ob es gelingt, Vertrauen in die Algorithmen aufzubauen – ein neuer Job auch für die PTB

Riesenchancen oder Hochrisiko – oder beides? Künstliche Intelligenz (KI)  in der Medizin kann helfen, Menschenleben zu retten oder Geld im Gesundheitssystem zu sparen. Aber die sprichwörtliche Black Box, also der KI-Algorithmus, der schließlich eine Diagnose ausspuckt, macht vielen Menschen Angst. Deswegen forscht die PTB intensiv an Methoden, die die Qualität der eingesetzten Algorithmen oder der Trainingsdaten testen. Auf der Hannover Messe stellt sie ihr Prototypmodul zur Erweiterung der TraCIM-Prüfplattform für KI-Algorithmen vor.

Was passiert bei der Parkinson-Krankheit im Gehirn? Ist im untersuchten Herzen ein Loch oder ist der der Herzmuskel vergrößert? Solche Fragen lassen sich gut mithilfe eines Magnetresonanztomografen (MRT) klären. Und diese Geräte lassen sich mithilfe von künstlicher Intelligenz (KI) noch viel leistungsfähiger machen. Etwa um schon bei kurzer Aufnahmezeit zwischen zwei Atemzügen schon ein gestochen scharfes Bild des Herzens zu bekommen. KI kann auch die ärztliche Arbeit beschleunigen: Früher musste ein Arzt oder eine Ärztin, um Auffälligkeiten der Herzkammern oder des Herzmuskels zu untersuchen, vielleicht 5 bis 10 MRT-Schichtaufnahmen von Hand markieren (hier die Vorkammer, hier die Hauptkammer, hier das Myokard) und parallel dazu noch die Herzschlagphase berücksichtigen. Das kann Stunden dauern – oder von einer KI per Knopfdruck in Sekunden geliefert werden.

„Ärzte oder Ärztinnen brauchen KI-Lösungen, denen sie vertrauen können, am besten nachgewiesen durch objektive Prüfverfahren. “, sagt Maik Liebl. Der PTB-Wissenschaftler stellt auf der Hannover Messe (22. bis 26. April) einen Demonstrator vor, der KI-Algorithmen für die Medizin bewerten kann: „Mit unserem neuen Prüfangebot werden wir den Herstellerfirmen ermöglichen, ihre Algorithmen von uns als neutraler Stelle überprüfen zu lassen. Den Ergebnisbericht können sie dann auf ihre Website stellen und damit werben, welche Qualitätskriterien ihr KI-Algorithmus erreicht“, erklärt Liebl.

Damit bietet die PTB im Grunde dasselbe an, was sie bisher schon rund um Kalibrierungen tut. Die PTB ist als oberste Instanz für die genauesten Messungen fest in das System der Qualitätsinfrastruktur eingebunden – also in die geordneten Strukturen, mit denen hierzulande für gute Messungen und somit gute Produkte gesorgt wird. Aber wie ist das bei dem neuen Feld der KI-unterstützten Messungen? „Naja, eigentlich eindeutig“, sagt Hans Rabus, KI-Experte der PTB. „Wir sind gesetzlich beauftragt, Messgeräte zu überprüfen. Und weil die entsprechenden Gesetze dies sehr technologieoffen formulieren, ist die PTB verpflichtet, bei technologischen Neuentwicklungen ihre Rolle neu zu bewerten. Genau das haben wir beim Thema KI in der Medizin getan. Das Ergebnis hieß: Die PTB hat hier eine wichtige Rolle.“

Es geht um ein topaktuelles und durchaus brisantes Gebiet. Der „Global Risks Report“ des Weltwirtschaftsforums vom Januar 2024 führt KI als eines der größten Risiken für die Wirtschaft auf (wenn hier auch oft von anderen Gebieten als der Medizin gesprochen wird). Und in der neuen EU-Richtlinie EU AI Act (die im Dezember 2023 beschlossen wurde und ab Januar 2025 gelten soll) wird KI in der Medizin als ein Hochrisikogebiet aufgeführt, für das strenge Regeln gelten sollen. Da aber die Bundesregierung verkündet hat, Forschung und Anwendung von KI-Themen in Deutschland und Europa auf ein weltweit führendes Niveau heben zu wollen (siehe KI-Strategie der Bundesregierung, 2020), ist jetzt entschlossenes Handeln gefordert. Es gilt unter anderem, das noch schwächelnde Vertrauen in die künstliche Intelligenz zu stärken.

Und genau darum geht es der PTB mit ihrem Demonstrator für eine KI-Dienstleistung, die sie auf der Hannover Messe allen Interessierten vorstellen will. Das System heißt TraCIM (Traceability for computationally-intensive metrology) und ist im Prinzip nicht neu: Die PTB prüft damit schon seit Jahren erfolgreich Auswertealgorithmen für die Industrie, etwa in der Koordinatenmesstechnik. „Wir mussten es nur für den deutlich komplexeren Fall der Prüfung von KI-Algorithmen erweitern“, erläutert Maik Liebl.

Dass ihr System funktioniert, haben Liebl und sein Team zunächst mithilfe von öffentlich zugänglichen Daten getestet: Von einem der zahlreichen Wettbewerbe, die „Grand Challenge“ heißen, haben sie sich MRT-Daten heruntergeladen. Es sind Aufnahmen von rechten und linken Herzkammern und dem Myokard, einschließlich einer Bewertung von Medizinern. Im nächsten Schritt wollen sie jetzt einen „goldenen Datensatz“ oder Goldstandard aufbauen – man könnte auch sagen: so etwas wie ein Normal, ein Ding mit bekannten Eigenschaften, an dem Messgeräte kalibriert werden. Dafür brauchen sie nun Partner und Stakeholder aus Klinik und Industrie. Maik Liebl ist sehr gespannt, ob sich von dort jemand bei ihm am Messestand melden und eine Kooperation eingehen wird: „Immerhin sitzen wir alle im selben Boot. Denn der EU AI Act zwingt uns alle, jetzt richtig schnell zu handeln. Ziel ist es, das System in einem Gemeinschaftsprojekt zur Praxisreife zu bringen. Im Grunde kommen wir nur alle gemeinsam voran.“

So ist Maik Liebl sehr gespannt, wer auf der Hannover Messe zu ihm ins Boot steigen wird.

Die PTB-Innovationscluster „Gesundheit“ und „Digitalisierung“

Maschinelles Lernen ist ein großes Zukunftsthema, auch in der Medizin. Gut trainierte KI-Algorithmen erkennen Muster in großen Datenmengen. Damit Patientinnen und Patienten solchen Verfahren ihr Vertrauen schenken, arbeitet die PTB an objektiven Bewertungsmethoden für diese Algorithmen und deren Trainingsdaten. Ihre Innovationscluster „Gesundheit“ und „Digitalisierung“ sind zwei von sechs übergreifenden Clustern zu den großen Fragen der Gegenwart und Zukunft.

es/ptb

Weitere Informationen

Mehr über das TRaCIM-Verfahren lesen Sie auf der folgenden Webseite: https://www.ptb.de/cms/ptb/fachabteilungen/abt5/fb-53/abg-forschungsvorhaben-530/tracim.html

Ein weiteres Thema der PTB auf der Hannover-Messe: ein kostengünstiger, transportabler Magnetresonanztomograf auf der Basis von Open-Source-Hardware (siehe Artikel in diesem Newsletter oder hier)