Cyberattacken vordenken

Künstliche Intelligenz bietet in der modernen Radiologie grosses Potenzial – ist aber auch mit Risiken verbunden. In einer Studie haben Forscher des UniversitätsSpitals Zürich (USZ) erstmals gezeigt, dass Cyberkriminelle in Zukunft auch versuchen könnten, radiologische Bilder zu manipulieren. Dieses heute erst theoretische Szenario muss bei der Entwicklung von neuer Hard- und Software berücksichtigt werden.

Für ihre Studie trainierten die Forscher ein Programm mit 680 Mammographien von 334 Patientinnen. Das Programm sollte lernen, Bilder, die Krebs zeigen, in gesunde Aufnahmen umzuwandeln und umgekehrt. So untersuchten die Forscher, ob es mittels künstlicher Intelligenz möglich ist, krebsspezifische Merkmale realistisch in Mammographien einzubringen oder zu entfernen.

Die in der Studie manipulierten Bilder wurden drei Radiologen zur Begutachtung vorgelegt. Sie sollten beurteilen, ob die Bilder echt oder manipuliert sind. Das Resultat: Keiner der Radiologen konnte dies zuverlässig unterscheiden.

«Künstliche Intelligenz ist in der Lage zu lernen, wie Brustkrebs aussieht. Das hilft uns in der Diagnostik», erklärt Dr. Becker, Radiologe am USZ und Erstautor der Studie. «Nun haben wir gezeigt, dass sie auch in der Lage ist, Krebs in Mammographien gesunder Patienten einzubringen oder zu entfernen und durch normal aussehendes Gewebe im Bild zu ersetzen.»

Risiken von Anfang an berücksichtigen

Eine solche Cyberattacke zur Manipulation von Röntgenbildern wird allerdings noch für einige Zeit nicht durchführbar sein, zeigt sich Dr. Becker überzeugt. Ein Grund zur Sorge bestehe daher heute nicht. Er unterstreicht jedoch die Wichtigkeit, dass die medizinische Fachwelt sowie Hard- und Softwareanbieter das Bewusstsein für Cyberattacken entwickeln und die notwendigen Anpassungen vornehmen. Wichtig sei, das Problem anzugehen, solange es noch theoretisch ist.

Künstliche Intelligenz im Allgemeinen birgt für die Radiologie grosses Potential und wird heute in begrenztem Mass auch bereits eingesetzt, z.B. für die Beurteilung der Dichte des Brustgewebes. Das Programm schlägt eine von vier möglichen Kategorien vor, die der Radiologe im Einzelfall bestätigt oder verwirft. Eine weitere Einsatzmöglichkeit hat nun die Studie gezeigt: «Neuronale Netze sind in der Lage, Bildmerkmale bestimmter Krebsarten noch viel genauer zu erfassen. Davon können wir möglicherweise lernen und zu besseren Ärzten werden.»

Publikation
Anton S. Becker, Lukas Jendele, Ondrej Skopek, Nicole Berger, Soleen Ghafoor, Magda Marcon, Ender Konukoglu: Injecting and removing malignant features in mammography with CycleGAN: Investigation of an automated adversarial attack using neural networks