Fortschritte bei der Verbesserung der Brustkrebsdiagnose durch neue Ansätze zur Bekämpfung von Adversarial Attacks in der medizinischen Bildgebung

Prompt2Perturb (P2P): Ein neuer Ansatz

Forscher haben nun eine neue Methode namens Prompt2Perturb (P2P) entwickelt, die textgesteuerte, diffusionsbasierte Adversarial Attacks auf Brustultraschallbilder ermöglicht. P2P nutzt sogenannte "learnable prompts" innerhalb des Text-Encoders, um subtile, aber wirkungsvolle Störungen zu erzeugen. Diese führen das Modell zu einer gezielten Fehlklassifizierung, ohne die Bildqualität merklich zu beeinträchtigen. Im Gegensatz zu bisherigen Ansätzen, die auf Prompt-Learning basieren, aktualisiert P2P direkt die Texteinbettungen und umgeht so die Notwendigkeit, Diffusionsmodelle neu zu trainieren.

Optimierung der frühen Umkehrdiffusionsschritte

Ein weiterer Vorteil von P2P liegt in der Optimierung der frühen Schritte des Umkehrdiffusionsprozesses. Dies steigert die Effizienz und stellt gleichzeitig sicher, dass die erzeugten Adversarial Examples nur subtiles Rauschen enthalten, wodurch die Qualität des Ultraschallbildes erhalten bleibt und keine sichtbaren Artefakte entstehen.

Überlegene Leistung und natürliche Ergebnisse

In Tests mit drei verschiedenen Brustultraschalldatensätzen übertraf P2P bestehende Angriffsmethoden in Bezug auf FID (Fréchet Inception Distance) und LPIPS (Learned Perceptual Image Patch Similarity). Die generierten Bilder wirken zudem natürlicher und sind effektiver als die von bisherigen Adversarial Attacks erzeugten Bilder.

Bedeutung für die KI-Sicherheit in der Medizin

Die Entwicklung von P2P unterstreicht die Notwendigkeit, die Robustheit von DNNs in der medizinischen Bildgebung gegenüber Adversarial Attacks zu verbessern. Methoden wie P2P können dazu beitragen, Schwachstellen aufzudecken und die Entwicklung robusterer Modelle zu fördern. Die öffentliche Verfügbarkeit des Codes ermöglicht es anderen Forschern, auf dieser Arbeit aufzubauen und die Forschung im Bereich der KI-Sicherheit in der Medizin voranzutreiben.

Mindverse: KI-Partner für maßgeschneiderte Lösungen

Mindverse, ein deutsches All-in-One-Content-Tool für KI-Text, -Inhalte, -Bilder und -Recherche, bietet maßgeschneiderte KI-Lösungen wie Chatbots, Voicebots, KI-Suchmaschinen und Wissenssysteme. Als KI-Partner unterstützt Mindverse Unternehmen bei der Entwicklung und Implementierung von KI-Technologien, um die Herausforderungen der digitalen Transformation zu meistern. Die Forschung im Bereich Adversarial Attacks, wie die hier vorgestellte P2P-Methode, ist für Unternehmen wie Mindverse von entscheidender Bedeutung, um die Sicherheit und Zuverlässigkeit ihrer KI-Lösungen zu gewährleisten.

Bibliographie

1. https://github.com/52CV/ECCV-2024-Papers
2. https://github.com/diff-usion/Awesome-Diffusion-Models
3. https://arxiv.org/abs/2108.04345
4. https://diff-usion.github.io/Awesome-Diffusion-Models/
5. https://cvpr.thecvf.com/Conferences/2024/AcceptedPapers
6. https://ijcai24.org/main-track-accepted-papers/
7. https://cvpr.thecvf.com/virtual/2024/papers.html
8. https://www.paperdigest.org/2020/04/recent-papers-on-generative-adversarial-network/
9. https://arxiv.org/pdf/2108.04345
10. https://vsehwag.github.io/blog/2023/2/all_papers_on_diffusion.html