Fortschritte in der geometrischen Problemlösung durch KI mit GeoX

Geometrische Problemlösung mit KI: GeoX setzt neue Maßstäbe

Künstliche Intelligenz (KI) hat in den letzten Jahren enorme Fortschritte gemacht, insbesondere im Bereich der multimodalen großen Sprachmodelle (MLLMs). Diese Modelle können Texte generieren, Bilder erkennen und sogar komplexe Fragen beantworten. Trotz dieser beeindruckenden Fähigkeiten stoßen MLLMs bei der automatischen Lösung geometrischer Probleme (GPS) an ihre Grenzen. Die Interpretation von Diagrammen, das Verstehen von Symbolen und die Durchführung komplexer logischer Schlussfolgerungen stellen für diese Modelle eine besondere Herausforderung dar. Dies liegt zum einen an der Art des Trainingsmaterials, das meist aus natürlichen Bildern und Texten besteht, und zum anderen am Fehlen automatisierter Verifizierungsprozesse während der Problemlösung.

Auch spezialisierte KI-Modelle für geometrische Aufgaben zeigen Schwächen. Oftmals sind sie zu eng auf spezifische Problemstellungen zugeschnitten und daher nicht flexibel genug, um ein breiteres Spektrum geometrischer Aufgaben zu bewältigen. Genau hier setzt GeoX an. Das neue multimodale KI-Modell wurde speziell für geometrische Verständnis- und Denkaufgaben entwickelt.

Der innovative Ansatz von GeoX

GeoX verfolgt einen dreistufigen Trainingsansatz. Zunächst wird ein Diagramm-Encoder und ein Symbol-Decoder durch unimodales Pre-Training trainiert. Dieses Training konzentriert sich auf geometrische Bilder und formale Sprache, im Gegensatz zu den natürlichen Bildern und Texten, die üblicherweise für MLLMs verwendet werden. Dadurch wird das Verständnis des Modells für geometrische Diagramme und die zugehörige formale Beschreibungssprache verbessert.

Im zweiten Schritt führt GeoX eine sogenannte "Geometrie-Sprach-Ausrichtung" ein. Diese neuartige Methode verbindet die beiden unimodalen Experten – den Diagramm-Encoder und den Symbol-Decoder – und überbrückt die Lücke zwischen visueller und symbolischer Information. Hierbei kommt ein spezieller Transformer zum Einsatz, der sogenannte "Generator-And-Sampler Transformer" (GS-Former). Der GS-Former generiert diskriminative Abfragen und filtert uninformative Repräsentationen aus den oft ungleichmäßig verteilten geometrischen Signalen heraus.

Abschließend wird GeoX durch Visual Instruction Tuning verfeinert. Das Modell lernt, geometrische Bilder und Fragen als Input zu verarbeiten und überprüfbare Lösungen zu generieren. Dieser Ansatz ermöglicht es GeoX, komplexe geometrische Probleme zu lösen und die Ergebnisse gleichzeitig zu verifizieren.

Überzeugende Ergebnisse auf etablierten Benchmarks

Die Leistung von GeoX wurde auf anerkannten Benchmarks wie GeoQA, UniGeo, Geometry3K und PGPS9k getestet. Die Ergebnisse zeigen, dass GeoX sowohl generalistische MLLMs als auch spezialisierte Geometriemodelle in der Problemlösungsgenauigkeit übertrifft. Dies verdeutlicht das Potenzial des neuen Ansatzes, der auf formalisierter Vision-Language Pre-Training und dem innovativen GS-Former basiert.

Ausblick und Bedeutung für die KI-Forschung

GeoX ist ein vielversprechender Schritt in Richtung einer robusteren und effektiveren geometrischen Problemlösung durch KI. Die Entwickler planen, die Daten und den Code von GeoX öffentlich zugänglich zu machen, um die Forschung in diesem Bereich weiter voranzutreiben. Für Unternehmen wie Mindverse, die sich auf maßgeschneiderte KI-Lösungen spezialisiert haben, eröffnen sich durch GeoX neue Möglichkeiten, beispielsweise für die Entwicklung von intelligenten Tutorensystemen, automatisierten Design-Tools oder interaktiven Lernplattformen.

Bibliographie:

1. Xia, R., et al. (2024). GeoX: Geometric Problem Solving Through Unified Formalized Vision-Language Pre-training. arXiv preprint arXiv:2412.11863.
2. https://openreview.net/forum?id=6RiBl5sCDF
3. https://openreview.net/pdf/b71f0f81bb454e2c49bc83afc127137419614829.pdf
4. https://paperreading.club/page?id=273059
5. https://arxiv.org/abs/2410.13510
6. https://formalgeo.github.io/papers/zhang2024fgeohypergnet.pdf
7. https://arxiv.org/pdf/2402.11461