Gemeinsames Forschungslabor von TU Darmstadt und Aleph Alpha fördert sichere und transparente KI-Entwicklung

Forschungsschwerpunkte

Das Labor wird sich auf mehrere zentrale Forschungsthemen konzentrieren, die für die Zukunft der KI von entscheidender Bedeutung sind:

Transparenz und Nachvollziehbarkeit

Eines der Hauptziele des Labors ist die Entwicklung von Methoden, die es ermöglichen, die Entscheidungen von KI-Systemen nachvollziehbar zu machen. Dies ist besonders wichtig in Bereichen wie dem Gesundheitswesen, dem Finanzwesen und dem Recht, wo falsche oder nicht nachvollziehbare Entscheidungen schwerwiegende Konsequenzen haben können.

Sicherheit und Robustheit

Ein weiterer Schwerpunkt liegt auf der Sicherheit von KI-Systemen. Das Labor wird Methoden entwickeln, um sicherzustellen, dass KI-Modelle robust gegenüber Angriffen und Manipulationen sind. Dies ist besonders relevant in sicherheitskritischen Anwendungen, wie der autonom fahrenden Fahrzeuge oder der Cybersicherheit.

Ethik und gesellschaftliche Auswirkungen

Die ethischen Implikationen von KI sind ein weiterer wichtiger Forschungsbereich. Das Labor wird untersuchen, wie KI-Systeme entwickelt werden können, die ethische Prinzipien einhalten und gesellschaftliche Werte respektieren. Dies umfasst auch die Untersuchung der sozialen Auswirkungen von KI und die Entwicklung von Methoden zur Vermeidung von Verzerrungen und Diskriminierung.

Erste Erfolge und zukünftige Ausblicke

Bereits kurz nach der Gründung des Labors konnten erste Erfolge verzeichnet werden. In Zusammenarbeit mit Prof. Kristian Kersting von der TU Darmstadt hat Aleph Alpha eine Methode entwickelt, die es ermöglicht, die Korrektheit und Nachvollziehbarkeit von KI-Entscheidungen zu überprüfen. Diese Methode, bekannt als "AtMan", wurde bereits erfolgreich in mehreren Projekten angewendet und zeigt vielversprechende Ergebnisse.

Zukünftige Projekte

Für die Zukunft sind zahlreiche Projekte geplant, die die Zusammenarbeit zwischen der TU Darmstadt und Aleph Alpha weiter vertiefen werden. Dazu gehören unter anderem:

- Entwicklung von KI-Assistenzsystemen für das Gesundheitswesen
- Forschung zu transparenten und sicheren autonomen Fahrsystemen
- Untersuchung der gesellschaftlichen Auswirkungen von KI in verschiedenen Anwendungsbereichen

Fazit

Die Gründung des gemeinsamen Labors für sichere und transparente KI durch die TU Darmstadt und Aleph Alpha markiert einen wichtigen Schritt in der Entwicklung von vertrauenswürdigen KI-Systemen. Durch die Kombination der wissenschaftlichen Expertise der TU Darmstadt und der praktischen Erfahrung von Aleph Alpha können neue Standards für Transparenz, Sicherheit und Ethik in der KI gesetzt werden. Diese Partnerschaft zeigt, wie wichtig interdisziplinäre und institutionenübergreifende Zusammenarbeit für die Lösung der komplexen Herausforderungen im Bereich der Künstlichen Intelligenz ist.

Bibliographie

1. https://ml-research.github.io/
2. https://www.tu-darmstadt.de/universitaet/international/ijrl/index.de.jsp
3. https://aleph-alpha.com/aleph-alpha-reaches-first-milestone-on-the-way-to-content-correct-explainable-and-trustworthy-ai/
4. https://ml-research.github.io/people/pschramowski/
5. https://uk.dfki.de/DFKI_NEWS_ePaper/epaper-DFKI_News_50_e/
6. https://www.tu-darmstadt.de/universitaet/aktuelles_meldungen/archiv_2/2023/2023quartal1/neuesausdertueinzelansichtbreitespalte_398464.de.jsp
7. https://tuprints.ulb.tu-darmstadt.de/23090/1/dissertation_schramowski.pdf
8. https://aleph-alpha.com/de/
9. https://www.ki.tu-darmstadt.de/en
10. https://uk.dfki.de/DFKI_NEWS_ePaper/epaper-DFKI_News_51_e/