// Modelle & Forschung 27.08.2024 · 10:47 Uhr 3 Min. Lesezeit

Hermes 3: Revolutionierung der Sprachmodelle durch erweiterte Steuerbarkeit und Kreativität

Mindverse News

KI-gestützt erstellt 9 Quellen Arbeitsweise

Hermes 3: Revolutionierung der Sprachmodelle durch erweiterte Steuerbarkeit und Kreativität — Symbolbild

// Inhalt · 6 Abschnitte

Hermes 3: Ein umfassender technischer Bericht
Einführung in Hermes 3
Die Hermes 3 Modelle
Fortschrittliche Fähigkeiten
Leistungsbewertung und Benchmarking
Fazit
Quellen

Hermes 3: Ein umfassender technischer Bericht

In der heutigen Welt erwarten Nutzer von KI-Systemen, dass diese sich zunehmend wie Menschen verhalten, komplexe Gespräche führen und den Kontext verstehen. Trotz der signifikanten Fortschritte bei großen Sprachmodellen (LLMs) sind diese Modelle stark darauf angewiesen, dass Menschen Aufgaben initiieren. Es gibt Verbesserungspotenzial bei Aufgaben wie Rollenspielen, logischem Denken und Problemlösung, insbesondere bei langen Konversationen. Die Unfähigkeit, Informationen aus früheren Teilen eines Gesprächs zu erinnern und zu referenzieren, macht LLMs ineffizient für wiederholte Konversationen und Aufgaben.

Einführung in Hermes 3

Nous Research hat sich der Herausforderung angenommen, LLMs benutzerfreundlicher, steuerbarer und effektiver in der Generierung qualitativ hochwertiger Antworten zu machen. Während „Basis“- oder „Foundation“-Modelle auf einer breiten Palette von Textdaten trainiert werden, haben sie oft Schwierigkeiten, Kohärenz und Kontext über mehrere Dialogwechsel hinweg aufrechtzuerhalten. Diese mangelnde Steuerbarkeit und Konsistenz schränkt ihre praktische Nutzbarkeit ein, insbesondere für Nutzer, die von Modellen verlangen, zuverlässig auf spezifische Aufforderungen zu reagieren.

Verbesserung der Sprachmodelle

Aktuelle Methoden zur Verbesserung von LLMs umfassen Instruct-Tuning und Chat-Tuning, bei denen Modelle fein abgestimmt werden, um auf spezifische Befehle zu reagieren oder an Gesprächen teilzunehmen. Diese Methoden haben jedoch oft Einschränkungen, wie die Unfähigkeit, nuancierten Anweisungen zu folgen oder in ihren Antworten neutral zu bleiben. Um diese Einschränkungen zu adressieren, hat Nous Research Hermes 3 eingeführt, ein fortschrittliches Open-Source-Sprachmodell, das auf Llama 3.1 basiert.

Die Hermes 3 Modelle

Hermes 3 Modelle sind so konzipiert, dass sie hoch steuerbar sind, was bedeutet, dass sie System- und Anweisungsaufforderungen genau folgen können, während sie fortgeschrittene Fähigkeiten im Bereich des logischen Denkens und der Kreativität einbringen. Das größte Modell, Hermes 3 405B, erreicht besonders bemerkenswerte Leistungen bei mehreren öffentlichen Benchmarks.

Feinabstimmung und Training

Die Hermes 3 Modelle wurden durch Feinabstimmung der Llama 3.1 Modelle entwickelt, die jeweils 8B, 70B und 405B Parameter haben. Der Feinabstimmungsprozess ist sorgfältig darauf ausgelegt, die Empfindlichkeit der Modelle gegenüber Systemaufforderungen sicherzustellen, sodass sie verschiedene Personas annehmen und genau auf unterschiedliche Benutzeranweisungen reagieren können. Das größte Modell, Hermes 3 405B, ist besonders geschickt darin, kohärente und kontextuell relevante mehrstufige Gespräche aufrechtzuerhalten, was es für interaktive Anwendungen wie Rollenspiele geeignet macht.

Fortschrittliche Fähigkeiten

Das Modell zeigt eine breite Palette fortschrittlicher Fähigkeiten, wie Urteils- und Belohnungsmodellierung, agentisches Denken und Werkzeugnutzung. Diese Fähigkeiten werden auf einem vielfältigen Datensatz trainiert, der synthetisch erstellte Denkaufgaben und domänenspezifische Daten umfasst. Leistungsevaluierungen zeigen, dass Hermes 3 Modelle ihre Gegenstücke bei mehreren Benchmarks übertreffen, was signifikante Verbesserungen bei Aufgaben wie Codegenerierung, komplexem Denken und kreativem Schreiben demonstriert.

Technischer Aufbau und Anwendungen

Der technische Aufbau von Hermes 3 umfasst fortschrittliche Langzeit-Kontextbeibehaltung und die Fähigkeit zu mehrstufigen Gesprächen, komplexem Rollenspiel und internen Monologen sowie verbesserter agentischer Funktionserfüllung. Unsere Trainingsdaten fördern aggressiv, dass das Modell den System- und Anweisungsaufforderungen genau und adaptiv folgt. Hermes 3 wurde durch Feinabstimmung von Llama 3.1 8B, 70B und 405B und Training auf einem Datensatz von hauptsächlich synthetisch generierten Antworten erstellt.

Leistungsbewertung und Benchmarking

Die Modelle von Hermes 3 zeigen vergleichbare und überlegene Leistungen im Vergleich zu Llama 3.1, während sie tiefere Fähigkeiten im logischen Denken und in der Kreativität freischalten. Performance-Evaluierungen zeigen, dass Hermes 3 Modelle ihre Gegenstücke bei mehreren Benchmarks übertreffen, was signifikante Verbesserungen bei Aufgaben wie Codegenerierung, komplexem Denken und kreativem Schreiben demonstriert.

Fazit

Zusammenfassend stellt die Studie Hermes 3 als eine robuste Lösung für die Einschränkungen bestehender LLMs vor, insbesondere in Bezug auf Steuerbarkeit und Leistung. Durch die Feinabstimmung der Llama 3.1 Modelle und die Integration fortgeschrittener Denk- und Werkzeugnutzungsfähigkeiten adressiert Hermes 3 effektiv das Problem, LLMs steuerbarer und vielseitiger für eine breite Palette von Anwendungen zu machen. Die überlegene Leistung des Modells bei öffentlichen Benchmarks unterstreicht sein Potenzial als ein hochmodernes Werkzeug für allgemeine und spezialisierte Aufgaben.