Neue Compute-Orchestrierungsfunktionen von Clarifai für Unternehmen

Clarifai ermöglicht unternehmensweite KI-Orchestrierung

Der KI-Plattformanbieter Clarifai hat eine neue Funktion zur Compute-Orchestrierung vorgestellt. Diese soll Unternehmen dabei unterstützen, ihre KI-Workloads in jeder beliebigen Computerumgebung zu optimieren, Kosten zu senken und eine Herstellerabhängigkeit zu vermeiden. Die Public-Preview-Version, die am 3. Dezember 2024 angekündigt wurde, ermöglicht es Unternehmen, KI-Workloads über eine einheitliche Steuerungsebene zu orchestrieren, unabhängig davon, ob diese Workloads in der Cloud, lokal oder in einer Air-Gapped-Infrastruktur ausgeführt werden. Die Plattform ist mit jedem KI-Modell und Hardwarebeschleuniger kompatibel, einschließlich GPUs, CPUs und TPUs.

Matt Zeiler, Gründer und CEO von Clarifai, betont die langjährige Erfahrung des Unternehmens in der Unterstützung großer Unternehmen und staatlicher Einrichtungen mit einem umfassenden Angebot an KI-Tools. Die neuen Funktionen zur Compute-Orchestrierung wurden intern entwickelt, um die Rechenkosten bei der Skalierung auf Millionen von Modellen gleichzeitig zu optimieren. Nun werden diese Möglichkeiten auch den Kunden zur Verfügung gestellt.

Laut Clarifai kann die Plattform die Computernutzung durch Modellpackungsoptimierungen um das 3,7-fache reduzieren und gleichzeitig über 1,6 Millionen Inferenzanfragen pro Sekunde mit einer Zuverlässigkeit von 99,9997% unterstützen. Die Optimierungen können je nach Konfiguration zu Kosteneinsparungen von 60-90% führen.

Funktionsumfang der Compute-Orchestrierungsplattform

Die Compute-Orchestrierungsplattform bietet eine Reihe von Funktionen, die Unternehmen bei der Optimierung ihrer KI-Workloads unterstützen:

Kostenoptimierung: Durch automatisiertes Ressourcenmanagement, einschließlich Modellpackung, Vereinfachung von Abhängigkeiten und anpassbare Autoskalierungsoptionen, die für Modellreplikate und Rechenknoten auf Null skaliert werden können.

Flexible Bereitstellung: Auf jedem Hardwareanbieter, einschließlich Cloud, On-Premise, Air-Gapped und Clarifai SaaS-Infrastruktur.

Integration: Mit der KI-Plattform von Clarifai für Datenkennzeichnung, Training, Evaluierung, Workflows und Feedback.

Sicherheit: Funktionen, die die Bereitstellung in Kunden-VPCs oder lokalen Kubernetes-Clustern ermöglichen, ohne dass offene eingehende Ports, VPC-Peering oder benutzerdefinierte IAM-Rollen erforderlich sind.

Die Plattform entstand aus den Problemen der Clarifai-Kunden mit der KI-Leistung und den Kosten. Der Wunsch nach einer ganzheitlichen Betrachtung der On-Premise-Kosten im Vergleich zu den Cloud-Kosten und der Möglichkeit, die Orchestrierung über verschiedene Umgebungen hinweg auf Kostenbasis durchzuführen, war ein wichtiger Treiber für die Entwicklung.

Die Compute-Orchestrierungsfunktionen bauen auf der bestehenden KI-Plattform von Clarifai auf, die nach Angaben des Unternehmens bereits über 2 Milliarden Operationen in den Bereichen Computer Vision, Sprache und Audio-KI verarbeitet hat. Das Unternehmen gibt an, eine Betriebszeit von über 99,99 % und eine 24/7-Verfügbarkeit für kritische Anwendungen zu gewährleisten.

Die Compute-Orchestrierungsfunktion ist derzeit als Public Preview verfügbar. Unternehmen, die an einem Test der Plattform interessiert sind, können sich an Clarifai wenden, um Zugang zu erhalten.

https://www.artificialintelligence-news.com/news/new-clarifai-tool-orchestrates-ai-across-any-infrastructure/ https://www.clarifai.com/press-release/clarifai-launches-first-vendor-agnostic-compute-orchestration-capabilities-to-optimize-ai-performance-and-spend https://www.youtube.com/watch?v=wUhyQO-0w-g https://medium.com/majordigest/clarifai-unveils-compute-orchestration-for-ai-workloads-revolutionizing-enterprise-ai-c672d5489581 https://siliconangle.com/2024/12/03/clarifais-new-ai-compute-orchestration-platform-spans-every-cloud-private-data-center-environment/ https://sdtimes.com/ai/clarifai-launches-compute-orchestration-to-allow-companies-to-optimize-ai-deployments/ https://www.clarifai.com/products/compute-orchestration https://www.finanznachrichten.de/nachrichten-2024-12/63980389-clarifai-launches-first-vendor-agnostic-compute-orchestration-capabilities-to-optimize-ai-performance-and-spend-008.htm https://www.dbta.com/Editorial/News-Flashes/Clarifais-Compute-Orchestration-for-AI-Centers-Seamless-Management-Security-and-Vendor-Flexibility-167108.aspx https://finance.yahoo.com/news/clarifai-launches-first-vendor-agnostic-140000971.html