// Modelle & Forschung 05.09.2024 · 13:34 Uhr 2 Min. Lesezeit

Ilya Sutskevers neuer Kurs zur sicheren Entwicklung von Künstlicher Intelligenz

Mindverse News

KI-gestützt erstellt 10 Quellen Arbeitsweise

Ilya Sutskevers neuer Kurs zur sicheren Entwicklung von Künstlicher Intelligenz — Symbolbild

// Inhalt · 10 Abschnitte

Von OpenAI zu Safe Superintelligence: Ilya Sutskevers neuer Weg in der KI-Entwicklung
Einleitung
Hintergrund
Gründe für den Bruch
Gründung von Safe Superintelligence
Investoren und Finanzierungsrunde
Herausforderungen und Kosten
Philosophie und Ziele von Safe Superintelligence
Reaktionen und Ausblick
Fazit
Quellen

Von OpenAI zu Safe Superintelligence: Ilya Sutskevers neuer Weg in der KI-Entwicklung

Einleitung

In der Welt der Künstlichen Intelligenz (KI) hat sich kürzlich ein bemerkenswerter Wandel vollzogen. Ilya Sutskever, Mitgründer und ehemaliger Forschungschef von OpenAI, hat das Unternehmen nach internen Konflikten verlassen und eine neue KI-Firma gegründet, die bereits eine Milliarde US-Dollar an Investitionen eingesammelt hat. Diese neue Firma trägt den Namen Safe Superintelligence und verfolgt das Ziel, eine sichere und fortschrittliche KI zu entwickeln.

Hintergrund

Ilya Sutskever gehörte zu den Gründern von OpenAI und war eine der treibenden Kräfte hinter der Entwicklung von ChatGPT. Im November 2023 spielte Sutskever eine Schlüsselrolle bei der vorübergehenden Entlassung von OpenAI-CEO Sam Altman. Diese Entscheidung wurde jedoch später revidiert, und Altman kehrte in seine Position zurück, während Sutskever das Unternehmen im Mai 2024 verließ.

Gründe für den Bruch

Sutskevers Abgang von OpenAI war das Ergebnis eines tiefen philosophischen Konflikts über die richtige Herangehensweise an die Entwicklung von Künstlicher Intelligenz. Sutskever war besorgt über die schnelle Entwicklung einer möglichen Superintelligenz (AGI) und die damit verbundenen Sicherheitsrisiken. Ihm zufolge ging die Entwicklung bei OpenAI unter Altman zu schnell voran, ohne ausreichende Sicherheitsvorkehrungen.

Gründung von Safe Superintelligence

Im Juni 2024 gab Sutskever die Gründung seiner eigenen KI-Firma Safe Superintelligence bekannt. Diese neue Firma hat das Ziel, eine sichere und fortschrittliche KI zu entwickeln. Sutskever konnte bereits namhafte Investoren wie Sequoia, Andreessen Horowitz, DST Global und SV Angel von seinem Ansatz überzeugen und eine Milliarde US-Dollar einsammeln.

Investoren und Finanzierungsrunde

Zu den Investoren von Safe Superintelligence gehören prominente Firmen und Einzelpersonen aus der Tech-Branche. Nat Friedman, Ex-CEO von GitHub, und Daniel Gross, Mitgründer von Cue, das 2013 an Apple verkauft wurde, gehören ebenfalls zu den Unterstützern. Nach der Finanzierungsrunde wird die Bewertung von Safe Superintelligence auf fünf Milliarden US-Dollar geschätzt, obwohl das Unternehmen noch kein fertiges Produkt vorzuweisen hat.

Herausforderungen und Kosten

Die Entwicklung von Künstlicher Intelligenz ist mit enormen Kosten verbunden, insbesondere die notwendige Infrastruktur für das Training der KI-Algorithmen. Diese bestehen hauptsächlich aus teuren KI-Chips, die erhebliche Investitionen erfordern. Safe Superintelligence muss diese Herausforderungen meistern, um seine Vision einer sicheren Superintelligenz zu verwirklichen.

Philosophie und Ziele von Safe Superintelligence

Im Gegensatz zu OpenAI will Safe Superintelligence sich von kommerziellem Druck und Wettbewerb fernhalten. Sutskever betont, dass die Firma nur ein Produkt entwickeln wird: eine sichere Superintelligenz. Diese soll auf der Grundlage von Werten wie Freiheit und Demokratie arbeiten, um sicherzustellen, dass sie der Menschheit nicht schadet.

Reaktionen und Ausblick

Die Gründung von Safe Superintelligence hat in der KI-Community gemischte Reaktionen hervorgerufen. Einige sehen in Sutskevers Ansatz eine notwendige Maßnahme, um die Entwicklung sicherer KI-Systeme zu gewährleisten. Andere sind skeptisch, ob es möglich ist, die enormen finanziellen und technologischen Herausforderungen zu bewältigen, ohne kommerziellen Druck ausgesetzt zu sein.

Fazit

Ilya Sutskevers Übergang von OpenAI zu Safe Superintelligence markiert einen bedeutenden Schritt in der Entwicklung von Künstlicher Intelligenz. Mit einer Milliarde US-Dollar an Investitionen und einem klaren Fokus auf Sicherheit und ethische Prinzipien könnte Safe Superintelligence neue Maßstäbe in der KI-Branche setzen. Es bleibt abzuwarten, wie sich diese neue Firma in den kommenden Jahren entwickeln wird und welche Auswirkungen sie auf die gesamte KI-Landschaft haben wird.