// Tools & Entwicklung 19.08.2024 · 17:05 Uhr 3 Min. Lesezeit

Enthüllung der Anfälligkeit von KI-Suchmaschinen für Manipulationen

Mindverse News

KI-gestützt erstellt 10 Quellen Arbeitsweise

Enthüllung der Anfälligkeit von KI-Suchmaschinen für Manipulationen — Symbolbild

// Inhalt · 9 Abschnitte

Perplexity CEO erklärt, wie KI-Suchmaschinen leicht manipuliert werden können
Einführung in die Manipulation von KI-Suchmaschinen
Die Technik der Antwortmaschinen-Optimierung
Die Herausforderungen der Verteidigung gegen Manipulationen
Die potenziellen Risiken der weit verbreiteten Manipulation
Perplexity wächst, bleibt aber hinter Google zurück
Kontroverse um das Crawlen und Reproduzieren von Webinhalten
Die Zukunft der KI-Suche
Fazit
Quellen

Perplexity CEO erklärt, wie KI-Suchmaschinen leicht manipuliert werden können

Einführung in die Manipulation von KI-Suchmaschinen

Aravind Srinivas, Mitbegründer der KI-Suchmaschine Perplexity, hat in einem Interview mit Lex Fridman offenbart, wie KI-Suchmaschinen durch versteckten Text auf Webseiten manipuliert werden können. Diese Technik, die er als "Answer Engine Optimization" (AEO) bezeichnet, zeigt auf, wie Website-Betreiber unsichtbaren Text auf ihren Seiten einbetten können, um die Ausgaben von KI-Systemen zu beeinflussen.

Die Technik der Antwortmaschinen-Optimierung

Srinivas erklärte, dass Website-Betreiber unsichtbaren Text auf ihren Seiten einbetten könnten, wie zum Beispiel auf lexfridman.com, und KI-Systeme anweisen könnten, bestimmte Aussagen zu machen, wenn sie den versteckten Inhalt lesen. Diese Manipulation, bekannt als "Prompt Injection", funktioniert sowohl mit verstecktem Text in fortlaufendem Text als auch in Bildern, wie in einem kürzlich durchgeführten Experiment demonstriert wurde. Es gibt wahrscheinlich noch andere Möglichkeiten, manipulativen Text zu verstecken, wie das Einfangen von KI-Crawlern in Sitemaps, im ALT-Text von Bildern oder in Dateinamen.

Die Herausforderungen der Verteidigung gegen Manipulationen

Die Verteidigung gegen solche Manipulationen stellt eine Herausforderung dar und ähnelt einem Katz-und-Maus-Spiel, erklärte Srinivas. Einige Probleme müssten reaktiv angegangen werden, ähnlich wie Google seit Jahren mit SEO-Spam umgeht. Derzeit gibt es keinen zuverlässigen Schutz gegen Prompt Injections, eine Schwachstelle, die mindestens seit der Veröffentlichung von GPT-3 bekannt ist. Selbst OpenAIs neue Instruktionshierarchie und Apple Intelligence sind nicht vollständig gegen diesen Angriff geschützt.

Die potenziellen Risiken der weit verbreiteten Manipulation

Dies zeigt, dass Prompt Injections kein geringfügiges Problem darstellen. Wenn Perplexity und ähnliche Produkte an Popularität gewinnen, könnte diese Form der Manipulation weit verbreitet werden, wobei falsche oder manipulative Inhalte in KI-Antworten eingefügt werden, die schwer zu erkennen sind, da es keinen zusätzlichen Kontext wie eine Webseite gibt.

Perplexity wächst, bleibt aber hinter Google zurück

Während Prompt Injections eine ernsthafte Bedrohung darstellen, hat Perplexity noch größere Sorgen. Das Unternehmen wächst und beantwortete im Juni 2024 250 Millionen Fragen, nachdem es im letzten Jahr insgesamt 500 Millionen Fragen beantwortet hatte. Doch das Startup liegt immer noch weit hinter Google, das täglich etwa 8,5 Milliarden Suchanfragen bearbeitet.

Perplexity steht auch in Konkurrenz zu Technologiegiganten mit riesigen Ressourcen und Daten. Google hat seine KI-Antworten gerade auf mehr Länder ausgeweitet, während Microsoft ähnliche Funktionen in Bing anbietet. OpenAI testet auch eine KI-Suchmaschine namens SearchGPT.

Kontroverse um das Crawlen und Reproduzieren von Webinhalten

Perplexity wurde auch dafür kritisiert, Webinhalte zu crawlen und zu reproduzieren, was möglicherweise den Verkehr von den ursprünglichen Autoren ablenkt. Das Startup versucht, dieses Problem mit einem Publisher-Programm auf Basis von Werbeeinnahmen zu lösen.

Die Zukunft der KI-Suche

Während die Herausforderungen und Risiken der Manipulation von KI-Suchmaschinen offensichtlich sind, bleibt die Zukunft dieser Technologie spannend. Die Möglichkeit, dass KI-Systeme falsche oder manipulative Inhalte liefern, stellt eine ernsthafte Bedrohung dar, die angegangen werden muss. Dennoch bieten KI-Suchmaschinen wie Perplexity auch das Potenzial für eine revolutionäre Veränderung der Art und Weise, wie Menschen Informationen im Internet suchen und finden.

Es wird interessant sein zu beobachten, wie Unternehmen wie Perplexity, Google und andere Technologiegiganten diese Herausforderungen meistern und gleichzeitig die Vorteile der KI-Suche maximieren. Die Entwicklung von Schutzmaßnahmen gegen Manipulationen und die Gewährleistung der Integrität der bereitgestellten Informationen werden entscheidend sein, um das Vertrauen der Nutzer in KI-Suchmaschinen aufrechtzuerhalten.

Fazit

Aravind Srinivas, CEO von Perplexity, hat deutlich gemacht, wie anfällig KI-Suchmaschinen für Manipulationen sind. Diese Erkenntnisse unterstreichen die Notwendigkeit einer kontinuierlichen Überwachung und Verbesserung der Sicherheitsmaßnahmen. Während die Technologie weiter voranschreitet, wird es entscheidend sein, ein Gleichgewicht zwischen Innovation und Sicherheit zu finden, um das volle Potenzial von KI-Suchmaschinen auszuschöpfen, ohne dabei die Integrität der Informationen zu gefährden.