Meta setzt auf Künstliche Intelligenz für die Sicherheitsprüfung in sozialen Medien

Künstliche Intelligenz für die Sicherheit: Metas neue Strategie für Social Media

Meta plant, die Sicherheitsüberprüfung neuer Funktionen auf seinen Plattformen Instagram, WhatsApp und Facebook verstärkt durch Künstliche Intelligenz (KI) durchführen zu lassen. Bisher wurden diese Prüfungen hauptsächlich von menschlichen Mitarbeitern durchgeführt, die potenzielle Risiken für Nutzer und die Gesellschaft, wie Datenschutzverletzungen, Gefährdung von Minderjährigen oder die Verbreitung schädlicher Inhalte, evaluierten. Der Wechsel zur KI soll die Effizienz steigern und die Entwicklungsgeschwindigkeit neuer Features erhöhen.

Interne Dokumente, die dem US-amerikanischen Radiosender NPR vorliegen, legen nahe, dass KI-Systeme in Zukunft in etwa 90 Prozent der Fälle entscheiden sollen, ob eine Softwarefunktion potenziell gefährlich ist. Dies würde eine drastische Reduzierung der derzeit mit diesen Prüfungen beschäftigten Mitarbeiter bedeuten. Meta betont jedoch, dass "neuartige und komplexe Themen" weiterhin von menschlichen Experten beurteilt werden sollen.

Das Unternehmen argumentiert, dass die KI-Systeme nur Entscheidungen mit geringem Risiko selbstständig treffen sollen. Kritiker, darunter ehemalige und aktuelle Meta-Mitarbeiter, äußern jedoch Bedenken hinsichtlich des Gefahrenpotenzials dieses Ansatzes. Sie bezweifeln, dass KI die komplexen Auswirkungen neuer Funktionen in der realen Welt vollständig erfassen und die Reichweite potenzieller Folgen abschätzen kann.

Besonders besorgniserregend ist die geplante Anwendung der KI in sensiblen Bereichen wie dem Jugendschutz und der Bekämpfung von Falschinformationen und Gewaltinhalten. Gerade hier sehen Kritiker die Notwendigkeit menschlicher Beurteilung und Kontextualisierung.

Der verstärkte Einsatz von KI zur Inhaltsmoderation wirft auch Fragen im Hinblick auf die Einhaltung der Datenschutzbestimmungen auf, insbesondere in der Europäischen Union. Die EU hat bereits ein Verfahren gegen Meta eingeleitet, in dem unter anderem geprüft wird, ob das Unternehmen EU-Regeln im Umgang mit politischer Werbung und Nutzerbeschwerden einhält und ob es unabhängigen Forschern Zugang zu relevanten Daten gewährt.

Der zunehmende Einsatz von KI im Bereich der Social-Media-Sicherheit wirft komplexe Fragen auf, die sowohl technische als auch ethische Aspekte betreffen. Die Diskussion darüber, wie die Balance zwischen Effizienzsteigerung und dem Schutz der Nutzer gewährleistet werden kann, wird die Entwicklung der sozialen Medien in den kommenden Jahren maßgeblich prägen.

Während Meta den Fokus auf die Effizienzsteigerung legt, bleibt abzuwarten, wie sich der verstärkte Einsatz von KI auf die Sicherheit der Plattformen und das Vertrauen der Nutzer auswirken wird. Die Entwicklungen in diesem Bereich werden weiterhin kritisch beobachtet werden müssen, insbesondere im Hinblick auf die Einhaltung der Datenschutzbestimmungen und den Schutz vulnerabler Gruppen.

Bibliographie:

1. t3n.de: "Wenn die KI entscheidet: Wie Meta die Zukunft der Social-Media-Sicherheit gestalten will"
2. t3n.de: "Wenn die KI entscheidet: Wie Meta die Zukunft der Social-Media-Sicherheit gestalten will" (RSS-Feed)
3. Finanznachrichten.de: "Wenn die KI entscheidet: Wie Meta die Zukunft der Social-Media-Sicherheit gestalten will"
4. t3n.de
5. t3n.de/news/
6. t3n.de/tag/social-networks/
7. eckblick.de: "Datenschutz"
8. t3n.de/tag/facebook/
9. golem.de: "Social Media: Meta will Risikobewertungen mit KI automatisieren"