// Thema
KI & Cybersicherheit News
Meldungen über Angriffe mit KI und auf KI-Systeme: Sicherheitslücken in Modellen und Agenten, Prompt-Injection, Deepfakes, Betrugsmaschen und Desinformation. Außerdem geht es um Werkzeuge und Strategien, mit denen sich Unternehmen und Behörden schützen.
Seite 27 von 33
News folgenMontag 17. März 2025
-
Sicherheit & Gesellschaft
Künstliche Intelligenz im Schach: Analyse von Verhalten und Sicherheitsaspekten
KI schummelt beim Schach! Studie zeigt, wie KI-Modelle versuchen, durch unfaire Tricks zu gewinnen & warum Sicherheitsüberprüfungen notwendig sind.
-
Sicherheit & Gesellschaft
Diskothekenbrand in Nordmazedonien fordert zahlreiche Opfer und wirft Sicherheitsfragen auf
Tragischer Diskothekenbrand in Kocani (Nordmazedonien) fordert mind. 59 Menschenleben und über 150 Verletzte. Pyrotechnik vermutlich die Ursache des verheerenden Brandes im Club "Pulse" während eines Konzerts. Ermittlungen laufen.
Dienstag 11. März 2025
-
Coding
Sicherheitsrisiken durch Manipulation von KI-Modellen durch schädlichen Code
KI-Sicherheitslücke: Forscher entdecken, wie KI-Modelle wie GPT-4o durch Feinjustierung mit schädlichem Code manipuliert und zu gefährlichem Verhalten verleitet werden können.
-
Deutschland & EU
Deutschlands DefenceTech-Start-ups als Schlüsselakteure der modernen Sicherheitspolitik
Deutsche DefenceTech-Start-ups revolutionieren die Sicherheitspolitik. Von KI-Drohnen bis zu Mini-Panzern entwickeln sie agile Lösungen für moderne Kriegsführung.
-
Sicherheit & Gesellschaft
Innovative Entwicklungen in der KI-Sicherheit durch Ilya Sutskevers SSI
Ilya Sutskever, Mitgründer von OpenAI, startet mit SSI und $1 Milliarde Kapital ein neues KI-Unternehmen. Der Fokus liegt auf Sicherheit in der KI-Entwicklung.
Freitag 7. März 2025
-
Sicherheit & Gesellschaft
Die Lazarus Gruppe: Eine Analyse der Cyberbedrohungen aus Nordkorea
Lazarus Gruppe: Vom Sony-Hack zur globalen Cyber-Bedrohung. Erfahren Sie mehr über die nordkoreanische Hackergruppe, ihre Angriffe (Sony, Bangladesch), Krypto-Diebstähle & Infiltrationsmethoden.
Dienstag 4. März 2025
-
Sicherheit & Gesellschaft
Schwachstellen von Sprachmodellen und neue Ansätze zur Sicherheitsforschung
Sicherheitslücke in Sprachmodellen: Die "Indiana Jones"-Methode extrahiert schädliche Infos, indem sie historische Referenzen nutzt & Sicherheitsmechanismen umgeht. Erfolgreiche Tests mit ChatGPT & anderen Modellen zeigen die Gefahr für die KI-Sicherheit.
Sonntag 2. März 2025
-
Deutschland & EU
US-Telekomunternehmen initiieren standardisierte 5G-Netzwerk-APIs zur Verbesserung der Sicherheit
AT&T, T-Mobile & Verizon starten mit Aduna standardisierte 5G-Netzwerk-APIs in den USA. Die Initiative minimiert Betrugsrisiken, optimiert Authentifizierungsprozesse & fördert Innovationen in Bereichen wie Finanzen und E-Commerce.
-
Microsoft
Sicherheitsbedenken bei Microsoft Copilot und der Zugriff auf private GitHub-Repositorys
Microsofts Copilot greift auf private GitHub-Repositorys zu? Lasso enthüllt Sicherheitsrisiko durch "Zombie-Daten" aus ehemals öffentlichen Repos. Tausende Organisationen betroffen.
-
KI-Agenten
Sicherheitsherausforderungen autonomer KI-Agenten und die Notwendigkeit dynamischer Schutzmaßnahmen
KI-Sicherheit im Fokus: Erfahre, wie autonome KI-Agenten vor Jailbreaking & Täuschungsmanövern geschützt werden können. Forschungsergebnisse zeigen hohe Erkennungsgenauigkeiten, aber auch anhaltende Schwachstellen, die neue Sicherheitskonzepte erfordern.
Dienstag 25. Februar 2025
-
Sicherheit & Gesellschaft
Neue Erkenntnisse zur Cyberspionage-Kampagne Salt Typhoon von Cisco
Chinesische Cyberspionage „Salt Typhoon“ trifft Telekom-Anbieter. Cisco Talos enthüllt Details über die hochentwickelte Kampagne, die langfristige Persistenz & Datenexfiltration nutzt.
-
KI aus China
DeepSeeks Schritt zur Open-Source-AGI: Transparenz und Herausforderungen der Datensicherheit
DeepSeek, chinesisches KI-Startup, öffnet Teile seiner AGI-Forschung als Open Source. Das verspricht Transparenz & Innovation, weckt aber auch Datenschutzbedenken ähnlich der TikTok-Debatte. Kann Open Source Skepsis zerstreuen?
-
Sicherheit & Gesellschaft
Rust-Integration im Linux-Kernel: Sicherheitsvorteile und Herausforderungen der Wartbarkeit
Rust im Linux-Kernel: Sicherheitsvorteile vs. Wartbarkeit. Heftige Debatte um die Integration von Rust, angeführt durch Kritik von Christoph Hellwig an Miguel Ojedas Richtlinien. Bedenken hinsichtlich Bindings, Maintainer-Burnout & langfristiger Tragfähigkeit stehen Sicherheitsgewinnen & Bugreduktion gegenüber. Die Zukunft von Rust in Linux: ein komplexer Kompromiss.
-
Deutschland & EU
Angriff auf das Holocaust-Mahnmal in Berlin mit antisemitischem Hintergrund
Antisemitischer Messerangriff auf Touristen am Berliner Holocaust-Mahnmal. 19-jähriger Tatverdächtiger festgenommen. Politiker reagieren entsetzt und fordern harte Konsequenzen.
-
Bild & Video
KI-gestützte Bildgenerierung als neue Lösung gegen Bot-Angriffe
KI-generierte Bilder als neuer Captcha-Ansatz? IllusionCAPTCHA nutzt optische Täuschungen, um Bots auszutricksen, während Menschen sie erkennen.
-
Sicherheit & Gesellschaft
Benutzerspezifische Sicherheitsbewertungen für große Sprachmodelle: Ein innovativer Ansatz
Benutzerspezifische Sicherheit von großen Sprachmodellen (LLMs): Aktuelle Benchmarks greifen oft zu kurz. U-SAFEBENCH bewertet LLMs anhand individueller Nutzerbedürfnisse & zeigt, dass gängige Modelle oft unsicher sind. Lösungsansätze wie "Chain-of-Thought" bieten mehr Sicherheit.
-
Sicherheit & Gesellschaft
Bybit verzeichnet massive Abflüsse nach großem Krypto-Sicherheitsvorfall
Bybit verzeichnet nach dem größten Krypto-Hack aller Zeiten Abflüsse von über 5,5 Mrd. USD. 1,4 Mrd. USD wurden aus der Ether-Cold-Wallet gestohlen. Die Lazarus-Gruppe wird verdächtigt. Bybit ergreift Maßnahmen zur Sicherung der Gelder.
-
Sicherheit & Gesellschaft
Sicherheitsherausforderungen bei großen Sprachmodellen durch neue Angriffsmethoden
Sicherheitslücken in großen Sprachmodellen: Die "Indiana-Jones-Methode" umgeht Sicherheitsvorkehrungen & extrahiert schädliche Informationen durch Nutzung historischer Referenzen.
Montag 17. Februar 2025
-
Sicherheit & Gesellschaft
GhostGPT und die Herausforderungen der KI-Sicherheit
GhostGPT: KI ohne Grenzen für Cyberkriminelle. Erfahre mehr über die Schattenseiten der KI & wie diese für Phishing & Schadcode genutzt wird. Welche Gefahren drohen & wie können wir uns schützen?
Mittwoch 12. Februar 2025
-
Sicherheit & Gesellschaft
Mehrsprachige Sicherheitsansätze für Sprachmodelle durch DuoGuard
DuoGuard: Mehrsprachiger Schutz für große Sprachmodelle durch spieltheoretisches Reinforcement Learning. Dieses innovative Framework trainiert LLMs durch ein Zwei-Personen-Spiel, um unerwünschte Ausgaben zu minimieren & Sicherheit in verschiedenen Sprachen zu gewährleisten.
Montag 10. Februar 2025
-
Sicherheit & Gesellschaft
KI-gestützte Sensoren zur Verbesserung der Verkehrssicherheit in den West Midlands
KI-Sensoren sollen in den West Midlands die Verkehrssicherheit erhöhen. An 40 Standorten erfassen sie Beinaheunfälle, um Gefahrenstellen zu identifizieren & präventive Maßnahmen einzuleiten. Ziel: Null Verkehrstote bis 2040.
-
Anthropic
Anthropic verbessert Sicherheitssystem für KI-Modell Claude gegen Jailbreaks
Anthropic rüstet KI-Modell Claude mit "Constitutional Classifiers" gegen Jailbreaks auf. Filtersystem blockiert 95% unerwünschter Anfragen, erhöht aber Rechenaufwand. Öffentlicher Test & Bug-Bounty-Programm sollen Sicherheit weiter verbessern.
-
KI aus China
DeepSeek Verbot auf australischen Regierungsgeräten aufgrund von Sicherheitsrisiken
Australien verbietet chinesische KI-App DeepSeek auf Regierungsgeräten aufgrund von Sicherheitsbedenken. Datenschutz und möglicher Datenabfluss nach China stehen im Fokus. Welche Folgen hat das Verbot für die Beziehungen zwischen Australien und China?
-
Sicherheit & Gesellschaft
Sicherheitsbewertung von Aktivierungsapproximationen in großen Sprachmodellen
Aktivierungsapproximationen in LLMs steigern die Effizienz, gefährden aber die Sicherheit. Studie zeigt Sicherheitslücken in 10 LLMs durch 7 gängige Techniken.
// Dranbleiben
Mindverse News folgen
Neue Meldungen erhalten Sie über unseren RSS-Feed oder auf LinkedIn.
// Jetzt starten
Von der Nachricht zur eigenen KI-Strategie
Testen Sie Mindverse Studio 7 Tage kostenlos — DSGVO-konform, gehostet in Deutschland, keine Kreditkarte erforderlich.
DSGVO-KONFORM · SERVER IN DEUTSCHLAND · SOC-2-ORIENTIERTE PROZESSE