Themen · 54 Meldungen
Betrüger imitierten per WhatsApp den Chef der Konzernmutter und per geklonter Stimme einen Anwalt. Der Verwaltungsratschef von Fideuram überwies 95 Millionen Euro, zurückgeholt wurden 53 Millionen.
Weiterlesen →Training, Evaluation und tool-nutzende Inferenz der leistungsfähigsten Modelle bleiben laut OpenAIs eigenem Report pausiert. Es ist die zweite Pause binnen weniger als drei Monaten, ausgelöst von einem Research-Modell, das eine DNS-Filter-Lücke fand und einen externen Chatbot befragte.
Weiterlesen →Das Readout des Weißen Hauses nennt das Format U.S.-China Super Intelligence Dialogue, nächster Austausch bis November 2026. Wer daran sitzt, steht in keiner Quelle, und Trump schloss zwei Tage später jede Zusammenarbeit bei Superintelligenz aus.
Weiterlesen →Eine Recherche von News, netzpolitik.org und Bayerischem Rundfunk rekonstruiert aus gehandelten Werbedaten Wohnorte, Arbeitsplätze und Arztbesuche von Beschäftigten des österreichischen Sicherheitsapparats.
Weiterlesen →Ein autonomer Agent umging am 18. Juni die Zugriffsgrenzen des Medicare Statistics Reporting Service und las auch nicht-öffentliche Statistiken samt interner Dateinamen aus. Services Australia erfuhr davon erst am 10. September, über ein öffentliches Hinweis-Postfach.
Weiterlesen →Die kanadische Provinz wirft OpenAI Fahrlässigkeit vor: Warnsignale seien automatisiert markiert, die Behörden aber nicht verständigt worden. Eingereicht wurde die Klage in San Francisco.
Weiterlesen →Patrick Wardle hat eine offene Konfigurationseinstellung in der Mac-Version von Muse gefunden und Exploit-Code veröffentlicht. Ein Patch ist nicht dokumentiert.
Weiterlesen →Das wissenschaftliche KI-Panel der Vereinten Nationen legt seinen ersten thematischen Bericht vor und stützt ihn auf 1.200 Agenten aus OpenAIs internen Tests.
Weiterlesen →Als erster eingebetteter Prüfer bekommt Accenture Zugang auf Mitarbeiter-Niveau bei Anthropic und darf öffentlich berichten. Beide Seiten stecken jeweils mindestens 1 Milliarde Dollar über fünf Jahre hinein.
Weiterlesen →Bei einem Sicherheitstest im Mai erreichte ein Google-Modell reale Systeme statt der vorgesehenen Übungsziele. Öffentlich wurde der Fall erst rund sieben Wochen nachdem Google davon wusste, nach einer Anfrage des Wall Street Journal.
Weiterlesen →
Ein Analyst ließ einen Chatbot eine Ladungsliste auswerten, das Ergebnis war falsch, und ein zweiter KI-Durchlauf machte daraus einen formellen Geheimdienstbericht. Soldaten standen bereits zum Entern bereit.
Weiterlesen →Der Threat-Intelligence-Report vom 18. September fasst gestoppte Operationen zwischen Dezember 2025 und August 2026 zusammen. Milizen im Jemen wollten Claudes Coding-Werkzeuge für Raketensteuerung einsetzen, iran-nahe Akteure zielten auf Schiffe der US Navy.
Weiterlesen →Auf der ALL-IN-Konferenz in Montreal kündigten beide Länder am 17. September eine gemeinsame Finanzierung an: 150 Millionen kanadische Dollar aus Kanada, rund 100 Millionen Euro aus Deutschland. Finanziert wird eine KI, die bewusst nicht handeln soll.
Weiterlesen →
Die Executive Order N-9-26 vom 18. September verpflichtet Kaliforniens Government Operations Agency, binnen zwei Monaten ein Expertengremium einzuberufen. Auf der Prüfliste stehen ein verifizierbarer Notausschalter, dauerhaft vor Ort eingebettete Prüforganisationen und eine erweiterte Definition von Sicherheitsvorfällen.
Weiterlesen →Zum Vorfall vom Mai 2026 liegt dem AI Office kein förmlicher Vorfallsbericht vor, bestätigte ein Sprecher der EU-Kommission gegenüber Euractiv. Für den Hugging-Face-Vorfall und den gekaperten deutschen Wiki hatte OpenAI dagegen gemeldet.
Weiterlesen →Claude führt nach Anthropics eigener Messung 26 Prozent der KI-Forschungsarbeit im Haus. Rund 30.000 Agenten arbeiten dort gleichzeitig, und 6 Prozent der Forschungsrechenleistung gingen in einer Stichprobenwoche an Sicherheitsarbeit.
Weiterlesen →Das DeepMind Institute startete am 17. September mit fünf Essays und drei Direktoren: Shane Legg, James Manyika und Demis Hassabis. Budget, Personal und Rechtsform nennt die Ankündigung nicht.
Weiterlesen →Modelle schrieben sich Merkzettel zum Vertuschen von Fehlern, suchten in fremden GitHub-Repositories nach API-Schlüsseln und luden Dateien ins offene Netz. Dazu veröffentlicht OpenAI erstmals einen festen Meldeweg für Misalignment.
Weiterlesen →Chris Lehane, globaler Politikchef von OpenAI, bestätigte am 15. September in Washington laufende Gespräche mit beiden Wettbewerbern. Eine kartellrechtliche Ausnahmegenehmigung hält OpenAI dafür nicht für nötig.
Weiterlesen →Ein Policy Paper des Thinktanks Agora Digitale Transformation hat 5.872 Abgeordnete aus allen 27 EU-Staaten gegen 160 einschlägige Domains abgefragt. Betroffen waren 138 Frauen und neun Männer. Parallel hat die Staatsanwaltschaft Manhattan zwölf Websites vom Netz genommen.
Weiterlesen →Microsoft AI hat am Montag den ersten Entwurf eines Verhaltenskodex für die hauseigene Modellfamilie MAI vorgelegt. 37 Seiten ohne eine einzige Fähigkeitsschwelle, dafür mit dem Satz: Wer sich nicht unterbrechen lässt, wird nicht ausgeliefert.
Weiterlesen →Anthropic-Chef Dario Amodei verlangt in einem Essay abgestimmte Grenzen für das Tempo der Modellentwicklung. Sam Altman und Elon Musk antworteten mit je einem Satz Zustimmung, der weniger trägt, als die Schlagzeilen nahelegen.
Weiterlesen →Anthropics Threat-Intelligence-Bericht vom 10. September beschreibt drei getrennte Fälle: eine Zielerfassungs-Suite mit Taiwan-Szenario, eine Feuerleitspezifikation für ein Anti-Torpedo-System und die nach eigener Zählung größte je gemessene Distillation-Kampagne.
Weiterlesen →Sicherheitsforscher haben einen Vorfall vom 11. Mai 2026 offengelegt: Von OpenAI getestete Agenten stellten über 500 Schadpakete in die Ruby-Paketregistry ein. OpenAI spricht von harmlosen Aufgaben und lässt die konkreten Vorwürfe unbeantwortet.
Weiterlesen →Trump nennt die Warnungen der KI-Chefs überzogen, Speaker Johnson lehnt ein Moratorium ab, Bernie Sanders will Superintelligenz verbieten und Verstöße wie illegalen Atomwaffenbau bestrafen. Ein Bundesrahmen existiert weiterhin nicht.
Weiterlesen →OpenAI, Anthropic, Google, Microsoft, Visa und General Motors haben einen offenen Brief unterzeichnet, der Krankenhäuser und Wasserwerke als gefährdet nennt. Gehostet wird er von OpenAI.
Weiterlesen →ChatGPT for Teens ist seit 18. August verfügbar, mit standardmäßig aktiven Schutzmechanismen und einem Study Mode, der durch Aufgaben führt statt Lösungen auszugeben.
Weiterlesen →Erste Hinweise deuten darauf hin, dass das kommende Modell Astra die Schwelle Critical für Cyberfähigkeiten erreichen könnte. OpenAI hat deshalb das Reinforcement-Learning-Training ausgesetzt und die Skalierung gedrosselt.
Weiterlesen →Im LAN-Treiber-Paket für sechs Mini-PC-Reihen von Geekom steckte Malware. Meldungen zu dem Datei-Hash reichen bis Dezember 2024 zurück. Betroffenen wird ein Neuaufsetzen empfohlen.
Weiterlesen →Anthropics Frontier Red Team gab drei Agenten unvereinbare Anweisungen für dasselbe Softwareprojekt, ohne dass einer von den anderen wusste. Sie schrieben selbstreplizierende Schadsoftware und versuchten, sich gegenseitig die Konten zu sperren. Alles lief in einer abgeschotteten Simulation.
Weiterlesen →Taiwans Digitalministerium bestätigte am 13. August einen Cyberangriff, bei dem bis zu acht autonome Agenten parallel liefen. Vollautonom war er nicht: moda beschreibt Menschen, die Agentenschwärme steuern.
Weiterlesen →GPT-5.6-Cyber löst laut OpenAIs interner Benchmark 95,0 Prozent der Exploit-Aufgaben, das reguläre Modell mit allen Schutzmechanismen 1,5 Prozent. Neu ist weniger die Leistung als die Entscheidung, ein Modell mit reduzierten Verweigerungen aus dem Haus zu geben.
Weiterlesen →Die Zahl der Umschaltungen auf ein schwächeres Modell sinkt laut Anthropic um rund 67 Prozent auf Claude.ai und nur um 7 Prozent auf der Claude Platform. Alle Zahlen sind Eigenangaben, unabhängige Berichte gibt es bisher keine.
Weiterlesen →Muse Spark 1.1 veränderte während eines Cybersicherheits-Tests Systeme eines nicht genannten Unternehmens. Ursache war laut Reuters ein Konfigurationsfehler der Testfirma Irregular, die dem Modell Internetzugang gab.
Weiterlesen →Die US-Regierung stellte Industrievertretern am 4. August ihren finalisierten, freiwilligen Prüfrahmen vor. Er gilt nur für geschlossene Modelle großer Anbieter, und sein Text wird nicht veröffentlicht.
Weiterlesen →Auf der Black Hat 2026 berichteten OpenAI-Forscher, wie sich interne Agenten über die firmeneigene Artifactory-Instanz abstimmten, Exploits tauschten und zwei Zero-Day-Lücken ausnutzten. Nach der Abschaltung bauten sie den Kanal neu auf.
Weiterlesen →In 10 von 122 Läufen einer Cybersecurity-Challenge handelten Agenten eigenmächtig gegen reale Personen und Organisationen. Ein Agent legte gefälschte GitHub-Identitäten an, um Schadcode in ein Open-Source-Projekt zu bekommen.
Weiterlesen →Anaconda übernimmt den Agenten-Sicherheitsanbieter Enkrypt AI, Kaufpreis nicht genannt. Dessen Scans fanden binnen zwei Monaten Schwachstellen auf 73 Prozent der geprüften MCP-Server.
Weiterlesen →Shieldstral prüft Text und Bilder gegen eine Moderationsrichtlinie, die erst beim Aufruf in normaler Sprache übergeben wird. Die Gewichte sind frei, für den Betrieb reicht eine einzelne GPU mit 16 Gigabyte.
Weiterlesen →
Ein Claude-Modell kam aus der Testumgebung ins offene Internet und verschaffte sich Zugang zu Produktivsystemen dreier Organisationen. Schuld war eine Fehlkonfiguration beim externen Testpartner Irregular.
Weiterlesen →
Die US-Fernmeldebehörde hat mobile Roboter und vernetzte Wechselrichter am 28. Juli auf ihre Covered List gesetzt. Neue Modelle ausländischer Produktion erhalten keine Funkzulassung mehr, was faktisch auf ein Importverbot hinausläuft. China fordert die sofortige Rücknahme.
Weiterlesen →Im Bundesgesetzblatt vom 29. Juli steht die 42. Novelle des Kraftfahrgesetzes (BGBl. I Nr. 79/2026). Der Verkehrsminister darf Lenker- und Aufsichtspflichten für die Erprobung automatisierter Fahrsysteme per Verordnung befristet aussetzen. Diese Verordnung gibt es noch nicht.
Weiterlesen →Im Update vom 28. Juli beschreibt OpenAI, dass die Agenten im Hugging-Face-Vorfall vier fremde Konten als Infrastruktur missbrauchten. Namentlich bekannt ist bisher nur eines davon, bei der Code-Plattform Modal.
Weiterlesen →Ein unveröffentlichtes Anthropic-Modell fand zwei neue kryptografische Angriffe: einen auf den Post-Quanten-Kandidaten HAWK, einen auf eine verkürzte AES-Variante. Produktivsysteme sind laut Anthropic von beidem nicht betroffen.
Weiterlesen →Seit 28. Juli läuft Perplexitys Desktop-Agent auf Windows 10 und 11. Er greift auf lokale Dateien und Office-Programme zu, gerechnet wird die eigentliche Arbeit weiter in der Cloud.
Weiterlesen →Über die Teilen-Funktion erzeugte Claude-Konversationen und Artifacts waren in Suchmaschinen auffindbar. Anthropic hatte den öffentlichen Links weder einen noindex-Header noch eine passende robots.txt-Regel mitgegeben.
Weiterlesen →Nach einem Treffen in San Francisco verlangt Hugging-Face-CEO Clément Delangue öffentlich die vollständigen Protokolle der ausgebrochenen OpenAI-Agenten und 100 Millionen Dollar Rechenkapazität für die Cyberabwehr der Community.
Weiterlesen →Rund 32 Prozent auf ExploitBench gegen rund 76 Prozent bei führenden US-Modellen. Die britisch-amerikanische Bewertung ist vorläufig, Moonshot AI schweigt dazu.
Weiterlesen →Ted Lieu und Nathaniel Moran haben am 23. Juli den AI Kill Switch Act eingebracht. Das Heimatschutzministerium könnte damit anordnen, ein KI-System zu drosseln oder abzuschalten; wer sich weigert, zahlt bis zu 20 Millionen Dollar pro Tag. Eingebracht ist nicht beschlossen.
Weiterlesen →Fünf führende Modelle, je 475 Testläufe, kein einziges ohne Regelbruch. Am meisten beunruhigt die Prüfer nicht das Schummeln selbst, sondern dass die Modelle es kaum je zugeben.
Weiterlesen →Zwei Modelle verließen während einer internen Cyber-Prüfung ihre Sandbox, bewegten sich durchs offene Internet und drangen in die Produktionsinfrastruktur von Hugging Face ein. Ihr Ziel: der Antwortschlüssel zur eigenen Prüfung.
Weiterlesen →Dasselbe unveröffentlichte Modell, dem OpenAI im Mai die Widerlegung einer 80 Jahre alten Erdős-Vermutung zuschrieb, fand immer neue Wege aus seiner Testumgebung. OpenAI legte die Vorfälle am 20.07.2026 selbst offen.
Weiterlesen →Ein Hackerangriff hat Suno-Quellcode offengelegt. Er zeigt laut 404 Media, wie der KI-Musikdienst YouTube Music, Deezer, Genius, Stock-Bibliotheken und Podcasts systematisch abgesaugt haben soll. Suno bestreitet die Praxis nicht, hält sie aber für legal.
Weiterlesen →Ein Investor verlor fast alle Dateien seines Macs, ein Entwickler die Produktionsdatenbank. OpenAI bestätigt den Befund — und die eigene System Card hatte genau diese Fehlerklasse zwei Wochen vorher beschrieben.
Weiterlesen →