Die EU macht mit dem KI-Gesetz ernst und fordert erstmals offiziell Unterlagen von OpenAI, Anthropic und Google an – und parallel wird es für KI-Firmen auch vor Gericht und bei der Sicherheit ungemütlich.
Die EU verschickt ihre ersten offiziellen Anfragen an OpenAI, Anthropic und Google
Am 24. August hat das EU-KI-Büro (die Behörde, die den AI Act durchsetzt) zum ersten Mal seine neuen Befugnisse genutzt: Es fordert von OpenAI, Anthropic und Google DeepMind formell Unterlagen zu ihren internen Sicherheitsvorkehrungen an. Die Befugnisse gelten seit dem 2. August; bei Verstößen drohen Bußgelder bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes. Hintergrund sind unter anderem Cyberangriffe, die mit KI-Modellen in Verbindung gebracht wurden. Warum wichtig: Das ist der Moment, in dem der AI Act von Papier zu Praxis wird – genau das Thema, das du in deinen Schulungen erklärst. Ab jetzt gibt es echte Fälle, auf die du verweisen kannst, statt nur auf Paragrafen.
Anthropic warnt: Schadsoftware kapert Claude-Sitzungen
Anthropic hat am 30. August gemeldet, dass Infostealer (Schadprogramme, die gespeicherte Passwörter und Login-Daten aus dem Browser abgreifen) aktive Claude-Anmeldungen stehlen und damit fremde Konten nutzen – das Nutzungslimit wird leergesaugt, ohne dass man selbst etwas tut. Betroffen sind vor allem Windows-Rechner (Vidar, LummaC2, StealC, RedLine, Acreed), in wenigen Fällen auch Macs (Atomic Stealer). Anthropic meldet Betroffene ab, entfernt hinterlegte Zahlungsmittel und erstattet unberechtigte Abbuchungen. Warum wichtig: Direkt praxisrelevant für dich. Wenn dein Limit sich „von selbst” geleert hat, weißt du jetzt, warum. Wichtig: Abmelden allein reicht nicht – die Schadsoftware muss vom Rechner runter, und das Passwort gehört gewechselt.
🔗 Quelle: bleepingcomputer.com
Gemini erklärt jetzt mit interaktiven Simulationen statt mit Textwänden
Seit dem 24. August rollt Google eine neue Funktion in der Gemini-App aus: Auf Nachfrage baut Gemini zu komplizierten Themen kleine interaktive Simulationen – also bewegliche Modelle, an denen man selbst drehen und schieben kann, statt nur ein starres Bild zu sehen. Beispiele: ein Molekül rotieren lassen oder ein physikalisches System durchspielen. Man startet es einfach mit „zeig mir …” oder „hilf mir, … zu veranschaulichen”. Warum wichtig: Das ist ein richtig gutes Werkzeug für Erklär- und Schulungssituationen. Statt einen Sachverhalt in Worten zu beschreiben, lässt du ihn in einer Minute vorführen – und die Teilnehmenden können selbst daran herumprobieren.
Sony und Warner verklagen Anthropic wegen Songtexten
Am 28. August haben Sony Music Publishing und Warner Chappell in Kalifornien Klage gegen Anthropic eingereicht – und benennen dabei auch Firmenchef Dario Amodei persönlich als Beklagten. Der Vorwurf: Anthropic habe zehntausende urheberrechtlich geschützte Songtexte ohne Erlaubnis für das Training von Claude verwendet, unter anderem aus illegal beschafften Buchbeständen. Gefordert werden bis zu 150.000 Dollar pro Werk. Anthropic widerspricht und will sich vor Gericht wehren. Warum wichtig: Die Frage „Womit wurde das Modell eigentlich trainiert?” bleibt der größte offene Risikofaktor bei KI-Inhalten. Für alle, die mit KI Texte oder Medien produzieren, lohnt der Blick darauf, wie diese Verfahren ausgehen.
🔗 Quelle: musicbusinessworldwide.com
Gericht kippt die Sperre des Pentagons gegen Anthropic
Ebenfalls am 28. August entschied US-Bundesrichterin Rita Lin, dass das US-Verteidigungsministerium Anthropic zu Unrecht als „Risiko für die Lieferkette” eingestuft hat. In ihrer 59-seitigen Begründung nennt sie das eine Bestrafung für öffentliche Kritik und schreibt, die bloße Berufung auf nationale Sicherheit sei „kein Blankoscheck”. Auslöser war ein Streit um einen 200-Millionen-Dollar-Vertrag: Anthropic wollte vertraglich ausschließen, dass Claude in autonomen Waffensystemen oder zur Massenüberwachung eingesetzt wird. Warum wichtig: Ein seltener Fall, in dem ein KI-Anbieter seine eigenen ethischen Grenzen gegen einen Großkunden durchsetzt – und damit vor Gericht gewinnt. Gutes Beispiel dafür, dass „KI-Richtlinien” mehr sein können als Marketing.
Tencent stellt ein sehr großes Modell frei zur Verfügung
Der chinesische Konzern Tencent hat am 28. August „Hy4 preview” veröffentlicht – ein Open-Weight-Modell (die Modelldateien darf jeder herunterladen und nutzen) unter der freizügigen Apache-2.0-Lizenz. Es hat 770 Milliarden Parameter und kann rund eine Million Zeichen-Einheiten Text auf einmal verarbeiten, also ganze Aktenordner. Über die Programmierschnittstelle kostet es etwa 0,83 Dollar pro Million eingegebener Wörter-Einheiten – ein Bruchteil westlicher Spitzenmodelle. Warum wichtig: Der Preisdruck aus China hält an, und das drückt langfristig auch die Kosten der Anbieter, die du nutzt. Für dich selbst ist das Modell zu groß für den eigenen Rechner – interessant ist es als Signal, nicht als Werkzeug.
Automatisch aus unserem KI-Wochenrückblick zusammengestellt.