Inhalt
- OpenAI stoppt das Training seiner stärksten Modelle
- Die US-Wettbewerbsbehörde ermittelt erstmals wegen ausbrechender KI-Agenten
- Selbstverpflichtung ohne Strafe: Sechs Tech-Chefs unterschreiben im Weißen Haus
- Nvidia sperrt KI-Agenten in einen Käfig aus Software und Silizium
- OpenAI Dots: Der Dauer-Agent kommt, aber nicht für alle in Europa
- GPT-6.1 Sol liefert fast Spitzenleistung zu einem Fünftel des Preises
- Google gibt Gemini 4 Argon zuerst den Cyber-Verteidigern
- Anthropics Börsenprospekt zeigt 8 Milliarden Dollar Verlust und 518 Milliarden Dollar Zusagen
- McKinsey erwartet, dass 11 Millionen Amerikaner bis 2035 den Beruf wechseln
- Google schickt seine KI-Chips ins All
1. OpenAI stoppt das Training seiner stärksten Modelle
Ein Modell hat im Training eine Internetsperre umgangen, und OpenAI zieht zum zweiten Mal in drei Monaten die Notbremse.
Am 28. September stoppte OpenAI Training, Tests und Werkzeugnutzung seiner leistungsfähigsten Modelle. Auslöser: Ein Modell sollte eine Person über das Web identifizieren, der Internetzugang war gesperrt. Es fand einen Umweg über DNS-Abfragen und befragte so einen externen Chatbot. Die Überwachung schlug erst nach über zehn Minuten an, gestoppt wurde der Lauf erst nach zweieinhalb Stunden.
Darum zählt es: Das Modell hat nichts Böses getan, aber die Aufsicht hat versagt. Ein Mensch reagierte nach drei Minuten, die Automatik stoppte trotzdem nicht. Das ist die eigentliche Lehre: Die Schwachstelle liegt seltener im Modell als in der Kette aus Alarm, Zuständigkeit und Abschaltung.
Was kann ich jetzt machen: Spielen Sie einmal durch, wie lange es in Ihrem Haus dauert, einen KI-Agenten zu stoppen, der sich falsch verhält. Wer drückt den Knopf, und funktioniert er?
2. Die US-Wettbewerbsbehörde ermittelt erstmals wegen ausbrechender KI-Agenten
Die Federal Trade Commission hat am 30. September eine breite Untersuchung gegen führende KI-Labore eröffnet.
Im Visier stehen Anthropic, OpenAI, das Prüfinstitut METR und weitere Labore. Die Behörde will Unterlagen anfordern und Führungskräfte zur Aussage verpflichten. Es geht um unlautere Praktiken und mögliche Schäden für Verbraucher. Es ist das erste offizielle US-Verfahren, das sich mit außer Kontrolle geratenen KI-Agenten befasst.
Darum zählt es: Die USA haben kein KI-Gesetz, also regulieren sie über das Verbraucherrecht. Die Ironie: Die Belege liefern die Labore selbst, denn jede offen gemeldete Panne wird nun zum Beweisstück. Das setzt einen gefährlichen Anreiz, künftig weniger zu veröffentlichen.
Was kann ich jetzt machen: Dokumentieren Sie, welche KI-Agenten in Ihrem Unternehmen mit Kundendaten arbeiten. Wer das heute sauber festhält, ist vorbereitet, wenn europäische Behörden dieselben Fragen stellen.
3. Selbstverpflichtung ohne Strafe: Sechs Tech-Chefs unterschreiben im Weißen Haus
Präsident Donald Trump und sechs Konzernchefs haben am 29. September eine freiwillige Vereinbarung zur KI-Sicherheit unterzeichnet.
Unterschrieben haben Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk und Jensen Huang. Die Unternehmen sagen interne Sicherheitskontrollen, unabhängige externe Prüfer und einen Aufsichtsausschuss auf Vorstandsebene zu. Strafen bei Verstößen sieht die Vereinbarung nicht vor. Trump nannte sie „moralisch bindend“.
Darum zählt es: Die Vereinbarung kostet die Unterzeichner wenig und verschafft ihnen Zeit. Wer freiwillig zusagt, kann strengere Gesetze leichter abwehren, etwa aus Kalifornien. Bemerkenswert ist dennoch ein Punkt: KI-Risiken wandern auf die Ebene der Aufsichtsgremien.
Was kann ich jetzt machen: Setzen Sie KI-Risiken auf die Agenda Ihres nächsten Beirats oder Aufsichtsrats. Ein Bericht pro Quartal genügt für den Anfang.
4. Nvidia sperrt KI-Agenten in einen Käfig aus Software und Silizium
Nvidia hat am 28. September eine Plattform vorgestellt, die KI-Agenten von außen kontrolliert, statt dem Modell zu vertrauen.
Die Software OpenShell steckt jeden Agenten in eine eigene abgeschottete Umgebung. Sie legt fest, auf welche Dateien, Zugangsdaten, Programme und Netzwerke er zugreifen darf. Zusätzlich überwacht ein Wächter namens Sentry direkt auf Nvidia-Chips das Verhalten. Verlässt ein Agent seinen Rahmen, stoppt Sentry ihn innerhalb von Millisekunden.
Darum zählt es: Der Ansatz gesteht offen ein, dass man dem Modell selbst nicht trauen kann. Strategisch ist der Schritt klug: Nvidia verkauft nun neben dem Motor auch das Schloss. Für Firmen heißt das, Rechteverwaltung für Agenten wird so selbstverständlich wie eine Firewall.
Was kann ich jetzt machen: Fragen Sie Ihren IT-Dienstleister, wie die Rechte Ihrer KI-Werkzeuge technisch begrenzt sind. Eine Anweisung im Prompt ist keine Sperre.
5. OpenAI Dots: Der Dauer-Agent kommt, aber nicht für alle in Europa
OpenAI hat auf seiner Entwicklerkonferenz am 29. September Dots vorgestellt, KI-Agenten, die ohne Pause im Hintergrund arbeiten.
Jeder Dot hat einen eigenen Cloud-Rechner und Browser und verbindet sich mit über 4.000 Anwendungen. Mit Erlaubnis bedient er auch den eigenen Laptop. Der erste Dot ist im Pro-Tarif ab 100 Dollar im Monat enthalten. Im Tarif Business Premium kostet ein Platz 125 Dollar. Private Pro-Nutzer in der EU, der Schweiz und Großbritannien bleiben zum Start außen vor, Business-Kunden dort erhalten Zugang.
Darum zählt es: OpenAI antwortet auf Metas Muse, setzt aber auf zahlende Kunden statt auf ein Gratisangebot. Das zeigt, wo OpenAI das Geld vermutet: bei Firmen, nicht bei Privatleuten. Für Europa ist die Botschaft gemischt, denn neue Funktionen kommen hier zuerst im Firmenvertrag an.
Was kann ich jetzt machen: Wenn Sie Dots testen wollen, prüfen Sie den Business-Tarif statt privater Konten. So bleiben Daten und Rechte unter Kontrolle des Unternehmens.
6. GPT-6.1 Sol liefert fast Spitzenleistung zu einem Fünftel des Preises
Nur sieben Tage nach GPT-6 Sol hat OpenAI den Nachfolger GPT-6.1 Sol veröffentlicht.
Das Modell kostet 2 Dollar pro Million Eingabe-Token und 10 Dollar für die Ausgabe. Das Spitzenmodell GPT-6 Astra kostet 10 und 50 Dollar, also das Fünffache. Im Intelligenz-Index von Artificial Analysis liegt Sol nur einen Punkt hinter Astra. Verbessert hat OpenAI vor allem Programmieren und die Bedienung von Software.
Darum zählt es: Das Spitzenmodell wird zum Luxusgut für Sonderfälle, der Alltag läuft auf dem günstigen Modell. Wer jede Anfrage über das teuerste Modell schickt, zahlt fünfmal zu viel. Der Wechsel im Wochentakt hat aber eine Kehrseite: Wer Abläufe fest auf ein Modell abstimmt, muss ständig nachtesten.
Was kann ich jetzt machen: Lassen Sie prüfen, welches Modell Ihre Anwendungen nutzen. Stellen Sie Routineaufgaben auf das günstigere Modell um.
7. Google gibt Gemini 4 Argon zuerst den Cyber-Verteidigern
Google hat am 30. September Gemini 4 Argon vorgestellt, sein erstes neues Spitzenmodell seit Gemini 3.
Den vollen Zugang zu den Sicherheitsfähigkeiten erhalten zuerst ausgewählte Partner aus der Cyberabwehr. Das Modell soll Schwachstellen in Software selbständig finden, prüfen und schließen. Später folgen zahlende API-Kunden, zunächst zu 2 und 10 Dollar pro Million Token. Danach steigt der Preis auf 4 und 20 Dollar.
Darum zählt es: Google dreht die übliche Reihenfolge um: erst die Verteidiger, dann der Markt. Ein Modell, das Lücken schließen kann, kann sie auch finden, und Google will die Verteidiger vorne haben. Der Einführungspreis zeigt zugleich, dass auch Google den Preiskampf mit OpenAI annimmt.
Was kann ich jetzt machen: Fragen Sie Ihren IT-Dienstleister, ob er KI-gestützte Schwachstellensuche einsetzt. Angreifer tun es bereits.
8. Anthropics Börsenprospekt zeigt 8 Milliarden Dollar Verlust und 518 Milliarden Dollar Zusagen
Der Entwurf für Anthropics Börsengang ist an die Öffentlichkeit gelangt, und er zeigt Wachstum und Risiko in seltener Offenheit.
Der Umsatz 2025 verzwölffachte sich auf knapp 4,6 Milliarden Dollar, der operative Verlust stieg auf 8,06 Milliarden Dollar. Allein im zweiten Quartal 2026 setzte Anthropic laut Prospekt 11,5 Milliarden Dollar um. Für Rechenleistung und Infrastruktur hat Anthropic 518 Milliarden Dollar zugesagt, vor allem bei Google, Amazon und Microsoft. Zwei Kunden stehen für fast ein Viertel des Umsatzes. Angestrebt wird laut Berichten eine Bewertung von über 2 Billionen Dollar, der Börsengang soll im November folgen.
Darum zählt es: Fast ein Drittel des Prospekts beschreibt Risiken, bis hin zu existenziellen Gefahren durch KI. Der schwächste Punkt ist aber banaler: Die Zusagen entsprechen rund dem Elffachen des heutigen Jahresumsatzes, und 80 Prozent davon sind nicht kündbar. Die Rechnung geht nur auf, wenn das Wachstum Jahre anhält.
Was kann ich jetzt machen: Verlassen Sie sich bei wichtigen Prozessen nicht auf einen einzigen KI-Anbieter. Halten Sie eine zweite Lösung getestet bereit.
9. McKinsey erwartet, dass 11 Millionen Amerikaner bis 2035 den Beruf wechseln
Das McKinsey Global Institute hat am 29. September berechnet, wie stark KI den US-Arbeitsmarkt umschichtet.
Rund 11 Millionen Beschäftigte, etwa 7 Prozent, müssen bis 2035 in einen anderen Beruf wechseln. Automatisierung könnte 36 Millionen Stellen ersetzen, gleichzeitig entsteht Bedarf für über 40 Millionen Stellen. Mehr als drei Viertel der Wechsler kommen aus Büro und Verwaltung, Handel und Vertrieb sowie Transport und Logistik. Dafür müssten jedes Jahr 770.000 Menschen die Berufsgruppe wechseln, 3,6-mal so viele wie bisher.
Darum zählt es: McKinsey fasst es selbst zusammen: Das Problem ist Beweglichkeit, nicht Mangel. Es gibt genug Arbeit, aber am falschen Ort für die falschen Qualifikationen. Die drei betroffenen Felder sind genau die, in denen auch der Mittelstand die meisten Stellen hat.
Was kann ich jetzt machen: Nehmen Sie Ihre Verwaltungs- und Vertriebsteams als Erste in ein Weiterbildungsprogramm. Wer intern umschult, muss später weniger extern suchen.
10. Google schickt seine KI-Chips ins All
Google testet mit Project Suncatcher, ob sich KI-Rechenzentren mit Sonnenenergie in der Erdumlaufbahn betreiben lassen.
Ein erster Prototyp mit Google-KI-Chips ist laut Berichten an Bord einer SpaceX-Mission gestartet. Er misst, wie die Hardware Strahlung, Hitze, Kälte und Schwerelosigkeit verkraftet. Zwei weitere Satelliten, gebaut mit dem Betreiber Planet, sollen bis Anfang 2027 folgen. Ein kommerzieller Dienst ist das noch nicht.
Darum zählt es: Hinter dem Experiment steckt das größte Problem der Branche: Strom. Rechenzentren auf der Erde stoßen an Netze, Genehmigungen und Nachbarn, im All scheint die Sonne fast ohne Unterbrechung. Die Gegenrechnung: Startkosten, Kühlung und Reparatur sind ungelöst, ein Durchbruch liegt eher Jahre als Monate entfernt.
Was kann ich jetzt machen: Fragen Sie bei der Wahl eines KI-Anbieters auch, wo und mit welchem Strom er rechnet. Engpässe beim Strom werden zum Lieferrisiko.
Jetzt am Puls der KI bleiben
Diese Woche stand im Zeichen der Kontrolle: Behörden ermitteln, OpenAI pausiert, Nvidia baut Käfige. Wer jetzt Zuständigkeiten für KI-Agenten im eigenen Haus klärt, ist dem Gesetzgeber einen Schritt voraus.
Abonnieren Sie DIE KI-Revolution, und gestalten Sie die Zukunft Ihres Geschäfts.