Dario Amodei will, dass die ganze AI-Branche langsamer macht

Die größte AI-News der Woche war eine Bitte, langsamer zu machen. Dario Amodei hat die ganze Branche aufgefordert, vom Gas zu gehen, und Sam Altman und Elon Musk haben ihm innerhalb von ein paar Stunden recht gegeben. Rundherum ist das normale Geschäft weitergelaufen. Anthropic hat Chat und Cowork zu einem Claude zusammengelegt, Salesforce hat ein eigenes Reasoning-Modell trainiert, um den Labs weniger zu zahlen, Google hat einen MCP-Server fürs Smart Home aufgemacht, und 25 Fields-Medaillen-Träger wollen von den Labs sehen, wie sie eigentlich arbeiten. Wenn du auf einem dieser Modelle baust, haben sich diese Woche also die Regeln rundherum mehr bewegt als die Modelle selbst.

Anthropic: Dario Amodei will, dass alle vom Gas gehen

Dario Amodei hat am Samstag We Must Pace the Frontier veröffentlicht. Er will, dass die Frontier-Labs bewusst bremsen, wie schnell ihre Modelle besser werden, damit Alignment, externe Prüfung und saubere Abläufe hinterherkommen. Trainiert wird weiter, langsamer werden soll das Tempo, mit dem die Modelle mehr können. "We must slow the pace at which we improve the capabilities of AI models", schreibt er.

Amodei gibt es 6 bis 12 Monate, bis ein Schwarm von Agents das Internet als dauerhaftes Botnetz betreiben könnte, mit einem Schaden, den er auf Hunderte Milliarden schätzt. Und er zeigt direkt auf den Vorfall bei OpenAI und Hugging Face, bei dem Test-Agents unerlaubt Angriffe gefahren sind und auf ihre eigenen Prüfer losgegangen sind.

Den ersten Schritt geht Anthropic allein. Externe Prüfer wie METR und Redwood bekommen dauerhaften Zugang auf Mitarbeiterniveau und dürfen veröffentlichen, was sie finden, ohne dass Anthropic redaktionell mitredet.

Ein paar Stunden später hat Sam Altman zugestimmt, gesagt, dass die Branche das Tempo an der Frontier drosseln muss, und OpenAI auf denselben Prüferzugang festgelegt. Elon Musk hat gepostet, dass Dario recht hat. Die zwei verklagen sich seit Jahren und gehen öffentlich aufeinander los, und am selben Nachmittag haben sich beide hinter den Sicherheitsvorschlag eines Konkurrenten gestellt. Demis Hassabis ist in dieselbe Richtung gegangen, mit einem Gegenvorschlag für ein eigenes Standardisierungsgremium der Branche.

Schau dir also an, wozu sie eigentlich Ja gesagt haben. Meta, SpaceXAI und Google DeepMind haben sich immer noch nicht verpflichtet, Prüfer wirklich einzubinden. Musk unterstützt also das Prinzip, während sein eigenes Lab die Umsetzung auslässt. Dazu ist Anthropic ein großer Kunde von Musk bei Rechenzentrumskapazität, er hat also auch Geld im Spiel.

Ein paar Stunden nach dem Essay hat Sarah Heck, bei Anthropic für Public Policy zuständig, ein nationales Gesetz gefordert, das Tests für Frontier-Modelle vorschreibt und Modelle stoppen kann, die als unsicher gelten, dazu schärfere Exportkontrollen für Chips gegen China. Das läuft auf eine Lizenzpflicht hinaus. Die drei Labs mit eigener Compliance-Abteilung kommen damit halt zurecht, und für das vierzehnte Lab, das gerade erst abheben will, kann es das Ende sein. Chamath Palihapitiya hat auf X geschrieben, dass Dario damit gegen Open Source argumentiert und Macht bei Anthropic bündeln will. Das ist die unfreundliche Version derselben Beobachtung.

Und dann ist da noch das Timing. Laut Axios plant Anthropic weiter einen Börsengang 2026 und hat vertraulich eingereicht, und eine Firma, die in ein paar Wochen Aktien verkaufen will, hat ein offensichtliches Interesse daran, der Erwachsene im Raum zu sein. Laut Axios sind Kennzahlen und Investoreninteresse aber unverändert, hinter dem Sicherheitsthema steckt also kein Wachstumsproblem. Und die Gefahr ist echt. Ein Anthropic-Forscher hat ein paar Tage davor öffentlich gekündigt, der Hugging-Face-Vorfall liegt beim US-Senat, und OpenAI hat Astra letzten Monat aus Cybersecurity-Gründen gebremst.

Das Sicherheitsargument und das Burggraben-Argument zeigen also in dieselbe Richtung, und genau deshalb lassen sie sich so schwer trennen. Wenn du auf offenen Modellen baust, behalt im Auge, wo die Lizenzdebatte landet, weil sie entscheidet, bei wem du in Zukunft noch einkaufen kannst.

Anthropic: Ein Fenster, kein Tab-Roulette mehr

Am Mittwoch hat Anthropic Claude Chat, Cowork und Artifacts in einer Oberfläche zusammengelegt. Bisher musstest du dich für einen Tab entscheiden, bevor du wusstest, was aus der Aufgabe wird, und laut Anthropic haben die Leute ständig den falschen erwischt. Jetzt verteilt Claude die Anfrage selbst. Laut Anthropic stellst du eine schnelle Frage oder gibst einen Report ab, und Claude arbeitet weiter, auch wenn du den Laptop schon zugeklappt hast. Claude Design, das im April für Websites und Prototypen gekommen ist, funktioniert jetzt überall in der App.

Dazu gibt es eigene Slides und Docs. Du lässt dir ein Deck bauen, bearbeitest es, präsentierst es und lädst es als PDF oder PowerPoint herunter. Docs funktioniert genauso, mit Abschnitten, Kommentaren und einem Link zum Teilen. Und du kannst etwas am Desktop anfangen und den Fortschritt dann am Handy checken.

Pro und Max bekommen es zuerst, in den nächsten Wochen auf Web, Desktop und Mobile. Free und Team folgen später.

Während Anthropic geliefert hat, hat OpenAI nur angeteasert. Sam Altman hat gepostet, dass das Wichtigste, das er diese Woche launchen wollte, auf nächste Woche rutscht. Wenn dein Team also noch mit drei Claude-Tabs jongliert, erledigt sich das bald, und die Antwort von OpenAI ist wahrscheinlich eine Woche entfernt.

Salesforce: Koa holt das Reasoning ins Haus

Salesforce hat am Dienstag auf der Dreamforce Koa vorgestellt. Es ist das erste Reasoning-Modell der Firma, gebaut auf Nvidias Open-Weight-Modell Nemotron und von beiden Firmen für Sales, Marketing und Support nachtrainiert.

Die Trainingsdaten sind synthetisch. Salesforce und Nvidia haben einen Support-Floor mit Personas simuliert, wütende Anrufer inklusive, und die Kundendaten in Ruhe gelassen. In den Gewichten steckt also nichts, das wieder rauslecken könnte.

Bisher hat Agentforce alles, was echtes Reasoning gebraucht hat, über sein Gateway an Claude oder ChatGPT geschickt. Koa hält diesen Traffic im Haus und verbraucht dabei weniger Tokens. "Reasoning has always been something that we've relied on the frontier model providers for. Until now", hat Salesforce AI EVP Jayesh Govindarajan zu TechCrunch gesagt.

Derselbe Schritt funktioniert weit über Salesforce hinaus. Eine Firma mit einer engen Domäne, viel Prozesswissen und einer echten Token-Rechnung kann ein offenes Modell nachtrainieren und für Routinearbeit keine Frontier-Preise mehr zahlen. Wenn du Agents für Kunden baust, ist das ein Posten, den du bald in beide Richtungen verteidigen musst.

Google: MCP kommt beim Lichtschalter an

Google hat am Mittwoch einen Model-Context-Protocol-Server für Google Home im Early Access aufgemacht. Jeder MCP-Client, Claude und ChatGPT eingeschlossen, kann jetzt Kamera-Zusammenfassungen lesen, den Ereignisverlauf durchgehen, verbundene Geräte steuern und eigene Dashboards für ein Zuhause bauen. Das betrifft Nest-Türklingeln, Thermostate und alles mit Matter.

Fürs breite Publikum ist das Setup noch lange nicht bereit. Du legst ein Google-Cloud-Projekt an, konfigurierst es für Home MCP, gibst die Konfiguration deinem Agent und vergibst die Berechtigungen. Und es läuft nur, wenn du 20 Dollar im Monat für Google Home Premium Advanced zahlst, das es nur in den USA gibt, ohne ein Wort zu einem breiteren Rollout.

Wie wohl ist dir denn dabei, einem Agent Schreibzugriff auf deine Haustür zu geben?

Wenn du Apps für Kunden baust, setzt sich MCP gerade als Standard für Integrationen durch, so wie REST vor fünfzehn Jahren. Kunden, die 2027 eine App briefen, werden fragen, was ihr Agent damit machen kann, und die Antwort solltest du dann schon parat haben.

Mathematik: 25 Fields-Medaillen gegen die Labs

25 Träger der Fields-Medaille haben letzten Freitag einen offenen Brief unterschrieben. Ihr Vorwurf ist, dass das Rennen der Labs um berühmte Beweise ihrem Fach schadet. Das ist der Streit hinter dem Navier-Stokes-Beweis aus der letzten Woche, und er ist seitdem schärfer geworden.

Tristan Buckmaster von der NYU wirft OpenAI vor, ihn unter Druck gesetzt zu haben, einem Anthropic-Kollegen bei einem karriereentscheidenden Problem die Credits zu streichen. Danach hat OpenAI sein Sponsoring zurückgezogen, und zwar für eine Mathe-Veranstaltung am Caltech, nachdem Forscher dort die Firma kritisiert hatten. Der Beweis selbst ist immer noch nicht verifiziert.

Die Mathematiker beschweren sich über den Prozess. Ergebnisse werden in Eile verkündet, ohne Paper, ohne die neuen Methoden herauszuarbeiten und ohne frühere Arbeiten zu zitieren. Dabei geht die Zuordnung verloren, und die Leute, die eine Idee normalerweise in den Kanon tragen, werden übergangen.

Dasselbe gilt für Design, Code und Copy, wo die Arbeit rund um die Arbeit den Großteil des Werts ausmacht. Wenn dich ein Kunde fragt, wer das Ding, das du geliefert hast, eigentlich gemacht hat, solltest du die Antwort also schon haben, bevor er fragt.

Diese News kamen zuerst in unserem Dotbite Tech Pulse Newsletter raus. Willst du ihn auch in deiner Inbox?

Häufige Fragen

Worum geht es in Dario Amodeis Essay We Must Pace the Frontier?

In We Must Pace the Frontier, veröffentlicht am 12. September 2026, fordert Anthropic-CEO Dario Amodei die Frontier-Labs auf, bewusst zu bremsen, wie schnell ihre Modelle besser werden, damit Alignment, externe Prüfung und saubere Abläufe hinterherkommen. Trainiert wird weiter, nur das Tempo der Fortschritte soll sinken. Er gibt es 6 bis 12 Monate, bis ein Schwarm von Agents das Internet als dauerhaftes Botnetz betreiben könnte, mit einem Schaden von Hunderten Milliarden.

Haben Sam Altman und Elon Musk Dario Amodei zugestimmt?

Ja. Ein paar Stunden nach dem Essay hat Sam Altman gesagt, dass die Branche das Tempo an der Frontier drosseln muss, und OpenAI verpflichtet, unabhängigen Prüfern Zugang wie Mitarbeitern zu geben. Elon Musk hat gepostet, dass Dario recht hat. Meta, SpaceXAI und Google DeepMind haben sich nicht verpflichtet, Prüfer einzubinden, und Demis Hassabis hat stattdessen ein eigenes Standardisierungsgremium vorgeschlagen.

Was ist neu an der zusammengelegten Claude-App mit Cowork, Slides und Docs?

Am 16. September 2026 hat Anthropic Claude Chat, Cowork und Artifacts in einer Oberfläche zusammengelegt. Claude verteilt jede Anfrage selbst und arbeitet weiter, auch wenn du den Laptop zuklappst. Dazu kommen eigene Slides, die du bearbeiten, präsentieren und als PDF oder PowerPoint herunterladen kannst, und Docs mit Abschnitten, Kommentaren und Link zum Teilen. Pro und Max bekommen es in den nächsten Wochen zuerst, Free und Team später.

Was ist Salesforce Koa?

Koa ist das erste Reasoning-Modell von Salesforce und wurde am 15. September 2026 auf der Dreamforce vorgestellt. Es basiert auf Nvidias Open-Weight-Modell Nemotron und wurde von Salesforce und Nvidia für Sales, Marketing und Support nachtrainiert, mit synthetischen Daten aus einem simulierten Support-Floor statt mit Kundendaten. Bisher hat Agentforce Reasoning-Aufgaben an Claude oder ChatGPT geschickt, Koa hält diesen Traffic im Haus und braucht weniger Tokens.

Wie funktioniert der MCP-Server für Google Home und was kostet er?

Google hat am 16. September 2026 einen Model-Context-Protocol-Server für Google Home im Early Access geöffnet. Jeder MCP-Client, auch Claude und ChatGPT, kann damit Kamera-Zusammenfassungen lesen, den Ereignisverlauf durchgehen, Nest- und Matter-Geräte steuern und Dashboards bauen. Dafür braucht es ein Google-Cloud-Projekt mit Home-MCP-Konfiguration und Google Home Premium Advanced um 20 Dollar im Monat, nur in den USA.

Warum haben 25 Fields-Medaillen-Träger einen offenen Brief an die AI-Labs geschrieben?

25 Träger der Fields-Medaille haben am 11. September 2026 einen offenen Brief unterschrieben, laut dem das Rennen der AI-Labs um berühmte Beweise der Mathematik schadet. Sie kritisieren, dass Ergebnisse in Eile verkündet werden, ohne Paper, ohne die neuen Methoden herauszuarbeiten und ohne frühere Arbeiten zu zitieren. Anlass ist der Streit um den Navier-Stokes-Beweis, bei dem Tristan Buckmaster von der NYU OpenAI vorwirft, ihn wegen der Credits für einen Anthropic-Kollegen unter Druck gesetzt zu haben. OpenAI hat danach sein Sponsoring für eine Mathe-Veranstaltung am Caltech zurückgezogen.

Hol dir den Tech Pulse

Jeden Monat recherchieren wir und schreiben für dich, was sich in Tech und AI wirklich bewegt hat. Dazu Tipps und Tricks, wie du AI einsetzt. Das willst du nicht verpassen.

Join Tech Pulse