AI Express // Neueste Ausgabe // nr. 02 // Sep 13Die Synthese: Die Woche, in der die Labs um Entschleunigung baten
Sep 13freie Storys freigeschaltetvollständige Ausgabe für Abonnenten
Die Menschen, die das KI-Rennen gewinnen, haben diese Woche gebeten, es zu verlangsamen. Dario Amodei forderte, die Frontier zu drosseln; Sam Altman, Elon Musk und Demis Hassabis stellten sich hinter die Idee unabhängiger Aufsicht. Drei US-Sicherheitsbehörden nannten sechs chinesische Labs in einer Verwarnung zu Distillation. Und DeepMind kartierte still jede Ein-Buchstaben-Veränderung des menschlichen Genoms. Eine Woche voller gezogener Grenzen und angehobener Decken.
Die Woche in einem Satz
Die große Geschichte
GovernanceAm Samstag veröffentlichte Anthropic-CEO Dario Amodei den Essay „We Must Pace the Frontier” und argumentierte, KI habe sich seit dem Sommer drastisch schneller entwickelt, weil KI nun selbst beim Bau der nächsten KI-Generation hilft. Er schlägt eingebettete, unabhängige Prüfer mit Mitarbeiterzugriff in den Labs vor, gemeinsame Sicherheitsstandards demokratischer Länder und schließlich Grenzen für rekursive Selbstverbesserung. Die Reaktion kam innerhalb von Stunden: Altman sagte, OpenAI werde unabhängige Gutachter übernehmen, und bestätigte, dass OpenAI in diesem Jahr nicht an die Börse geht, mit Verweis auf Sicherheit; Musk schrieb schlicht „Dario hat recht”; Hassabis nannte die Richtung richtig, die Details jedoch ungeklärt. Anthropics eigene Zahlen zeigen die Tragweite: Seit Mai 2026 hat Claude mehr als 80% des zusammengeführten Codes geschrieben, und die Beschleunigung eines internen Experiments stieg von 3x im Mai 2025 auf 52x im April 2026. Niemand verpflichtete sich zu einem Stopp, und Googles Peyman Milanfar hielt dagegen, dass stabile, sich selbst verbessernde Systeme von Natur aus gedämpft seien: „Stabilität ist das Tempolimit.” Die Debatte wurde auf eine Frage reduziert: Was stabilisiert das System, und wer verifiziert es?
Das Kleingedruckte
JustizDer Oberste Gerichtshof von New Mexico verurteilte den Anwalt Stephen Aarons wegen Missachtung des Gerichts und verhängte eine Geldstrafe von 5.000 Dollar, nachdem ein mit ChatGPT erstellter Schriftsatz in einem Mord-Berufungsverfahren „falsche Aussagen gänzlich erfundener Zeugen” enthielt: fiktive Polizeiberichte, eine Zeugin namens Teresa Marquez, die nie existierte, und falsch zitierte Präzedenzfälle. Aarons sagte dem Gericht, er habe ein Prozessprotokoll in den Chatbot geladen und ein „wasserdichtes” Protokoll erwartet, ohne zu begreifen, wie stark KI halluzinieren kann. Das Gericht wies die Eingabe zurück, bestellte einen Pflichtverteidiger für die Berufung und leitete den Fall an die Disziplinarkommission. Die entscheidende Aussage: KI war keine Entschuldigung. Die Prüfpflicht blieb beim Anwalt, und der Mandant zahlte den Preis in Form von Verzögerung.
Nur für Abonnenten
Nationale Sicherheit
Sechs chinesische KI-Labs in einem Advisory zu industrieller Distillation benannt
gesperrtMissbrauch
Anthropics Zahlen geben der Sache echte Größe
gesperrtWissenschaft
DeepMind kartierte jede mögliche Ein-Buchstaben-Veränderung des menschlichen Genoms
gesperrtDer vollständige Brief, die Tools, das GitHub-Radar und der Kontext bleiben Abonnenten vorbehalten. Abonnenten lesen immer zuerst, vollständig.