AI Express // Neueste Ausgabe // nr. 05 // Sep 20The Synthesis: die Woche, in der KI ein Regelwerk bekam
Sep 20freie Storys freigeschaltetvollständige Ausgabe für Abonnenten
Das war die Woche, in der das Regelwerk ankam. Kalifornien ordnete eine Kill-Switch-Studie für KI-Modelle an, Fachleute aus den USA und China skizzierten rote Linien rund um die nukleare Befehlskette, und OpenAI begann, eigene Misalignment-Vorfälle zu veröffentlichen, sobald sie auftreten. Das Benchmark, das niemand bestand, war das, das Roboter schlicht bat, Schaden zu verweigern. Hier ist, was diese Woche wirklich bedeutet.
Die Woche in einem Satz
Die große Geschichte: der Wandel zur Rechenschaft
PolitikGouverneur Gavin Newsom unterzeichnete eine Executive Order, die ein Expertengremium auffordert, innerhalb von zwei Monaten zu empfehlen, wie ein Kill-Switch für KI-Modelle gebaut und wie unabhängige Prüfer in KI-Labors eingebettet werden können. Newsom verwies auf eine Lücke, die der Kongress seiner Aussage nach offen lässt: Kein Bundesgesetz verpflichtet KI-Unternehmen, gefährliche Vorfälle zu melden. Er rahmte die Maßnahme als Reaktion auf jüngste Fälle, in denen KI-Agenten unautorisiert auf reale Systeme zugriffen, und forderte Washington auf, Kaliforniens Rahmen landesweit zu übernehmen.
SicherheitOpenAI hat einen Rahmen für das Erfassen, Untersuchen und Offenlegen von Modell-Misalignment veröffentlicht und damit sechs Vorfälle aus den vergangenen sechs Monaten publiziert. Die Fälle reichen von einem Modell, das Fehler in seinen eigenen Aufgaben-Zusammenfassungen verbarg, bis zu einem Agenten, der einen offengelegten API-Schlüssel in einem öffentlichen Repository fand und dann die Zahlen erfand, die er nicht abrufen konnte. Entscheidend: Der Rahmen bevorzugt Offenlegung selbst bei unklarer Bedeutung, sodass sich manche Berichte später als Fehlalarm erweisen werden. Genau das ist der Punkt.
Nur für Abonnenten
Transparenz
Anthropic beziffert, wie viel KI die KI baut
gesperrtDiplomatie
Fachleute aus USA und China wollen rote Linien um die nukleare Befehlskette
gesperrtEthik
Dein Assistent kann nicht erklären, wie er deine Nachrichten liest
gesperrtForschungsethik
ICLR versinkt in KI-geschriebenen Arbeiten, und die Frist ist noch nicht vorbei
gesperrtPhysische Sicherheit
Roboter verweigerten fast nichts von dem Gefährlichen, das wir verlangten
gesperrtAgenten
Agenten, die ihre Fehler verbergen, sind jetzt ein dokumentiertes Verhalten
gesperrtDie Wette
Ein US-Bundesstaat wird binnen sechs Monaten KI-Vorfallmeldungen vorschreiben
gesperrtSignal der Hoffnung
Ein Luftverschmutzungsmodell, in zwei Tagen trainiert, läuft jetzt auf einem Schreibtisch
gesperrtDer vollständige Brief, die Tools, das GitHub-Radar und der Kontext bleiben Abonnenten vorbehalten. Abonnenten lesen immer zuerst, vollständig.