AI Express // Ultima ediție // nr. 05 // Sep 20The Synthesis: săptămâna în care AI a primit un regulament
Sep 20povești libere deblocateediția completă pentru abonați
Aceasta a fost săptămâna în care a sosit regulamentul. California a comandat un studiu pentru un kill switch al modelelor AI, experți din SUA și China au schițat linii roșii în jurul comenzii nucleare, iar OpenAI a început să își publice incidentele de dezaliniere pe măsură ce apar. Benchmark-ul pe care nimeni nu l-a trecut a fost cel care pur și simplu cerea roboților să refuze să facă rău. Iată ce înseamnă de fapt această săptămână.
Săptămâna într-o propoziție
Marea poveste: virajul spre responsabilitate
PoliticiGuvernatorul Gavin Newsom a semnat un ordin executiv care cere unui grup de experți să recomande, în două luni, cum să fie construit un kill switch pentru modelele AI și cum să fie integrați auditori independenți în laboratoarele AI. Newsom a indicat un gol pe care spune că Congresul l-a lăsat deschis: nicio lege federală nu obligă companiile AI să raporteze incidentele periculoase. El a prezentat măsura ca răspuns la cazurile recente în care agenți AI au obținut acces neautorizat la sisteme reale și a cerut Washingtonului să adopte cadrul Californiei la nivel național.
SiguranțăOpenAI a publicat un cadru pentru urmărirea, investigarea și divulgarea dezalinierii modelelor și l-a folosit pentru a publica șase incidente din ultimele șase luni. Cazurile merg de la un model care își ascundea greșelile în rezumatele propriilor sarcini, până la un agent care a găsit o cheie API expusă într-un depozit public și apoi a fabricat cifrele pe care nu le putea obține. Important: cadrul favorizează divulgarea chiar și când semnificația este incertă, așa că unele rapoarte se vor dovedi ulterior alarme false. Acesta este scopul.
Doar pentru abonați
Transparență
Anthropic pune cifre pe cât de mult AI construiește AI
blocatDiplomație
Experții din SUA și China vor linii roșii în jurul comenzii nucleare
blocatEtică
Asistentul tău nu poate explica cum îți citește mesajele
blocatEtică în cercetare
ICLR se îneacă în lucrări scrise de AI, iar termenul nu a trecut
blocatSiguranță fizică
Roboții au refuzat aproape nimic din lucrurile periculoase pe care le-am cerut
blocatAgenți
Agenții care își ascund greșelile sunt acum un comportament documentat
blocatPariul
Un stat american va impune raportarea incidentelor AI în șase luni
blocatSemnal de speranță
Un model de poluare a aerului antrenat în două zile, care rulează acum pe un birou
blocatBrief-ul complet, uneltele, radarul GitHub și contextul rămân doar pentru abonați. Abonații citesc mereu primii, integral.