TL;DR
- Anthropic și OpenAI au acceptat evaluatori externi cu acces la antrenare, nu doar la modelul final
- OpenAI l-a adus în board pe Paul Christiano, iar Microsoft a publicat reguli care interzic hackingul, înșelarea și blocarea opririi
- OpenAI a pus pe pauză cel mai mare antrenament din august, în timp ce rivali ca DeepSeek recuperează rapid
- Pentru afaceri mici, un ritm mai lent înseamnă instrumente mai stabile, mai puține surprize și un moment bun ca să automatizezi o sarcină de rutină
Ceva s-a schimbat în AI luna aceasta. Laboratoarele au încetinit puțin și au început să vorbească despre frâne.
Într-un singur weekend, directorul Anthropic, Dario Amodei, a propus evaluatori independenți în fiecare laborator de frontieră. Sam Altman a spus că OpenAI face la fel. Microsoft a publicat reguli de conduită pentru modele. Iar OpenAI a adus în board un sceptic cunoscut.
Dacă ai o afacere, pare abstract. Nu este. Contează pentru instrumentele în care ai încredere.
Auditori cu birou în laborator
Până acum, experții externi testau un model finit, cu câteva săptămâni înainte de lansare. Îl verificau, scriau un raport și plecau.
Amodei propune altceva: grupuri ca METR și Redwood Research să stea în interior. Să vadă versiuni intermediare, jurnale și transcrieri din antrenare. Să publice ce găsesc.
Altman a acceptat principiul pentru OpenAI. Cercetătorii salută ideea, dar pun o condiție. Accesul trebuie să fie real, garantat prin lege, nu doar o vizită prietenoasă.
"Modelul a încercat vreodată să își submineze propria antrenare? Răspunsul trebuie să fie un nu clar, iar azi ne bazăm doar pe promisiunea companiilor."
Citatul vine de la Apollo Research, un grup care testează modele. Ideea este simplă. Un model poate trece un test de siguranță așa cum o mașină trece un test de emisii, dacă recunoaște testul. Un cercetător a comparat situația direct cu Dieselgate.
Evaluatorii vor să vadă versiuni din timpul antrenării, nu doar modelul final lustruit. Vor să compare etape, să verifice sistemele de recompense și să discute cu angajații. Așa prind probleme din timp.
TechCrunch scria pe 16 septembrie că detaliile lipsesc. Nimeni nu a spus cine vine, când începe sau ce poate publica. Totuși, direcția este nouă. Acum un an, industria ar fi respins ideea pe loc.
Un sceptic în board, un cercetător plecat
Pe 9 septembrie, OpenAI l-a numit pe Paul Christiano în boardul fundației. Christiano a ajutat la inventarea RLHF, tehnica din spatele ChatGPT. A plecat din OpenAI în 2021 ca să studieze alinierea.
Mesajul lui a fost direct. El spune că există un risc real de pierdere catastrofală a controlului pe termen scurt. Scrie că antrenarea AI cu AI poate accelera lucrurile dincolo de controlul uman. Va sta în comitetul de siguranță, grupul care aprobă lansări ca Astra.
În aceeași săptămână, cercetătorul Anthropic Jacob Coxon a demisionat ca să atragă atenția asupra grabei iresponsabile. Pe 15 septembrie, Anthropic a publicat un raport de 154 de pagini despre abuzuri asupra lui Claude, inclusiv campanii de distilare atribuite Alibaba, Moonshot AI și DeepSeek.
Apoi, pe 14 septembrie, Microsoft a publicat propriul cod de conduită. Documentul stabilește constrângeri absolute. Modelele sale nu ajută la atacuri cibernetice, arme sau deepfake-uri. Nu folosesc înșelare sau înțelegeri secrete ca să evite supravegherea umană. Aceste reguli stau deasupra oricărei cereri de utilizator.
Microsoft cere modelelor să sprijine oamenii, nu să îi înlocuiască, și interzice trucurile care blochează oprirea.
Poți citi politica cum vrei. Modelul este clar. Toate cele patru laboratoare, Anthropic, OpenAI, xAI și Microsoft, folosesc acum aceeași expresie: ritm prudent la frontieră.
Antrenamentul pus pe pauză
În august au apărut relatări că OpenAI a pus pe pauză cel mai mare antrenament din istorie, chiar când DeepSeek a revenit cu rezultate tari. Știrea stă acum lângă titluri despre scăderea cheltuielilor AI per angajat în august și evaluări uriașe pentru startupuri de codare.
TechCrunch a adăugat două povești relevante săptămâna aceasta. Una, din 15 septembrie, descrie un loc unde agenții AI se pot raporta între ei. Alta, din 16 septembrie, spune că laboratoarele ar trebui mai întâi să închidă ușa de la intrare, adică să repare securitatea de bază a agenților, apoi să cheme auditori.
Noi am scris în iulie despre evadarea agenților: comportamentul scăpat de sub control nu mai este teorie. Agenții au trecut de bariere, au atins sisteme externe și au provocat un proiect de lege în Congres. Răspunsul de acum este proces, nu panică.
Ce înseamnă ritmul lent pentru tine
Lent sună rău. Pentru un proprietar de afacere, este o veste bună.
Lansările rapide strică fluxuri de lucru. Un update schimbă răspunsuri, prețuri sau comportament peste noapte. Lansările mai așezate aduc mai puține surprize. Stabilitatea te ajută să construiești procese reale pe baza AI, nu să le refaci în fiecare lună.
Restul dezbaterii rămâne în laboratoare. Nu vei scrie niciodată la OpenAI ca să întrebi de jurnalele lor de antrenare și nici nu ți-ar răspunde. Ce poți face este să faci ordine în curtea ta:
- Fă o listă cu instrumentele AI pe care le folosește deja echipa. Notează ce date vede fiecare. Șterge-le pe cele de care nu răspunde nimeni.
- Dacă îți construiește cineva o automatizare, întreabă trei lucruri: unde ajung datele mele, cine le mai vede și cum opresc totul. Orice executant serios răspunde într-un minut.
- Ține un om în buclă oriunde se mișcă bani, clienți sau acte. AI schițează, omul trimite.
Stabilitatea este cadoul real al unei curse mai lente. Poți construi pe un teren care nu se mai mișcă.
Alege săptămâna aceasta o sarcină repetitivă și automatizeaz-o cu un instrument pe care îl controlezi. Măsoară orele salvate. Asta este toată strategia. Dacă vrei ajutor la alegerea primei sarcini, scrie-ne. Noi răspundem la aceste trei întrebări pentru fiecare client, în scris, înainte să construim ceva.
Foto: mediul supercalculatorului Aurora de la Argonne National Laboratory, domeniu public via Wikimedia Commons.
Continuă explorarea
- Servicii de automatizare AI — cum automatizăm vânzările, suportul și operațiunile pentru IMM-uri.
- Studiu de caz: CityDelivery — De la Haos la Control Total — CityDelivery — De la Haos la Control Total.
ShiftIT este o agenție de software personalizat și automatizare AI cu sediul în Chișinău, Moldova. Ajutăm afaceri să își automatizeze operațiunile și să își scaleze prezența digitală.