Bela kuća privodi kraju dogovor o testiranju AI modela

Ko odlučuje da li je nova verzija veštačke inteligencije bezbedna pre nego što stigne do vas? Do sada su to uglavnom radile same kompanije, a sada u priču ozbiljno ulazi i Bela kuća. Administracija je, prema izvorima, u završnoj fazi pregovora sa OpenAI, Google i Anthropic o dobrovoljnim pravilima za testiranje naprednih AI modela pre nego što izađu na tržište.

Reč je o dogovoru koji se kuvao nedeljama. Tehnički timovi tri kompanije su se tokom protekle nedelje redovno sastajali sa zvaničnicima Bele kuće, a poruka koja curi iz tih razgovora je da bi prvi standardi mogli biti objavljeni već naredne nedelje. To bi, ako se desi, bio jedan od konkretnijih poteza u dosadašnjem odnosu države i najvećih AI laboratorija.

Šta tačno pokušavaju da dogovore?

Okvir treba da uspostavi jasna merila za napredne modele i preciznije rokove za njihovo testiranje, pregled i primenu. Prevedeno na normalan jezik, cilj je da postoji dogovoreni redosled koraka pre nego što neki moćan model dobije zeleno svetlo za javnost. Umesto da svaka firma radi po svom, dobili biste zajednički jezik o tome šta znači da je model proveren.

Dva pitanja prave najviše muke. Prvo su rokovi za pregled, dakle koliko vremena testiranje sme da traje pre lansiranja, jer kompanije ne žele da ih spor proces koči u trci, a država ne želi da pregled bude puka formalnost. Drugo je definicija praga na kome se AI sistem uopšte smatra frontier modelom, to jest onim najnaprednijim koji nosi najveći rizik. Tu granicu nije lako povući, a od nje zavisi na koje modele će pravila uopšte da se odnose.

Važno je i da je reč o dobrovoljnim pravilima, ne o zakonu. To znači da kompanije pristaju da ih poštuju, ali iza njih ne stoji ista sila kao iza propisa koji prolazi kroz zakonodavni postupak. Kritičari će reći da je to previše mekano, dok industrija tvrdi da je fleksibilan dogovor jedini način da se ne uguši razvoj. Gde je istina, verovatno negde na sredini.

Zašto je ovo bitno za obične korisnike

Ovaj potez nije usamljen. On je nastavak šireg zaokreta administracije ka nadzoru nad veštačkom inteligencijom, posle ranije najave da će se testirati i modeli kompanija Google, Microsoft i xAI. Drugim rečima, država je odlučila da ne bude samo posmatrač dok se najmoćniji alati puštaju u svet.

Za vas koji ove alate koristite svakodnevno, u poslu ili iz radoznalosti, ovo dugoročno može da znači predvidljiviji i bezbedniji softver. Ako model prođe dogovoreno testiranje, manja je šansa da vam u ruke stigne alat sa krupnim, neotkrivenim manama. Loša strana je što svaki dodatni krug provere usporava izlazak novih funkcija, pa ćete možda na neke novitete čekati malo duže nego do sada.

Postoji i ono što se ne kaže naglas. Kada tri najveće laboratorije sednu za sto sa državom i same predlažu pravila, one time delom pišu uslove igre za sve manje rivale koji tek dolaze. Dogovor koji izgleda kao odgovoran korak lako može da posluži i kao zid koji čuva njihovu prednost.

Zato je pravo pitanje ko će zaista imati korist od ovih pravila, korisnici ili kompanije koje ih pišu? Šta vi mislite, da li dobrovoljni standardi mogu da zamene pravi zakon?