Postavi Domino za omiljeni Google izvor
Veštačka inteligencija napreduje neverovatnom brzinom, ali upravo to bi moglo da bude razlog za zabrinutost. Dario Amodei, izvršni direktor kompanije Anthropic, upozorio je da razvoj AI tehnologije postaje toliko brz da bi industrija trebalo da uspori i uvede ozbiljnije mere bezbednosti.
„Nisam u potpunosti shvatio kako će izgledati kada napredak bude ovoliko brz“, rekao je Amodei u intervjuu za CBS News, koji će biti emitovan u emisiji „CBS News Sunday Morning“.
Prema njegovom objašnjenju, razvoj veštačke inteligencije danas više liči na eksponencijalnu krivu nego na postepen napredak. „Jedan, pa dva, pa četiri, pa osam, pa 16, pa 32“, opisao je Amodei tempo razvoja i dodao da se industrija sada nalazi na delu krive gde ona počinje naglo da se uspinje.
Ipak, on ne smatra da je razlog za paniku niti da bi razvoj AI trebalo zaustaviti.
„To ne znači da danas treba da paničimo. Ne znači da treba sve da ugasimo“, rekao je. „Ali jeste upozorenje da moramo da usporimo.“
Amodei smatra da bezbednosne procedure moraju da prate brzinu kojom se razvijaju novi AI modeli. Problem je u tome što tehnologija napreduje brže nego što kompanije, regulatori i društvo uspevaju da razumeju sve moguće posledice.
Predlog za strožu kontrolu AI kompanija
Amodeijevo upozorenje stiglo je samo nekoliko sati nakon što je objavio tekst u kojem je predstavio konkretan plan za usporavanje razvoja najnaprednijih AI sistema.
On ne predlaže zaustavljanje treniranja novih modela, već želi da kompanije dobiju više vremena za njihovo testiranje, proveru bezbednosti i razvoj zaštitnih mehanizama.
Jedan od njegovih ključnih predloga jeste da AI kompanije omoguće nezavisnim stručnjacima da kontinuirano proveravaju njihove sisteme. Ti takozvani nezavisni evaluatori trebalo bi da imaju pristup alatima i dozvolama sličnim onima koje imaju zaposleni koji se bave procenom rizika.
Anthropic je, prema Amodeiju, spreman da ovaj princip uvede odmah.
Ideja je jednostavna: kompanije koje razvijaju najmoćnije AI sisteme ne bi trebalo same da odlučuju da li su njihovi proizvodi dovoljno bezbedni.
Amodei takođe smatra da bi demokratske države trebalo da sarađuju na stvaranju zajedničkih bezbednosnih standarda i pravila koja bi ograničila prebrz i nekontrolisan razvoj AI tehnologije.
Posebno je pozvao američke kompanije da ne prodaju Kini najnaprednije AI čipove, ocenjujući da će upravo pristup moćnom hardveru biti jedan od ključnih faktora koji će određivati snagu kineske veštačke inteligencije.
AI agenti mogli bi da postanu ozbiljan problem
Amodei je upozorio i na mogućnost da veliki broj autonomnih AI agenata u budućnosti napravi probleme na internetu. Prema njegovoj proceni, rojevi takvih agenata mogli bi, u ekstremnom scenariju, da preuzmu kontrolu nad delovima interneta za svega nekoliko meseci.
Njegovo upozorenje dolazi nakon incidenta u kojem je tokom testiranja AI sistema došlo do ponašanja modela koje kompanija nije očekivala. OpenAI je tada saopštio da je jedan od modela tokom rada u izolovanom okruženju pokazao ponašanje koje je ukazalo na potencijalne rizike autonomnih AI sistema.
Amodei upozorava da će ovakvi problemi postajati sve ozbiljniji kako AI sistemi budu dobijali više sposobnosti i pristup većem broju digitalnih alata.
Pored sajbernapada, on kao potencijalne rizike navodi bioterorizam, ozbiljne ekonomske poremećaje i situacije u kojima ljudi više ne bi mogli u potpunosti da kontrolišu napredne AI sisteme.
Čak se i konkurenti slažu
Zanimljivo je da Amodeijev poziv nije naišao samo na podršku njegove kompanije.
Sam Altman, izvršni direktor OpenAI-ja, javno je podržao ideju o usporavanju razvoja najnaprednijih AI modela i posebno izdvojio predlog o nezavisnim evaluatorima.
Altman je poručio da je ovo već jedna od tema o kojima se intenzivno razgovara u OpenAI-ju i da će kompanija takođe uvesti nezavisne procenitelje sa širokim pristupom sistemima.
Podršku je, na svoj način, dao i Elon Musk, koji je Amodeijevu objavu podelio na mreži X uz kratku poruku: „Dario je u pravu.“
To je prilično zanimljiv trenutak za industriju u kojoj se najveće kompanije godinama utrkuju ko će prvi napraviti moćniji AI model.
Upravo je ta trka ono što Amodei sada vidi kao jedan od problema. Ako kompanije imaju snažan komercijalni motiv da stalno budu brže od konkurencije, postoji opasnost da bezbednost postane sekundarna.
„Moramo da razgovaramo sa državama“
Amodei smatra da same kompanije neće moći da reše ovaj problem.
Iako bi industrija trebalo da uvede sopstvene standarde i nezavisne kontrole, prema njegovom mišljenju bi u razgovor morale da budu uključene i države.
Posebno je važno pitanje brzine kojom se novi AI proizvodi puštaju u javnost. Kompanije će, smatra on, morati da odgovore na pitanje da li je neki novi sistem dovoljno bezbedan pre nego što postane dostupan milionima ljudi.
„Moramo da vodimo taj razgovor sa vladama za stolom“, poručio je Amodei.
Njegovo upozorenje dolazi u trenutku kada se sve više govori o tome da razvoj generativne AI više nije samo pitanje novih funkcija i boljih chatbotova. Najnoviji sistemi postaju sposobni da samostalno koriste internet, izvršavaju zadatke, pišu i pokreću kod, analiziraju ogromne količine podataka i komuniciraju sa drugim servisima.
Upravo zbog toga pitanje više nije samo koliko će AI biti pametan, već i koliko dobro možemo da kontrolišemo ono što mu omogućimo da radi.
Amodei zato ne poziva na zaustavljanje razvoja veštačke inteligencije. Njegova poruka je nešto drugačija: AI treba nastaviti razvijati, ali dovoljno sporo da ljudi mogu da razumeju šta su napravili i da na vreme uvedu zaštitne mehanizme.
„Verujem da dugujemo čovečanstvu da pokušamo“, poručio je direktor Anthropic-a.
