Pismo protiv umjetne inteligencije

   Šefovi bezbrojnih tehnoloških korporacija zajedno s znanstvenicima su zajedno napisali pismo protiv umjetne inteligencije. To pismo mi sada u cijelosti prenosima, a potom ćemo navesti tehnološko objašnjenje.

                 Pauzirajmo veliki eksperiment s umjetnom inteligencijom

„Sustavi umjetne inteligencije s ljudsko-konkurentnom inteligencijom mogu predstavljati duboke rizike za društvo i čovječanstvo, kao što nam je pokazalo opsežno istraživanje priznato od strane vrhunskih laboratorija za umjetnu inteligenciju. Kao što je navedeno u široko prihvaćenim Asilomar AI principima, napredna umjetna inteligencija mogla bi predstavljati duboku promjenu u povijesti života na Zemlji, te bi je trebalo planirati i upravljati s odgovarajućom pažnjom i resursima. Nažalost, ova razina planiranja i upravljanja se ne događa pošto smo posljednjih mjeseci vidjeli laboratorije umjetne inteligencije zaključane u nekontroliranoj utrci za razvojem i uvođenjem sve moćnijih digitalnih umova koje nitko – čak ni njihovi kreatori – ne mogu razumjeti, predvidjeti ili pouzdano kontrolirati.

  Suvremeni AI sustavi sada postaju konkurentni ljudima u općim zadacima i moramo se zapitati: Trebamo li dopustiti strojevima da preplave naše informacijske kanale propagandom i neistinama? Trebamo li automatizirati sve poslove, uključujući i one koji nas vesele ? Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti? Trebamo li riskirati gubitak kontrole nad našom civilizacijom? Takve se odluke ne smiju prenijeti na neizabrane tehnološke vođe. Snažne sustave umjetne inteligencije treba razvijati tek kada budemo sigurni da će njihovi učinci biti pozitivni i da će se njihovim rizicima moći upravljati. Ovo povjerenje mora biti dobro opravdano i povećavati se s veličinom potencijalnih učinaka sustava. Nedavna izjava OpenAI-ja u vezi s umjetnom općom inteligencijom, navodi da “U nekom trenutku može biti važno dobiti neovisnu reviziju prije nego što započnete s obukom budućih sustava, a za najnaprednije napore pristati na ograničenje stope rasta računala koje se koristi za stvaranje novih modeli.” Slažemo se. Ta točka je sada.

  U skladu s tim pozivamo sve laboratorije za umjetnu inteligenciju da odmah zaustave na barem 6 mjeseci obuke AI sustava moćnijih od GPT-4. Ta bi pauza trebala biti javna i provjerljiva te uključivati sve ključne aktere. Ako se takva pauza ne može brzo donijeti, vlade bi trebale uskočiti i uvesti moratorij. Laboratoriji umjetne inteligencije i neovisni stručnjaci trebali bi iskoristiti ovu stanku za zajednički razvoj i implementaciju skupa zajedničkih sigurnosnih protokola za napredni dizajn i razvoj umjetne inteligencije koji su strogo revidirani i nadzirani od strane neovisnih vanjskih stručnjaka. Ti bi protokoli trebali osigurati da su sustavi koji ih se pridržavaju sigurni izvan razumne sumnje. To ne znači pauzu u razvoju umjetne inteligencije općenito, samo povlačenje iz opasne utrke ka sve većim i nepredvidljivim modelima crnih kutija s novim mogućnostima.

  Istraživanje i razvoj umjetne inteligencije trebalo bi se preusmjeriti na to da današnje moćne, najsuvremenije sustave učinimo točnijim, sigurnijim, razumljivijim, transparentnijim, robusnijim, usklađenijim, pouzdanijim i odanijim.

  Paralelno, programeri umjetne inteligencije moraju surađivati s kreatorima politika kako bi dramatično ubrzali razvoj robusnih sustava upravljanja umjetnom inteligencijom. Oni bi trebali uključivati najmanje: nova i sposobna regulatorna tijela posvećena umjetnoj inteligenciji; nadzor i praćenje visoko sposobnih AI sustava i velikih skupova računalnih sposobnosti; sustavi provenijencije i vodenih žigova koji pomažu u razlikovanju stvarnog od sintetičkog i za praćenje curenja modela; robustan ekosustav revizije i certificiranja; odgovornost za štetu prouzročenu umjetnom inteligencijom; snažno javno financiranje tehničkog sigurnosnog istraživanja umjetne inteligencije; i institucije s dobrim resursima za suočavanje s dramatičnim ekonomskim i političkim poremećajima (osobito u demokraciji) koje će umjetna inteligencija prouzročiti.

  Čovječanstvo može uživati u cvjetajućoj budućnosti uz AI. Nakon što smo uspjeli stvoriti moćne AI sustave, sada možemo uživati u “AI ljetu” u kojem ubiremo plodove, projektiramo te sustave za jasnu dobrobit svih i dajemo društvu priliku da se prilagodi. Društvo je zaustavilo druge tehnologije s potencijalno katastrofalnim učincima. Možemo to učiniti ovdje. Uživajmo u dugom AI ljetu, a ne srljajmo nepripremljeni u jesen.

  Potpisnici ovog zajedničkog pisma su:

  Steve Woznik (Apple osnivač), Elon Musk (Tesla & Twitter), Jaan Tallinn (Skype osnivač), Evan Sharp (Pinterest osnivač), Yuval Noah Harari (autor i profesor) i puno drugih u javnosti manje znanih, ali ne i manje važnih osoba. Dovoljno je reći da se među potpisnicima nalaze stručnjaci za umjetnu AI s najvažnijih fakulteta i članovi Kineske akademije znanosti !?

  Sada je na kraju red navesti tehnološka objašnjenja. Na ovom portalu smo u siječnju bili objavili razgovor s umjetnom inteligencijom. Riječ je bila o umjetnoj inteligenciji koja se nalazi chat.open.ai internet adresi. Tehnološki govoreći riječ je o umjetnoj inteligenciji razine GPT-4 čije korištenje potpisnici podržavaju.

  S druge strane umjetna inteligencija razine GPT-5 bi se trebala razviti do kraja ove godine. Riječ je o AI koji se neće razlikovati od običnog čovjeka,a istovremeno će imati neograničeno veće mogućnosti obrade podataka. To sve znači da će AI razine GPT-5 moći imati vlastite motivacije i raditi puno poslova bolje nego ljudi !?