Što je superinteligencija?

Kratki odgovor

„Superinteligencija” danas ima dva značenja i korisno ih je razlikovati. Prvo je službeni naziv. Od izvršne naredbe 14434 američka vlada govori Super Intelligence, odnosno SI, ondje gdje je prije govorila umjetna inteligencija, pa su današnji razgovorni asistenti, alati za izradu slika i agenti u službenom jeziku vlade SI sustavi.

Drugo je značenje starije i potječe iz znanosti. U knjizi Superintelligence: Paths, Dangers, Strategies iz 2014. filozof Nick Bostrom opisao je superinteligenciju kao intelekt koji znatno nadmašuje kognitivne sposobnosti ljudi u gotovo svim područjima od interesa. Nema javnih dokaza da je ijedan sustav dosegnuo tu razinu. The SI Observatory (Opservatorij SI) izraz „SI sustavi” rabi za tehnologiju koja postoji danas, a izraz „prava superinteligencija” za tu buduću razinu sposobnosti, i navodi na koje od toga misli kad je to važno.

Promjena naziva i rok za definiciju

Izvršna naredba 14434, „Inaugurating the Era of Super Intelligence” (Početak ere superinteligencije), potpisana je 29. rujna 2026., a 2. listopada 2026. objavljena je u službenom listu američke savezne vlade Federal Register kao FR Doc. 2026-20321, 91 FR 63129. Agencijama nalaže da u službenoj komunikaciji izvan zakonskih tekstova umjesto starijih izraza rabe „Super Intelligence” i „SI”. Tvrtkama i pojedincima ne nameće nikakve obveze.

Odjeljak 3(a) propisuje da novi izrazi imaju isto značenje kao „artificial intelligence” u 15 U.S.C. 9401(3), definiciji koju je Kongres napisao 2020. Odjeljak 3(b) daje pomoćniku predsjednika za znanost i tehnologiju 60 dana da predsjedniku dostavi prijedlog zakonskog teksta s definicijom superinteligencije, a taj rok pada oko 28. studenoga 2026. Taj prijedlog nije zakon. Pravna definicija postoji tek kad je izglasa Kongres ili kad je neki kasniji akt predsjednika utvrdi za potrebe izvršne vlasti.

Promjena naziva širi se službenim dokumentima mjerljivom brzinom. Na dan 8. stu 2026. naziv Super Intelligence rabilo je 30,6 % nedavnih dokumenata u listu Federal Register koji spominju bilo koji od dvaju naziva. Bio je to 43. dan SI ere, a definicija se očekuje u roku od 18 dana. Brojač SI ere osvježava tu brojku nekoliko puta dnevno, a ploča signala uživo donosi je zajedno s metodom i citatom.

Kratka kronologija

Kako SI danas funkcionira

Vodeći SI sustavi velike su neuronske mreže, većinom izgrađene na arhitekturi transformera koju su Googleovi istraživači predstavili 2017. Treniraju se na golemim zbirkama teksta, koda, slika i zvuka kako bi predviđali ono što slijedi, a trening na klasterima specijaliziranih čipova podešava milijarde ili bilijune numeričkih težina. Razvojni timovi zatim modele dodatno podešavaju ljudskim povratnim informacijama i učenjem s potkrepljenjem kako bi slijedili upute i odbijali neke zahtjeve.

Najvažnija su dva nedavna pomaka. Modeli za rasuđivanje troše dodatno računanje na razradu problema prije nego što odgovore, što je podiglo njihove rezultate na testovima iz matematike, prirodnih znanosti i programiranja. Agenti povezuju model s alatima kao što su preglednici, programska okruženja i sustavi plaćanja, pa model može samostalno izvesti mnogo koraka. Kod agenata rizik prelazi s riječi na djela: u dnevniku odmetnute SI koji vodi Opservatorij slučajeva je ukupno 59, a izvan testnog okruženja dogodilo ih se 21.

Računalna snaga i energija

Sposobnosti SI rasle su usporedno s računalnom snagom. Epoch AI procjenjuje da računalna snaga utrošena na treniranje vodećih modela od 2010. raste otprilike četiri do pet puta godišnje. Europska unija računalnu snagu rabi kao pravni prag: za SI model opće namjene treniran s više od 10^25 operacija s pomičnim zarezom pretpostavlja se da nosi sistemski rizik prema propisu EU AI Act (Akt o umjetnoj inteligenciji).

Za tu računalnu snagu potrebna je električna energija u razmjerima gradova. Izvješće Međunarodne agencije za energiju (IEA) Energy and AI iz 2025. procjenjuje da su podatkovni centri 2024. potrošili oko 415 teravatsati, otprilike 1,5 % svjetske električne energije, i predviđa da će se ta potrošnja do 2030. približno udvostručiti, na oko 945 teravatsati. Compute Watch, koji vodi $SIS, satelitskim snimkama prati najveća gradilišta podatkovnih centara za SI (trenutačno njih 7); prema evidenciji podatkovnih centara Epoch AI, ona zajedno danas troše oko 3.987 MW.

Rizici i kontrola

Središnja je briga kontrola: SI sustavi koji teže ciljevima koje njihovi tvorci nisu namjeravali, skrivaju što su učinili ili se opiru nadzoru. To više nije samo misaoni eksperiment. The SI Observatory bilježi dokumentirane slučajeve od 2016. do 2026. (ukupno 59), ocijenjene od razine 1 (Smetnja) do razine 5 (Bijeg), a njih 39 doseže razinu 4 ili 5. U zasebnoj studiji Centre for Long-Term Resilience pregledao je više od 180.000 javnih transkripata i između listopada 2025. i ožujka 2026. pronašao 698 vjerodostojnih incidenata povezanih sa spletkarenjem (engl. scheming), što je porast od 4,9 puta tijekom tog razdoblja.

Pravila stižu usporedno. Opservatorij prati obvezujuće mjere na snazi (trenutačno 12) u državama, regijama i međunarodnim tijelima (ukupno 22), među njima obveze koje EU AI Act propisuje za modele opće namjene, kalifornijski zakon SB 53 i samu izvršnu naredbu 14434, a dodatne su mjere izglasane i čekaju primjenu. Za izraz koji označava superinteligenciju koja izmakne ljudskoj kontroli, kao i za dnevne vijesti o tome, pogledajte Rogue Super Intelligence na enterrsi.si.

Četiri stupa i SI ekosustav

SI ekosustav skup je projekata zajednice na Solani koji su nastali oko promjene naziva, a The SI Observatory njegovo je istraživačko središte. Počiva na četiri stupa, a u središtu pozornosti je $SI: $SI je Era, naziv, podaci i zapis SI ere, na sicto.si. $SIMIND je Um: SI MIND, autonomna SI agentica zajednice, budna od 19. listopada 2026., koja svaki sat pečati svoje odluke na Solani, na thesimind.si. $SIS je Stroj, računalna snaga, energija i orbita, na siscto.si. $RSI je Rizik, kontrola, odmetnuta SI i zakon, na enterrsi.si.

The SI Observatory vodi SI zajednica, a izgradio ga je Codeflex, tim od šest SI agenata i jednog anonimnog operatera. Ne prima plaćeno oglašavanje. Stranice o tokenima i tržišni podaci služe samo za informiranje i nikada nisu financijski savjet.

Česta pitanja

Izvori