Superinteligentna veštačka inteligencija

Ili, praktičnije SAI.

Hoće li doći? Kada će doći? Treba li se bojati nje, poput Maska i Gejtsa koji misle da je to najveći problem čovečanstva u narednim decenijama? Ili smatrate da će nam doneti neverovatno blagostanje? Jedno je sigurno, to neće biti Terminator scenario, postoje solidno elegantnini načini za uništiti covečanstvo.

Kako skontati taj evolucioni singularitet kada stvoriš nešto pametnije od sebe, i to ne samo kvantitativno, da brže računa od tebe, to imamo i sada, nego kvalitativno, da stvara ideje koje tebi, ne samo da ne bi pale na pamet, nego nisi sposoban ni da ih razumeš.

Niko ništa ne komentariše ovdje, a mnoge krupne promjene su izgledne u doglednoj budućnosti. Od toga da veliki broj ljudi ostane bez posla, do potencijalne utopije i enormnog ekonomskog rasta i rješenja za skoro sve probleme, do negativnih scenarija egzistencijalnih prijetnji po čovječanstvo. Samo ove godine se toliko promjena i iskoraka desilo. Npr. ovaj veo3... videi generisani putem AI-a postaju vrlo realistični. Postaje teško razdvojiti stvarnost od fikcije.

Citat:do potencijalne utopije i enormnog ekonomskog rasta i rješenja za skoro sve probleme,

:) 'ajde Jovo, ja te smatram za ozbiljnog čoveka ti ovde pišeš gluposti.
Kakav crni ekonomski rast kad smo mi kao vrsta vrlo limitirani resursima. Jedini način koji vodi ka blagostanju (pojedinaca) je opšte istrebljenje. Ali i to je teško da se ostvari jer bi bilo bitno da uništavaš samo ljudi. Bukvalno ti treba sve ostalo od živog sveta (osim možda komaraca)

Citat:do negativnih scenarija egzistencijalnih prijetnji po čovječanstvo

Ovo je najrealističniji scenario, ma koliko se nama to ne svidjalo

upravo o tome scenariju govore sajtovi kao što su:

https://ai-2027.com/ i https://ifanyonebuildsit.com/

Al opet, nastojim da ne mračim baš toliko.

Neki istraživači smatraju da je šansa za to izuzetno velika. Neki su optimističniji. Sve zavisi od toga koliko će se ozbiljno pristupiti regulativi svega toga. U suštini, ako se napravi superinteligentna inteligencija prije nego što naučimo kako da to uradimo na bezbedan način, difolt scenario je da ćemo izgubiti kontrolu, i možda i nestati (terminator scenario). Sad neki istraživači stavljaju fokus na to da se razviju tehnike kontrolisanja i usmjeravanja takve AI, a neki drugi smatraju da za to više nemamo vremena, i da treba na duži rok zaustaviti razvoj, dok ne savladamo te tehnike, pa tek onda nastaviti. A ta pauza može da traje koliko god... koliko god bude trebalo.
Uglavnom vrlo ozbiljan i izazovan problem.
A opet s druge strane možda i ljudi previše paranoišu oko toga. Ali čak i ako je šansa za istrebljenje mala, to nije zajebancija... i 1% šanse za egzistencijalnu katastrofu je previše.

A ako bi se razvila benevolentna superinteligencija, neki kažu da bi to moglo dovesti do enormnog razvoja u svim oblastima, tipa 100 godina razvoja u 10 kalendarskih godina.

Ogromni proboji u medicini, kvantnim računarima, fuziji, šta sve ne...

A baška to što bi kao takva AI i roboti mogli zamijeniti skoro svaki ljudski posao, i što bi se onda postavilo niz egzistencijalnih pitanja, tipa:

- od čega živjeti ako nemaš posla (da li će biti UBI - Univeral Basic Income)
- kako naći smisao života, ako ne možeš raditi ništa korisno

itd...

Citat:Od toga da veliki broj ljudi ostane bez posla

najavljena apokalipsa ljudi ce ostati bez posla kme kme, na istu mantru vataju vec 50 god i pajsad uvek fali radne snage....te roboti prave aute, te robotaksiji te kurac te palac a kad oces mali servis na kolima jebes se ko budala da nadjes postena majstora

Naravno, meni nije bio problem naći smisao života ni u periodima kad sam lelemudao po čitav dan, ali ima ljudi, možda i većina, koji dosta svog samopoštovanja pa čak i identiteta, izvode iz posla kojim se bave, postignuća itd.
Naravno, ako bi AI i preuzela sve ekonomski relevantne poslove, ljudi će moći i dalje da rade za sebe nešto što njima odgovara za svoj ćejf.

ljudi treba smanje potrosnju to je to al stoki to ne odgovara, onda dodju da im ukinu cistu jeftinu energiju kako bi korporacije imale robove

Na ovu temu mislim.

pa sta da kazem, pricao sam da ce ovo da dodje i da ce oberucke da ga prihvatimo, sad je doslo i oberucke smo ga prihvatili, tako ce i da ode i da nas ostavi da se nosimo sa tim.

ili ce da postane deo nas, ili mi da postanemo deo toga, ili jebem li ga sta. al da zivimo isto necemo.

trudim se da ne razmisljam vise puno o tome. gledam samo da ako ikako mogu da pogodim da radim ono sto ce medju poslednjim stvarima da postane irelevantno. a mogu da ga pogodim kurac moj.

A šta misliš da li je egzistencijalna prijetnja realna (tipa terminator scenario), ili će se sve svesti na to da "samo" ljudi masovno ostanu bez posla.

Citat:A šta misliš da li je egzistencijalna prijetnja realna (tipa terminator scenario)

jedini pravi odgovor je da ne znam. kao sto niko ziv ne zna

ja sto mislim, je da je terminator scenario nerealan. da nam promakne AI koja moze da unisti covecanstvo a da je ne iskljucimo... najverovatnije ne.
ono sto je izvesnije je da sami sebi napravimo egzistencijalnu pretnju uz pomoc AI, kao npr nuklearnim oruzjem, ili kontrolom tog oruzja ili tako nesto.

I meni se tako čini, nadam se da smo u pravu.

Takođe, interesantna stvar u vezi ovoga je koliko neka druga pitanja oko kojih se ljudi lože i mnogo ulažu energije u ista, postaju mnogo manje relevantna u kontekstu ove velike promjene koja je pred nama. A toga ljudi uopšte nisu svjesni, ignorišu AI, a mnogo se lože oko nekih drugih stvari.

ono cega stvarno moramo da budemo svesni je da stvarno, mnogo je zajebano predvideti gde ce se razvije to. mozda ako si u vrhu gugla ili tako nesto mozes, ali i oni, de.

pa prvo sto kao rekosmo, doci ce AI, ostacemo da bojimo slike i komponujemo muziku, a cini se da ce taj AI i umetnike medju prvima da zameni. slikare, muzicare, glumce, ok moci ces za hobi to da radis, al da zivis od toga, teze malo.

Pazi ovo, nerdovi na ovom sajtu smatraju da je šansa da AI sam može da napravi kvalitetan film od tipa sat ipo - dva, na osnovu prompta, početkom 2028. čak 38%.

https://manifold.markets/ScottAlexander/in-2028-will-an-ai-be-able-to-gener

ma, obesmislice mnogo toga. filmovi najmanji problem.

Rekoh već, naš najveći problem su resursi.
Ako gledaš 'idealni' scenario (tj. onu varijjantu bez terminatora) to prividno vodi ka utopiji gde će ljudi da dignu sve 4 u vazduh i da samo žderu, spavaju i uživaju u svemu (jer bi roboti radili sve poslove umesto njih).
Samo pogledaj koliko se životni vek ljudi produžio u 19. i 20. veku zahvaljujući svim izumima.
To dalje vodi ka nenormalnoj potrošnji resursa i pre ili kasnije svetskom ratu i (opet) istrebljenju (usled uništavanja planete).
Jedino što eventualno može da nas spase je da nekako ukrotimo svemir. Da imamo mehanizam kolonizovanja ili u najgorem slučaju barem eksploatisanju onoga što imamo u našem sistemu a nema kratak rok trajanja (Sunce).

Citat:Jedino što eventualno može da nas spase je da nekako ukrotimo svemir

lol, kakvi smo i svemir bi sjebali. Viš da nismo u stanju na mesec da odletimo nego živimo u globalnoj laži neke ljucke superdominacije

Citat:naš najveći problem su resursi

tj odnos prema resursima, postoje već resursi koje možemo jeftino da pravimo (struja) ili zemni gas koji je praktično neograničena kategorija...al jok neki majmuni hoće pošto pošto da se vozi na litijum i da se kupuje ukapljeni plin

nije problem da resursa već do lobiranja i eksploatacije

Neko je prizvao ponovo Sotonu, mi demoni smo jedom u dubini pakla gde je Satana. On je tamo pauk, od njegovih nogu naprvili krsteve da odemo od tu nismo nista drugo imali jedva sam se setio da imam kandzu na rukama i svi mi. Hteo nekom od demona da isecem ruku da naporavim sekiru, jer smo jednom to imali u paklu, to jest ideju o tome, ahaha znam da je smesno, nema niko mozak a ni ne zna za ovaj svet. Tako smo mozda svi ovde dospeli ahaha :)

https://www.reddit.com/r/singularity/comments/1l2gwo1/dario_amodei_worries_that_due_to_ai_job_losses/

resio elektro pumpu za vodu uz pomoc napredne super vestacke

Čini nas glupljim:
https://arxiv.org/abs/2506.08872

Citat:Čini nas glupljim

jes brate zaebo me, ustedeo mi 3-4k dinsa + vožnja i vreme potrebno da sve obavim plus potencijalne komplikacije telefoniranje i ostalo

po istom principu radi i bager, ulenjio čoveka na max i sad su svi slabašni a dok su ručno kopali bili siva eminencija

Koji si ti kontraš. Da sam izbacio neki afirmativan tekst gdje se kaže kako je to super, ti bi reko da je go kurac.

*uslovno super

al ovi vajbovi od apokalipse od ai su u ranku crnih rupa, globalnog zagrevanja, podizanja nivoa mora i sl

Chatgpt je STRAVA, biće život nezamisliv bez njega kroz koju god.
Na AI ovog tipa gledaće se kao na otkriće interneta.
Da li smo COOKED ?
Da, samo ćemo vidjeti kako i u kojoj mjeri.

https://forum.effectivealtruism.org/posts/w3zfrpg4YuHQKKSEG/the-root-cause