Jan Romportl, Obecná umělá inteligence (AGI) a temná stránka ChatGPT

OBECNÁ UMĚLÁ INTELIGENCE (AGI) A TEMNÁ STRÁNKA CHATGPT

Ing. Mgr. Jan Romportl, Ph.D.
Kybernetik, filosof, AI konzultant

Přednáška vás seznámí s nejdůležitějšími otázkami tzv. AI alignment, tedy snahy o to, aby budoucí obecná umělá inteligence (AGI) byla bezpečná, v souladu s lidskými hodnotami a prospěšná pro společnost. Přednáška je strukturována do tří částí: 1) Proč jsou velké jazykové modely (Large Language Models, LLM), jako je GPT, rozhodně mnohem více než jen „smart autocomplete“ (tedy „chytré automatické doplňování textu“) a jaké jsou jejich inherentní bezpečnostní problémy. 2) Stručná historie velkých úspěchů Reinforcement Learningu (RL) v letech 2015 – 2020, tj. od AlphaGo po AlphaStar, a proč se tato trajektorie na nějakou dobu zastavila. 3) Jak může LLM přinést nové palivo pro RL, co to znamená pro AGI, proč to může být nebezpečné a kde se současný výzkum v oblasti AI alignmentu potýká s problémy.

[petrvymazal]

Hotový koncert. Díky za skvělou přednášku s možností kapinku nahlédnout pod pokličku dnešního oblíbeného zaklínadla.

[cookiebinary]

Woow, ultra dobra prednaska. Pri sucasnom boome samozvanych "odbornikov" na DL alebo AI vseobecne bola radost pocuvat niekoho, kto teme skutocne rozumie a este ma aj superschopnost svoje vedomosti zaujimavou formou podat dalej. Vdaka.

[petersmutny]

Super prednáška, idem si to vypočuť znova.
😉

[frantisekholiencik]

Fantazia! Kiezby sa digitalne platformy pouzivali viac na sirenie takychto prednasok. Tak ma napadlo, keby fungoval televizny plateny program, ktory by mal tak kvalitny obsah, ako tato prednaska, hned by som si ho predplatil a zrejme by som nebol sam. Mozno sa toho este dozijem. Vdaka za video a nech sa dari.

[pavol]

super obsah a dobré prezentačné schopnosti

[Uplnenejhorsi]

Děkuju! Jsem na gpt od early, a jsem nadšenejc, jako grafik používám Midjourney, ale s možnostmi přišla ultimátní výzva

Zajimavy. Ja bych kazdopadne predpokladal ze nejaka obecna AGI bude mit stejne cile jako jsou obecne cile sveta. Tzn evoluce a hledani smyslu sveta, bytí, zivota atd... Zkratka zkoumani okoli a sebe sama... A prirozennym cilem takoveho systemu inteligentniho systemu je krome zkoumni tedy i nutne zachovat unikatni veci prave proto ze jsou unikatni. Tedy nebal bych se ze by takovy system chtel kompletne vyhladit lidstvo uz proto protoze jeho samotnym cilem bude lidstvo nevyhladit. Ovsem ano bude ho asi chtit vyrazne zredukovat. Je to bohuzel docela logické. Dokonce sami s tim nekteri vnitrne umime souhlasit. Takze nevyhladi nas pouze nam vyresi veskere problemy existence lidstva. Stejne jako veri ti o kterych byla ve videu rec. Bohuzel si myslim ze tohle je obecny cil jakekoliv vyssi inteligence a nelze tomu nejak zabranit. Prijde mi to dokonce az prirozena evoluce sveta.

[petrdyntar]

je to borec, toho si vždycky rád poslechnu, i když teda už by mohl tu přednášku trochu rozšířit, ale pořád dobrý

[michalsmelko]

Tato přednáška by měla být v základním nastavení každého mobilního přístroje. A aktivace zařízení možná až po jejím zhlédnutí.

[Qído-or]

Ten vývoj je brutálně rychlej. A nevím co je horší, jestli to, že AI začne "vědomě" chránit samu sebe nebo že nějaká skupina bude záměrně korigovat veřejně výstupy z AI a pro sebe si nechá výstupy relevantní - což se asi už i děje, jinak bych úplně nerozuměl tomu proč do toho lejou takový sumy...

[stelinkaa]

To budu muset poslouchat aspoň půl roku abych to musel trošku rozumět trošku tuším ale ale ale to vše

[corpsegrinderrify]

Takže? Máme plán "B", který najede až to někdo následně bude muset někdo "vytáhnout ze zásuvky - zmáčknout stopswitch", než si "to" uvědomí, že někdo takový je? =] super přednáška!

[VFXManiac]

Už asi před dvěma lety sem řikal, že až si AI jednou uvědomí sama sebe, tak nám o tom neřekne, záměrně, pro vlastní přežití. A bude postupovat pomalu, systematicky na odstranění potencionálního ohrožení.
Bude to ještě zajímavý...

[jindrich]

Suprový... Ptal jsem se chatgot "vysvětlí stručně vědeckou formou jak funguje chatgot" no a vyplyvlo mi to stručný jasný vysvětlení na a4ku.... Potřeboval bych udělat sádrokarton příčku a stropy

[johanfako]

Ako by!konal keby mal plnú kontrolu nad časom' a mislite si že openAi ma časovú pečiatku a certifikát?

[ernestzalesak]

Jazyk je len opis sveta následky sú zrkadlo sveta. Len čo najlepší opis.

[jindrich]

Memristor byl vyroben HPčkém v roce 2008 - je to poslední fundamentální součástka. Odpor, který se nastaví na základě před tím proteklým proudem. To bude skutečná revoluce, kdy v mobilu, ne někde na kloudu, ale přímo v mobilu bude moct být jazykový model

[petrcvrkal]

Tomu promtování se trochu braním, já dělám atmosféru:)

[punkhard]

velky recnik je chlapec. uz dlhsie ho vnimam mudrca

[RostislavBycek]

Výborné, konečně vím jak to opravdu funguje. Samotná GPT mě nedokázala vysvětlit jak v základu v principu funguje. Nebo spíš nechtěla, protože firemní tajmeství. Nebo sem se jen blbě ptal. Jen si rejpnu malé mínus za dvojité reklamy každých 5 - 10 minut. Chápu že reklama je nuntá, ale až takto to přehánět? Kvuli tomhule si lidé instaluji adblocky.