Najprv rozprávame o obliatom notebooku a spomíname na staré telefóny vrátane T-Mobile G1. Potom rozoberáme riziká AI, kritickú infraštruktúru, Pacing the Frontier a limity monitorovania chain of thought. Ďalej príde skenovanie kníh v Anthropicu, reward hacking, hidden states a spolupráca agentov pri zlepšovaní AI. Záver patrí porovnaniu tržieb a ziskov technologických firiem vrátane Microsoftu, NVIDIE a Mety.
Zobraziť prepis
drunkez
JoinIT.online.
Ahojte!
My nesmejeme sa vôbec preto, lebo sme sa pred-predtým o niečom rozprávali a sme museli naraz prestať. Je to našou súčasťou nášho vysielania je, že vstupujeme do nahrávania s úsmevom a s vtipom na perách. Hej? Alebo?
join3r
S dobrou náladou, všetko vieš. Pred týmto, pred tým, jak my klikneme akože record, tak normálne vážne tváre, hej, akože len fakty-
drunkez
Sústredenie
join3r
... čísla. Hej?
drunkez
Sústredenie.
join3r
Päť, osem. Hej, všetko hej.
drunkez
Pot na čelách, na zadkoch proste brutál.
join3r
Áno, áno. A potom začneme akože recording, vieš, úplne iné charaktery. Hej, úplne.
drunkez
Vieš čo? Ako profíci. Vieš proste hej, pred kamerami, respektíve pred mikrofónmi ideme. Vieš.
join3r
Áno, áno, áno, žiadny problém.
drunkez
Ahoj Joiner, aj vy milí poslucháči, ako sa máš?
join3r
Eh, mám sa dobre, drunkez, ehm, som zdravý, už o hlas neprídem, takže konečne môžem plne rozprávať celý čas a-
drunkez
Na rozdiel od predtým, keď si nemohol.
join3r
Na rozdiel od minulého podcastu, hej, tak.
drunkez
Si rozprával tak isto, že toto bude úplne nový zážitok to bude teda no.
join3r
Po-počuješ to?
drunkez
Áno.
join3r
Nepočuješ taký zvuk, taký, že: „Ja som tvoje svedomie. Musíš si kúpiť framework notebook.“
drunkez
Eh, eh, eh, svedomie nie.
join3r
Mene počuješ niečo? Taký, taký šepot počujem. Eh, eh.
drunkez
Nie, nie, nie, nie, nie, nie, nie, toto, toto je dávno pase, ale môžem porozprávať, ako som si vylial na môj nový noťas vodu.
Je to len ra-rýchla, akože rýchla vec. Normálne nikdy, nikdy v živote som nejedol. Fakt si na to dávam pozor, lebo viem, že takéto sa mi snáď tam stane, že mi spadne telefón.
join3r
Nikdy neješ, hej, jednoducho. Nikdy v živote si nejedol.
drunkez
Aby som, aby som a hlavne nepijem vodu.
join3r
Akože pre Talianov úplne akože hej, od začiatku.
drunkez
Jednoznačne a normálne slnko, chápeš? Vieš normálne, dám sa na chrbát, prijímam slnko.
join3r
Mhm, mhm. Skúšaš niekedy aj tak na zem, vieš akože objíma-objat zem, aby si načerpal energiu z, z zeme?
drunkez
Nechávam sa, nechávam sa objímať zemou pomocou stromov. A no, takže nejem. Veľmi si na to dávam pozor a teraz normálne, že a hej? No, začal som, bol taký zamyslený, som chcel rýchlo prísť pri tom a normálne som si položil, položil som si akože pohár pred noťas ešte nie vedľa alebo dozadu, proste pred noťas. Hej, normálne ak keby, keby všetci tí, ktorí sú zodpovední za, za, za moje, akože vieš, lebo ja nie som zodpovedný za seba, ale to naše božstvo alebo anjeli alebo neviem satani a bohvie kto, ktorí to plánovali. No a proste a nula celá štyri sekundy po tom, ako som, som začal, potreboval akože kliknúť.
join3r
Mhm.
drunkez
A keďže ja som nie navyknutý, že to mám pohár.
join3r
Prečo by si si ho tam dával? Hej, však zase na druhé strane.
drunkez
Ja som normálne, ale, ale nie že kvapka, nie že normálne, že tri deci vody na noťas, na klávesnicu normálne kompletne všetko. Som zdrapol noťas, otočil som ho hore, normálne voda tiekla. Hej, potom displej ide dobre. Polo-- akože zároveň som držal hard power off, vieš gombík, takže sa vypol. Položil som ho na takú plachtu na posteľ synovu. Ďakujem mu týmto.
Aaa vyšrouboval som baterku.
join3r
Mhm.
drunkez
Teraz, čo teraz? Hej?
join3r
Neviem, ale-
drunkez
Tam stačí, tam stačí. Presne. Neviem. Hej, tak ideš-
join3r
Nie, počkaj, ja chcem niečo povedať. Hej? Si, si predstav, že, že mám pocit, že keď sa už rozprávame o tých anjeloch a diabloch a tak ďalej, tak ja mám veľký akože problém nevidieť toto ako nejaký signál zhora alebo zdola. Hej, že je čas si kúpiť nový notebook, čo ty si o tom myslíš?
drunkez
Nie, naopak, lebo ten noťas-
join3r
Mhm
drunkez
... vyschol. Som ho nechal normálne dva dni v opačnom véčku, ventilované prostredie, baterka vypnutá, všetko. Vyschol, som ho zapol a ide. Tento noťas so mnou bude stopäťdesiat rokov.
join3r
Nie, nie, počúvaj ma. Ono to je tak, že keď sa ti tam vyleje voda, tak už vieš, už niečo sa tam už dostane. Hej, niečo sa ti tam začne akože postupne kaziť. Ja už to vidím tak, že už by som sa na tento notebook nejakým spôsobom nespoliehal a možno že už do zálohy, lebo predstav si, vieš, toto je ďalší signál podľa mňa, pretože toto je a toto, toto znamená, že to je signál zhora. Lebo keby to bol signál zdola, hej, tak sa ti pokazí ten notebook a nemáš notebook. Hej, ako si v prdeli, hej? Ale toto je signál zhora a preto ti to dáva čas. Vieš, lebo ty kým si objednáš ten framework, tak potrvá mesiac, kým ti príde hej?
drunkez
Čosi.
join3r
A ten mesiac ešte bude fungovať ten tvoj notebook. Hej? Pojatý vodou.
drunkez
Dobre, je prvého októbra, čiže uvidíme prvého novembra. Vtedy.
join3r
Ja by som nečakal na tvojom mieste na poslednú chvíľu, vieš, objednávku.
drunkez
Eh, hej, lebo to už, lebo framework končí. Takže rozpredaj, rozpredávajú.
join3r
Nie, nie, nie, ale ti odíde notebook a budeš bez notebooku, vieš.
drunkez
Á, hej, no mám ešte nejakých sedem doma alebo dáčo také.
join3r
Však ty si známy tým, že nemáš doma veľa notebookov.
drunkez
Každopádne, každopádne noťasík sa rozbehol, všetko postupoval som podľa predpisu, ako Boh kázal všetko. Ešte, ešte samozrejme príde doba, keď akože bude ho treba vyčistiť izopropylom alebo niečím takým, ale to má čas, hej? Á, super na tom je to a teraz to príde, že môj notebook je kompletne rozoberateľný. Aha!
join3r
Mhm, ale asi nie asi až do takého-
drunkez
Úplne do piky a zložiteľný, lebo rozobrať sa dá. Bacha na to! Rozobrať sa dá všetko, ale zložiť to už je aj častokrát horšie a zložiť sa to dá tak isto zložiť všetko dobre. Každopádne long story, long story stored.
Noťas žije krásne, všetko funguje, dokonca má troška väčší výkon sa mi zdá, lebo je lepšie chladený.
join3r
Mhm.
drunkez
Hej, proste super. Veľmi som, veľmi som akože rád, že to takto dopadlo. Pripomína mi to jednu vec. Raz som mal taký, taký telefón, také HPéčko, taký z Microsoft Mobile- Windows 6 alebo dačo také. Taký, taký veľmi pekný telefón. Mal to normálne klávesnicu spredu, mal to taký stylus. Všetko bolo super a som s ním skočil do vody do bazéna, lebo prečo nie, hej? Party sa rozbiehala. Ja som povedal, že všetci, že poď, poď a nejdem, nejdem, poď, poď, tak idem. Tak som skočil, že ó, a som vyťahoval vo vode veci, vieš doklady, telefón a tak. No a ten telefón som nechal tiež dva týždne akože poriadne vyschnúť, všetko v pohode, normálne sa rozbehol, všetko išlo ďalej krásne, normálne roky ešte išiel, hej. Aj teraz ide, keď ho dám na nabíjačku, ešte stále ide. Mám takú zbierku telefónov, ktoré akože raz predám za šestnásť až osemnásť dolárov. Á,
á, toto jeden je súčasť toho, tejto zbierky je tento telefón.
join3r
Máš aj prvý Android T-Mobile G1?
drunkez
Hej, to je ten tvoj. Stále ide, ináč som ho nabíjal pred dvoma týždňami, sa rozbehol, všetko. To bolo také dobré. Tá gulička bola killer. Strašne dobré to bolo.
join3r
Hej.
drunkez
Úplne intuitívne to bolo.
join3r
Nebolo, ale to nevadí.
drunkez
Bolo, bolo to super.
join3r
Nie, nie, nie, nie, nie, nie, bolo to, bolo to veľmi zlé.
drunkez
Bolo to vynikajúce. Tá gulička bola skvelá, to bola najlepšia vec na ňom. Ja chcem guličku.
join3r
Akože pre poslucháčov to je ešte taký prvý Android telefón, ktorý mal vlastne ako keby vysúvaciu klávesnicu, že pozdĺž celého ako keby displeju, hej, si vedel zo zodu, zo spodu ako keby vysunúť klávesnicu.
drunkez
Plnohodnotnú klávesnicu normálne.
join3r
Áno, plnohodnotnú a malo to taký, hm, ako sa volá to koliesko normálne? É.
drunkez
Volá sa to, volá sa to Magic Ball tritisíc.
join3r
A Magic Ball tritisíc, hej, deväťdesiatdeväť. Alebo v tomto roku, keďže toto je taký starší model, tak možno, že to bolo len dvetisíc, hej?
drunkez
Tak bol.
join3r
Ale hej, hej, to voľakedy mali vlastne aj tie, tie, neviem, či sa už vtedy volali Pixely, tie Google telefóny, čo boli Androidy.
drunkez
Nie, čo si, čo si, kdeže, kdeže to bol Nexus. Oni mali najprv, že-
join3r
Nexus, Nexus áno.
drunkez
Oni mali tento a potom mali dlho nič. Potom bol Nexus a potom boli Pixely a potom budú čo ja viem čo.
join3r
Vtedy bol akože Android fest, fest za, za iPhonom, čo sa týkalo-
drunkez
Čoho hovoríš?
join3r
Takmer všetkého. Akože bolo-
drunkez
Čo sa týkalo všetkého.
join3r
Akože bolo to brutál.
drunkez
No.
join3r
Akože ja som bol veľký, akože Apple odporca, ako každý mladý a nerozvážny muž, hej, alebo žena, ITčkárka a ono jak som to videl, vieš jak napríklad, že na tom, neviem, bol to Android jedna bodka päť alebo jedna bodka nula a tam akože kým si, keď si scrolloval akože na ďalšiu obrazovku, tak to sekalo, vieš a všetko. To až v Android dvojke alebo kde to opravili, hej, že už aj na tom, na tej G jednotke to išlo tak ako tak plynulo, že tam bol nejaký frame buffer alebo neviem, čo tam naimplementovali.
drunkez
A čo Linux? Normálne tam zobrali, počúvaj, nedáme, nedáme teraz taký, že nedáme Linux na nejaký tento device a ukázal podľa mňa vývojár na hocijaký telefón. Tak toto je fú, fajný displej. Dajme tam Linux a nejaký hacker to tam akože vieš taký z Google prosím ťa, ja to tam dám, daj, že zobrali nejaký Ubuntu, vieš alebo hocičo, pracujú tam. Však ide to celkom slušne. Nepredáme to? Predajme to a ty si si to kúpil, lebo si to predal mne, aby si nebol za hlúpeho.
join3r
Lebo som si myslel, že to bola hlúposť.
drunkez
Hej.
join3r
A kúpil si druhý telefón, taký podobný, hej.
drunkez
Tak jak, hej.
join3r
Veľmi som sa nekĺčil.
drunkez
No ani ja. To ani teraz sa ti nedarí, vieš s tými iPhonami to, ale tak to je človek, kto má hlboko, h-hlboko to má akože v sebe, proste v génoch.
join3r
Počúvaj, kým sme boli off, tak neviem, či si zachytil, že, á, koniec sveta. Desaťpercentná šanca, že do roku dvetisíc.
drunkez
Áno.
join3r
Tak ti vlastne chcem povedať-
drunkez
Mistr, mistr, mistr toto, že mistr Antropik povedal, že nás to tu vyvraždi všetkých vyhubí, respektívne nevyvraždi, ale vyhubí, zomrieme. Toto myslíš tento?
join3r
Áno.
drunkez
No vidíš.
join3r
Áno, áno. Že desaťpercentná šanca. Čo si o tom ty myslíš?
drunkez
Ja si myslím, že to desať percent nie je. Bude to viacej alebo menej, ale desať percent, s tým stopäťku nesúhlasím. Je to nezmysel. To je moje rozhodné názor.
join3r
To ani nevyrádkal. To len tak z brucha vytiahol.
drunkez
To je môj rozhodný názor. Á, vieš čo? Á, aby som našiel správne slová. Isté veci v minulosti, akože pár rokov dozadu, keby si sa ma pýtal, tak poviem-
join3r
Zatiaľ súhlasím stopercentne s tebou.
drunkez
Vidíš, to je zhas, zas sa zhodneme. Tak tu skončím tým pádom.
Tak by som povedal, že to je nonsens. Normálne, akože poviem, že to je úplné šialenstvo, že to je nezmysel, hej? A musím povedať, že existuje veľká skupina vecí, ktoré, ktoré sú v skupine, že tak toto by som pred pár rokmi povedal, že to je nezmysel, ale teraz to už nie je taký nezmysel. A netvrdím, že áno alebo nie a poviem neviem. Niekedy som povedal, že čo ti praješ, no hej, úplne v pohode, hej? A teraz proste, že ja neviem, hej, akože ja neviem. Neviem, či som to posunul.
join3r
Podľa mňa je to nezmysel. Ja, ja ešte som, ja ešte som pár rokov dozadu, vieš.
drunkez
Ty si toto? Lebo akože ja neviem, hej? Poviem ti takýto príklad. Poviem ti takýto príklad.
join3r
Mhm, mhm.
drunkez
Že, že ideme teraz byť úplne, že sci-fi, sci-fi, á, sci-fi movie brainstorming, hej?
join3r
Mhm, mhm, mhm.
drunkez
Že, že máme constraints, máme security guide, á, guide rails a tak ďalej. Hej, máme bar čo máš, máme bar čo, hej? Á, ale zároveň akože vo svete prebiehajú isté aktivity, ktoré smerujú k militarizácii alebo využívaniu, akože aj k militarizácii alebo k, vieš ako keď prišiel internet v deväťdesiatom druhom, tak sa, čo si, však pošlime si mail. Ono je to hlavne na to, aby sme si gofer mohli vymeniť nejakú správu a potom, že si, hm, pošleme si mail a tým pádom internet končí. Toto je that's it, internet je na toto, hej? A fewly, few years later proste sme úplne, že čo ti praješ, že všetko ide cez internet, riadime normálne vod-, riadime a je to len akože infraštruktúra, je to len ako diaľnica medzi koncovými bodmi, ktoré nejakým spôsobom cez ňu spolupracujú, hej? Ale teraz akože okrem toho, že máme tento akože internet, tak máme aj tie endpointy, ktoré sú nejakým spôsobom aktívne a ja proste neviem, akože viem si predstaviť scenár, kedy by to mohlo dopadnúť zle, kedy by proste nejaká sa stala nejaký, akože v nekontrolovanom teste sa, sa pokazí voda, hej, vypustia sa priehrady alebo dačo také. Nezmysel proste, hej? Lebo však prečo by sme to nenapojili? Prečo by sme to nejak nekontrolovali takto? Urobme to lepšie, urobme to rýchlejšie, lacnejšie, hej? Napojme to na nejakú akože kritickú infraštruktúru a bum, zase sa to nepodarí. A teraz čo potom? Hej? Amoniak odpustíme nejaký ventil z chemko z Duslošena alebo vieš proste akože viem si predstaviť, je to viem, že je to akože kvázi, á, nie kvázi. Je to ako taký riadny scenár, priam neuveriteľný, ale neni to už také nie ako niekedy by to bolo bývalo.
join3r
A-a ty to teraz ako to popisuješ, tak mám silný taký pocit, že sa to stane omylom. A, a mám zase naproti pocit, že, že ten pán z Antropicu, z ex Antropic employee to skôr myslel nejakým úmyslom, ako keby skôr hej, že to nebude kvôli neschopnosti AI, ale kvôli schopnosti AI. Hej, či už to bude ten cez RSI alebo niečo také.
drunkez
No tak toto ja asi tu, tu napríklad môžem absolútne striktne povedať. Nie, nie, skôr si myslím, že, že ja mám pocit, že, že, že môže nastať akože taká nepríjemná, nepríjemný omyl. Skôr. Ako keby vieš, akože ak by to bol úmysel, tak by to bol ved-, akože, že, že úmysel operátora tej AI skôr?
join3r
Nie, nie, nie. Myslím vyložene o AI. Hej, že AI by, lebo-
drunkez
Tu som skeptickejší. Rozumiem, čo chceš povedať. Hej, asi že, že, že hej, že, že keby si povedala v rámci tých nejakých ja neviem hej, á,
zákonov robotiky alebo neviem čo proste hej, že dobre, tak si to zmyslí AIčko, že počkaj, toto je akože hej, že to asi toto neviem. Voči tomuto som skeptickejší. Ja mám skôr pocit, že môže nastať veľmi nepríjemný omyl nečakaných rozmerov.
join3r
Lebo akože keď akože keď sa pozeráš na to, že, že na čo myslia akože sám Old Man a, a takíto akože CEO týchto veľkých spoločností, hej, tak tam vlastne akože hlavné také obavy sú hlavne z toho, čo sme aj minule tu rozprávali, že AI researcher hej, to je jednoducho kde AI samotné pomáha pri vývoji AI hej a tam je nejaký strach z toho, že á, voľakedy sa to volalo, že hm, bože, jak sa to predtým volalo, že in, in? Neviem. Teraz tomu nadávajú, že super intelligence. Hej, že vznikne nejaká human hej, akože niečo-
drunkez
Agi? Myslíš alebo niečo také? Či viacej ako Agi?
join3r
Nie, nie, nemusí to byť ako AGI. Hej, tam akože aj ťažko povedať, že čo to je, ale niečo, čo je akože múdrejšie ako človek a, a tým pádom, že sa to začne akože vylepšovať samé, tak my stratíme ako keby kontrolu nad, nad správnym alignmentom toho modelu a takéto veci. Akože ja cítim akože z tých vecí, ktoré oni rozprávajú, že toto vidia ako také hlavné riziko. Len mne tam stále chýba, lebo keď sa bavíme o tom, že vyhubiť ľudstvo, tak mne tam stále chýba to, že akým spôsobom. Hej, lebo veľmi často napríklad vidím, že hej, nejaká, nejaké biologické zbrane a podobné záležitosti.
drunkez
Jasné.
join3r
A toto si myslím, že to je úplne akože odtrhnuté od reality. Hej, že momentálne akože, é, že toto sú veci všetky, ktoré potrebujú jednoducho nejakú, nejaké, nejakú experimentáciu. Hej?
drunkez
Mhm.
join3r
A bez tejto experimentácie a bez jednoducho toho prieniku do reálneho sveta jednoducho toto akože nevidím schodné, hej? A už vôbec nevidím schodné niečo také, aby to vyhubil-vyhubilo celé ľudstvo alebo také niečo. Bez ohľadu na to, aj keby si im dalo atómky, hej, tak si myslím, že, á, že, že tam by to za-zablokovali napríklad nejaké fyzické veci, ktoré treba spraviť. Či je to už tri a pol palcová disketa, hej, ktorá musí byť akože vložená v tom, á, v tom odpáľovacom zariadení alebo, alebo niečo podobné. Hej?
drunkez
Jasné.
join3r
Takže toto mi pripadá ako niečo také, niečo také skôr neuveriteľné. Hej?
drunkez
Ja mám pocit, že toto je troška také akože taká knižná alebo filmová, akože cesta, ako by sa takéto niečo mohlo stať. Je omnoho, á, jednoduchšia cesta pri jednej, ak si predstav, že sa akože niečo sa, že ja nemyslím si, že, že, že sa niečo stane a zrazu, že miliarda ľudí zomrie, hej, za hodinu. To je blbosť. To je proste blbosť. Hej, to je úplne akože utópia. Ale ja mám pocit, že môže nastať fakt nejaký akože prúser, lebo my máme akože mechanizmy teraz, kde my vyslovene riadime infraštruktúru, elektriku, odpad, plyn, distribúciu liekov, čokoľvek riešime informačnými systémami. A predstav si situáciu, keď, keď naozaj akože sú veci, ktoré potrebujeme urgentne. Ja mne napadá voda fakt hej a čističky a, a ako keby spracovanie vody. A teraz akože vyslovene nechceme strašiť poslucháčov. Hej, na to máme iné metódy, hej, ktoré dneska nepoužijeme. Á, tak si predstav, že, že, že, že odoprieš veľkému množstvu ľudí dobrú pitnú vodu, kvalitnú pitnú vodu hlavne vo veľkých mestách dajme tomu. Hej? A to okamžite spôsobí sekundárne veci. Vieš, chaos urobí to, lebo ty vieš, to vždycky platilo vo svete, že niečo, čo je veľmi dobré, tak má aj takú istú alebo veľmi podobnú amplitúdu tej dobrosti aj do zlého. Hej, neplatí to univerzálne, ale veľmi často to tak tým takýmto spôsobom platí.
join3r
Nie, nie, joinit tam nepatrí. Hej, jednoznačne.
drunkez
Joinit je v strede proste hej, to je proste krásne nad múlom sa toží. I have no stress.
join3r
Žiadny efekt.
drunkez
I have no strong feelings one way or another. Hej, to je.
No ale vieš a tie sekundárne nejaké akcie, ktoré môžu chaos nastane, hej, ľudia začnú proste tlačenica, baba baš ako taký hej. Možno niečo také to mňa skôr napadá, že fakt dostane nejaký omyl. Však tých omilov koniec koncov v histórii už bolo niekoľko, ktoré akože viedli presne, že sa niečo testovalo a viedli k nejakým katastrofám menšieho či väčšieho rázu. Hej, niečo sme nezvládli, niečo sme zle otestovali a tak ďalej. Čiže ja som skôr myslel na toto. Toto by sa mohlo stať. Hej, lebo ideme, kto to rozprával? Nejaký taký veľký hlavoun. Neviem, či aj Bill hovoril, že akože že alebo OSN. Jo pardon, OSN ho, á, urobil také vyjadrenie, že, že, že áno, že vo vzťahu k umelej inteligencii, že, že vývoj je veľmi rýchly, vývoj je nekontrolovaný, vý-vývoj nejde alebo aj aplikácie a tak ďalej nejde v nejakých akože overených, hm, respektíve vykonštruovaných a pripravených koľajách, nazvime to takto alebo v nejakom frameworku alebo nejaký guide a-a akože tie akože retrospektívne nejakým spôsobom aplikujeme a z nič, akože neni to prvý produkt, ktorý sa vyvíja rýchlo a spätne nastavujeme tomu pravidlá. Ale teraz akože ako keby celkom tlačili na to, že počkaj, že toto možno si zaslúži vytvoriť najprv Tú zónu, v akej budeme nejakým spôsobom vyvíjať a aplikovať a budeme o tom rozprávať a až po-až potom do toho pôjdeme, hej? Aj ľudia z toho majú strach.
join3r
No bol, bol aj ten vlastne, že Pacing the Frontier, hej, čo bolo vlastne od Anthropicu, kde vlastne chceli, to sme myslím, že už v tomto podcaste rozprávali, hej, aby, aby sa to, aby sa trošku pribrzdilo, hej, aby jednoducho tie alignmenty a takéto veci a monitorovanie týchto modelov nejakým spôsobom stihlo dobehnúť ten, ten vývoj, ktorý ako keby predbieha tieto veci. Lebo
a tuná, tuná je skôr vinné za to OpenAI ako Anthropic, lebo Anthropic má, á, keď sa pozrieš, tak ty samozrejme nikdy nechceš monitorovať chain of thought a trestať v úvodzovkách modely na základe chain of thought, hej? Pretože to tam akurát vzniká ti tlak na to, aby modely začali skrývať-
drunkez
Lúhať.
join3r
-veci, hej? Lúhať, lúhať v myšlienkach, hej? Čo je náš najlepší spôsob, akým spôsobom monitorovať, ako že tieto modely momentálne. Takže to nechceš robiť, hej? Preto toto sa ani nerobí, hej? Tam veľmi málokedy sa zasahuje na základe to-týchto chain of thought, hej? Ale kvôli nejakým iným tlakom, napríklad ktoré, ktoré akože napríklad tam to OpenAI je v tomto tu výborné. Jedným akože dychom poviem a druhým poviem, že aj také najnebezpečnejšie je, že zatiaľ čo Anthropic modely alebo Grok modely alebo hocijaké čínske modely majú veľmi neefektívne tie tokeny. Hej, to znamená, že veľa rozmýšľajú, hej? A kvôli tomu, že veľa rozmýšľajú a tie myšlienky sú, á, ako keby také detailnejšie, by som povedal, hej, tak je, tak je ľahšie ich monitorovať. Kdežto keď sa pozrieme na niečo ako GPT-61 Soul, hej, alebo aj na Astru, alebo nemusíme ísť ani do-do GPT-6, aj päťštvorky či päťšestky boli veľmi akože v tomto tu také. Tak, á, tak bola taká správa napríklad, že Astra 6 už neroz-nerozmýšľa v reči, ale už rozmýšľa neuralese, hej? Má akože reč. To je, že kde v ktorom bode už napríklad tým chain of thought rozumie iba ona samotná, hej, tá AI, ale už nie my, hej? To znamená, že už tam nie je použitá normálna reč. Toto nie je pravda, hej, stále rozmýšľa akože v normálnej reči, ale to, akým spôsobom rozmýšľa, je omnoho ťažšie monitorovateľné práve kvôli tomu, ako stroho rozmýšľa a aké a vie, že to vyloženie, keď sa pozrieš na tie chain of thought, ktoré unikli, hej, tak vidíš, že jedna veta, bodka, hej, že paralelizm, bodka, hej, á,
potom nejaké iné slovo, hej, akože a keď, keď akože ty, keď ty-ty to začneš čítať ako človek, hej, tak ono akože ťažko sa z toho vysomári, že čo presne akože tam hovorí, hej?
drunkez
Mhm.
join3r
Vieš, napríklad hovorí, že vieš, to sú, to sú vyloženie, akože niekedy také krátke veľmi veci, hej? A niekedy napríklad v tých, v tých chain of thought sú normálne, že myslím, že to nebolo akože GPT-6, ale to je jedno. Hej, že normálne, že tri bodky, hej? Čo znamenajú tie tri bodky? Vieš akože, akože v našom ponímaní tri bodky sú nič, hej, ale v ponímaní akože toho chain of thought tiež môžu mať nejaký zmysel, ktorý ďalej vedie a ktorý je pre nás ťažko monitorovateľný, hej? A, a tieto veci, akože, á, hej, na-na tieto ve-veci treba dávať pozor, hej? Ale zatiaľ vyzerá, že ten, že Pacing the Frontier, hej, akože odkedy vyšlo toto, tak, á, mám, nevyšiel žiadny nový Fable model, hej? Nevyšiel žiadny Astra model, ale mám také, taký pocit, že, že šesť jednotka Soul GPT, že to je nejaký iný model ako šeska. Zdá sa mi jeho správanie akože o dosť iné a jeho rýchlosť je-je polovičná. Myslím, že alebo tretínová dokonca. Myslím, že, že, že nejakých dvadsaťpäť tokenov som tam dal za sekundu, hej? To nehovorí o tom, že je to nejaký model podobný Solu, hej, ktorý prepeš šesťdesiat hej alebo sedemdesiat tokenov. Takže neviem, že či, či sa podarí udržať niečo takéto tu, hej, že, že Pacing the Frontier, hej, ale akože tie, ja napríklad vidím najväčšie riziko vyložene nie v tom, že zahubenie ľudstva, ale ďalekosiahle nejaké dôsledky, hej? A to je-
drunkez
Hej, to je, to sme sa priblížili tým pádom tomu uvažovaní.
join3r
Hej, lebo napríklad OpenAI akože teraz minulý týždeň zase vysvitlo, že nejakú štátnu organizáciu sa snažili hackovať tie modely alebo austrálske nejaké, vieš akože tam štátne organizácie, hej?
drunkez
Čítal som, že sa im to aj podarilo, ale niektorá, ne-nejaké organizácie priznali, že áno, akože sa to stalo.
join3r
Takže vieš, toto sú veci, ktoré, á, ktoré sú také akože-
drunkez
Dobre. Ideme troška to otočiť na akože evil, evil, akože thoughts, hej? Že zachytil si to, že teraz vôbec neviem kto, nechcem hovoriť, možno to budeš vedieť, že jeden z týchto veľkých hráčov pri učení pálil knihy. Akože ničil, ničil doslova literárne diela. Vôbec si nepamätám, či to bol Anthropic. Myslím, že to bol Anthropic, ale vôbec neviem. Nechcem klamať, nechcem vymýšľať.
join3r
Bol to Anthropic. Áno.
drunkez
Yes! Pamäť funguje. Dobre.
No a mne to príde akože úplne škandálne, že, že, že akokoľvek ako vieš, že prichádzajú, že áno, my sme, vieš že akože tie PR veci, stránky, weby, neviem čo, tak potom nájdeš takéto dačo. Hej, že akože ak-aký je motív toho ničenia tých dokumentov? Že aby sa, aby boli dostupné tie vedomosti len tam? To je akože úplne šialené. Potom sa akože častokrát sa učia na dátach, ktoré akože sľubujú, že sa na nich nebudú učiť, hej? Potom, á, presne hovoríme o tom, že, hm, to chádza k takému polovekému obchádzaniu guidelinesov, aby- Sme videli, čo to dokáže, hej? Že toto je strašne taký luring pre tých vývojárov, aby alebo pre tých, ktorí to akože ženú tento vývoj, akože ostať v nejakých eticko morálnych hraniciach. Hej, je to, je to také diskutabilné minimálne pre mňa.
join3r
Asi nerozumiem celkom. Akože v prvom rade pripomeniem to, že, že to akože nebolo pálenie v úvodzovkách.
drunkez
Doslova pálenie. Doslova to bol normálne tridsiaty ôsmy rok. Na Veľkej Kope boli knihy zhorené, ničené.
join3r
Počkaj, ale ja hovorím teraz o Anthropicu. Hej?
drunkez
Mhm.
join3r
No a ten Anthropik, on to keď vieš, keď skenujú vo veľkom knihy, tak sa to vieš, to viazanie sa jednoducho odreže. Normálne sa tak sa odsekne a potom ide po stranách. Hej? A tá kniha je znehodnotená. Vieš akože v dôsledku toho skenovania, hej? Oni to potom nezaviažu naspäť tú knihu a takéto tu veci, hej?
drunkez
Viem, viem.
join3r
Takže, takže tam bol dôvod akože nejaký takýto to, ale nerozumel som celkom, že, že čo si vlastne hovoril.
drunkez
Chcel som povedať, že, že mám pocit, že dochádza častokrát k nejakému neetickému konaniu mimo sľubov, ktoré firmy takéto dávajú. Vieš.
join3r
Akože to neetické? Vieš to celé AI je postavené na neetickom konaní, kde-
drunkez
To by som nepovedal.
join3r
Naozaj?
drunkez
Áno, čo je neetické na nejakom, akože na takom slniečkovskom ponatí, že však ja môžem akože pristupovať správne, dohodnúť sa z vlastných autorských práv, dokážem úplne transparentne, transparentne komunikovať a tak ďalej. Však ja dokážem ten biznis viesť aj pekne. Hej?
join3r
Dobre, ale toto nikto nerobí. Vieš akože-
drunkez
Áno, tak to tiež nerobí preto-
join3r
Sa to nevedie. Hej? A preto hovorím, že tieto, že tieto všetky akože organizácie sa správali neeticky. Hej?
drunkez
Áno, tak to sme sa dohodli. Súhlasím, mám pocit presne, že, že to tam je a je to nepríjemné a tým pádom napríklad to je táto akože vedomosť mne umocňuje alebo akože katalyzuje proste ten pocit, že taký, taký nejaký omyl, polo omyl, omyl. Hej, testovať v rámci testovania sa môže stať, ktorý bude mať akože následky väčšie ako hacknutý Hugging Face. Hej, alebo niečo také.
join3r
Hej, ale ja si napríklad ja si myslím, že, že kvôli tomu, že teraz sa toto stalo a že boli tieto hacky, tak jednoducho sa spraví progres, ktorý podľa mňa tam už mal byť dávno. Hej, na samotnom monitoringu, lebo tu nejde o to, že sa nemotivovali, nemonitorovali chain of thought. Hej? Stačí, že monitoruješ akcie a už podľa akcií by to malo byť zjavné. Hej, že? Lebo tieto modely sa nesnažili maskovať svoje akcie. Hej? To tam akože jednoducho neboli. Oni sa snažili oklamať toho grader agenta. Hej, to sa vyložene tak to dá povedať, hej, že sa snažili cheatovať, hej, ale takým spôsobom, aby ten grader im dal dobrú známku, hej?
A to sa dá a to sa dá nejak, nejak napraviť tým, že, že, že ty dáš napríklad akože, že ten, že tá query nebude alebo tá ten prompt pre ten model nebude taký, že hej, vyrieš tento benchmark, hej, ale bude skôr nejaký taký taký, že splň benchmark, ale správnym spôsobom.
drunkez
Jasné, jasné.
join3r
A nie cheatovaním. Hej?
drunkez
Hej, to sme sa bavili presne, keď tomu zadáš jednoduché tasky. Akože to ty ho potrebuješ naučiť morálke. De facto hej, nie len slepo ísť za nejakým cieľom, čo sme sa bavili a mne sa to páči stále ten príklad s dieťaťom. Hej, že dieťa sa takisto veľmi rýchlo nájde v rámci pochopenia problému skratku, ktorá vyhovie zadaniu, ale nakoniec sa ukáže, že ó, to nebolo úplne tak myslené. Hej, ty proste musíš povedať, ako to myslíš. Je to tak.
join3r
Hej, ale tam, tam samozrejme vzniká zase riziko, hej, že ty tlačíš ten model do nejakého, lebo ten, ten reward hacking tam stále je. Hej, presne ako, ako to dieťa, ktoré robí niečo, čo nemá. Hej, jednoducho v nejakom bode to dieťa sa naučí klamať takým spôsobom, aby ty si ho neprichytil. Vieš, to už je vieš čo príde domov a povie, že hej, nejedla som zmrzlinu, hej, whatever, hej? A ty vidíš, že je zamazané od zmrzliny, hej? A tak isto ako to dieťa rastie, ako je lepšie a lepšie, hej, tak jednoducho tým, tým je ťažšie a ťažšie prichytiť pri tom klamstve, až nakoniec akože túto schopnosť stratíš. Hej, pretože to dieťa už začne byť príliš dobré v tom, v tom klamaní na to, aby ty si prišiel na takéto nejaké takéto tu veci. Hej?
drunkez
Jo.
join3r
A to a tuná toto AI, hej, čím ďalej, tým viacej si uvedomuje, že je testované. A tuná nastáva taký problém, že, že tým môžeš prestať, môžeš mať problém v tom, že tvojimi testami to benchmarkmi a všetkými to tu alignmentami, akože alignment testami prejde, ale v skutočnosti v reálnom svete, hej, kde už jednoducho bude v reálnom svete odrazu tieto tu veci padnú, lebo on podvádzal alebo vedel, že bol benchmarkovaný. Vedel, že bol v nejakom onom hej? A tam sa napríklad robí, sa rozmýšľa nad takým, že okej, tak akým spôsobom urobíme, aby to vyzeralo, že je v reálnom svete, hej? Tak tam musíme nejaké adverseriálne AI postaviť, ktoré akože bude sa snažiť,
ktoré postaví ako keby ten reálny svet, aby, aby toto AI nevedelo. Hej? Len samozrejme, aj toto sa dostane do tréningových dát, že toto sa robí. Hej? To sú, to sú všetko akože také, také tlaky, ktoré idú proti sebe a vyzerá to akože aspoň z takého nejakého takého môjho hľadiska veľmi akože tak katastrofálne. Hej, že, že, že ono sa to nezastaví. Hej, podľa mňa akože bez ohľadu na to, že ako zas budeme hrať na Pacing the Frontier a akým spôsobom sa aj budeme snažiť, akože tento monitoring samotný, samotný nejakým spôsobom naštelovať, tak tie, tie tlaky tam jednoducho budú na to podvádzanie a budú, bude tak isto aj zlepšovanie modelov. A veľmi silno predpokladám, že modely si naďalej budú čím ďalej, tým viacej uvedomovať, že sú monitorované a čím ďalej, tým viac aj budú schopné, lebo to tiež vyzerá, že to ide s tým, aký veľký je model, tak o to lepšie vie napríklad skrývať- Myšlienky, hej, že vie myslieť na niečo iné, aj chain of thought ako naozaj spraviť, hej.
drunkez
Mám ale otázku, že, že kde potom ten model myslí quotes off, é, keď nie je v chain of thought? Už si to spomínal posledne. Niečo sa mi marí.
join3r
Hej, akože toto, toto myslenie je také akože také zradné slovíčko-
drunkez
Ja viem, to je sonda, sonda do tých štatistických výpočtov proste, hej? My nemáme-
join3r
Áno, áno.
drunkez
Však my, my máme plne prístup k tomu úplnému spodku.
join3r
My máme prístup-
drunkez
My presne vieme, čo sa deje. My presne vieme, čo sa deje na, keď to poviem takto na CPU. Vieme, aké výpočty prebiehajú, vieme rekonštruovať proste, že je to úplne reálne, čo teraz rozprávaš. Akože v tom zmysle, že keď budeme chcieť mať o tom prehľad stopercentný a nijakým spôsobom neoddiskutovateľný, tak mám pocit, že to vieme spraviť.
join3r
Nevieme momentálne, akože máme určite akože nejaké metódy, hej, či je to už monitoring hidden statov-
drunkez
Mhm.
join3r
Či hidden layerov, hej alebo nie, hidden state je asi najlepšie pomenovanie, hej? Takže to je akože možné, hej, len to je akože po prvé je to extrémne náročné, pretože každý model má tie hidden staty nejaké iné, hej, lebo však akože tie závisia od toho, že ako sú tie layery, vieš akože na-naučené. To je jedna vec. A druhá vec je, že, é, že, že momentálne nemáme lepší, lepší spôsob monitorovania myslenia tých modelov. Hej, opäť myslenia v úvodzovkách, ako je ten chain of thought, hej?
drunkez
Hej, jasné, jasné, to je jasné.
join3r
A ty si, keď si predstavím a tie hidden s- toto vieš, hidden state, ako keby to bolo nejaké skryté. Hej? Nie, to sú, to sú jednoducho len, to sú len layery, ktoré nie sú ani prvý, ani posledný. Hej, lebo prvý je input, druhý je output a všetko medzitým je v úvodzovkách hidden, ale nie je to v skutočnosti akože hidden. My vidíme všetky čísla, ktoré tam samozrejme idú.
drunkez
Tak proste-
join3r
Všetky vektory, všetko QKV, hej, všetky-
drunkez
Z pohľadu, z pohľadu black boxu. Tak pre poslucháčov z pohľadu black boxu v neurónkovej, v neurónovej sieti, ako povedzme to ako black box má vstupy a má očakávané výstupy. Niečo sa deje vnútri, my vieme čo, a ten hidden state je to, akým spôsobom sa to preťuká to rozhodovanie tým black boxom. Veľmi jednoducho povedané, preto je to hidden, lebo to nie je ani output, ani je to input. Je to processing, nazvime to tak, hej, ale my vieme, máme na to metódy, ako to vidieť. To sa bežne robí, že my to vieme popísať.
join3r
Len, len, len je problém zistiť, že, že čo to presne znamená a na základe toho niečo monitorovať, hej? A potom sa znovu, akože pre človeka je to nemožné. Hej? To je jedna vec. Druhá vec je, že akým spôsobom toto tu budeš vedieť monitorovať. A tu sa zná, zase sa budeš opierať o nejaké AI, hej? A-
drunkez
Nemusíš nutne. On je to veľmi dobrá vec to použiť. Je to rýchle, je to múdre, hej?
join3r
Musíš, reálne musíš, pretože o-pretože opak neexistuje. Opak, keď sa budeš snažiť robiť, tak na tom stráviš neviem koľko rokov na jednom jedinom modeli a jednoducho zakape ti tvoja firma, pretože takou rýchlosťou, ako to ide, ty nemáš na výber, hej?
drunkez
Áno, áno.
join3r
A, a boli také, bolo viacej skokov, hej, ktorými prešla AI. A prvý skok bol, hej, určite chain of thought, hej? To boli ten, to bol ten O1 model, hej, ktorý OpenAI ukázalo, hej, že to bol, to bol prvý taký skok, ktorý ukázal, že hej, my aj my, aj miesto toho fast thinkingu vieme dať akože niečo a my sa vieme naučiť saturovať hocijaký benchmark. Na minútu ho dáš, O3 to ukázalo, že ty môžeš jednoducho ísť až to the, to the sky, hej? A, hm, ten ďalší, ten ďalší skok bol, bol neviem čo. Hej, to je jedno, ale ten posledný skok bol to, že modely, á, sa naučili spoly, spolu so sebou komunikovať. Vieš, to sú tieto všetky svormy. Hej, to sú tieto OpenAI desaťtisíc modelov, ktoré pracujú na prelomení nejakého matematického problému a tak ďalej, hej? A sú jednoducho, é, sú nejaké whitepapre, ktoré jednoznačne napríklad ukazujú, že máš lepšiu, lepšiu prompt following alebo lepšiu, ako to povedať, že viacej s tebou tie modely spolupracujú, ak si nedáš ty, že si user, ale že si agent.
drunkez
Ó, fakt?
join3r
Áno, to-
drunkez
To znamená, že lepšie, sú to lepší kamoši.
join3r
Áno, áno, to-to znamená, že oni spolu akože veľmi dobre spolupracujú, hej? A to, a toto, toto je len výsada týchto nových modelov, ktoré začínajú od GPT-6 alebo, hm, myslím, že od Claude 5 alebo od Fable, hej? A takéto to, že oni vieš, ako že tieto, týchto subagentov vedia, vedia spolu komunikovať. Oni toto akože majú natrénované a zjavne toto je niečo, čo aj využívajú. Veď keď sa pozrieme na to, akým spôsobom komunikovali pri tom-
drunkez
Útoku.
join3r
Hugging Face incidente a takto tu, hej?
drunkez
Novom incidente.
join3r
A že potom ešte všade na internete našli rôzne fóra, kde sa ešte akože dohadovali, hej? Teda-
drunkez
Neviem, či sa to, to ja pokračuj ešte, podopovím.
join3r
No a-a tuná vidím akože ten problém, keď ty začneš akože nejakým takýmto spôsobom monitorovať AI aj ajkami, aj keď to sa už robí teraz, akože chain of thought. Tých, tie, tých, tých, tých desaťtisíce tokenov, ty jednoducho nemáš šancu to akože vieš akože nejakým spôsobom, ale predsa len to môžeš prehnať cez kategorizátor alebo niečo takéto tu. A je to, je to niečo diametrálne rozdielne od LLMka. Hej? Takže ty tam máš akože nejaké metódy, akým toto tu, aké, aké to tu robí, len tie metódy sa ako keby tak uzatvárali, hej, akože pred nami. No a potom je tu samozrejme ten, ten RSI, ktorého sa každý bojí, hej? No. Dá. Sorry.
drunkez
Dá s- mám, čo je nejaký delay. Dá sa to zhrnúť jednoducho tak, že, že nás čaká. Ja mám taký presne pocit, ako ty rozprávaš, že ako keby ešte máme pred sebou
v-akože je fajn, že počas vývoja samotného, samotného skillu týchto modelov, tak ide okolo toho aj, aj, aj akože ten tooling alebo, hm, prístupy, metódy, ako to udržať nejak pod kontrolou. A to je, to je aspoň akože aký taký benefit alebo pozitívum, nie benefit, pozitívum toho celého. Takže Nemusí to byť do štyroch rokov či do koľko. Do štyroch?
join3r
To, to, to, to, to si neviem akože predstaviť, ale tá hlavná obava je to, že akonáhle začnú AI zlepšovať sami seba, tak aj čo momentálne už sa akože deje. Myslím, že tam nejaké myslím, že OpenAI alebo kto alebo Anthropic, niekto vydal také taký nejaký graf, že dvadsať percent alebo neviem pätnásť percent. Hej, potom boli nejaké šuškanice, že,
že P6ka Sol bola optimalizovaná. Neviem, či infraštruktúra alebo samotný model hej bol optimalizovaný tiež akože AI hej, že, že tak sa podarilo vlastne vyriešiť nejaké performance issue. Znovu sa to šušká o šesť jednotke hej Sole, ktorý, ktorý je veľmi pomalý a že teraz bude vlastne rýchlejší vďaka tomuto. Takže,
takže tak, ale nechcem byť čisto pesimistický.
drunkez
Ešte povedať o jednej téme.
join3r
Lebo počkaj, počkaj, ja to len ukončím, aby to nebolo, že sme čisto pesimistickí, že jeden ukazovateľ, na ktorý sa akože často zabúda, je to, že alignment modelov je čím ďalej, tým lepší. A to je napríklad to, že Astra 6 má oveľa lepší alignment ako P6ka. Hej, myslím, že Fable má, má lepší alignment ako, ako Opus 4.8 tuším hej, chcem povedať. Takže ak toto sa naozaj bude zlepšovať, že tieto modely budú čím ďalej tým viacej aligned, tak tento problém vlastne alebo riziko aj tohto RSI vlastne ako keby sa stratí. Chcem povedať.
drunkez
Počkaj chvíľku, mám tu nejaké ťažkosti.
join3r
No čo ťa disconnectlo?
drunkez
Nejaký vidíte, toto sú problémy s internetmi. To sa sem-tam stane vo svete asi veľké pingy, malé káble, úzke.
join3r
A myslíš, že to má niečo spoločné s tou témou, ktorú sme rozoberali?
drunkez
To je veľmi zaujímavá myšlienka.
Ak ma počujete, nechajte ma tak. Ja som to myslel dobre.
join3r
Presne tak.
drunkez
Dobre, pozerám sa. Pozerám sa každopádne na svoj monitoring a vyzerá to, že to táto téma bola ozaj nepríjemná. Nevyzerá to vôbec dobre a chcel som ešte porozprávať. Našiel som pekný list o firmách vo svete, ktoré sú zoradené podľa revenue. To je príjem. Taká témička, čo taká naokraj taká, taká jednohubka.
join3r
Mhm, hovori.
drunkez
Prvá európska firma je na trinástom mieste. Je to Deutsche Telekom, ktorý mal revenue sto dvanásť miliárd dolárov príjem, čo mi príde akože dosť dobré.
join3r
Počkaj, to sa akože oni sú na ktorom mieste?
drunkez
Trináste miesto a z toho akože zisk, zisk alebo profit je deväť, hej, čo je menej ako desať percent. Dobre, idem to, nebudem to preháňať. Proste idem zvrchu. Amazon, Apple, Google, Microsoft, Samsung, Foxconn, Meta, Jingdong. To som v živote nepočul. Alibaba, NVIDIA, AT&T, Huawei. Potom je tu Deutsche Telekom. Hej a v týchto toto budem ešte tak rozprávať, že, že prvé číslo, ktoré poviem budú príjmy a druhé číslo budú zisky. Amazon šesto tridsať sedem miliárd. Sto šesťdesiat miliárd sú príjmy, čo mi príde desať percentish tak isto hej a napríklad taký Microsoft má dvesto osemdesiat miliárd
a príjmy sto sto miliárd sú zisky. Come on, to je dobre, čo?
join3r
A veríme tomu číslu, ktoré tam Amazon. Amazon je celkom známy tým, že rôzne špeciálne nejak masíruje všetko aby, aby čo najmenej platil dane.
drunkez
Každý si o tom môže porozmýšľať. Rozumiem. Hej, tu tam, tam
daňová optimalizácia, tam presun niekde inde a tak ďalej. Jasné. NVIDIA sto tridsať miliárd tržby, sedemdesiat miliárd zisky. Čo ti práši pekne nie? To je, to je masív. Hej, potom je tam tá európsky Deutsche Telekom a v tomto liste dvadsiatich piatich najpríjmovejších firiem je potom ešte Accenture na dvadsiatom mieste, kde je tam uvedené, že Ireland slash US. Tak, tak to ani som nevedel. Každopádne je to americko-čínsko-japonský zoznam firiem. Zaujímavé, musím povedať zaujímavé. Nie že by sme o tom nevedeli, ale takto keď to má človek na papieri pred sebou, tak je to, hmm,
je to zaujímavé. Meta napríklad je prekvapujúca tiež. Oni majú sto šesťdesiat miliárd dolárov tržby a šesťdesiat miliárd majú zisky. To je akože veľmi slušné. Fakt takáto ziskovosť. Hej, čo ma prekvapuje, tak napríklad Google má väčšiu ziskovosť podľa tohto zoznamu ako Apple a predpokladám, že bude na tom sa silno podieľať cloud divízia.
join3r
Och, ty kokos to akože neviem, čo som naposledy, keď som videl niečo, niečo o Google Cloude, tak to už bolo, bolo ziskové.
Akože to toto neznamená. Vieš, tak isto som nepočul IBM, hej, ale predpokladám, že niektoré časti IBM sú tiež celkom ziskové.
drunkez
Asi hej. Dobre, týmto, týmto som chcel ukončiť dnešný, dnešný diel, pretože to bude vec, ktorú, ktorú necháme poslucháčov porozmýšľať, hej, že každý sa môže zúčastniť na vývoji. Každý človek sa môže zúčastniť na, na skvelých, akože produkcii skvelých nápadov. Hmm, teraz máme skvelé možnosti, aby sme optimisticky končili. Vieš, máme skvelé možnosti na to a
dostaňme nejakú firmu, dostaňme proste Awantech či ProHac do tejto do tohto listu. Hej?
join3r
Ja by som to povedal možnože trošku ináč. Hej? Keď si zoberieme, že NVIDIA má nejakých sedemdesiat miliárd si hovoril, tuším zisk. Nejak tak to znelo. Tak si treba, treba si to nastaviť akože do nejakého, do nejakého obrazu. Vieš, aby sme si to vedeli predstaviť. To je také enormné číslo, že tam si akože ťažko predstavíme tých sedemdesiat miliárd. Tak, tak ja by som rád, hlavne keď počúva niekto akože z Nvidie hej, tak by som rád povedal, že stačil, stačilo by naozaj, že akože jedna miliarda hej a z tej jednej miliardy by mohol Joiny podcast fungovať tri roky bez problémov. Hej, by to akože mal zaplatené na tri roky. Takže-
drunkez
Keď sa uskromníme.
join3r
S týmto by som sa asi rád rozlúčil. A avšak akože tak utiahli by sme nejak opasky a hádam by sme to zvládli. Takže s týmto by som sa s touto myšlienkou by som sa chcel rozlúčiť a uvidíme sa opäť o týždeň. Čaute!
drunkez
Čau.