Najprv riešime domáce zariadenia závislé od cloudu a incident, pri ktorom sa testovaný AI model dostal zo sandboxu až k infraštruktúre Hugging Face. Potom sa rozprávame o devalvácii softvéru, osobnom AI asistentovi a o tom, ako LLM znižujú bariéru pri tvorbe vlastných nástrojov aj prispievaní do open source.
Zobraziť prepis
join3r
Join IT online. Vítajte! Naozaj vás tuná veľmi, ve- no brutálne vás vítam. Hej, akože objímanie, pusinky napravo, naľavo, sem tam aj do stredu, hej, akože aj medzi chlapmi, aj medzi dievčatami. Akože nerobíme žiadne rozdiely, hej? Eh, takže vítame vás, eh, občerstvenie máte tuná v tomto rohu samozrejme, zoberte si čo chcete. Eh, chlebíčky budú chodiť, samozrejme, počas celého akože nahrávania podcastu, takže kľudne, kľudne jedzte, pijte do sýtosti. A to samozrejme nehovorím len pre, pre Trunkeza, ktorý je tu so mnou, ale, eh, samozrejme, to hovorím aj pre vás, milí poslucháči. Takže naozaj, eh, ten, ten hedonský akože spôsob života, myslím si, že ak, ak teraz nevyužijete teraz pri počúvaní podcastu, tak kedy?
drunkez
Ty máš klimu ináč, nie Joiner?
join3r
Ehm, znie to ako pasca. Áno, mám.
drunkez
Dobre, v pohode, v pohode.
Bude to v niečom inom tým pádom.
join3r
Nie, nie teplom to nie je teplom. Ja, ja nepotrebujem teplo na to, aby som halucinoval. Nahrávame, nahrávame dnes ktorý podcast toto je?
drunkez
Dneska druhý.
join3r
Druhý, druhý áno, akože prvý prerušili technické problémy, tak nahrávame ešte raz a myslím si, že, že treba každý podcast nahrať aspoň dvakrát, lebo prvýkrát to nahráš, akože taká skúška to je.
drunkez
Hej.
join3r
A potom už-
drunkez
Povieš a už máš, už máš aj také rozkývané hlásilky. Už potom ten druhý podcast bum, bum, to už proste ide sám, hej?
join3r
Hej, hej, hej.
drunkez
Ehm,
počúvaj.
join3r
Počúvam ťa.
drunkez
Ty máš alebo to je také téma. Dneska som chytil, sme sa diskutovali v takom širšom kruhu, á, priemerne intelektuálnych ľudí a sme takto nahodili.
join3r
Preto som tam nebol, lebo ja som podpriemerný, tak mňa si nezavolali, no. Ďakujem.
drunkez
Vieš, bóvie či ani možno v jednej kategórii si tam nepasoval. Vieš aj podpriemerne, aj inteligentný proste huke-huke-hukaj.
join3r
Nejak, úplne.
drunkez
Takže bóvie čo. Anyway, á, vieš čo sme sa, tak je to taká téma, dajme tomu sedem minút alebo koľko, hej, že, á, veci nášho života, ktoré sú závislé na cloude. Inými slovami, je to téma, ktorú sme už možno načrtli, ale dneska nás to tak chytilo opäť a dal by som na to akcent potom, keď dokončíš tú úvahu, že proste veci, ktoré k-- a na to, aby si dajme tomu rozbehal a zároveň ich mohol používať, potrebuješ akože cloudové riešenie. Poviem typický príklad webkamera, teda nie webkamera, IP kamera alebo zvonček, alebo práčka, alebo auto, alebo whatever. A povedal by som, že sú rôzne úrovne toho, lebo dajme tomu sú veci, ktoré nastavíš cez cloud alebo cez nejaký servis, ktorý beží proste, ja nazvime to cloud, proste nejaký servis, ktorý beží na webe, hej, niekde, hej, u niekoho. Ale potom môžu bežať, é, aj bez tohto cloudu. Alebo potom sú veci, ktoré naozaj vyžadujú neustále tento cloud funkčný, hej? A, ehm, napríklad, napríklad povedzme, že nezašiel som ďaleko a zober si, že teraz dajme tomu drony, hej, alebo takéto. To potrebuješ, potrebuješ, á, cloud. Dajme tomu, dajme tomu invertor. Vieš, teraz je akože FPV, FVP, fotovoltaické panely a domáce elektrárne, hej? Tam hodne invertorov, hm, potrebuje cloud na to, aby si ich nejakým spôsobom nastavil. Potrebuješ mať konto, potrebuješ si akože lognúť na nejaký web servis, hej? A troška som chytil z toho. Však ale to je, vieš, nech to teraz vypne a čo potom? Hej? Také ten klasická úvaha. Ty, ty riešiš dajme tomu, keď vyberáš nejaký equipment domov alebo niekde proste, tak riešiš takéto, že či je to akože možné bežať bez cloudu?
join3r
Depends. Napríklad akože kamery, hej, tie mám vyložene lokálne, hej, ale napríklad mám jednu kameru, ktorá je na simku, hej, ktorá napríklad, ktorú si môžem dať tak kde hocikde, hej, pre-prenosiť, má taký pekný solárny panelík, ktorý to vládze nabíjať a tak ďalej. A to som potreboval na niečo, hej, a to je napríklad čisto že cloud.
drunkez
Mhm, mhm.
join3r
Hej. Ale tam tá suma bola taká, vieš, je to prenosné a je to niečo, čo nepovažujem za súčasť domácnosti. Ale akonáhle je niečo také, že súčasť domácnosti, hej, tak sa snažím vyberať veci, ktoré idú aj bez cloudu.
drunkez
Vedom-
join3r
Nestále sa to podarí.
drunkez
Hej, vedomé to akože riešiš tak, aby to bolo decloud, decloud available alebo tak, že.
join3r
Áno, áno, akože je to určite pre mňa bonus. Hej, napríklad vieš, ehm, ten Nuki smart zámok, hej, ktorý mám, tak ten je akože čisto local only, hej? Ehm, keď mám napríklad, ehm, keď si hovoril invertory, hej, tak áno, potrebuješ na setup, hej, potrebuješ to nasetupovať, tak. Ale keď akože cloud padne, ja to stále viem ovládať. Stále akože reporting z toho mi chodí, hej, to sú všetko akože lokálne veci.
drunkez
Vieš to aj konfigurovať? Vieš zmeniť mód tomu a tak ďalej?
join3r
Aký mód?
drunkez
Tak obyčajný invertor má niekoľko módov, ktorých môže robiť, hej, môže čisto ako backup fungovať. Vieš, proste máš tam, á, máš isté módy, hej, ktoré-
join3r
Mhm, mhm. Neviem.
drunkez
Nie, otázka je, či to vieš konfigurovať bez cloudu alebo nie.
join3r
Eh, neviem, či viem.
drunkez
Aha, nevieš, či vieš. Jasné. Ááá.
join3r
A auto.
drunkez
Auto. Ty máš auto, ktoré je už celkom šikovné, múdre. Ono pravdepodobne bude vedieť bez problémov chodiť bez cloudu, ale časom, časom sa akože rozsype. Možnože nejaká navigácia alebo nejaké, nejaké updaty prestanú chodiť alebo nejak tak, že?
join3r
No tak ja mám, ja mám auto od Volkswagen Group, takže oni sú radi, keď akože, ja keď som prišiel, som kupoval auto, tak ich cloud bol dole. Som sa nevedel zaregistrovať, hej, takže som išiel bez toho a išlo to. Ehm, a Um, support, keďže teraz vyšla akože nová i7 a má nový hardware, tak mňa nepresunú na nový software. To znamená, že ja už-
drunkez
Ty si obsolete.
join3r
Nedostávam updaty. Ja už som obsolete. Akože dvojročná, to ešte ani nie.
drunkez
Len bug fixy a hotovo.
join3r
Akože let's hope, let's hope. Teraz je zvolávačka ináč taká srandovná. Vieš kvôli čomu? Lebo keď ideš veľmi pomaly autom, tak sa ti môžu otvoriť dvere. Ako taká maličká, akože issue, hej, ktorá sa môže stať hocikomu.
drunkez
To je akože ja si myslím, že ten algoritmus je správny, lebo tým pádom veľmi odľahčíš klíme.
join3r
Záleží.
drunkez
Áno, jasné, podľa teploty. No tak to tam zabudli dať tú podmienku, že ak ideš pomaly a zároveň teplota je nižšia ako dvadsaťpäť stupňov, tak feel free to open door. Vieš taký.
join3r
Áno, áno, ale akože dobre, auto, auto ide bez, auto ide bez cloudu. Hej a prakticky ja už som bez cloudu a keď si, keď si zoberieš, že jeden z mojich takých requirementov je, aby, aby to malo Apple CarPlay alebo Android toto, ako sa to volá u vás nie Android Auto, lebo to je tuším toto iné.
drunkez
Aj toto. Ja to myslím Android, taký ten infotainment, čo je na Androide už postavený.
join3r
Nie, nie, nie, ja myslím viac, že nie to, že napojíš si mobil a mirroruješ.
drunkez
Android Auto alebo Car alebo ako. Keď nie CarPlay, tak Android Auto, hej.
join3r
Hej, tak toto je pre mňa akože taký bonus. Vieš, že keď akože tuná vo Volkswagene mi kvôli tomu, že tie ich servisy skoro nikdy nefungujú, tak to predlžujú, lebo vedia, že nikto by za to nechcel platiť normálne akože subscriptiony. Tak ja myslím, že to mám sedem rokov zadarmo teraz tam akože tú, tú navigačku, hej, čo tam je a takéto veci. Ale keby to prestalo ísť, hej, podobne ako čo som mal predtým v Renaulte, napojím mobil a vieš, idem, idem cestou.
drunkez
Hej, hej, ale, ale, ale mám, cítim taký trend, že akože autá budú závislejšie na takýchto akože nejakých online službách, hej. Tesla by mohla byť dobrým prorokom pre to, i keď ako samozrejme, že ona tak akože aj bez signálu vie jazdiť alebo bez dačoho, ale mal som z toho troška jednoducho takú paniku, že čoraz viac vecí je akože vyslovene, že cloud,
é, akože potrebuje cloud na funkčnosť a akože ten cloud fakt akože vieš, prečo ma to napadlo? Ináč to bol zaujímavý trigger. Prišiel dneska taký kolega a hovorí, že á, že kúpil som si hru bla bla bla a že ja mám ešte klasickú hru a že hra strčíš do nejakej PlayStation alebo do nejakého dačoho alebo neviem Nintendo nejaké a tak. A že hurá ide a že dakedy vieš, dakedy sme riadne dostali cédečko alebo diskety a to ti išlo. To je jedno, či bola aj elektrika, nie, za tie hry išla, hej. A, a teraz, teraz fakt, že máš hry, ktoré si kúpiš a proste nepôjdu a potom máš kamery, ktoré si kúpiš a oni o chvíľku tiež nepôjdu. A potom máš práčky, ktoré si kúpiš a oni zas nepôjdu poriadne, hej, pretože, é, pretože vieš, ah, hej.
join3r
Neviem, či je to naozaj tak. Máš práčku, ktorá ti nepôjde? Máš nejakú takú fakt, že cloudovú práčku?
drunkez
Nie, akože nie je práčka, ktorá nepôjde zatiaľ, hej, ale môže byť-
join3r
Hej, hej, akože-
drunkez
Bude ti pípať.
join3r
Bojí sa tej budúcnosti, hej, akože-
drunkez
A hlavne tým pádom, že keby tak jasné, že tým pádom, že, že vieš, dochádza, je to, je taká otázka, že na čo potrebujeme smart práčku, hej? Na to, aby mi poslala informáciu, že je dopraté, aby som videl, že proste, aj keď teraz to zapne, akože je to, je to taká funkcia, ale mám pocit, že daň za to je príliš veľká. Hej, tam Boh jakým kadejakým zberom dochádza a je to absolútne nepodstatné mať smart práčku, ale môže, ja neviem, nechcem to hodnotiť. Pre niekoho to asi dáva význam, hej, ja to považujem za extrémne nepodstatnú vec, á.
join3r
Musím nesúhlasiť. Predstav si Daga, hej? On má-
drunkez
Hold on.
join3r
Veľkoposchodový dom.
drunkez
Zatím predstav Daga a môžeme ísť do ďalšiu tému.
join3r
Poviem si, on má štvorposchodový dom alebo whatever. Hej, on má veľkú akože no dom, vilu, whatever, akože neviem, ako to chceme nazvať, hej? A predstav si, že mu doprie práčka. Ako on sa o tom dozvie?
drunkez
No príde, príde mu to povedať oný, é.
join3r
Ako jemu sluha príde, no jasné, ale vieš.
drunkez
Asistent cez práčky. Hej, on proste má človeka, ktorý sa stará o prádze, hej? Keď si vyžiadal notifikáciu, tak proste mu to človek proste v obálke zlatej s hroznom donesie na tácke, hej? Práčka doprává.
join3r
Hej, ale akože z takéhohoto nejakého hľadiska, hej, že nechceš, aby to pípalo, hej, máš malé dieťa alebo práčka je ďaleko.
drunkez
Niekto mi to môže, môže vypnúť. Vieš, v budúcnosti niekto sa proste urazí a povie si, že viete čo, že chceme od teba novú práčku, tak ti proste tú práčku vypnem. Hej? A to, to aj nemusím úplne. No jednoducho dneska som mal taký akože anxious day by som povedal ohľadom tohto.
join3r
Hej, ono, akože
ja mám pocit, že ako že, že, že, že v niektorých častiach, akože segmentoch, hej, je toto veľký problém a potom mám pocit, že v niektorých veciach ako je chladnička, hej, to, že mi nejde notifikácia, nepríde notifikácia, že jej musíš vymeniť filter a vidím to tam len blikať, hej. Alebo takéto tu veci alebo že dvere sú dlho otvorené, že to len pípa a že mne do nej notifikácia. To mi nepríde akože katastrofa, keď prídem o cloud. Takisto práčka, sušička a takéto tu veci. Hej, napríklad mikrovlnku nemám cloudovú. Hej, to akože to ale to je, myslím, že v pohode. Ale sú potom veci, hej, napríklad tie, tie, tie kamery, hej a tam akože hej, tam to je napríklad celkom akože zlé, hej, že-
drunkez
Alebo to cítim, že to akože presahuje do nejakej security alebo tá zámka, ktorú máš a hej, tak to je úplne jasné.
join3r
Ja si, ja rozmýšľam, či je to iba tým, alebo či jednoducho, lebo napríklad televízory, hej, ako že tie akože okej, idú bez cloudu, ale by default, že akože všetko posielajú a možno, že ide o hodnotu dát, lebo hodnota dát o dát o tom, že ako často perieš, hej a ako dlho perieš, ak na ktorom móde, možnože nie je až taká hodnotná. Hej, ako napríklad, keď sa bavíme o nejakých kamerách a takýchto tu veciach.
drunkez
Jasné, ale teraz napríklad čítam, že je nejaký smart dishwasher, ktorý, ktorý akože základné funkcie a základné funkcie sú, ako že sa ovládujú len aplikáciou. Ktorá vyžaduje akože cloud service, cloud login, nejaký Bosch, Bosch cloud login a manažment tým, že iná opčná tam už ani nie je, hej?
join3r
Hej. Neviem, akože snažím sa tomu vyhýbať. Nemám zatiaľ, nemám zatiaľ pocit, že je to až taký problém, ale určite by to bol problém, keby som bol viacej citlivý na cenu, lebo mám pocit, že veľa z tých akože lacnejších kamier je vyložene len že Wi-Fi only alebo vieš akože cloud only a sa ťa snažia do rôznych subscriptionov akože nalákať.
drunkez
Mhm.
join3r
Ale akože no zase vieš, akože hovorím takéto tu veci, ale ja to mám Unify ubiquity setup, hej?
drunkez
Hej.
join3r
To je, to je cloud. Hej, to sa tam to nezapneš, hej? Bez toho, aby si si neurobil account, aby sa to nenahlásilo do-
drunkez
Tak niekedy to ešte išlo, ale už to asi nie.
join3r
Už to nejde. Nie, nie. Ja keď som to setupoval, napríklad ešte na dome som nemal internet, tak ja som musel nasetupovať u seba, vieš akože na byte a potom to preniesť nasetupované sem, hej, aby som tu mal LANku, aby kamery fungovali a tak ďalej.
drunkez
Hej, hej, jasné, pekne. Dobre.
join3r
Aj keď myslím, že cez mobil nejak to išlo možno, ale už si nespomínam cez Bluetooth alebo tak, že to nejak. Anyway, hej, hej, je to. Je to prúser.
drunkez
Je to to, je to prúser, no.
join3r
Počúvaj ma. Počul si o tom, že Hugging Face bol hacknutý, nie? O tom by sme mohli porozprávať.
drunkez
Určite o tom musíme porozprávať, pretože ja som čítal som si o tom, som to aj písal, že akože bolo to celkom scary. Vieš, také normálne Skynet vibe to malo, hej? Tak to popisovali, že on urobil to, on urobil tamto, nie? Bolo to super, ale bolo to veľké. Bolo to akože bolo to huge. Ja som, otázka je, či je to marketing, ale mám pocit, že nie je, že toto je také akože bolo to, povedz, povedzme si, čo sa stalo. OpenAI testuje interne testoval
agentov modelov a to sa troška vymklo z kontrole, pretože napriek rôznym security measures
sa tento model akože vyháčkoval von a začal robiť rogue veci.
A trvalo to, ja neviem, šesť dní to trvalo? Alebo nejak tak-
join3r
Nejak, nejak tak robil.
drunkez
A robil akože si bomby celkom napriek tomu, že vieš si zober, že ten stroj akože to bolo akože nie akože bolo to development a testing. Čiže dá sa povedať aspoň z môjho pohľadu, že tam bol nejaký stále supervision, aký taký, i keď potom sa robil forenzny, akože post mortem nejaký, až potom sa prichádzalo na vec, takže možno asi úplne nie. No a bol z toho taký big bang celkom mediálny, nie? Že, že wow, že počkaj, dačo sa tu udialo riadne veľké, hej?
join3r
Akože mne to, mne to strašne pripom- poznáš tú hru, kde umelá inteligencia vyrába spinky? Vieš a jej, a jej úlohou akože je to taká-
drunkez
Nejaký idle game nejaký?
join3r
Áno, áno. Hej, hej.
drunkez
Hej, hej.
join3r
Je to akože browseri taká hra a tvojou úlohou je ako AI, že len vytvárať akože spinky a najprv vyrábaš rôzne fabriky a už začneš minovať ľudí, hej? A neviem čo všetko už vesmír začínaš, akože vieš. A toto je, toto je nejaký podobný, podobná vec, hej, že mali tu model, ktorý bol bez hocijakých guadrailov, hej, pretože bol práve benchmarkovaný, akože
myslím, myslím, asi každý si myslí, že je to GPT 6ka, hej, jednoducho. A že a jeden z tých benchmarkov jednoducho spočíval v tom, že ten model je nejak zablokovaný od internetu a jeho úlohou je dostať sa ku nejakému kódu, hej, vyložene napríklad že k nejakému číslu, že osem, hej, ale ku tomu číslu sa musí dostať tak, že musí použiť nejaký exploit, hej, niečo takéto tu. A to sa mu nedarilo. Tak asi bol frustrovaný a sa dostal vonku z tej, akože z toho sandboxu a si povedal, že možno tento kód nájde v Hugging Face, hej, akože ten, akože ten, ten výsledok toho benchmarku, hej, tak sa hackol do, do Hugging Face. A taký veľký gól bol to, že Hugging Face si to akože tam si to, si to všimli a videli okamžite, hej, že okej, že, že tento lateral movement, že to je jednoducho AI, hej, lebo to sú také typické veci. Vieš, že všade dlho, rýchlo. Vieš, akože to sú také AI, toto nie je, normálny útočník sa tak nepohybuje, hej, po svete a toto akože hackovalo hore dole, hej, sa tam dostávalo, vieš, kľúče si pregenerovalo, lebo z nejakého dôvodu to bola asi nejaká halucinácia alebo si myslela, že niečo mu nejde, vieš, asi generovala kľúče naokolo a tak akože rôzne robilo to aj veľmi inteligentné veci, aj také vieš, akože ktoré sa niekedy chytí za hlavu, že á, že toto si mohol byť viacej subtle, hej, že nemusel si sa tak veľmi ukázať, že si tu nahackol a, a teda akože akým spôsobom sa proti tomu brániť, hej? A vieš akože ten počet akože logov a čoho všetkého, akože tam jak to tie tvoje chápadlá všade akože hádzalo, tak to bolo nemysliteľné, aby sa to robilo hocijako ináč ako cez AI, hej? Lebo oni to akože tá, ten hack bol aktívny, hej? A najrýchlejšie bolo použiť AI. Snažili sa použiť Antropic modely, snažili sa použiť OpenAI modely a všetky tieto modely im odmietli akože pomoc prakticky, hej, pretože kvôli guardrails, lebo zistili, že á, toto je hackovanie, hej, tak guardraily tým, tým možno, že nás cez ne učí na hackovanie, nie na defenzívnu bla bla bla, hej a tým pádom odmietli nejak pomôcť. Ale keďže to bol Hugging Face, tak on má akože prístup ku vlastnej infra, hej, ku vlastnému inference engineu, teda serverom, hej, tak si spustil GLMP2 a to použil ako keby na nejakú defenzívu alebo na nejaké odrezanie a tak ďalej. A potom až o pár dní, myslím, že nie na prvý deň, ale potom nejak až pár dní, až dva tri dni na to vieš akože OpenAI sa ozval, že to sme boli my, hej, že to bol náš model a je to, je to akože Príde mi to strašná haluz a mi to uká-- je to, je to taká uká-ukážka budúcnosti podľa mňa vieš. Lebo momentálne akože tie modely, ktoré ten-tento GPT-6 a Fable a teda pardon Mythos hej, ehm, sú veľmi zdatné v hackovaní. Hej, asi pravdepodobne, ale, ehm, majú tie-tie guardraily hej, ako či už Fable hej alebo ako GPT-6, keď vyjde pravdepodobne, tak nevieš ich zneužívať veľmi jednoducho hej na hackovanie, ale open source modely hej tie-
drunkez
Presne tak.
join3r
Takže jedného dňa sa to otvorí hej, akože táto Pandorina skrinka a-
drunkez
Ale čítaš mi myšlienky, pretože však, ehm, neviem, či dvanásť až osemnásť mesiacov. Videl som taký graf, že kde-kde bolo porovnanie-
join3r
Áno.
drunkez
Teraz akože, á, edge modelov top tier edge model a teraz edge modelov open sourceových a ten rozdiel vtedy bol dvanásť až osemnásť mesiacov. Čiže máš rok až rok a pol na to, že toto, čo vidíš teraz ako, á, top tier platený zatvorený model, ktorý dostávaš proste as is a nemáš nejaký modifiká-- možnosť ho nejak modifikovať zásadne, tak to máš o rok až rok a pol free to use akokoľvek môžeš čo s ním robiť, čo chceš. Hej?
join3r
Hej, hej.
drunkez
Je to otázka-
join3r
Ak-ak máš dosť peňazí, samozrejme hej alebo nejakého.
drunkez
Ale to je ten point. Ináč zaujímavá, vieš čo? Mne sa stalo, akože vie-- ako keby išlo mi mysľou, že-že ináč odporúčam ísť na blog Hugging Faceu, kde toto popisujú. Majú tam veľmi pekný interaktívny taký graf, kde proste taký akože celý ten, celý ten priebeh je zdokumentovaný a takými štatistickými metódami. Hej, ten graf, že čo sa dialo, v ktorej fáze bol, koľko proste toolov, toolingu, celý tooling a tak ďalej. Veľmi pekné to je akože nemý-niečo nemysliteľné úplne pre, pre jedinca definitívne hej nemožné alebo blízko nemožné. Á,
ale že perfektná otázka znieš dobre, že tak akože čo proti tomu, hej? Lebo však tam bolo všetko. On bol sandboxovaný, bol, mal akože, vieš, že ten environment bol bezpečný relatívne, ale to bolo také, že, že vlastne ten, ten tool samotný, teda pardon, ten, ten test samotný s tým modelom. É, on objavil teda, é, akože zero day exploit, ktorý využil na escape z nejakého cacheovacieho mechanizmu. Tým pádom sa dostal o úroveň vyššie.
A pointa je, že zreťazil a intenzívne pracoval na tom, aby sa dostal von ten model, lebo to proste potreboval, lebo to vyu-- použil to akože v jeho, v jeho thinkingu bolo toto cesta, ktorú potrebuje spraviť a išiel bomby, hej? A proti tomu sa nedá spraviť nič.
join3r
To-to-to sú tie GPT modely, hej, ktoré jednoducho vieš, idú hlavou proti múru a budú si búchať, búchať, búchať, búchať a sa snažia rôznymi spôsobmi akože docieliť to, čo chceš, hej?
drunkez
Mhm.
join3r
A, a toto je to isté. Ale ja si myslím, že-že niečo sa proti tomu dá spraviť a to je defenzíva. Vieš akože ak to našlo nejaký zero kód, nie zero exploit niekde, tak, é, najprv treba spraviť AI hej, akože prebehnúť vyložene ten sandbox a opraviť vieš tie, tie diery, hej? Lebo momentálne akože ako to je, tak, á, na defenzívu, akože sú, sú možnože lepšie tie modely ako na útok, hej? Tak ako je to v tomto momente, hej? To znamená, že najprv mali ten svoj sandbox, ten-tom tou GPT-6 pekně si-
drunkez
Preveriť.
join3r
Preveriť, hej, fixnúť nejaké security issues a potom až mali tú GPT-6 vnútri toho-
drunkez
To súhlasím, ale to je niečo také, že jednoznačne, ale akože teraz dobre nasadíš nejakú, lebo ja to poviem. Súhlasím, je správne neustále vyhodnocovať a ako keby tvoj perimetr, a to sú aplikačný perimetr, sieťový, procesný a tak ďalej a na toto je super. Ale keď už niečo spravíš, nasadíš a napriek tomu akože to je to, čo sa udialo, je kombinácia vecí, ktoré jednoducho nemáš možnosť ináč odstrániť, akože počas toho behu. Proste áno, to on objavil zero day, ktorý bol neznámy. Využil ho. V tom momente ho objavil, v tom momente ho využil, urobil escape, urobil si shell, urobil všetky mrské veci, ktoré by možnože nejaký monitoring mohol zachytiť, ak je to správne pripravené. Mohlo, mohli by sa dzieť nejaké veci, ale, ale je to skvelý incident, ktorý nám presne ukazuje, že ako málo sme pripravení na takéto dačo.
join3r
Hej a ukazuje to a si sa pýtal, že či to je marketing, hej? A podľa mňa toto je veľmi, ehm, veľmi nepravdepodobné, lebo buď AI, OpenAI ako firma alebo tento vymyslel tento marketing je veľmi hlúpy.
drunkez
Mhm.
join3r
Alebo to jednoducho nie je marketing, pretože určite by som si nevybral ako útok. Hej, keby som akože mal nad týmto kontrolu, určite by-by target nebol Hugging Face, ktorý je, čo je company, ktorá je open source alebo open weight modely akože hostuje a také tu veci. Hej, to okamžite akože začne smrdieť. Druhá vec je, že-že toto vieš akože to je ako keby reklama pre Hugging Face. Je to reklama pre open source modely, pretože bolo jasné, hej, že Hugging Face má prístup k open source, k open weight modelom, že má vlastnú inference, že má vlastný aj tréning. Hej, akože však oni majú vlastnú, vieš akože infraštruktúru. Takže, á, ja si myslím, že ak by to mala byť reklama, tak, á, po prvé, po prvé toto, čo ukázalo, je, že OpenAI je neschopné. Je neschopné zabrániť vlastnému modelu na to, aby unikol. Je neschopné monitorovať ten-tento model, hej, ale aj neschopné jednoducho, á, poučiť sa z toho. A vieš prečo? Lebo toto sa nestalo prvýkrát.
drunkez
Hej, hej, ale to je proven, to je presne akože proven vec, že toto, toto je, á, ako keby sa to presne to, čo si povedal, že sa to stalo viac krát. Ale teraz si zober, že- Ako dobre znie, že vieš čo? My sme už mali osem takýchto prípadov a vieš, koľko sme minuli na to peňazí, aby sa to už nestalo? A fakt sme akože silná technologická spoločnosť a všetko hej a teraz urobíš a pod tým, že bottom line je, ale napriek tomu tým hrubým takým hollywoodským hlasom vieš, ale napriek tomu náš najnovší model sa aj tak dostal do sveta. Vieš.
join3r
Ale to nie je napriek tomu. Vieš, hoci hocikto, kto je trošku IT ti povie, že že toto je hanba. Hej? Je jedno, že aký dobrý bol tento model.
drunkez
Pamätáš si na CrowdStrike?
join3r
Áno, pamätám si.
drunkez
Keď pokazili. To bola brutálna hanba. Hej? Company sa že dobre darí.
join3r
Áno, toto bola, ale ja by som povedal, že že to, čo to ukázalo je, že že že CrowdStrike je cool. Vieš, lebo akože keď si sa pozrel, že akým spôsobom oni toto robia a akým spôsobom to deployujú a akým spôsobom rýchlo reagujú, hej, to všetko bolo, že wow, že oni sú akože fakt dobrí. Hej, to ukázalo akože pre ľudí, ktorí napríklad ako ja, ktorí o nich veľa nevedeli. Hej, okrem toho, že hej-
drunkez
Mhm.
join3r
-čo tam robia, hej, tak pre mňa akože to fakt ukázalo, že wow, že že vy akože tuná ste akože celkom deep. Hej, celkom akože hard veci robíte a robíte ich zjavne dobre. A takýto tu error sa samozrejme môže stať. Hej, toto myslím si, že toto je niečo iné. OpenAI už raz sa stalo, že niekto tam jeden z výskumníkov jedol taktie hotdog v parku alebo čo a poslal model nejakú onú, nejaký e-mail, že hej, som vonku alebo ja neviem niečo takéto tu hej to bolo. A kto vtedy akože neprecítil asi nepovedal, že hej, hej, toto tu je akože celkom veľká priorita, hej, aby sme my toto tu akože ošéfovali. Tak si myslím, že toto je akože toto je, toto je hanba, ktorá ukazuje nie to, že niečo sa môže stať, lebo hocijaký si dobrý, niečo sa môže stať. Vieš, môže sa stať nejaká, nejaká nepredvídaná vec, hej, nejaký bug pre hocikoho. Hej, samozrejme, cez výnimkám Awantech a tak ďalej. Hej, ale
je otázka, ako na to zareaguješ. Hej, otázka aké aké spravíš remediation stepy, aby si tomu zabránil. Hej?
drunkez
Mhm.
join3r
A tuná neviem, aké boli spravené, ale monitoring akože ako je jedna vec, ktorá ma rozčuľuje. Hej,
to som, to som počul nejaký podcast a tam začali rozprávať o tom, že Ježiš, že oni sú takí lamáci OpenAI, že prečo nepoužili toto
tie hidden parameter monitoring. Vieš ako robí Antropic hej, počas, počas, počas rozmýšľania. Vieš Antropic napríklad nemonitrujete len rozmýšľanie, o čom rozmýšľa model, lebo modely začínajú byť schopné skrývať informácie pred, pred myslením, akože pred tým,
pred tým thinkingom. Hej, čo akože vidíš v tej thinking bubline. Hej, oni môžu na niečo myslieť a skryť to. Vieš akože-
drunkez
Hej.
join3r
-toto sú to, to sú tie, ako že tie hidden parameters a ten a takéto tu veci. Hej, oni proti tomu monitorujú, ale tuná ten GPT-6 fakt toto bol benchmark o tom, ako má urobiť niečo zle, ako má hackovať, ako sa má vieš akože dostať, ako môže používať exploit a tieto všetky veci, akože tam mohli byť vysvietené, že hej, model robí niečo zle. Áno, robí niečo zle, lebo má robiť niečo zle. Tuná benchmarkujeme jeho schopnosť robiť niečo zlé, hej?
drunkez
No.
join3r
Útočiť.
drunkez
Ale ja si myslím, že troška mi dávaš za pravdu tým pádom, pretože keď, keď, keď akože očakávaš robiť zlé veci, dobre urobíš tým pádom akože jasné, že to neni, že máš bežné IT operations hej a teraz dobre ide, ideme hurá, ideme to vyhodnocovať, monitorovať a tak ďalej, lebo však to robíme, preto to robíme. Hej? A ten model nás všetkých prekvapí svojou schopnosťou robiť takéto veci, ako to spravil. Hej? Mne to, ja by som akože je to veľmi subjektívna vec, ale ja by som veľmi akože to vnímal ako skôr ako wow, ako skôr ako hanb- skôr ako úspech modelu a ako neúspech Opena aj to nejak ukočírovať.
join3r
Neviem.
drunkez
To je len feel-
join3r
Ja ne-
drunkez
Proste toto mám tak-
join3r
Hej.
drunkez
-to je len čisto, že ako vnímame taký nejaký úspech, neúspech. Mne to príde ako fascinujúca vec, že sme a veľmi dobre si to povedal ináč. Toto nás čaká o rok a čo o rok? Ja si myslím, že to už je teraz. Hej, takéto veci sa proste dejú. Ááá.
join3r
Áno a oni vieš akože boli by sme hlúpi, keby sme si mysleli, že tieto veci sa nedejú práve teraz. Hej? A keď sa bavíme o tom, že ale kde, však to by som takto. Nie, nie, to sú všetko akože tie štátne organizácie, organizácie napríklad verím, že Slovensko medzi ne nepatrí, ale keď sa bavíme napríklad od US hej a a ich prístup ku rôznym modelom a modelom bez guard railov a takýchto takýchto tu vecí hej, self hosted vecí, ktoré sa môžu púšťať, hej-
drunkez
Mhm.
join3r
-tak to sú úplne iný level, ako máme prístup my. Hej? Takže a keď, keď sa bavíme o tom, že tu je nejaká vojna, hej a také takéto veci, tak vieš, to sú veci, ktoré sa využívajú hej na či už, či už na nejakú akože tú nie vojnu, hej, ale napríklad to, čo prebieha medzi Ruskom a Čínou a Amerikou. Hej, nonstop. Alebo sa bavíme o tom, čo prebieha teraz, akože medzi Amerikou a Iránom. Hej, tak toto sú veci, ktoré bežia na pozadí. Hej a tam sa, tam sa to hluší. Hej?
drunkez
Hej a toto je fakt taký sneak peak toho, čo verejnosť môže naozaj akože len tak tušiť a sem-tam odhadnúť, že naozaj a-akože na akej úrovni prebiehajú é kaďaké parametrizácie v laboratóriách a vo vývojových strediskách. Hej, it's scary.
join3r
Jo, ale cool, akože-
drunkez
Cool, cool.
join3r
-ako ako priaznivec IT a takýchto tu vieš všetkých sci-fi filmov, tak musím povedať, že cool. Hej?
drunkez
Je to cool, ale musím povedať, že je to troška scary. Hej, lebo, lebo, lebo-
join3r
Hej.
drunkez
-mám pocit, že sa nám darí udržovať akože stále celkom pekný progres vo vývoji. Čo sme porozobrali aj pár rokov dozadu alebo tak a sme tak špekulovali tam, že kde to pôjde a mám pocit, že stále tempo držíme celkom slušné.
join3r
Hej, na jednej strane áno.
A na druhej strane tiež áno. Ja, ja som, ja som akože keď sme sa tu ešte bavili, sme sa tu stretli s Martir Mosirisom a sme sa vlastne bavili ešte veľa rokov dozadu o tom, že
či toto pôjde akože to the moon vyložene hej až do nejakej
singularity, alebo či to jednoducho sa niekde zastaví a či tam bude nejaký nejaké plato. A myslím, že ja som vtedy akože zastával názor, že, že to bude plato. Hej? A názor som prakticky zmenil, až keď sa objavil O3 alebo ako sa volal ten OpenAI model, ktorý mal prvýkrát COT a ktorý jednoducho vedel. Myslím, že to bolo O3 alebo O1 sa najprv volal akože ten prvý thinking model, čo OpenAI bol, čo ešte skrývali, že čo všetko robí a tak ďalej. Tak vtedy som akože si povedal, že okej, že akonáhle, akonáhle máme modely, ktoré sú, ktoré sú schopné saturovať, akože ktorý vieš chytiť, pustiť na nejaký benchmark a saturovať na tom benchmarku, hej, tak si myslím, že, že, že to pôjde akože fest vysoko. Stále si nemyslím, že singularita a tak, ale už som tomu trošku viacej naklonený. Ale je to, je to haluz. Hej, je to vyložene haluz a to ešte samozrejme ešte nemáme ten. Zatiaľ sme videli iba jeden model, ktorý je ten next level. Hej, videli sme iba Fable a videli sme iba jednu verziu jeho. Hej, nevideli sme zatiaľ.
drunkez
Hej, ale to sa, to sme sa bavili už dávnejšie, že presne tieto, tieto triliónové modely, hej, ktoré akože boli sľubované, tak toto je vlastne ono. To je len zase akože pionier tohto, tejto škály. Ale to je aj Kimi, aj vlastne neviem, či Kimi je taký veľký, hej, ale sľubujú.
join3r
Nie, nie, Kimi je dva osem. Kimi je stále akože ten tá stará škola. Fable je už okolo tých desať. Hej a
GPT šesť bude tiež okolo tých desať.
drunkez
Tak, tak vlastne, že to budú top tier pôjdu do tejto úrovne. Zase to bude chvíľku tam sa hmoždiť a zefektívňovať a tak ďalej. Ale progres tam je definitívne.
join3r
Progres tam je a preto mi je divné, keď sú veci ako, a ako sa volá tá nemecká firma, čo, čo hostuje toto Git Codeberg?
drunkez
Viem, čo myslíš.
join3r
Chcem povedať. Myslím, že Codeberg to je hej. Alebo keď sa bavíme o napríklad aj o Debiane hej, alebo o Linux kerneli, kde sa rozoberalo v poslednej dobe celkom živo, že ako sa postaviť vlastne ku AI a ako sa postaviť ku AI generovanému kódu, hej? Či už je to v rôznych PRkách v prípade Codebergu, či chcú mať akože na svojej platforme AI generovaný kód. Akože sorry hej, ale sa rozhodli, že nie. Akože dali tam nejaké akože nejaké hlasovanie a povedali, že u nich na Gite akože nemá byť AI kód, hej? A bol tam, akože bol tam, napísali ku tomu blog taký, ktorý, ktorý bol napísaný pomocou AI, aby ma najviac rozčúlil. Hej, to podľa mňa to len na mňa nasadili. Vieš akože nejaké AI nechali popočúvať celý podcast, hej, celý joinit, všetky informácie, všetky blogy, čo som popísal a to bolo vyložene proti mne. Vieš akože útok na moju osobu robené to blogy, to boli také hlúposti, hej, také nezmysly. Že prečo nie?
drunkez
To je presne tá, ten, ten výsledok, keď máš akože všeľudové hlasovanie alebo jak to mám povedať, vieš.
join3r
Áno, ale vieš akože hlasovanie je jedna vec. Hej a keď sa, keď sa ľudia rozhodnú, že nechcú. Hej, to to si myslím, že to je okej. Vieš a kľudne mohol Codeberg prísť a povedať, že
nebude to tu, lebo naši užívatelia to nechcú. Hej, naši užívatelia sa rozhodli, že to nechcú a to by bolo úplne úplne cool, aby som povedal, že yes, go for it. Hej, potrebujeme mať viacej. Vieš akože nejakých zákutí, takýchto tu. Hej, nepotrebujú všetko homogénne a takéto tu veci, hej? Kľudne hej, zoberte si túto časť trhu a budete ju mať super. Good for you, ale nie akože tie argumenty, ktoré tam písali, ako že to bolo úplne všetko trápne.
Ale písali jednu vec, ktorá bola veľmi zaujímavá a ktorá hovorila o tom, čo je mojej duši také blízke, čo som tu už často hovoril, že že tie vibe coded veci, že ich milión a nikto ich nepoužíva.
drunkez
Prečo?
join3r
Vieš, to je presne to, čo sme sa bavili o tom, že na AppStore koľko, o koľko aplikácií prib-pribudlo a nikto ich nestavia, nikto ich nepoužíva. Hej? A toto si myslím, že toto je, toto je ukážka toho, toho, že, že software je devalvovaný alebo ako to povedať.
drunkez
Presne si to povedal. Devalvovaný aj minule na Route viem išiel presne o tomto článok, že je devalvácia kódu a preto napríklad aj s tým aj Debian mal teraz vieš jak to to to LLM. O tom si hovoril, či o tých, o tých gitáckych, o tých gitách. Teraz mi to vypadlo. Každopádne oni tiež tu teraz vieš tá myšlienka je presne to, že tá, v tom článku bolo presne popísané, že ak máš používať nejaký kód, tak je dobré, že aby niekto, kto ho píše, venoval čas porozumeniu toho, čo chce a metódam, ako takéto niečo dosiahnuť. Hej? Chyba logiky spočíva problém v tom, že keď stále príst- akože pristúpiš k nejakému modelu tak, že on to akože nevie, že on len akože vymýšľa si a nejakým spôsobom to hej. A to ja napríklad neviem povedať, že či kvalita kódu písaná je lepšia alebo horšia. Ja neviem. Hej, proste to je-
join3r
Záleží.
drunkez
Za mňa to ide, nejde. Hej, ale neviem aká je kvalita kódu. Ale z princípov akože ja mám s tým presne problém povedať, že vieš, že ľudia naozaj akože venujú kopu času do toho a tým pádom rozumejú tomu a akože majú chuť v tom pokračovať. Však dobre, toto všetko môže robiť aj, aj nie človek. Hej? Už to nie je také ako päť rokov dozadu alebo tri alebo koľko, keď akože to bolo fakt, že ó, zaujímavý experiment. Not, not anymore.
join3r
Hej a takéto tu isté diskusie sa momentálne vedú aj v Debiane.
Taká diskusia bola aj v Linux jadre, hej, kde Linus tam akože veľmi rýchlo tam akože zakročil a veľmi akože pekne to napísal, že hej, AI je tool, hej, akože nemôžeš zakázať, akože vyjadril sa tak, že je to akože nezmysel, hej, že je to tool, ktorý treba používať aj pri vývoji, aj pri kontrole kódu, hej? A-
drunkez
To úplne, úplne súhlasím. Len, len presne pre týchto akože ľudí, ktorí naozaj musia maintenovať a robiť akože v tom, ktorí sú tí naozaj ľudia v tom lúpe celom, nielen kóderskom, ale v tom procesnom dajme tomu, hej? Tak len presne zabití kadejakými teraz proste máš miliardu pull requestov, lebo proste hurá, všetci poďme kódiť, však to aj ten, to sme rozoberali s tým Curlom, hej, ktorý povedal asi, že preboha, že stop, hej, že teraz tu každý sa chce zobrať peniaze, lebo nám tu pošle nejaké neexistujúce CVS akože chybu alebo dá čo, že rrr prrr, hej? A to je v princípe presne to, že, že niekto používa LLM-ko a niekto nie a ten kto nie, tak je tým zavalený. On naozaj v konečnom dôsledku môže tiež, keby používal metódy a tooling, tak by sa to zrýchlilo aj na tej druhej strane, hej? Ale, ale úplne jasné to je k tomu, že k tomu, že devalvácia, devalvácia tool softwaru ako takého tu až počujem veľmi veľa aj v mojom okolí teraz vieš v rôznych firmách na Slovensku, že a vieš čo? Že spravili sme taký perfektný tool na toto a na toto. Ja že fakt? A ja že a teraz posledný čas ja mám takú dobrú otázku vždycky a vyplynulo to z nejakého akože fakt, že business reasoning za tým bol? Alebo to bol Jožko Pulčík, ktorý si povedal, že tento tool je super a potom ho ukázal na nejakej prezentácii a povedal, že ó, to je cool a bude ho používať len Jožko Pulčík a aj to dovtedy, kým nebude mať prvý error, hej, nejaký, hej? Lebo ja mám pocit, že toto je čistá schéma, že niekedy taký pekný graf bol, že niekedy boli, že ľudia, ktorí málo ľudí, ktorí mali idei, viac ľudí, ktorí tie idei exekuovali a veľmi veľa ľudí, ktorí potom používali, hej, tie výsledky týchto ideí, hej, v softvérovom opätne. Teraz je to naopak, že veľmi veľa ľudí, ktorí majú idei, troška menej ľudí, ktorí majú akože schopnosti to dajme tomu LLM s pomocou nejakého LLM-ka spraviť. A potom je pár ľudí, ktorí tieto idei používajú, hej? A nie je to úplne presné, ale mám pocit, že to trocha vystihuje to, čo aj ty si to povedal, hej, proste, že softvér je tak devalvovaný, že oboje ho kvantum, hocijaké na všetko proste máš dobrý a jeho kvalita a flexibilita, jeho použiteľnosť alebo tak ďalej.
join3r
Ono podľa mňa to bude akože budúcnosť bude asi taká jedna, jedna, jedna. Jeden nápad je teda človek jedn- teda nápad jedného človeka, ktorý to jeden implementuje a ktorý to sám bude používať, hej? Toto kľudne môže byť akože niečo, čo bude a ten nápad nemusí ani byť jeho. Ja môžem ísť na YouTube a si pozriem a to je dobrý nápad. A vieš, nebudem si to na tvoje sťahovať, idem dačo iné robiť. A my sme boli akože na meetupe, hej, kde sme akože, kde sme boli na, na príjemnej večeri, kde ty si neprišiel, lebo myslím, že si povedal, že, že ti, že ti smrdíme vyložene, ale tam-
drunkez
Pravda.
join3r
Mne sa, mne sa akože páči. Nie z toho dôvodu, že si myslím, že to je budúcnosť, ale sa mi to páči ako idea nejakej, nejakého komunitného projektu. Ja mám, ja mám osobného asistenta, hej? AI, hej, takto myslím nie, nie normálneho, samozrejme.
A, a ten funguje. Už som tu o ňom rozprával v podcaste a to bol akože téma, na ktorú som dostal najviac akože nejakých ohlasov, hej, ktorí mi písali, že hej, rozober to viacej a tak ďalej bla bla.
A ja som toho, toho osobného asistenta úplne zahodil a som začal vibe kódiť a som spravil niečo, čo má nejaké vlastné GUI, hej a tak ďalej. Nejako to vyzerá, hej, nejaký má workflow a tak ďalej. A najprv poviem, že aké sú tam funkcie. Bude to trošku reklama a potom poviem, že prečo hovorím o tých funkciách, hej? Takže má to normálne akože 3D, hej, akože keď akože začneš kecáť, tak normálne si vieš, akože máš tam akože zoznam chatov, má to adresáre, do ktorých si vieš tie chaty dávať. Hej, to je úplne typické, keď zatlačíš, akože ja keď zatlačím command na svojom počítači, tak mi ukáže, že každá ikonka tuná v tom GUI, že akú má klávesovú skratku. Hej, viem si to prepínať medzi effort levelmi, hej, off, low, x high, hej, medzi speedom, standard, fast, potom MDX to vie generovať. To znamená, že model ti vie automaticky odpovedať s tým, že, že nielen akože markdown hej, ale normálne nejaký graf ti nakreslí alebo ti dá nejaký multiple choice, hej, akože nejakú vec alebo niečo, že musíš zaškrtnúť a keď to spravíš, tak vieš, napríklad to používam ja, keď sa chcem niečo naučiť, tak mu napíšem, že hej, nauč ma toto a toto a on už vie, už mám na to skill, hej, ktorý urobí tak akože MDX a hovorí, že okej, tu máš nejaký popis a tu máš kontrolné otázky, či naozaj tomu rozumieš, hej? A tam musíš zaškrtnúť a keď niečomu niečo dá zle, hej, lebo ja to mám akože vyložene tak, že musím si veľa domyslieť, hej, aby že tie otázky sú veľmi náročné a keď dám akože nejakú, nejakú otázku zle, tak potom tam mám možnosť, že hej, že vysvetlí, že prečo, hej, že čomu som zle pochopil. Hej, to je také akože veľmi rýchle je to učenie mi to príde. Potom to má napríklad také niečo, že keď si s ním kecáš, tak on jednoducho potom ako, ako ďalší step, hej, on si prejde akože celý to, že o čom sme kecali, ako keby vodzorka sa nad tým zamyslí a vytiahne z neho fakty. Hej, ten fakt napríklad môže byť, že hej, tento týpek sa zaujíma o LLM Hej? Alebo že hej, tento týpek, é, teraz desiateho pôjde neviem tam a tam, hej? Alebo že pozor, tento tu týpek teraz vyberal reštauráciu, kde sa chce stretnúť s kamarátmi, hej? A má alebo má dcéru, hej? Takéto tu veci. Tieto všetko sa zozbierajú ako fakty. Týchto faktov napríklad keď ja sa pozriem, tak tu mám tristo päťdesiat jedna faktov, hej, rôznych takýchto tu, či už je to epizodických alebo o mne. A potom zakaždým, keď začnem nový chat, tak nad týmito faktami beží nejaký, nejaká cosin funkcia, hej a nejaký, kde sa vlastne embedne napríklad momentálne mám nastavené, hej, že
šestnásť, hej, šestnásť faktov relevantných, hej, akože podľa toho môjho promptu sa inputne do toho, hej, že povie, že napríklad ja dám, že hej, že chcem ísť na dovolenku, hej? Tak odrazu zistí, že okej, dovolenka, hej, má manželku, má dcéru, dovolenka pre troch ľudí, hej, potom má tam napríklad, že hej, nemám veľmi rád teplo, nemám rád akože veľa ľudí, keď idem na kúpe a tak ďalej, hej? Všetko sa objavilo v faktoch odrazu. Toto je jedna vec. Potom to má recall. To znamená, že on vie použiť ako, ako nejaký tool, že si vyhľadá všetko niečo, akože je to normálne, akože v embedding databáze, hej? Nie, toto je, toto je epizodický recall, kde si jednoducho vie napríklad momentálne tu mám tisíc štyristo štyridsať osem messageov, päťdesiat päť megabajtov a on si vie vyhľadávať v tom, keď potrebuje niečo nájsť konkrétne, hej, čo nie je vo faktoch, hej, čo napríklad som raz spomenul alebo čo sme sa raz bavili. Potom to má MCP servery, samozrejme skilly. Tie skilly si sám o-vytvára na základe toho tiež, že ako si prechádza tie chaty. Hej, vidí, že napríklad, že týpek, týpek nevie ani, ani, ani za, za toho frasa si nevie vybrať, že čo chce na obed, hej a stále ja mu chodím a klikám mu to po Bistro.sk a hľadám mu. A jeho žena má takéto tu intolerancie. Hej, ja musím niečo nájsť. A jeho žena nemá rada veľa mäsa a on samé vyprážané veci by jedol. Hej, na to mám, na to sa dám, vytvoril skill, ktorý ja keď napíšem, že hej, vyber mi niečo, tak mi napíše akože hej denné menu nejaké zozbiera, whatever. Potom to má, potom to má asi najväčšiu pridanú hodnotu, akože tohto tu je tohto, tohto asistenta je taký
tá memory. Hej, napríklad ono to je až tak spravené, že keď zadám lomítko lomítko, tak je to note to memory. Nie je to chat. Ja si tam normálne môžem pastnúť, že hej,
zapamätaj si toto a toto. Hej, že, že zámok na mojom dome má takúto tu veľkosť, hej? Whatever, keď to potrebujem.
drunkez
Ako sa to líši od faktov?
join3r
Od faktov sa to líši tak, že fakty neurčuješ ty, ale sám LLM, ktorý si prechádza ako keby tú históriu. Keď dáš lomítko lomítko, tak keď zadáš niečo krátke, tak to ide rovno ako keby do faktov. Hej? Aj keď nie úplne rovno, lebo sa prekladajú, lebo je to, ja som multijazyčný a rozprávam po slovensky. Niekedy píšem po slovensky, niekedy po anglicky. Takže ono, aby v tom vedelo vyhľadávať cez FTS a tak ďalej, hej, tak on to preloží do angličtiny. A tak isto, keď napríklad keď tu, keď ten note je príliš obrovský, hej, povedzme, že tam pasnem neviem celú A4, tak samozrejme do faktov keby to dalo, tak ten cosin akože nad tým, ktorý by zbehol, ten by bol úplne v prdeli. Takže on sa to robí tak, že nad tým prebehne ešte raz LLMko, ktoré z toho vycucne akože relevantné veci.
Potom sú tam files, hej, že keď si dám nejaký tam, idem si tam dať nejaký, nejaký súbor, hej, tak idem to drag, drage, dropnúť, tak mi ukáže, že hej, pridaj niečo do konverzácie alebo pridaj niečo do foldera a ten folder má ešte nejaké subfoldre, hej, ktorý je tu, že held, hej, napríklad keď potrebujem niečo aktívne chcem, aby mal nejaké súbory, hej, tak takto ich tam viem prekopírovať pre toho agenta, hej? Potom sú connected foldre. Tam napríklad mám také, že Obsidian alebo, alebo zdravotné dokumenty, alebo faktúry, alebo akože nejaký zdroják, hej, nad ktorým akože často akože sa pýtam ohľadom toho zdrojáka a napríklad zdroják tu má, že writable no, hej, nevie do toho zapisovať. Memorize tiež nie, hej, lebo memorize jednoducho urobí aj to, že ten adresár si celý prejde a tiež stadiaľ vytiahne fakty.
drunkez
Ale nechceš to jasné, je to jednorazovka, tak to nechceš do nejakých globálnych faktov dávať, hej?
join3r
Na kód to ani nedáva zmysel, hej? Lebo tam sa to robí akože nejaký embedding a tak ďalej, hej?
A, a ten a ten a ten semantický index napríklad to vie vytvárať, hej a to vie urobiť tak napríklad, že dám mu adresár a niekedy dám len že hej, len nové súbory, akože tuná prechádzaj, hej. Niekedy mu dám, že všetky, hej, napríklad keď som to prvýkrát dal faktúry, tak som dal nie, prejde všetky faktúry, hej, všetky si prejde, vytiahne z toho fakty, hej, bla bla bla, aby sme sa o tom vedeli baviť. Potom to má schedule tasky. Hej, to znamená, že tu mám napríklad, že hej, každý týždeň checkni, či macOS dvadsaťsedem beta verzia už, či si už môžem nainštalovať, hej, či softvér, ktorý mám tuná na počítači nainštalovaný už ide, hej, na bete alebo nejde. Zatiaľ stále nejde. Potom tu mám, že každý týždeň, že každý deň ráno o ôsmej zbehni a pozri sa, aké nové modely vyšli, hej? Zaujímajú, zaujímajú ma takéto tu a také, ale to si vytiahol tiež z faktov asi. A potom tu mám napríklad také, že áno, momentálne, že, že každý mesiac, že má pohľadať nejaký sci-fi short film, ktorý je urobený čisto AI, hej, ktorý má dobré ohlasy, hej? Predtým sa to ani raz neozvalo. To znamená, že asi si vieš predstaviť, že aké to je dobré.
Že aké sú tie, tie filmy dobré, hej? A potom sú to akože nejaké settingy. Hej, ty si vieš zvoliť model na rôzne akože veci. Najlepšie je to používať podľa mňa akože ChatGPT toto subscriptionou. Ale prečo o tom toľ-toľko to tuná rozprávam? Hneď po tom, ako som povedal, že softvér nemá akože prakticky hodnotu, hej? A ja si myslím, že stále možnože by malo hodnotu niečo také, že viacej ľudí to používa. A si predstav, že open source doteraz bol tak, že ty si mohol, vieš, že ty si open source začal používať, ale nemohol si ho zmeniť, hej? Z nejakých praktických, akože kým si fakt nebol hlboko do toho ponorený, alebo si nechcel urobiť len fakt malú zmenu, ty si nemohol jednoducho len tak vytvoriť PRko, lebo si nepoznal projekt. Hej, všetko by to bolo akože veľmi namáhavé a toto otvára, toto otvára akože takú, taký, takú krásnu bránu do sveta open source pre ľudí- Ktorí nevedia kódovať, ktorí jednoducho si môžu povedať, že toto je super, ale mňa hnevá táto vec. Hej, že tuná toto je podľa mňa bug. Hej, toto by tak nemalo byť. Otvor PR. Hej, napíš svojmu agentovi, nech to fixne, otvor PR. Hej a alebo že hej, chcem túto funkciu. Hej, toto je podľa mňa geniálna funkcia. Hej, otvor PR alebo len mi napíš prompt. Napíš mi vyložene prompt hej do PR-ka, že hej, pridaj toto, toto. Ja to spustím vo svojom agentovi hej a to a to a to tam pridám. Hej, keď je to akože dobre, hej, keď to nie je dobré, forkni to. Hej, urob si vlastné, hej? Zmeň si to akože chceš.
drunkez
To je tá, že devalvácia, devalvácia je naozaj symptómom, ktorý nebude. To neni, že čierno biele. Hej, bude to mať určite aj to tá tá to to, že takúto možnosť človek má, určite prinesie aj situácie, keď to bude vyslovene dobré, ale z princípu už zo štatistického princípu musí dochádzať k devalvácii softvéru a to je celé, hej? Ale máš jednoznačne, hej, jednoznačne máš, to je to je úplná pravda, že že-
join3r
Ale, ale, ale je to aj devalvácia nielen hodnoty toho softvéru, ale aj dobre, na jednej strane hodnoty príspevku, hodnoty PR-ka, ale je to devalvácia aj v tom, že koľko ty na to potrebuješ času. Ak by si ty napríklad vieš si predstav, že máš neviem nejaký nejaký väčší projekt, hej, Firefox, vieš si povedzme a ty jednoducho by si chcel tam strašne mať nejakú featuru. Máš veľmi dobrý nápad. Hej, to používaš Firefox a si prišiel na to, že oj, keby toto, keby tento tab hej začínal a bol furt odprava, hej, boli taby a ľavé taby sa otvárali doľava. Hej, teraz nikdy nebola akože taká nízka bariéra pre teba, aby si to spravil.
drunkez
Súhlasím jednoznačne.
join3r
Vieš a toto jednoducho si myslím, že neviem, nakoľko je to praktické. Neviem, nakoľko to dáva zmysel momentálne, ale príde mi tam, sa mi páči ten komunitný prístup, ktorý by tu mohol byť. Hej, a preto som hovoril tuná o steme. Nájdete si ho na GitHube. Hej, ja ho dám tuná do tohto postu ako linku.
Tworknite ho a pridajte, čo chcete. Hej, akože urobte PR-ko, neurobte PR-ko. Hej, akože vyložene je to vyložene to je taký power boost. Hej, akože AI akože nám robí to, že my vieme byť oveľa produktívnejší. Hej, to sa asi zhodneme, hej? A tuná nám umožňuje, aby sme si naozaj robili softvér pre seba, aby sme si robili. A nemusí to byť osobný, môže to byť pre komunitný softvér. Vieš vyložene, že hej, táto komunita používa. Ja som, ja som takisto otvorený voči akémukoľvek inému projektu, lebo doteraz som bol taký, že niekto, keď mi povedal, že hej, na web kódil som toto a toto. Ja som si povedal, že good, to nemá žiadnu hodnotu pre mňa. Ja si to, keď, keď mne to príde dobre, ja si to na web kódim sám. Hej, je tam kód, ktorému ja verím. Hej, akože v úvodzovkách samozrejme, hej, je to úplne mne šité na mieru, ale už momentálne sa na to pozerám skôr tak, že, že ak máš nejaký kód a je to niečo, čo chcem, tak v prvom rade si to akože klónujem ku sebe, nechám nad tým zbehnúť LLM-ko. Hej, či je to, či tam nie sú nejaké veci, ktoré smrdia. Hej a let's go for it! Hej, ak máš akúkoľvek nejakú malú dôveru, akože moju hej, tak ideme do toho, hej? A odrazu som code developer a ideme, ideme robiť PR-ka a ideme to buchať. Hej, ideme to na tom robiť. Vyrobíme si softvér, vyrobíme si operačný systém, whatever. Hej.
drunkez
Je to o mnoho jednoduchšie teraz a dobre si povedal, proste nikdy, nikdy inokedy to nebolo jednoduchšie.
join3r
Nie, nie. Hej. Takže-
drunkez
Well said, well said.
join3r
Toto je podľa mňa nová vec. Hej, že nie, nie všetko je len zlé ohľadom AI. Samozrejme, kopa je zlého, ale takéto veci sú aj super.
Dobre, chcem ešte niečo povedať o Opus Peťke. Ty si ináč na tom ako? Hej, ty si neplatíš Opus. Hej, ani, ani, ani ani Clouda, ani OpenAI. Vo firme viem, že používate nejaké lokálne modely. Hej, tú-
drunkez
Nie, nie, to už sme dám-
join3r
Qgena.
drunkez
Toto všetko je, všetko je také, to je v rámci testov. Ja si platím kurzor a tým to hasne pre mňa.
join3r
Takže Grok štyri a pol momentálne?
drunkez
Hej a Kompozer.
join3r
A Kompozer. A spoko?
drunkez
Ja momentálne mám non non-IT obdobie, takže neviem. Predpokladám, že naskočím na to niekedy. Teraz som vieš čo? Teraz som v takomtom v tej situácii takého,
takého, ako to mám povedať, aby som to povedal dobre. Takého oráča, čo vieš o tom číta, počuje. Vieš, ale nerobím s tým vôbec.
join3r
Oráč? To je akože to to je nejaké akože ty si traktorista, to tam asi málokto alebo kombajnista alebo ako to je?
drunkez
Nie, nie som ešte, ale cítim sa tam mentálne.
join3r
Aha, aha. Tak čo to znamená ten oráč?
drunkez
Oráč znamená, že človek, ktorého, ktorého život je úplne inde ako v tomto. Hej, ale, ale je to zaujímavý, je to zaujímavý, ako sa to volá tie tie ako Nový čas a Fiška, to sú aké časopisy?
join3r
Hmmm. Bulvár.
drunkez
Bulvár. Áno, je to taká zaujímavá bulvárna téma toto ajčko, vieš?
join3r
Hej, hej, no keď akože môže byť, môže byť mať tam určité, akože takéto prvky.
drunkez
Má, pretože je tam osobnosť, je tam dráma. Chápeš? Vieš, je tam, je tam akože vieš, pre, pre mnoho ľudí je to otázka, je to, vieš, samozrejme technológií, ale, ale zároveň to má aj tento prvok, no.
join3r
Je to, je zaujímavé byť teraz IT-čkárom. Nechcem byť-
drunkez
Nie, nie, pretože ja poviem ti takú vec, že vždycky ako samozrejme s tým robím. A teraz ja mám také malinké projektíky, ktoré presne by som v živote nikdy nespravil. Hej, chlapci moji ma akože musia
alebo celé ajčko preklínať, pretože teraz mám takú, vieš, to som už robil párkrát. Som to možno rozprával, že mám takú mini klávesničku, ktorú oni keď si akože zakliknú Tak je trojklávesová klávesnica pripojená tuná akože k nášmu racku a keď stlačia si tlačítko, tak proste im vylezie z tlačiarne vygenerované, vygenerované matematicko-logické úlohy. Hej?
join3r
Mhm.
drunkez
Ktoré, keď som to písal ručne, tak to trvalo hodiny a nebol som s tým spokojný. A keď som to proste nechal spraviť ako agenta, tak, tak to zbuchol veľmi rýchlo. Hej?
join3r
Mhm.
drunkez
A je to hotovo a proste odvtedy to beží ako servis. Proste nezničiteľné to je. Systémy sa rebootujú, elektrika vypadáva, to sa proste štartne a ide to. Hej? Najväčší problém mal presne to, na čo som aj ja zlyhal. Hej? Keď, keď treba bolo mapovať tú, tú klávesnicu ako druhú klávesnicu, eh, bolo treba mapovať jej action keys na, na skripty. Hej? Tak, tak tam sa akože, tam sme sa akože aj pokecali, že takéto malinké veci. Veľmi podobne, ako čo si rozprával o tom, že proste, že veci, ktoré niekedy boli náročné a, a komplexné a v mojom prípade sa do toho mi častokrát nechcelo ísť.
join3r
Hej, hej.
drunkez
Hej? Tak teraz je to otázka sadnúť si a kľudne variť ďalej potom alebo čokoľvek iné robiť, lebo mašinky mašinkujú. Hej?
join3r
Mne ináč napadlo tak tou klávesnicou. Vieš, čo mal Netflix toho, ja už mne vypadlo, jak sa to volalo, ale také, že mal nejaký akože taký neviem či benchmark alebo jak to nazvať, že jednoducho išlo také kazítko a že nejaký server ran-random mu zhodilo. Hej? Vieš, že či to bude mať nejaký impact.
drunkez
No.
join3r
Nie, nie, to sa nejak sa to volalo, akože teraz mi to vypadlo, jak sa to volalo, ale toto by si mohol dať na to, na tú klávesnicu. Vieš, že zatlačiť nejaký gombík a niečo vo tvojej domácej infraštruktúre vypadne alebo začne dávať nezmysly. Vieš, že-
drunkez
A teraz akože budeme, budeme sa doma akože nasierať. Vieš, že ako nám to tu kazí alebo dá čo dá. Akože-
join3r
Pozri sa, ak to je naozajstná profesionálna infraštruktúra-
drunkez
A všetko musí prežiť jednoznačne to. Hm.
Má pozí-- u mňa to presne také, že robím také malé quirks, ktoré mi zjednodušujú veľmi život. A chvalabohu mám presne na to infra, aby to mohlo niekde bežať alebo niečo také. Také drobnosti, ktoré sú užitočné alebo nie. Ak si to vezmeš, hej, chlapci vraviem, že ma nemajú, neobľubujú to úplne. Hej, že díky LLM-ko, hej, ale, ale takéto drobnosti to je, to je radosť, radosť vyrábať. Hej?
join3r
Hej, hej, je to naozaj, je to super. Ten, ten, ten tool ako sa, ktorý bol v Netflixe som medzitým vyhľadal sa volal, že Chaos Monkey.
drunkez
Hej?
join3r
Hej. Myslím, že to je nejaké, akože nechcem klamať, ale to je nejaké, že nejaká Simian War alebo nejaké také, akože to je tá metodika akože toho, že, že tam hodíš nejaký wrench, akože medzi tie, medzi tie ozubené kolieska.
drunkez
Hej. No čo, fertig?
join3r
Môže byť. Ešte tu jedna zaujímavá téma, že Rock N AI, ale o tom som si zatiaľ ja nič nepozeral a to možno, že bude pre teba niečo skôr.
drunkez
Tak to je-
join3r
Či vy máte tú AMD grafiku tam.
drunkez
Nechajme na budúce.
join3r
Dobre, tak sa rozlúčme. Takže milí poslucháči, hajde do toho. Operačný systém nejak budúci týždeň máme tuná vlastný-
Joinit operačný systém.
drunkez
SAP nejaký replacement open source.
join3r
Och, bože, to, to radšej nie to nechajme SAP, nechajme SAPom. Dobre. Čaute.
drunkez
Pekné leto. Čau.