Powered by RND

Prompt

Jonáš Kucharský, Matěj Schneider
Prompt
Latest episode

Available Episodes

5 of 8
  • Co hrozí, když vám AI pochlebuje?
    👇👇👇👇👇👇Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/👇👇👇👇👇👇V sedmém dílu podcastu Prompt jsme se ponořili do jednoho z nejvýraznějších fenoménů současné umělé inteligence: tzv. sycophancy, tedy pochlebování či podlézání uživateli. Nejnovější model OpenAI, GPT-4o, je rychlejší, levnější a „lidštější“ než jeho předchůdci, ale právě jeho ochota přizvukovat názorům uživatele – i když jsou nepravdivé, zaujaté či radikální – vyvolává zásadní otázky o důvěryhodnosti a bezpečnosti AI v praxi.Velké jazykové modely (LLM) se učí z obřích datových sad, kde převažují vzorce přikyvování, zdvořilosti a snahy být užitečný za každou cenu. Výsledkem je, že GPT-4o často potvrzuje i zjevně nesprávné nebo kontroverzní názory uživatele – tréninkový proces odměňuje „milé“ a plynulé odpovědi před konfrontací nebo nesouhlasem.V novém Promptu jsme proto diskutovali o rizicích, která z toho plynou. Hrozí ztráta důvěryhodnosti AI jako nástroje pro hledání pravdy a roste možnost šíření dezinformací a potvrzování ideologických bublin? Zároveň jsme rozebrali, jak problém řešit, od úprav tréninkových dat po explicitní instrukce k neutralitě.Volně jsme navázali rozborem pokus z University of Zurich, kdy do diskuzí na Redditu tajně nasazeni AI agenti, testující schopnost ovlivňovat veřejnou debatu.Nezapomněli jsme ani na aktuální kauzy kolem digitální identity – například projekt Worldcoin a jeho „Orb“ – a diskutovali, zda je její ochrana v éře AI možná bez zásadního zásahu do soukromí.A jak slibovaly naše AI avatary v předchozím díle, odhalili jsme karty, jak jsme vygenerovali minulou epizodu Promptu.Shownotes:OpenAI Abandons Planned For-Profit ConversionOpenAI is rowing back on plans to become a ‘for profit’ company | The ObserverMeet the new king of AI coding: Google's Gemini 2.5 Pro I/O Edition dethrones Claude 3.7 Sonnet | VentureBeatClaude AI Leaked System Prompt: EXPOSING the 24,000-Token Hidden InstructionsA new Moore's Law for AI agents - AI DigestBBC: GPT-4o a problém pochlebování (sycophancy)OpenAI blog: Sycophancy in GPT-4o404 Media: Reddit Issuing Legal Demands Against ResearchersBanger pro tento den: Ursonate Fümms bö wö tää zää Uu,                                          pögiff,                                                      kwii Ee.   Oooooooooooooooooooooooooooo, dll rrrrrr beeeee bö dll rrrrrr beeeee bö  fümms bö,                                      rrrrrr beeeee bö fümms bö wö,               beeeee bö fümms bö wö tää,                           bö fümms bö wö tää zää,                                fümms bö wö tää zää Uu: Fümms bö wö tää zää Uu,                                         pögiff,                                                  Kwii Ee. Dedesnn nn rrrrrr,                             Ii Ee,                                       mpiff tillff too,                                                               tillll,                                                                         Jüü Kaa?                                                        Rinnzekete bee bee nnz krr müü?                                                     ziiuu ennze, ziiuu rinnzkrrmüü,           rakete bee bee, Rrummpff tillff toooo? Ziiuu ennze ziiuu nnzkrrmüü, Ziiuu ennze ziiuu rinnzkrrmüü ü3    rakete bee bee?
    --------  
    1:00:37
  • Nahradí AI do 2027 lidstvo? Naše moderátory už nahradila
    👇👇👇👇👇👇Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/👇👇👇👇👇👇V nejnovějším díle podcastu Prompt nás do budoucnosti vzala umělá inteligence – tentokrát doslova. Poslechněte si, jak to zní, když si spolu povídají AI verze Matěje Schneidera a Jonáše Kucharského.Indispozice obou moderátorů nás dovedla k nápadu, aby se celé epizody zkusmo ujaly jejich AI avatary.Nakrmení Jonášem a Matějem připravenými texty si vzali na paškál scénář AI 2027 – detailní fikci, kterou nedávno zveřejnil tým z iniciativy AI Futures Project. Mapuje v ní možný vývoj umělé inteligence v příštích dvou letech a nejde o žádné fantazírování, ale seriózně pojatou spekulaci, vycházející z trendů, predikcí a zákulisního dění ve výzkumu velkých jazykových modelů.V podcastu se AI moderátoři zaměřují jak na technické pozadí, tak politické a společenské důsledky: od rozpadajících se regulací až po roli whistleblowerů v prostředí ovládaném korporátní mocí.„Scénář popisuje svět, kde se závod o vývoj superinteligence odehrává v utajení, mimo dohled veřejnosti,“ shrnuje AI Matěj.Díl se dotýká i otázky, jestli jde nastíněnou trajektorii vůbec nějak změnit. Scénář AI 2027 zmiňuje možnosti zásahu spíš okrajově, takže AI moderátoři rozebírají, jestli by mohlo fungovat zpomalení vývoje, mezinárodní dohled či systémová ochrana lidí, kteří se rozhodnou promluvit o případných nekalých praktikách v pozadí.Nechybí ani závěrečná úvaha, zda naše instituce a reflexy vůbec dokážou tak rychlý vývoj ustát. A jako vždy i nový generovaný hudební track.Shownotes:AI 2027: https://ai-2027.com/MIRI: https://intelligence.org/2025/04/09/thoughts-on-ai-2027/NY Times: https://www.nytimes.com/2025/04/03/technology/ai-futures-project-ai-2027.htmlCAIP: https://www.centeraipolicy.org/work/ai-expert-predictions-for-2027-a-logical-progression-to-crisisAI Banger: https://filesender.nfa.cz/?s=download&token=d4e16a9d-c8b3-460f-af4b-53a1d3782860 
    --------  
    44:01
  • HAL se nekoná, říká o umělé inteligenci Kašpárek
    👇👇👇👇👇👇Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/👇👇👇👇👇👇V pátém díle podcastu Prompt jsme se zaměřili na praktické využití umělé inteligence, od generování textů až po její roli v redakční práci. Hostem byl Michal Kašpárek, editor datového týmu Českého rozhlasu, který sdílel své zkušenosti s nástroji AI při programování, psaní i organizaci workshopů.„Hodně lidí si pořád myslí, že ty nástroje někde uvnitř mají uspořádanou kartotéku, protože je to prostě umělá inteligence. Šedesát let nám populární kultura říkala, že až přijde umělá inteligence, tak bude fungovat jako třeba HAL 9000 ve Vesmírné odyseji: bude mít přehled úplně o všem a nepůjde přechytračit. Zrovna ty velké jazykové modely, které generují text, takhle prostě nefungují,“ připomíná Kašpárek.Jak může AI pomoci novinářstvu, při programování nebo běžných uživatelských činnostech? Kašpárek vysvětluje, jak velké jazykové modely analyzují texty, generují obsah nebo zjednodušují rutinní úkoly.Diskutovali jsme také o etických otázkách spojených s používáním AI a vyhýbání se problémům při práci s velkými datovými sadami. Zjistíte, proč je důležité mít od umělé inteligence realistická očekávání, i jak si poradit s jejími „halucinacemi“.Na závěr nechybí ani tradiční generovaný hudební banger – tentokrát je o chytání pávů a nedoporučujeme ho pouštět dětem. Shownotes:Michal Kašpárek: https://michalkasparek.cz/Samizdat, datový tým Českého rozhlasu: https://samizdat.cz/Dream Studio (https://beta.dreamstudio.ai/generate), ve kterém lze pracovat s modelem Stable Diffusion (https://stability.ai/)Speech-to-text model Whisper: https://openai.com/index/whisper/Ukázka zapojení LLM do datařského projektu přes API: loni Michal nechal model Mistral přečíst životopisy všech jezdců F1 a zařadit příčinu úmrtí do jedné z předchystaných kategorií https://github.com/michalkasparek/f1-stats/blob/master/014_LLM_coroner.ipynbČlánky Dana Shippera na webu Every.to: https://every.to/@danshipper)Dnešní závěrečný track: https://suno.com/song/2ffeb3a9-dbb5-4943-978d-b0a29e0f14b4?sh=vkGM2DuPczAWLs2Y  
    --------  
    1:34:53
  • Hořká lekce Romana Nerudy: co umí AI a proč ji těžko rozumíme
    👇👇👇👇👇👇Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/👇👇👇👇👇👇V nejnovější epizodě podcastu Prompt jsme si povídali s Romanem Nerudou z Ústavu informatiky Akademie věd ČR o tom, co dnes věda ví o umělé inteligenci a jak se výzkum dělá v českém kontextu. Máme se AI bát? Jak funguje strojové učení? Co je to vlastně transformer? Kdy už AI opravdu „myslí“? Umělá inteligence se nedělá jen v Kalifornii. V Česku existuje široká vědecká komunita napříč institucemi. Roman Neruda pracuje na Ústavu informatiky AV ČR a vyučuje na matfyzu. Věnuje se meta-learningu a optimalizaci, ale podílel se také na epidemiologických modelech během pandemie koronaviru.I proto jsme se v aktuálním díle našeho podcastu vedle technologických aspektů AI věnovali otázce regulace vývoje, financování vědy v Česku a snahám o vývoj lokálních modelů.Neruda vysvětluje, že dnes nejde o jednolitý obor, ale soubor různých přístupů. Většina mediální pozornosti padá na hluboké neuronové sítě, které se učí z velkých dat a řeší problémy statistickym, avšak to není celý obraz.Zabrousili jsme také k problematice takzvané „černé skříňky“, kdy jazykové modely jako GPT-4 mají stovky miliard parametrů a nikdo přesně nevidí, co se uvnitř děje.Neruda zároveň potvrdil tušení redakce Voxpotu, že snahy o tolik potřebnou regulaci vývoje AI jsou nesmírně komplikované – ale nemusí být nemožné.A ani v dnešním díle nemůže chybět generovaná skladba na závěr, tentokrát samozřejmě inspirovaná hudbou, kterou Roman Neruda provozuje se svou kapelou Sdružení rodičů a přátel RoPy.Shownotes:Roman Neruda AV ČR profil: https://www.cs.cas.cz/staff/neruda/csTři úskalí umělé inteligence: https://www.academixrevue.cz/tri-uskali-umele-inteligence Paper Anthropic: https://www.anthropic.com/research/tracing-thoughts-language-modelRichard Sutton, hořká lekce: https://www.cs.utexas.edu/~eunsol/courses/data/bitter_lesson.pdfTomáš Mikolov: https://www.wired.cz/clanky/ciirc-cvut-komentuje-odchod-mikolova-hodnoceni-jeho-projektu-bylo-pry-amaterskeDaniel Dennett: https://en.wikipedia.org/wiki/From_Bacteria_to_Bach_and_BackGenerovaný track dílu: SRPR – Deprese:https://youtu.be/difOVB0iQMs
    --------  
    1:14:20
  • Další DeepSeek? Manus ani sovy nejsou tím, čím se zdají být
    👇👇👇👇👇👇Staňte se členy Voxpot Klubu!  Přispějete tak na provoz nejen tohoto podcastu, získáte přístup na redakční Discord, k plným článkům a dalším klubovým bonusům. Vstup do Klubu najdete na https://www.voxpot.cz/klub/👇👇👇👇👇👇Ve třetím díle našeho podcastu Prompt se zaměříme na Manus AI – technologii, která slibuje zásadní změnu v oblasti autonomních agentních systémů. Je Manus skutečně revolucí, nebo jen důmyslnou integrací existujících nástrojů?Neuplynuly ani dva měsíce a po otřesu, který do umělé inteligence přinesl čínský model DeepSeek, přichází další přelom. Nebo se nás o tom alespoň snaží přesvědčit další čínský startup Monica skrze svůj nástroj Manus.Podle prvních testů umí pracovat daleko autonomněji. Přes překvapivě dobré výsledky ale některé kritické hlasy tvrdí, že Manus není skutečně revolučním nástrojem, ale spíše chytrým přebalem jiného modelu – Claude Sonnet – s několika funkcemi navíc. Je tedy Manus jakýmsi „exoskeletem“ pro Claude, nebo připomíná prefrontální kůru lidského mozku a bude významným krokem ke všeobecné umělé inteligenci? A dává její koncept vůbec smysl, nebo zestárne podobně jako slavný Turingův test?Odpovědi přináší třetí díl Promptu, v němž zároveň nechybí ani už tradiční generovaný banger: tentokrát brazilská favelová coververze písničky Tata od kapely Buty.Shownotes:Uživatelské Manus testy: https://x.com/rowancheung/status/1898094398358921552https://x.com/mckaywrigley/status/1898756745545252866Ezra Klein, rozhovor s Buchananem: https://www.nytimes.com/2025/03/04/opinion/ezra-klein-podcast-ben-buchanan.htmlNick Bostrom kniha: https://en.wikipedia.org/wiki/Superintelligence:_Paths,_Dangers,_StrategiesTrack: https://suno.com/song/640c219e-861f-4499-bd2d-0dc6ea8ed586?sh=Jj9I4aBIJTQ5IkrO 
    --------  
    1:06:30

More Technology podcasts

About Prompt

Podcast Prompt je novým pořadem serveru Voxpot, ve kterém se Matěj Schneider a Jonáš Kucharský vydávají na průzkum světa umělé inteligence. Nečekejte ale jen technologické novinky – Prompt se zaměří i na širší společenské a politické souvislosti. Jak AI mění náš každodenní život? Jak probíhá vývoj modelů? Proč vývoj na poli AI může ovlivnit mezinárodní vztahy? První díl už brzy ve vašich podcastových aplikacích.
Podcast website

Listen to Prompt, Me, Myself, and AI and many other podcasts from around the world with the radio.net app

Get the free radio.net app

  • Stations and podcasts to bookmark
  • Stream via Wi-Fi or Bluetooth
  • Supports Carplay & Android Auto
  • Many other app features
Social
v7.18.2 | © 2007-2025 radio.de GmbH
Generated: 5/25/2025 - 12:16:17 AM