AI jako existenční riziko

Přijďte se dozvědět a prodiskutovat, proč někteří z nejvýznamnějších ML výzkumníků varují, že pokročilá AI může představovat existenční riziko pro naši civilizaci, zatímco jiní nevidí skoro žádná rizika.Čeká vás blok krátkých přednášek a následných diskuzí na témata jako AI safety, AI alignment, AI governance.

Čeká nás blok krátkých přednášek a nasledných diskuzí. Přednáška vždy uvede téma a vysvětlí základní koncepty. Následná diskuze bude sloužit k hledání jádra potenciálního nesouhlasu a snaze vyjasnit si koncepty. V případě souhlasu bude diskuze naopak možnost, jak jít do tématu hlouběji.

Program
18:00–18:15 Úvod a představení
18:15–18:30 Přednáška: AI alignment aneb jak chytře a hloupě AI systémy obchází zadání
Technická část večera. Představíme konkrétní způsoby, jakým současné systémy "obchází" zadání. Jaké jsou základní techniky co s tím dělat.
18:30–19:00 Diskuze
19:00–19:15 Přednáška: Proč není konsenzus a jak se k tomu postavit?
Filozofická část večera. Čemu a proč věřit, prakticky na tématu existenčních AI rizik. Jací významní výzkumníci se bojí, že AI představuje existenční riziko? Proč to nejsou všichni? Co je racionální si myslet a dělat, pokud je tak mnoho v sázce, ale nevíme, jak dobré jsou argumenty jednotlivých stran?
19:15–19:45 Diskuze
19:45-20:00 Přednáška: Je AI existenční riziko?Budou představeny další způsoby, jakými se AI může lidem vymknout z rukou a argumenty, proč tomu může být těžké zabránit.
20:00–20:45 Diskuze
20:45–21:00 oficiální závěr
21:00–00:00 neorganizovaná diskuze