DÍL 1: Co je superinteligence? Co přesně myslíme, když mluvíme o superinteligenci? Jak se liší od dnešní AI a od obecné umělé inteligence (AGI)? A jak by vůbec mohla vypadat? V prvním dílu podcastu SUPERINTELIGENCE začínáme od základů. Superinteligence nemusí být jeden vševědoucí počítač jako ze sci-fi. Jednou z možností je systém mnoha AI agentů, kteří spolupracují, rozdělují si úkoly a společně dokážou víc než každý zvlášť. Dostaneme se proto i k tomu, jak se dnešní AI agenti testují, co je to „sandbox“ neboli virtuální pískoviště a proč nemusí být tak jednoduché udržet velmi schopný systém uvnitř předem stanovených hranic. A samozřejmě přijde i otázka, kterou by si v určité chvíli položil asi každý: Když by se něco pokazilo, nešlo by AI prostě vypnout? Krátká odpověď: je to složitější. V prvním dílu si povídáme o tom:• co je inteligence, AGI a superinteligence,• proč superinteligence nemusí mít podobu jednoho systému,• jak fungují AI agenti a jejich testovací prostředí,• co se může stát, když začnou agenti spolupracovat,• kde mohou být limity současných bezpečnostních opatření,• a hlavně: víme vůbec, jak daleko od superinteligence jsme? SUPERINTELIGENCE zatím neexistuje. A právě proto je dobrá chvíle začít se ptát, jak zajistit, aby případný vznik systémů schopnějších než lidé zůstal pod demokratickou a lidskou kontrolou. Bez paniky. Bez robotů s červenýma očima. Zato s otázkami, které je lepší položit o něco dřív než o něco později. 🎧 Poslechněte si první díl podcastu SUPERINTELIGENCE. Podcast vzniká v rámci Iniciativy pro bezpečnost AI (IBAI).
