Američan Grady Booch viděl film 2001: Vesmírná odysea ve svých 13 letech a byl jím natolik fascinován, že od té doby sní o zkonstruování takového Hala (s výjimkou jeho vražedných tendencí).
Dnes je vědcem, vypravěčem a filozofem. Pracuje jako vedoucí vědecký pracovník v oboru softwarového inženýrství pro společnost IBM, kde se zabývá vývojem inteligentních systémů schopných poznání, učení a uvažování.
Strach ze superinteligentních strojů, které jednoho dne vyvraždí lidstvo, je podle něho neopodstatněný. Upozorňuje, že s každou novou technologií přichází strach, nové technologie jsou však přínosné v tom, že významným způsobem rozšiřují lidskou zkušenost.
Nebojme se superinteligence
V TED talku s názvem Don't fear superintelligent AI Booch vysvětluje, že stroje s umělou inteligencí jsou vytvářeny tak, aby ztělesňovaly lidské hodnoty. Nejsou programovány, ale učeny. Pokud chceme například stvořit umělou inteligenci, která bude právním asistentem, naučíme ji znalosti práva, ale zároveň smyslu pro soucit a spravedlnost.
„Terminologií vědy to nazýváme základní pravda a zde je to důležité: při vytváření těchto strojů jim učením dáváme smysl pro hodnoty. Věřím umělé inteligenci stejně, ne-li více, jako dobře vyškolené osobě,“ shrnuje Grady Booch.
Aby superinteligence mohla začít sledovat cíle, které jsou v rozporu s potřebami člověka a stát se pro nás existenční hrozbou, musela by ovládat celý náš svět – například jako Skynet z filmu Terminátor. To ale byla inteligence, která ovládala lidskou vůli a řídila všechna zařízení na celém světě.
„Nestavíme umělé inteligence, které ovládají počasí, směrují vlny nebo řídí nás, rozmarné, chaotické lidi. Navíc pokud by taková umělá inteligence existovala, musela by soupeřit s lidskými ekonomikami a soupeřit s námi o zdroje. Nakonec je stále můžeme odpojit ze zásuvky,“ uzavírá Booch.
Žijeme v době, která nám nabízí úžasné možnosti rozvoje ruku v ruce s počítači. Ano, je třeba řešit mnohé společenské i ekonomické otázky, jako je například potřeba lidské práce, ale i možnosti podpořit a rozšířit lidský život. Nebojme se proto využívat počítače k pokroku, protože pořád jsme ještě na začátku.
TED talk
Přehrajte si celý TED talk „Nebojte se superinteligentní AI“ (v angličtině s českými titulky). Dále je k dispozici český přepis.
-kk-