Eliezer Yudkowsky, spoluzakladatel Výzkumného institutu strojové inteligence (MIRI), napsal pro časopis TIME komentář, ve kterém vysvětluje rizika spojená s vytvářením syntetických forem života.
AI posedlá démony proti lidem
„Nejpravděpodobnějším výsledkem vytvoření nadlidsky inteligentní umělé inteligence, chytřejší, než si dnes dokážeme představit, bude to, že doslova každý člověk na Zemi zemře,“ uvedl tento špičkový vědec.
Jde o vážné varování na které dnes upozorňuje mnoho expertů, kteří si uvědomují, že agenda neskončí u „chatbota“ GPT-4 a jiných zdánlivě neškodných programů umělé inteligence.
Tyto systémy AI se totiž stávají doslova démonicky posedlými protilidskou agendou. Proto prý musí být okamžitě zastaveny, dokud ještě není příliš pozdě. Připomeňme, že na podobná nebezpečí již dříve upozornil Elon Musk a další vlivní podnikatelé, kteří podepsali petici vyzývající k okamžitému pozastavení veškerého vývoje umělé inteligence.
Systémům umělé inteligence už lze e-mailem posílat DNA, aby se mohly změnit na „umělé formy života“, říká Yudkowsky. Stejně jako Musk chce i Yudkowsky, aby všechny laboratoře vyvíjející umělou inteligenci okamžitě alespoň na nějakou dobu zastavily všechny testovací programy AI, které jsou výkonnější než chatbot GPT-4.
(adsbygoogle=window.adsbygoogle||[]).push({});
Terminátor v reálném životě
Vyjádřil se také k uvedené petici, která podle něho žádá příliš málo k vyřešení problémů, které přináší rychlý a nekontrolovaný rozvoj systémů umělé inteligence. „Tyto systémy AI se o nás a život na zemi nestarají,“ tvrdí Yudkowsky. A dodává, že aby člověk přežil střet s umělou inteligencí, potřeboval by „přesnost, přípravu a nové vědecké poznatky“, které ovšem současnému lidstvu obecně chybějí.
„Dostatečně inteligentní umělá inteligence nezůstane dlouho připoutaná k počítačům,“ vysvětluje. Už teď je možné posílat řetězce DNA e-mailem do laboratoří, které pro umělou inteligenci dokážou vyrábět proteiny „k vytvoření umělých forem života nebo k zavedení přímo do post-biologické molekulární výroby“.
Je to blízké filmu Terminátor, jenže tentokrát v reálném životě. A děje se to rychleji, než si většina lidí uvědomuje, protože korporátní média odvádějí pozornost k jiným tématům. „Nemohou existovat žádné výjimky, ani pro vlády nebo armády,“ říká Yudkowsky o nutnosti okamžitě zastavit všechny systémy AI.
NENECHTE SI UJÍT PLAVBU NA HLUBINY!
Petr Hájek se v rozhovoru s historikem Petrem Bahníkem dotýkají duchovních kořenů naší státnosti v řeči symbolů: Opravdu je nejstarším praporcem českého státu Svatováclavská orlice? A kde se vzal dvouocasí lev? Těchto a dalších otázek je mnoho.
V pořadu Alfa a Omega plují na hlubiny symbolických vyjádření a duchovní podstaty dějin Zemí koruny české, které už král Karel IV. označil za neoddělitelné, z nichž ale moderní doba ukrajuje to nejpodstatnější
Sledujte již dnes, v sobotu 17. ledna od 18:00 hodin či kdykoli poté!
Sledujte zde
Zničit. Třeba i bombardováním
„Pokud rozvědka řekne, že země mimo dohodu buduje GPU cluster, měli byste se méně obávat klasické války mezi státy než porušení moratoria na umělou inteligenci. Jinými slovy byste měli být ochotni zničit odbojné datové centrum třeba i bombardováním,“ říká Yudkowsky.
Jak ale přinutit každou zemi světa, aby zastavila vývoj umělé inteligence? To se může ukázat jako velmi obtížné. Je vůbec možné něco takového regulovat, zvlášť když se to děje soukromě v odlehlých oblastech mimo kontrolu či dokonce vědomí státních orgánů?
Yudkowsky považuje umělou inteligenci za takovou hrozbu, že by se podle něj mělo „v mezinárodní diplomacii jasně říci, že předcházení scénářům vyhynutí lidstva kvůli AI, je větší prioritou než zabránění jaderné válce“.
Ovládnou démoni svět?
V komentářích někdo žertoval, že „nejdřív to byli mimozemšťané, pak zombie apokalypsa a teď roboti terminátoři“, čímž chce naznačit, že možná Yudkowsky a jemu podobní hrozbu AI přehánějí. „Apríl,“ napsal další.
„Je uznávaným faktem, že technologické a biologické produkty jsou ve vojenském sektoru používány roky předtím, než se o nich dozví veřejnost,“ poznamenal jiný komentující. „Jsou tito kyborgové s umělou inteligencí v lidské podobě už mezi námi?“ ptal se další.
Reakce ukazují na důvodnost obav Muska a spol. Totiž že veřejnost vůbec netuší, kam se vývoj v této oblasti dostává. Jako obvykle zpozorní, až už bude pozdě.
Kdy otázku, zda svět ovládnou roboti s umělou inteligencí posedlí démony, už nebude, kdo by zodpověděl?
Zdroj
