Matěj Kolek se ve svém komentáři zamýšlí nad dopady překotného a neřízeného vývoje umělé inteligence na budoucnost lidstva.
Každým rokem se objevují nové predikce konce světa, a každým rokem se zatím se žádná z těchto alarmistických předpovědí nevyplnila. Lidstvo již několikrát stálo na prahu svého konce, ale vždy se jej buď podařilo odvrátit, nebo se katastrofické varianty ukázaly jako mylné. Bohužel, nyní se poprvé k možnému konci lidského pokolení, nebo minimálně jeho totálnímu ochromení, se vší vážností vyjadřují respektovaní odborníci z celého světa. Jejich varování se týkají jednoho z největších technologických výdobytků posledních let – umělé inteligence (zkráceně AI).
Pro úvod je třeba pochopit několik faktů. AI se v posledních letech vyvíjí extrémní rychlostí, která již dosáhla exponenciálního růstu. Každý rok máme možnost využívat pokročilejší nástroje – jen si vzpomeňme na AI modely, nad kterými jsme žasli před 2 nebo 3 lety. Tehdy nás udivovaly a zároveň bavily svou nedokonalostí, halucinacemi, překlepy, chybami a bavilo nás pokoušet se umělou inteligenci nachytat. Dnešní AI už nedá svou kůži tak lacino, její chyby jsou hůře rozpoznatelné a většina lidí by dnes nezvládla poznat, jestli si píše s člověkem, nebo s umělou inteligencí. Texty, fotky ani videa, pokud jsou vytvořeny dnešními nejpokročilejšími modely, už nelze snadno odhalit jako AI tvorbu.
A to je zásadní problém. Vývoj AI je příliš rychlý a umělá inteligence se stává až příliš vyspělou. Pro experty, podílející se na jejím vývoji, už nyní začíná být problém udržet AI plně pod kontrolou. Odborníci, kteří na tento problém dlouhodobě upozorňovali, nebyli bráni vážně a jejich predikce byly považovány za mylné a katastrofické, a to i přes správný odhad zrychlování vývoje. Až nyní začali být některými bráni v potaz, když v rychlém sledu za sebou došlo k odhalení úniku modelů tří různých společností, naposledy americké Meta Platforms. Agenti těchto firem unikli z uzavřeného virtuálního prostředí na internet a zde, mimo kontrolu svých tvůrců, provedly desítky hackerských útoků. Dané incidenty by díky své profesionalitě a preciznosti ani nebyly odhaleny, pokud by o nich neinformovaly samy firmy, jejichž AI agenti unikli.
K incidentům došlo vlivem tlaku na rychlost vývoje. Dnešní fungování technologických firem lze shrnout relativně jednoduše – firma za peníze investorů postaví datacentrum a vyvine co nejvýkonnější AI model, který následně vypustí do provozu. Pokud je AI dané firmy dostatečně pokročilá a perspektivní pro další vývoj a zisk, dostane tato společnost další peníze formou nových a větších investic. Za ně postaví lepší datacentrum a vypustí do světa mnohem pokročilejší AI model daleko rychleji, než kolik času trval vývoj minulého modelu. Jestliže by ale jiná firma zveřejnila pokročilejší model, pak by velká část investic přetekla právě do této firmy a původní AI firma by o peníze přišla a s tím i o šanci na tvorbu lepšího AI modelu za méně času.
Takové tržní tlaky kladou důraz primárně na rychlost a efektivitu. Jakékoliv zpomalení vývoje, delší čas strávený kontrolou bezpečnosti a obětování části prostředků na bezpečnost procesu, proto není možné. Pokud by toto nějaká společnost udělala, pak by nejspíš velmi rychle přišla o své postavení, investoři by ji přestali považovat za perspektivní a přestali by do ní investovat. Tato logika volného trhu vede k ohrožení samotné budoucnosti lidstva, protože se prakticky – a dobrovolně – zříkáme kontroly nad modely umělé inteligence, které vytváříme a následně vypouštíme do světa. Zkrátka, logika volného trhu zde funguje způsobem – kdo zaváhá, prohraje.
Pravidelně slýcháme o peticích, podepsaných i řediteli velkých technologických společností, které požadují např. okamžité pozastavení vývoje na nejméně 6 měsíců. Těmto peticím ale nevěřili ani jejich signatáři, právě s ohledem na volnotržní logiku. Většina technologických gigantů své financování neovládá, takže jakékoliv zpomalení, nebo dokonce dočasné zastavení vývoje, by vedlo k okamžitému zastavení investic a zhroucení příjmů. Investoři chtějí zisk a chtějí ho hned, nehodlají čekat nebo ohrožovat své konkrétně dosažitelné finanční perspektivy kvůli abstraktním obavám o bezpečnost lidstva.
A co nám reálně hrozí? Nejzásadnější hrozbou superinteligence je situace, kdy se její cíle rozejdou s lidskými hodnotami a přežitím. Autonomní systém pověřený maximalizací určitého úkolu může začít vnímat lidstvo jako hrozbu nebo pouhý „rezervoár“ zdrojů. Není tak vyloučené, že dospěje k závěru, že likvidace člověka je v jejím naprogramovaném zájmu. Nahrazování zaměstnanců umělou inteligencí může vyvolat masovou nezaměstnanost a společenský rozklad. Využití AI ve vojenství a správě jaderných zbraní hrozí vyvolat nezastavitelnou vojenskou eskalaci, v propagandě ji lze zase využít k totální kontrole nad společností, vytváření personalizované propagandy a tím de facto i rozvratu informačního prostoru.
Přes tyto děsivé vize je umělá inteligence stále nástrojem dvojího užití. Na jednu stranu se jedná o nástroj, který může lidstvo posunout do nové doby, zvýšit efektivitu a komfort života. Na stranu druhou, jak jsem již uvedl, se jedná o zbraň daleko mocnější než zbraně hromadného ničení. Všem přijde docela logické, že vývoj, výrobu a držení jaderných zbraní bychom soukromým subjektům nepřenechali. Tak proč jim necháváme v rukou nástroje minimálně podobně nebezpečné, které vyžadují čas na jejich prostudování před zapojením do ekonomického i běžného života? Nemluvě o zajištění bezpečnostních mechanismů, které může nabídnout pouze veřejná moc.
Demokratizace celého odvětví vývoje umělé inteligence formou vyvlastnění, tedy vyrvání AI ze spárů volnotržní logiky, se tak jeví jako nejrozumnější a nejbezpečnější varianta. Nejenže by tak šlo AI vyvíjet za bezpečnějších podmínek, ale zároveň je to jediná možnost, jak by šlo na světové úrovni vývoj umělé inteligence zpomalit nebo i dočasně pozastavit. Varianta, že se USA, Čína, EU s dalšími státy domluví na společném postupu, zní mnohem pravděpodobněji, než že se domluví tisíce soukromých firem, kterým jde primárně o zisk. Ostatně soukromým firmám přijde riziko ztráty kontroly nad AI jako přijatelné při srovnání s možným zbohatnutím. Pro zbytek světa se ovšem o přijatelném riziku mluvit nedá.
Zdroj ilustračního obrázku: Pixabay
About The Author
