Zakladatel Oracle a miliardář Larry Ellison si představuje budoucnost, jejíž vizi nastínil na Summitu světové vlády v Dubaii 2024, ve které bude každý aspekt lidského života monitorován, analyzován a řízen umělou inteligencí— a to doslova od naší DNA. Kritici varují, že mu ve skutečnosti vůbec nejde o zlepšování našich životů, ale pouze o ještě větší upevnění moci v rukou globální technologické elity.
Klíčové body:
• Larry Ellison, zakladatel a technický ředitel společnosti Oracle, navrhuje sjednotit všechna data nejen od všech američanů, ale od všech lidí na Zemi — a to včetně jejich DNA— do gigantických datových center pro AI, aby prý takto “zlepšil jejich životy” prostřednictvím prediktivní analýzy a sledování.
• Ellisonova vize tak zahrnuje hlavně neustálé sledování občanů, a to od škol až po jejich koupelny, přičemž AI podle něj zajistí to “nejlepší možné chování” každého jedince právě prostřednictvím všudypřítomného sledování.
• Tyto autoritářské plány ovšem logicky povedou k nebezpečné konsolidaci moci, přičemž v tomto technokratickém systému bude AI fungovat jako jakýsi “nesmrtelný diktátor”, který by ale mohl postupně narušit jak naše soukromí, tak svobodu a demokracii.
• Americká vláda a globální technologičtí lídři ovšem již dnes investují miliardy dolarů do infrastruktury umělé inteligence, což vyvolává obavy z nekontrolovaného sledování a vzestupu “digitálního technokratického autoritářství.”
Vize státního totálního dohledu
Na Sum,mitu Světové vlády 2024 v Dubaji právě Larry Ellison, dnes údajně čtvrtý nejbohatší muž na světě a zároveň zakladatel technologické společnosti Oracle, již představil tuto svoji poněkud mrazivou vizi budoucnosti věku umělé inteligence. Mluvil tak po boku bývalého Spojeného království, kdy premiérovi Tony Blairovi Ellison popsal svoji vizi světa, ve kterém AI spojí veškerá data o všech jednotlivcích, a to od jejich genetické výbavy až po jejich každodenní návyky— do masivních cloudů datových center. Tvrdil, že tyto systémy AI by “chápali mnohem rychleji” než lidé, kdy by se zkvalitnila a výrazně zrychlila například diagnostika nemocí, či předpovídání výnosů plodin a dokonce by bylo možné co jiného, než navrhování personalizovaných vakcín. Báječný nový svět předpovídaný WEF je tak zase o něco blíž.
Ale pod těmi všemi nablýskanými sliby lepší zdravotní péče a větší efektivity zemědělství se skrývá trochu temnější realita: Ellisonovou vizí je samozřejmě hlavně „total control“ tedy totální (a totalitní) dohled. “Občané se tak budou chovat nejlépe jak to jde, protože vše neustále nahráváme a o všem podáváme zprávy,“ řekl a popsal tak dystopickou budoucnost, kde AI bude monitorovat naprosto vše od školních tříd a toalet až po policejní a dopravní kamery .
Ellisonovy poznámky ovšem vůbec nejsou pouze spekulativní. Oracle totiž již skutečně buduje mamutí datové centrum v hodnotě 50 až 100 miliard dolarů schopné zpracovávat takto obrovské množství dat potřebných pro uskutečnění této dystopické vizie. Společnost Oracle také pracuje na biometrických bezpečnostních systémech, které postupně nahradí všechna hesla pouze rozpoznáváním obličeje a lidského hlasu a zajistí, že každá interakce člověka s technologiemi bude sledována a hlavně někde zaznamenávána.
Ve svých úvodních poznámkách k naší totalitní budoucnosti týkající se AI ve vztahu k vládnutí lidstvu na Sumitu Světové vlády 2024 Ellison řekl širokému publiku, že jsme na samém pokraji vzniku “umělé superinteligence, nebo tzv,obecné umělé inteligence” a abych zde citovala jeho vlastními slovy “drahého přítele Elona Muska: Netěším se na to, že budu brzy jen něco jako je domácí kočka.” Jinými slovy, jde o to, že obecná umělá inteligence bude až tak neuvěřitelně inteligentní a výkonná, že nás, lidi, učiní většinou zcela nadbytečnými. Ellison v úvahách ovšem pokračoval: “Tato další generace tzv.obecné umělé inteligence bude uvažovat ve všech oblastech mnohem rychleji než to dokáže člověk, bude objevovat jakékoliv nové poznatky mnohem rychleji, ať už je to třeba schopnost diagnostikovat rakovinu v jejích raných stádiích, nebo třeba navrhovat individuální terapie, nebo vlastní design personalizovaných vakcín na tyto rakoviny, vyrobené samozřejmě na zakázku, přímo pro naši individuální genomiku a naše zcela specifické nádorové antigeny.”
Kromě toho Ellison řekl Tony Blairovi, že jeho společnost Oracle již shromažďuje všechny satelitní snímky od “Kalifornie až po Keňu, což jeho společnosti například umožňuje přesněji předpovídat výnosy jednotlivých plodin” a poté je schopna říci jednotlivým farmářům, zda je pravděpodobné, že právě oni buď překročí nebo naopak nesplní očekávání výnosů úrody. Oracle již v současné době pomáhá navrhnout novou generaci geneticky upravených semen a plodin, které umožní farmářům třeba pěstovat plodiny zcela bez hnojiv nebo i bez jiných věcí, které jsou obvykle dnes nutné k pěstování nějaké specifické plodiny.
Blair se později Ellisona také zeptal, co by vlády měly dělat, pokud jde o “digitální infrastrukturu” a “digitální ID datová centra.” Podle Ellisona, aby se to vše vůbec dalo udělat a ještě k tomu mnohem víc, tak jeho „Oracle právě nyní staví obří datové centrum o příkonu 2,2 GW, jehož stavba stojí mezi 50 a 100 miliardami dolarů, protože tyto modely nejvyspělejší AI jsou tak moc drahé, že si své vlastní zpravidla již nepostavíte. Těchto modelů AI bude na celém světě pouze hrstka.“
Ellison však také přímo odpověděl na Blairovu otázku a podpořil nápad shromažďování soukromých a osobních údajů a dat od všech občanů, včetně informací o jejich DNA, a nechal by prý tato datová centra dozvědět se i ty poslední podrobnosti jak o celé zemi, tak i o všech jejích obyvatelích.
“Otázkou ovšem stále je, jak lze prakticky využít tyto neuvěřitelné nejnovější modely AI?
“První věc, kterou musí dnes vlastně každá země udělat, je sjednotit všechna svá data, aby je mohl jejich model AI spotřebovávat a používat.
“Chci se ptát na vše ve své zemi, na vše, co se skutečně děje v mé zemi? Co se dnes děje s mými farmáři? Musím tomu tedy dát svá klimatická data. Nyní již pravděpodobně tato umělá superinteligence obsahuje veškeré naše údaje o klimatu, ale my potřebujeme také přesně vědět, jaké plodiny porostou a na kterých farmách třeba proto, abychom dokázali předpovědět jejich každoroční produkci či výnosy.
“Musím tedy nejprve pořídit satelitní snímky, musím pořídit tyto satelitní snímky naší země a vložit je potom do nějaké databáze, která bude přístupná tomuto modelu AI. Musím říct tomuto modelu AI tolik informací o naší zemi, kolik je jen možné. S těmito satelitními snímky a novými modely AI vyprávíme část příběhu, a získáme obrovské množství informací. Řeknete této super AI, kde jsou jednotlivé silnice, kde jsou hranice, kde jsou a jaké veřejné služby, takže jí musíte poskytnout podrobnou mapu naší země, místa jednotlivých farem a ukázat jí veškerou infrastrukturu veřejných služeb a také veškeré hranice, to vše jí nejprve musíme poskytnout.
“Pokud chcete například zlepšit zdraví celé populace, musíte si vzít všechna dostupná zdravotní data, diagnostická data, elektronické zdravotní záznamy, a třeba i genomická data.
“[…] Musíme vzít všechna tato data, která máme v naší zemi, a přesunout je pouze do jedné jediné, nebo chcete-li, spíše tedy jednotné datové platformy, abychom super AI mohli poskytnout co nejpřesnější kontext. Když jí chceme klást otázky, poskytli jsme modelu AI všechna data, která potřebuje k důkladnému a přesnému pochopení naší země, takže to je velký krok v technologii, to je specifický druh dosud zcela chybějícího článku.
“Potřebujeme tedy sjednotit všechna národní data, vložit je do jedné jediné mega databáze, kde je lze snadno analyzovat tímto novým modelem superinteligentní AI, a pak jí lze položit jakoukoli otázku, která se nám líbí a očekávat od ní mnohem přesnější odpověď”
V této její odpovědi Ellison ale také specifikoval nejen kompilaci všech amerických dat, ale také všech dat z celého světa, přičemž uvedl příklady, že třeba takové Spojené arabské emiráty jsou dnes již neuvěřitelně bohaté na data a nejširší populaci, a že rovněž třeba “NHS ve Spojeném království má již nasbíráno naprosto neuvěřitelné množství dat o nejširší populaci.”
Dělají to ale samozřejmě i mnohé další země, něco podobného už dělá třeba Saúdská Arábie, která ve skutečnosti dnes opravdu financuje například celou řadu iniciativ výstavby chytrých měst, včetně výstavby monstrózního propjektu “The Line,” což bude 170 kilometrů (105 mil) dlouhé město úplně bez aut; a nebo výstavbu Průmyslového centra Oxagon, to se zase používá k výstavbě plovoucího města na vodě tzv. NEOM, ve spolupráci a s financováním od BlackRocku; nebo při práci na Saúdském genomovém programu, “ chce vybudovat zcela průkopnickou databázi, první svého druhu na světě, která nejen že zachytí celý genetický plán saúdské společnosti, ale také způsobí tamní revoluci ve zdravotnictví právě tím, že jako první na světě umožní skutečně personalizovanou medicínu, sníží tím celkové náklady na zdravotní péči a zároveň pozvedne celkovou kvalitu života.”
Ellison však dále objasnil, že mnoho z těchto modelů umělé superinteligence je již trénováno “především na datech, která jsou již veřejně dostupná na internetu,” a to například včetně klimatických dat. I když zdravotní data nejsou takto stále ještě dostupná online, tak podle Ellisona je získání právě těchto informací “velmi vzácné, velmi, velmi vzácné,”, takže získání a sloučení všech dohromady do umělé superinteligence asi skutečně významně zlepší celkové zdraví celé populace a dosáhne tak mnohem lepších výsledků rovněž pro jednotlivé občany.“
Protože všechna tato data jsou zatím pouze “fragmentovaná” v tisících jedinečných databází po celém světě, řekl technický ředitel společnosti Oracle Blairovi, že nyní zkrátka již potřebujeme data z 3 000 různých úložišť po světě vložit do jediné masivní megadatabáze.
Globální tlak na sjednocení dat
Ellisonova vize tedy sahá až velmi daleko za hranice Spojených států. Jako modely toho, čeho chce globálně dosáhnout, uvedl příklady zemí jako jsou pravě SAE a nebo Spojené království, které již vlastní obrovské množství údajů o jejich populaci. Saúdská Arábie například dnes velmi výrazně investuje do iniciativ chytrých měst a národního genomového programu zaměřeného na revoluci ve zdravotnictví prostřednictvím tzv. personalizované medicíny.
Ale tlak na sjednocení všech dat také vyvolává značné etické a praktické obavy. Ellison uznal, že jednou z největších překážek bude přesvědčit jednotlivé národy, aby vzájemně sdílely svá data a ukládaly si je do zahraničních datových center. Přesto se od plánu nenechá nikým odradit a tvrdí, že přínosy AI postupně zlepší zdravotní péči, velmi výrazně zlepší správu věcí veřejných a zvýší efektivitu, ale přesto stále převažují spíše rizika.
Mnoho lidí to však vidí jen jako trochu maskovaný pokus o upevnění moci v rukou několika málo jedinců světové technologické elity. “Umělá inteligence je tou vůbec nejrušivější technologií naší moderní éry, napsali Karl Manheim a Lyric Kaplan v Yale Journal of Law & Technology. “Její dopad pravděpodobně zastíní i rozvoj internetu, protože postupně tvrdě vstupuje do všech koutů našich životů… čímž představuje nová nebezpečí pro všeobecně uznávané společenské hodnoty a hlavně lidská a ústavní práva.”
Vzestup digitálního autoritářství: svět bez hranic
Ellisonova vize není jen nějaký izolovaný návrh. Je zcela v souladu se všemi širšími trendy v současném globálním řízení a technologii. Vlády po celém světě se stále více obracejí na AI právě kvůli sledování a rozhodování, často pouze s velmi malou transparentností nebo odpovědností. V USA například federální agentury nahlásily v roce 2024 více než 1 700 případů použití umělé inteligence, což je již dvojnásobek oproti předchozímu roku. Z toho 227 případů bylo označeno jako mající významný dopad na lidská práva nebo bezpečnost.
Tento posun směrem k “algocracy”— zákony algoritmem— což ovšem samozřejmě má hluboké důsledky hlavně pro demokracii a svobodu jednotlivců. Jak poněkud zlověstně poznamenal bývalý generální ředitel společnosti Google Eric Schmidt: “Víme, kde jste. Víme, kde jste byli. Můžeme víceméně už dnes vědět, o čem doma přemýšlíte… Vaše digitální identita bude žít již navždy, protože zde není žádné tlačítko Delete pro její vymazání.”
Ellisonova vize “šťastnějšího a spokojenějšího občana je založena na předpokladu, že neustálé sledování všech zkrátka povede k lepšímu chování. Ale tato logika je ve skutečnosti hluboce chybná. Jak historie ukázala, nekontrolovaná moc v rukou několika málo jedinců vždy a nevyhnutelně vede k jejímu zneužití. Představa, že AI bude působit jako nějaký benevolentní dozorce, je v tom nejlepším případě minimálně dost naivní a v tom nejhorším nebezpečně zavádějící.
Vize Larryho Ellisona o sjednoceném globálním světě zcela bez hranic řízeném umělou inteligencí není ale žádnou utopií. Je to naprosto dystopická noční můra. Tím, že Ellison obhajuje toto shromažďování a analýzu všech osobních údajů, včetně lidské DNA, tak připravuje cestu pro budoucnost, kde soukromí naprosto zanikne a lidská svoboda bude pouze iluzí.
Čtvrtý nejbohatší muž světa pak pokračoval detailnějším popisem úžasného superbezpečného nového světa, kde ovšem bude naprosto vše neustále monitorováno a špehováno AI. Začal tím, že uvedl konkrétní příklad, jak budou školy schopny snadno rozpoznat případného narušitele nebo školního střelce.
Popsal také to, jak nás bude umělá inteligence špehovat dokonce i v koupelně a na záchodě a uživatelé budou muset požádat, aby kamera na chvíli přestala špehovat, protože se právě chystají použít toto zařízení, ačkoli Ellison rovnou připustil, že kamery stejně stále poběží , ale bude se k nim dát přistupovat pouze prostřednictvím soudního příkazu.
“Kamera bude vždy zapnutá, nezapínáte ji ani nevypínáte ji vy sami. Způsob, jakým to zapnete – tedy nemůžete to vypnout konkrétně vy ale třeba když jdete na záchod – tak požádáte ‘Oracle, um, hele teď potřebuji dvě minuty na přestávku v koupelně a vypneme to prosím ano?
“Pravdou je, že to ve skutečnosti ani tehdy nevypínáme. To, co děláme, je, že to nahráváme tak, aby to nikdo další neviděl, a nikdo se do toho záznamu nemůže dostat bez soudního příkazu, takže získáte míru soukromí, o kterou jste požádali, ale pokud dostaneme soudní příkaz – tak třeba takový soudce se na to pak stejně může podívat, na tento váš takzvaný koupelnový break (přestávku).”
Takže ve světě, který tu Ellison popisuje, už ani přestávka v koupelně nebude ani ve školách ani nikde jinde posvátná. Pak pokračoval popisem školních obědů:
“Jdu na oběd s přáteli. ‘Oracle, prosím tě, teď potřebuji hodinu soukromí na oběd s mými přáteli.’ Bůh vám žehnej, nebudeme vás poslouchat, pokud na to ovšem nebude soudní příkaz.
“Video pak přenášíme zpět do centrály, takže ta centrála a AI to vaše video neustále monitorují.”
Policie, která bude také pod bedlivým dohledem společnosti Oracle, bude také nucena chovat se slušně, protože ani policie již nebude mít možnost vypnout sledování AI a to dokonce ani pro sebe.
Policie bude viděna“v televizi na velitelství, všichni by to viděli, vaše tělesné kamery budou on – line sem přenášet ty záběry.
„Policie se bude chovat také nejlépe, protože ji neustále sledujeme a zaznamenáváme vše, co se děje. […] „Každý policista bude neustále pod dohledem. Pokud se vyskytne problém, tak naše AI tento problém nahlásí příslušné osobě.“
Obyčejní občané se také budou chovat nejlépe, jak dovedou, protože podle Ellisona:
„Občané se budou chovat také nejlépe, protože je všechny neustále nahráváme a podáváme o tom zprávy.”
CTO Oracle zmínil, že kamery v autech a v policejních autech budou také vybaveny touto umělou inteligencí, kterou budeme neustále sledováni, a drony mohou třeba být nasazeny mnohem dříve, než by policie mohla provést nějakou samostatnou sledovací práci v nákupních centrech “, popsal” Ellison. “Existuje dnes tolik skvělých příležitostí k využití umělé inteligence, řekl k tomu.
Ellison tu takto, možná aniž by si to uvědomoval, dokonale popsal systém sociálních kreditů, jaký má být brzy všude na bývalém „západě“ nastolen. A taky totalitní svět, ve kterém nepůjde žít a jehož diktátor se nedá svrhnout. Protože oproti člověku bude tato obecná superinteligentní AI doslova věčná, dokud to tedy někdo nevytáhne ze zásuvky. Pak se jim celý systém zhroutí jak domeček z karet.
Zdroje: oracle.com, mindcontrol.news
Napsat komentář