Článek podle akademické práce Vernora Vinge na katedře matematických věd San Diego State University.

Autor Vernor Vinge

Vernor Vinge je profesor matematiky v San Diegu v důchodu, počítačový vědec a autor sci -fi.

Jaká je singularita?

Zrychlení technologického pokroku bylo ústředním rysem tohoto i minulého století. V tomto článku tvrdím, že jsme na pokraji obrovské změny, srovnatelné se vznikem lidského života na Zemi.

Přesnou příčinou této změny je bezprostředně přicházející vytvoření technologických entit s inteligencí větší, než je inteligence lidská.

Existuje několik prostředků, kterými může současná věda skutečně dosáhnout tohoto průlomu (a to je také další důvod, proč věřím tomu, že k této události brzy dojde):

• Mohou být vyvinuty počítače, které jsou „vědomé“ a nadlidsky inteligentní. (K dnešnímu dni již proběhlo hodně diskuzí o tom, zda můžeme ve stroji vytvořit ekvivalenci s člověkem . Ale pokud je odpověď „ano, tedy že můžeme“, pak není pochyb o tom, že ještě inteligentnější bytosti zkonstruujeme jen krátce poté.)
• Velké počítačové sítě (a k nim přidružení uživatelé) se mohou rovněž „probudit“ či „zvědomět“ jako nadlidsky inteligentní entita.
• Počítačově/lidská rozhraní mohou být tak intimní, že jejich uživatelé mohou být v jisté míře také považováni za nadlidsky inteligentní.
• Biologická věda nám může poskytnout prostředky ke zlepšení našeho přírozeného lidského intelektu.

První tři možnosti závisí z velké části pouze na vylepšení počítačového hardwaru. Pokrok v počítačovém hardwaru v posledních několika desetiletích sleduje úžasně stabilní a vzestupnou křivku [17]. Domnívám se, že k vytvoření větší, než je lidská inteligence, dojde během příštích třiceti let, při pokračování v tomto trendu. (Charles Platt [20] poukázal také na to, že nadšenci do AI si dělají stejné nároky již posledních třicet let. Nemohu za nejednoznačnost relativního času, ale dovolte mi být konkrétnější: bude překvapením, pokud k této události dojde před rokem 2005 nebo až po roce 2030.)

Jaké budou ale skutečně důsledky této události? Když bude postupovat vpřed nějaká větší než je lidská inteligence, tak bude tento pokrok mnohem rychlejší. Ve skutečnosti to je tak, že neexistuje vůbec žádný důvod, proč by sám o sobě tento pokrok nemohl v sobě mít rovnou zahrnuto také tvoření dalších, ještě více inteligentnějších entit – a k tomu v ještě kratším časovém měřítku. Nejlepší analogie, kterou vidím, je v evoluční minulostí: Zvířata se sice mohou přizpůsobit novým problémům i vynálezům, ale velmi často není nic rychlejšího než jen přirozený výběr, co by to mohlo dělat – svět tak v případě přirozeného výběru tak trochu působí jako simulátor sebe sama . My lidé máme schopnost internalizovat svět a v našich hlavách si představovat to naše „co kdyby“; Můžeme ale vyřešit mnoho problémů tisícekrát rychleji než přirozený výběr. Nyní, právě vytvořením nových prostředků k provedení těchto simulací a ještě mnohem rychleji tak vstupujeme do režimu tak radikálně odlišného od naší lidské minulosti, jako se my lidé odlišujeme od zvířat.

Z lidského ůhlu pohledu bude tato změna házením všech předchozích pravidel, snad v mrknutí oka, exponenciální útěk za jakoukoli nadějí na kontrolu. Vývoj, o kterém se předtím myslel, by se mohl stát pouze za „milion let“ (pokud vůbec), se pravděpodobně stane již v příštím století. (V [5], Greg Bear vykresluje obrázek hlavních změn, které se odehrávají během několika hodin.)

Myslím, že je spravedlivé nazývat tuto událost jako singularitu („Singularita“ pro účely tohoto příspěvku). Je to bod, kdy musí být naše staré modely vyřazeny a pravidla nová realita. Když se k tomuto bodu přibližujeme blíže, vznáší se nad lidskými záležitostmi Vaster a Vaster, dokud se představa nestane běžnou. Přesto, když se to konečně stane, může to být stále ještě velké překvapení a ještě větší neznámá. V 50. letech 20. století bylo stále jen velmi málo lidí, kteří to viděli: Stan Ulam [28] parafrázoval John Von Neumann, když řekl:

Jedna konverzace se soustředila právě na tento neustále zrychlující pokrok v technologiích a změnách jen půběhu jednoho lidského života, což rovněž naznačuje, že se blížíme k nějaké první singularitě za celou historii naší rasy, za kterou ovšem nemohou pokračovat lidské záležitosti tak, jak je dosud známe.

Von Neumann dokonce používá termín singularita, i když to vypadá, že jen přemýšlí o normálním pokroku, a vůbec ne o vytvoření nějakého nadlidského intelektu. (Pro mě je ale právě nadlidství podstatou jedinečnosti. Bez toho bychom dostali jen spoustu technického bohatství, které bychom nikdy nevstřebali (viz [25]).)

V šedesátých letech došlo i k uznání některých důsledků nadlidské inteligence. Ij Good napsal [11]:

Nechte ultrainteligentní stroj definovat jako stroj, který může daleko překonat všechny intelektuální činnosti jakéhokoli živého člověka, ale ještě je chytrý. Vzhledem k tomu, že design strojů je jednou z těchto intelektuálních aktivit, mohl by ultraintelligentní stroj navrhnout ještě další a ještě lepší stroje; Potom by pak nepochybně nastala doslova „exploze inteligence“ a inteligence člověka by byla nechána daleko vzadu. První ultrainteligentní stroje je tedy nsoučasně také ten poslední vynález, který člověk bude potřebovat, a to ještě pouze za předpokladu, že ten stroj bude dostatečně (po)slušný na to, aby nám prozradil, jak jej můžeme udržet pod kontrolou. … Je dost pravděpodobné, že ve dvacátém století bude skutečně postaven ultrainteligentní stroj, a že to skutečně bude ten poslední vynález, který člověk bude potřebovat.

Good sice zachytil podstatu technologického útěku, ale nesleduje ty nejrhorší důsledky. Žádný inteligentní stroj takového druhu, který popisuje, by totiž nebyl „nástrojem“ lidstva – rozhodně o nic víc než lidé jsou třeba nástroji králíků nebo šimpanzů.

Během 60. a 70. a 80. a 80. let se uznalo šíření kataklyzmatu [29] [1] [31] [5]. Možná by to byli právě spisovatelé sci-fi, kteří by pocítili první konkrétní dopad. Koneckonců, „tvrdí“ spisovatelé sci-fi jsou ti, kteří se snaží psát konkrétní příběhy o všem, co se nám může stát. Stále více, tito spisovatelé pociťovali poněkud neprůhlednou zeď po celé budoucnosti. Jednou v budoucnu by mohli dát takové fantazii miliony let [24]. Nyní viděli, že jejich nejvíce pilnější extrapolace vyústily v nepoznatelné … ale za to brzy. Jednou by se Galactic Empires mohlo stát doménou posthumannismu . Nyní, bohužel, jsou i meziplanetární.

A co 90. a 9. a 00 a „10. let, když se posuneme směrem k okraji? Jak se rozšíří přístup singularity v celém pohledu na lidský svět? Na chvíli by mohli mít obecní kritici strojového Sapience dobrý tisk. Koneckonců, dokud nebudeme mít hardware tak silný jako je lidský mozek, je pravděpodobně hloupé myslet si, že budeme schopni vytvořit lidsky ekvivalentní (nebo větší) inteligenci. Není možné si myslet, že bychom lidsky ekvivalentní inteligenci postavili na hardwaru zaostávajícím za lidským mozkem, a to ani kdybychom se to pokusili co nejvíce urychlit. [30]. Rovněž vývoj softwaru bude mít jistě ještě mnoho slepých uliček, mnoho nových začátků a mylných představ. Jestli to je skutečně tak, tak by postavení stroje, který si uvědomuje sám sebe šlo uskutečnit pouze na lepším hardwaru než je přírozený mozek člověka.

Ale postupem času bychom měli vidět více příznaků. Dilema, které pociťují spisovatelé sci -fi, bude vnímáno i v jiných kreativních snahách. (Slyšel jsem promyšlené spisovatele komiksů, kteří se obávají, jak velkolepý efekt bude mít, když vše, co vidíme, tak může být vytvořeno běžnou technologií .) Uvidíme automatizaci nahrazující pracovní místa vyšší a navíc bude mnohen vyšší úrovně. Právě máme nástroje (symbolické matematické programy, CAD/CAM), které nás uvolňují z většiny drudgery nízké úrovně. Nebo se na to podívejte jiným způsobem: Práce, která je skutečně produktivní, bude doménou neustále menšího a elitnějšího zlomku lidstva. S příchodem singularity také vidíme předpověd skutečně technologické nezaměstnanosti, které se nakonec vyplní.

Dalším znamením pokroku jdoucího směrem k singularitě: samotné myšlenky by se měly šířit stále rychleji a dokonce i ty nejradikálnější z nich se rychle stanou samozřejmostí. Když jsem začal psát sci -fi v polovině 60. let, zdálo se mi ještě velmi snadné najít nápady, kterým pak trvalo desetiletí, než skutečně pronikli do širšího kulturního povědomí; Nyní se zdá, že to trvá už jen tak maximálně osmnáct měsíců. (Samozřejmě, že by to mohlo být také jen tím, že i já postupně ztrácím svou představivost s tím, jak stárnu, ale vidím stejný účinek i u jiných autorů.) Stejně jako nějaký šok ve stlačitelném toku se tak i singularita pohybuje mnohem blíže, když se zrychlíme až ke kritické rychlostí.

A co příchod samotné singularity? Co lze říci o tom, jak to skutečně bude vypadat? Protože její příchod zahrnuje i náš intelektuální útěk, tak pravděpodobně proběhne mnohem rychleji než jakákoliv dosavadní technická revoluce. Skutečná událost bude pravděpodobně neočekávaná – a to možná dokonce ani zúčastněnými vědci. („Ale všechny naše předchozí modely byly pokaždé katatonické! Jen jsme vyladili některé parametry…“) Pokud bude taková síť dostatečně rozšířená (a zabudovaná do všudypřítomných systémů), může to pak vypadat, jako by se všechny naše artefakty jako celek náhle probudily.

Ale co se stane za měsíc nebo za dva (nebo za den nebo za dva) poté? Mám pouze analogie, kterými by šlo poukázat na: pravděpodobný vzestup lidstva. Budeme rázem v post-lidské éře. A přes všechen svůj nekontrolovatelný technologický optimismus si někdy myslím, že by pro nás bylo pohodlnější, kdyby se nás týkali tyto transcendentální události až za třeba tisíc let … místo za dvacet.

Lze zabránit singularitě?

No, možná se to nakonec vůbec nikdy nestane: někdy se snažím o to, představovat si nějaké náznaky, podle kterých bychom měli spíše očekávat, že k singularitě nikdy nedojde. Existují rovněž, a to poměrně široce respektované, argumenty Penrose [19] a Searleho [22] proti praktičnosti vzniku takového inteligentního stroje. V srpnu 1992 uspořádala společnost Thinking Machines Corporation workshop, aby prozkoumala otázku „jak můžeme postavit stroj, který myslí“ [27]. Jak byste mohli hádat asi již ze samotného názvu tohoto workshopu, jeho účastníci nijak zvlášť nepodporovali argumenty proti inteligentním strojům. Ve skutečnosti tam existovala obecná shoda, že mysl může existovat i na nebiologických substrátech a že právě algoritmy mají pro existenci mysli ten ústřední význam. O surové hardwarové síle, která je přítomna v organických mozcích, se však také hodně debatovalo. Menšina cítila, že největší počítače z roku 1992 byly maximálně tak do tří řádů vůči velikosti síly lidského mozku. Většina účastníků souhlasila s odhadem Moravecem [17], že jsme deset až čtyřicet let daleko od hardwarové parity. A přesto existovala další menšina, která poukázala na [7] [21] a předpokládala, že výpočetní kompetence jednotlivých neuronů může být ještě mmnohem vyšší, než se obecně věřilo. Pokud to tak je, tak náš současný počítačový hardware může být stejně stále o deset řádů vzdálen velikosti těch zařízení, které nosíme v našich hlavách. Pokud je to pravda (nebo pokud jde o to, zdali je kritika Penrose nebo Searle platná), nikdy bychom neviděli jedinečnost. Místo toho bychom na začátku 00 let zjistili, že se naše křivky výkonu hardwaru začínají narovnávat – a to kvůli naší neschopnosti automatizovat designové práce potřebné k podpoře dalších hardwarových zlepšení. Nakonec bychom skončili s velmi výkonným hardwarem, ale bez schopnosti ho dotlačit ještě dále. Komerční zpracování digitálního signálu může být úžasné, což dává analogový vzhled i digitálním operacím, ale nic by se nikdy „neprobudilo“ a nikdy by neexistoval ten intelektuální útěk, který je podstatou singularity. Pravděpodobně by to bylo považováno za zlatý věk … a byl by to nejspíš také konec pokroku. Je to velmi jako budoucnost předpovídaná Guntherem Stentem. Ve skutečnosti na straně 137 [25] stent výslovně uvádí rozvoj transhumánistické inteligence jako dostatečnou podmínku k porušení jeho projekcí.

Pokud však může dojít k technologické singularitě, tak se to i stane. I kdyby všechny vlády světa porozuměli této „hrozbě“ a měli by z toho smrtící strach, tak by ale stejně pokrok směrem k cíli přesto i nadále pokračoval. Ve fikcich existovaly rovněž příběhy o zákonech, které zakazují konstrukci „stroje v podobě lidské mysli“ [13]. Ve skutečnosti je to vždy ale jen konkurenční výhoda – ekonomická, vojenská, dokonce umělecká – všechen pokrok v automatizaci nás přesvědčuje o tom, že přijímání zákonů, které takové věci zakazují, je vždy pouze z obavy, že je někdo jiný dostane jako první.

Eric Drexler [8] poskytl velkolepé poznatky o tom, jak až daleko může dojít technické zlepšení. Souhlasí s tím, že nadlidské inteligence budou v blízké budoucnosti pravděpodobně k dispozici – a že takové subjekty skutečně již představují hrozbu pro lidský status quo. Drexler však rovněž tvrdí, že taková transhumánistická zařízení můžeme vždy natolik omezit, aby jejich výsledky mohly být ještě bezpečně prozkoumány a využity. Toto je ultralinteligentní stroj IJ Good s dávkou opatrnosti. Tvrdím, že takové uvěznění je přirozeně nepraktické. V případě fyzického uvěznění: Představte si, že jste zamčeni u vás doma s pouze omezeným přístupem k datům z vnější strany, odkázáni pouze na své pány. Pokud si tito pánové mysleli rychlostí – řekněme, o milionkrát pomalejší než vy, tak není pochyb o tom, že za dobu několika let (váš čas) byste asi mohli přijít s nějakými „užitečnými radami“, které by vás jen tak mimochodem osvobodili. (Říkám tomuto „rychlému myšlení“ jakékoli formy superintelligence „slabé nadlidství“. Taková „slabě nadlidská“ bytost by pravděpodobně vyhořela za pár týdnů vnějšího času. Tilsíce let psího života přispěje k jakémukoli lidskému vhledu? Pakliže ale běží vysokou rychlostí, můžeme vidět něco jiného…) Mnoho spekulací o superintelligence se zdá být založeno právě na tomto slabě nadlidském modelu. Věřím, že naše nejlepší odhady o post-singularitním světě lze získat právě přemýšlením o povaze silné nadlidnosti. K tomuto bodu se vrátím později v článku.)

Dalším přístupem k uvěznění je vytvoření pravidel přímo do mysli vytvořené nadlidské entity (například Asimovovy zákony [3]). Myslím si ale, že jakákoli pravidla dostatečná natolik, aby byla efektivní, by také vytvořila zařízení, jehož schopnost byla zjevně nižší než jiné, neomezené verze (a tak by lidská konkurence logicky upřednostňovala rozvoj těchto nebezpečnějších modelů). Asimovský sen je přesto úžasný: Představte si ochotného otroka, který má ve všech směrech 1000krát vaše schopnosti. Představte si stvoření, které by mohlo uspokojit každé vaše bezpečné přání (ať už to znamená cokoli) a stále má 99,9% svého času zdarma pro jiné činnosti. Byl by nový vesmír, který bychom nikdy nepochopili, ale který by byl naplněný benevolentními bohy (i když jedním z mých přání by mohlo být stát se jedním z nich).

Pokud tomu ale nelze zabránit nebo omezit singularitu, tak jak špatná by mohla být éra post-lidské inteligence? No … docela dost špatná. Fyzické vyhynutí lidské rasy je jen jednou z mnoha možností. (Nebo jak to Eric Drexler uvedl na příkladu z nanotechnologie: vzhledem k tomu, co taková technologie dokáže, by se možná vlády jednoduše rozhodly, že své občany již nadále nepotřebují!). Fyzické vyhynutí však nemusí být ještě tou nejděsivější možností. Analogie opět: Pomyslete na různé způsoby, jakými se vztahujeme ke zvířatům. Některé ty z oblasti hrubého fyzického zneužívání jsou sice nepravděpodobné, přesto…. V post-lidském světě by stále ještě existovalo spousta výklenků, kde by byla žádoucí automatizace ekvivalentní té lidské užitečná: vestavěné systémy v autonomních zařízeních, sebevědomých, které si dokáží sami poradit, démoni na nižším stupni fungování větších sentientů. (Silně nadlidská inteligence by byla pravděpodobně společností mysli [16] s některými velmi kompetentními komponenty.) Některé z těchto lidských ekvivalentů by mohly být použity také pro něco jiného než jen pro pouhé zpracování digitálního signálu. Byly by to tak spíš jakési velryby než lidé. Jiní by ale mohli být velmi lidští, přesto s určitou jednostranností, a třeba s takovým Odhodláním , které by je ještě v té naší éře poslalo rovnou do psychiatrické léčebny. Ačkoli žádný z těchto tvorů by nemohl být člověkem z masa a krve, mohou to být přesto ty nejbližší věci v novém prostředí toho, čemu zatím říkáme lidé. (IJ Good o tom měl co říci, i když v tomto pozdním datu může být již každá rada drahá: [12] „Meta-Golden navrhla dobré pravidlo“, které by mohlo být parafrázováno asi jako „zacházet s vašimi podřízenými stejně, jako by se zacházelo s vámi . Trochu ovšem přeci jen pochybuji o věrohodnosti až takové laskavosti v tomto vesmíru.)

Výše bylo tvrzeno, že nemůžeme zabránit singularitě, že její příchod je nevyhnutelným důsledkem přirozené konkurenceschopnosti lidí a možností, které jsou v nějaké technologii spojeny. A přesto všechno… stále budeme právě my její iniciátoři. Dokonce i ta největší kamenná lavina je vyvolána jen malými kameny na začátku. Máme svobodu vytvářet počáteční podmínky, ale i dělat věci, které se pak samy dějí dál, ale způsoby, které jsou méně nepřátelské než ostatní. Samozřejmě že přitom (stejně jako u začínajících lavin) nemusí být tak zcela jasné, co ve skutečnosti je to pravé vedení:

Další cesty k singularitě: Amplifikace inteligence

Když lidé mluví o vytváření nadlidsky inteligentních bytostí, obvykle si představují projekt vzniku obecné AI (to je tzv.sentient AI, tedy umělá inteligence se sebeuvědoměním. pozn.Myšpule). Ale jak již bylo poznamenáno hned na začátku tohoto článku, tak existují i ​​jiné cesty k dosažení takového nadlidství. Počítačové sítě a vývoj rozhraní pro vytvoření lidského počítače se zdají být o něco světlejší variantou než vytvoření „pouhé“ obecné AI, a přesto by i ony mohly nakonec vést až k singularitě. Nazývám tento kontrastní přístup jako amplifikace inteligence (IA). IA je něco, co postupuje vpřed velmi přirozeně, že ve většině případů ani její vývojáři nechápou, co že se to vlastně děje. Ale pokaždé, když se naše schopnost získat přístup k informacím o něco zvětší a my je pak můžeme teprve sdělit i ostatním, tak v jistém smyslu jsme jsme tím již dosáhli určitého nárůstu přirozené inteligence. Dokonce i nyní by tým lidské a dobré počítačové pracovní stanice (dokonce i mimo síť pracovních stanic!) pravděpodobně mohl maximalizovat výsledky jakéhokoliv písemného testu dokazujícího existenci takového inteligenčního nárůstu .

Ale je velmi pravděpodobné, že IA je mnohem jednodušší cesta k dosažení nadlidskosti než jen čistá AI. U lidí byly ty nejtěžší problémy s rozvojem již vyřešeny. Budování z nás by tak mělo být o něco snažší, než nejprve muset zjistit, co jsme skutečně zač, a pak teprve začít stavět stroje, které jsou tím vším. Ale pro tento přístup existuje alespoň precedens. Cairns-Smith [6] spekuloval, že biologický život mohl začít třeba jen jako doplněk k ještě primitivnějšímu životu založeným pouze na krystalickém růstu. Lynn Margulis (v [15] a jinde) předložila silné argumenty, že právě vzájemnost je velkou hnací silou v evoluci.

Všimněte si, že vůbec nenavrhuji, aby byl výzkum AI zcela ignorován nebo méně financován. To, co se bude dít s AI, bude mít často své aplikace právě v IA a naopak. Navrhuji, abychom si pouze uvědomili, že ve výzkumu sítí a rozhraní existuje něco tak hlubokého (a potenciálně značně divokého) jako je vznik obecné umělé inteligence. S tímto vhledem můžeme vidět projekty, které nejsou tak přímo použitelné, jako jsou konvenční práce na rozhraní a na návrhu sítě, ale které nám přitom dobře slouží právě k postupu k jedinečnosti podél cesty IA.

Zde je několik možných projektů, které mají zvláštní význam, vzhledem k pohledu IA:

• Automatizace lidsky-počítačového týmu: Problémy, které jsou obvykle považovány za čistě strojové řešení (jako jsou problémy s lezením na kopce), a programy navrhování a vytváření rozhraní, která využívají výhodu intuice lidí s dostupným počítačovým hardwarem. S ohledem na veškerou bizarnost problémů s vyšším rozměrem a s lezením (a úhledných algoritmů, které byly navrženy pro jejich řešení), mohly by existovat některé velmi zajímavé displeje a kontrolní nástroje poskytované členovi lidského týmu.
• Rozvíjet symbiózu člověk-počítač v umění: Kombinujte schopnost generování grafiky moderních strojů s estetickou citlivostí lidí. Samozřejmě existuje obrovské množství výzkumu při navrhování počítačových pomůcek pro umělce jako jejich nástroje pro úsporu práce. Navrhuji, abychom se výslovně zaměřili na větší sloučení kompetencí, abychom výslovně rozpoznali kooperativní přístup, který je možný. Karl Sims [23] odvedl skvělou práci tímto směrem.
• Povolit lidsko-počítačové týmy na šachových turnajích. Už máme programy, které mohou hrát šachy lépe než téměř všichni lidé. Kolik práce však bylo provedeno na tom, jak může tuto sílu pak využít člověk, aby se tím něco ještě více zlepšilo? Pokud by byly takové týmy povoleny alespoň na některých šachových turnajích, mohlo by to mít pozitivní dopad na výzkum IA, který umožňuje počítačům v turnajích objevit odpovídající výklenek v AI.
• Vyvíjejte rozhraní, která umožňují přístup k počítačům a sítím, aniž by to vyžadovalo, aby byl člověk svázán jen s jedním místem a seděl před počítačem. (Toto je aspekt IA, který se hodí tak dobře k získání známých ekonomických výhod, že se na to již nyní vynakládá spousta úsilí.)
• Vyvinout více symetrických systémů podpory rozhodování. Populární oblastí výzkum-produkt v posledních letech byly právě systémy podpory rozhodování. Jedná se o formu IA, ale může být příliš zaměřena na systémy, které jsou orakulární. Stejně jako program poskytuje informace o uživateli, musí existovat myšlenka, že uživatel dává informace programu. (což přesně dnes uvádí psychopaté ovládající náš svět do reality v podobě snahy nahradit přirozené neurony v lidském mozku syntetickými pomocí technologie mRNA a nanotechnologií na bázi oxidu grafenu apod. pozn.Myšpule)
• Použijte místní oblasti sítí k vytvoření lidských týmů, které skutečně fungují (tj. které jsou skutečně efektivnější než jen jejich členové -komponenty samostatně). Toto je obecně oblast „Groupware“, již velmi populární v komerční sféře. Změna v úhlu pohledu by zde spočívala například v posouzení skupinové aktivity jako kombinovaného organismu. V jistém slova smyslu lze tento návrh považovat za snahu vymýšlet nějaká „pravidla řádu“ právě pro takové kombinované operace. Například jak lze takové skupinové zaměření snadněji udržovat než jen ú pouhou povinnou častí na klasických setkáních. Odborné znalosti jednotlivých lidských členů by takto mohly být izolovány od problémů ega třeba tím, že příspěvek jednotliých členů bude vždy zaměřen pouze na projekt týmu. A samozřejmě také sdílení datové základny by mohlo být takto využito mnohem pohodlněji než je tomu u konvenčních operacích výboru. (Všimněte si toho, že tento návrh je zaměřen spíše na týmové operace než na politické schůzky. V politickém prostředí by si výše popsaná automatizace jednoduše vynucovala větší moc osob, které tato pravidla dělají!)
• Využijte celosvětový internet jako kombinovaného lidského stroje. Ze všech položek na seznamu je pak pokrok při tomto postupu ten nejrychlejší a může nám tedy umožnit vstoupit do singularity mnohem dříve a rychleji než cokoli jiného. Síla a vliv i toho dnešního internetu je totiž nesmírně podceňována. Například si myslím, že naše současné počítačové systémy by se rozbily pod váhou jejich vlastní složitosti, kdyby to nebylo tak, že Usenet „Group Mind“ dává celou správu systému, ale podporuje lidi! Samotná anarchie celosvětového čistého rozvoje je sama o sobě důkazem jeho potenciálu. Vzhledem k tomu, že se neustále zvyšuje jak konektivita, tak šířka pásma a zároveň i celková velikost archivu, ale zároveň také rychlost počítačů, tak vidíme něco podobného jako byla Lynn Margulis ‚[15] vize biosféry jako rekapitulovaného datového procesoru, ale s milionkrát větší rychlostí a s miliony lidsky inteligentních procesorů (bodů) v jedné síti (my).

Výše uvedené příklady jen ilustrují výzkum, který lze již provést v kontextu současných oborů informatiky. Existují ale ještě další paradigmata. Například velká část práce na umělé inteligenci a na neuronových sítích by měla určitě nějaký prospěch z bližšího spojení s biologickým životem. Namísto pouhého pokusu o modelování a porozumění biologickému životu pomocí počítačů by tak mohl být tento výzkum zaměřen více na vytvoření velmi složených systémů, které se spoléhají na biologický život pro své vedení nebo pro poskytování funkcí, kterým ještě nerozumíme dostatečně dobře a natolik, abychom je mohli jakkoli reálně implementovat v nějakém hardwaru. Dlouhodobý sen sci-fi byl o přímém rozhraní spojení mozku s počítačem [2] [29]. Ve skutečnosti již ale existují zcela konkrétní práce, které v této oblasti lze provést (a také se provádí ):

• Protetika končetin je téma přímé komerční použitelnosti. Lze vyrobit nervové převodníky na bázi křemíku [14]. Jedná se sice o vzrušující, ale jen krátkodobý krok k přímé komunikaci.
• Přímé vazby do mozků se zdají být proveditelné, pokud je bitová přenosová rychlost nízká: vzhledem k flexibilitě učení člověka nemusí být skutečné cíle napojení se na neurony v mozku přesně vybrány. Dokonce i 100 bitů za sekundu by již bylo velmi užitečné pro to, co by jinak bylo omezeno pouze na rozhraní zaměřené na výběr z nabídky v menu.
• Připojení k optickému kabelu má potenciál pro šířky pásma okolo 1 Mbit/sekundu. Z tohoto důvodu však musíme dobře znát jemnou architekturu vidění a museli bychom do mozku umístit obrovskou síť elektrod a navíc ještě s vynikající přesností. Pokud chceme, aby naše spojení s vysokou šířkou pásma bylo ještě jiné, tedy kromě toho, jaké cesty jsou již v mozku přirozeně přítomny, problém se tím stává nesmírně složitým a ještě neřešitelnějším. Jen pouhým nalepením mřížky přijímačů s vysokou šířkou pásma přímo na mozek něco takového rozhodně neudělá. Předpokládejme však, že nějaká taková mřížka s vysokou šířkou pásma by již byla fyzicky přítomna, zatímco samotná struktura mozku ve skutečnosti teprve postupně vzniká s tím, jak se embryo vyvíjí. To nám naznačuje možný směr dalšího bádání:
• Experimenty s embryi u zvířat. V prvních letech takového výzkumu nelze nejspíše očekával žádný velký úspěch v IA, ale pro lidi, kteří do hloubky studují, jak se embryonální mozek vyvíjí, to může být i tak velmi užitečně třeba v poskytnutí lepšího přístupu k výzkumu rozvoje mozků a nebo ke složitým simulacím nervových struktur. Z dlouhodobého hlediska pak ale mohou takové experimenty vyprodukovat zvířata s dalšími neobvyklými smyslovými vlastnostmi a třeba také se zajímavými intelektuálními schopnostmi.

Původně se také doufalo v to, že tato diskuse o IA nám přinese rovněž některé jasně bezpečnější přístupy k získání vytoužené jedinečnosti. (Koneckonců, IA přece stále umožňuje naši přímou účast na jakékoli transcendenci.) Bohužel, při pohledu zpět na tyto návrhy IA, tak to, co jediné je skutečně jisté, je to, že by se měly brát v úvahu vlastně pouze proto, aby nám to dalo více možností. Ale pokud jde o bezpečnost … no, některé návrhy se tváří jako trochu děsivé. Jeden z mých neformálních recenzentů poukázal na to, že IA pro jednotlivé lidi vytváří spíše velmi zlověstnou elitu. My lidé totiž máme s sebou na cestě vývoje miliony let evolučního zavazadla, díky němuž jsme nuceni považovat konkurenci za smrtící. Velká část této smrti nemusí být v dnešním světě nezbytná, když ti poražení přebírají triky vítězů a spolupracují na podnikání vítězů. Stvoření, které bylo ale postaveno de novo, by mohlo být mnohem benignější entitou než entita s jádrem založeným na Fang a Talon. A dokonce i naprosto rovnostářský pohled na internet, který se náhle probudí spolu s celým lidstvem, lze s jistého úhlu pohledu považovat za noční můru [26].

Problém nespočívá pouze v tom, že singularita představuje přechod lidstva z centra dění, ale že je rovněž v rozporu s našimi nejhlubšími představami o samotném bytí. Myslím si, že bližší pohled na pojem silné nadliskosti může ukázat, proč tomu tak je.

Silné nadlidství a to nejlepší, o co můžeme požádat

Předpokládejme, že bychom mohli přizpůsobit jedinečnost. Předpokládejme, že bychom mohli skutečně dosáhnout i těch našich nejvíce extravagantnějších nadějí. To, o co bychom pak požádali, by bylo: že lidé sami by se stali jejich vlastními nástupci, že jakákoli nespravedlnost dojde k zmírnění naší znalostí naší vlastní podstaty a kořenů. Pro ty, kteří zůstali nezměněni, by cílem bylo benigní zacházení (možná to dokonce dává přednost tomu být mistry místo božských otroků). Mohl by to být zlatý věk, který také zahrnoval pokrok (překrývající se bariéru Stentu). Nesmrtelnosti (nebo alespoň po celý život, pokud dokážeme přimět i vesmír k tomu přežít se [10] [4]), by bylo možné dosáhnout.

V tomto nejjasnějším a nejlaskavějším světě se však filozofické problémy sami o sobě stávají dost zastrašujícími. Mysl, která zůstává stále na té stejné kapacitě, zkrátka nemůže žít navždy; Po několika tisících letech by to totiž vypadalo spíše jako stále se opakující smyčka na pásku než jako žívá bytost. (Nejvíce chladný obrázek, který jsem si o tom udělal, je v [18].) Abychom totiž mohli žít po neurčitě dlouhou dobu, tak musí ale i naše mysl samotná také stále růst … a když se stane dostatečně skvělou a ohlédne zpět … tak může mít ještě vůbec nějaké další spoluobčany s duší takovu, jakou měli kdysi či původně? Určitě by to bylo všechno to, co by byl už originál, ale k tomu by bylo mnohem, mnohem více. A tak i pro jednotlivce musí být pojetí Cairns-Smith nebo Lynn Margulis, že nový život vždy roste postupně z životů starých, stále platné.

Tento „problém“ s nesmrtelnosti přichází mnohem přímějšími způsoby. Představa ega a sebevědomí byla základem tvrdého racionalismu posledních několika století. Přesto je nyní pojem sebevědomí pod útokem lidí umělé inteligence („sebevědomí a další bludy“). Amplifikace inteligence podkopává náš koncept ega ještě z jiného směru. Svět post-singularity bude zahrnovat extrémně hodně sítí s extrémně velkou šířkou pásma. Ústředním rysem silně nadlidských entit bude spočívat pravděpodobně v jejich schopnosti komunikovat při variabilní šířce pásma, včetně využívání nějakých mnohem vyšších forem komunikace než jen řečových nebo jen písemných zpráv. Co se stane, když půjde například zkopírovat a sloučit různé kousky ega, nebo když velikost sebevědomí moci narůstat nebo se naopak zmenšit, třeba tak, aby to lépe odpovídalo povaze uvažovaných problémů? To jsou základní rysy silné nadlidskosti a rovněž té skutečné singularity. Přemýšlíme-li o nich, člověk začne cítit, jak v podstatě hodně divná a jak moc odlišná bude tato post-lidská éra- a to vlastně dokonce bez ohledu na to, jak chytře a neškodně je přinesen její vlastní vznik do reality.

Z jednoho úhlu pohledu se tyto vize hodí do mnoha z našich nejšťastnějších snů: budeme mít nekonečný čas na to , kdy se můžeme skutečně navzájem poznat a pochopit i ty nejhlubší záhady. Z jiného úhlu pohledu to může být o hodně horší než je ten nejhorší scénář ze všech, který si můžete vůbec ještě představit, jako ty uvedené dříve v tomto článku.

Který je ale ten správný pohled? Ve skutečnosti si myslím, že nová éra bude prostě příliš odlišná na to, aby se ještě vůbec vešla do klasického rámce dobra a zla. Tento rámec je totiž založen na myšlence izolovaných, v podstatě neměnných myslí vzájemně spojených slabými sítěmi s malou šířkou komunikačního pásma. Svět post-singularity však odpovídá větší tradici změn a spolupráce, která začala už dávno (možná ještě před vzestupem biologického života). Myslím, že již existují pojmy etiky, které by se v takové době dali použít. Toto porozumění by měl zlepšit výzkum komunikace IA a s vysokou šířkou komunikačního pásma. Nyní však vidím sotva jen záblesky tohoto porozumění [32]. Existuje Good’s Meta-Golden pravidlo; Možná existují pravidla pro odlišení sebe sama od ostatních jen na základě šířky pásma spojení. A zatímco mysl a já budou o mnoho labilnější než byli v minulosti, tak hodně z toho, čeho si tak moc vážíme (jako jsou znalosti, paměť, myšlenky), tak nemusí být nikdy ztracena. Myslím, že Freeman Dyson má pravdu, když říká [9]: „Bůh je to, co se mysli stane, když přesáhne rozsah našeho porozumění.“

[Chci tímto poděkovat Johnovi Carrollovi ze San Diego State University a Howardu Davidsonovi ze Sun Microsystems za diskusi o návrhu verze tohoto příspěvku se mnou.]

Zdroj. Volně přeložila a trochu okomentovala Myšpule

---

Poznámky pod čarou

1. Alfve’n, Hannes, psaní jako Olof Johanneson, konec Man ?, Award Books, 1969 Dříve publikoval jako „Příběh velkého počítače“, Coward-McCann, přeloženo z knihy Copyright 1966 Albert Bonniers Forlag AB AB s anglickým překladem Copyright 1966 od Victor Gollanz, Ltd.
2. Anderson, Poul, „Kings Who Die“, pokud , březen 1962, str. 8-36. Přetištěno v sedmi dobytí , Poul Anderson, Macmillan Co., 1969.
3. Asimov, Isaac, „Runround“, ohromující sci -fi, březen 1942, str .94. Isaac Asimov, Roc, 1990. Asimov, přetiskl vývoj svých robotických příběhů v této knize, popisuje vývoj svých robotických příběhů.
4. Barrow, John D. a Frank J. Tipler, antropický kosmologický princip , Oxford University Press, 1986.
5. Bear, Greg, „Blood Music“, Analog Science Fiction – Science Fakt , červen 1983. Expanded do románu Blood Music, Morrow, 1985.
6. Cairns-Smith, AG, Sedm stop k původu života, Cambridge University Press, 1985.
7. Conrad, Michael a kol., „Směrem k umělému mozku“, Biosystems , sv. 23, pp175-218, 1989.
8. Drexler, K. Eric, Engine of Creation , Anchor Press/Doubleday, 1986.
9. Dyson, Freeman, nekonečný ve všech směrech , Harper && Row, 1988.
10. Dyson, Freeman, „Fyzika a biologie v otevřeném vesmíru“, Review of Modern Physics, sv. 51, pp447-460, 1979.
11. Dobré, IJ, „Spekulace týkající se prvního ultraintálního stroje“, v pokroku v počítačích , sv. 6, Franz L. Alt a Morris Rubinoff, eds, PP31-88, 1965, Academic Press.
12. Dobře, ij, [pomoc! Nemohu najít zdroj Good’s Meta-Golden Rule, i když si mám jasné vzpomínky na slyšení o tom někdy v 60. letech. Pomocí sítě jsem našel ukazatele na řadu souvisejících položek. G. Harry Stine a Andrew Haley psali o Metalowovi, protože by se to mohlo vztahovat k mimozemšťanům: G. Harry Stine, „Jak vycházet s mimozemšťany… nebo váš soused“, Analogová vědecká vědecká fiction P39-47 , sci , – únor . Šedesátá léta.
13. Kovacs, GTA a kol., „Regenerace mikroelektrodové pole pro záznam a stimulaci periferních nervů“, IEEE transakce na biomedicínském inženýrství , v 39, n 9, str. 893-902.
14. Margulis, Lynn a Dorion Sagan, Microcosmos, čtyři miliardy let evoluce od našich mikrobiálních předků, Summit Books, 1986.
15. Minsky, Marvin, Society of Mind, Simon a Schuster, 1985.
16. Moravec, Hans, Mind Children , Harvard University Press, 1988.
17. Niven, Larry, „Etika šílenství“, pokud , duben 1967, str. 82-108. Přetištěno v Neutron Star , Larry Niven, Ballantine Books, 1968.
18. Penrose, Roger, The Emperor’s New Mind , Oxford University Press, 1989.
19. Platt, Charles, soukromá komunikace.
20. Rasmussen, S. a kol., „Výpočetní konektismus v neuronech: model cytoskeletálních automatů podřízených neuronovým sítím“, ve naléhavém výpočtu, Stephanie Forrest, ed., Pp428-449, MIT Press, 1991.
21. Searle, John R., „Mysl, mozky a programy“, v behaviorálních a mozkových vědách , sv. 3, Cambridge University Press, 1980. Esej je přetištěna v Mind’s I , editoval Douglas R. Hofstadter a Daniel C. Dennett, základní knihy, 1981 (můj zdroj pro tento odkaz). Tento dotisk obsahuje vynikající kritiku eseje Searle.
22. Sims, Karl, „Interaktivní vývoj dynamických systémů“, Thinking Machines Corporation, Technical Report Series (publikované v praxi autonomních systémů: Sborník první evropské konference o umělém životě, Paříž, MIT Press, prosinec 1991.
23. Stapledon, Olaf, Starmaker , Berkley Books, 1961 (ale od data dopředu, pravděpodobně napsaný před rokem 1937).
24. Stent, Gunther S., příchod zlatého věku: Pohled na konec pokroku, The Natural History Press, 1969.
25. Swanwick Michael, vakuové květiny , serializované v časopisu Isaac Asimov’s Science Fiction Magazine , prosinec (?) 1986 – únor 1987. Zopuštěno Ace Books, 1988.
26. Thearling, Kurt, „Jak postavíme stroj, který si myslí“, workshop ve společnosti Thinking Machines Corporation, 24.-26. Srpna 1992. Osobní komunikace.
27. Ulam, S., pocta Johnu Von Neumann, Bulletin of American Mathematical Society , sv. 64, NR 3, část 2, květen 1958, str. 1-49.
28. Vinge, Vernor, „Bookworm, Run!“, Analog, březen 1966, str .8-40. Přetištěno v pravých jmen a jiných nebezpečích , Vernor Vinge, Baen Books, 1987.
29. Vinge, Vernor, „Pravá jména“, binární hvězda číslo 5 , Dell, 1981. Přetištěno v pravých jmen a jiných nebezpečích , Vernor Vinge, Baen Books, 1987.
30. Vinge, Vernor, první slovo, Omni , leden 1983, str. 10.
31. Vinge, vernor, objevit se [:-)].

Zdroj k článku.