Když budou počítače inteligentnější než lidé

Když budou počítače
inteligentnější než lidé
Jiří Wiedermann
Akademie věd ČR
Podporováno grantem GA ČR P202/10/1333
Situace, kdy umělá inteligence dosáhne úroveň lidské inteligence,
se v odborné literatuře nazývá singularitou. Dle mínění expertů
singularita nastane v horizontu dvaceti či třiceti let. Poté lze
očekávat explozi inteligence, protože počítače (či roboti) budou
schopné svou inteligenci evolučně vylepšovat. Praktické důsledky
dosažení singularity jsou jenom stěží představitelné.
V přednášce uvedeme argumenty, převážně z oblasti
exponenciálního rozvoje technologií a poznání činnosti lidského
mozku, které vedou zmíněné experty k takovým závěrům. Jako
protiklad uvedeme argumenty z oblasti výpočetní složitosti, které
naznačují, že očekávaní ohledně exponenciálního rozvoje
inteligence jsou možná přehnaná.
Miesto pre Vaše logo
“Within thirty years, we will have the
technological means to create superhuman
intelligence. Shortly thereafter, the human era will
be ended…
When greater-than-human intelligence drives
progress, that progress will be much more rapid”
The Coming Technological Singularity
Vernor Vinge (1993)
Miesto pre Vaše logo
Credit: Wikipedia
Singularita:
myšlenka, že exponenciálně se zrychlující technologie povedou k
vytvoření umělého intelektu s nadlidskými schopnostmi, jež
znemožní jakoukoliv předpověď budoucnosti.
• Původní myšlenka od V. Vingeho z r. 1993
• rozšiřována Rayem Kurzweilem v několika knihách
• název úmyslně evokuje horizont černé díry
• jako primární příčiny se citují rozvoj tzv. umělé obecné inteligence (Artificial General
Intelligence – AGI), genetiky a nanotechnologií
• důsledkem bude asymptotické dosažení hranic inteligence, síly a schopnosti manipulovat realitu
• dalším důsledkem bude konec existence lidské společnosti ve stávající podobě
• o singularitě se hovoří jak v pesimistické tak i v optimistické podobě
• o dosažení singularity málokdo pochybuje
• důsledky v oblasti super-inteligence však podléhají limitům výpočetní složitosti
Miesto pre Vaše logo
„Napřed sestrojíme prostředky a tyto pak sestrojí nás“
M. McLuhan
Credit
: Ray pre
Kurzweil
Miesto
Vaše
logo
Lineární versus logaritmický graf
•Credit:
Ray Kurzweil
Miesto
pre Vaše
logo
•Credit:
Ray Kurzweil
Miesto
pre Vaše
logo
•Credit:
Ray Kurzweil
Miesto
pre Vaše
logo
Další příklady exponenciálního růstu:
• cena RAM pamětí
• průměrná cena tranzistoru
• rychlost mikroprocesorů
• cena mikroprocesorů
• počet transistorů na mikroprocesoru
• Moorův zákon
• počet internetových serverů
• datový provoz na internetu
• čtení DNA
• velikost genomické banky
• citace článků z oblasti nanověd
• velikost mechanických strojů
• počat US patentů v oblasti nanověd
Credit: Kurzweil
– The Singularity
Miesto
pre Vaše
logo is Near
• Rezoluce neinvazivního skenování mozku
• rychlost obrazové rekonstrukce mozkového skenu
Tři zdroje a tři součásti singularity
Genetika
Robotika
Singularita
Nanotechnologie
Miesto pre Vaše logo
Genetika: průsečník informací a biologie
Můžeme žít věčně?
• RNA interference –“vypínaní“ škodlivých genů, způsobujících např. rakovinu
• Buněční terapie – pěstování částí či celých orgánů přímo v těle
• Somatická buněční terapie (genetická terapie nereproduktivních buněk) – řízení
a změna genetické výbavy člověka
• Zvrácení degenerativních změn
• Potlačení srdečních chorob
• Překonání rakoviny
• Zvrácení stárnutí
Nanobot opravující DNA
• Terapeutické klonování – neinvazivní náhrada „starých“ orgánů a tkání za nové
Zdroj:
Kurzweil
– The
Singularity
Miesto
pre
Vaše
logois Near
Nanotechnologie - průsečník informací a fyzického světa
•Biologický asembler
• Upgrade buněčného jádra
• nanopočítačem a nanobotem
• Nanoboti v krvi
Quorum sensing
•Sender
Emitter
Receptor
• Finte state transducer
•Random bit
•generator
Miesto pre Vaše logo
•Sender
•Recei•ver
Robotika: „silná“ umělá inteligence (AGI)
Nástroje:
• expertní systémy
• Markovovské modely
• neuronové sítě
• genetické algoritmy
• rekurzivní prohledávání
Miesto pre Vaše logo
Výpočetní paradigmata a technologie:
• molekulární výpočty
• sebestavování
• DNA výpočty
• spinové výpočty
• počítaní se světlem
• kvantové výpočty
• nanovýpočty
• amorfní výpočty
První cesta k získání softwaru lidské inteligence: reverzní inženýrství mozku
(„whole brain emulation“)
Credit: University of
California, Los Angeles
(UCLA), Health Sciences
Miesto pre Vaše logo
Druhá cesta k získání softwaru lidské inteligence:
výpočetní modely vtělené kognice
Miesto pre Vaše logo
Impakt:
Human Body Ver. 2.0:
• jedení pro radost
• přestavba digestivního systému
• programovatelná krev
• nanoboti namísto srdce
• nanoboti namísto orgánů, produkující
hormony
• samo-opravující se kostra
• rekonstrukce/opravy mozku
Human Body Ver. 3.0 (po
r. 2030):
• morfologická rekonfigurace a
reinstantizace
Miesto pre Vaše logo
Mozek:
• realistická virtuální realita prostřednictvím
•nanobotů simulujících všechny smysly
• „převtělování“ - jaké je to být…..
• projekce zážitků a pocitů
• bezdrátová komunikace mozek-mozek a mozek - nebiologická inteligence
Nesmrtelnost:
• fyzická, ve standardním smyslu – morfologie těla jako
projekce naší inteligence
• virtuální (přechod na ne-biologickou existenci)
• skenovaní mozku „zevnitř“ pomocí nanobotů
• re-instantizace struktury a funkce v ne-biologickém
mediu
PRIMO POSTHUMAN
By Natasha Vita-More
(media artist, futurist, cultural catalyst,
proponent of morphological freedom)
Credit:natasha.cc
Miesto
pre Vaše logo
Ray Kurzweil
Datum singularity, která bude představovat hlubokou a
skokovou transformaci lidských schopností, jsem
odhadl na rok 2045.
Ne-biologická inteligence vytvořená v tomto roce bude
miliardkrát výkonnější než dnešní inteligence celého lidstva
dohromady.
Immortality
Source:
Google
Miesto
pre
Vaše logo
Systém umělé obecné inteligence (AGIS) musí být
• interaktivní - aby mohl komunikovat se svým okolím, reflektovat jeho změny,
dostávat zpětnou vazbu, apod.
• evoluční – aby se mohl vyvíjet přes generace
• potenciálně časově neomezený – aby jeho existence neměla pevný konec
Rozšířená Church-Turingova teze (van Leeuwen, Wiedermann, 2001): libovolný
interaktivní evoluční časově neohraničený výpočet je ekvivalentní výpočtu nějakého
interaktivního Turingova stroje s rádcem, resp. nekonečné posloupnosti interaktivních
neuniformních konečných automatů.
input
output
•…
advice
Q1 Q2 Q3 …
Miesto pre Vaše logo
Výpočetní síla AGIS se měří pomocí velikosti
množin různých reakcí (resp. chování) které
tyto systémy mohou produkovat během jejich
potenciálně nekonečných interakcí s okolím
Příklady interaktivních evolučních
výpočetních systémů:
• internet
• dynamické sítě mobilních bezdrátově
komunikujících agentů
• vývojová větev živých organizmů
• rostoucí kolonie bakterií
• lidská společnost
• vesmír (?)
Miesto pre Vaše logo
Proč jsou AGIS super-Turingovské:
• nekonečné výpočty
• interaktivita
• neuniformní softwarová a hardwarová evoluce během
výpočtů podmíněná nepredikovatelnými interakcemi
Výsledky:
• výpočetní síla AGIS je větší než výpočetní síla
Turingových strojů
• existuje nekonečná hierarchie výpočetně stále
silnějších AGIS
• někde v této hierarchii je bod singularity
• výpočetní síla AGIS potřebná na překonání
rozdílu mezi “zajímavými“ stupni této hierarchie
musí růst rychleji než jakákoliv vypočitatelná funkce
intelligence
Výpočetní meze inteligence
3
2
Human
intelligence
Logarithmic scale
level
level
x y F(x,y,w)
•The Singularity
Intelligence of simple
organisms
Computational
power
Logarithmic scale
Výpočetní síla AGIS potřebná na překonání rozdílu mezi jednotlivými stupni aritmetické hierarchie musí růst rychleji
než jakákoliv vypočitatelná funkce, tzn., že pravděpodobně se nikdy nedostaneme za singularitu
Miesto pre Vaše logo
„One might think that the singularity would be of great interest to
academic philosophers, cognitive scientists, and artificial intelligence
researchers. In practice, this has not been the case. ... I think this
resistance is a shame, as the singularity idea is clearly an important
one. The argument for a singularity is one that we should take
seriously. And the questions surrounding the singularity are of
enormous practical and philosophical concern.“
Literatura:
• Chalmers, D. J.: The Singularity: A
Philosophical Analysis, 2009, cf.
http://consc.net/papers/singularity.pdf
• Kurzweil, R.: The Singularity is Near. Viking
Books, 652 pages, 2005
Miesto pre Vaše logo
D. J. Chalmers