Cyfroteka.pl

klikaj i czytaj online

Cyfro
Czytomierz
00024 005330 19042169 na godz. na dobę w sumie
Człowiek na rozdrożu. Sztuczna inteligencja — 25 punktów widzenia - książka
Człowiek na rozdrożu. Sztuczna inteligencja — 25 punktów widzenia - książka
Autor: Liczba stron: 304
Wydawca: Helion Język publikacji: polski
ISBN: 978-83-283-6209-3 Data wydania:
Lektor:
Kategoria: ebooki >> komputery i informatyka >> webmasterstwo >> inne
Porównaj ceny (książka, ebook (-30%), audiobook).

Rosnące możliwości różnych form sztucznej inteligencji niepokoją ludzi od kilkudziesięciu lat. Stopniowo uzależniamy się od ciągłej asysty nowoczesnych technologii, jednak coraz doskonalsze metody uczenia maszynowego, dostępna i potężna moc obliczeniowa korzystająca z niewyobrażalnie wielkich zasobów danych każą zadawać sobie pytania: do czego doprowadzi ten szalony rozwój techniki? Jak będzie wyglądało społeczeństwo przyszłości? Czy ludzie wyginą? Czy grozi nam zniewolenie ze strony maszyn albo garstki polityków pragnących jeszcze większej władzy? Coraz wyraźniej widać, że AI staje się powoli narracją współczesności. Świat, jaki znamy, przestanie istnieć. Przed jakimi wyborami przyjdzie stanąć ludzkości już wkrótce i czy zdołamy wybrać dobrze?

Ponad 60 lat po ukazaniu się słynnej Cybernetyki Norberta Wienera 25 wyjątkowych umysłów naszych czasów postanowiło ponownie przyjrzeć się koncepcjom tego matematyka i filozofa. Efektem kilkuletnich dyskusji na temat umysłu, myślenia, inteligencji i sensu człowieczeństwa jest ten zbiór 25 esejów - znakomite, wyjątkowo wszechstronne wprowadzenie w krajobraz kluczowych problemów związanych z AI. O wartości tego dzieła stanowi zawarte w nim zderzenie różnych poglądów i punktów widzenia: autorami esejów są wybitni informatycy, robotycy, fizycy, ale również osoby związane z kulturą, filozofią i psychologią. To rzecz, która zmusza do szerszego spojrzenia na jedno z najważniejszych wyzwań naszych czasów.

W książce znalazły się poglądy o AI w wielu kontekstach:

Czym jest AI? Oto 25 punktów widzenia 25 błyskotliwych umysłów!

Znajdź podobne książki Ostatnio czytane w tej kategorii

Darmowy fragment publikacji:

Tytuł oryginału: Possible Minds: Twenty-Five Ways of Looking at AI Tłumaczenie: Marcin Machnik ISBN: 978-83-283-6209-3 Copyright © 2019 by John Brockman All rights reserved. Polish edition copyright © 2020 by Helion SA All rights reserved. No part of this book may be reproduced or transmitted in any form or by any means, electronic or mechanical, including photocopying, recording or by any information storage retrieval system, without permission from the Publisher. Wszelkie prawa zastrzeżone. Nieautoryzowane rozpowszechnianie całości lub fragmentu niniejszej publikacji w jakiejkolwiek postaci jest zabronione. Wykonywanie kopii metodą kserograficzną, fotograficzną, a także kopiowanie książki na nośniku filmowym, magnetycznym lub innym powoduje naruszenie praw autorskich niniejszej publikacji. Wszystkie znaki występujące w tekście są zastrzeżonymi znakami firmowymi bądź towarowymi ich właścicieli. Autor oraz Helion SA dołożyli wszelkich starań, by zawarte w tej książce informacje były kompletne i rzetelne. Nie biorą jednak żadnej odpowiedzialności ani za ich wykorzystanie, ani za związane z tym ewentualne naruszenie praw patentowych lub autorskich. Autor oraz Helion SA nie ponoszą również żadnej odpowiedzialności za ewentualne szkody wynikłe z wykorzystania informacji zawartych w książce. Drogi Czytelniku! Jeżeli chcesz ocenić tę książkę, zajrzyj pod adres http://helion.pl/user/opinie/czloro Możesz tam wpisać swoje uwagi, spostrzeżenia, recenzję. Helion SA ul. Kościuszki 1c, 44-100 Gliwice tel. 32 231 22 19, 32 230 98 63 e-mail: helion@helion.pl WWW: http://helion.pl (księgarnia internetowa, katalog książek) Printed in Poland. • Kup książkę • Poleć książkę • Oceń książkę • Księgarnia internetowa • Lubię to! » Nasza społeczność SPIS TREŚCI WPROWADZENIE: O NADZIEJACH I PUŁAPKACH ZWIĄZANYCH Z AI 9 ROZDZIAŁ 1. Mylne, lecz istotniejsze niż kiedykolwiek 21 I w(cid:174)a(cid:321)nie w owym przeniesieniu idei cybernetycznych na istoty ludzkie koncepcja Wienera zawodzi. ROZDZIAŁ 2. Ograniczenia nieprzejrzyście uczących się maszyn 33 Po zainicjowaniu g(cid:174)(cid:170)bokiego uczenia na jakim(cid:321) sporym zbiorze danych tracisz kontrol(cid:170) nad procesem, który sam dokonuje reperacji i optymalizacji, a nast(cid:170)pnie w wi(cid:170)kszo(cid:321)ci przypadków podaje wynik. ROZDZIAŁ 3. O przekazywaniu maszynom ogólnych celów 41 Powinni(cid:321)my wi(cid:170)c zmierzy(cid:250) si(cid:170) z perspektyw(cid:167) pojawienia si(cid:170) superinteligentnych maszyn — o z definicji nieprzewidywalnych dla nas dzia(cid:174)aniach oraz niedoskonale wyznaczonych celach stoj(cid:167)cych w konflikcie z naszymi — których d(cid:167)(cid:352)enie do zachowania istnienia w celu osi(cid:167)gni(cid:170)cia tych celów mo(cid:352)e okaza(cid:250) si(cid:170) nie do pokonania. ROZDZIAŁ 4. Trzecie prawo 55 Ka(cid:352)dy system na tyle prosty, (cid:352)eby go zrozumie(cid:250), nie b(cid:170)dzie na tyle z(cid:174)o(cid:352)ony, by przejawia(cid:250) inteligencj(cid:170), a ka(cid:352)dy system na tyle z(cid:174)o(cid:352)ony, (cid:352)eby przejawia(cid:250) inteligencj(cid:170), b(cid:170)dzie zbyt z(cid:174)o(cid:352)ony, by go zrozumie(cid:250). Poleć książkęKup książkę 6 SPIS TREŚCI ROZDZIAŁ 5. Co możemy zrobić? 63 Nie potrzebujemy sztucznych (cid:321)wiadomych agentów. Potrzebujemy inteligentnych narz(cid:170)dzi. ROZDZIAŁ 6. Nieludzki bałagan, w jaki wplątały nas nasze maszyny 75 Dzisiejsza sytuacja jest znacznie bardziej skomplikowana ni(cid:352) w jego prognozach i obawiam si(cid:170), (cid:352)e radykalnie przeros(cid:174)a jego najgorsze obawy. ROZDZIAŁ 7. Jedność inteligencji 85 Przewagi sztucznej inteligencji nad naturaln(cid:167) wydaj(cid:167) si(cid:170) permanentne, podczas gdy przewagi naturalnej inteligencji nad sztuczn(cid:167), mimo (cid:352)e znaczne, sprawiaj(cid:167) wra(cid:352)enie chwilowych. ROZDZIAŁ 8. Aspirujmy do czegoś więcej niż trafienie do lamusa 97 Powinni(cid:321)my przeanalizowa(cid:250), co mog(cid:174)oby pój(cid:321)(cid:250) nie tak z AI, (cid:352)eby zagwarantowa(cid:250), (cid:352)e tak si(cid:170) nie stanie. ROZDZIAŁ 9. Dysydenckie przekazy 109 Ci(cid:167)g(cid:174)y post(cid:170)p w AI mo(cid:352)e doprowadzi(cid:250) do zmiany kosmicznych proporcji. Ten niekontrolowany proces przypuszczalnie doprowadzi do zabicia wszystkich ludzi. ROZDZIAŁ 10. Proroctwa technologiczne i lekceważenie sprawczej mocy idei 121 Nie istnieje takie prawo z(cid:174)o(cid:352)onych systemów, które mówi(cid:174)oby, (cid:352)e inteligentni agenci zawsze zmieniaj(cid:167) si(cid:170) w bezlitosnych megalomanów. ROZDZIAŁ 11. Poza nagrodą i karą 133 B(cid:174)(cid:170)dne rozumienie ludzkiego my(cid:321)lenia i ludzkich korzeni rodzi b(cid:174)(cid:170)dne wyobra(cid:352)enia na temat AGI oraz tego, jak mo(cid:352)na je stworzy(cid:250). ROZDZIAŁ 12. Istoty ludzkie w oczach maszyn 145 Aby automatyczne systemy inteligentne wyci(cid:167)ga(cid:174)y poprawne wnioski na temat pragnie(cid:302) ludzi, musz(cid:167) dysponowa(cid:250) dobrymi modelami ludzkiego poznania. ROZDZIAŁ 13. Sztuczna inteligencja a człowiek 153 Pomaganie ludziom zaczyna oznacza(cid:250) prac(cid:170) w realnym (cid:321)wiecie, w którym trzeba nawi(cid:167)zywa(cid:250) z nimi interakcje i wyci(cid:167)ga(cid:250) na ich temat wnioski. Poleć książkęKup książkę SPIS TREŚCI 7 ROZDZIAŁ 14. Pościg za gradientem 163 To, (cid:352)e systemom AI zdarza si(cid:170) wpa(cid:321)(cid:250) w lokalne minimum, wcale nie oddala ich od prawdziwego (cid:352)ycia. Ludziom — i przypuszczalnie wszystkim innym formom (cid:352)ycia — cz(cid:170)sto zdarza si(cid:170) utkn(cid:167)(cid:250) w takim minimum. ROZDZIAŁ 15. „Informacja” w rozumieniu Wienera, Shannona i naszym 171 Wiele kluczowych argumentów z tej ksi(cid:167)(cid:352)ki zdaje si(cid:170) bli(cid:352)sze wiekowi XIX ni(cid:352) XXI. Zw(cid:174)aszcza pod tym wzgl(cid:170)dem, (cid:352)e chocia(cid:352) Wiener odwo(cid:174)ywa(cid:174) si(cid:170) do wówczas nowej pracy Claude’a Shannona na temat teorii informacji, sprawia(cid:174) wra(cid:352)enie, jakby nie w pe(cid:174)ni zaakceptowa(cid:174) koncepcj(cid:170) informacji z(cid:174)o(cid:352)onej z nieredukowalnych i pozbawionych znaczenia bitów. ROZDZIAŁ 16. Skalowanie 181 Chocia(cid:352) tworzenie maszyn i my(cid:321)lenie maszyn mo(cid:352)e sprawia(cid:250) wra(cid:352)enie niepowi(cid:167)zanych ze sob(cid:167) trendów, ka(cid:352)dy z nich bazuje na przysz(cid:174)o(cid:321)ci drugiego. ROZDZIAŁ 17. Pierwsze inteligencje maszynowe 191 Hybrydowe superinteligencje w rodzaju pa(cid:302)stw lub korporacji maj(cid:167) w(cid:174)asne cele, a ich dzia(cid:174)ania nie zawsze odzwierciedlaj(cid:167) interesy ich twórców. ROZDZIAŁ 18. Czy komputery staną się naszymi panami? 201 Nie ma si(cid:170) co dziwi(cid:250) antropomorficznym obawom przed AI, które odzwierciedlaj(cid:167) nasze przekonanie o tym, (cid:352)e to inteligencja czyni nas wyj(cid:167)tkowymi. ROZDZIAŁ 19. Ludzka strategia 213 W jaki sposób stworzy(cid:250) dobry ludzko-sztuczny ekosystem, czyli co(cid:321), co nie b(cid:170)dzie spo(cid:174)ecze(cid:302)stwem maszynowym, lecz cyberkultur(cid:167), w której b(cid:170)dziemy mogli funkcjonowa(cid:250) jako ludzie i która b(cid:170)dzie sprawia(cid:174)a wra(cid:352)enie ludzkiej? ROZDZIAŁ 20. Uwidacznianie niewidocznego: sztuka i AI 227 Wielu wspó(cid:174)czesnych artystów bacznie obserwuje te osi(cid:167)gni(cid:170)cia. Artyku(cid:174)uj(cid:167) ró(cid:352)ne w(cid:167)tpliwo(cid:321)ci dotycz(cid:167)ce obietnic AI i przypominaj(cid:167) nam, by nie kojarzy(cid:250) terminu „sztuczna inteligencja” wy(cid:174)(cid:167)cznie z pozytywnymi wynikami. ROZDZIAŁ 21. AI kontra czterolatek 239 Obserwacja dokona(cid:302) dzieci mo(cid:352)e jednak da(cid:250) programistom wskazówki dotycz(cid:167)ce kierunków rozwoju uczenia komputerów. Poleć książkęKup książkę 8 SPIS TREŚCI ROZDZIAŁ 22. AIgorystów marzenie o obiektywności 251 Dzisiaj prawne, etyczne i ekonomiczne wymiary algorytmów s(cid:167) quasi-niesko(cid:302)czone. ROZDZIAŁ 23. Prawa maszyn 261 By(cid:250) mo(cid:352)e powinni(cid:321)my mniej si(cid:170) przejmowa(cid:250) kwesti(cid:167) „my kontra oni”, a bardziej prawami wszystkich jednostek w obliczu nadci(cid:167)gaj(cid:167)cego bezprecedensowego zró(cid:352)nicowania umys(cid:174)ów. ROZDZIAŁ 24. Artystyczne zastosowanie istot cybernetycznych 275 Prace cybernetyzuj(cid:167)cych artystów dotycz(cid:167) emerguj(cid:167)cych zachowa(cid:302) (cid:352)ycia, które umyka sztucznej inteligencji w jej aktualnej postaci. ROZDZIAŁ 25. Sztuczna inteligencja i przyszłość cywilizacji 287 Najbardziej radykaln(cid:167) zmian(cid:167) z ca(cid:174)(cid:167) pewno(cid:321)ci(cid:167) b(cid:170)dzie uzyskanie efektywnej ludzkiej nie(cid:321)miertelno(cid:321)ci. Nie wiadomo, czy osi(cid:167)gniemy to biologicznie, czy cyfrowo, ale jest to nieuchronne. Poleć książkęKup książkę Rozdzia(cid:174) 9. DYSYDENCKIE PRZEKAZY JAAN TALLINN Jaan Tallinn, programista, fizyk teoretyczny i inwestor, jest współzałożycielem Skype’a i Kazaa. Jaan Tallinn wychował się w Estonii i był jednym z niewielu estońskich programistów gier, gdy to państwo należało jeszcze do Związku Socjali- stycznych Republik Radzieckich. W tym eseju porównuje dysydentów, którzy przyczynili się do zerwania żelaznej kurtyny, do dysydentów, którzy biją na alarm w związku z raptownymi postępami w pracach nad sztuczną inteligencją. Paradoksalnie korzeni współczesnych dysydenckich postaw wobec AI doszukuje się w pracach takich pionierów jak Wiener, Alan Turing i I.J. Good. Jego głównym zainteresowaniem są zagrożenia egzystencjalne, wśród których AI jest jednym z najpoważniejszych. W 2012 roku wraz z filozo- fem Huwem Price’em i astronomem królewskim Martinem Reesem zało- żył na Uniwersytecie w Cambridge Centre for the Study of Existential Risk — interdyscyplinarny instytut badawczy, którego celem jest złagodzenie zagrożeń związanych z pojawiającymi się technologiami i działalnością człowieka. Poleć książkęKup książkę 110 CZŁOWIEK NA ROZDROŻU Swego czasu przedstawił mi się jako „świadomy konsekwencjalista” — świadomy do tego stopnia, żeby przekazać większość majątku na in- stytut Future of Life (którego jest współzałożycielem), instytut Machine Intelligence Research oraz na inne organizacje zajmujące się minimaliza- cją zagrożeń. Max Tegmark napisał o nim: „Jeśli jesteś inteligentną formą życia i czytając ten tekst za milion lat od teraz, nie możesz wyjść z po- dziwu nad rozkwitem życia, prawdopodobnie zawdzięczasz swoją egzy- stencję Jaanowi”. W trakcie ostatniej wizyty w Londynie Jaan uczestniczył razem ze mną w będącym elementem Serpentine Gallery’s Marathon panelu AI w lon- dyńskiej City Hall pod egidą Hansa Ulricha Obrista (jednego z autorów zamieszczonych tu esejów). Jak przystało na świat sztuki, tego samego wieczoru zorganizowano wystawne przyjęcie w posiadłości wypełnionej śmietanką towarzyską Londynu — artystami, modelkami, oligarchami i gwiazdami sceny i ekranu. Po zapoznaniu się ze wszystkimi na swój nie- wzruszony sposób („Cześć, jestem Jaan”) Jaan niespodziewanie stwier- dził: „Czas na hiphopowy taniec”, po czym opuścił się na podłogę i oparty na dłoni zaczął demonstrować zdumionej śmietance towarzyskiej spek- takularne ruchy taneczne. A później zniknął w subkulturze klubów ta- necznych. Tak najwyraźniej kończył się każdy jego wieczór w trasie. Kto by pomyślał? Poleć książkęKup książkę DYSYDENCKIE PRZEKAZY 111 W marcu 2009 roku znalaz(cid:175)em si(cid:171) w nijakiej franczyzowej jad(cid:175)odajni przy ruchliwej kalifornijskiej autostradzie. Umówi(cid:175)em si(cid:171) w tym miej- scu na spotkanie z m(cid:175)odym cz(cid:175)owiekiem, którego blog obserwowa- (cid:175)em. Abym móg(cid:175) go rozpozna(cid:250), mia(cid:175) naszywk(cid:171) z napisem: Mów prawd(cid:170), nawet gdy dr(cid:352)y ci g(cid:174)os. Nazywa(cid:175) si(cid:171) Eliezer Yudkowsky i kolejne cztery godziny sp(cid:171)dzili- (cid:321)my na omawianiu jego przekazów dla (cid:321)wiata — przekazów, które sk(cid:175)oni(cid:175)y mnie do wizyty w tej knajpie i ostatecznie zdominowa(cid:175)y moj(cid:167) nast(cid:171)pn(cid:167) prac(cid:171). PIERWSZY PRZEKAZ: OKUPACJA SOWIECKA W The Human Use of Human Beings Norbert Wiener patrza(cid:175) na (cid:321)wiat przez pry- zmat komunikacji. W jego oczach (cid:321)wiat maszerowa(cid:175) w takt drugiego prawa ter- modynamiki w stron(cid:171) nieuniknionej (cid:321)mierci z przegrzania. W takim (cid:321)wiecie je- dynymi (meta)stabilnymi jednostkami by(cid:175)y przekazy — wzorce informacyjne, które rozchodzi(cid:175)y si(cid:171) w czasie jak fale na powierzchni jeziora. Nawet ludzi mo(cid:352)- na postrzega(cid:250) jako przekazy, poniewa(cid:352) atomy w naszych cia(cid:175)ach s(cid:167) zbyt ulotne, (cid:352)eby wi(cid:167)za(cid:250) z nimi swoj(cid:167) to(cid:352)samo(cid:321)(cid:250). Jeste(cid:321)my wi(cid:171)c raczej „przekazem” utrzy- mywanym przez funkcje naszego cia(cid:175)a. Jak wyrazi(cid:175) to Wiener: „To struktura utrzymywana przez homeostaz(cid:171) jest kryterium naszej osobistej to(cid:352)samo(cid:321)ci”. Ja bardziej przywyk(cid:175)em do traktowania procesów i przetwarzania jako pod- stawowych elementów sk(cid:175)adowych naszego (cid:321)wiata. Trzeba jednak przyzna(cid:250), (cid:352)e perspektywa Wienera wy(cid:175)uskuje pewne interesuj(cid:167)ce aspekty (cid:321)wiata, które mia(cid:175)y Poleć książkęKup książkę 112 CZŁOWIEK NA ROZDROŻU olbrzymi wp(cid:175)yw na moje (cid:352)ycie, chocia(cid:352) z innej perspektywy pozosta(cid:175)yby w tle. Chodzi o dwa przekazy, oba si(cid:171)gaj(cid:167)ce genez(cid:167) do drugiej wojny (cid:321)wiatowej. Po- cz(cid:167)tkowo by(cid:175)y to ciche przekazy dysydenckie — takie, na które ludzie nie zwra- cali wi(cid:171)kszej uwagi, nawet je(cid:321)li po cichu si(cid:171) z nimi zgadzali. Pierwszy z nich brzmia(cid:175): Zwi(cid:167)zek Radziecki sk(cid:174)ada si(cid:170) z wielu nielegalnych okupacji. Tym okupacjom trzeba po(cid:174)o(cid:352)y(cid:250) kres. Jako Esto(cid:302)czyk dorasta(cid:175)em za (cid:352)elazn(cid:167) kurtyn(cid:167) i widzia(cid:175)em jej upadek z pierw- szego rz(cid:171)du. S(cid:175)ysza(cid:175)em ten pierwszy przekaz w nostalgicznych wspomnieniach dziadków i w zak(cid:175)óconym ha(cid:175)asami G(cid:175)osie Ameryki. Nabra(cid:175) on mocy w erze Gorbaczowa, gdy pa(cid:302)stwo bardziej pob(cid:175)a(cid:352)liwie traktowa(cid:175)o dysydentów, a szczyt nast(cid:167)pi(cid:175) w trakcie (cid:321)piewaj(cid:167)cej rewolucji pod koniec lat osiemdziesi(cid:167)tych ubie- g(cid:175)ego wieku. Jako nastolatek by(cid:175)em (cid:321)wiadkiem rozpowszechniania si(cid:171) tego przekazu w(cid:321)ród ludzi, najpierw w(cid:321)ród aktywnych dysydentów, którzy wyra(cid:352)ali go przez pó(cid:175) wieku wbrew gro(cid:352)(cid:167)cym im konsekwencjom, potem w(cid:321)ród artystów i litera- tów, wreszcie w(cid:321)ród cz(cid:175)onków partii i polityków, którzy przeszli na drug(cid:167) stro- n(cid:171). Ta nowa elita stanowi(cid:175)a do(cid:321)(cid:250) eklektyczn(cid:167) zbieranin(cid:171) pierwotnych dysyden- tów, którym uda(cid:175)o si(cid:171) przetrwa(cid:250) represje, znanych intelektualistów oraz nawet (ku wielkiemu rozgoryczeniu dysydentów) by(cid:175)ych komunistów. Zatwardziali dogmatycy — nawet najbardziej prominentni — zostali w ko(cid:302)cu zepchni(cid:171)ci na boczny tor, a cz(cid:171)(cid:321)(cid:250) z nich zbieg(cid:175)a do Rosji. Co interesuj(cid:167)ce, gdy przekaz rozchodzi(cid:175) si(cid:171) w(cid:321)ród ludzi, ewoluowa(cid:175). Najpierw by(cid:175) wyra(cid:352)any w czystej i bezkompromisowej postaci („Okupacja musi si(cid:171) sko(cid:302)- czy(cid:250)!”) przez dysydentów, dla których prawda by(cid:175)a wa(cid:352)niejsza od wolno(cid:321)ci oso- bistej. Mainstreamowe grupy mia(cid:175)y wi(cid:171)cej do stracenia, wi(cid:171)c pocz(cid:167)tkowo mody- fikowa(cid:175)y i os(cid:175)abia(cid:175)y przekaz, przyjmuj(cid:167)c stanowiska w rodzaju: „W d(cid:175)ugoterminowej perspektywie sensownie by(cid:175)oby delegowa(cid:250) kontrol(cid:171) nad sprawami lokalnymi”. (Istnia(cid:175)y rzecz jasna wyj(cid:167)tki: niektórzy intelektuali(cid:321)ci wyra(cid:352)ali wprost oryginalny przekaz dysydentów). Ostatecznie ten oryginalny przekaz — który by(cid:175) po prostu prawd(cid:167) — zwyci(cid:171)(cid:352)y(cid:175) nad swoimi os(cid:175)abionymi wersjami. W 1991 roku Estonia odzy- ska(cid:175)a niepodleg(cid:175)o(cid:321)(cid:250), a trzy lata pó(cid:350)niej ostatnie oddzia(cid:175)y sowieckie opu(cid:321)ci(cid:175)y kraj. Ludzie, którzy podj(cid:171)li ryzyko i g(cid:175)o(cid:321)no wyra(cid:352)ali prawd(cid:171) w Estonii i pozosta- (cid:175)ych krajach bloku wschodniego, odegrali olbrzymi(cid:167) rol(cid:171) w doprowadzeniu do ostatecznego wyniku, który zmieni(cid:175) (cid:352)ycie setek milionów osób, w tym moje. Oni mówili prawd(cid:171), mimo (cid:352)e dr(cid:352)a(cid:175)y im g(cid:175)osy. Poleć książkęKup książkę DYSYDENCKIE PRZEKAZY 113 DRUGI PRZEKAZ: ZAGROŻENIA AI Drugi rewolucyjny przekaz pozna(cid:175)em dzi(cid:171)ki wspomnianemu na pocz(cid:167)tku blo- gowi, który sk(cid:175)oni(cid:175) mnie do nawi(cid:167)zania kontaktu z autorem i umówienia si(cid:171) z nim w Kalifornii. Przekaz brzmia(cid:175): Ci(cid:167)g(cid:174)y post(cid:170)p w AI mo(cid:352)e doprowadzi(cid:250) do zmia- ny kosmicznych proporcji. Ten niekontrolowany proces przypuszczalnie doprowadzi do zabicia wszystkich ludzi. Musimy w(cid:174)o(cid:352)y(cid:250) sporo wysi(cid:174)ku w to, by unikn(cid:167)(cid:250) takiego skutku. Po spotkaniu z Yudkowskim próbowa(cid:175)em zainteresowa(cid:250) tym przekazem swoich kolegów i wspó(cid:175)pracowników ze Skype’a. Nie uda(cid:175)o mi si(cid:171). Przekaz by(cid:175) zbyt szalony, zbyt dysydencki. Jego czas jeszcze nie nadszed(cid:175). Dopiero pó(cid:350)niej dowiedzia(cid:175)em si(cid:171), (cid:352)e Yudkowsky nie by(cid:175) pierwszym dysy- dentem, który wypowiedzia(cid:175) t(cid:171) prawd(cid:171). W kwietniu 2000 roku w „Wired” ukaza(cid:175) si(cid:171) d(cid:175)ugi felieton Why the Future Doesn’t Need Us Billa Joya, wspó(cid:175)za(cid:175)o(cid:352)yciela i g(cid:175)ównego badacza Sun Microsystems. Joy ostrzega(cid:175): Przyzwyczajeni do (cid:352)ycia w towarzystwie niemal rutynowych prze(cid:175)omów naukowych b(cid:171)dziemy musieli jako(cid:321) upora(cid:250) si(cid:171) z faktem, (cid:352)e najbardziej intere- suj(cid:167)ce technologie XXI wieku — robotyka, in(cid:352)ynieria genetyczna i nanotech- nologia — przedstawiaj(cid:167) zupe(cid:175)nie inne zagro(cid:352)enia ni(cid:352) wcze(cid:321)niejsze prze(cid:175)omy technologiczne. W szczególno(cid:321)ci roboty, sztuczne organizmy i nanoboty maj(cid:167) wspóln(cid:167), coraz istotniejsz(cid:167) cech(cid:171): samoreplikacj(cid:171) (…). Jeden bot mo(cid:352)e sta(cid:250) si(cid:171) wieloma i szybko wyrwa(cid:250) spod kontroli. Artyku(cid:175) Joya wywo(cid:175)a(cid:175) mnóstwo gniewu, lecz niewiele dzia(cid:175)a(cid:302). Bardziej zaskoczy(cid:175)o mnie jednak to, (cid:352)e przekaz o zagro(cid:352)eniach AI niemal symultanicznie wy(cid:175)oni(cid:175) si(cid:171) z nauki o komputerach. Na wyk(cid:175)adzie z 1951 roku Alan Turing stwierdzi(cid:175): „Wydaje si(cid:171) prawdopodobne, (cid:352)e skoro pojawi(cid:175)a si(cid:171) me- toda my(cid:321)lenia maszynowego, przero(cid:321)ni(cid:171)cie przez ni(cid:167) naszych kiepskich mo(cid:352)li- wo(cid:321)ci jest tylko kwesti(cid:167) czasu. (…) Oznacza to, (cid:352)e powinni(cid:321)my oczekiwa(cid:250), (cid:352)e w pewnym momencie maszyny przejm(cid:167) kontrol(cid:171)”1. Mniej wi(cid:171)cej dekad(cid:171) pó(cid:350)niej jego kolega z Bletchley Park I.J. Good napisa(cid:175): „Pierwsza ultrainteligentna ma- szyna jest ostatnim wynalazkiem, jaki cz(cid:175)owiek b(cid:171)dzie musia(cid:175) wynale(cid:350)(cid:250), pod wa- runkiem (cid:352)e oka(cid:352)e si(cid:171) na tyle mi(cid:175)a, (cid:352)e powie nam, jak nad ni(cid:167) panowa(cid:250)”2. W The Human Use of Human Beings naliczy(cid:175)em pó(cid:175) tuzina miejsc, w których Wiener 1 Wyk(cid:175)ad ukaza(cid:175) si(cid:171) po(cid:321)miertnie w „Philosophia Mathematica” 4, nr 3, 1966, s. 256 – 260. 2 Irving John Good, Speculations Concerning the First Ultraintelligent Machine, w: „Advances in Computers” 6, MA: Academic Press, Cambridge 1965, s. 31 – 88. Poleć książkęKup książkę 114 CZŁOWIEK NA ROZDROŻU wspomina o jakim(cid:321) aspekcie Problemu Kontroli („Maszyna w rodzaju d(cid:352)inna, która potrafi si(cid:171) uczy(cid:250) i podejmowa(cid:250) decyzje na podstawie zdobytej wiedzy, nie b(cid:171)dzie w (cid:352)aden sposób zobligowana do podejmowania takich decyzji, które sami by(cid:321)my podj(cid:171)li lub które by(cid:175)yby dla nas do przyj(cid:171)cia”). Najwyra(cid:350)niej pierwszy- mi dysydentami rozpowszechniaj(cid:167)cymi przekaz o zagro(cid:352)eniach AI byli sami pionierzy AI! FATALNY BŁĄD EWOLUCJI Podawano wiele argumentów — cz(cid:171)(cid:321)(cid:250) wyrafinowanych, a cz(cid:171)(cid:321)(cid:250) nie za bardzo — za tym, (cid:352)e Problem Kontroli jest realny i nie nale(cid:352)y go traktowa(cid:250) jako fanta- stycznonaukowej fantazji. Pozwol(cid:171) sobie przedstawi(cid:250) jeden z argumentów, który ilustruje znaczenie tego problemu. Przez ostatnie sto tysi(cid:171)cy lat (cid:321)wiat (co oznacza Ziemi(cid:171), ale argument obej- muje Uk(cid:175)ad S(cid:175)oneczny i prawdopodobnie ca(cid:175)y Wszech(cid:321)wiat) znajdowa(cid:175) si(cid:171) pod panowaniem ludzkiego mózgu. W trakcie tych rz(cid:167)dów mózgi homo sapiens by(cid:175)y najbardziej wyrafinowanymi mechanizmami kszta(cid:175)towania przysz(cid:175)o(cid:321)ci (niektó- rzy nawet nazywali je najbardziej skomplikowanymi obiektami we Wszech(cid:321)wie- cie). Pocz(cid:167)tkowo nie robili(cid:321)my z nich wi(cid:171)kszego u(cid:352)ytku poza rozpatrywaniem kwestii przetrwania i prowadzeniem polityki plemiennej w grupie poszukiwaczy po(cid:352)ywienia, lecz dzisiaj wp(cid:175)yw tych instrumentów wykroczy(cid:175) poza sam(cid:167) ewolu- cj(cid:171) naturaln(cid:167). Planeta przesz(cid:175)a z produkcji lasów do produkcji miast. Zgodnie z prognozami Turinga skonstruowanie superludzkiego AI („metod(cid:167) my(cid:321)lenia maszynowego”) zako(cid:302)czy rz(cid:167)dy ludzkiego mózgu. Rozejrzyj si(cid:171) wokó(cid:175) siebie — jeste(cid:321) (cid:321)wiadkiem ostatnich dekad rz(cid:167)dów, które trwa(cid:175)y sto tysi(cid:171)cy lat. Sama ta my(cid:321)l powinna sk(cid:175)oni(cid:250) ludzi do refleksji, zanim wrzuc(cid:167) AI do szufladki z napisem „zwyk(cid:175)e narz(cid:171)dzia”. Jeden z najwybitniejszych badaczy AI na (cid:321)wiecie wyzna(cid:175) mi ostatnio, (cid:352)e odetchn(cid:167)(cid:175)by z ulg(cid:167), gdyby okaza(cid:175)o si(cid:171), (cid:352)e jednak nie jeste- (cid:321)my w stanie stworzy(cid:250) sztucznej inteligencji na poziomie ludzkim. Oczywi(cid:321)cie realizacja tego projektu mo(cid:352)e jeszcze potrwa(cid:250). Mamy jednak podstawy, by s(cid:167)dzi(cid:250), (cid:352)e wcale tak nie jest. W ko(cid:302)cu ewolucja — (cid:321)lepy i niezr(cid:171)cz- ny proces optymalizacyjny — stworzy(cid:175)a ludzki poziom inteligencji wzgl(cid:171)dnie szybko po pojawieniu si(cid:171) zwierz(cid:167)t. Czy raczej po pojawieniu si(cid:171) organizmów wielokomórkowych: sprawienie, by komórki trzyma(cid:175)y si(cid:171) razem, by(cid:175)o dla ewolucji znacznie trudniejszym przedsi(cid:171)wzi(cid:171)ciem ni(cid:352) stworzenie ludzi po pojawieniu si(cid:171) Poleć książkęKup książkę DYSYDENCKIE PRZEKAZY 115 tych organizmów. Nie wspominaj(cid:167)c o tym, (cid:352)e nasz poziom inteligencji by(cid:175) ograni- czony przez tak groteskowe czynniki jak szeroko(cid:321)(cid:250) kana(cid:175)u rodnego. Wyobra(cid:350) sobie, (cid:352)e in(cid:352)ynier AI nie mo(cid:352)e kontynuowa(cid:250) pracy, gdy(cid:352) nie jest w stanie dosto- sowa(cid:250) rozmiaru czcionki w komputerze! Tkwi w tym interesuj(cid:167)ca symetria: formuj(cid:167)c ludzi, ewolucja stworzy(cid:175)a sys- tem, który pod wieloma istotnymi wzgl(cid:171)dami lepiej sprawdza si(cid:171) w planowaniu i optymalizacji ni(cid:352) sama ewolucja. Jeste(cid:321)my pierwszym gatunkiem, który wie, (cid:352)e powsta(cid:175) w drodze ewolucji. Ma(cid:175)o tego, stworzyli(cid:321)my wiele artefaktów (radia, bro(cid:302) paln(cid:167), rakiety kosmiczne), których ewolucja raczej by nie stworzy(cid:175)a. Nasza przysz(cid:175)o(cid:321)(cid:250) nie zale(cid:352)y wi(cid:171)c ju(cid:352) od ewolucji biologicznej, lecz od naszych decyzji. W tym sensie ewolucja pad(cid:175)a ofiar(cid:167) w(cid:175)asnego Problemu Kontroli. Mo(cid:352)emy jedynie mie(cid:250) nadziej(cid:171), (cid:352)e jeste(cid:321)my w tej kwestii m(cid:167)drzejsi od ewolucji. Rzecz jasna jeste(cid:321)my, ale czy wystarczaj(cid:167)co? Wkrótce si(cid:171) przekonamy. AKTUALNA SYTUACJA Tak wi(cid:171)c wygl(cid:167)damy ponad pó(cid:175) wieku po pierwszych ostrze(cid:352)eniach Turinga, Wienera i Gooda oraz dekad(cid:171) po tym, jak ludzie mojego pokroju zacz(cid:171)li zwraca(cid:250) uwag(cid:171) na przekaz dotycz(cid:167)cy niebezpiecze(cid:302)stw AI. Ciesz(cid:171) si(cid:171), (cid:352)e poczynili(cid:321)my olbrzymie post(cid:171)py w podej(cid:321)ciu do tej sprawy, to jednak ci(cid:167)gle zdecydowanie za ma(cid:175)o. Zagro(cid:352)enie ze strony AI przesta(cid:175)o co prawda by(cid:250) tematem tabu, lecz bada- cze AI nadal nie w pe(cid:175)ni je zauwa(cid:352)aj(cid:167). Zagro(cid:352)enie to nie jest te(cid:352) jeszcze wiedz(cid:167) powszechn(cid:167). W chronologii poprzedniego dysydenckiego przekazu jeste(cid:321)my mniej wi(cid:171)cej na poziomie roku 1988, gdy podniesienie tematu okupacji sowiec- kiej nie by(cid:175)o ju(cid:352) równoznaczne z ko(cid:302)cem kariery, wci(cid:167)(cid:352) jednak trzeba si(cid:171) by(cid:175)o jako(cid:321) asekurowa(cid:250). Dzisiaj mamy do czynienia z podobnym asekuranctwem — stwierdzeniami typu: „Nie przejmuj(cid:171) si(cid:171) superinteligentnym AI, ale rosn(cid:167)ca au- tomatyzacja rodzi pewne konkretne problemy etyczne”, „Dobrze, (cid:352)e niektórzy badaj(cid:167) temat zagro(cid:352)e(cid:302) zwi(cid:167)zanych z AI, ale nie jest to pal(cid:167)cy problem” czy wr(cid:171)cz bardzo rozs(cid:167)dnie brzmi(cid:167)ce: „To ma(cid:175)o prawdopodobne scenariusze, ale ich po- tencjalnie powa(cid:352)ne skutki uzasadniaj(cid:167) po(cid:321)wi(cid:171)cenie im uwagi”. Tak czy inaczej w kwestii rozchodzenia si(cid:171) przekazu zbli(cid:352)amy si(cid:171) do punk- tu krytycznego. Z ostatniej ankiety w(cid:321)ród badaczy AI, którzy opublikowali swoje prace na dwóch g(cid:175)ównych mi(cid:171)dzynarodowych konferencjach AI w 2015 roku, wynika, (cid:352)e zdaniem 40 z nich ryzyko ze strony wysoce zaawansowanej Poleć książkęKup książkę 116 CZŁOWIEK NA ROZDROŻU sztucznej inteligencji to „istotny problem” lub „jeden z najwa(cid:352)niejszych pro- blemów tej dziedziny”3. Oczywi(cid:321)cie tak jak cz(cid:171)(cid:321)(cid:250) dogmatycznych komunistów nigdy nie zmieni(cid:175)a zdania, tak i na pewno znajd(cid:167) si(cid:171) tacy, którzy nigdy nie uznaj(cid:167) AI za potencjalnie niebezpieczne. Wielu „zaprzeczaczy” pierwszego typu mia(cid:175)o swoje korzenie w sowieckiej nomenklaturze i podobnie ci, którzy neguj(cid:167) zagro(cid:352)enie ze strony AI, cz(cid:171)sto kieruj(cid:167) si(cid:171) kwestiami finansowymi lub innymi praktycznymi pobud- kami. Jedn(cid:167) z najcz(cid:171)stszych jest zysk korporacyjny. Sztuczna inteligencja przy- nosi zyski, a nawet je(cid:321)li nie, jest modnym, przysz(cid:175)o(cid:321)ciowym przedsi(cid:171)wzi(cid:171)ciem, z którym warto by(cid:250) kojarzonym. Dlatego negatywna postawa jest cz(cid:171)sto pro- duktem korporacyjnego PR i machinerii prawniczej. Z pewnej bardzo realnej perspektywy korporacje to nieludzkie maszyny, które realizuj(cid:167) w(cid:175)asne cele, nie- koniecznie to(cid:352)same z celami jakiegokolwiek pracuj(cid:167)cego w nich cz(cid:175)owieka. Jak zauwa(cid:352)y(cid:175) Wiener w The Human Use of Human Beings: „Gdy ludzkie atomy wspó(cid:175)- tworz(cid:167) organizacj(cid:171), która je wykorzystuje, ale nie w pe(cid:175)ni ich praw jako odpo- wiedzialne istoty ludzkie, lecz jako trybiki, z(cid:171)batki i przek(cid:175)adnie, nie ma wi(cid:171)k- szego znaczenia, (cid:352)e s(cid:167) zbudowane z krwi i ko(cid:321)ci”. Innym silnym bod(cid:350)cem sk(cid:175)aniaj(cid:167)cym do zlekcewa(cid:352)enia ryzyka zwi(cid:167)zanego z AI jest (bardzo ludzka) ciekawo(cid:321)(cid:250), która nie zna granic. „Gdy widzisz co(cid:321) tech- nicznie kusz(cid:167)cego, si(cid:171)gasz po to, wykonujesz to, a dopiero po sukcesie technolo- gicznym zastanawiasz si(cid:171), co o tym my(cid:321)le(cid:250). Tak w(cid:175)a(cid:321)nie by(cid:175)o z bomb(cid:167) atomow(cid:167)”, stwierdzi(cid:175) J. Robert Oppenheimer. Echo jego s(cid:175)ów da(cid:175)o si(cid:171) s(cid:175)ysze(cid:250) niedawno w wypowiedzi Geoffreya Hintona, prawdopodobnie wynalazc(cid:171) g(cid:175)(cid:171)bokiego ucze- nia, który w kontek(cid:321)cie zagro(cid:352)e(cid:302) zwi(cid:167)zanych z AI powiedzia(cid:175): „Móg(cid:175)bym poda(cid:250) zazwyczaj przytaczane argumenty, ale prawda jest taka, (cid:352)e perspektywie doko- nania odkrycia nie sposób si(cid:171) oprze(cid:250)”. Niew(cid:167)tpliwie to przedsi(cid:171)biorczo(cid:321)ci i naukowej ciekawo(cid:321)ci zawdzi(cid:171)czamy nie- mal wszystkie fajne rzeczy, które w dzisiejszych czasach uznajemy za oczywiste. Trzeba sobie jednak u(cid:321)wiadomi(cid:250), (cid:352)e post(cid:171)p nie jest zobligowany do poprawiania naszego losu. Ujmuj(cid:167)c to s(cid:175)owami Wienera: „Mo(cid:352)na wierzy(cid:250) w post(cid:171)p, nie uznaj(cid:167)c go za zasad(cid:171) etyczn(cid:167)”. Koniec ko(cid:302)ców nie mo(cid:352)emy sobie pozwoli(cid:250) na czekanie, a(cid:352) wszystkie korpo- racyjne g(cid:175)owy i eksperci AI potwierdz(cid:167) ryzyko ze strony AI. Wyobra(cid:350) sobie, (cid:352)e 3 Katja Grace i in., When Will AI Exceed Human Performance? Evidence form AI Experts, https://arxiv.org/pdf/1705.08807.pdf. Poleć książkęKup książkę DYSYDENCKIE PRZEKAZY 117 siedzisz w samolocie, który za chwil(cid:171) ma wystartowa(cid:250). Nagle s(cid:175)yszysz komuni- kat, (cid:352)e wed(cid:175)ug 40 ekspertów na pok(cid:175)adzie znajduje si(cid:171) bomba. Wiadomo, co nale(cid:352)y zrobi(cid:250) w takiej sytuacji, i na pewno nie jest to siedzenie i czekanie, a(cid:352) po- zosta(cid:175)e 60 ekspertów zmieni pogl(cid:167)d. KALIBRACJA PRZEKAZU O ZAGROŻENIACH ZE STRONY AI Przekaz pierwszych dysydentów o zagro(cid:352)eniach AI by(cid:175) niew(cid:167)tpliwie proroczy, ale mia(cid:175) powa(cid:352)n(cid:167) skaz(cid:171) — podobnie jak wersja, która zdominowa(cid:175)a aktualny dyskurs publiczny. W obu przypadkach lekcewa(cid:352)y si(cid:171) zarówno powag(cid:171) pro- blemu, jak i potencjalne zalety AI. Innymi s(cid:175)owy, przekaz niedok(cid:175)adnie wyra(cid:352)a stawki w tej grze. Wiener przede wszystkim przestrzega(cid:175) przed zagro(cid:352)eniami spo(cid:174)ecznymi, wyra- staj(cid:167)cymi z bezmy(cid:321)lnej integracji generowanych maszynowo decyzji w procesy zarz(cid:167)dzania i niew(cid:175)a(cid:321)ciwego u(cid:352)ytkowania (przez ludzi) tak zautomatyzowanego procesu decyzyjnego. Podobnie dzisiaj „powa(cid:352)ne” debaty o zagro(cid:352)eniach AI skupiaj(cid:167) si(cid:171) g(cid:175)ównie na kwestiach w rodzaju bezrobocia technologicznego lub uprzedzeniach w uczeniu maszynowym. Takie dyskusje bywaj(cid:167) warto(cid:321)ciowe, gdy(cid:352) zajmuj(cid:167) si(cid:171) krótkoterminowymi problemami, jednocze(cid:321)nie s(cid:167) jednak zdu- miewaj(cid:167)co za(cid:321)ciankowe. Przypomina mi si(cid:171) wpis Yudkowskiego na blogu: „Pytanie o wp(cid:175)yw maszynowej superinteligencji na konwencjonalny rynek pracy jest jak pytanie o to, jak na handel ameryka(cid:302)sko-chi(cid:302)ski wp(cid:175)yn(cid:171)(cid:175)oby rozbicie si(cid:171) Ksi(cid:171)(cid:352)yca o Ziemi(cid:171). Oczywi(cid:321)cie, (cid:352)e by wp(cid:175)yn(cid:171)(cid:175)o, ale takie postawienie problemu oznacza, (cid:352)e nie dostrzegasz istoty rzeczy”. Moim zdaniem istot(cid:167) rzeczy jest to, (cid:352)e superinteligentne AI stanowi zagro(cid:352)enie (cid:321)rodowiskowe. Pozwólcie, (cid:352)e to wyja(cid:321)ni(cid:171). Douglas Adams opisa(cid:175) w jednej z ksi(cid:167)(cid:352)ek przypowie(cid:321)(cid:250) o ka(cid:175)u(cid:352)y, która po przebudzeniu si(cid:171) zauwa(cid:352)a, (cid:352)e znajduje si(cid:171) w dziurze. Co wi(cid:171)cej, wydaje si(cid:171), (cid:352)e dziura jest „ca(cid:175)kiem zgrabnie dopasowana”. Na podstawie tej obserwacji ka(cid:175)u(cid:352)a wysnuwa wniosek, (cid:352)e (cid:321)wiat zosta(cid:175) stworzony specjalnie dla niej. Z tego powodu, jak pisze Adams, „chwila, z któr(cid:167) znika, raczej j(cid:167) zaskakuje”. Podobnym b(cid:175)(cid:171)dem jest za(cid:175)o(cid:352)enie, (cid:352)e zagro(cid:352)enia AI ograniczaj(cid:167) si(cid:171) do niekorzystnych zmian spo- (cid:175)ecznych. Brutalna rzeczywisto(cid:321)(cid:250) jest taka, (cid:352)e Wszech(cid:321)wiat nie zosta(cid:175) stworzony dla nas. Wr(cid:171)cz przeciwnie, w drodze ewolucji zostali(cid:321)my przystosowani do bar- dzo w(cid:167)skiego zakresu parametrów (cid:321)rodowiska. Mi(cid:171)dzy innymi potrzebujemy Poleć książkęKup książkę 118 CZŁOWIEK NA ROZDROŻU temperatury na poziomie gruntu mniej wi(cid:171)cej równej temperaturze pokojowej, ci(cid:321)nienia oko(cid:175)o 100 kPa i odpowiedniego st(cid:171)(cid:352)enia tlenu. Ka(cid:352)da zmiana tej bez- cennej równowagi — nawet tymczasowa — w ci(cid:167)gu kilku minut sko(cid:302)czy(cid:175)aby si(cid:171) nasz(cid:167) (cid:321)mierci(cid:167). Krzemowa inteligencja nie musi a(cid:352) tak przejmowa(cid:250) si(cid:171) (cid:321)rodowiskiem. Dlate- go znacznie taniej jest eksplorowa(cid:250) kosmos za pomoc(cid:167) sond maszynowych ni(cid:352) „puszek z mi(cid:171)sem”. Ma(cid:175)o tego, aktualne warunki na Ziemi s(cid:167) niemal na pewno nieoptymalne dla czego(cid:321), co dla superinteligentnego AI jest najwa(cid:352)niejsze: efek- tywnego przetwarzania danych. Mo(cid:352)e si(cid:171) wi(cid:171)c okaza(cid:250), (cid:352)e nagle z antropogenicznego globalnego ocieplenia przechodzimy do maszynogenicznego globalnego och(cid:175)o- dzenia. To jedno z najpowa(cid:352)niejszych wyzwa(cid:302) w badaniach bezpiecze(cid:302)stwa AI: jak powstrzyma(cid:250) potencjalnie superinteligentne AI — AI o znacznie silniejszej pozycji od naszej — przed doprowadzeniem (cid:321)rodowiska do postaci nienadaj(cid:167)cej si(cid:171) do zamieszkania przez biologiczne formy (cid:352)ycia. Co interesuj(cid:167)ce, poniewa(cid:352) najpot(cid:171)(cid:352)niejszymi (cid:350)ród(cid:175)ami zarówno bada(cid:302) nad AI, jak i zaprzecze(cid:302) dotycz(cid:167)cych ryzyka s(cid:167) wielkie korporacje, to gdy odpowied- nio mocno przymkniemy oko, przekaz „AI jako zagro(cid:352)enie (cid:321)rodowiskowe” za- cznie przypomina(cid:250) chroniczne obawy o wykr(cid:171)canie si(cid:171) korporacji od odpowie- dzialno(cid:321)ci za (cid:321)rodowisko. Z drugiej strony, snuj(cid:167)c obawy przed spo(cid:175)ecznymi skutkami AI, przegapia si(cid:171) wi(cid:171)kszo(cid:321)(cid:250) zalet. Trudno uj(cid:167)(cid:250) w s(cid:175)owa, jak za(cid:321)ciankowo i mikroskopijnie prezen- tuje si(cid:171) przysz(cid:175)o(cid:321)(cid:250) naszej planety w porównaniu z pe(cid:175)nym potencja(cid:175)em ludzko(cid:321)ci. W skali astronomicznej nasza planeta wkrótce zniknie (chyba (cid:352)e okie(cid:175)znamy S(cid:175)o(cid:302)- ce, co jest zupe(cid:175)nie inn(cid:167) kwesti(cid:167)), a niemal wszystkie zasoby — atomy i darmowa energia — potrzebne do podtrzymania cywilizacji na d(cid:175)u(cid:352)sz(cid:167) met(cid:171) znajduj(cid:167) si(cid:171) w dalekim kosmosie. Eric Drexler, wynalazca nanotechnologii, popularyzuje ostatnio koncepcj(cid:171) „paretotopii”. Rzecz w tym, (cid:352)e w(cid:175)a(cid:321)ciwie skonstruowane AI mo(cid:352)e da(cid:250) nam przy- sz(cid:175)o(cid:321)(cid:250), w której (cid:352)ycie ka(cid:352)dego ulega diametralnej poprawie, w której nie ma prze- granych. Trzeba tu zrozumie(cid:250), (cid:352)e g(cid:175)ównym czynnikiem powstrzymuj(cid:167)cym ludz- ko(cid:321)(cid:250) przed osi(cid:167)gni(cid:171)ciem pe(cid:175)nego potencja(cid:175)u jest zapewne nasze instynktowne przeczucie, (cid:352)e uczestniczymy w grze o sumie zerowej, w której gracze z trudem wyszarpuj(cid:167) dla siebie drobne wygrane kosztem innych graczy. Taki instynkt jest powa(cid:352)nie chybiony i destrukcyjny w „grze”, w której gra si(cid:171) o wszystko, a wy- grane s(cid:167) dos(cid:175)ownie astronomiczne. Tylko w naszej galaktyce istnieje wi(cid:171)cej uk(cid:175)a- dów gwiezdnych ni(cid:352) ludzi na Ziemi. Poleć książkęKup książkę DYSYDENCKIE PRZEKAZY 119 NADZIEJA Pisz(cid:171) to z ostro(cid:352)n(cid:167) nadziej(cid:167), (cid:352)e przekaz o zagro(cid:352)eniach AI ocali ludzko(cid:321)(cid:250) przed zag(cid:175)ad(cid:167), podobnie jak przekaz o okupacji sowieckiej doprowadzi(cid:175) do wyzwolenia setek milionów osób. W 2015 roku przekona(cid:175) 40 badaczy AI. Nie zdziwi(cid:175)bym si(cid:171), gdyby nowa ankieta wykaza(cid:175)a, (cid:352)e wi(cid:171)kszo(cid:321)(cid:250) badaczy AI uwa(cid:352)a kwesti(cid:171) jego bezpiecze(cid:302)stwa za istotn(cid:167). Cieszy mnie pojawianie si(cid:171) pierwszych technicznych prac na temat bezpie- cze(cid:302)stwa AI sygnowanych przez DeepMind, OpenAI oraz Google Brain, a tak(cid:352)e to, (cid:352)e je(cid:321)li chodzi o zespo(cid:175)y pracuj(cid:167)ce nad bezpiecze(cid:302)stwem AI, w tych sk(cid:167)din(cid:167)d konkuruj(cid:167)cych ze sob(cid:167) korporacjach kwitnie wspó(cid:175)praca. (cid:320)wiatowe elity polityczne i biznesowe tak(cid:352)e powoli si(cid:171) budz(cid:167): bezpiecze(cid:302)- stwo AI zosta(cid:175)o uwzgl(cid:171)dnione w raportach i prezentacjach Institute of Electrical and Electronics Engineers (IEEE), World Economic Forum oraz Organizacji Wspó(cid:175)pracy Ekonomicznej i Rozwoju (OECD). Nawet niedawny (z lipca 2017 roku) manifest Chinese AI zawiera(cid:175) sekcje po(cid:321)wi(cid:171)cone nadzorowi nad bezpie- cze(cid:302)stwem AI oraz opracowaniu praw, regulacji i norm etycznych i stworzeniu systemu oceny bezpiecze(cid:302)stwa AI, (cid:352)eby mi(cid:171)dzy innymi zwi(cid:171)kszy(cid:250) (cid:321)wiadomo(cid:321)(cid:250) potencjalnych zagro(cid:352)e(cid:302). Mam olbrzymi(cid:167) nadziej(cid:171), (cid:352)e nowe pokolenie przywód- ców, które rozumie Problem Kontroli oraz zagro(cid:352)enie (cid:321)rodowiskowe AI, b(cid:171)dzie potrafi(cid:175)o wznie(cid:321)(cid:250) si(cid:171) ponad typowe plemienne gry o sumie zerowej i pomo(cid:352)e ludzko(cid:321)ci przeby(cid:250) te niebezpieczne wody, po jakich aktualnie (cid:352)eglujemy, a tym samym otworzy nam drog(cid:171) do gwiazd, które czekaj(cid:167) na nas od miliardów lat. Toast za nast(cid:171)pne sto tysi(cid:171)cy lat! Nie wahaj si(cid:171) mówi(cid:250) prawdy, nawet gdy dr(cid:352)y Ci g(cid:175)os. Poleć książkęKup książkę 120 CZŁOWIEK NA ROZDROŻU Poleć książkęKup książkę
Pobierz darmowy fragment (pdf)

Gdzie kupić całą publikację:

Człowiek na rozdrożu. Sztuczna inteligencja — 25 punktów widzenia
Autor:

Opinie na temat publikacji:


Inne popularne pozycje z tej kategorii:


Czytaj również:


Prowadzisz stronę lub blog? Wstaw link do fragmentu tej książki i współpracuj z Cyfroteką: