"Gözləyin, bunların hamısı necə gerçək ola bilər, niyə hələ də hər küncdə danışılmır" seriyasından bir məqalənin ikinci hissəsi sizdən əvvəl. Əvvəlki seriyada, kəşfiyyat partlayışının Yer planetinin insanlarına tədricən süründüyü, dar fokusdan universal zəkaya və nəhayət, süni super zəkaya doğru inkişaf etməyə çalışdığı məlum oldu.
"Bəlkə də son dərəcə çətin bir problemlə üz -üzəyik və onun həlli üçün nə qədər vaxt ayrıldığı bilinmir, amma bəşəriyyətin gələcəyi onun həllindən asılı ola bilər." - Nik Bostrom.
Yazının birinci hissəsi kifayət qədər günahsız başladı. Dar fokuslu süni intellekti (marşrutları təyin etmək və ya şahmat oynamaq kimi xüsusi bir problemi həll etmək üçün ixtisaslaşmış AI) müzakirə etdik, dünyamızda çox şey var. Sonra ümumi yönlü süni intellektin (intellektual qabiliyyət baxımından hər hansı bir problemi həll etməkdə insanla müqayisə edə biləcək AI) inkişaf etməsinin niyə bu qədər çətin olduğunu təhlil etdilər. Texnoloji inkişafın eksponensial nisbətinin AGI -nin tezliklə köşədə ola biləcəyini göstərir. Sonda qərara gəldik ki, maşınlar insan zəkasına çatan kimi dərhal aşağıdakılar baş verə bilər:
Həmişə olduğu kimi, süni super intellektin (hər bir insandan daha ağıllı olan ISI) həyatımız boyunca görünə biləcəyinə inanmadan və bu mövzuda fikirlərimizi ən yaxşı şəkildə əks etdirəcək duyğuları seçərək ekrana baxırıq.
ISI -nin xüsusiyyətlərinə girməzdən əvvəl, bir maşının super ağıllı olmasının nə demək olduğunu özümüzə xatırladaq.
Əsas fərq, sürətli superintelligence ilə keyfiyyətli superintelligence arasındakı fərqdir. Çox vaxt ağıllı bir kompüter haqqında düşünərkən ağla gələn ilk şey, bir insandan çox daha sürətli - milyonlarla dəfə daha sürətli düşünə bilməsidir və beş dəqiqə ərzində bir insanın on il çəkəcəyini başa düşəcəkdir. ("Kung fu bilirəm!")
Etkileyici səslənir və ISI həqiqətən hər kəsdən daha sürətli düşünməlidir - amma əsas fərqləndirici xüsusiyyət tamamilə fərqli olan zəkasının keyfiyyəti olacaq. İnsanlar meymunlardan daha ağıllıdırlar, çünki daha sürətli düşündükləri üçün deyil, beyinlərində meymunların bacarmadığı mürəkkəb dilçilik, uzunmüddətli planlaşdırma, mücərrəd düşüncəni həyata keçirən bir çox bilikli modullar var. Bir meymunun beynini min dəfə sürətləndirsəniz, bizdən daha ağıllı olmayacaq - hətta on ildən sonra bir insana ən çox bir neçə saat çəkəcək təlimatlara uyğun olaraq konstruktor toplaya bilməyəcək. Bir meymunun nə qədər saat sərf etməsindən və beyninin nə qədər sürətli işləməsindən asılı olmayaraq heç vaxt öyrənməyəcəyi şeylər var.
Bundan əlavə, meymun nə qədər insani olduğunu bilmir, çünki beyni başqa aləmlərin varlığını dərk edə bilmir - meymun insanın nə olduğunu və göydələnin nə olduğunu bilə bilər, ancaq bir göydələnin inşa etdiyini heç vaxt anlamayacaq. Xalq. Onun dünyasında hər şey təbiətə aiddir və makak nəinki bir göydələn tikə bilməz, həm də onu hər kəsin inşa edə biləcəyini başa düşür. Və bu, kəşfiyyat keyfiyyətindəki kiçik bir fərqin nəticəsidir.
Bəhs etdiyimiz ümumi zəka sxemində və ya sadəcə bioloji varlıqların standartlarına görə, insanlar ilə meymunlar arasındakı zəka keyfiyyətindəki fərq çox kiçikdir. Əvvəlki məqalədə bioloji idrak qabiliyyətlərini bir nərdivana yerləşdirmişdik:
Bir superintelligent maşının nə qədər ciddi olacağını başa düşmək üçün onu həmin nərdivandakı adamdan iki pillə yuxarı qoyun. Bu maşın bir az super zəkalı ola bilər, amma idrak qabiliyyətlərimizdən üstünlüyü bizimki ilə eyni olacaq - meymunlar üzərində. Bir şimpanze bir göydələnin inşa edilə biləcəyini heç vaxt anlamayacağı kimi, maşın bizə izah etməyə çalışsa da, bir neçə addım daha yüksək olan bir maşının nə başa düşəcəyini heç vaxt anlaya bilmərik. Ancaq bu yalnız bir neçə addımdır. Daha ağıllı maşın içimizdə qarışqalar görəcək - illərlə mövqeyindən bizə ən sadə şeyləri öyrədəcək və bu cəhdlər tamamilə ümidsiz olacaq.
Bu gün danışacağımız super zəka növü bu nərdivanın çox kənarında yerləşir. Bu bir zəka partlayışıdır - bir avtomobil nə qədər ağıllı olarsa, o qədər sürətlə öz zəkasını artıra bilər, tədricən artan təcil. Belə bir maşının kəşfiyyat baxımından şimpanzələri üstələməsi illər çəkə bilər, amma bəlkə də bizi bir neçə pillə üstələmək bir neçə saat çəkə bilər. O andan etibarən avtomobil artıq hər saniyədə dörd pillədən yuxarı tullana bilər. Buna görə də başa düşməliyik ki, maşının insan zəkası səviyyəsinə çatdığı ilə bağlı ilk xəbərin ortaya çıxmasından çox qısa müddət sonra bu nərdivanda bizdən qat -qat yüksək olacaq bir şeylə Yer üzündə bir yerdə yaşamağın reallığı ilə qarşılaşa bilərik (və ya bəlkə də, və milyonlarla dəfə yüksəkdir):
Üstümüzdən yalnız iki pillə yuxarı olan bir maşının gücünü anlamağa çalışmağın tamamilə faydasız olduğunu təyin etdiyimiz üçün, ISI -nin nə edəcəyini və bunun nəticələrini başa düşməyin bir yolu olmadığını birdəfəlik müəyyənləşdirək. bu bizim üçün olacaq. Bunun əksini iddia edən hər kəs, superintelligence nə demək olduğunu anlamır.
Təkamül yüz milyonlarla il ərzində yavaş -yavaş və tədricən bioloji beyni inkişaf etdirdi və əgər insanlar super zəkalı bir maşın yaratsalar, bir mənada təkamülü aşacağıq. Ya da təkamülün bir hissəsi olacaq - bəlkə də təkamül, zəkanın bütün canlılar üçün yeni bir gələcəyə müjdə verən bir dönüş nöqtəsinə çatana qədər tədricən inkişaf edəcəyi şəkildə işləyir:
Daha sonra müzakirə edəcəyimiz səbəblərə görə, elmi ictimaiyyətin böyük bir hissəsi hesab edir ki, məsələ bu çökmə nöqtəsinə çatıb -çatmayacağımızda deyil, nə vaxt.
Bundan sonra hara gedək?
Düşünürəm ki, bu nöqtədə çatanda nə olacağını nə mən, nə sən bu dünyada heç kim deyə bilməyəcək. Oksford filosofu və aparıcı AI nəzəriyyəçisi Nik Bostrom, mümkün olan bütün nəticələri iki geniş kateqoriyaya bölə biləcəyimizə inanır.
Birincisi, tarixə baxaraq həyat haqqında bunları bilirik: növlər ortaya çıxır, müəyyən bir müddət mövcuddur və sonra istər -istəməz tarazlıq şüasından düşür və ölür.
"Bütün növlər ölür", tarixdə "bütün insanlar bir gün ölür" qədər etibarlı bir qayda idi. Növlərin 99,9% -i bir həyat jurnalından düşmüşdür və bir növün bu ağacda çox uzun müddət asılması halında, təbii külək və ya qəfil bir asteroidin kütləsini çevirəcəyi aydındır. Bostrom, cazibədarların vəziyyətini yox sayır - hələ heç bir növün qayıtmadığı yerə düşməmək üçün bütün növlərin tarazlaşdığı bir yer.
Əksər elm adamları, ISI -nin insanları məhv olmaq qabiliyyətinə sahib olacağını qəbul etsələr də, bir çoxları ISI -nin imkanlarından istifadə edərək fərdlərin (və bütövlükdə növlərin) cazibədarlığın ikinci vəziyyətinə - növlərin ölümsüzlüyünə nail olacağına inanırlar. Bostrom, bir növün ölümsüzlüyünün, bir növün yox olması qədər cazibədar olduğuna inanır, yəni buna çatsaq, əbədi varlığa məhkum olacağıq. Beləliklə, bu günə qədər bütün növlər bu çubuqdan yoxa çıxma girdabına düşsələr belə, Bostrom ağacın iki tərəfinin olduğuna inanır və Yer üzündə digər tərəfə necə düşəcəyini anlayacaq bir zəka meydana gəlməmişdir.
Bostrom və başqaları haqlıdırsa və əlimizdə olan bütün məlumatlara görə, belə ola bilər, çox şok edici iki faktı qəbul etməliyik:
Tarixdə ilk dəfə İSİ -nin ortaya çıxması, bir növün ölümsüzlüyü əldə etməsinə və ölümcül yox olma dövründən çıxmasına yol açacaq.
ISI -nin ortaya çıxması o qədər böyük bir təsirə sahib olacaq ki, çox güman ki, bəşəriyyəti bu jurnaldan bu və ya digər istiqamətə itələyəcək.
Mümkündür ki, təkamül belə bir dönüş nöqtəsinə çatanda həmişə insanların həyat axını ilə əlaqələrinə son qoyar və insanlarla və ya insanlarsız yeni bir dünya yaradır.
Bu, yalnız bir bummerin soruşmayacağı maraqlı bir suala səbəb olur: bu uçma nöqtəsinə nə vaxt çatacağıq və bizi hara qoyacaq? Dünyada heç kim bu ikiqat sualın cavabını bilmir, amma bir çox ağıllı adam onilliklər ərzində bunu anlamağa çalışır. Məqalənin qalan hissəsi üçün haradan gəldiklərini anlayacağıq.
* * *
Bu sualın birinci hissəsindən başlayaq: enmə nöqtəsinə nə vaxt çatmalıyıq? Başqa sözlə: ilk maşının super intellektə çatmasına nə qədər vaxt qalıb?
Rəylər vəziyyətə görə dəyişir. Professor Vernor Vinge, alim Ben Herzel, Sun Microsystems-in qurucusu Bill Joy, futurist Ray Kurzweil də daxil olmaqla bir çoxları TED Talk-da aşağıdakı qrafiki təqdim edərkən maşın öyrənmə mütəxəssisi Jeremy Howard ilə razılaşdılar:
Bu insanlar, ISI -nin tezliklə gələcəyi fikrini bölüşürlər - bu gün bizə yavaş görünən bu eksponensial artım, önümüzdəki bir neçə onillikdə sözün əsl mənasında partlayacaq.
Microsoftun həmtəsisçisi Paul Allen, araşdırma psixoloqu Gary Marcus, kompüter mütəxəssisi Ernest Davis və texnologiya sahibkarı Mitch Kapor kimi digərləri də Kurzweil kimi mütəfəkkirlərin problemin miqyasını ciddi şəkildə qiymətləndirmədiklərinə inanırlar və bir qədər yaxın olmadığımızı düşünürlər. əyilmə nöqtəsi.
Kurzweilin düşərgəsi, meydana çıxan yeganə qiymətləndirmənin eksponent artımın nəzərə alınmaması olduğunu iddia edir və şübhə edənlərin 1985 -ci ildə yavaş -yavaş sürətlə inkişaf edən internetə baxaraq yaxın gələcəkdə dünyaya heç bir təsiri olmayacağını iddia edənlərlə müqayisə edilə bilər.
Şübhə edənlər, texnoloji tərəqqinin tipik eksponensial mahiyyətini neytrallaşdıran kəşfiyyatın eksponent inkişafına gəldikdə, sonrakı hər bir addımı atmağın daha çətin olacağını düşünə bilərlər. Və s.
Nik Bostromun olduğu üçüncü düşərgə, ya birinci, ya da ikincisi ilə razılaşmır, a) bütün bunların yaxın gələcəkdə tamamilə baş verə biləcəyini iddia edir; və b) bunun baş verəcəyinə və ya daha uzun sürəcəyinə dair heç bir zəmanət yoxdur.
Digərləri, filosof Hubert Dreyfus kimi, hər üç qrupun da bir dönüş nöqtəsi olacağına və çox güman ki, İSİ -yə heç vaxt çatmayacağımıza sadəlövhcəsinə inandıqlarına inanırlar.
Bütün bu fikirləri bir araya gətirsək nə olar?
2013 -cü ildə Bostrom, "İnsan səviyyəsində AGI əldə etmək üçün proqnozlarınız nə olacaq?" Mövzusunda bir sıra konfranslarda yüzlərlə AI mütəxəssisindən müsahibə aldığı bir sorğu keçirdi. və optimist bir il (10 % şansla AGI -yə sahib olacağıq), real bir fərziyyə (50 % ehtimal ilə AGI -yə sahib olacağımız bir il) və inamlı bir fərziyyə (ən erkən il AGI 90 faizlik ehtimaldan bəri görünəcək). İşdə nəticələr:
* Orta nikbin il (10%): 2022
* Orta real il (50%): 2040
* Orta pessimist il (90%): 2075
Orta respondentlər, 25 ildən sonra AGI -nin olmayacağına inanırıq. 2075 -ci ilə qədər AGI meydana gəlmə ehtimalının yüzdə 90ı, hələ çox gənc olsanız, çox güman ki, ömrünüzdə baş verəcək deməkdir.
Bu yaxınlarda James Barratt tərəfindən edilən ayrı bir araşdırma (məşhur və çox yaxşı kitabın müəllifi Bizim Son İxtiramızın müəllifi, Oxucuların diqqətinə təqdim etdim Hi-News.ru) və Ben Hertzel, illik AGI Konfransı olan AGI Konfransında, insanların AGI-yə çatdığımız il haqqında fikirlərini göstərdilər: 2030, 2050, 2100, daha sonra və ya heç vaxt. İşdə nəticələr:
* 2030: Respondentlərin 42% -i
* 2050: 25%
* 2100: 20%
2100 -dən sonra: 10%
Heç vaxt: 2%
Bostrom nəticələrinə bənzəyir. Barrattın anketində, sorğuda iştirak edənlərin üçdə ikisindən çoxu AGI-nin 2050-ci ildə burada olacağına inanır və yarısından az hissəsi AGI-nin yaxın 15 ildə görünəcəyinə inanır. Maraqlıdır ki, respondentlərin yalnız 2% -i gələcəkdə AGI -ni görmür.
Ancaq AGI, ISI kimi bir dönüş nöqtəsi deyil. Mütəxəssislərə görə, nə vaxt ISI -yə sahib olacağıq?
Bostrom, mütəxəssislərə ASI -yə nə vaxt çatacağımızı soruşdu: a) AGI -yə çatdıqdan iki il sonra (yəni, demək olar ki, dərhal bir kəşfiyyat partlaması səbəbindən); b) 30 ildən sonra Nəticələr?
Orta fikir, AGI -dən ISI -ə sürətli keçidin 10% ehtimalla, ancaq 30 il və ya daha az bir müddətdə 75% -lik bir ehtimalla baş verəcəyidir.
Bu məlumatlardan, respondentlərin ASI -nin 50 % -lik şansını hansı tarix adlandıracaqlarını bilmirik, amma yuxarıdakı iki cavaba əsaslanaraq 20 il olduğunu düşünək. Yəni dünyanın aparıcı AI mütəxəssisləri dönüş nöqtəsinin 2060 -cı ildə gələcəyinə inanırlar (AGI 2040 -da görünəcək + AGI -dən ISI -yə keçmək üçün 20 il lazım olacaq).
Əlbəttə ki, yuxarıda göstərilən statistikaların hamısı spekulyativdir və sadəcə süni intellekt sahəsindəki mütəxəssislərin fikirlərini əks etdirir, lakin eyni zamanda ən çox maraqlanan insanların 2060 -cı ilə qədər AI -nin gələcək ehtimalına razı olduqlarını göstərir. Cəmi 45 ildə.
İkinci suala keçək. Dönüş nöqtəsinə çatanda ölümcül seçimin hansı tərəfi bizi təyin edəcək?
Superintelligence ən güclü gücə sahib olacaq və bizim üçün kritik sual belə olacaq:
Bu gücü kim və ya nə idarə edəcək və motivasiyası nə olacaq?
Bu sualın cavabı, ISI -nin inanılmaz dərəcədə güclü bir inkişafa, ölçüyəgəlməz dərəcədə qorxunc bir inkişafa və ya aralarında bir şeyə sahib olub -olmamasından asılı olacaq.
Təbii ki, ekspert cəmiyyəti bu suallara da cavab verməyə çalışır. Bostrom -un sorğusu AGI -nin insanlığa təsirinin mümkün nəticələrinin ehtimalını təhlil etdi və məlum oldu ki, 52 % şansla hər şey çox yaxşı, 31 % şansla hər şey ya pis, ya da çox pis gedəcək. Hörmətli Hi-News oxucuları, aranızda bu mövzunun əvvəlki hissəsinin sonunda əlavə edilən sorğu eyni nəticələr göstərdi. Nisbətən neytral nəticə üçün ehtimal cəmi 17%idi. Başqa sözlə, hamımız AGI -nin böyük bir iş olacağına inanırıq. Bu sorğunun AGI -nin yaranması ilə əlaqədar olduğunu da qeyd etmək lazımdır - ISI vəziyyətində neytrallıq faizi daha aşağı olacaq.
Sualın yaxşı və pis tərəflərini daha dərindən düşünmədən əvvəl, sualın hər iki tərəfini birləşdirək - "bu nə vaxt olacaq?" və "bu yaxşıdır, yoxsa pis?" bir çox mütəxəssisin fikirlərini əhatə edən bir cədvəl.
Bir dəqiqədən sonra əsas düşərgə haqqında danışacağıq, amma əvvəlcə mövqeyinizə qərar verin. Çox güman ki, bu mövzu üzərində işləməyə başlamazdan əvvəl olduğum yerdəsiniz. İnsanların bu mövzuda ümumiyyətlə düşünməməsinin bir neçə səbəbi var:
* Birinci hissədə qeyd edildiyi kimi, filmlər süni intellektlə qeyri -real ssenarilər təqdim edərək insanları və faktları ciddi şəkildə qarışdırdı və bu da AI -ni qətiyyən ciddiyə almamağımıza səbəb oldu. James Barratt, bu vəziyyəti gələcəkdə vampirlər haqqında ciddi bir xəbərdarlıqla Xəstəliklərə Nəzarət Mərkəzləri (CDC) tərəfindən verilməsinə bənzətdi.
* Sözdə koqnitiv qərəzlərə görə, sübutumuz olana qədər bir şeyin gerçək olduğuna inanmaq çox çətindir. İnamla təsəvvür etmək olar ki, 1988-ci il kompüter elm adamları mütəmadi olaraq İnternetin geniş nəticələrini və bunun nə ola biləcəyini müzakirə edirlər, lakin insanlar bunun gerçəkləşənə qədər həyatlarını dəyişəcəyinə inanmırdılar. Sadəcə olaraq, 1988 -ci ildə kompüterlər bunu necə edəcəyini bilmirdi və insanlar sadəcə kompüterlərinə baxıb “Həqiqətənmi? Dünyanı dəyişəcək şey budurmu? Təsəvvürləri şəxsi təcrübədən öyrəndikləri ilə məhdudlaşırdı, kompüterin nə olduğunu bilirdilər və gələcəkdə kompüterin nəyə qadir olacağını təsəvvür etmək çətindir. Eyni şey indi AI ilə də baş verir. Ciddi bir şey olacağını eşitdik, ancaq hələ üz -üzə gəlmədiyimiz üçün və ümumiyyətlə müasir dünyamızda AI -nin olduqca zəif təzahürlərini müşahidə etdiyimiz üçün bunun köklü şəkildə olacağına inanmaq bizim üçün çətindir. həyatımızı dəyişdirin. Bütün düşərgələrdən olan çoxsaylı mütəxəssislərin və maraqlanan insanların gündəlik kollektiv eqosentrizmin səsləri ilə diqqətimizi çəkməyə çalışmasının əleyhinə çıxması bu önyargılara ziddir.
* Bütün bunlara inansaq belə - bu gün neçə dəfə əbədiyyətin heç bir şeyini keçirməyəcəyinizi düşünmüsünüz? Bir az, razılaşın. Hətta bu fakt hər gün etdiyiniz hər şeydən daha əhəmiyyətli olsa belə. Bunun səbəbi, uzunmüddətli vəziyyətin nə qədər xəyal qurmağımızdan asılı olmayaraq, beynimizin adətən kiçik, gündəlik işlərə yönəlməsidir. Sadəcə biz yaradılmışıq.
Bu yazının məqsədlərindən biri, sizi "başqa şeylər haqqında düşünməyi sevirəm" adlı düşərgədən çıxarmaq və meydanda iki nöqtəli xəttin kəsişməsində dayansan belə, sizi mütəxəssis düşərgəsinə yerləşdirməkdir. yuxarıda, tamamilə qərarsızdır.
Tədqiqat zamanı insanların əksəriyyətinin fikirlərinin "əsas düşərgəyə" doğru sürətlə sürüşdüyü və mütəxəssislərin dörddə üçünün əsas düşərgədəki iki alt kampa düşdüyü aydın olur.
Bu düşərgələrin hər ikisini tam olaraq ziyarət edəcəyik. Əyləncədən başlayaq.
Niyə gələcək ən böyük xəyalımız ola bilər?
Süni intellekt dünyasını araşdırarkən, rahatlıq zonamızda təəccüblü dərəcədə çox insan tapırıq. Sağ üst meydandakı insanlar həyəcan içində səs -küy salırlar. Günün yaxşı tərəfinə düşəcəyimizə inanırlar və istər -istəməz buna gələcəyimizə inanırlar. Onlar üçün gələcək yalnız xəyal edilə biləcək ən yaxşısıdır.
Bu insanları digər mütəfəkkirlərdən fərqləndirən məqam onların xoşbəxt tərəfdə olmaq istədiklərində deyil, bizi gözləyənlərin onun olduğuna əmin olduqlarıdır.
Bu güvən mübahisələrdən qaynaqlanır. Tənqidçilər bunun potensial mənfi tərəfləri kölgədə qoyan parlaq bir həyəcandan qaynaqlandığını düşünürlər. Ancaq tərəfdarları tutqun proqnozların həmişə sadəlövh olduğunu söyləyirlər; texnologiya davam edir və bizə zərər verməkdən daha çox kömək edəcək.
Bu fikirlərdən hər hansı birini seçməkdə azadsınız, ancaq şübhələri bir kənara qoyun və oxuduğunuz hər şeyin artıq baş vermiş ola biləcəyini qəbul etməyə çalışaraq balans şüasının xoşbəxt tərəfinə yaxşı baxın. Ovçu toplayanlara rahatlıq, texnologiya və sonsuz bolluq dünyamızı göstərsəydiniz, onlara sehrli bir uydurma kimi görünərdi - və eyni anlaşılmaz çevrilmənin gələcəkdə bizi gözlədiyini qəbul edə bilməyərək olduqca təvazökar davranırıq.
Nick Bostrom, super zəkalı bir AI sisteminin keçə biləcəyi üç yolu təsvir edir:
* İnsanların cavab verə bilmədiyi çətin suallar da daxil olmaqla hər hansı bir dəqiq suala cavab verə bilən bir keşiş - məsələn, "bir avtomobil mühərrikini daha səmərəli etmək üçün necə?" Google ibtidai "oracle" növüdür.
* Hər hansı bir yüksək səviyyəli əmri yerinə yetirəcək - bir avtomobil mühərrikinin yeni, daha səmərəli bir versiyasını yaratmaq üçün molekulyar montajçıdan istifadə edərək - və növbəti əmri gözləyəcək.
* Dünyada sərbəst fəaliyyət göstərmək, öz qərarlarını vermək və prosesi təkmilləşdirmək imkanı olan bir suveren. Şəxsi nəqliyyatı avtomobildən daha ucuz, daha sürətli və daha təhlükəsiz bir yol icad edəcək.
Bizim üçün çətin görünən bu suallar və tapşırıqlar super ağıllı sistemə elə gəlir ki, kimsə vəziyyəti düzəltmək istəsə, "qələm masadan düşdü".
Amerikalı süni zəka mütəxəssisi Eliezer Yudkowski bunu yaxşı ifadə etdi:
"Çətin bir problem yoxdur, yalnız müəyyən bir zəka üçün çətin olan problemlər var. Bir pillə yuxarı gedin (zəka baxımından) və bəzi problemlər birdən "qeyri -mümkün" kateqoriyasından "açıq" düşərgəsinə keçəcək. Bir addım yuxarı - və hamısı aydın olacaq."
Masamızdan özünə inamlı bir rahatlıq zonası seçmiş bir çox səbirsiz elm adamı, ixtiraçı və sahibkar var, amma bu dünyanın ən yaxşısında ən yaxşı şəkildə gəzmək üçün yalnız bir bələdçiyə ehtiyacımız var.
Ray Kurzweil birmənalı deyil. Bəziləri fikirlərini bütləşdirir, bəziləri isə onu alçaldır. Bəziləri ortada qalır - Douglas Hofstadter, Kurzweilin kitablarının fikirlərini müzakirə edərək, "sanki çoxlu yaxşı yemək və bir az köpək qoxusu götürüb sonra hər şeyi başa düşmək mümkün olmayan bir şəkildə qarışdırdığınız kimi" qeyd etdi. nə yaxşı, nə pis”.
Fikirlərini bəyənsən də, istəməsən də, maraq kölgəsi olmadan keçmək mümkün deyil. Yeniyetməlikdən bir şeylər icad etməyə başladı və sonrakı illərdə ilk düz yataqlı skaner, mətni nitqə çevirən ilk skaner, tanınmış Kurzweil musiqi sintezatoru (ilk əsl elektrikli piano) və bir neçə vacib şeyi icad etdi. ilk kommersiya baxımından uğurlu nitq tanıyıcısı. O, eyni zamanda 5 sensasiyalı kitabın müəllifidir. Kurzweil, cəsarətli proqnozları üçün təqdir olunur və təcrübəsi olduqca yaxşıdır - 80 -ci illərin sonlarında, İnternet hələ yeni başlayanda, 2000 -ci illərdə İnternetin qlobal bir fenomen olacağını proqnozlaşdırdı. The Wall Street Journal, Kurzweil'i "narahat bir dahi", Forbes'i "qlobal düşüncə maşını" adlandırdı. Jurnal - "Edisonun qanuni varisi", Bill Qeyts - "süni intellektin gələcəyini proqnozlaşdıranların ən yaxşısıdır". 2012-ci ildə Google-un qurucusu Larry Page, Kurzweili CTO vəzifəsinə dəvət etdi. 2011-ci ildə, NASA-nın ev sahibliyi etdiyi və qismən Google tərəfindən maliyyələşdirilən Singularity Universitetini qurdu.
Onun tərcümeyi -halı vacibdir. Kurzweil gələcəyə baxışı haqqında danışanda dəli kimi görünür, amma əslində dəli olan şey dəli olmaqdan uzaq olmasıdır - inanılmaz dərəcədə ağıllı, savadlı və ağlı başında olan bir insandır. Proqnozlarında səhv etdiyini düşünə bilərsiniz, amma axmaq deyil. Kurzweilin proqnozlarını bir çox rahatlıq zonası mütəxəssisi Peter Diamandis və Ben Herzel paylaşır. Bunun olacağını düşündüyü şey budur.
Xronologiya
Kurzweil hesab edir ki, kompüterlər 2029 -cu ilə qədər ümumi süni intellekt (AGI) səviyyəsinə çatacaq və 2045 -ci ilə qədər təkcə süni super intellektə malik olmayacağıq, həm də tamamilə yeni bir dünyaya - təklik deyilən bir dövrə sahib olacağıq. AI -nin xronologiyası hələ də həddindən artıq dərəcədə şişirdilmiş hesab olunur, lakin son 15 ildə yüksək fokuslu süni intellekt (AI) sistemlərinin sürətli inkişafı bir çox mütəxəssisləri Kurzweil -in tərəfində olmağa məcbur etdi. Onun proqnozları Bostrom -un sorğusundan (2040 -cı ilədək AGI, 2060 -cı ilədək ISI) daha çox iddialıdır, lakin çox da deyil.
Kurzweilin fikrincə, 2045 -ci ilin təkliyi biotexnologiyada, nanotexnologiyada və daha da əhəmiyyətlisi AI -də eyni vaxtda baş verən üç inqilabla idarə olunur. Ancaq davam etməzdən əvvəl - və nanotexnologiya süni intellekti yaxından izləyir - gəlin nanotexnologiyaya bir az vaxt ayıraq.
Nanotexnologiya haqqında bir neçə kəlmə
Adətən 1-100 nanometr aralığında maddənin manipulyasiyası ilə məşğul olan nanotexnologiya texnologiyaları adlandırırıq. Bir nanometr metrin milyarddan biri və ya millimetrin milyondan bir hissəsidir; 1-100 nanometr aralığında viruslar (diametri 100 nm), DNT (eni 10 nm), hemoglobin molekulları (5 nm), qlükoza (1 nm) və digərləri yerləşdirilə bilər. Əgər nanotexnologiya bizə tabe olarsa, növbəti addım bir böyüklük sırasından (~ 1 nm) az olan ayrı -ayrı atomları manipulyasiya etmək olacaq.
Maddəni belə bir miqyasda manipulyasiya etməyə çalışan insanların problemlərlə üzləşdiyini başa düşmək üçün daha geniş miqyaslıya keçək. Beynəlxalq Kosmik Stansiya Yerdən 481 kilometr yüksəklikdədir. İnsanlar nəhəng olsaydılar və ISS -ni başları ilə vursaydılar, indikindən 250.000 dəfə böyük olardılar. Bir şeyi 1 ilə 100 nanometr arasında 250.000 dəfə böyütsəniz, 2,5 santimetr əldə edərsiniz. Nanotexnologiya, ISS -də fırlanan, qum dənəsi və ya göz kürəsi ölçüsündə olan şeyləri manipulyasiya etməyə çalışan bir insanın ekvivalentidir. Növbəti mərhələyə - fərdi atomların idarə olunmasına keçmək üçün nəhəng 1/40 millimetr diametrli cisimləri diqqətlə yerləşdirməli olacaq. Adi insanlara onları görmək üçün mikroskop lazım olacaq.
Richard Feynman ilk dəfə 1959 -cu ildə nanotexnologiyadan danışdı. Sonra dedi: “Fizikanın prinsipləri, deyə bildiyim qədər, hər şeyi atomla idarə etmək imkanının əleyhinə danışmır. Prinsipcə, bir fizik kimyaçının yazdığı hər hansı bir kimyəvi maddəni sintez edə bilər. Necə? Kimyaçının maddəni alacağını söylədiyi atomları yerləşdirərək. Bütün sadəlik budur. Fərdi molekulları və ya atomları necə hərəkət etdirəcəyinizi bilirsinizsə, demək olar ki, hər şeyi edə bilərsiniz.
Nanotexnologiya 1986 -cı ildə mühəndis Eric Drexler "Machines of Creation" kitabında əsaslarını təqdim etdiyi zaman ciddi bir elmi sahəyə çevrildi, lakin Drexler özü hesab edir ki, nanotexnologiyada müasir fikirlər haqqında daha çox məlumat əldə etmək istəyənlər onun 2013 -cü il kitabını oxumalıdır. Tam Bolluq "(Radikal Bolluq).
"Boz goo" haqqında bir neçə kəlmə
Nanotexnologiyanı daha dərindən araşdırırıq. Xüsusilə, "boz goo" mövzusu, nanotexnologiya sahəsindəki çox xoş olmayan mövzulardan biridir və bunu göz ardı etmək olmaz. Nanotexnologiya nəzəriyyəsinin köhnə versiyaları, bir şey yaratmaq üçün birlikdə işləyəcək trilyonlarla kiçik nanorobotların yaradılmasını əhatə edən bir nano montaj metodu təklif etdi. Trilyonlarca nanorobot yaratmağın bir yolu, özünü təkrarlaya bilən, yəni birdən ikiyə, ikidən dördə və s. Gün ərzində bir neçə trilyon nanorobot görünəcək. Eksponensial artımın gücü budur. Gülməli, elə deyilmi?
Gülməlidir, amma tam olaraq apokalipsisə səbəb olana qədər. Problem ondadır ki, sürətlə bir trilyon nanobot yaratmağın olduqca əlverişli bir yolunu təşkil edən eksponent artımın gücü, özünü təkrarlamağı uzun müddətdə qorxunc bir şey halına gətirir. Sistem çökərsə və bir neçə trilyona çoxalmağı dayandırmaq əvəzinə nanobotlar çoxalmağa davam edərsə? Bütün bu proses karbondan asılıdırsa nə etməli? Yerin biokütləsi 10 ^ 45 karbon atomundan ibarətdir. Bir nanobot 10 ^ 6 karbon atomu sırasına malik olmalıdır, buna görə 10 ^ 39 nanobot Yer üzündəki bütün həyatı cəmi 130 replikasiyada yeyəcək. Nanobotlar okeanı ("boz goo") planetə su basacaq. Elm adamları nanobotların 100 saniyədə təkrarlana biləcəyini düşünürlər, bu da sadə bir səhvin Yerdəki bütün həyatı cəmi 3,5 saatda öldürə biləcəyi deməkdir.
Daha da pis ola bilər - terrorçular və əlverişsiz mütəxəssislər nanotexnologiyanın əlinə keçsələr. Bir neçə trilyon nanobot yarada və bir neçə həftə ərzində səssizcə bütün dünyaya yayılmasını proqramlaşdıra bilərlər. Sonra, bir düyməyə basaraq, sadəcə 90 dəqiqə ərzində heç bir şans olmadan hər şeyi yeyəcəklər.
Bu qorxu hekayəsi illərdir geniş müzakirə olunsa da, yaxşı xəbərin sadəcə bir dəhşət hekayəsi olmasıdır. "Grey goo" ifadəsini işlədən Eric Drexler bu yaxınlarda bunları söylədi: "İnsanlar qorxu hekayələrini sevirlər və bu zombi dəhşət hekayələrindən biridir. Bu fikir özlüyündə artıq beyinləri yeyir ".
Nanotexnologiyanın dibinə çatdıqdan sonra texniki vasitələr, geyim, qida, bio məhsullar - qan hüceyrələri, virus və xərçəng döyüşçüləri, əzələ toxuması və sair - hər şeyi yaratmaq üçün istifadə edə bilərik. Nanotexnologiyadan istifadə edən bir dünyada materialın dəyəri artıq onun qıtlığına və ya istehsal prosesinin mürəkkəbliyinə deyil, atom quruluşunun mürəkkəbliyinə bağlı olacaq. Nanotexnologiya dünyasında bir almaz silgi ilə müqayisədə daha ucuz ola bilər.
Hələ ora yaxın deyilik. Və bu yolun mürəkkəbliyini az qiymətləndirdiyimiz və ya çox qiymətləndirdiyimiz tamamilə aydın deyil. Ancaq hər şey o nöqtəyə gedir ki, nanotexnologiya uzaqda deyil. Kurzweil, 2020 -ci illərdə onlara sahib olacağımızı düşünür. Dünya dövlətləri nanotexnologiyanın böyük bir gələcək vəd edə biləcəyini bilir və buna görə də onlara milyardlarla sərmayə qoyurlar.
Etibarlı bir nano ölçülü montajçıya sahib olsanız, superintelligent kompüterin hansı imkanları əldə edəcəyini təsəvvür edin. Ancaq nanotexnologiya bizim fikrimizdir və biz buna minməyə çalışırıq, bizim üçün çətindir. Bəs bunlar ISI sistemi üçün sadəcə bir zarafatdırsa və ISI özü, prinsipcə güman edə biləcəyimiz hər şeydən qat -qat güclü texnologiyaları ortaya çıxarsa nə olar? Razılaşdıq: heç kim süni super intellektin nəyə qadir olacağını təsəvvür edə bilməz? Beynimizin nə olacağını belə təxmin edə bilməyəcəyinə inanılır.
AI bizim üçün nə edə bilər?
Superintelligence və superintelligence'in yarada biləcəyi bütün texnologiya ilə silahlanmış ISI, ehtimal ki, bəşəriyyətin bütün problemlərini həll edə biləcək. Qlobal istiləşmə? ISI, ilk növbədə fosil yanacaqla əlaqəli olmayan enerji istehsal etmək üçün bir çox təsirli yol icad edərək karbon emissiyalarını dayandıracaq. Daha sonra atmosferdən artıq CO2 çıxarmaq üçün təsirli və yenilikçi bir yol tapacaq. Xərçəng və digər xəstəliklər? Problem deyil - səhiyyə və tibb ağlasığmaz şəkildə dəyişəcək. Dünya aclığı? ISI, nanotexnologiyadan istifadə edərək təbii ətdən sıfırdan həqiqi ət hazırlayacaq.
Nanotexnologiya, bir yığın zibili təzə ət və ya başqa bir yemək qabına çevirə biləcək (hətta adi formada olmasa da - nəhəng bir alma kubu təsəvvür edin) və bütün bu qidaları qabaqcıl nəqliyyat sistemlərindən istifadə edərək bütün dünyaya yayacaq. Əlbəttə ki, bu artıq yemək üçün ölmək məcburiyyətində qalmayan heyvanlar üçün əla olacaq. ISI, nəsli kəsilməkdə olan növlərin qorunması və ya hətta nəsli kəsilmiş olanların DNT -dən geri gətirilməsi kimi bir çox başqa işlər də edə bilər. ISI ən çətin makroiqtisadi problemlərimizi - ən çətin iqtisadi müzakirələrimizi, etik və fəlsəfi məsələlərimizi, qlobal ticarətimizi həll edə bilər - bunların hamısı ISI üçün ağrılı şəkildə aydın olacaq.
Ancaq ISI -nin bizim üçün edə biləcəyi çox xüsusi bir şey var. Hər şeyi dəyişdirəcək cazibədar və cazibədar: ISI, ölümlə mübarizədə bizə kömək edə bilər … Tədricən süni intellektin imkanlarını dərk edərək, bəlkə də ölümlə bağlı bütün fikirlərinizi yenidən nəzərdən keçirəcəksiniz.
Təkamülün ömrümüzü indikindən artıq uzatması üçün heç bir səbəb yox idi. Doğmaq və uşaqları böyüdə biləcək qədər uzun yaşasaq, təkamül kifayət edər. Təkamül baxımından inkişaf üçün 30+ il kifayətdir və mutasiyaların ömrü uzatması və təbii seçilmənin dəyərini azaltması üçün heç bir səbəb yoxdur. William Butler Yates, növlərimizi "ölən bir heyvana bağlı bir ruh" adlandırdı. Çox əyləncəli deyil.
Və hamımız bir gün öldüyümüz üçün ölümün qaçılmaz olduğu düşüncəsi ilə yaşayırıq. Zamanla yaşlanmağı düşünürük - irəliləməyə davam etmək və bu prosesi dayandıra bilməmək. Ancaq ölüm düşüncəsi xəyanətdir: əsir düşdükcə yaşamağı unuduruq. Richard Feynman yazdı:
"Biologiyada gözəl bir şey var: bu elmdə ölümün zəruriliyindən bəhs edəcək bir şey yoxdur. Əbədi bir hərəkət maşını yaratmaq istəsək, fizikada ya bunun mümkün olmadığını, ya da qanunların səhv olduğunu göstərən kifayət qədər qanunlar tapdığımızı başa düşürük. Ancaq biologiyada ölümün qaçılmaz olduğunu göstərən heç bir şey yoxdur. Bu, bunun o qədər də qaçılmaz olmadığına inanmağa vadar edir və bioloqların bu problemin, bu dəhşətli universal xəstəliyin səbəbini kəşf etməsi yalnız bir zaman məsələsidir."
Əslində yaşlanmanın zamanla heç bir əlaqəsi yoxdur. Yaşlanma, bədənin fiziki materiallarının aşınmasıdır. Avtomobil hissələri də xarab olur - ancaq qocalma qaçılmazdırmı? Avtomobilin hissələri aşındıqca təmir etsəniz, əbədi qalacaq. İnsan bədəni fərqli deyil - daha mürəkkəbdir.
Kurzweil, bədəndəki hər hansı bir yerdə köhnəlmiş hüceyrələri mütəmadi olaraq təmir etmək və ya dəyişdirmək də daxil olmaqla insan sağlamlığı üçün saysız-hesabsız vəzifələri yerinə yetirə bilən qan dövranındakı ağıllı, Wi-Fi ilə əlaqəli nanobotlardan bəhs edir. Bu prosesi təkmilləşdirmək (və ya daha ağıllı bir ASI tərəfindən təklif olunan bir alternativ tapmaq) nəinki bədəni sağlam saxlayacaq, həm də qocalmanı geri qaytara bilər. 60 yaşında və 30 yaşında bədən arasındakı fərq, doğru texnologiya ilə düzəldilə biləcək bir neçə fiziki problemdir. ISI, bir insanın 60 yaşında girəcəyi və 30 yaşında ayrılacağı bir maşın qura bilər.
Hətta korlanmış beyin də yenilənə bilər. ISI, şübhəsiz ki, beyin məlumatlarını (şəxsiyyət, xatirələr və s.) Beyinin tam deqradasiyasından əziyyət çəkən 90 yaşlı bir adam yenidən təhsil ala, yenilənə və həyatının əvvəlinə qayıda bilər. Bu absurd görünə bilər, ancaq bədən bir ovuc atomdur və ISI əlbəttə ki, onları, istənilən atom quruluşlarını asanlıqla idarə edə bilər. O qədər də absurd deyil.
Kurzweil, süni materialların zaman keçdikcə bədənə daha çox inteqrasiya edəcəyinə inanır. Başlanğıc üçün, orqanlar sonsuza qədər davam edəcək və heç vaxt uğursuz olacaq super inkişaf etmiş maşın versiyaları ilə əvəz edilə bilər. Ardından qırmızı qan hüceyrələrini tək başına hərəkət edən mükəmməl nanobotlar ilə əvəz edərək, ürək ehtiyacını tamamilə ortadan qaldıraraq, bədənin tamamilə yenidən dizaynını edə bilərdik. Biliş qabiliyyətlərimizi inkişaf etdirə bilərik, milyardlarla dəfə daha sürətli düşünməyə başlaya bilərik və insanlıq üçün mövcud olan bütün məlumatları buluddan əldə edə bilərik.
Yeni üfüqləri dərk etmək imkanları sonsuz olardı. İnsanlar seksə yeni bir məqsəd bəxş etməyi bacardılar, bunu yalnız çoxalmaq üçün deyil, zövq üçün edirlər. Kurzweil, eyni şeyi yeməklə də edə biləcəyimizə inanır. Nanobotlar, ideal qidalanmanı bədənin hüceyrələrinə birbaşa çatdıra bilər ki, bu da sağlam olmayan maddələrin bədəndən keçməsinə imkan verir. Nanotexnologiya nəzəriyyəçisi Robert Freitas, insan bədənində tətbiq edildikdə 15 dəqiqə nəfəs almamasına icazə verə bilən qan hüceyrələri üçün bir əvəz hazırladı - və bunu bir insan icad etdi. ISI -nin nə vaxt güc qazanacağını düşünün.
Axı Kurzweil, insanların tamamilə süni hala gəldikləri yerə çatacaqlarına inanır; bioloji materiallara baxdıqda və nə qədər ibtidai olduqlarını düşündüyümüz zaman; mikrobların, qəzaların, xəstəliklərin və ya sadəcə qocalmanın insanı iradəsinə zidd olaraq necə öldürə biləcəyinə təəccüblənərək bəşər tarixinin erkən mərhələləri haqqında oxuyacağıq. Nəhayət, insanlar öz biologiyasını məğlub edərək əbədi olacaqlar - bu, əvvəldən bəhs etdiyimiz balans şüasının xoşbəxt tərəfinə gedən yoldur. Buna inanan insanlar da belə bir gələcəyin bizi çox tezliklə gözlədiyinə əmindirlər.
Kurzweilin fikirlərinin güclü tənqidlərə səbəb olması yəqin ki, təəccüblənməyəcək. 2045 -ci ildəki özünəməxsusluğu və sonrakı insanlar üçün əbədi həyatı "nerdlərin yüksəlişi" və ya "İQ səviyyəsi 140 olan insanların ağıllı yaradılışı" adlanırdı. Digərləri, optimist vaxt çərçivəsinə, insan bədəninin və beyninin anlayışına şübhə ilə yanaşaraq, hələ də getməmiş olan Moore qanunu xatırladılar. Kurzweilin fikirlərinə inanan hər bir mütəxəssis üçün, səhv etdiyini düşünən üç nəfər var.
Ancaq bunun ən maraqlı tərəfi onunla razılaşmayan mütəxəssislərin çoxunun, ümumiyyətlə, bunun mümkün olmadığını söyləməməsidir."Boşboğazlıq, bu heç vaxt olmayacaq" demək əvəzinə "ISI -yə girsək bütün bunlar olacaq, amma problem budur" kimi bir şey söyləyirlər. Süni intellekt təhlükələri barədə xəbərdarlıq edən tanınmış AI mütəxəssislərindən biri olan Bostrom da etiraf edir:
"Super zəkanın həll edə bilmədiyi, hətta həll etməyimizə kömək edə bilməyəcəyi bir problem qalmayıb. Xəstəlik, yoxsulluq, ətraf mühitin dağıdılması, hər cür əzab - nanotexnologiyanın köməyi ilə bütün bu super zəka bir anda həll edilə bilər. Superintelligence, nanomedicine və ya bizi buluda yükləmə qabiliyyətindən istifadə edərək qocalma prosesini dayandıraraq geri çevirərək bizə məhdudiyyətsiz ömür verə bilər. Superintelligence intellektual və emosional qabiliyyətlərin sonsuz artımları üçün də imkanlar yarada bilər; ideallarımıza yaxınlaşaraq və xəyallarımızı gerçəkləşdirərək sevinc və anlayış içində yaşayacağımız bir dünya yaratmağımıza kömək edə bilər."
Bu, etibarlı bir ASI yarada bilsək, bunların hamısının mümkün olduğunu qəbul edən Kurzweil tənqidçilərindən birinin sözləridir. Kurzweil, mümkün olduğu təqdirdə, süni zəkanın nə olacağını sadəcə olaraq təyin etdi. Və əgər yaxşı bir tanrıdırsa.
Rahatlıq zonası müdafiəçilərinin ən açıq tənqidi, ISI -nin gələcəyini qiymətləndirərkən səhv lənətə gələ bilmələridir. Kurzweil adlı kitabında, 700 potensial ISI təhdidindən 20 səhifəsini ayırdı. Sual İSİ -yə gəldiyimiz zaman deyil, sual onun motivasiyasının nə olacağıdır. Kurzweil bu suala ehtiyatla cavab verir: “ISI çox fərqli səylərdən qaynaqlanır və sivilizasiyamızın infrastrukturuna dərindən inteqrasiya olunacaq. Əslində bədənimizə və beynimizə yaxından yerləşəcək. Bizimlə bir olacağı üçün dəyərlərimizi əks etdirəcək."
Bəs cavab budursa, bu dünyada bu qədər ağıllı insan niyə süni intellektin gələcəyindən narahatdır? Stephen Hawking niyə ISI -nin inkişafının "insan nəslinin sonu ola biləcəyini" söyləyir? Bill Gates, "narahat olmayan insanları anlamadığını" söyləyir. Elon Musk "cin çağıracağımızdan" qorxur. Niyə bir çox mütəxəssis ISI -ni bəşəriyyət üçün ən böyük təhlükə hesab edir?
Növbəti dəfə bu barədə danışacağıq.
