Сингулярност

Философски анализ

Проф. Дейвид Чалмърс

Превод от английски: Максим Тонев (Maxo)

Следя от известно време научната работа на Чалмърс. Този австралийски пич е един от модерните философи, които разсъждават широкомащабно върху високите технологии, вмествайки ги във философските дебати, водени от векове. Изглежда ми от учените, които не крият глава в пясъците пред усложняващите се технологии. Гледа ги в очите, мисли и определено има представа какво са те отвътре. Чалмърс е математик, с образование по компютърни науки, когнитивист и професор по философия и невронни науки в Нюйоркския университет. Говори за сингулярност, изследва дебрите на човешкото съзнание, идеята за изчислителност и бори спорни зони като миграция от естествен към изкуствен ум – т.нар. upload на разсъдък от човек към машина. С две думи – изстрелял се е в просторния научен Космос. Хубавото му качество като мислител е, че се изразява и пише доста ясно и гледа трезво към пост-света, при това не с очите на превъзбуден hi-tech апологет. Не с всичко, което казва, съм съгласен, но явно не съм само аз. Студията му за сингулярността от 2010г., публикувана в „Journal of Consciousness Studies“, чийто съкратен превод помествам тук, предизвиква жужене в научната общност. Чалмърс влиза в диалог с аргументи и контрааргументи чрез последваща студия две години по-късно. [1] Но то и кой очаква такива разговори да са лесни? За сметка на това са интригуващи. Гласове като Дейвид Чалмърс са част от когнитивната наука, която изглежда е най-ангажирана с човека на бъдещето. Работата му е живо доказателство, че Холивуд не говори сам със себе си на езика science fiction. Доколкото знам, Чалмърс още не е издаван на български език. Благодаря на LiberalArts за възможността да постна тук смирено непрофесионалния си превод на това Въведение, както и за помощта на Яна Илиева в не много забавното за мен оформление на бележките под линия.

Maxo

Въведение

Какво би се случило, ако машините надминат човешкия интелект? Съществува мнение, че ще последва бум на по-високи нива интелигентност, тъй като всяко поколение машини на свой ред ще създава свои по-усъвършенствани продължения. Процесът е известен като „сингулярност“ [2] и е описан от британския статистик Исидор Джейкъб Гудак (I. J. Good) през 1965г., в статията му „Спекулации относно първата свръхинтелигентна машина“. Там Гуд пише:

Да приемем, че свръхинтелигентната машина може далеч да надскочи в интелектуално отношение дори най-умния човек. Тъй като самият дизайн на въпросната машините е продукт на човешки разум, то тя също е в състояние да проектира свои подобрени аналози. Тогава безспорно бихме могли да говорим за „експлозия на интелекта“, която ще остави човешката интелигентност далеч зад себе си. А така излиза, че първата свръхинтелигентна машина ще е всъщност последното случило се човешко изобретение.

Основната идея тук е, че машина, която е по-интелигентна от човек, ще бъде по-добра от него и в проектирането на нови машини; тоест – тя ще е в състояние да създаде нещо по-интелигентно от повечето интелигентни машини, дело на човек. И ако самата тя е човешко творение, оказва се, че може да създаде нещо по-умно от себе си. По същата логика, следващото поколение машина ще проектира своя по-интелигентна версия. Ако всяка следваща машинна генерация прави същото, то трябва да очакваме поредица от все по-интелигентни творения.[3] Тази експлозия на интелекта понякога се комбинира с друга идея, която можем да наречем „скоростен бум“. Аргументът в нейна подкрепа е познатото наблюдение, че скоростта, с която производителността на компютрите нараства, се удвоява на редовни интервали. [4]

Да предположим, че се удвоява на всеки две години и това ще се случва за неопределено време. И да предположим, че имаме изкуствен интелект на човешко ниво, проектиращ нови процесори. По-бързодействащите процесори, ще резултират до по-бързи дизайнери и по-бързи цигли на проектиране, които скоро ще достигнат някаква гранична точка на насищане. Идеята за скоростния бум е на изследователя на изкуствения интелект Рей Соломонов и е описана в статията му от 1985г., озаглавена „Времевата скала на изкуствения интелект“.[5] По-късно, през 1996г., Елиезер Юдковски предлага по-сбита версия на тази концепция в публикацията си „Взирайки се в сингулярността“:

„Скоростта на изчисляване се удвоява на всеки две субективни години на активно функциониране. Това означава, че две години след като изкуственият интелект е достигнал еквивалентност на човешки интелект, скоростта му се удвоява. Една година по-късно скоростта се удвоява отново. Шест месеца, три месеца, месец и половина… сингулярност. “

Експлозията на интелекта и скоростният бум са логически свързани. Всяка от тях би могла да се реализира самостоятелно, но двете се проявяват особено добре заедно. Да предположим че в рамките на две субективни години надскочилата своя човешки създател машина може да произведе друга, която не само е два пъти по-бърза от самата нея, но и 10% по-интелигентна. Да допуснем също, че този принцип е безкраен. Тогава в рамките на четири обективни години вече ще говорим за неограничен брой поколения, чиито скорост и интелигентност нарастват отвъд всяка крайност на интелектуалното равнище и отвъд времевата крайност. Такъв процес наистина би заслужил термина „сингулярност“.

Разбира се законите на физиката налагат своите ограничения. Ако възприетите в момента принципи на относителността и квантовата механика са верни или дори ако енергията е ограничена в класическата вселена, тогава не можем да очакваме споменатите принципи да търпят неограничено разширение. Но въпреки физичните ограничения, има основание да се смята, че както скоростта, така и интелигентността могат да се оттласнат до границите на физически възможното. Аргументите сочат, че скоростта и интелигентността могат да бъдат изтласкани далеч отвъд човешкия капацитет за сравнително кратко време. Това може да не е сингулярност в строгите квалификации на математиката и физиката, но е нещо достатъчно близо.

Терминът сингулярност съществува от 1983г. и е въведен [6] от научният фантаст Вернър Винг, но става широко разпространен след като през 1993г. е публикувана влиятелната му статия – „Настъпващата технологична сингулярност“. По-късно тласък на популярността му дава и книгата на футуриста Рей Курцвайл – „Сингулярността е близо“ от 2005 г. На практика обаче, този термин се използва по различни начини. По-либералната му употреба се отнася до явления, при които все по-бързите технологични промени водят до непредсказуеми последици. [7]

По-строгото му определение описва точката, в която скоростта и интелигентността достигат до безкрайност, също като в хипотетичния бум на скорост/интелект, описан по-горе. Може би най-разпространената дефиниция на термина е тази, която го описва като експлозия на интелекта чрез рекурсивния механизъм, описан от Гуд, независимо дали този взрив на интелекта е придружен със скоростен бум или с разминаване до безкрайност. Оттук нататък в моето изложение винаги ще използвам термина сингулярност в този основен смисъл.

Предполага се, че темата за сингулярността се радва на голям интерес сред философските академични среди, когнитивните учени и изследователите на изкуствения интелект. На практика това не е така. [8] Гуд бе изтъкнат академик, но статията му беше силно недооценена по онова време. Ако сингулярността изобщо е предмет на обсъждане, то това се случва повече в интернет форумите, в популярните медии, в книги и в семинарите, организирани от независимия „Институт по сингулярност“. Тази академична съпротива вероятно се дължи на силно спекулативната природа на самата тема. Аз обаче я намирам за срамна, тъй като идеята за сингулярността е очевидно важна и трябва да бъде взета насериозно. А въпросите, които я съпровождат, предизвикват огромна загриженост от гледна точка на практическия живот и на философията.

Практическите аспекти

Ако се реализира сингулярност, то това ще е едно от най-важните събития в историята на планетата. Експлозията на интелекта има огромен потенциал в лечението на всички известни болести, край на бедността, изключителен научен напредък и много други. Но има и потенциални опасности – колапс на човешката раса или надпревара между враждуващи машини, притежаващи силата да унищожат планетата. Така че, ако сингулярността има дори малък шанс, ще е добре да мислим върху нея и върху възможностите ни да повлияем развитието ѝ в положителна посока.

Философските аспекти

Сингулярността възражда много важни философски теми. Самата експлозия на интелекта е философски интересна сама по себе си и ни принуждава да мислим за естеството на интелигентността и за умствените способности на машините. Потенциалните последици на всичко това ни провокират да разсъждаваме върху ценностите и морала, върху съзнанието и проблемите на персоналната идентичност. Всъщност, сингулярността задава отново някои от най-трудните и добре познати на философията въпроси, докато в същото време повдига нови.

Да добавим и че двата аспекта – практическият и философският – се пресичат. За да кажем дали е възможна експлозия на интелекта, трябва да дефинираме какво е интелект и дали машините могат да го притежават. За да определим дали тя е нещо добро или лошо, трябва да очертаем връзката между интелигентност и ценности. За да сме наясно ще имаме ли все така значителна роля в света на пост-сингулярността, трябва да знаем дали човешката идентичност може да оцелее след един процес на подобряване на когнитивната ни система, може би чрез прехвърлянето ѝ (upload – бел.прев.) върху нови технологии. Това са съдбоносни въпроси, с които бихме могли да се сблъскаме през следващите векове. За да имаме някаква надежда, че ще им отговорим, трябва да мислим ясно по философските проблеми.

В своето изложение разглеждам някои от тях, започвайки със самия аргумент за сингулярността. Дали изобщо има основания да мислим, че ще достигнем до експлозия на интелекта? След това обмислям хипотезата за напасване спрямо нея – ако тя е възможна, как да увеличим шансовете за положително влияние. И накрая се фокусирам върху мястото на човека в един вече случил се сингулярен свят, със специално внимание върху проблемите на трансфер на съзнание от човек към машина и запазването на персоналната идентичност в този процес.

Дискусията, която подемам е силно спекулативна, но мисля, че би могло да се разсъждава върху спекулативни хипотези с поне минимум сериозност. Например чрез формализиране на аргументи върху спекулативна теза, посредством набор от предпоставки и заключения, биха могли да се идентифицират слабите точки, които антагонистите биха атакували, за да я отрекат и след това да се направи нужния анализ. В тази статия аз няма да опитвам да посочвам аргументи за нокдаун и няма да опитвам да давам окончателни отговори на въпросите, които поставих по-горе, но се надявам поне да насърча дебата върху тях.

1.“The Singularity: A Philosophical Analysis” (2010), David J. Chalmers – www.consc.net/papers/singularity.pdf ; „The Singularity: A Reply“ (2012), David J. Chalmers – www.consc.net/papers/singreply.pdf (бел. прев.)

2. В настоящия превод английската дума singularity няма да бъде превеждана с речниковото си значение (като странност, необичайност), поради очевидната нелепост на подобен подход, а ще се използва с конотацията на научен термин, чиято дефиниция Д. Чалмърс така добре изяснява. (бел. прев.)

3. Научната фантастика разработва подобен сюжет преди това, най-вече Джон Кембъл в разказа си от 1932г. – „Последната еволюция“. (бел. Д.Чалмърс)

4. В средата на миналия век инженерът от Intel Гордън Мур формулира познатия “Закон на Мур” за възходящата времева линия при усъвършенстването на компютърните микропроцесори. Предвиждането е, че на всеки 24 месеца производителността на процесорите ще се увеличава двойно. (бел. прев.)

5. Соломонов също говори за т.нар. „популационен бум “, предвиждащ бърз ръст на изследователи на изкуствения интелект. (бел. Д.Чалмърс)

6. Както Винг (1993г.) отбелязва, Станислав Улам (1958г.) описва диалога си с Джон фон Нойман, в който терминът се използва по следния начин: „Един разговор, фокусиран върху непрекъснато ускоряващия се напредък на технологиите и промените в човешкия живот, който наподобява доближаване до някаква значима сингулярност в историята на вида ни, отвъд която човешката дейност, такава, каквато я познаваме, не е вече същата.” (бел. Д.Чалмърс)

7. Полезна таксономия на употребите на сингулярността е изложена от Юдковски (2007). Той разграничава значението „ускорена промяна”, лансирано от Кърцуайл, терминът „хоризонт на събитията”, въведен с Виндж, както и „експлозия на интелекта”, използван от Гуд. Смарт (1999-2008) дава подробна история на свързаните идеи, фокусирайки се върху „ускорената промяна“. (бел. Д.Чалмърс)

8. Има някои изключения като например дискусиите между учените Бостром (1998; 2003), Хенсън (2008), Хофстатър (2005) и Моравец (1988; 1998). Хофстатър организира симпозиуми за перспективите пред свръхинтелигентните машини в Университета в Индиана през 1999г. и в Станфордския университет през 2000г. Институтът към Оксфордския университет също организира редица подобни събития. (бел. Д.Чалмърс)