СТИВЪН ВОЛФРАМ: В НАЧАЛОТО Е ФИЛОСОФИЯТА, А В КРАЯ КОДЪТ!

Волфрам е човек от особен калибър. От онези, осмеляващите се да създават реалности, да изследват границите на науката и инженерната мисъл. Визуализира в ума си промените, мислейки за света в нова матрица. Волфрам, както и другите от неговата порода, винаги прекрачват отвъд конкретната наука – физика, математика и информатика и гледат на нещата холистично. И съвсем очаквано навлизат в диалог с философията, логиката и етиката, с политическата, и социалната теория, защото създаденото от тях има амбицията да дефинира света по нов начин.

Работата му се фокусира върху разбирането за произхода на сложността в природата и търси връзката между изчислителността (инженерната, програмистката, математико-абстрактнатната) с епмиричния свят. Теориите му за сложността и изкуствения живот са признат научен факт. Типът мислене на този изследовател компилира науките в едно общо схващане за света и човека и си представя че може да отиде до там, че да конструира нова парадигма за битието. Търси отговора на въпроса – как да/ще продължим през следващите десетилетия. Би могъл да бъде наречен и дързък мечтател, въобразил си, че е възможна една теория на всичко, при това базирана на програмен код. В основата на визионерската му представа е идеята за общ изчислителен език, както личи от сбитото му изложение върху проекта на живота му. Защото кой друг, ако не езикът създава реалността.

Умове като Волфрам мислят действителността с няколко десетилетия напред, когато тя ще бъде населена с нов тип създаден от човека субект, върху който той ще проектира себе си. И тъй като това не е само технически въпрос, много интересен е дебатът, който отдавна тече в научното пространство. LiberalArts представя един диалог между големите умове в хибридните терени между техническото и философското, състоял се през 2019г. на специализираната конференция „Possible Minds”, в Морис, Кънектикът, и отразена от списание Edge. Водещото изложение е на Стивън Волфрам. Разговорът е между него и останалите участници в конференцията.

Изложението

Прекарах няколко десетилетия в създаване на изчислителен език, който да даде точно символично представяне на изчислителното мислене и може да се ползва както от хора, така и от машини. Интересно ми е да разбера какво би се случило, ако значителна част от хората общуват на изчислителен език, така както го правят на естествения си език. Ясно е, че ползването на човешкия говорим и писмен език има съществено влияние върху развитието на цивилизацията. И се питам – какво би произтекло за нас и за изкуствения интелект от въвеждането на изчислителен език?

Възнамерявам да обърна вниманието ви върху тезата си за изчисляването и как ние взаимодействаме с него. Първостепенен въпрос е колко често срещано е изчисляването? Смята се, че се изискват много усилия, че е нужно да разполагате с микропроцесори и подобни неща. Отдавна открих, че да се направи сложно изчисляване всъщност не е трудно. Проучвах клетъчни автомати, изучавах машини на Тюринг ¹ и други неща…Щом се сблъскате със система, чието поведение не е очевидно просто, в крайна сметка получавате нещо, което е изчислително толкова сложно, колкото е в състояние да бъде. Един неочевиден факт, който наричам принцип на изчислителната еквивалентност.

Попадате на определени системи, например клетъчни автомати или машини на Тюринг и се питате: „Те правят ли сложни изчисления или не?“ Изненадващо откритие е, че щом някоя човешка дейност не е нещо, което може да се декодира, то тя е способна на толкова сложни изчисления, колкото и всичко друго. Би могла да се схваща дори като универсален компютър. Сложните изчисления са навсякъде около нас. Самите ние не сме особено комплициран продукт на собствената ни технология. Случват се както в природата, така и в прости математически системи. Нивото на сложно изчисление като това на Тюринг откриваме във всички тези различни видове системи. Дали физиката и основните принципи на Вселената отиват и по-далеч от това, все още не знаем. Понякога си мисля, че не, но много физици го вярват. И така, имаме сложна изчислителност навсякъде около нас. Какво можете да правите с нея? Когато днес като инженери използваме изчисления стигаме до следното:

„Това е нещото, което искам да постигна. Ще напиша една програма, следвайки поредица от стъпки и да видим какво ще стане.“ 

Нещото, което ме вълнува от много време е схващането за наличието на цяла изчислителна вселена от възможни програми и изнамирането на тези от тях, които могат да се използват с определена цел. Звучи доста принизено от човешка гледна точка. Откриваме неща в изчислителната вселена, за които можем да кажем че работят сложно и за нас като човеци е трудно да разберем какво правят. В ступор сме и си казваме: „Това е наистина хитро“. Обаче то е  само малка част от изследваното широко пространство.

Смятам, че изчислителността се случва навсякъде в много системи в природата. Разполагаме с невероятен източник на сложни процеси. И как ги свързваме с нещата от нашия, човешки свят? Истинското предизвикателство е /издирвайки полезни програми в изчислителната вселена/ да определим цел и да я реализираме чрез подходяща програма от нея. Как в този океан от изчислителни възможности да свържем изчислителността с това, което ние хората искаме да постигнем? Този проблем ме накара да прекарам около три и половина десетилетия, опитвайки се да създам компютърни езици, които да изразят нещата, които се стремим да постигнем и които след това могат да бъдат интерпретирани като се ползват възможностите на изчислителната вселена. Защото, както казах, намирам за лесно постигането на сложно изчисление.

Предизвикателство е да се избере изчислението, важно за някаква човешка цел. И кое е това важно нещо? Зависи от целите, които си поставяме. Хората се питат какво точно изкуственият интелект ще автоматизира в света ни. Едно от нещата, които по дефиниция няма как да се автоматизира е отговорът на въпроса “Какво искаме да правим?” Можем да автоматизираме реализацията, но решението зависи от човешкия род, който е способен на това в резултат на цялата си дълга цивилизационна история.

И ме интересува как определяме набора от неща, които искаме да правим, и как мислим видовете абстракции, които си струва да определим. Например, в езика създаваме определени абстракции, основани на често срещани явления в света ни. В известен смисъл се въртим в кръг, защото езиковите абстракции, които дефинираме определят какво избираме да съградим, след което го надграждаме с още едно ниво на абстракция. Този феномен – изборът на цели, изгражданета на абстракции, базирани на тях и след това преминаването към надграждащи нива е съществена част от дизайна на изчислителните езици. Наблюдавал съм го десетки пъти. Как мислим нарастващите нива на абстракция, които ползваме, за да говорим за нещата? Образованието е подходящ пример. Колко неща трябва да се знаят в света ни?

Стигаме до там, че колкото и знания да натрупваме, винаги трябва да знаем още повече и повече, докато се окажем неспособни да усвоим целия този обем от информация. Не стигаме до там, защото след известно време всички подробности за даден обект се трансформират в нещо абстрактно. Говорим вече за някаква абстракция и върху нея започваме да надграждаме. И така – въпросът е как изглежда границата на абстрактното? Какво означава тя по отношение на това, което създаваме чрез технологиите. Например, когато определяме това, което си струва да правим и това, което си представяме, че искаме да правим. В момента се намираме в интересен момент по отношение на начина, по който информацията се предава.

Езикът ни, например, „взема“ мисли в мозъка ни и се опитва да ги представи опростено символично, така че да бъдат „предадени“ на друг мозък, който ще ги „разопакова“ и ще направи нещо с тях. В изчислителния език начинът за комуникация е по-директен. Всяко нещо, представено на изчислителен език, се изпълнява веднага и не е нужно да го интерпретираме в „друг мозък“. Ето защо ме интересува въпросът какви цивилизационни характеристики произтичат от наличието на изчислителен език. Аналогично,  какви характеристики на света произтекоха благодарение на човешкия език? Фактът, че е възможно да се предават абстрактни идеи от едно поколение на друго вероятно е следствие от съществуването на човешкия език. Чрез него комуникираме. А какви биха били последиците, ако човек може да комуникира на изчислителен език?

Участвах интензивно в проект за създаване на изчислителни договори ². До момента, когато хората сключват някакъв договор, те го съставят на специфичен език, някакъв правен жаргон или нещо подобно. Той е опит за представяне на нещото, което искате да се случи и начин да обясните конкретния казус. Ако разполагаме с изчислителен език, който може да представя фактите и явленията в света достатъчно широко и обобщено, за да можем да говорим за типове неща, включвани в договори (вече го правим), тогава имаме различен разказ за това как изобщо се съставят договори.

Едно от сферите, в които това важи е даването на инструкции на изкуствения интелект (Artificial intelligence – AI). Нещо като изчислителен договор с AI. Трябва да съставим конституция за изкуствения интелект, която ще съдържа в себе си цялата обърканост на човешките закони. И това е неизбежна последица от принципа на изчислителната еквивалентност и изчислителната несводимост. Ако целим постигането на богатство в дейностите на тези устройства (базирани на изкуствен интелект – бел.прев.), простите закони на роботиката, познати от Азимов ³ няма да са достатъчни. Винаги ще има неочаквани последици и неща, които трябва да поправят в ход, и случаи, в които няма да знаете какво ще произтече, докато не стартирате системата. Една от сферите, в които идеята за изчислителен език е важна и приложима е определянето на целите пред изкуствения интелект.

---

Дискусията

Робърт Акселрод: Какво имате предвид под конституция?

Волфрам: Добър въпрос. Трудно е да си го представим в действие, но ако например управлявате централна банка, използвайки изкуствен интелект, коя ще е главната рамка от правила, които ще направляват работата му? Това обичайно са познатите въпроси от сферата на политическата философия, на които все още не е отговорено дефинитивно. Засега зависи от това какво иска човекът. Любопитно ми беше в дискусията на Иън ⁴ за по-съвършената етика на неговото изградено съзнание. Откъде идва тази съвършена етика? Докато твърдим, че можем да намерим оптимално решение на този математически проблем, няма смислено поле, в което има крайна етика или крайна цел. С други думи, можем да твърдим, че ако искаме да постигнем конкретно нещо, то винаги има оптимален начин да го сторим. Ако се вгледаме в еволюцията на целите, които човечеството си е поставяло в хода на историята си, се питаме как функционира и каква би могла да е крайната точка на това развитие. Свързано е с въпроса за прогресивната абстрактност, защото целите, които днес си поставяме са напълно налудничави от гледна точка на минал период, например преди хиляда години.

Робърт Акселрод: Защо използвате думата „крайна”? Струва ми се, че няма изискуема крайна точка.

Волфрам: Не, не смятам, че има крайна точка. Става дума за безкрайна граница. Има много свързани типове въпроси. Да вземем математиката. Има ли крайна точка в математиката? Ами…не съвсем. Можете да добавяте още теореми и т.н. Същественият въпрос е има ли край интересът към тази наука? С други думи, има ли точка, отвъд която всички интересни теореми, които са важни за нас хората са вече открити и останалото са просто дреболии, които по някаква причина не са важни? Това отново е свързано с въпроса за абстрактното. Ако се вгледате в историята на математиката ще забележите, че има значителна степен на произволност, но нещото, което не е случайно, е появата на частица абстракция, която е довела до друга абстракция, а пък тя отвежда до трета. Направени ли са вече всички вълнуващи открития или в бъдеще ще правим още? Въпросът за това кое се смята за интересно, какво ни интересува, е отново сложен, цикличен въпрос. Например, не сме предполагали, че ще съществува такова нещо като социални мрежи. Обаче тях ги има и върху тях се надграждат всякакви нови неща, които представляват по-напреднал слой абстракция.

Робърт Акселрод: Не е напълно циклично. Еволюцията например ни дава причина за недостатъчно добро здраве.

Волфрам: Екзистенциалната нишка в твърдението „Ако не съществуваш, то не би имал първопричина“ е в основата. В хода на историята хората са смятали, например, че е особено важно  да умрат подобаващо, което не е типичната гледна точка за модерното време. Ако създавате автономен автомобил и искате да му укажете в груби линии как да мисли за света, какво правите? Хората имат наивни представи, че това трябва да е решение, базирано на някакви математически теореми. Нещо като право за роботи или нещо от този тип. Това няма да сработи. Не може да сработи.

Алисън Гопник: Няма екзистенциалност в нещата, които искаме. Ако се стремим към относително равенство при вземане на решения, например за отпускането на ипотечни кредити, изчислително не е възможно всички аспекти, които смятаме за важни от гледна точка на справедливостта, да бъдат имплементирани от една система. Има неизбежни компромиси между един вид справедливост, за чиято важност всички ние сме интуитивно убедени и друг вид справедливост, в чиято значимост сме не по-малко сигурни. Не е само въпрос на това, че не знаем какво искаме. Дори и ако имахме ясна представа и силна интуиция за своята цел, една единствена система не е в състояние да оптимизира всичко това. В известен смисъл това е потвърждение на тезата на Исая Берлин за трагичния морален плурализъм, подчертаваща невъзможността да се  оптимизират всички морално значими неща.

Волфрам: Едно от забавните неща в нашето настояще е, че в началото стои философията, а в края – кодът. Тоест, в един момент нещата, които започват като философски дискусии, приключват, когато някой вземе че напише няколко реда код.

Франк Уилчек: Не непременно. С невронна мрежа не пишете код.

Волфрам: Ефективно си пишете код. Независимо дали изрично кодите ред по ред или просто дефинирате цели, а след това машината автоматично изчислява как да ги постигне – и в двата случая дефинирате нещо. Ролята на изчислителния език е да преобразува начина, по който мислим за нещата в нещо, което е изчислително разбираемо.

Франк Уилчек: Доста широко ползватe думата код. Все едно да кажете, че можете да изкодите едно бебе.

Волфрам: Не. Под код имам предвид да поставите в конкретна форма определено символично представяне на това, което искате. Това не е някакъв размит дебат между философи.

Франк Уилчек: Не е нужно да е така. Можете да имате сложен изкуствен интелект. Просто можете да говорите с него и да му кажете какво да прави.

Каролайн Джоунс: Връщайки се към казаното от Алисън, не е ли въпрос на наше интуитивно етично схващане как да стигнем до целите си? Указвайки по някакъв начин на невронна мрежа определена посока, е възможно да не адресирате всички етични плурализми за това как точно тя да стигне до там. Например, един призив като “Намалена популация” или “Земята ще е по-добре с по-малко човешка популация” би могло да е цел. Но как ще бъде достигната тя е изцяло етичен въпрос.

Волфрам: Така е, ето защо са необходими конституции. Опитвате се да дефинирате както се случва на всяка стъпка.

Даниел Хилис: Посочихте, че дори да действате внимателно, това не е достатъчно. Трябва да признаете, че представата ви за нещата, които действат според целта, която им е поставена, е прекалено опростенческа. Това е начин да моделираме други хора, както и да моделираме себе си. И всъщност не е много добър модел. Базира се на кибернетична перспектива за нещата. Истината е, че хората не искат набор от уеднаквени неща, така че по дефиниция няма начин да накарате машината да го достави. Аристотел в един кратък момент мисли върху идеята за създаване на интелигентни машини. Според него:

„…Проблемът с инструментите е, че те не знаят какво се опитват да постигнат. Човек принципно би могъл да си представи, че  има стан, който знае какво да изтъче или плуг, който сам отива до полето, но, доколкото знаем, тези неща не съществуват, така че винаги ще има роби…“

И си продължава нататък с разсъждения за робството. Но той поне осмисля въпроса и осъзнава, че основното нещо, което трябва да имаш, е цел.

Волфрам: Природата е пример за изчислителност без цел. Някои от тези антинаучни тези като “Времето има собствен разум”… Според куп науки, до които се допитах във връзка с принципа на изчислителна еквивалентност, има разумни основания да се смята, че времето прави точно същите изчисления, както и нашият мозък.

Нийл Гершенфелд: Природата има екстремални принципи, не цели.

Волфрам: Всеки вид нещо в света можем да обясним по отношение на целта му или механизма му. Можете да кажете, че траекторията на хвърлената топка е парабола, защото във всеки момент тя следва уравненията на движението на топката. Или можете да кажете, че действа принципът на най-малко действие, според който цялостното нещо е тази парабола. Почти всичко, до което имате досег може да бъде обяснено според своя механизъм или своето предназначение. Кое обяснение ще сметнете за легитимно, често е въпрос на спестяване на дефиниции. Но не можете да кажете, че едно нещо има предназначение, а друго има просто механизъм.

Питър Галисън: Предпоставка на моралната философия е съществуването на тези противоречия. Не живеем в света на Панглос ⁵, където справедливостта, равенството и меритократичното приспособяване не са съвместими помежду си. Говорейки за целите и амбициите на епистемичните научни добродетели, подхождаме така сякаш всички са съвместими, но често не е така. Тоест устойчивостта, прецизността, точността, разбираемостта, преносимостта или педагогическата полза – тези неща би трябвало да функционират в една посока, но често не е така. Трябва да признаем, че има сложни компромиси или решения за това какво искаме от науките, така както е и в сферата на етиката.

Нийл Гершенфелд: Едно от най-интересните неща в същността на машинното обучение е нещо наречено “без безплатни теореми” (перифраза на „безплатен обяд“ – бел.прев./. В машинното обучение безплатните теореми са много прецизен начин да се каже, че нещо, което за едно е оптимално, за друго не е. Не можете да сте добри във всичко, така че трябва да избирате.

Питър Галисън: В края на 19 век имаше голям дебат за цели и механизми. Цяла група немски учени говореха за т.нар. телеомеханизъм. Бяха много категорични, че природата има цели и това е нещо механично. Нямаше противоречие в признаването на свободния избор между екстремални принципи или механистични описания.

Волфрам: Това е интересно. Трябва да ми кажете кои са тези хора.

Питър Галисън: Имам предвид книгата на Тимъти Леноар „Стратегия на живота: Телеология и механика в немската биология от XIX век“.

Нийл Гершенфелд: Принципът на най-малкото действие беше религия. Това бе битка.

Питър Галисън: По времето на Маупертиус ⁶, да.

Нийл Гершенфелд: Не бяха просто алтернативни школи. Беше си истинска религиозна битка.

Сет Лойд: Алисън, какви са тези резултати, за които говориш по повод невъзможността на тези системи да осигурят всички принципи? Може би подобни на теоремите на Ароу ⁷ за невъзможност за гласуване?

Алисън Гопник: Имат много подобна структура. Синтия Дуорк е един от хората с принос в теоретизирането за неравенствата и справедливостта. Искате справедливост между групите? Искате справедливост за хората? Идентични са като структура с теоремите на Ароу, където буквално не можете да максимизирате тези две цели едновременно. За да отговорим Нийл – това е общ принцип. Склонни сме да идеализираме изчислителността. Важно е да си дадете сметка, че непрекъснато правите компромиси. Сега пред нас е много различна картината, но ми напомня някои от просветителските традиции във философията.

Волфрам: Аз намирам за тъжен факт цялата тази аксиоматизация на почти всичко. Квантовата теория на полето разполагаше с аксиоми и се оказа, че единственото, което е съвместимо с тях е свободната теория на квантовото поле. Тоест тезата, че всъщност няма взаимодействие между частиците.

Том Грифитс: Имам усещане, че спрямо машините има опит да се установи по-висок стандарт, от този на който ние самите отговаряме. Прав ли съм? Разграничението между цел и механизъм е любопитно. Предпочитаме да мислим, че останалите имат цели, докато всъщност те разполагат предимно с механизми. Нашата интуиция за моралната психология, ръководеща ни в тази проблематика се опира на схващането, че има система, която можем да формализираме, да я държим „в съответствие“, докато всъщност самите ние не функционираме така.

Волфрам: Ето един малък мисловен експеримент, който би ви допаднал. Как например изчислителността се отнася към демокрацията? Хората схващат настоящата демокрация като множествен избор. Гласувате за A, B, C или пък нещо друго. Представете си обаче, че човек ползват рутинно  изчислителен език също както и естествения си език и каже: “Ето така си представям света и ще взема да опиша моята визия в едно изчислително есе.” И ако 100 милиона души напишат такива есета и захранят с тях един голям изкуствен интелект, който да ги обобщи и да произведе резултат, от който да стане ясно каква политика трябва да следват обществата. Говорим за алтернатива на настоящата версия за избор от малък брой възможности, което ни запраща директно в сърцевината на всички стандартни въпроси, стоящи пред политическата философия. Това е донякъде реалистично виждане за предстоящото. В момента, в който разполагате с изчислителен език, способен да артикулира нещата от реалния свят, е напълно възможно хората също да представят своите нагласи по един по-разширен начин.

Дейвид Чалмърс:  Ето тук ще се натъкнете на някои от тези теореми в теорията за социалния избор. Ако всеки просто предлага глобална визия за света, а пък трябва да се избере само една, това е тотално неработещо. Нужно е да стигнем до компромис или до обсъждане на детайлите. Затова разбиваме нещата на отделни въпроси – A, B, C, D и т. н. Резултатите показват, че има мнозинство, което предпочита А и мнозинство, което предпочита А и след това В. Обаче няма мнозинство фенове само на В. Не можете чрез демократичността просто да отидете до всеки отделен компонент и след това изведнъж да ползвате единна система за някакво екстраполиране от всички тези индивидуални предпочитания. Точно тук се налага да се намерят компромиси. Цялото това превръщане на морала в код не е нова проблема, нали? Юридическият и политическият кодекси от векове се опитват да направят подобно формализиране и какво излиза? Единственият начин да го постигнат е като сътворят огромна каша. Предвиждам, че щом пробвате с код за изкуствен интелект ще стане същото.

Волфрам: Съгласен съм с това за огромната каша.

Франк Уилчек: Теоремата на Ароу завършва с положителен резултат и той е, че единственият начин за налагане на унифициран код е наличието на диктатор.

Сет Лойд: Това наистина е много положително, Франк. Слава Богу. Тук “избегна куршума”.

Франк Уилчек: Имам предвид, че не трябва да се опитвате да сте твърде рационални. Чомски имаше една концепция за шантавия рационализъм, която ми се струва доста красива. Там, където рационализмът ви вкарва в неща, които очевидно са лоши, просто трябва да се отдръпнете и да оставите светът да си върши своето.

---

1. Машината на Тюринг е идеализирано компютърно устройство с неограничена външна памет, организирана така, че всеки елемент на запомнена информация да бъде потенциално достъпен за прочитане и замяна. При нея изчислителният процес е максимално разчленен на елементарни „механично“ изпълними операции, управлявани от крайна програма, за да се получи стандартна, проста и същевременно най-обща схема, чрез която да може да се моделира произволен изчислителен процес. (За Алън Тюринг и машини на Тюринг виж подробно тук.)
2. Идеята на Волфрам за изчислителните договори е  част от концепцията му за изчислителния език Wolfram Language. Амбицията е да се ползва изчислителния език за формулиране на тип договор, който хора и машините могат да разбират – от търговски договори до етически постулати за изкуствения интелект.
3. През 40-те години на 19-ти век фентъзи писателят Айзък Азимов съставя три основни закона на роботиката: 1. Роботът не може да причини вреда на човек или с бездействието си да допусне на човека да бъде причинена вреда. 2. Роботът е длъжен да се подчинява на човека, ако това не противоречи на Първия закон. 3. Роботът е длъжен да се грижи за собствената си безопасност, ако това не противоречи на Първия и Втория закон. 
4. Има се предвид изложението на писателя Иън Макгюън на тема „Машините като мен“ направено на същия форум пред същата аудитория.
5. Панглос е герой на Волтер от романа „Кандид“. Учител по „метафизично-богословско-космолонигология“. Според изследователи, Панглос е карикатура на философа Готфрид Лайбниц, известен с постулата си че живеем в най-добрия от всички възможни светове. Панглос постоянно твърди, че „няма причина без причина“ и всяко нещо в света има цел. Терминът „панглосианизъм“ е синоним на безпочвен оптимизъм. Живеем в толкова съвършен свят, че не бихме могли да го подобрим.
6. Пиер-Луи Маупертиус (1698г. – 1759г.) e френски математик и философ. Първи президент на Пруската академия на науките. Маупертиус предприема експедиция до Лапландия, за да определи формата на Земята. Смята се, че е измислил принципа на най-малкото действие, известен като принцип на Маупертиус – интегрално уравнение, което определя пътя, последван от физическа система. В класическата механика принципът на Маупертиус гласи, че пътят, следван от физическа система, е този с най-малка дължина.
7. Кенет Ароу (1921г. – 2017г.) е един от най-влиятелните икономисти, носител на Нобелова премия по икономика. Ключови са теоремите му за невъзможността за колективния избор и условията за „общото равновесие”, при които всички пазари едновременно достигат съответствие между търсене и предлагане. Според Ароу общото равновесие се достига най-добре чрез микс от частна инициатива и държавна регулация. Теоремата на невъзможността показва как мажоритарният избор не позволява да се получи съвместим сбор от предпочитанията на гласуващите. Логически е невъзможно да се обобщят индивидуалните класации като консистентен общ избор, освен ако не се следват предпочитанията на един човек.

---