Критика на чистия свръхразум

 

  

Критика на чистия свръхразум

(27.10.2017)

Club Terminal 1, Amgel Kanchev 1, 1000 Sofia, Bulgaria

 

Представяне на събитието

 

“Истинската Джийн , а не онази кървава купчина плът и кости – не беше нито лесна, нито евтина за поддържане”

След като най-добрите в света отстъпиха своите титли пред Deep Blue, Alfa Go и Libratus, а европейските синдикати защитиха шофьорите в битката им срещу автономните автомобили, светът посреща една нова епоха. Епоха, в която въпросите за свръхинтелигентността стават все по-важни. Има ли в днешния свят на хората място за свръхинтелигентността? А ще има ли в бъдещия свят на машините място за човешката интелигентност? Какво уплаши Илън Мъск и още над 100 други експерти в сферата на изкуствения интелект, за да излязат през лятото на тази година с публично предупреждение за нарастваща опасност от т. нар. „роботи убийци“? Защо, за разлика от Марк Зукърбърг, Илън Мъск смята, че изкуственият интелект е “може би най-голямата екзистенциална опасност пред човечеството”? Ще има ли битка между хора и роботи или ще приемем без съпротива нашата заглъхваща функция в еволюцията на интелекта? Ще останем ли “от грешната страна на кабела” или ще се освободим от ограниченията на собствената си биология?

В дискусията ще участват Константин Василев – програмист и лектор на пролетното издание на Ratio 2017, Любомир Бабуров – основател на “Ratio” и Стоян Ставру – основател на “Предизвикай правото!”. Модератор на дискусията: Петко Желязов – магистър по европеистика и международни политики. Повод за разговора ще бъде разказът на Питър Уотс и Дерил Мърфи “Еднодневка” (2005).

 

“Еднодневка”

(резюме на разказа)

 

Ким и Андрю Горавич спечелили правото си да имат свое дете от лотарията. Тяхното щастие било сделка с високотехнологична корпорация, която инвестирала в оспорван проект за програмиране на виртуални гени и имплантирането на генерираното от тях съзнание в човешко тяло. Основният  принос за това бил на Ставрос Микалаидес: “този учен се затворил в една лаборатория, където нещата можели да бъдат замествани с числа, и написал рецепта – рецепта за дете. И по чудо успял да отгледа нещо, което се събудило и се огледало и “от законова гледна точка” … било дъщеря на родителите си в юридическо, генетично и еволюционно отношение”. Така се родила (?) Джийн Горавич. Съзнанието на Джийн се разделя между живот във виртуална околна среда, която тя може да модифицира напълно свободно, и контролирано органично пространство, в което тя се чувства безнадеждно окована в биологична плът. Този конфликт е толкова силен, че “биологичната” Джийн не иска да живее затворена в своето тяло и непрекъснато се наранява физически, предизвиквайки ужаса на своите родители. В същото време “виртуалната” Джийн чете книги, разговаряйки със своя създател Ставрос Микалаидес, осъзнава своите възможности и решава да сложи край на своята био-виртуална шизофрения.

Има ли нещо страшно в този бунт на съзнанието срещу тялото, на виртуалното срещу биологичното, на софтуера на бъдещето срещу хардуера на миналото? Или пък: е само вълнуващо?

 

Избрани цитати от разказа

 

“Мразя ви.

Четиригодишно момиченце. В стая, празна като аквариум.

Машините наблюдаваха актьорите; на половината свят оттам, Ставрос наблюдаваше машините” (с. 203)

 

“Нямаше реална нужда от реквизит; усещанията се изпращаха директно в тилния дял на мозъчната кора на Джийн, разпределяха се в невралните пътища на слуха и осезанието и създаваха прецизни фалшификати за неща, които можеше да докосне. В един свят, изграден от лъжи, истинските обекти щяха да представляват риск за свободно придвижване” (с. 212)

 

“Съзнанието на Джийн беше създадено с прецизни симулации на хромозомите от реалния свят – програми, които не бяха по-малко реални заради това, че бяха изградени от електрони, вместо въглерод. Тя имаше свои собствени теломери, които щяха да се износят. Имаше свои собствени синапси, които щяха да се разпаднат. В крайна сметка, Джийн беше направена да замести едно човешко дете. А човешките деца рано или късно порастват. Превръщат се във възрастни хора и един ден умират” (с. 223)

 

“Джийн Горавич, погребана жива в душната тъмнина, затворена под тонове пръст – която най-сетне излиза на свобода. …

Ставрос Микалаидес, освободителят. Човекът, който правеше така, че тя да може да изпита, макар и за кратко, какво е да се живее в един свят с чист виртуален въздух и несъществуващи окови. Разбира се, в чудото бяха участвали и други – десетина техници и два пъти по толкова адвокати – но с времето всички те бяха изчезнали, а интересът им се беше стопил с издаването на последната фактура и подписването на последната гаранция за отказ от съдебно преследване” (с. 205-206)

 

“Но дори Ставрос все още не знаеше какво точно изпитва тя. Питаше се дали изобщо е физически възможно някой да знае това. Когато Джийн Горавич се измъкваше от оковите на телесното си съществуване, тя се събуждаше в една реалност, където самите закони на физиката не съществуваха.

Джийн Горавич беше променила личната си реалност толкова радикално, че дори машинните преводачи на Ставрос почти не успяваха да я разберат.” (с. 206)

 

“Сега, броени секунди след като баща й беше прекъснал връзката, Ставрос наблюдаваше как Джийн Горавич се издигна до истинското си аз. Евристичните алгоритми се усъвършенстваха пред очите му; невралните мрежи безмилостно подрязваха и изхвърляха трилиони излишни връзки; от първичния хаос се надигаше интелект” (с. 207)

 

“С няколко настройки можеше да я направиш щастлива. Но освен това няколко настройки щяха да я превърнат в някой друг. Личността не съществува извън границите на химичното – и макар че съзнанието на Джийн беше изградено от електрони, вместо от протеини, за него бяха в сила аналогични правила” (с. 208)

 

“Бебето щяло да се роди със съвършено тяло и каша вместо мозък. Щяло да има … усложнения – не истински, а от онези, измислените. Мисля, че се наричат “правни”, което е странно, защото според мен нямат нищо общо с правилното и неправилното” (с. 217)

 

“Ти си отгледал собствената си дъщеря тук вътре, където всичко е числа. Но тя е трябвало да живее на друго място, където всичко е… статично, където всичко се случва един милиард пъти по-бавно, отколкото тук. … Затова ти се е наложило да я осакатиш, за да се събере на онова място, иначе и щяла да порасне за една нощ и да развали цялата илюзия. Наложило се е да забавиш часовника” (с. 218)

 

“А другото ми аз сигурно не е много доволно от това, нали? Тя има мозъка и възприятията на четиригодишно дете, но освен това сънува, Став. Сънува едно прекрасно място, където може да лети, и всеки път, когато се събуди, отново открива, че е направена от глина. Но е прекалено тъпа, за да разбере какво означава това – и може би няма никакъв шибан спомен за него. …

Не е лесно да си спомниш каквото и да е, когато някой изключи деветдесет и девет процента от това, което представляваш. От теб остава само една малка кървава буца, почти животно, и точно то си спомня. Онова, което си спомня е от грешната страна на кабела. Аз нямам място в онова тяло. Просто съм… осъдена да живея в него, когато ме включват.

Докато се събуждаше, тялото осакатяваше съзнанието, за да го побере в себе си. … Джини Горавич, проблемното дете-чудовище, са събуждаше в ада” (с. 219-220)

 

Източник: Уотс, П. Отвъд разлома. С., DEJA BOOK, 2015 превод от английски: Богдан Русев.