Краят на индивидуалността

Краят на индивидуалността

(19.01.2018)

Gramophone Club, Budapeshta 6, 1000 Sofia, Bulgaria

 

Представяне на събитието

 

“Интернет утре ще се ядоса на някой друг”

Вярвате в демокрацията? В такъв случай бихте подкрепили правосъдие, осъществявано непосредствено от самия суверен. Фейсбук на справедливостта. Децентрализирана мрежа-агрегат на народната воля. Вместо отношения от типа “власт-подчинение”, управлението ще се постига чрез власт, разпределена в мрежа от типа peer to peer и разчитаща изцяло на изчислителната мощност на информационните технологии. Социалната математика превръща политиката в отживелица: от необходимост в реквизит. В този нов свят законите са въпрос на статистика – изчисляване на волеизявления. Правосъдието е станало буквално общо дело. Краудсорсинг на правосъдие: гласуваме кого да наказваме. Мрежова директна демокрация. Държавата като тромава и бюрократична институция е заменена от алгоритми за непрекъснато акумулиране и асимилиране на настроения, желания и искания. Един нов свят, който обещава само социални хоризонти (хоризонталност) без вертикали, но на определена цена.

“Съединението прави силата!” Така пише над официалния вход на българския парламент. Но всеки депутат влиза сам от задния вход, след като преминава през детектор за метални оръжия. Всяка фасада има заден вход. Но отделния човек наистина нямаме шанс. Успели сме да стъпим на Луната именно защото сме използвали силата на съединението. Крачката на Армстронг действително е била скок за цялото човечество. Способността ни да оцелеем в огромната вселена, чиято катастрофална мощ започваме да разбираме едва през последните десетилетия, зависи най-вече от това дали и до колко можем да се борим заедно за своето оцеляване. “Заедно” може да бъде постигнато не само с добре познатото старо усилие, но и с помощта на новите технологии. Сливането на човешки съзнания и постигането на т. нар. “кошерен ум” се посочват като следващото ниво на съществуване на човечеството.

На третата дискусия от поредицата “Vox Nihili. Шепоти от бъдещето” решихме да продължим темата за съзнанието и изкуствения интелект, като фокусът ни този път ще бъдат въпросите на колективното съзнание и потенциала на технологиите да създават “автоматични” – управлявани от “умни” алгоритми, общества. Тук влизат не само социалните медии като туитър и фейсбук, но и децентрализираните мрежи като биткойн и етериум.

В дискусията ще участват Валентин Калинов – философ и психолог, Любомир Бабуров – основател на “Ratio” и Стоян Ставру – основател на “Предизвикай правото!”. Модератор на дискусията: Петко Желязов – магистър по европеистика и международни политики. Повод за разговора ще бъде епизод от минисериала “Черно огледало”, а именно: филмът “Hatred in the Nation” (2016), чийто режисьор е Джеймс Хайуес.

 

“Hated in the Nation”

(резюме)

Този път избрахме не разказ, а филм. “Hatred in the Nation” е епизод от мини сериала “Черното огледало”, в който разследващи детективи се сблъскват със странни случаи на убийства, при които липсва извършител. Жертвите са все хора, които с публичните си прояви са предизвикали общественото възмущение, но въпреки  него не са коригирали поведението си, а напротив – продължили са да се държат надменно и грубо, при пълно незачитане на отправените им предупреждения. Оказва се, че убийствата се извършват чрез управлявани от колективни съзнание пчели (“ADI”: “автономно насекомо-дрон”), които влизат в мозъка на жертвата си като си издълбават дупка в него, преминавайки през мозъчна зона, която отговаря за усещането им за болка. Нещо, което причинява ужасна агония. Изкуствените насекоми-дронове са създадени като част от проект, наречен “Рояк”, за да заместят биологичните пчели, които са практически изчезнали поради нещо, обозначавано като “Синдром на разрушената пчелна колония”. Те не се нуждаят от нектар, а се захранват от слънчевата светлина, но оплождат цветовете на растенията, подобно на своите естествени прототипи. Заедно вземат (съ)собствени решения, без да се командват индивидуално. Създателите им просто настройват параметрите на колективното им поведение и ги оставят да се грижат сами за себе си. Възпроизвеждат се чрез 3D принтиране в създадени от тях самите кошери, които са свързани в он лайн мрежа и могат да бъдат наблюдавани. Един кошер се състои от около 4000 пчели, като всяка пчела във всеки момент е свързана към определен кошер. При движението си в пространството тя преминава от “юрисдикцията” на един кошер към “юрисдикцията” на друг  кошер(подобно на GSM телефоните, които се “връзват” към най-близката мобилна клетка от мрежата).

По правило, когато една пчела-дрон се повреди, тя моментално престава да функционира и пада на земята. Въпреки военното криптиране, което пази настройките им, някои от тези автономни пчели-дронове биват хаквани (“подивяват”) и получават ново “назначение”: започват да осъществяват екзекуции по дадена им директно от суверена делегация за умъртвяването на всеки, чието съществуване е “обществено” нежелано. Конкретното им назначение се определя от количеството пъти използван хаштаг “Смърт на:” + името на съответното лице. Първият хаштаг е пуснат като спам (стръв) от потребител, използващ името “Пчелите”, и бързо посява семената на мащабна атака срещу идеята за правосъдие. Наречена “Игра на последствия” тази нова форма на мрежова комуникация е замислена като смъртоносен конкурс за непопулярност: “Избирате човек, който не ви харесва и ако достатъчно хора изберат същото име, тогава той става мишена”. Когато критичното количество хаштагове за съответното име бъде постигнато, една пчела се самоосвобождава и се насочва към избраната жертва: “Най-популярната цел ще бъде елиминирана след 5 часа следобед всеки ден. Играта рестартира в полунощ”. Смъртни наказания, изпълнявани след провеждането на обществено гласуване. Наказание, от което не можеш да избягаш и което не можеш да отмениш. Наказание с лицево разпознаване и без милост. Играта, водеща до смъртта на най-непопулярния, бързо става изключително популярна: през първия ден 63 човека са използвали хаштага “Смърт на:”, а през втория – 223. Следващата жертва е Клара Мийдс, която е събрала 880 гласа за това, че е публикувала снимка, на която се прави, че пикае върху военен паметник. А в една от пчелите детективите откриват манифест, озаглавен “Зъбите на последствието”…

И веднага започват въпросите. Каква ще бъде развръзката? Кой е извършител на престъпление, за което е било осъществено предварително гласуване? Как се разпределя вина, която преминава през алгоритъм за вземане на социално акумулирани решения? Къде започва шегата и къде свършва невинността? Каква е ролята на индивидуалността при търсенето на справедливостта? Какви са границите на колективното вземане на решения? Способна ли е на милост математиката? И какво общо с това има… биткойн и блокчейн технологиите?

Избрани цитати от филма

““Изведнъж се появиха милиони невидими хора, казвайки колко те презират. Това е като психично заболяване. Признавам си – направих грешка, но начина, по който хората се наслаждаваха да ме ритат, това ме жегна”.

“Лунатик с ценности, най-лошото!”

“Благодарение на технологичната революция, имаме възможността да се ядосваме и обвиняваме, да плюем без последствия. Само принудата да опознаем мощната технология ни гарантира да признаем индивидуална отговорност”

“- Той оприличава населението на насекоми: наслаждаваме се на жестокостта, това е слабост, която трябва да бъде премахната. Повтарящата се тема е, че той иска хората да се изправят пред последствията от това, което казват и правят. Иска да ги накара на сила.

– Цялото нещо е морален урок?”

“- Кои са тези хора?

– Не знам. Има 387 000.”

“- Това е списък, включващ всеки, който е използвал хаштага “Смърт на:”.

– Сега го спираме, нали?

– И може би това ще предизвика някакъв край на играта, нещо общо с този списък. Ами ако това са истинските му цели?

– Хората в списъка. Всеки, който е взел участие.

– Омразата изглежда е била стръвта. Играчите са целта.”