(доклад, изнесен на шестата годишна национална конференция по биоетика и биоправо „Тяло и права“, организирана от Фондация за развитие на правосъдието и Професионален сайт „Предизвикай правото!“ на 24 ноември 2018 г.)
Колко „нечовешко“ може да бъде правото?
Два много сходни разказа ми направиха наскоро впечатление. И двата проблематизират дискриминацията през тялото.
Първият е на Джефри Арчър и се казва „Сърдечни работи“. В него Щофел, бял и убеден и последователен деец за апартейда в ЮАР, претърпява катастрофа. Водачът на другия автомобил е чернокож. Чернокожият умира, но сърцето му е трансплантирано на Щофел. Изведнъж Щофел, който винаги е смятал черните за долна раса и дори отказва да играе крикет, ако в другия отбор има чернокож, сега е „модифициран“ телесно. Той изведнъж преживява катарзис и посвещава остатъка от живота си на борба с апартейда.
Вторият разказ е на Азимов и се казва „Дискриминатор“ – Segregationist. (На български език звучи странно и е превеждан и като „Неговото метално сърце“). В разказа американски сенатор се подлага на операция за смяна на сърцето. Той иска метално сърце, което ще го приближи до робота. Хирургът полага усилия да го откаже от металното сърце и му препоръчва полимерно. Ето разговора между тях:
— Ето на. И в какво е тогава проблемът, докторе? Страх ви е, че се превръщам в робот… в Метало, както ги наричат, откакто и те станаха граждани?
— Няма нищо лошо в Металото като Метало. Както казвате, те също са граждани. Но вие не сте Метало. Вие сте човешко същество. Защо да не си останете човешко същество?
По-нататък хирургът, неуспял да убеди сенатора, говори със сътрудника си:
Сътрудникът казва:
— Нямам нищо против и срещу метализираните човешки същества. На Земята сега имаме два вида интелект. Защо да се мъчим с тези два вида? Нека да се приближават един към друг. Най-накрая няма да можем да ги различаваме. Защо да е нужно да ги различаваме? Ще имаме най-доброто съчетание от двата свята: плюсовете на хората, свързани с плюсовете на роботите.
— Ще получите хибрид — отговори хирургът, а в интонацията му се долавяше някакво подобие на ярост. — Ще получите нещо, което не е нито едното, нито другото. Не е ли логично индивидът да е дотолкова горд с тялото си, със своята идентичност, че да не пожелае да ги смесва с някакви чужди същества? Би ли поискал той хибридизация?
— Това са расистки приказки (удебеляването мое – Д.Н.).
— Тогава нека да е така — отговори хирургът спокойно. — Вярвам в съществата такива, каквито са. Не бих променил и частица от своето тяло по никакви причини. Ако някой орган се нуждае от подмяна, ще поискам да го заменят с такъв, който е най-близък по природа с него. Аз съм си аз, много съм доволен от себе си и не мога да бъда никой друг.
Неочакваният край е, че хирургът всъщност е робот. Яростното му противопоставяне на металното сърце, изглеждащо отначало почти рожба на презрение, всъщност е собственият му страх от хибридизация, от промяна.
Това, по което разказите си приличат, е сърцето като синекдоха за човешкото и едновременно най-важен, конституиращ елемент на тялото. Затова в първия случай то идва, за да покаже еднаквостта при привидното различие (черно сърце, но все е човек), а във втория – различността (метално сърце, метален човек).
Наистина основните сюжетни репери са близки (две раси и размяна на сърца между тях, модифициране на човешкото тяло, получаване на особен вид „хибрид“ или „мелез“ – можем да кажем, че Щофел от първия разказ е донякъде „мулат“, защото е смес между черен и бял). Двата разказа са обаче много различни. Първият е просто наивен – той предпоставя една, от перспективата на автора и от перспективата на модерното право – една погрешна, нелегитимна ситуация между черни и бели. Тя предварително е сбъркана и главният герой просто трябва да я осъзнае. Във втория разказ обаче цялата ситуация е изцяло измислена – не защото е фантастика, а защото говорене за „расизъм“ е безмислено в подобна ситуация. После, роботът всъщност не се държи като робот, а като човек. Той постъпва и разсъждава човешки. Възможно ли е той изобщо да е в ситуация, допускаща дискриминация?
Тук бих споменал и част от Доклада на правната комисия към ЕП от 2017 г., съдържащ препоръки към Комисията относно гражданскоправни норми за роботиката от 27 януари 2017 г:
„Отбелязва, че потенциалът за предоставяне на права чрез използване на роботиката има различни нюанси поради редица рискове или напрежение и следва да бъде сериозно оценен от гледна точка на човешката безопасност, здравето и сигурността; свободата, неприкосновеността на личния живот, интегритета и достойнството; самоопределянето и недопускането на дискриминация и защитата на личните данни“[1].
В разказа на Азимов роботите са равноправни граждани, както и хората. Но всъщност това е човешкият свят. Възможно ли е обратното: хората да са „равноправни“ в света на роботите? Очевидно не, доколкото изобщо няма такъв свят, а ако има, то той е неразбираем за нас. Хората имаме нужда от такова равноправие в нашия свят, не роботите в техния.
Първоначалното изменение в тялото или различното тяло ще доведе до опит на правото да разреши проблемите, като се „раздуе“. Въпросът е обаче, доколкото правото е човешки продукт, колко нечовешко може да понесе? Колко „нечовешко“ може да бъде правото?
Мисля, че можем да очакваме няколко фази, през които ще премине правото, сблъсквайки се с нечовешкото.
Първа фаза: фазата на подозрението
Сега сме в нея. Ние знаем, че ще се случи нещо, знаем, че ще се наложи да реагираме, подготвяме се. Подозрителни сме. Това се отразява на правото.
Понякога то настоява за човешка намеса там, където тя би могла и да не е необходима.
Автоматизираното вземане на решения в Общия регламент за защита на личните данни е пример за това. То е сведено до минимум, като почти винаги се изисква да има и човешка намеса. На защитата на личните данни набляга и Докладът на правната комисия към ЕП от 2017 г. Страхът от изкуствения интелект почива до голяма степен на мисълта, че той би могъл по всяко време да достъпи до личните ни данни. Друг пример са медицинските роботи: в Становището на комисията по околна среда, обществено здраве и безопасност на храните към ЕП с препоръки към Комисията относно гражданскоправни норми за роботиката се посочва принципът на „наблюдаваната автономност на роботите, съгласно който първоначалното планиране на лечението и крайното решение за неговото провеждане остават винаги в сферата на вземане на решение на хирурга“[2]. В Доклада на правната комисия към ЕП от 2017 г. се посочва, че „е необходимо в процеса на автоматизирано и основано на алгоритъм вземане на решения да бъдат въведени предпазни мерки и възможност за осъществяване на човешки контрол и проверка“[3].
В други случаи подозрението се изразява в забрана на човешка намеса, въпреки че тя е възможна. Например забраната за клониране на човешко същество.
В трети случаи правото се опитва с плахи стъпки да въведе някаква регулация: например по отношение на автономните автомобили и тяхната евентуална правосубектност[4].
Фазата на подозрението, в която правото се намира сега, предполага хаотичност и взимане на решения „на парче“. Видим е обаче уклонът за задържане на новото и неизвестното, на „нечовешкото“.
Втора фаза: фазата на „раздуване“ на правото
Мисля, че в един момент новото и неизвестното няма да може просто да бъде удържано. Ще се появи нужда от регулация, която да направи възможно съжителството ни с него. Правото ще се опита да интегрира, да присъедини, да поеме новото. Ще започнем с преосмисляне на правните институти. Например една дискриминация може да бъде напълно оправдана, когато се основава на различия между човека и нещо друго, което се заяви като различно от човека. Всъщност тя няма да е дискриминация, а просто опит за адекватна правна регулация. Ще е безмислено да говорим за дискриминация, освен ако не придадем ново значение на думата.
Например дискриминацията може да бъде оправдана, защото наистина има биологична разлика между видовете. Всъщност може да се каже, че въпросът за дискриминация изобщо не може да бъде поставян: тя ще бъде невъзможна, доколкото е невъзможно да дискриминираш нещо различно. Ние не можем да дискриминираме орангунтаните.
Клонирането на неандерталци е (теоретично) възможно. Да предположим, че предоставим на такава група възможността да живеят сред нас и им признаем права, но ограничени, това ще бъде ли дискриминация? Дискриминация може да има само при уговорката, че всъщност се касае за един вид. Може би, ако неандералецът бъде (повторно) асимилиран от нас, в някакъв момент дискриминация ще бъде възможна. Но в началото различното правно третиране няма как да бъде квалифицирано по този начин.
В Анкх-Морпорк на Тери Пратчет, където живеят всякакви раси – на български преводът е „етнически малцинства“ – има хора, тролове, джуджета, вампири и т.н., те се стремят да са толерантни един към друг и дори има организации в защита правата на малцинствата – например Лигата за равен ръст на джуджетата. Всички обаче живеят всъщност като хора и те не бива да са дискриминирани от човешка гледна точка. В този смисъл човешкият вид е водещият, другите постепенно стават различно изглеждащи хора. Т.е., те изначално са „дискриминирани“, защото са поставени в позицията да догонват другата раса, за да не се различават от нея. Би могло да се каже, че концепцията за дискриминация и защита от дискриминация е невъзможна, ако наистина се признава различието. Трябва да се оформи може би друго понятие, то ще е валидно в тази друга ситуация. Казаното не противоречи на идеята за недискриминиране на различните (хора). Всъщност те заявяват себе си като еднакви въпреки различието.
Трудно може да говорим за дискриминация и при „усиленото“ тяло[5].
Възможно е усиленото тяло да доведе до „усилена правосубектност“ или обратното – до „намалена правосубектност“, за да се компенсира „усилеността си“.
Можем лесно да си представим, че усиленият човек (човек, който е модифицирал тялото си и по този начин е станал по-силен, по-умен, по-здрав) ще се окаже в доминираща позиция. Означава ли това, че той ще има и своеобразна „усилена“ правосубектност“? А е възможно и обратното – като компенсация тези лица да се окажат с „намалена“ правосубектност. Можем ли да компенсираме могъществото им, като отнемем част от правата им? Да им забраним участие в спортни състезания (защото са по-бързи и по-силни) или получаване на научни степени (защото са по-умни). Да определим за тях различни наказания (например – специално техническо средство ли е чипът в ръката ми?). Да ги използваме само за война. Да предвидим за тях по-слаба защита – например известния въпрос: кражба или телесна повреда е отнемането на изкуствената ми ръка? Докладът на правната комисия към ЕП от 2017 г. „обръща внимание на риска, свързан с възможността интегрираните в човешкото тяло КФС да се окажат обект на хакерски атаки или да бъдат изключени, или паметта им да бъде изтрита, тъй като това би застрашило човешкото здраве, а в крайни случаи дори и човешкия живот, и затова подчертава приоритета, който трябва да бъде даден на защитата на тези системи“.
Със сигурност ще се наложи да модифицираме институтите си – например ако приемем, че в подобни случаи се касае за телесна повреда, а не за кражба или (само) компютърно престъпление. Да вземем свързването на мозъците в интернет, осъществено наскоро[6]– може ли това да промени концепцията за вина? А как например може да осъществява владение едно лице, което може да движи с мисъл предмети (една вече развиваща се технология, обяснена увлекателно в книгите на Мичио Каку „Физика на бъдещето“ и „Физика на невъзможното“)?
Връх в този процес може би ще бъде опитът да бъдат признати и други за правни субекти – например роботи. Нямам предвид уж правния субект – робот – София. „Тя“ е рекламен трик. Истинска промяна ще има, когато се опитаме да интегрираме не просто новите обществени отношения, но и новите играчи в тези обществени отношения. Но дори и това няма да е от особено значение: даването на правосубектност всъщност е своеобразно „укротяване“ на чуждата стихия. Нещо подобно на даването на женски имена на ураганите. Качеството „правен субект“ за робота или извънземното например няма да значи нищо. В тяхното поле, в техния свят, те няма да имат нужда от подобно качество. Това означава, че правото винаги ще остане локално, само в нашето поле, само човешко. Затова неизбежно ще дойде третата фаза.
Третата фаза: „смаляването“ на правото
Правото ще бъде изместено от нещо друго, колкото по-важни в живота ни стават „другите“. То ще остане само за нас (хората) и колкото другите (не-хората) имат по-голямо значение, то ще има все по-малко значение.
Всички, които сме отраснали с научната фантастика, сме свикнали да виждаме правото като регулатор на отношенията между различните цивилизаци. В „Междузвездни войни“ съществува империя, а преди това – сенат и федерация; в „Бойна звезда – Галактика“ хората и киборгите са сключили договор, който после киборгите нарушават. В редица книги и филми се водят войни. Мисля обаче, че това е просто нашият начин да си представим нещата, за които няма голяма вероятност да се случат наистина.
Въпросът дали участието на феномени като извънземен разум или ИИ може да доведе до тяхното конституиране като правни субекти се оказва твърде себичен. Правото е човешко явление. Дори и например ИИ да бъде правен субект (ние вече уж наблюдаваме такъв – роботът София), подобен акт на конституиране има стойност само за хората. Отношенията между компютрите едва ли ще се нуждаят от правни субекти, а и от право въобще – те ще имат алгоритми. Това означава просто, че в битието си роботът изобщо няма да се интересува от това дали е субект на правото, защото той поначало не принадлежи на човешкия свят. Същото е с понятия като справедливост и морал – те са изцяло човешки. (Разбира се, те са и атрибути на Бога, но на човешкия Бог, който е необходим в човешкия свят). От тази гледна точка един робот или извънземно същество не могат да бъдат нито справедливи, нито несправедливи, нито морални, нито аморални. Те са извън пространството, в които подобни понятия изобщо работят. Разбира се, докато роботът е инструмент, той би могъл да участва в постигането на (човешката) справедливост: (съгласно Доклада към ЕП от 2017 г. – изследователите в областта на роботиката да следват принципа за справедливост: „справедливост – справедливо разпределение на ползите, свързани с роботиката, и в частност финансова достъпност на роботите за грижи по домовете и здравни грижи“.
По същия начин не бихме могли да сме в състояние на война с такива създания, защото не бихме могли и да сме в мир – и двете са правни категории, и за двете съществува някакъв порядък. Още по-абсурдно е да си представим някакви договорни отношения.
Но това по-нататък означава, че и безправността не е относима към други разумни създания. Не бихме могли да кажем, че за тях ще важи състояние на безправност – защото то пак е човешко състояние. Безправността предполага възможност за право.
Затова, ако се окажем в ситуация, изискваща продължителни отношения с подобни същества, ние трябва да не позволяваме човешките категории да ни подлъгват. Не можем да очакваме нито състояние на мир, нито състояние на война, нито преговори, нито договори, нито размяна, нито добронамереност. Бихме могли да интерпретираме ситуациите през тези понятия, но това най-вероятно ще означава самозалъгване, опит да видим собственото си отражение. (Така например ние обичаме котките, но се отвращаваме от това, че мъжките изяждат децата си. Това обаче, което е ненормално поведение за нас, е нормално поведение за тях. Всеки опит за различна квалификация би била заблуждение).
Правото се оказва „човешко, твърде човешко“.
Бихме могли, както също предполага научната фантастика, да подходим чрез универсален, безпристрастен език – например този на математиката. Проблемът обаче е, че и този език може да се окаже човешки. Ние нямаме опит върху познанието на базата на чужд опит. Иначе казано, както казва модерната теория на познанието – може да се окаже, че ние виждаме света така само защото сме хора, и то с човешко тяло.
Освен това математиката може да описва, но е съмнително как може да регулира.
Четвърта фаза: някаква регулация или липса на регулация
Можем да предполагаме, че в ситуация, при която сме в досег с някакви други играчи, важни колкото нас, ще потърсим някаква регулация. Например това може да е тяхната регулация, ако ние се окажем по-адаптивни. Например компютрите си служат с алгоритми. Можем ли и ние да подходим така? Всъщност ние вече имаме такива наченки в нашето право – потестативните права. И те вече са пренесени на едно по-високо ниво – смарт контрактите[7]. Означава ли това, че потестативните права, ако наистина са самоизпълняващи се, вещаят края на правото? Може би. Но това е друга тема на разговор.
Бележки под линия:
[3] Вж. още у Ставру, Ст. Електронни лица – нови „употреби“ на правосубектността. – Във: Вълчев, Д., П. Панайотов, С. Гройсман, Кр. Манов (съст.). Научни четения на тема „Правни норми и правни принципи“. Сборник доклади от научна конференция, организирана от катедра „Теория и история на държавата и правото“ и катедра „Наказателноправни науки“ на ЮФ на СУ „Св. Климент Охридски“, проведена на 15 май 2017 г. С., УИ „Св. Кл. Охридски“, 2017, 494–510.
[4] Ставру, Ст. Интелигентните роботи и светът на технологичната нормативност. – В: Ставру, Ст., М. Станкова, П. Михова (съст.). Биоетика и биоправо – модерни практики и политики на бъдещето. Сборник доклади от IV Национална конференция 21-22 Октомври 2016 г. С., 2017, 21–32.
[5] Вж. Клайнпетер, Ед. (съст.). Усиленият човек. С., НБУ, Institut francais, 2014.
[6] Гогов, Ст. Учени свързаха в мрежа три човешки мозъка, достъпна тук: https://www.forumnauka.bg/topic/20603-%D0%BF%D1%8A%D1%80%D0%B2%D0%B8-%D1%83%D1%81%D0%BF%D0%B5%D1%88%D0%BD%D0%B8-%D0%BE%D0%BF%D0%B8%D1%82%D0%B8-%D0%BF%D1%80%D0%B8-%D1%81%D0%B2%D1%8A%D1%80%D0%B7%D0%B2%D0%B0%D0%BD%D0%B5-%D0%B2-%D0%BC%D1%80%D0%B5%D0%B6%D0%B0-%D0%BD%D0%B0-%D1%87%D0%BE%D0%B2%D0%B5%D1%88%D0%BA%D0%B8-%D0%BC%D0%BE%D0%B7%D1%8A%D1%86%D0%B8/.
[7] Вж. Ставру, Ст. Към една невъзможна микрофизика на правото (на собственост). // Електронно издание „Предизвикай правото!“ (24.12.2017 г.), достъпна тук: https://www.challengingthelaw.com/veshtno-pravo/kam-edna-nevazmojna-mikrofizika-na-pravoto/.