(доклад, изнесен на Четвъртата национална конференция по биоетика и биоправо: 21.10.2016)
(текстът е публикуван за пръв път в Ставру, Ст. М. Станкова, П. Михова (съст.) Биоетика и биоправо – модерни практики и политики на бъдещето. Сборник доклади от IV Национална конференция 21-22 Октомври 2016 г. С., 2017, с. 21-32)
1. Интелигентните роботи
1.1. Проект за европейска рамка на гражданскоправните правила на роботиката
На 31 май 2016 г. беше обявен Проект за доклад за препоръки до Европейската комисия относно гражданскоправните правила на роботиката1 на Комисията по правни въпроси към Европейския парламент, в който се предлага роботите да бъдат признати за „електронни лица“ със „специфични права и отговорности“.2
Проектодокладът съдържа:
А) Предложение за резолюция на Европейския парламент с препоръки към Комисията относно правилата за гражданското право по роботика, състоящо са от:
– Въведение, включващо всичките 25 букви на латинската азбука и посочващо условията, от които се изхожда при съставянето на проектодоклада, и
– Основна част, включваща 31 разпоредби, разделени в 14 раздела: Общи принципи, отнасящи се до развитието на роботиката и изкуствения интелект за граждански цели (4 разпоредби), Етични принципи (3 разпоредби), Европейска агенция (2 разпоредби), Права на интелектуална собственост и поток на данни (3 разпоредби), Стандартизация, безопасност и сигурност (2 разпоредби), Автономни превозни средства (1 разпоредба), Роботи-компаньони (1 разпоредба), медицински роботи (1 разпоредба), Възстановяване и усилване на човека (1 разпоредба), Дронове (1 разпоредба), Прогноза за образование и заетост (4 разпоредби), Отговорност (8 разпоредби), Международни аспекти (3 разпоредби), Заключителни аспекти (4 разпоредби);
Б) Приложение към предложението за резолюция: подробни препоръки към съдържанието на направеното предложение, състоящо се от 6 раздела: Определение и класификация на “интелигентни роботи”, Регистрация на “интелигентните роботи”, Гражданскоправна отговорност, Оперативна съвместимост, достъп до програмния код и права на интелектуална собственост, Разкриване на използване на роботи и изкуствен интелект от предприятия, Харта на роботиката;
В) Харта на роботиката, която е замислена като своеобразна реплика на Хартата на основните права на Европейския съюз;
Г) Кодекс за етично поведение за инженерите, работещи в областта на роботиката, състояща се от Преамбюл, както и няколко обособени раздела относно принципите на работа на инженерите в областта на роботиката;
Д) Кодекс на етичните комисии относно научните изследвания, които следва да бъдат провеждани при спазването на възможно най-високи етични стандарти и съобразяване на всички възможни рискове за хората;
Е) Лиценз за дизайнери, посочващ основните изисквания към дизайнерите на интелигентни роботи;
Ж) Лиценз за потребители, посочващ легитимните очаквания и основните права на потребителите на интелигентни роботи;
З) Изложение на мотивите, състоящо се от 10 обособени части и включващо изложение на обстоятелствата, довели до приемането на доклада и целите, които се преследват с него.
Проектодокладът предвижда приемането на незадължителен за държавите членки акт на – резолюция на Европейския парламент, но и създаването на специална Европейска комисия по роботика, която да предостави необходимата техническа, етична и регулаторна подкрепа при развитието на роботиката. Както се вижда от заглавието на някои от разделите на проектодоклада, той има за цел да стимулира уреждането на правния статус на т. нар. интелигентни роботи, които могат автономно да вземат решения и да се движат в пространството. Фокусът попада най-вече върху хуманоидните роботи (включително роботи-компаньони) и безпилотните коли (автономните превозни средства), като една от конкретните цели, които си поставя докладът и която намира най-широка гласност в българските медии3, е свързана с регулирането на трудовоправните и осигурителноправните последици от развитието на автономните технологии. В тази връзка се предлага компаниите, използващи автономни роботи като свои работници и служители, да отчитат спестените от тях парични суми за социални осигуровки – тъй като такива не се дължат за роботите, заменили хората като работници и служители (чл. 23 от Проектодоклада). Посочва се възможността за в бъдеще генерираните от роботите печалби да се облагат със специални данъци, със средствата от които да се финансира социалната система на хората. Тази възможност се свързва4 с идеята за осигуряване т. нар. универсален базов доход5 (наричан още “гражданска заплата”) – доход, който следва да получава всяко човешко същество, живеещо на територията на Европейския съюз, независимо от своя трудов и осигурителен статус.
Макар и този документ да предизвиква реакции най-често с оглед страховете, че роботите ще изместят хората (и предстоящата с оглед на това “битка” между синдикатите и инженерите), той има много по-фундаментални измерения, касаещи преформулирането и предоговарянето на основни понятия в правото, като например понятията за правен субект, за дееспособност и правоспособност, за основни права – на хората и на роботите и пр. Именно тези “предефиниции” и “предоговаряния” ще бъдат в центъра на изложението. Преди това обаче нека се опитаме да дефинираме това, което следва да разбираме, използвайки термина “робот”.
1.2. Кои роботи са интелигентни?
При изготвянето на гражданскоправната рамка на роботиката вместо подхода на дефинирането на понятието за интелигентен робот се възприема изброяването на няколко негови основни характеристики6. Този подход вече е използван при извършвани в Европа проектни изследвания, едно7 от които предлага следните основни характеристики на роботите:
– предназначение или употреба: всеки робот изпълнява определена задача или работа (от тук идва и наименованието “робот” – работа, труд). Изпълняваните от роботите задачи могат да бъдат обособени в две големи групи – обслужване и индустриално приложение;
– околна среда: обхваща всичко, което се намира извън робота, това е пространството, в което роботът ще осъществява своите действия. Отново могат да бъдат разграничени два типа околна среда: физическа (роботи, които функционират във въздуха, водата, земята, както и в човешкото тяло) и нефизическа (роботи или “софтботи”, които функционират в киберпространството);
– природа: начинът, по който роботът съществува. В зависимост от природата си роботите могат да бъдат разделени на въплътени роботи (машини, хибридни бионични системи и биологични роботи, включително нанороботи8) и невъплътени роботи (софтуер, виртуални агенти). Тук може да бъде открита и първата възможност за дискриминация на роботите с оглед на материала, от който те са изградени;
– взаимодействие с човека: начинът, по който роботите влизат в комуникация и интеракция с човешките същества. Тук се включват въпросите за използването на различни интерфейси за комуникация (включително интерфейсите: “тяло-машина” и “мозък-машина”), възможните роли, които са предоставени на роботите (изцяло експертни, изцяло технически или напротив: емоционално-партерналистични, каквато например би могла да бъде ролята на роботите, грижещи се за възрастни хора с деменция), степента на близост на роботите до хората (значението на антропоморфичност на роботите) и пр.;
– автономност: степента на независимост на робота от външна човешка намеса и супервизия. В зависимост от тази степен е разграничават напълно автономни, полу автономни и телеуправлявани.
В проектодоклада (б. Q и чл. 1 от Предложение за резолюция) са посочени четири характеристики на интелигентните роботи, които могат да бъдат използвани и като критерии за приложимостта на резолюцията. Първите три от тях са задължителни, докато четвъртата е посочена като допълнителна. Тези характеристики са следните:
– физичност, която се описва като “физическа опора” (“physical support”). За да говорим за робот, а не за компютърна програма (софтбот) или за самоизпълняващ се електронен алгоритъм, е необходимо наличието на материално тяло. В проектодоклада не се посочва от какво естество следва да бъде материалността на това тяло, като то може да бъде както метално, така и биологично, или хибридно. Именно физичността (тялото) на робота го обособява в материалния свят и прави възможно роботът да взаимодейства с неговата среда, превръщайки се в причина за настъпването на определени изменения в нея;
– автономност, която се дефинира (б. R) като “способността [на робота] да взема решения и да ги изпълнява във външния свят, независимо от упражняването на външен контрол или влияние”. Изпълнението на взетите решения предполага способност на робота да взаимодейства със средата, в която той се намира. При това взаимодействие роботът обменя (получава и изпраща) информация със средата посредством набор от сензори, разположени в неговото материално тяло, и разполага със инструменти за въздействие върху средата, които могат да я променят съществено (significantly). В проектодоклада изрично е посочено, че става въпрос за автономия “от чисто технологичен характер” (“purely technological nature”), чиято степен зависи от това за колко сложни взаимодействия със среда е проектиран роботът. В този смисъл става въпрос за “проектирана” (“дизайнерска”) автономия;
– адаптивност, което се изразява в способността на робота да приспособява поведението и действията си към промените, настъпващи в средата. Адаптивността е свързана с още една важна особеност на роботите: присъствието на определена степен на непредвидимост в тяхното поведение. Причината за непредсказуемостта на роботите е обстоятелството, че роботи отчитат средата, в която функционират и реагират на промените в нея не само въз основа на автоматично заложени модели, но и въз основа на натрупания от тях уникален опит. Така през адаптивността непредсказуемостта на средата се превръща и в непредвидимост на робота. С адаптивността е свързана и четвъртата характеристика на роботите, която за разлика от първите три се посочва единствено като опционална, а не като задължителна, т. е. и без нейното наличие ще е налице интелигентен робот, попадащ в предмета на предлаганата резолюция;
– когнитивност, която се състои в способността на робота да се учи от своя уникален опит, генериран от осъществяваното между робота и средата взаимодействие. Способността за учене, макар и да не е определяща нито за наличието на автономност (която е въпрос от “чисто технически характер”), нито за притежаването на адаптивност (която може да доведе до непредсказуемост и без да е резултат от учене), ако е налична при съответния робот, тя може значително да разшири и задълбочи както неговата автономност (наученото ще се използва за постигане на по-голяма степен на независимост от външно влияние и контрол, тъй като новото знание ще е “вътрешен” ресурс за автономност: то като ще замества необходимостта от получаване на инструкции “от вън”), така и неговата адаптивност (наученото ще позволява на робота да променя поведението си адекватно на поставените му задачи и съобразно установените закономерности в реализирания от него опит на взаимодействия със средата).
1.3. Правен статус и рискове
Проектодокладът поставя въпроса какъв да бъде правният статус на роботите, които отговарят на посочените критерий за “интелигентност”: дали те трябва да се разглеждат като физически лица, като юридически лица, като животни или като вещи, или трябва да бъде създадена нова правна категория, със свои собствени специфични особености и последствия по отношение на предоставянето на права и задължения, включително отговорност за причинени вреди (б. “Т” от Въведението на Предложението за резолюция). Един от най-важните въпроси е свързан именно с отговорността в случаите, когато интелигентните роботи предизвикат настъпването на определена вреда: трябва ли в тези случаи причинителят на вредата да бъде проследен до конкретен човешки агент (било то производителя, собственика или ползвателя) или автономността (самостоятелността) и адаптивността (непредсказуемостта) на интелигентния робот прекъсват причинната връзка, насочвайки отговорността към самия интелигентен робот?
Предложението за приемане на резолюция клони по-скоро към второто разрешение, отчитайки спецификите на интелигентните роботи, които се очаква да се задълбочават и да стават все по-интензивно изразени с бъдещото развитие на технологиите. В чл. 28 се посочва, че колкото по-голям е капацитетът за обучение на един робот и свързаната с този капацитет автономия на робота, толкова по-ниска следва да бъде отговорността на лицата, участвали в произвеждането, продажбата и ползването на робота. От друга страна, колкото по-дълго е продължило “образованието” на робота “образование”, толкова по-голяма е отговорност на неговия “учител”. И двете правила признават съпричиняване на вредите не само от утвърдени правни субекти, но и от самия интелигентен робот, който няма специфичен правен статус, поради което по правило попада в категорията на вещите. За да се осигури необходимия специфичен правен статус, в проекта за резолюция (чл. 31) се предлагат няколко конкретни стъпки:
– въвеждане на задължителната застраховка: подобно на задължителните застраховки при автомобилите, от производителите или от собствениците на роботи ще се изисква да са сключили застраховка “гражданска отговорност” за вредите, които произведените/притежаваните от тях роботи биха причинили при своето функциониране;
– създаване на компенсационен фонд, който ще служи не само за да гарантира изплащането на обезщетение за причинени от роботи вреди, които не са покрити от застраховката (основна негова цел), но и за финансиране на различни операции в интерес на робота (инвестиции в областта на роботиката, дарения или плащания, направени в полза на интелигентни автономни роботи за предоставени от тях услуги и пр.). Възможни са различни подходи при структурирането на фонда: да бъде създаден общ фонд за всички интелигентни роботи или отделни индивидуални фондове за всеки конкретен робот или за всяка категория роботи. Фондовете могат да се захранват с еднократна учредителна вноска или с периодични плащания, извършвани през целия жизнен цикъл на интелигентния робот;
– осигуряване на видима връзката между интелигентния робот и неговия гаранционен фонд чрез въвеждане на специална система за регистрация (чл. 3 от Предложението за резолюция), изискваща всеки интелигентен робот да има уникален регистрационен номер. Този номер следва да е публично обявен в специално създаден за целта регистър на Европейския съюз, което ще позволи на всеки, който взаимодейства с робота, да бъде информиран за естеството на фонда към конкретния робот, за границите на евентуалните си претенции за отговорност в случай на нанесена от робота вреда, за имената и за функциите на дарителите във фонда, както и за всички други важни подробности;
– позволяване на производителите, програмистите, собствениците или на ползвателя да се възползват от режим на ограничена отговорност, доколкото интелигентните автономни роботи ще бъдат снабдени с компенсационен фонд, при което обезщетение на причинените от тях вреди ще може да се търси единствено в рамките на фонда;
– създаване на специфичен правен статус за интелигентните роботи, като поне на най-сложните автономни роботи следва да се признае правен статус на “електронни лица със специфични права и задължения”, включително с оглед обезщетяването на причинените от тях вреди. Този статус следва да се прилага в случаите, когато роботите вземат интелигентни автономни решения или взаимодействат с трети страни по независим и непредсказуем начин.
В проектодоклада се посочват рисковете, които трябва да се управляват при по-нататъшното развитието на технологиите, правещи възможно съществуването на интелигенти роботи: рискове, свързани с безопасността на хората, с неприкосновеността на личния живот, с достойнство и с автономността на човека, както и със и собствеността на данните (чл. 5), особено в едно общество, в което личните данни се използват като “валута”, с която се купуват различни. Споменават се редица конкретни проблеми, като например възможността за защита на творби, произведени от компютри или роботи, като тяхно “собствено интелектуално творение” с авторски права (чл. 10); при използването на компютри-компаньони (care robots) трябва се съобрази обстоятелството, че контактът с други човешки същества е един от основните аспекти на човешката грижа и замяната му може да я дехуманизира (чл. 16); създаването на специални комисии по робоетика в болници и в здравни институции, които да бъдат сезирани с разрешаването на необичайни, сложни от етична гледна точка, проблеми, касаещи извършването на подобрения на човешките възможности (чл. 18), подчиняването на роботите на режима на вещите с възможно двойна употреба (чл. 34) и забрана ползвателят на робота да го променя, като го превръща в оръжие.
1.4. Общи принципи
В Кодекса за етично поведение за инженерите, работещи в областта на роботиката, се посочват общите принципи, на които следва да се подчинява уредбата на правния статус на интелигентните роботи:
– подчиняване на научните изследвания в областта на роботиката на четирите основни принципа на благотворителност (роботи трябва да действат в най-добрия интерес на хората), доктрината за “първо, да не се вреди” (роботите не трябва да вредят на човека), автономност (осигуряване на възможност на хората да вземат информирани и доброволно решение за условията на взаимодействие с роботи) и справедливост (справедливо разпределение на ползите, свързани с развитието на роботиката, и достъпност на домашните грижи и здравните роботи в частност);
– принцип на зачитане на основните права на хората;
– принцип на предпазливост: изследователските дейности в областта на роботиката трябва да се провеждат в съответствие с предвижданията за потенциалните рискове за безопасността на резултатите и при вземане на необходимите и пропорционални предпазни мерки на защита, като същевременно се насърчава напредъка в полза на обществото и околната среда;
– принцип на включеност: работещите в областта на роботиката инженери трябва да гарантират прозрачност и спазване на законовото право на достъп до информация в полза на всички заинтересовани страни;
– принцип на отговорност: работещите в областта на роботиката инженери при вземането на решенията си следва да бъдат отговорни към настоящите и бъдещите поколения за въздействието на роботите върху социалните отношения, екологичните ресурси и здравето на човека;
– принцип на безопасност: работещите в областта на роботиката инженери трябва да зачитат и уважават физическото благосъстояние, сигурността, здравето и правата на хората;
– принцип на обратимост (реверсивност): обратимостта трябва да бъде основна концепция за управление на технологиите в областта на роботиката. При програмирането на роботи трябва да се залага образец за обратимост, който да посочва кои действия са обратими и как те могат да бъдат “обърнати”. Способността да се отмени (undo) определено действие или последователност от действия на робота, позволява на потребителите да “върнат” робота към предходен “добър” етап от неговото функциониране;
– принцип на защита на личните данни: трябва да се иска и получава информирано съгласие преди всяко взаимодействие “човек-машина”, както дизайнерите в роботиката имат отговорността да развиват и следват процедурите за даване на валидно съгласие, конфиденциалност, анонимност, справедливо третиране и справедлив процес;
– принцип на максимизиране на ползата и минимизиране на вредата: рискът от увреждане трябва бъде не по-голяма от този, който се среща в обикновения живот, т.е. хората не трябва да бъдат изложени на рискове, по-големи или допълнителни към тези, на които те са изложени в нормалното им начин на живот.
Интерес представлява изричното посочване в Лиценза за потребителите на обстоятелството, че при развитието на роботиката трябва да се зачита човешката слабост, както физическа, така и психологическа, както и емоционалните потребности на хората. Препоръчва се приемането на отделни правила относно автономни превозни средства, роботи компаньони, медицинските роботи, човешкото възстановяване и усилване, както и безпилотни летателни апарати (RPAS).
2. Светът на технологичната нормативност
2.1. Факторът “Франкенщайн”
След като скицирах част от актуалните въпроси, които развълнуваха Европа през 2016 г. по повод правния статус на интелигентните роботи, бих искал да завърша настоящия текст с поставянето на един по-фундаментален въпрос: въпроса за начина, по който интелигентните роботи биха могли да въздействат върху правото като човешки и социален феномен. Някой от направените по-долу разсъждения може да изглеждат далечни и утопични а българския читател, но те отговарят на въпроси, които вече се поставят от бурно развиващите се технологии.
При анализа на отношението “човек-робот” следва да бъде отчитан т. нар. фактор “Франкенщайн”: след определен момент загубата на контрол от страна на човека върху неговото (автономно) технологично творение води до разкъсване на връзката на собственост. След един момент човекът не може да продължи да бъде собственик на един интелигентен робот. Съотнасянето на човека към робота вече не е като между субект (физическо лице) и обект (вещ), а като между два независими агента, две отделни причини, два самостоятелни генератора на социално значими последици. Поради това собственикът все по-трудно се удържа като “локус на отговорност” – като отговарящ за евентуалните последици (вреди), причинени от притежаваната от него интелигентна вещ.9 Интелигентността на вещите “върви” с приписване на отговорности, които напускат своето до този момент изключително обиталище: физическите тела (лица10) на хората. Всички интелигентни вещи в една или друга степен съдържат “гени” на “чудовището на Фанкенщайн”. Тази тяхна генетична обремененост е пряко свързана с непредвидимостта им. Каквито и лица да поставим на интелигентните роботи11, те ще бъдат (поне в някаква степен) издайнически празни. Каквито и отговорности да им прехвърлим, роботите ще продължат да ни изглеждат съмнителни (различни от нас) и не-отговарящи (неразбираеми за нас). След като те нямат нашите тела, нашите сетива и нашите грижи, как бихме могли да се разбираме и да живеем заедно? Трансферът на отговорност към роботите не е достатъчен да потуши страха ни от другостта, която откриваме в тях.
Един от възможните подходи към евентуалното постигане на подобно разбиране между хората и роботите е създаването на роботи, които са максимално близки до хората. Постигането на подобна близост може да бъде търсена:
а) във физическото съществуване на роботите (въплътеност на роботите): роботите следва да съществуват като биологични организми, за които са характерни същите уязвимости, от които страдат телата на хората (хора и роботи споделят една и съща биологична основа на живота);
б) във сетивните способности на роботите (всветовеност на роботите): роботите следва да обработват такава сетивна информация за заобикалящия ги свят, с каквато работят и телата на хората (хора и роботи споделят един и същ свят от информация);
в) в социалния статус на роботите (вобщественост на роботите): роботите следва да развиват интелигентността си като преминават през социални структури (семейства, групи, общности) и през специфични конфликти (възрастови, полови и пр.), през които преминават и хората (хора и роботи споделят една и съща социална организация на своите взаимоотношения).
При постигането на тези три направления на близост може да очакваме интелигентните роботи да разбират съображенията на хората и хората да разбират интелигентността на роботите.12
Правото е един от инструментите, чрез който се опитваме да опитомим и дори да одомашим13 “чудовищността” (включително като я заменим с друга дума: “автономност”), която с една или друга интензивност прозира зад интелигентността на роботите. Правото може да осигури комфортен модел, в който хората да поставят автономността на роботите, включително като предвиди определени задължения към производителите относно начина на създаване и обучение на роботите. Чрез регулирането на правния статус на автономните роботи ние се опитваме да държим технологиите (съдържащата се в тях другост) под контрол14. Но всъщност, в близко бъдеще може да се окаже, че контролът е обърнал своята посока: правото не само че не разполага със средствата за контрол върху технологиите, а напротив – технологиите имат потенциала да преобразят правото, като му помогнат да реализира изцяло целите си и по този начин го оставят без нормативна същност. Технологиите могат да ни изпратят в един друг свят, в който правото е изчерпало своя смисъл.
Какво имам предвид?
2.2. Науката и правото – взаимодействия и хибридизации
Между науката и правото може да бъде очертана същностна разлика: ако науката изследва фактите такива каквито са, то правото посочва възможности и дължимости, които трябва да бъдат. С развитието на технологиите обаче това може да се промени. Днес наука и право взаимно се легитимират – съществуват в копродуктивен режим15 на реципрочно признаване: правото не само, че все повече регулира (и по този начин допуска) различни научни активности, но то все по-често се основава и на резултатите от тези научни активности (и по този начин постига целите си). Така се създава хибридно познание16, при което границата между наука и право постепенно избледнява. Все по-лесно и непосредствено знанието узрява във факт – волята за постигането на един резултат съществува директно като този резултат. Знанието конституира своя обект и се превръща в закон. Именно с тази възможна промяна в съществуването на волята, при все по-тясно обединяване на наука и право, се свързва понятието за “околно право” или “заобикалящо право” (Ambient Law17)18 – право, което се е разпръснало във вещите около нас под формата на своеобразна нормативна околна среда, която едновременно ни овластява за определени възможности (права), но и не ни позволява да извършваме неправомерно поведение (задължения). Това право може да бъде обозначено и като “мълчаливо право” – то присъства в имплицитно във вещите и се налага “мълчаливо” от техния дизайн.
2.3. Правни норми и компютърен код
Развитието на технологиите като че ли прави мислим отговора на въпроса: възможно ли е и юридическите закони като законодателна воля да се превърнат във факт и да съществуват като самоизпълняваща се реалност.19 Това е така, защото технологиите вече не са единствено предмет на регулиране, а са и инструмент за регулиране и дори своеобразен нов регулативен актьор, който може да промени фундаментално начина, по който функционира правото.
Правните норми, такива каквито ги познаваме днес, предлагат пасивни модели на възможно или на дължимо поведение, които модели, за да се превърнат във факти, трябва да бъдат интерпретирани и прилагани от хора, от човешки същества (служители на съответната администрация, инспектори, съдии и пр.). А хората са подвластни на огромен брой различни метаюридически фактори (некомпетентност, емоции, финансови облаги и пр.), които могат да възпрепятстват или да изкривяват прилагането на правото. Това прави правната норма зависима от човешкото поведение – от поведението на лицата, които следва да я изпълняват. Задействането й преминава по необходимост през волята на конкретен човек, явяващ се адресат на правната норма. Едва когато в съответната ситуация (описана в хипотезата на правната норма) волята на конкретния човек откаже да изпълни правното предписание (описано в диспозицията на правната норма), държавата чрез своите органи пристъпва към упражнявана на принуда (описана в санкцията на правната норма). Този механизъм на действие на правната норма дава шанс на волята на човека, станал адресат на правната норма: той може да изпълни предписанието на закона, но може и да го наруши. В структурата на всяка правна норма (изразяваща се в “хипотеза-диспозиция-санкция”20) се съдържа възможността за този избор. Всяка правна норма чрез санкцията си допуска своето нарушение. Нарушителите имат (запазено) място в света на правните норми. Макар и отречено, тяхното поведение по неспазване на правната норма е част от споделения свят на всички правни субекти.
Технологиите могат да променят това. Те дават на правните предписания обещание за еманципиране от човешкото поведение във формата на програмен код. На законовата нормативност – регулация въз основа на правни норми, се противопоставя технологичната нормативност – регулация чрез кодиране на възможните фактически взаимодействия. Когато една правна норма се превърне в програмен код, който се изпълнява автоматично в съответната физическа или виртуална среда, тази правна норма става в значителна степен независима от човека.21 Подобна “автономна” и “интелигентна” правна норма се превръща от деонтологична претенция в заварен факт. Вече въпросът е не какво “трябва”, а какво “мога”. В средата, в която правната норма е “заредена” като програмен код, осъществяването на предписаното поведение е неизбежно, то е част от “законите” на съществуващото пространство. Правопознанието става онтология. В крайният си вариант, този регулативен механизъм е краят на човешката свобода22. Така например, ако програмният код на колата не позволява двигатели й да работят докато всички пътуващи в колата лица не си сложат предпазните колани, поставяне на предпазен колан се превръща от задължение за всеки пътник във факт за всяка движеща се кола.23 В този случай правната регулация е осъществена като технологично решение. Нормативността се е превърнала в незаобиколим дизайн на фактическото. Факторът “човек” в правоприлагането е заличен за сметка на едно “чисто” битие на правото, на което би завидял дори и Келзен.
2.4. Интернет на нормите и конститутивната сила на нормативното
Технорегулацията24, разчитаща на т. нар. нормативна технология25, редуцира съдържащата се в правната норма (човешка) заповед до (компютърна) команда. Остават възможни само (общо) допустимите (по силата на нормативни технологични актове26) и (конкретно) допуснатите (по силата на индивидуални технологични актове27) човешки действия. Една от разликите между заповедта и командата е във фактическата възможност първата да не бъде изпълнена. Реалност на междучовешката заповед е по-богата от тази на компютърната команда. Имплантирането на нормите във вещите и хабитуирането им в света на фактическото, отнема от този свят неговото най-ценно предимство – многообразието. Превръщането на юридическия закон във физически28 отнема смисъла на правото. В тази антиутопична нормативна екология, в която вещите артикулират правилата като физически възможности, не съществува нужда от право. В този смисъл нормативните технологии се посочват като алтернатива на правото29. Те са съзнателно са направени, за да предизвикат и/или да не позволят определено поведение на своите потребители. Хората, към които са насочени превърнатите в код правила, от адресати на правни норми се превръщат в потребители на нормативни програми. Те губят контрол над фактите, които ги заобикалят.
Когато законите на държавата са част от функционирането на свързаните помежду си устройства, правото престава да бъде дължимо поведение. Характерната структура на правната норма: “хипотеза-диспозиция-санкция” става морално остаряла. Достатъчно е въвеждането на команди от типа: “ако А, то Б”. Дължимото поведение се превръща в условие за съществуването на желаната реалност (моят автомобил се движи само когато съм си сложил предпазен колан), а санкцията се изразява в невъзможността да съществува алтернативен на командата свят (невъзможен е свят, в който макар и да не съм си сложил предпазния колан, все пак колата се движи). Така трикомпонентната структура на правните норми се замества от технологично хипертрофирала диспозицията, която изчерпва реалността – посочените в кода (диспозиция) факти са единствените факти, с които разполагаме. Реализирането на изискваното от технологиите поведение е необходимо условие за възникването на нашите факти. “Правните последици” настъпват като единствено възможните последици в света на нормативните технологии. Хоризонтите на нашето съществуване стават изцяло зависими от нормативните алгоритми, вложени в заобикалящия ни свят.
Законите престават да съществуват в специални официални документи, обозначавани като източници на правото, и вместо това се депонират директно във вещите, с които взаимодействаме, под формата на нормативна архитектура на реалността. Нарушението става невъзможно. За целта може да бъде нормативно колонизирани не само заобикалящия ни физически или виртуален свят, но и самото човешко тяло30 – чрез поставянето на нормативни – било то соматични и неврологични импланти, които следят и контролират всички движения на тялото31, а защо не: и възможните състояния на мозъка. В неограниченото бъдеще на технологиите е възможна и стратегия, при която телата на хората са заместени от аватари, чиято виртуална реалност е подчинена на незаобиколими правила – правила, превърнали се в дизайн на реалността.
Сведените до код правни норми, разпръснати в средата и имплантирани в телата на хората, ще предопределят нашата реалност. Те могат да бъдат инсталирани в устройствата, чрез които взаимодействаме и управляваме своя свят. Колкото повече такива устройства са нормативно интелигентни и колкото повече мрежи те установяват помежду си, толкова по-сигурно, всъщност – толкова по-неизбежно, ще става прилагането на законите. В свят, управляван от интернет на нормите, не фактическото има нормативна сила32, а нормативното се е превърнало в фактическо и е изчерпало фактическото. Заличена е не просто граница, но и самата разлика между “е” и “трябва” – нормативното е реализирано без остатък, като всички онези, които някога са били “извън закона”, в света на технологичната нормативност ще останат “извън реалността”. Когато реалността е лишена от хетерогенност, хората изгубват статуса си на правни агенти. Съществена характеристика на едни от най-значимите за хората понятия, каквито са например справедливостта и доброто, е тяхната нееднозначност, изразяваща се в непрекъснатото им оспорване, преосмисляне и преоткриване – в рамките на различни взаимодействия и в различни ситуации. Кодирането на тези понятия в еднозначни команди и алгоритми отнема динамиката в съдържанието на тези понятия, а с това – и тяхната човешкост. Технологичната детерминираност е несъвместима с представата за гражданско общество.
Развитието на технологиите поставя в един общ контекст вече вълнуващият Европа въпрос за признаването на интелигентните роботи като правни субекти (“електронни лица”) и изглеждащото далеч бъдеще на нормативните технологии, които заличават правосубектността на човешките същества, като им отнемат възможността да не спазват закона. И двата въпроса поставят нови предизвикателства пред правото, отговорите на които най-вероятно ще изненадат и най-смело мислещите юристи.
Бележки под линия:
1 Точното наименование на проектодоклада е Draft Report with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) Committee on Legal Affairs. Пълният текст е достъпен на следния адрес: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-%2F%2FEP%2F%2FNONSGML%2BCOMPARL%2BPE-582.443%2B01%2BDOC%2BPDF%2BV0%2F%2FEN. Проектът бе гласуван и приет в пленарна зала от Европейския парламент през м. февруари 2017 г.
2 Разбира се, въпросът за правния статус на роботите е поставен в теорията много преди 2016 г. Вж. например Solum, L. Legal Personhood for Artificial Intelligences. // North Carolina Law Review, 1992, № 70, p. 1231-1287. Вж. също S. Wettig, E. Zehender A legal analysis of human and electronic agents. // Artificial Intelligence and Law, 2004, № 12, р. 111–135.
3 Вж. например “В ЕС предлагат роботите да бъдат признати за “електронни личности”” от 06.07.2016 г. (http://novinite.bg/articles/116579/V-ES-predlagat-robotite-da-badat-priznati-za-elektronni-lichnosti), както и “Роботите в Европа могат да станат „електронни граждани“” от 22.06.2016 г. (http://www.idg.bg/lifestyle/339825/robotite-v-evropa-mogat-da-stanat-elektronni-grazhdani?utm_source=feedburner&utm_medium=feed&utm_campaign=Feed%3A+IdgbgNews+%28IDG.BG+-+News%29). Посочва се и протеста на немските машиностроители и производители на промишлено оборудване, които смятат, че предложенията на Правната комисия са преждевременни – от тях ще има нужда след 50 години, и протекционистки – изцяло в полза на хората, и ще доведат до застой в развитието на роботехнологиите. Вж. “Роботите в Евросъюза ще бъдат признати за личности” от 25.06.2016 г. (http://www.memoriabg.com/2016/06/25/roboti-es-lichnosti/), както и първоизточника: Prodhan, G. Europe’s robots to become “electronic persons” under draft plan, публикувана на 21.06.2016 г. на следния адрес: http://www.reuters.com/article/us-europe-robotics-lawmaking-idUSKCN0Z72AY.
4 Вж. например “Доклад на ЕП предлага роботите да бъдат признати за електронни личности” от 27.06.2016 г. (http://www.bia-bg.com/dialog/view/new/22255/), както и “ЕП заключи: Роботите ще трябва да плащат данъци” от 22.06.2016 г. (https://money.bg/inovations/ep-zaklyuchi-robotite-shte-tryabva-da-plashtat-danatsi.html).
5 За тази идея вж. подробно Reed, H., S. Lansley Universal Basic Income: An idea whose time has come? London, 2016, достъпна на следния адрес: http://www.compassonline.org.uk/wp-content/uploads/2016/05/UniversalBasicIncomeByCompass-Spreads.pdf.
6 Вж. Salvini, P. RoboLaw deliverable D4.1 Taxonomy of Robotic Technologies, 2013 – текстът е достъпен на следния адрес: http://www.robolaw.eu/deliverables.htm.
7 Вж. Palmerini, E., F. Azzarri, F. Battaglia, A. Bertolini, A. Carnevale, J. Carpaneto, F. Cavallo, A. Carlo, M. Cempini, M. Controzzi, B-J. Koops, F. Lucivero, N. Mukerji, L. Nocco, A. Pirni, H. Shah, P. Salvini, M. Schellekens, K. Warwick Guidelines on Regulating Robotics от 22.09.2014, изготвени по проекта “Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics”, с. 16.
8 Вж. например Dong L., A. Subramanian, B.J. Nelson Carbon nanotubes for Nanorobotics. // Nanotoday, 2007, № 6, р. 12-21, както и Satyanarayana, T., R. Rai Nanotechnology: The future. // Journal of Interdisciplinary Dentistry, 2011, № 2, р. 93-100. Вж. също Gordijn, B., A. Cutter In Pursuit of Nanoethics: An Introduction. – In: Gordijn, B., A. Cutter (Eds) In Pursuit of Nanoethics. NY, 2014, p. 1-3.
9 Вж. например първата част на Nagenborg, M., R. Capurro, J. Weber, C. Pingel Ethical regulations on robotics in Europe. // AI & Society, 2008, № 3, p. 349–358.
10 Вж. Йотов, Ст. Човешкото достойнство и права. С. 2016, с. 55, където се предлага следната разлика между използваните в правото понятие “субект” и “лице”: “ако субектът е свързан с възможност за самоконтрол и авторство на действията изобщо, лицето е възможност за управление на задълженията – чрез самозадължаване и чрез задължаване на другите”.
11 Вж. Stavru, S. Why Will the Face Outlive the Body, or On the Technological Future of Human Embodiment? // Papers of BAS. Humanities and Social Sciences, 2015, № 1-2, с. 80-91.
12 Повечето от тези сценарии за “сближаване” между хора и роботи, както и възможните разминавания и свързаните с тях рискове, са изследвани във филмовото изкуство, като например във филмът “Her” (2013), както и в телевизионните сериали “Extant” (2014-2015), “Humans” (2015-) и “Westworld” (2016-).
13 Нека си спомним за различните роботи играчки, включително тамагочита, покемони и пр.
14 Вж. Wein, L. The Responsibility of Intelligent Artifacts: Toward an Automation Jurisprudence. // Harvard Journal of Law and Technology, 1992, № 6, р. 103.
15 За т. нар. базирана на науката регулация и регулативна технология вж. Jasanoff, S. The Fifth Branch. Science Advisers as Policymakers. Cambridge, 1990, р. 77-78. Ако подобна регулация произвежда и сертифицира познание, нормативната технология, за която ще стане дума по-долу произвежда и сертифицира позволена реалност.
16 Вж. Palmerini, E., F. Azzarri, F. Battaglia, A. Bertolini, A. Carnevale, J. Carpaneto, F. Cavallo, A. Carlo, M. Cempini, M. Controzzi, B-J. Koops, F. Lucivero, N. Mukerji, L. Nocco, A. Pirni, H. Shah, P. Salvini, M. Schellekens, K. Warwick Guidelines on Regulating Robotics от 22.09.2014, с. 14.
17 Вж. Hildebrandt, M. A Vision of Ambient Law. – In: Yeung, K., B-J. Koops (eds) Regulating Technologies. Legal Futures, Regulatory Frames and Technological Fixes. Oxford, 2008, р. 175-192.
18 Терминът е създаден по аналогия с т. нар. “заобикаляща интелигентност” (Ambient Intelligence): “заобикалящото право” е правото, което е впечатано в архитектурата на “заобикаляща интелигентност”.
19 Вж. Asscher, L., E. Dommering Code: Further Research. – In: Dommering, E., L. Asscher (eds) Coding Regulation. Essays on the Normative Role of Information Technology. The Hague, 2006, p. 251.
20 Вж. подробно например Ташев, Р. Обща теория на правото. Основни правни понятия. С., 2004, с. 129-133, както и Вълчев, Д. Лекции по обща теория на правото. 1 част. С., 2016, с. 158-164.
21 Възможността за избор на човека може да бъде осигурена чрез изключването на вложения в средата алгоритъм или чрез промяната на програмния код на вещите, с които взаимодействаме. И двете “освобождавания” на избора обаче изискват притежаването на “администраторски акаунт” в технологично регулираната реалност, което на свой ред поставя въпроса за разпределението на администраторските роли в технологичната нормативност.
22 Вж. Lessig, L. Code and Other Laws of Cyberspace. New York, 1999, р. 239. Авторът посочва, че свободата се конструира от структури, които запазват място за индивидуален избор, макар и този избор да бъде ограничен. В реалност, чиято архитектура не оставя място за избор, липсват и свободни човешки същества. Това е причината, поради която опитите да се легитимира технорегулацията преминават през откриването на пространства на избор при прилагането на нормативните технологии – вж. Brownsword, R. What the World Needs Now: Techno-Regulation, Human Rights and Human Dignity. – In: Brownsword, R. (ed) Global Governance and the Quest for Justice. Vol 4: Human Rights. Oxford, 2004, p. 230–232. На друго място същият автор разглежда прозрачността и отчетността като допълнителни средства, чрез които нормативната технология да бъде направена приемлива за хората. Вж. Brownsword, R. Code, Control, and Choice: Why East is East and West is West. // Legal Studies, 2005, № 21, р. 1–21. Прозрачността обаче се оказва непостижима в случаите, при които регулативните правила са се превърнали в характеристики на заобикалящите ни обекти и не се разпознават като правила, а се възприемат като факти. Именно в тази връзка се обосновава нов вид право – правото на обяснение (“right to explanation”) на вложените в една вещ или технология алгоритми, включително – на вложените в една вещ нормативни алгоритми. Вж. Sample, I. AI watchdog needed to regulate automated decision-making, say experts. // Guardian, 27 January 2017, достъпна на следния адрес: https://www.theguardian.com/technology/2017/jan/27/ai-artificial-intelligence-watchdog-needed-to-prevent-discriminatory-automated-decisions.
23 Други примери за вече налични технорегулации са самоуправляваща се кола, която не може да надвиши предвидената за съответната пътна зона максимална скорост, както и смартфон, който не може да избира определени номера. За приложимостта на технорегулативния подход при правната защита на интелектуалната собственост вж. Reidenberg, J. The Rule of Intellectual Property Law in the Internet Economy. // Houston Law Review, 2007, № 4, р. 1073–1095.
24 Вж. van den Berg, B., Leenes, R. Abort, Retry, Fail: Scoping Techno-Regulation and Other Techno-Effects. – In: Hildebrandt, M., J. Gaakeer (Eds.) Human Law and Computer Law: Comparative Perspectives, 2013, р. 67-87.
25 Вж. Lessig, L. The Law of the Horse: What Cyberlaw Might Teach. // Harvard Law Review, 1999, № 113, р. 501–546, както и Koops, B-J. Criteria for Normative Technology: The Acceptability of “Code as law” in Light of Democratic and Constitutional Values – In: Yeung, K., B-J. Koops (Eds) Regulating Technologies. Legal Futures, Regulatory Frames and Technological Fixes. Oxford, 2008, р. 158.
26 Възможна е аналогия с нормативните административни актове.
27 Тук е възможна аналогия с индивидуалните административни актове.
28 Или във виртуален – когато става въпрос за управление на виртуални пространства.
29 Вж. Kesan, J., R. Shah Deconstructing Code. // Yale Journal of Law and Technology, 2003-2004, № 6, р. 279.
30 За навлизането на имплантите в човешкото тяло и за необходимостта от специфична екология на тялото вж. Ставру, Ст. Екология на тялото – когато екзоскелетите станат импланти. – В: Маринова, Е. (съст.) Екологическа етика, природа и устойчиво развитие на България. Сборник статии. С., 2015, с. 248-263, достъпна и на следния адрес: https://www.challengingthelaw.com/veshtno-pravo/ekologia-na-tialoto/. Вж. също Roosendaal, A. Implants and Human Rights, in Particular Bodily Integrity. – In: Gasson, M., E. Kosta, D. Bowman (Eds) Human ICT Implants: Technical, Legal and Ethical Considerations. The Hague, 2012, p. 81-96.
31 Въпросите относно възможността имплантите да въздействат и подменят волята на ползващия ги човек вече се поставят – вж. Klaming, L., P. Haselager Did My Brain Implant Make Me Do It? Questions Raised by DBS Regarding Psychological Continuity, Responsibility for Action and Mental Competence. // Neuroethics, 2013, № 3, р. 527–539. За юридическата отговорност при причинени от импланти вреди вж. Roosendaal, A. Carrying Implants and Carrying Risks; Human ICT Implants and Liability. – In: Gasson, M., E. Kosta, D. Bowman (Eds) Human ICT Implants: Technical, Legal and Ethical Considerations. The Hague, 2012, p. 81-96.
32 Вж. Сталев, Ж. Нормативната сила на фактическото. С., 1997.
