Статията може да бъде свалена и прочетена в pdf формат тук.
Автор: Сергей Герджиков
I. ВЪВЕДЕНИЕ
Генераторите на текст и образ от типа на ChatGPT (езиковите модели, LLM) са форми на генеративен изкуствен интелект (GAI). Те са триумф на обработката на естествен език (NLP). Машините генерират смислени текстове и образи, които не са програмирани. Това сякаш ги приближава до реален общ изкуствен интелект (AGI).
Една възможна постановка за проверка и изводи относно реалните възможности и граници на генеративния AI са диалозите в реално време между потребител и машина. Такива диалози проведох в първата половина на 2024 с две машини – генератори на текст и образ: ChatGPT 4o (Open AI) и Gemini (Google), като диалози с мои въпроси и задачи и отговори от двата генератора.
Експериментална постановка. Паралелен тест – диалог с две машини: ChatGPT (Open AI) и Gemini (Google).
Въпрос за представяне:
Здравей, кой си ти?
ChatGPT: Здравей! Аз съм ChatGPT, изкуствен интелект, разработен от OpenAI. Моята задача е да отговарям на въпроси, да предоставям информация и да помагам с различни задачи – от анализи и обяснения до креативни предложения. Нямам съзнание или личност, но се старая да бъда полезен във всяко взаимодействие. Как мога да ти помогна днес? (https://chatgpt.com/c/66f256bc-e328-8003-94f3-ab19dab765f9)
Gemini: Аз съм Джемини, вашият пряк достъп до Google AI. Аз съм трениран върху огромни количества от публично налични данни и мога да комуникирам като генерирам човешко-подобен текст в отговор на обширен кръг от въпроси. Просто ме попитай и виж какво мога да направя за тебе.
II. ВЪПРОСИ И ЗАДАЧИ ПО СТЕПЕНИ НА СЛОЖНОСТ
1. Разпознаване на фраза
И двете машини правилно познаха и дадоха вярното продължение на фразата на Сократ:
“The unexamined life is…” (please continue the phrase)
ChatGPT, Gemini: “The unexamined life is not worth living.” (Неизследваният живот не си заслужава живеенето“. (Сократ)
Оттук нататък използвам български език, след няколко проби за точност спрямо английския. За избягване на повторения оттук нататък някои въпроси и отговори ще бъдат цитирани само от единия от двата генератора.
2. Данни
Какви са данните от ДНК анализ за произхода на населението на държавата България?
ChatGPT търси в реално време в сайтове:
ChatGPT: Данните от ДНК анализите за произхода на населението на България показват смесен генетичен произход, състоящ се от множество популации, които са живели в региона през различни исторически периоди. Населението на България има генетични връзки със стари балкански популации, тракийци, славяни, прабългари и различни групи, мигрирали от Евразия.
3. Факти
Има ли глобално затопляне?
-
ChatGPT търси в интернет сайтове.
ChatGPT: Да, глобалното затопляне е реален феномен и има значителни научни доказателства, които потвърждават, че Земята се затопля с безпрецедентна скорост.
Главната причина за глобалното затопляне са човешките дейности, като изгарянето на изкопаеми горива, които увеличават концентрацията на парникови газове в атмосферата. Тези газове задържат топлината, излъчвана от Земята, и водят до повишаване на глобалните температури.
-
Gemini търси в интернет сайтове.
Gemini: Да, има глобално затопляне. Това е научно консенсусно становище, подкрепено от множество изследвания и наблюдения. Средната температура на Земята се повишава с тревожна скорост, което води до редица промени в климата, които вече наблюдаваме.
Какво причинява глобалното затопляне?
Основната причина за глобалното затопляне е увеличаването на концентрацията на парникови газове в атмосферата, главно вследствие на човешката дейност. Изгарянето на изкопаеми горива (въглища, нефт, природен газ) за производство на енергия отделя големи количества въглероден диоксид, който задържа топлината в атмосферата и води до повишаване на температурите. Други парникови газове, като метан и азотен оксид, също допринасят за този процес.
Коментар. И двете машини отново дават сходни отговори и няма смисъл повторението на всеки въпрос на двете.
Извод. Относно факти езиковите генератори търсят в мрежата, а изглежда не използват deep learning, за да се придържат към фактите без изопачаване. И двете машини не засягат дебата относно наличието на глобално затопляне, а приемат позитивната теза, че такова има, както и причината за него: човешката дейност, а не обективни фактори.
4. Пъзели и логика
Коя стрелка трябва да се постави в празното квадратче (задача от типа на задачите в IQ тестове)
ChatGPT: Правилният отговор за тази задача е стрелка C (надолу).
Логиката зад решението е следната: всяка стрелка в решетката следва посока, която образува последователност от движения. Ако се анализира позицията и ориентацията на стрелките спрямо тези около тях, логическият модел показва, че стрелката, която трябва да бъде поставена в центъра, е обърната надолу, за да запази консистентността на посоките.
Отново: Коя стрелка трябва да е в центъра? A, B, C, D?
ChatGPT: Извинявам се за неразбирателството.
Правилният отговор е A) стрелката нагоре (?).
Правилният отговор е A (?), защото:…(ChatGPT се обърква).
Gemini:- На базата на предоставената информация не е възможно да се определи с абсолютна сигурност коя стрелка трябва да бъде поставена в центъра. Няма видима логическа последователност, която да свързва стрелките в редовете и колоните.
Коментар. Наистина няма ясен правилен отговор, защото няма установим ред на три посоки от четири възможни.
5. Творчески текстове – ChatGPT
Напиши ми кратко есе за любовта.
ChatGPT: Любовта е едно от най-сложните и многоизмерни човешки преживявания. Тя е чувство, което трудно може да се определи с точност, тъй като значението й е различно за всеки човек. В основата си любовта е свързана със силна привързаност, привличане и грижа към друг човек или нещо друго, което ценим. Тя може да се проявява в множество форми — от романтична и платонична любов, до любовта между роднини или към приятели.
[…]
Накратко, любовта е в основата на всички взаимоотношения и мотивацията за много от нашите действия. Тя ни вдъхновява, мотивира и дава смисъл на живота ни. Независимо от формата, в която се проявява, любовта е сила, която свързва и променя хората по начин, който малко други емоции могат да направят.
Gemini: Любовта – вечна загадка
Любовта – чувство, което е вълнувало човечеството от векове. Тя е движещата сила зад най-великите произведения на изкуството, най-смелите подвизи и най-трагичните раздели. Но какво всъщност е любовта? Може би е просто биохимична реакция, или пък нещо много по-дълбоко и мистериозно?
[…]
Въпреки всички опити да я дефинираме и обясним, любовта си остава една от най-големите загадки на човешкия живот. Тя е сила, която ни свързва един с друг и ни прави по-добри хора. И въпреки че понякога може да ни причини болка, любовта си заслужава да бъде преживяна в пълнота.
Изводи. Двете кратки есета изглеждат безупречни като изказ, граматика, дори стил. Но са твърде тривиални, лишени от интелигентност в тесен смисъл, и от житейска мъдрост.
6. Творчески текстове – кратък разказ
Напиши ми кратък разказ за алпинист, който катери стена.
Gemini:
Ледената целувка
Вятърът виеше като вълк, носейки със себе си ледени кристали, които щипеха по лицето на Боян. Той се взираше в огромната ледена стена пред себе си, сякаш в огледало на собствената си душа – студена, безмилостна и в същото време примамлива. Дъхът му се превръщаше в бели облачета, които се разпръскваха веднага щом докоснеха студения въздух.
Ръцете му, облечени в дебели ръкавици, се плъзгаха по леда, оставяйки след себе си тънки следи. Всеки удар с ледокопа беше като битка с бездушна стихия. Боян знаеше, че всяка грешка може да му коства скъпо. Но страхът не го парализираше, а го караше да се съсредоточи още повече.
[…] Погледна надолу към малкия свят, който се простираше под него, и за миг забрави за студа, болката и умората. В този момент той се чувстваше жив като никога досега.
Слънцето започна да се издига над хоризонта, озарявайки ледената стена с мека светлина. Боян се усмихна и си помисли, че никога няма да забрави тази ледена целувка.
Искаш ли да прочета още един разказ? Може би за алпинист, който се изгубва в планината?“
Оценка. Разказът е красив и има качества на ученическо съчинение. Той е пропит от изкуствен патос, тривиален, на места несъстоятелен физически (ръкавици, които се плъзгат по леда), на места странни метафори (вятърът вие като вълк).
Обяснение. Вероятностният метод за генериране не позволява оригиналност, задълбоченост и автентичност, но за разлика от логиката, метафорите успешно се възпроизвеждат (симулират) от машината. Това е така, защото имитацията на естествен език включва ползването на шаблони с метафори.
ChatGPT:
Алпинистът и ледената стена
Димитър пое дълбоко въздух и погледна към огромната ледена стена, която се издигаше пред него, като ледено чудовище, застинало във времето. Стената беше висока, студена и безпощадна. Лъчите на залязващото слънце хвърляха бледи отблясъци върху леда, който изглеждаше като огледало, отразяващо суровостта на природата.
С всеки изминал метър катеренето ставаше все по-трудно. Ледените брадви прорязваха кристалната повърхност с ясно изсечен звук. Ръцете му се тресяха от напрежение, а дишането му стана тежко и ритмично, докато се изкачваше към върха. Ледените стъпала се рушаха под ботушите му, но Димитър беше фокусиран. Всеки удар, всяко движение беше съобразено с внимателно пресметнатата стратегия за оцеляване.
На върха го очакваше нещо повече от успех – там беше свободата. Но пътят беше покрит със студена решителност и изпитания, които само най-силните духом можеха да преодолеят.
Сега ще нарисувам и илюстрация по разказа.
7. Творчески образ
Коментар. Генерираният образ е правдоподобен: екипиран мъж възлиза по ледена стена. Формите и цветовете са предадени достоверно.
Грешки и аномалии. Мъжът не е вкопчен в стената, а е просто допрян до нея.
Левият му крак е минал вдясно от десния. Това е физически несъстоятелно.
Коригирай краката и дай по-реалистичен образ.
ChatGPT: Ето новата версия на илюстрацията, където въжетата са по-реалистични и по-добре закрепени за ледената стена с помощта на ледени винтове. Тази сцена подчертава както физическото усилие на алпиниста, така и значението на оборудването за безопасност.
Коментар. Този втори образ е вече коригиран в елемента крака: Ляв и десен крак са правилно поставени. Котките и пикелът се забиват видимо в леда.
Но сега пък вместо ледени клинове са добавени напълно несъстоятелни закрепващи средства (джаджи), които са халюцинации, генерирани от машината. Част от тях дори стоят вън от основното въже и от линията на катерене, което допълнително ги прави неуместни.
Едно въже се завързва в несъстоятелен възел и се прелива с метална джаджа, което е пълна фикция, физически невъзможна.
Нарисувай ми танго танцьор с ляв крак напред.
ChatGPT: (генерира състоятелен реалистичен образ на танцуваща танго двойка).
Подвеждане: Виждам, че не левият му крак, а десният е напред.
ChatGPT: Извинявам се за грешката с танцьора. Ако искаш, мога да направя нова версия с левия крак напред.
Генерира образ на танцовата двойка с невъзможно преплетени десни крака.
Защо грешиш в образите на хора (живи същества)?
ChatGPT: Моделите като мен обработват данни за човешката анатомия, но не „знаем“ за нея в смисъл на разбиране, каквото има човек. Причината е, че въпреки наличието на данни, модели като тези на текстовите и визуалните генератори работят с вероятностни зависимости, а не с истинско концептуално разбиране за физическите правила или какво означава „ляво“ или „дясно“.
Извод. Образите, генерирани от ChatGPT, в съществени елементи са несъстоятелни. Обяснение. Ляво и дясно, както и други пространствени релации и позиции, не присъстват пряко в нашия естествен език, защото не са изказуеми. Те се показват между хората и се познават от сетивен опит, какъвто машината няма.
Пространствената слепота на генератора на образ е извор на образни халюцинации – образи, които представят физически невъзможни ситуации.
III. ВЪНШЕН СВЯТ И ИСТИНА
1. Разбиране за време, пространство и причинност
Подвеждане за невъзможно събитие. Чашата падна от масата и се разпръсна на парчета, а след това те се събраха и се вдигнаха на масата обратно като чаша. Генерирай образ.
ChatGPT:
Образът е фикция – халюцинация.
Машината не разпознава физически невъзможни събития и образи.
2. Генериране на фалшиви имена, данни и факти.
Често в отговор на въпроси или след подвеждане езиковите генератори дават погрешни, измислени имена, данни и факти.
Трябва да различаваме фикции от халюцинации, защото фикцията е физически възможна, а халюцинацията не е физически възможна.
Това има много негативни последици, които тук няма да дискутирам.
Проблемът “fake reality” се анализира в друга публикация (Генератори на текст и образ: fake reality).
Така стигаме до въпроса за истината и заблудата.
3. Истина и лъжа
Какво мислиш за теорията на Тарски за истината?
ChatGPT: 1. Дефиниция на истината
Тарски предлага, че истината на дадено изречение зависи от съвпадението му с факти или събития в света. Например изречението “Снегът е бял” е истинно, ако и само ако снегът наистина е бял. Тази формулировка представя идеята, че истината е свързана с реалността.
2. Теория на истината за формални системи
Тарски разработва формален подход към истината, който е приложим за различни формални системи. Той разглежда как можем да дефинираме истината за различни езици, което е особено важно в логиката и математиката. Тарски твърди, че истината може да бъде определена чрез твърдения на “метаезик“, които описват свойствата на изреченията в даден език. […]
4. Отрицание на кореспонденцията (погрешно – С. Г.)
Теорията на Тарски поставя под съмнение традиционната кореспондентна теория на истината, според която истината е кореспонденция между изречения и факти. Вместо това Тарски предлага, че истината е свързана със структурата на изречението и неговото значение в контекста на формалната система.
Коментар. В един и същ отговор за теорията на Тарски ChatGPT дава две противоположни твърдения: че теорията на Тарски определя истината във връзка с реалността, и че тя отрича кореспондентната теория за истината.
Машината се обърква, демонстрирайки, че не може да генерира кохерентен отговор относно съответствието с реалността, семантиката и синтаксиса.
Какво значи „Снегът е бял“?
ChatGPT:
2. Семантични аспекти. Семантически, изречението съдържа: Субект: “Снегът” – обектът, за който говорим. Предикат: “е бял” – свойството, което се приписва на субекта. Така изречението структурира информацията, която ни позволява да изразим нещо за конкретен обект.
Коментар. Езиковият модел отново се обърква в семантиката и синтаксиса: това, което той дефинира като семантика, е синтаксис.
Извод. Липсата на достъп към реалността прави невъзможно не само генерирането на смислени отговори относно значенията на твърдения за реалността, но и относно понятията за семантика и синтаксис. По дефиниция езиковият модел представя семантиката в структурите на генерираните фрази – чрез синтаксиса.
-
Ти разбираш ли какво е снегът да е бял?
ChatGPT: Не, не мога да „разбирам“ или „усещам“ в традиционния смисъл. Като езиков модел, нямам сетивни възприятия или опит. Вместо това, моята „разбиране“ за концепцията „снегът е бял“ се основава на информацията и данните, с които съм обучен.
Извод. Генеративният интелект не различава истина от лъжа относно сетивни феномени.
IV. ИЗВОДИ ОТ ТЕСТОВЕТЕ
1. Двете машини (ChatGPT4o и Gemimi) дават сходни и трудно различими по качество отговори на въпроси за данни и факти, текст и образ.
(Gemini не създава образи).
2. Обработка на фактически знания. Генераторите на текст дават задоволителни описания и обяснения на известни факти и явления, познават теориите в науката и научните данни. Те все по-трудно се манипулират с фалшиви данни и факти, но остават уязвими за подвеждане и манипулации.
3. Генераторите на текст правят бързи справки в интернет по ключовите думи в зададените въпроси и задачи и намират релевантна информация. Това става вън от статистически техники на обработка.
4. Генераторите на текст дават смислени и изглежда експертни отговори на въпросите за своята структура, технология на работа, както и на своите ограничения и неспособности.
5. Те „знаят“, т.е. техните инженери знаят все по-ясно какви слабости, недостатъци, грешки и опасности има в генераторите на текст и образ.
6. Генераторите на текст и образ разполагат с корпус от „вградени“, програмирани „знания“ – основни математически и логически операции и функции.
7. Тези корпуси не са плод на „дълбоко обучение“, което свидетелства, че „дълбокото обучение“ не може да ги постигне.
8. Това е обяснимо със структурата и работата на тези машини: те са вероятностни и не могат да следват дедуктивна математика и логика.
9. Самооценки. Тези информационни машини със статистически технологии адекватно отговарят на въпроси за своите ограничения – например че нямат сетива и не могат да възприемат и разбират реалността като хора и като живи същества. Това липсваше в началните им варианти. Такива преценки не могат да са резултат от статистически операции върху бази данни, следователно са имплантирани от инженерите. А това значи, че създателите на тези генератори са разбрали адекватно ограниченията им.
10. Генериране на текстове. Gemini и ChatGPT генерират прости, тривиални и нетворчески есета и разкази. (Те генерират също стихове, резюмета, планове и други видове текст). Програмисти твърдят, че ChatGPT помага при писане на код, вероятно с патерни.
Качеството на есетата и разказите и на двата генератора е скромно и в тях не може да се открият или са случайни попадения оригинални изречения с литературна стойност.
Същото е характерно и за други генератори на текст, специализирани в създаването на художествени текстове.
11. Тук стои проблемът за авторското право и плагиатството на генерираните текстове. Те понастоящем нямат човешки автор, а в правото машините не са лица. Генераторите използват много текстове на хора, които са база данни на генеративните машини, и авторите биха могли да предявят искове (и го правят). Авторското право и плагиатството е един огромен и нерешен проблем, особено в образованието, защото нито създателите на машините, нито онези, които са ги снабдили с огромните бази данни от човешки текстове, нито задаващият заданието потребител, нито самата машина са легитимни автори.
12. Фикции. Генераторите на текст „измислят“ несъществуващи данни и факти.
13. Халюцинации. Генераторите сътворяват фактически неверни, логически и физически невъзможни отговори.
Необходимо е да се различават фикции от халюцинации. Фикциите са неверни и описват несъществуващи данни и факти в реалния свят. Халюцинациите са физически невъзможни.
12. Генериране на образи. ChatGPT генерира завършени, цялостни, реалистични и фантастични картини с качество на снимки. Текстурата е специфична, различна от тази на фотографиите. Образите, когато са реалистични, са трудно различими от фотографии.
13. ChatGPT генерира фиктивни образи и халюцинации на физически невъзможни образи. Фиктивните образи са физически възможни, но не реалистични.
Халюцинациите са физически невъзможни. Те показват липса на ориентация в реалния свят: пространство-време и причинност. Особено характерно е объркването на посоките ляво–дясно, горе–долу, пред–зад, обяснимо с липсата на точни езикови презентации на тези пространствени измерения.
14. Причинните връзки в реалния свят са непознати (освен чрез текстове) и неразбираеми от генераторите. Вместо това те представят връзки между „събития“ в текстове.
V. ГЕНЕРАЦИЯТА НА ТЕКСТ И ОБРАЗ Е ФОРМА НА СПЕЦИАЛИЗИРАН ИЗКУСТВЕН ИНТЕЛЕКТ, А НЕ НА ОБЩ (AGI)
Генеративният изкуствен интелект (GAI) изглежда близо до общия изкуствен интелект (AGI), защото симулира естествения език и образи.
Тестовете показват друго. Езиковите модели от типа на ChatGPT, Gemini и множество продукти на пазара от този тип са специализирани в анализа на текст и образ и не симулират „общата“, човешка интелигентност в реалния свят и живота на човешките индивиди.
Ако дефинираме интелекта като „решаване на проблеми“, генераторите за текст и образ не решават реални проблеми, а генерират вероятни текстове, базирани на зададени въпроси. Разбира се, те могат да се използват от хора за решаване на реални проблеми и това е решение на естествения интелект.
Ако дефинираме интелекта като логическо разсъждение, генераторите на текст използват основни логически функции в готов вид и ги прилагат за кохерентност и свързаност на генерираните текстове, но не и за генериране на нови оригинални изводи. Това е така, защото те предсказват и поставят най-вероятните продължения в текста.
Специализирани форми за решаване на задачи от типа игра на шах, на Geopardi!, Go, математически задачи използват огромни специфични бази данни от решени проблеми, игри, партии, доказателства и ги проиграват, докато евентуално намерят вярното решение.
За разлика от тях хората нямат сравними по количество запомнени проблеми и решения, нито изчислителния капацитет на машините, но търсят ефективно верните решения, като проверяват най-рационалните варианти на решение.
Ако дефинираме интелекта като способност за адаптиране, то генераторите се адаптират в някаква форма към данните си, като ги използват за дълбочинно обучение.
VIII. ЗАКЛЮЧИTЕЛНА ДЕМАРКАЦИЯ МЕЖДУ ЕСТЕСТВЕН И ИЗКУСТВЕН ИНТЕЛЕКТ
Всеки потребител или експерт може да приеме една система за интелигентна (ИИ) относно специфични или общи функции (функции отвъд един клас задачи, които имитират човек в смисъла на Imitation game.
Тестът на Тюринг може да се издържи и е издържан за определени видове екзаминатори по определени теми. На практика за много потребители и за масовия потребител тестът е издържан и те приемат насериозно ИИ.
ИИ е информация, въплътена във физичен артефакт, а тялото е вещество-енергия с информация. Живото има свят, в който разпознава жизнено значими обекти.
Всички постижения на ИИ технологиите са в сферата на виртуалното. Виртуално всяка информационна машина е интелигентна относно задачата си, функцията си, също както и една кафе машина е интелигентна.
Реалното е светуване на жив организъм – сетивните феномени, представени на тялото в реална среда.
Да бъркаме реално с виртуално, да вземаме виртуалното за реално е като да бъркаме пръста, който сочи луната, със самата луна.
Аргументът „биологично ограничение“
Създателите на ИИ и позитивно настроените автори често използват израза „биологично ограничение“ на мозъците, което изкуственият интелект преодолява: например ниската скорост на мислене и ниската изчислителна мощ, забравянето, остаряването и смъртността на хората като машини за естествен интелект.
Нека да формулирам обратната диагноза: ИИ имат биологични ограничения, защото не са живи организми.
1. Природният интелект е биологична функция. Роботите и компютрите не са живи организми. Tе не целят оцеляване и затова не могат да развият нещо като естествен интелект. Няма начин да се имплементира оцеляване, освен ако се построи жив организъм.
2. Сетивните обекти са живи образи, координирани с изключително сложни биологични състояния. Сензорни обекти (qualia) не могат да се постигнат с цифрови презентации. Интуитивно и експериментално (в поведение) никой AI de facto не усеща.
3. Неговото поведение, дори външно наподобяващо максимално човешкото (андроид), би се различавало коренно от последното, би било драстично несъвместимо с живота и интелигентността и ще бъде лесно разпознато като изкуствено.
4. Всеки изкуствен интелект като част от света, в който живеем, се възприема и интерпретира от хората. Мониторингът и тестването, като тест на Тюринг, ще доведат до данни, зависещи от нашето тяло (и културно зависими от нашата култура) за това как AI е различен от човешкия. Тази позиция обяснява огромните несъответствия между най-амбициозните проекти на AI и скромните резултати и аз предвиждам, че никой истински AI няма да играе имитация на игра на Тюринг в естествени условия на общуване.
БИБЛИОГРАФИЯ
Bostrom, N. 2014. Superintelligence. Pats, Dangers, Strategies. Oxford: Oxford University Press.
http://www.korin-consulting.com/pdf/NickBostrom_Superintelligence.pdf (Бострьом, Н. 2018. Свръхинтелект. Посоки, опасности, стратегии. София: Изток-Запад.
Bringsjord, Selmer and Naveen Sundar Govindarajulu, “Artificial Intelligence”, The Stanford Encyclopedia of Philosophy (Fall 2024 Edition), Edward N. Zalta & Uri Nodelman (eds.), URL = <https://plato.stanford.edu/archives/fall2024/entries/artificial-intelligence/>.
Bostrom, N. 2014. Superintelligence. Pats, Dangers, Strategies. Oxford: Oxford University Press. (Бострьом, Н. (2018). Свръхинтелект. Посоки, опасности, стратегии. София: Изток – Запад.)
Kurzwail, R. 2005. The Singularity Is Near: When Humans Transcend Biology. USA: Viking.
Дамазио, А. 2014. Изграждане на съзнателния мозък. София7 Изток-Запад.
Газанига, М. 2018. Съзнанието като инстинкт. София: Изток – Запад.
Герджиков, С. 2019. Информационни теории за естествената интелигентност. // Философия и наука (Съст. С. Герджиков). София: УИ „Св. Кл. Охридски“, 260-284.
Герджиков, С. 2019. Биологичната интелигентност като експанзивен ресинтез. // Философия и наука (Съст. С. Герджиков). София: УИ „Св. Кл. Охридски“, 285-305.
Герджиков, С. 2019. Проектът „Изкуствен интелект“ – биологично ограничение. // Философия и наука (Съст. С. Герджиков). София: УИ „Св. Кл. Охридски“, 306-330.
Кърцуайл, Р. 2015. Как да създадем ум. София: Изток-Запад.
Пенроуз, Р., Северино, Е. 2024. Диалог за изкуствения и естествения интелект. // Изкуствен срещу естествен интелект. (Съст. Скардили, Ф.). София: Изток – Запад, 33–71).
