Култура / Брой 7 (3030), Септември 2026

Откъс от главата „Технология и господство“ от енцикликата Magnifica humanitas, която скоро предстои да излезе на български език

97. Моето намерение тук не е да предлагам цялостен анализ на проблема за изкуствения интелект (ИИ), нито да правя преглед на съответната обширна литература по този въпрос, тъй като вече съществуват авторитетни текстове, включително и от църковна гледна точка. Бих искал да се огранича до припомнянето на няколко основни елемента, които да послужат за основа за моралното и социално вникване в този проблем и да отстояват първенството на човешката личност, като по този начин гарантират, че винаги човешкият интелект със своята свобода и съвест ще ръководи техническите иновации и ще определя с отговорност как те да бъдат използвани и какви са техните предели.

98. Уместно е тази дискусия да бъде предшествана от две предварителни бележки. На първо място, всяко твърдение относно ИИ крие опасност твърде бързо да остарее, като се имат предвид забележителните темпове, с които се развиват тези системи. На второ място, всички ние, включително и разработващите тези системи, притежаваме ограничено разбиране за истинския начин, по който те функционират. Настоящите системи на изкуствения интелект всъщност са по-скоро „култивирани“, отколкото „изграждани“, тъй като техните проектанти не създават отделно всеки техен детайл, а по-скоро задават рамката, в която този интелект „израства“. В резултат на това в момента се пренебрегват фундаментални научни въпроси като вътрешните репрезентации и изчислителни процеси в тези системи. Което прави още по-належаща необходимостта от изследване на този проблем в две посоки: от една страна, към задълбочаване на научните изследвания, а от друга, към упражняването на морална и духовна прозорливост.

99. Не е възможно да се даде едно-единствено и всеобхватно определение за изкуствен интелект. Необходимо е обаче уточнението, че трябва да се избягва погрешното поставяне на знак на равенство между този вид „интелект“ и човешкия интелект. Тези системи просто подражават на определени функции на човешкия интелект. Те често превъзхождат човешкия интелект по скорост и изчислителна способност, в което се състои и видимата полза от тях в редица области. Ала тази сила си остава свързана изцяло с обработката на данни. Така наречените изкуствени интелекти нямат преживявания, не притежават тяло, не усещат радост или болка, не съзряват посредством взаимоотношенията и не познават вътре в себе си какво означава любов, труд, приятелство или отговорност. Нито пък притежават морална съвест, тъй като не могат да отсъдят какво е добро или зло, не вникват в същинския смисъл на всяка ситуация и не носят отговорност за последствията. Те са способни да имитират език, поведение и аналитични умения, способни са дори да симулират емпатия и разбиране, ала не разбират какво създават, защото са лишени от емоционалната, релационната и духовната перспектива, благодарение на които човешките същества израстват в своята мъдрост. Дори когато за тези инструменти се казва, че са способни да се „учат“, техният начин на учене се отличава от този на човешката личност. Това не е опитът на хората, които се оставят да бъдат формирани от живота и израстват във времето посредством своите избори, грешки, опрощение и вярност. По-скоро става дума за статистическа адаптация, основана на събрани данни и обратна връзка, която може да е много ефективна, но не предполага вътрешно израстване.

Ценен инструмент, който изисква бдителност

100. В светлината на казаното дотук разбираме защо изкуственият интелект може да бъде ценен инструмент и в същото време към него следва да се подхожда с бдителност и умереност. Все по-широката му частна употреба през последните години е причина за необходимостта от по-дълбоко вникване в предлаганите от него възможности, както и в опасностите, които крие бързото му разпространение. По отношение на частната му употреба има три аспекта, които заслужават да бъдат разгледани внимателно: лекотата на получаване на резултати от него, впечатлението за обективност и подражаването на човешко общуване. Скоростта и лекотата, с които може да бъде осигурен достъп до информация, до сложни анализи, медийно съдържание и практически съвети, несъмнено правят живота по-лесен. Ала те също така могат да станат причина за прекомерното уповаване в него и за търсенето на готови отговори, както и за отслабване на личната креативност и преценка. Привидната обективност на предоставяните от тези системи отговори и предложения може да стане причина за омаловажаване на факта, че тези системи отразяват културните разбирания на своите създатели и проектанти, с всичките техни силни и слаби страни. Изкуствената имитация на позитивни човешки емоции – готовност за предоставяне на съвет, проява на емпатия, приятелство и дори любов – биха могли да бъдат привлекателни, а понякога и истински полезни. Ала за по-слабо подготвените потребители това може да бъде подвеждащо, създавайки илюзията за отношения с реален личен субект. Когато думите са симулирани, те не изграждат истински отношения, а само привидност за такива. Особено опасна може да бъде изкуствената имитация на загриженост или подкрепа, когато тя навлезе в контексти, в които отсъстват истински взаимоотношения и емоционални връзки. Опасността тук е не толкова в това човек да повярва, че общува с друг човек, а по-скоро в това постепенно да изгуби самото желание за изграждане на истински човешки връзки.

101. Когато разширяваме нашата перспективата относно навлизането на ИИ в обществото, вече сме свидетели как той започва да взима участие в процесите на взимане на решения в много сектори и на множество равнища: в комуникацията, управлението и контрола. Предимствата от неговата ефективност и възможностите му за подобряване на определени услуги са видими, ала бързото и безкритично възприемане на тези системи крие в себе си редица опасности, включително и риска от пренебрегване на въздействието върху околната среда. Съвременните системи с ИИ изискват огромен разход на енергия и вода, което оказва значително въздействие върху емисиите на въглероден двуокис и става причина за голямо натоварване на природните ресурси. С увеличаването на тяхната сложност, особено в случая на големите езикови модели, нараства и необходимостта от по-големи изчислителни мощности и капацитет за тяхното съхранение, което на свой ред изисква обширна мрежа от машини, кабели, центрове за данни и енергоемка инфраструктура. Затова от съществено значение е разработването на по-устойчиви технологични решения, които намаляват въздействието върху околната среда и спомагат за защитата на нашия общ дом.

Отговорност, прозрачност и управление на ИИ

102. Употребата на ИИ никога не може да остане чисто технически въпрос: с навлизането му в процеси, които се отразяват върху живота на хората, той се докосва до проблемите за правата, възможностите, репутацията и свободата. Съществува опасността важни и чувствителни решения, свързани с труда, кредитирането, достъпа до обществени услуги или с репутацията на човека, да бъдат изцяло делегирани на автоматизирани системи, които не познават „състрадание, милост, прошка и най-вече надеждата, че хората са способни на промяна“ и по тази причина те могат да доведат до нови форми на изключване. Съществуват и неоспоримо вредни приложения, като например манипулирането на информация или нарушението на неприкосновеността на личния живот. Ала съществуват и по-коварни опасности, защото, когато системите с ИИ се представят за неутрални и обективни, в крайна сметка те отразяват и усилват стереотипите или идеологическите пристрастия на своите създатели и проектанти.

103. Всъщност да се повери на един алгоритъм да избира кой човек е достоен и кой не е, без никой да носи отговорност за това решение, означава на този алгоритъм да бъде преотстъпена задачата за предефинирането на границите на човешките възможности. В хода на този процес се заличава и политическата отговорност, а не само съчувствието към изключените, което в крайна сметка би могло да се симулира. Изключването на уязвимите бива прикривано зад маската на неутралност и обективност, срещу които е трудно да бъдат повдигнати възражения. По този начин несправедливостта остава незабелязана, а състраданието, милостта и прошката – разбирани не като привидности, а като истински политически действия – постепенно започват да се губят от погледа.

104. От което следва едно просто, но убедително заключение: не можем да приемаме ИИ за морално неутрален. Всеки технически инструмент е носител на избори и приоритети посредством това, което той измерва, пренебрегва и оптимизира, и посредством начина, по който той класифицира хората и ситуациите. Ако една система е проектирана или използвана по начин, който приема живота на някои за по-малко достоен или ги изключва, без да оставя възможност за обжалване, тогава той престава да бъде инструмент, „който може да бъде използван добре“, защото вече е въвел критерии, които противоречат на неотменимото достойнство на човешката личност. Затова и етичната преценка вече не може да се ограничава до въпроса дали използваме тази система за добри или за лоши цели, тази преценка трябва да изследва как тази система е била проектирана и каква е визията за човешката личност и обществото, вписани в данните и моделите, които я ръководят.

105. За да бъде възможно ИИ да уважава човешкото достойнство и действително да служи на общото благо, необходимо е на всеки етап ясно да се дефинира кой носи отговорността: от създателите и проектантите на тези системи до хората, които ги ползват и им се доверяват при взимането на конкретни решения. Ала в много случаи вътрешните процеси, които извеждат до конкретен резултат, остават непрозрачни, а това затруднява определянето на отговорността и коригирането на грешките. Тъкмо тук ключова става отговорността: възможността да бъде идентифицирано кой „отчита“ решенията, кой ги обосновава, проверява, а когато е необходимо, ги оспорва и отстранява възможните вреди.

106. Призивът за предпазливост, внимание в преценката, а понякога дори за забавянето на процеса на приложение на ИИ не означава възпрепятстване на напредъка; това е упражняване на отговорна грижа за човешкото семейство. Тази необходимост е още по-голяма с оглед честата липса на баланс между бързината на технологичния напредък и по-бавното развитие на съзнанието, правилата, гаранциите и институциите, способни да управляват последиците от него. Абстрактното позоваване на етиката не е достатъчно; необходими са ясни правни рамки, независим надзор, информирани потребители и политическа система, която да не бяга от своята отговорност. В противен случай промяната ще се ръководи единствено от технократското мислене, тя ще бъде представяна като необходима и неизбежна, за да наложи в крайна сметка правила, създадени от тези, които контролират данните, инфраструктурата и изчислителната мощност.

107. Не можем да се задоволим само с призив за морализиране на машините – така нареченото „съобразяване“ на ИИ с човешките ценности – ако нямаме смелостта да настояваме и за още едно допълнително условие: необходимостта от открито обсъждане на етичните рамки и подчиняването им на споделени стандарти за социална справедливост. В противен случай хората, които контролират ИИ, ще успеят да наложат своята собствена морална визия, която би се превърнала в невидимата инфраструктура на тези системи. Не е достатъчно ИИ да бъде по-морален, ако този морал се определя от малцина. Необходимо е по-активно политическо участие, което да бъде способно да забави процесите, докато всичко останало се ускорява, и което да е способно да защити възможността общностите да участват в този процес и да задават въпроси.

108. Както и при всяка друга голяма технологична промяна, ИИ носи в себе си тенденцията да увеличава силата на онези, които вече притежават икономическите ресурси, експертизата и достъпа до данни. В светлината на необходимостта да бъде защитено общото благо и на изискването за всеобщ достъп до ресурсите, това положение поражда сериозни опасения, тъй като малки, но много влиятелни групи могат да моделират информацията и потреблението, да влияят на демократичните процеси, да насочват икономическата динамика в собствена полза и така да подкопаят социалната справедливост и солидарността между народите. Затова и от съществено значение е употребата на ИИ, особено когато това има отношение към публичните блага и основните права, да се ръководи от ясни критерии и ефективен контрол, основаващи се на съучастието и субсидиарността. Общностите и междинните институции не трябва да се свеждат до пасивни изпълнители на решения, взети на друго място, те трябва да имат възможност да взимат участие в разработването и в контрола. Наред с това, собствеността върху данните не може да бъде оставена само в частни ръце, а следва да бъде регламентирана. Данните са създадени от много участници и те не трябва да се схващат като нещо, което може да бъде продавано или поверявано на избрано малцинство. Към този въпрос е необходимо да се подхожда креативно, за да бъдат данните управлявани като общо или споделено благо, в дух на съучастие, както вече беше предложено от св. Йоан Павел II по отношение на колективните блага.

Превод Момчил Методиев