Култура / Брой 1 (3004), Януари 2024

През май 2023 г. над 350 мениджъри, изследователи и учени се подписаха под обща позиция, в която предупредиха за екзистенциалните опасности, произтичащи от изкуствения интелект (ИИ). Малко преди това бе разпространено и друго отворено писмо, подписано от фигури като Илън Мъск и Стив Возняк, в което се настоява за шестмесечен мораториум върху разработването на още по-мощни системи за ИИ. Междувременно администрацията на Джо Байдън призова за отговорно създаване на иновации в областта на ИИ, заявявайки, че „за да се възползваме от възможностите, първо трябва да управляваме свързаните с тях рискове“.

Нарастващото безпокойство относно ИИ не се дължи на скучните, но надеждни технологии, които автоматично довършват текстовите ни съобщения или насочват роботите прахосмукачки да заобикалят препятствията в хола. Причината за тревогата на експертите е потенциалната поява на общ изкуствен интелект (ОИИ)[1]. ОИИ все още не съществува, но някои смятат, че бързото надграждане на способностите на ChatGPT подсказва, че появата му е близка. Сам Алтман, съосновател на OpenAI, описва ОИИ като „системи като цяло по-умни от хората“. Разработването на такива системи продължава да е изключително сложна, според някои дори невъзможна задача. Представете си робот прахосмукачка, който еволюира в универсален робот и приготвя с радост сутрешното ви кафе или сгъва прането ви – без някога да е бил програмиран да извършва тези дейности. Звучи привлекателно. Но ако по стечение на обстоятелствата тази ОИИ прахосмукачка стане прекалено могъща, мисията ѝ да създаде един утопично чист свят може да навлече доста проблеми на нейните разпространяващи прах собственици.

Дискусиите на тема ОИИ изобилстват с такива апокалиптични сценарии. При все това едно заформящо се лоби от учени, инвеститори и предприемачи отвръща с уточнението, че щом веднъж стане безопасен, ОИИ ще е благодат за човешката цивилизация. Сам Алтман, лицето на тази кампания, предприе световна обиколка, за да омае законотворците. По-рано тази година той написа, че ОИИ би могъл да даде мощен тласък на икономиката, да подпомогне научното познание и „да изведе човечеството на по-високо ниво чрез увеличаване на богатството“.

Ето защо толкова много находчиви хора в технологичния сектор полагат огромни усилия, за да създадат тази спорна технология. Те са последователи на идеология, която разглежда въпросната технология като неизбежна и универсално благотворна – в безопасния ѝ вариант. И не се сещат за по-добри алтернативи за поправяне на човечеството и повишаване на човешкия интелект.

Но тази идеология, нека я наречем ОИИ-изъм, е сбъркана. Истинските рискове, свързани с нея, не са от политически характер и ние няма да се справим с тях, обуздавайки вдигнали се на бунт роботи. Дори най-безопасните ОИИ системи няма да ни осигурят прогресивната панацея, която лобиращите за тяхното разработване ни обещават. А като ни представя появата им като напълно неизбежна, ОИИ-измът отвлича вниманието ни от търсенето на по-добри решения за подобряване на нашия интелект.

Последователите на ОИИ-изма не знаят, че той е просто незаконно дете на далеч по-внушителна идеология, според която – по незабравимите думи на Маргарет Тачър – не съществува алтернатива на пазара. Вместо да счупи капитализма, тази технология е по-вероятно да създаде могъщ (и далеч по-модерен) съюзник на най-разрушителното му верую – неолиберализма. Очаровани от приватизацията, конкуренцията и свободната търговия, архитектите на неолиберализма искаха да раздвижат и трансформират една стагнираща икономика, въвеждайки пазарни принципи и дерегулация. Някои от тези трансформации сработиха, но на твърде висока цена. През годините неолиберализмът си спечели множество критици, обвиняващи го за Голямата рецесия и финансовата криза, тръмпизма, Брекзит и пр. Затова не е изненадващо, че администрацията на Байдън се дистанцира от тази идеология, с което даде да се разбере, че пазарите понякога грешат.

При все това неолиберализмът далеч не е мъртъв. Дори по-лошо – той намери съюзник в лицето на ОИИ-изма, който е в позицията да подсили и възпроизведе неговите основни предубеждения, а именно – че частният сектор постига по-добри резултати от публичния (предубеждение в полза на пазара), че приспособяването към реалността е по-добър ход от опитите за нейното трансформиране (предубеждение в полза на приспособяването) и че производителността е по-важна от решаването на социални проблеми (предубеждение в полза на производителността). Тези предубеждения насочват примамливия потенциал на ОИИ в обратната посока: вместо да спаси света, стремежът към създаването на тази технология само ще влоши нещата. Ето как по-точно ще стане това.

ОИИ никога няма да превъзмогне пазарния стремеж към печалба

Помните ли времето, когато компанията Uber ухажваше с ниските си цени местните власти в големите градове с идеята да изпълнява функцията на техните системи за обществен транспорт? В началото всичко звучеше добре, Uber обещаваше невероятно евтини транспортни услуги заради очакваната поява на самоуправляващи се автомобили и минималните разходи за труд. Инвеститори с дълбоки джобове дотам се влюбиха в тази визия за бъдещето, че преглътнаха загубите на компанията, възлизащи на милиарди долари. Но щом настъпи моментът да се изправят пред реалността, се оказа, че автономните автомобили са все така непостижима мечта. Инвеститорите настояха за възвръщаемост на вложените от тях средства и Uber бе принудена да повиши цените на услугите си. Клиентите, които разчитаха на този заместител на градските автобуси и градската железница, бяха оставени на тротоара.

Неолибералното убеждение в основата на този бизнес модел е, че частният сектор може да предлага по-качествена услуга от публичния – предубеждението в полза на пазара. Тук не става дума само за градския транспорт. Болници, полицейски управления и дори Пентагонът все повече разчитат на Силициевата долина. Със създаването на ОИИ това упование в технологиите само ще се засили. Никоя административна или правителствена услуга не би била имунизирана срещу потенциала на ОИИ за създаване на подривни иновации. Освен това не е необходимо ОИИ дори да съществува, за да ги съблазни – това е урокът, който ни бе даден от Theranos, стартираща компания, която обещаваше да „реши“ проблемите в здравеопазването чрез революционна технология за кръвни изследвания. Пострадалите от компанията са напълно реални, макар въпросната технология никога да не е била такава.[2]

След толкова много травми, нанесени ни от компании като Uber и Theranos, вече знаем какво да очакваме от пускането на ОИИ на пазара. Събитията ще протекат на два етапа: първо ще станем свидетели на очарователна офанзива на силно субсидирани услуги, след което ще дойде времето за грозни икономии и цената на превръщането на тези услуги в печеливши ще бъде платена от свръхзависими от тях потребители и агенции.

Гурутата в Силициевата долина омаловажават ролята на пазара. В наскоро публикуваното си есе „Защо изкуственият интелект ще спаси света“ прочутият инвеститор в технологични компании Марк Андреесен дори заявява, че ИИ „принадлежи на хора и се контролира от хора, както всяка друга технология“. Само един инвеститор на рисков капитал може да използва толкова фини евфемизми. По-голямата част от съвременните технологии са притежание на корпорации. Тъкмо те, а не някакви митични „хора“ ще изкарат пари от опитите за спасяване на света.

А спасяват ли те изобщо света? Досегашните резултати не дават основание да се твърди нещо подобно. Компании като Airbnb и TaskRabbit бяха приветствани като спасители на изтерзаната средна класа; електрическите автомобили на Tesla се смятаха за лек срещу затоплянето на планетата; Soylent, производителят на шейкове, заместващи традиционното хранене, се впусна в мисия да намери „решение“ за глада по света; а Facebook се зарече да „разреши“ проблемите с интернет в Глобалния юг. Нито една от тези компании не спаси света.

Преди 10 години нарекох това явление „търсене на технологично решение на всеки проблем“ [от англ. solutionism, б.пр.], но „дигитален неолиберализъм“ би било също толкова уместно. Хората с този мироглед разглеждат социалните проблеми в светлината на генериращите печалба технологични решения. В резултат на това въпроси, които спадат към публичната сфера, биват преформатирани като пазарни възможности, от които предприемачите могат да се възползват.

ОИИ-измът отново разпали искрата на този стремеж за намиране на технологични решения. Миналата година Сам Алтман заяви, че „човечеството вероятно се нуждае от ОИИ, за да оцелее“, защото „проблемите, пред които сме изправени, изглеждат твърде големи“, за да можем „да ги решим, без да разполагаме с по-добри инструменти“. Пак той неотдавна обяви, че ОИИ ще бъде катализатор за процъфтяването на човечеството. Само че компаниите имат нужда да генерират печалба и затова подобни прояви на великодушие, особено от страна на непечеливши фирми, стихийно харчещи инвестираните в тях милиарди долари, са рядкост. OpenAI, която досега е получила милиарди долари от Microsoft, обмисля възможността да набере нови 100 милиарда долара, които да използва за разработването на ОИИ. Тези инвестиции ще трябва да бъдат възвърнати. Така фазата на грозните икономии, в рамките на която цените ще бъдат повишени значително, за да бъде дадена услуга, базирана на ОИИ, печеливша, може да настъпи преди фазата на „изобилието“ и „процъфтяването“. Но дотогава колко публични институции биха интерпретирали погрешно променливите условия на пазара като възможност да използват новите технологии на достъпни цени и така биха станали зависими от скъпите услуги на OpenAI?

И ако не искате местната власт във вашия град да повери обслужването на обществения транспорт на несигурна стартираща компания, то бихте ли желали тя да прехвърли отговорността за предоставянето на социални услуги, управлението на отпадъците и гарантирането на обществения ред на вероятно още по-несигурни ОИИ фирми?

ОИИ ще притъпи болката от най-големите проблеми, без да ги реши

Неолиберализмът има навика да впряга технологиите в действие така, че обществените несгоди да станат поносими. Спомням си, че през 2017 г. една иновативна технологична компания обеща да подобри условията за пътуване в чикагското метро. Тя раздаваше награди с надеждата да разубеди пътниците да пътуват в пиковите часове. Създателите на компанията използваха технологиите, за да повлияят на търсенето (тоест на пътниците), защото видяха, че е твърде трудно да осъществят структурни промени на ниво предлагане (напр. увеличаване на финансирането за обществения транспорт). Ето как технологиите бяха използвани като инструмент, с който живеещите в Чикаго да бъдат заставени да се приспособят към влошаващата се градска инфраструктура, вместо тя да бъде подобрена.

Това е предубеждението в полза на приспособяването – вярата, че с помощта на някаква технологична пръчка можем да станем по-малко чувствителни към тежкото положение, в което се намираме. Тя е продукт на настойчивото призоваване от страна на неолибералите към самоувереност и устойчивост. Посланието е ясно: превключваш на по-висока предавка, увеличаваш човешкия си капитал и си проправяш път подобно на стартъп. ОИИ-измът също подема този мотив. Преди време Бил Гейтс възхваляваше ИИ и твърдеше, че той може „да помогне на хората по целия свят да подобрят живота си“.

Технологичното пиршество едва сега започва: независимо дали става дума за справяне с нова пандемия, с епидемията от самота или с инфлацията, ИИ вече е представян като универсален чук за множество реални и въображаеми пирони. Многобройните приложения, идващи от Силициевата долина – например за проследяване на разходи, приети калории и тренировъчни режими – със сигурност са полезни понякога. Само че в повечето случаи игнорират основните причини за бедността или затлъстяването. А ако не отстраним причините за проблема, оставаме заложници на приспособяването и не можем да предприемем курс към трансформация.

Има разлика между това някой да ни побутне да се придържаме към режима си на ходене и това да разберем защо градът, в който живеем, не разполага с обществени места за разходка – предпоставка за намиране на политическо решение, което създава благоприятни условия за колективна и институционална трансформация. Но според ОИИ-изма публичните институции са лишени от въображение и не са особено продуктивни. С оглед на това те трябва просто да се приспособят към ОИИ. Но дали е редно институциите само да се приспособяват? Не могат ли те да изготвят свой собствен трансформиращ дневен ред за развитие на човешкия интелект? Или ще използваме институциите само за ограничаване на рисковете, произтичащи от технологиите, създавани в Силициевата долина?

ОИИ подкопава гражданските добродетели

Една от често срещаните критики към неолиберализма е, че организира политическия живот около производителността. Статията „Въпросът за цената, която обществото плаща“ от 1960 г., превърнала се в класика за неолибералния канон, развива тезата, че един замърсяващ завод и страдащите от това замърсяване не би трябвало да се занимават със съдебни спорове, защото подобни битки понижават производителността – бездруго кому е нужна справедливост? – и възпрепятстват функционирането на пазара. Вместо това на страните в спора се препоръчва да се договорят за обезщетение и да се захванат за работа.

Тази фиксация върху производителността обяснява как стигнахме дотам да „решаваме“ проблемите, свързани с климатичните промени, позволявайки на най-големите нарушители да продължават да действат така, както са действали по-рано. Можеш да избегнеш оковите на регулациите, като създадеш схема, която позволява на замърсителите да купуват кредити, за да компенсират допълнителните въглеродни емисии, които генерират.

Тази култура на производителност, при която пазарите измерват стойността на нещата и я използват като заместител на справедливостта, неизбежно разяжда гражданските добродетели. Проблемите, които този подход създава, се виждат навсякъде. Учените се тревожат, че заради неолиберализма изследователската и преподавателска дейност се е превърнала в стока. Лекарите се оплакват, че болниците приоритизират по-печеливши услуги, напр. планирани операции, за сметка на спешната помощ. А журналистите ненавиждат това, че успехът на статиите им се определя от броя на четенията.

Сега си представете какво би се случило, ако позволим на ОИИ да упражнява власт върху уважавани институции – университета, болницата, вестника – с благородната мисия да ги „поправи“. Косвените граждански функции на тези институции биха останали невидими за ОИИ, тъй като те рядко биват представяни количествено дори в годишните им доклади – част от материалите, които се използват за обучение на моделите за ОИИ. В края на краищата на кого му харесва да се хвали, че за курса му по история на Ренесанса са се записали едва шепа студенти? Или че статията му за корупцията в някоя далечна страна е била прегледана само десетина пъти. Тези изключения, които са непродуктивни и непечеливши, оцеляват като по чудо дори при настоящата система благодарение на факта, че останалата част от институцията, към която принадлежат, ги субсидира, без да вдига шум, защото поставя на първо място ценности, различни от задвижваната от стремежа към печалба „производителност“.

Ще останат ли така нещата в условията на една ОИИ утопия? Или „поправянето“ на нашите институции ще се окаже равносилно на предаването им в ръцете на безскрупулни консултанти? Те също предлагат подкрепени с данни „решения“ за постигане на максимално висока производителност. Но тези решения често не успяват да уловят хаотичното взаимодействие между ценности, мисии и традиции, определящи същността на институциите – взаимодействие, което рядко ще видиш, ако само се плъзгаш по повърхността на генерираните от тях данни. Нещо повече, забележителното представяне на услуги като ChatGPT по дизайн е отказ за улавяне на реалността на по-дълбоко ниво, отвъд данните, видими на повърхността. Ако обаче ОИИ вижда единствено институции с ограничени средства, които се борят за оцеляването си, той може никога да не разбере същността им. Късмет с опитите ви да вникнете в смисъла на Хипократовата клетва, като наблюдавате работата на болници, превърнати в центрове за печелбарство!

Другата широко известна неолиберална мисъл на Маргарет Тачър гласи: „Няма такова нещо като общество“. Лобиращите в полза на ОИИ споделят тази мрачна гледна точка. За тях интелектът, който си струва да бъде възпроизвеждан, е функция на това, което се случва в главите на отделните хора, а не в обществото като цяло. Но човешкият интелект е продукт колкото на гени и индивидуални способности, толкова и на политики и институции. Ако обаче ОИИ-измът действително е неолиберализъм с други средства, тогава трябва да сме готови да видим по-малко, а не повече институции, спомагащи за разгръщането на интелекта. В крайна сметка те са останките от онова плашещо „общество“, което според неолибералите всъщност не съществува. Амбициозният проект за увеличаване на интелекта чрез ОИИ накрая може да доведе до неговото намаляване.

Заради подобни предубеждения дори предложения за наглед иновативни политики, свързани с ОИИ, не предизвикват голям ентусиазъм. Вземете скорошното предложение за проект тип „Манхатън“ за гарантиране на безопасността на ИИ. То се основава на погрешното разбиране, че няма алтернатива на ОИИ. Но няма ли стремежът към увеличаване на интелекта да даде много по-добър резултат, ако вместо това правителството финансира проект тип „Манхатън“ в областта на културата и образованието и в подкрепа на институциите, които се грижат за тях? Без подобен род усилия рискуваме необятните културни ресурси на съществуващите днес обществени институции да се превърнат в бази данни за обучение на ОИИ системите на стартиращи компании, което би затвърдило лъжата, че такова нещо като общество няма.

В зависимост от това как ще протече бунтът на роботите, ОИИ може да се окаже или не екзистенциална заплаха. Той обаче е вече такава заплаха заради антисоциалните си наклонности и неолибералните предубеждения. Няма нужда да чакаме да се появят чародейните роботи прахосмукачки, за да поставим под съмнение догмите на тази идеология.

Превод от английски Даниел Пенев

Текстът е публикуван в The New York Times