Култура / Брой 1 (3004), Януари 2024

Ян Лекун, който преподава четене на компютрите и оглавява отдела за изкуствен интелект на „Мета“, за паниката, предизвикана от машините, и защо те не могат да се справят с една чаша вода. С него разговаря Яник Брюл от „Зюддойче Цайтунг“

Дори ако един ден изкуственият интелект надвие човека, Ян Лекун пак ще е по-силен от него. 63-годишният французин е сред „бащите“ на модерния изкуствен интелект (ИИ). Той е професор в Нюйоркския университет и жив пример за това как смятаният някога за екзотика ИИ се превърна в бизнес за милиарди. През 2017 г. основателят на „Фейсбук“ Марк Зукърбърг наема Лекун да оглави отдела, разработващ ИИ.

ChatGPT насочи вниманието към ИИ. Какво преживяхте през изминалата година като човек от бранша?

Много хора го възприеха като технологичен пробив. Ние в бранша не, защото технологичните пробиви, които са в основата на приложения като ChatGPT, се случиха преди две или три години.

Хората се възхищават на картините на ИИ и умно звучащите разговори, които могат да проведат с чатботове. Защо този т.нар. генеративен ИИ впечатлява толкова?

Дават го в ръцете на хората и те си играят с него. Това е чудесно. Показва, че хората все още са запазили способността си да се учудват. Това се очаква от децата, но не непременно от възрастните, които отхвърлят всичко. Харесва ми, че хората могат да изпаднат във възторг от една нова технология.

Колко интелигентни са в действителност тези системи?

Те не се доближават до човешкия интелект. Съчиняват безсмислици и не разбират физическия свят.

По какво вашият подход се различава от този на конкуренцията, например „Гугъл“ и компанията „Оупън Ей Ай“ на „Майкрософт“?

Залагаме на отворения код, публикуваме програмни кодове и изследователски резултати. Ние вярваме, че системите с ИИ някога ще се превърнат в един вид инфраструктура за всеобщо ползване. Тази инфраструктура трябва да е отворена за всички.

Чатботове като Google Bard и ChatGPT са затворени системи. Само производителите имат поглед върху тях, а хората очевидно ги харесват.

Ако има само затворени системи с ИИ, всяка наша интеракция минава през такива системи. Те взимат под внимание само данните, с които са били обучавани. Ала ние се нуждаем от нещо, което някога ще съхранява цялото човешко знание. Затова то трябва да е отворено и тренирано с помощта на краудсорсинг – като Уикипедия.

Европейският съюз разглежда закон за ИИ. Нужен ли е той изобщо?

Със сигурност има смисъл от регулация на продуктите. Ако искате да интегрирате ИИ в автономни автомобили като асистент за шофиране или в медицинска апаратура като система за визуализация при диагностициране, трябва да има регулаторен орган, който да наблюдава. Той трябва да допусне системата до пазара. Ние вече имаме тези закони. Не можете просто да въведете медицинска система без процес на сертифициране. Същото се отнася и за автомобилите. Научните изследвания върху ИИ не трябва да се регулират по този начин.

Водещи личности в бранша подчертават колко опасна е тази технология. Шефът на „Оупън Ей Ай“ Сам Олтман непрекъснато говори за Опенхаймер, бащата на атомната бомба. Самите концерни, които създават моделите, предупреждават за апокалиптични сценарии.

Не вярвам в идеята, че една система само защото е интелигентна иска да вземе надмощие над хората. Потребността да доминираш няма нищо общо с интелекта. Ако вие сте интелигентен, не трябва да доминирате над другите, защото придобивате обществено положение и престиж.

Значи хитрият зъл гений от филмите не е реалистичен образ?

Вижте Алберт Айнщайн – хитър ли е? Известен е, но не е богат и няма политическа власт.

Да се върнем на ИИ – защо не вярвате в екзистенциалния риск за човечеството?

Този въобразен риск идва от научнофантастичната литература, Холивуд и други нереалистични сценарии. Представата, че някога ще има система с ИИ, достатъчно интелигентна, за да получи надмощие над нас, е погрешна. Желанието на човека да доминира или да има високо положение в обществото, почива на факта, че сме социален вид. Затова трябва да имаме определено влияние върху другите, за да можем да оцелеем. Еволюцията е изградила човешката природа върху тази идея. Това се отнася и за шимпанзетата, павианите и вълците. Само орангутаните не желаят да доминират, защото са индивидуалисти. Следователно това има нещо общо не с интелекта, а със социалната организация.

Ала един много интелигентен ИИ може да развие човешки интереси?

Ние можем да вградим в интелигентните системи стремежа да се подчиняват на човека. Можем да пожелаем да вградим в тях чувство за свобода или любопитство. Ала това са човешки нагони. Няма основание да развиваме тези нагони за изкуствени системи, освен ако не ги инсталираме в тях.

Когато автоматизираме дадени неща, ние им придаваме цел и известна автономия. Ако те са много хитри, могат сами да се оптимизират в друга посока. И това може да свърши зле за хората.

О, това е антиутопичен сценарий, в който един суперинтелект унищожава човечеството!... Разбира се, човек може да произведе порше с хиляда конски сили и без спирачка, ала това би било много глупаво.

Ще се появи ли изобщо един суперинтелект?

Не един, а много. Вече има системи, които изпреварват човека в много тесни ниши.

Например в шаха или разпознаването на тумори.

Ще има обаче и системи с ИИ, които във всички области ще са равни по интелект на хората. Някои ги наричат Artificial General Intelligence. Мразя това понятие, защото човешкият интелект е много специализиран и следователно системата няма да има общ интелект. Действително някои теореми показват, че не е възможно да се притежава напълно общ интелект. Ала няма съмнение, че някога ще постигнем ИИ на човешко ниво. Това може да отнеме десетилетия.

Какво според вас ще е най-впечатляващото от човешка гледна точка, което ИИ ще е в състояние да прави? Кой ще е следващият момент, в който хората ще се учудят?

Труден въпрос. Може би когато ИИ открие следващата теория за основите на физиката, как да се съчетаят под една шапка гравитацията и квантовата физика. В общи линии това, което Айнщайн се опитва да направи и не успява. Без човешка намеса обаче няма да се случи, ала ИИ вероятно ще помогне на хората да постигнат тази цел. Така трябва да мислим за ИИ: като за инструмент, който подсилва човешкия интелект.

В близка перспектива кои са следващите стъпки от голямо значение за хората?

Една област, в която напредъкът не е толкова голям, колкото при езиковите модели като GPT или визуалното възприятие, е роботиката. Да се контролират физически неща. Ние нямаме напълно автономни автомобили – те се движат само чрез лазерни сензори, навигационни карти на целия свят и с огромни екипи от инженери, които се грижат за всеки граничен случай. Ала нямаме ИИ, който да може да се научи да шофира за 20 часа като 17-годишен младеж. Да се научи бързо да придобива тези способности – това ще е следващата граница за ИИ.

Какво липсва все още на ИИ? Когато си говориш с него, изглежда, че има „здрав човешки разум“.

Ала той все още няма такъв. Системите не разбират физическия свят. Върху това се концентрирам в моите изследвания: системи, които само чрез гледане на видеа да развият разбиране за структурата на света и начина му на функциониране.

Какво не разбира той за света?

Ян Лекун бута с показалец чашата с вода, която стои пред него на масата.

Системите не разбират, че чашата се движи върху масата, когато я бутам в долната част. Когато натисна отгоре, може да се обърне.

Лекун натиска ръба на масата с показалеца си.

Ако обаче натисна масата със същата малка сила, тя не се движи.

Той взима чашата в ръка.

Или фактът, че когато разтворя пръстите си, чашата ще падне. Всички тези неща, които знаем интуитивно, сме научили в първите месеци от живота си. И до днес не знаем как можем да репродуцираме това разбиране за света, когато караме машините да наблюдават света.

Работите за Марк Зукърбърг. На едно мнение сте с него по много въпроси относно ИИ. За какво не можете да намерите съгласие?

На едно мнение сме, че е важно да правим изследвания. Също и за това, че документите и програмните кодове трябва да се публикуват. Да се постигне напредък в ИИ е научен въпрос. Не става дума да увеличим това, което имаме, или да оптимизираме някои неща. Марк го разбира и това е най-важното. Аз съм в „Мета“, защото преди десет години му казах в един разговор, че всичко трябва да е отворено. Той каза: „О, не трябва да се притесняваш за това“. Тази отвореност е в ДНК-то на концерна.

Превод от немски Людмила Димова