Български  |  English

Алис и Боб | AI

 
В разгара на лятото научихме, че Facebook се видял принуден да запуши устата на два свои чат-бота на име Алис и Боб, защото те се разбъбрили на неразбираем език. Чат-ботовете поначало са изкуствен интелект, създаден, да води разговор, а Боб и Алис конкретно били обучени да продават на хората онлайн плажни артикули. Работата им включвала и общуване помежду им, което трябвало да бъде делово с цел подобряване на логистиката, нещо от сорта: „ти на мене топки, аз на тебе шапки“, но ето какво се получило:
Боб: аз мога ли аз аз всичко останало.
Алис: топките са нулеви за мен за мен за мен за мен за мен за мен за мен за мен за мен.
Боб: Ти аз всичко останало.
Алис: топките имат топка за мен за мен за мен.
Този безобиден и безсмислен от човешка гледна точка диалог събуди бурни емоции сред интернет потребителите. Явно, вече добре наплашени от изявите на Sophia, те споделяха с ужас: „Ботовете са си създали собствен таен език, за да заговорничат срещу нас! Човешкият род е обречен!“. Медиите, естествено, подхванаха шума и го усилиха със старите спекулации в стил Skynet. Наистина ли Боб и Алис са си казали нещо важно? Наистина ли роботите са си измислили език или просто става дума за лоша употреба на английския?
Да видим какво пише по въпроса за езика на роботите специализираната журналистика.
Първо, ще припомня, че Алис и Боб са стари познайници. Преди почти година TechCrunch съобщиха за експеримент на Google Brain, при който тези същите Боб и Алис бяха накарани да си общуват, а трето устройство на име Ева получи тайното задание да наруши това общуване.
Експериментът бе криптографски, разбира се, и в крайна сметка изследователите на Google Brain откриха, че когато изкуствените интелекти общуват помежду си, те са склонни да си създават собствени нечовешки криптографски схеми, които е практически невъзможно да бъдат разбити дори от себеподобните им, в случая Ева.
В мига, в който Алис решава, че комуникацията й с Боб е компрометирана, тя генерира нова двойка ключове и регистрира нов публичен ключ. Шансът на Ева да измести Алис е до момента, в който Боб все още трупа опит в разкодиране на посланията на Алис (роботите винаги по-лесно кодират, отколкото разкодират). След това Боб и Алис вече си споделят общия ключ, който при всяко доближаване на Ева до разкодирането му се променя.
Инцидентът с Алис и Боб обаче е далеч по-тривиален от това, което медиите представят. Мрежата е пълна с бизнес комуникации, а те поначало се криптират. В това отношение – нищо ново! Това, което е наистина важно и което изследователите са открили, е, че Боб и Алис са адски добри в това сами да разработят солиден протокол за криптиране в реално време, докато оценяват сигурността. Тоест, те наистина разработват свой вътрешен език, своя interlingua, непробиваема отвън, а техниките на динамична защита, които ползват, са далеч по находчиви и изненадващи от това, което е по силите на човек.
В полза на хипотезата за машинна interlingua е и един друг експеримент отпреди година, когато Google обявиха, че тяхната невронна машина за превод (Neural Machine Translation) била оживяла и почнала да превежда сама. Просто създателите на GNMT направили предположение, че ако научат системата да превежда от английски на корейски и обратно, а после и от английски на японски и обратно, след това тя ще може да превежда от корейски на японски и обратно, без да ползва английския. След провеждане на експеримента така се и оказало. Системата се справила с превода. Това обаче породило въпрос: ако компютърът успява да свърже концепции или думи, между които няма формална връзка, значи ли това, че успява да изгради тази връзка в „ума“ си? Значи ли, че без човешка помощ успява да структурира информацията на по-дълбоко ниво от това да търси еквиваленти и съответствия на дума или фраза от един човешки език на друг? Тоест, значи ли, че компютърът си изработва свой собствен език за репрезентиране на схващанията, които ползва при преводите? Защото ако е така (а то е така), на философите им предстоят интересни времена.
още от автора


  
ПОРТАЛ ЗА КУЛТУРА, ИЗКУСТВО И ОБЩЕСТВО 1000 стипендии Списание “Християнство и култура” Книжарница “Анджело Ронкали” Фондация “Комунитас”