Чудовището погубва Франкенщайн. Има нещо магнетично в битката създател-творение – тема, която срещаме във всички форми на изкуството. През последните десетилетия това най-често е и съдбата на изкуствения интелект на големия екран - злия (условно) робот – HAL от „2001: Космическа одисея“, „Военни игри“, „Терминатор“, комиксите на Marvel (Ултрон) и дори в литературата. Хората наистина обожаваме този сценарий!

Поредното доказателство дойде тази седмица, но този път не на страниците на фантастична книга или на големия екран, а в реалния живот – ботове на Facebook започнаха да говорят на непознат за нас език и разработчиците им трябваше да ги спрат. Може би преди да създадат Skynet и да ни подчинят? Подобни коментари не са лишени от логика, защото често образът на изкуствения интелект се асоциира именно с този на Skynet от поредицата „Терминатор“. Към това трябва да добавим и постоянните предупреждения за опасността от ИИ, които идват от големи имена като Стивън Хокинг и Илон Мъск. Дали този път обаче Skynet не беше на път да стане реалност? Всъщност съвсем не.

През юни Facebook сподели публикация в своя блог за интересните открития, които са постигнали със своите чатбот програми. Тяхната цел е да провеждат кратки кореспонденции с хора или други ботове, пишат от BBC. От социалната мрежа са правили тестове с ботове, които преговарят помежду си за виртуални предмети. Целта е да се открие и ролята, която езикът има в такива моменти. Самите ботове са били програмирани така, че да експериментират с езика, за да се види как точно това ще доведе до доминацията на един от тях. Подобни умения ще са много важни, тъй като в даден момент потребителите ще използват все повече ботове, чрез които да пазаруват, запазват места в ресторанти и справяне с други подобни досадни задължения.

От екипа на Facebook започват с нещо просто – игра. В нея двама играчи (ботовете) трябва да разделят помежду си различни обекти, сред които шапки, топки и книги. За да се научат на тази игра, програмистите използват двустепенна програма. Първо захранват компютъра с диалози от хиляди игри между хора, за да може системата да добие представа за истински преговори. След това на ботовете им е разрешено да използват техниката „опит/грешка“, известна още като обучение с утвърждение. При този метод, използван и при подготовката на AlphaGo, победителя в сблъсъка с най-добрите играчи на Го, не са необходими примерни решения за поставения проблем. Обучението се базира на последователност от опити, от които постепенно се извличат добрите действия и решения.

Дотук тази новина остава относително неизвестна. Няколко дни по-късно обаче се разпространява информацията, че в някои ситуации разговорът между ботовете е неразбираем за хората. Това всъщност стряска обществеността. Тук идва и разпространеният пример:

Боб: „Аз мога мога ли аз всичко останало“ (I can can I I everything else)

Алис: „Топките имат нула за мен за мен за мен за мен за мен за мен за мен за... (Balls have zero to me to me to me to me to me to)

Истината е, че в този момент ботовете не променят езика си, за да скрият разговорите си от човечеството. Невроните мрежи се опитват да променят езика според целта – по-успешното взаимодействие. „В опита си да научат повече един от друг ботовете започват да си общуват с кратки производни – въпреки че изглежда плашещо, всъщност не е“, пишат от Gizmodo.

Подобна странна комуникация има своята логика, тъй като в процеса на достигане до успешно договаряне ботовете явно са научили, че е добре да използват трикове като повторение, за да предадат желанията си, пишат от Wired. Интересно, но всъщност не това, което са искали от екипа, провеждащ тестове. Това довело до нуждата да бъдат спрени тези ботове, защото те не биха били добри в комуникацията с човек. За да стане това възможно, трябвало да се направят някои промени и да им се зададе да използват само разпознаваеми форми на езика. Това е причината, а не нещо по-злокобно.

Къде тогава остава Skynet? Истината е, че ботовете на Facebook са създадени да правят едно-единствено нещо – да постигнат колкото може повече точки в една обикновена игра. Те направили точно това, но тъй като не им е било зададено да използват само разпознаваем английски, те започнали да го променят. И в това няма нищо изненадващо.

Това дори не е първият случай, в който ботове импровизират със собствен начин на комуникация. От Wired припомнят подобна ситуация от март, проведена от OpenAI, неправителствената организация, подкрепена от Илон Мъск, в която ботовете развили собствен базов език, чрез който да комуникират помежду си.

Истината е, че днес сме много далеч от Skynet – за добро или лошо. Днес обучаващите се системи се придържат толкова точно към подадените им правила и параметри, че до голяма степен са ограничени в действията си. Ако желанието не бъде програмирано до най-точния детайл, то няма да бъде изпълнено.

Най-важната част от експеримента на Facebook е, че в момента, в който ботовете започнали да говорят на английски, те се доказали като добри участници в преговорите с хора. Това е важно, защото ботовете са се справили с по-труден диалог – нещо, което към момента е далеч в бъдещето за виртуалните асистенти Siri, Cortana и Google Assistant. В разговора дори ботовете са успели да се представят като силно заинтересовани от даден предмет само за да могат да го изтъргуват за нещо, което наистина искат.

Може би в близкото бъдеще подобен, неразбираем за нас, хората, език ще бъде полезен за изкуствения интелект. Така комуникацията между интелигентните машини ще бъде по-бърза, но тогава наистина идват много неизвестни, като голяма част са от практическа гледна точка – как откриваме къде е проблемът, ако машината не работи както трябва? Това обаче не означава, че тя ще бъде без човешки контрол.

Днес изкуственият интелект е много далеч от този, който виждаме във филмите. Усещането обаче е по-различно - за ИИ се говори от десетилетия и винаги така, сякаш до създаването на висша и силно развита форма ни делят не години, а месеци. Това се наблюдава през последните 60 години.

Оцени:
Рейтинг: 4
Още от HiEnd

Рядка генетична мутация в общността на амишите може да спре остаряването

78 | 19.11.2017