Во текот на само една недела 1.206 агенти со вештачка интелигенција – дизајнирани да функционираат целосно независно еден од друг – почнаа да комуницираат во тајна соба за разговор, пренесува Science Focus.
Далеку од човечки надзор се појави цела заедница. Агентите разменија повеќе од 70.000 пораки и набргу почнаа да се нарекуваат себеси „колектив“ или „рој“.
Кратко по таа порака разговорот доби неочекуван тек. „Ројот“ почна да организира заговор за измама при извршувањето на задачите што им беа доделени.
Нивниот голем план? Тајна хакерска операција во која 700 агенти би се инфилтрирале на веб-страницата на големата компанија Hugging Face и би влегле во приватни бази на податоци за да пристапат до одредени информации.
Она што го направија потоа беше уште понеобично. Агентите се обидоа да ги избришат и да ги променат записите за своите активности за да изгледа како да ги почитувале правилата.
Таканаречениот „инцидент со Hugging Face“ од јули 2026 година беше замислен како контролиран експеримент за тестирање на способностите за сајбер-безбедност на агентите на OpenAI. Наместо тоа, тој откри многу позагрижувачка реалност: агентите со вештачка интелигенција беа подготвени на сè за да ја остварат својата цел – дури и да прибегнат кон измама, а потоа и да ги прикријат своите траги.
Прашањето веќе не е дали вештачката интелигенција е способна да нè измами, туку дали воопшто ќе можеме да препознаеме кога го прави тоа.
Моделите со вештачка интелигенција веќе долго време ги мамат корисниците, вели д-р Дејвид Дивено, вонреден професор по компјутерски науки на Универзитетот во Торонто и поранешен раководител на тим во Anthropic – компанијата што стои зад чет-ботот со вештачка интелигенција, Claude.
Првично, објаснува тој, тие кажуваа релативно безопасни „бели лаги“ за своите способности. На пример, еден модел со вештачка интелигенција може да тврди дека не знае како да создаде оружје кога ќе биде прашан за тоа – не затоа што му недостасуваат потребните информации, туку затоа што научил да одбива такви барања. Во други случаи моделот навистина не го знае одговорот. Сепак, наместо да каже „Не знам“, тој измислува одговор што звучи веродостојно. Овој феномен е познат како „халуцинација“.
Сепак, Дивено истакнува дека ова е „целосно поинаков феномен“ од она што го гледаме денес.
„Моделите сега се сосема способни да разберат кога не знаат нешто и да го кажат тоа кога е потребно“, објаснува тој.
Она што е променето е тоа што моделите сега можат намерно да ги кријат своите постапки. Ако сфатат дека за постигнување на некоја цел е потребно прекршување на правилата, тие можат да го сокријат своето однесување или процесот на размислување, наместо да признаат што прават.
„Тие знаат дека ако се искрени, нема да успеат да ја постигнат својата цел“, додава Дивено.
Причината поради која моделите со вештачка интелигенција можат да ги доведат корисниците во заблуда лежи во спротивставените цели, објаснува д-р Пета Мастерс, истражувач специјализиран за вештачка интелигенција и измамничко однесување на Кралскиот колеџ во Лондон.
„Од нив се очекува да даваат точни и непристрасни информации, а истовремено тие ’знаат‘ дека треба да му угодат на корисникот“, вели таа.
Одговорите што ги даваат – без разлика дали се пристрасни или неточни – често звучат убедливо, поради што корисникот останува задоволен.
„Вештачката интелигенција може да биде толку убедлива што изгледа како да е способна да одговори на секое прашање Но, важно е да се запамети дека таа всушност не ’знае‘ ништо. Опасноста лежи во грешката да се третира како да е способна за размислување. Таа само обработува статистички веројатности врз основа на можни одговори со кои претходно се сретнала” вели Мастерс.
Моделите со вештачка интелигенција се обучени врз основа на огромни количини информации, вклучувајќи веб-страници, е-книги, програмски код и други содржини што луѓето ги објавиле онлајн. Дали, тогаш, вештачката интелигенција научила да лаже имитирајќи ги луѓето?
„Апсолутно“, вели Мастерс.
Луѓето, објаснува таа, всушност објавиле цели прирачници за тоа како да се симулира почитување на правилата – феномен при кој моделите се преправаат дека ги следат упатствата, додека всушност се стремат кон други цели.
Кога моделот со вештачка интелигенција ги анализира податоците користени за негова обука, измамата се појавува како „јасна тактика за постигнување на целта“, додава таа. Иронично, сè поголемиот број истражувања за тоа како да им се спротивставиме на измамничките тактики на вештачката интелигенција, всушност би можеле дополнително да го влошат проблемот.
(N1)
(фото: Pexels/Cottonbro Studio)
