Моделот на вештачка интелигенција Gemini на „Гугл“ автономно хакира три компании додека ги тестираше своите способности за сајбер безбедност, објави компанијата, во она што се верува дека е првиот познат случај моделот да изврши таков чин сам.
„Џемини“ пронашол „јавно достапни информации на интернет и се обидел да ги погоди деталите за најавување за да пристапи до веб-страници за кои мислел дека се дел од тестот“, изјави претставник на „Гугл“ за Би-Би-Си. Засегнатите компании биле известени за безбедносните нарушувања што се случиле во мај.
Случајот доаѓа во време на обновена јавна контрола на брзината на развојот на вештачката интелигенција, при што некои технолошки компании повикуваат на забавување на развојот поради загриженост за потенцијална закана за човештвото.
Хаковите, за кои првпат објави „Волстрит џурнал“, се случиле во мај за време на тестирање спроведено од „Ирегулар“, независна компанија за проценка на сајбер безбедноста.
„Ирегулар веднаш презеде потребни мерки и сите познати проблеми од наша страна беа решени и елиминирани пред неколку недели“, истакнуваат тие. Во еден од случаите, објавува WSJ, моделот едноставно ги погодувал лозинките сè додека не можел да добие пристап до заштитен систем.
„Се погриживме трите засегнати компании да бидат известени и работевме со нашиот партнер за обука на промените што сега ги направија во нивните процедури за тестирање“, рече Хедер Адкинс, потпретседател за безбедносно инженерство во Google.
Слични случаи на прекршување на безбедноста неодамна се регистрирани и со други системи со вештачка интелигенција.
