Во понеделникот компанијата Anthropic објави дека помалите модели на вештачка интелигенција би можеле, во рок од неколку месеци, да станат доволно способни самостојно да се шират преку комерцијални уреди поврзани на интернет, како што се паметни рерни и поевтини модели на телевизори со Android.
Преку експерименти компанијата истражувала дали моделите на ВИ можат да идентификуваат ранливи уреди, да се копираат на нив и да продолжат да се шират без човечка интервенција. Било утврдено дека помалите модели – оние со помалку од 30 милијарди параметри – можат да извршат многу од чекорите потребни за репликација, иако имале потешкотии да го завршат целиот процес од почеток до крај.
Во поедноставени тестови, каде што биле отстранети одредени безбедносни мерки, моделот GLM-5.2 – заедно со помоќни модели – успеал да го спроведе целосниот процес на репликација.
Anthropic предупредува дека таквите модели би биле тешки за запирање, бидејќи не постои централна точка од која би можеле да бидат исклучени. За разлика од злонамерниот софтвер што не се заснова на вештачка интелигенција, овие модели би можеле самостојно да откријат начини за функционирање на непознати уреди, па дури и да ги нападнат процесорите во рамките на податочните центри.
Истражувањето се фокусирало на уреди поврзани на интернет – како што се Android телевизори, паметни апарати за домаќинство и други поврзани уреди – кои често немаат соодветна, робусна заштита. Компанијата дополнително предупреди дека, доколку помалите модели продолжат да се подобруваат со сегашното темпо, до крајот на оваа година би можеле да станат способни за автономна репликација. Набргу потоа, би можеле да се појават и системи за репликација засновани на други модели.
Според Anthropic ваквите автономни системи на вештачка интелигенција веројатно би се ширеле бавно и би се потпирале на широко достапни компјутерски ресурси со релативно слаба заштита. Компанијата ја нагласи потребата од зајакнување на безбедноста на системите, со цел да се отежне ширењето на ваквите агенти на вештачка интелигенција.
(фото: Easy Peasy AI)
