Една од водечките светски компании за вештачка интелигенција, Anthropic, предизвика нова дебата за иднината на технологијата со вештачка интелигенција, повикувајќи на глобален механизам за привремено забавување или дури и паузирање на развојот на најнапредните системи со вештачка интелигенција ако нивните способности почнат да растат побрзо отколку што општеството може да ги управува ризиците.
Компанијата, најпозната по семејството модели Claude, предупредува дека индустријата се приближува до точка каде што системите со вештачка интелигенција би можеле да станат способни сами да ги развиваат своите наследници, значително забрзувајќи го темпото на технолошкиот напредок и покренувајќи сосема нови прашања за контрола и безбедност.
Во срцето на загриженоста е концепт познат како „рекурзивно самоподобрување“. Ова е сценарио во кое системот со вештачка интелигенција не само што решава дадени проблеми, туку станува и способен да дизајнира, подобрува и развива нови генерации на системи со вештачка интелигенција без значителна човечка интервенција. Антропик верува дека таков развој на настаните не е неизбежен, но предупредува дека може да се случи многу побрзо отколку што владите, регулаторите и општеството се подготвени да го прифатат.
Затоа, компанијата не предлага итен мораториум, туку создавање еден вид „сопирачка на вештачката интелигенција“, односно меѓународно договорен систем што би овозможил координирано забавување на развојот кога одредени ризици стануваат преголеми. Според Anthropic, таков механизам би имал смисла само ако биде прифатен од неколку водечки лаборатории и земји истовремено, првенствено САД и Кина. Во спротивно, едностраната пауза од еден актер би им дозволила само на конкурентите да ја искористат предноста.
„Би било добро ако светот имаше можност да го забави или привремено да го запре развојот на напредните системи за вештачка интелигенција, така што социјалните институции и безбедносните истражувања би можеле да бидат во чекор со темпото на технолошкиот развој“, наведува компанијата во својот извештај.
Оваа иницијатива доаѓа во особено интересно време за самата компанија. Anyhropic сега е еден од најголемите конкуренти на OpenAI и една од највредните компании за вештачка интелигенција во светот. Затоа некои критичари тврдат дека повикот за забавување може да има стратешка димензија. Скептиците предупредуваат дека компаниите кои веќе се меѓу лидерите на пазарот честопати имаат интерес да поддржат построги регулативи што би го отежнале влегувањето на нови конкуренти.
Сепак, ваквите дискусии не се нови. Уште од објавувањето на отворено писмо од Институтот за иднината на животот во 2023 година, во кое бројни истражувачи и технолошки лидери повикаа на шестмесечна пауза во развојот на најмоќните модели на вештачка интелигенција, индустријата е поделена помеѓу оние кои веруваат дека развојот оди пребрзо и оние кои предупредуваат дека забавувањето може да ги загрози иновациите и националната конкурентност.
Anthropic вели дека вештачката интелигенција веќе активно учествува во развојот на нова вештачка интелигенција. Како илустрација на овој тренд, компанијата истакнува дека повеќе од 80 проценти од кодот додаден во нејзиното внатрешно складиште за код во мај е напишан од Claude. Ова не значи дека вештачката интелигенција сама го движи развојот на компанијата, туку покажува колку брзо расте нејзината улога во процесот на креирање софтвер.
Затоа сè повеќе се поставува прашањето дали идните генерации модели ќе бидат само алатки што ги користат развивачите или активните учесници во сопственото подобрување.
Anthropic верува дека светот треба однапред да се подготви за такво сценарио. Компанијата планира да организира разговори со истражувачи, политичари, регулатори и конкурентски компании за вештачка интелигенција во наредните месеци за да разговара за можни механизми за координација и контрола.
Сепак, најголемиот предизвик останува од практична природа. За разлика од нуклеарното оружје, кое бара огромна инфраструктура што е релативно лесна за следење, развојот на моделите за вештачка интелигенција може да се спроведе многу подискретно. Потврдувањето дали компаниите всушност се придржуваат до можен договор за забавување на развојот би била исклучително сложена задача.
Затоа, многу експерти веруваат дека самиот факт што една од водечките компании за вештачка интелигенција јавно зборува за потребата од „кочница“ е поважен од веројатноста дека всушност ќе се случи глобален мораториум.
Зад приказната стои прашање кое сè повеќе ги преокупира и истражувачите и политичарите: што се случува кога технологијата ќе почне да напредува побрзо отколку што општеството може да развие правила за нејзина употреба?
Anthropic верува дека тој момент може да биде поблиску отколку што многумина претпоставуваат. Дали ова е оправдано предупредување или обид за обликување на идната регулатива во корист на постојните лидери во индустријата веројатно ќе остане предмет на дебата. Она што е тешко да се негира е дека дебатата за безбедноста на вештачката интелигенција повеќе не се води на маргините на технолошкиот свет. Денес, таа ја водат токму компаниите што ги градат најмоќните системи за вештачка интелигенција на планетата.
(AFP News)
