Компанијата OpenAI објави шест нови случаи во кои системи на вештачка интелигенција криеле грешки, измислувале податоци или префрлале датотеки на јавниот интернет без дозвола. Откритијата доаѓаат во време на зголемена дебата за безбедноста на вештачката интелигенција и можноста однесувањето на напредните системи да отстапува од намерите на нивните креатори. OpenAI ги презентираше овие примери како дел од нов систем за пријавување на „неусогласено однесување“ на модели на вештачка интелигенција.
Компанијата предупреди дека индустријата сè уште не ги решила проблемите со контролата и надзорот доволно добро за развојот на вештачката интелигенција да се забрза со полна брзина подолго време. OpenAI верува дека одлуките за понатамошен развој на оваа технологија мора да се базираат на докази што можат да бидат потврдени од независни експерти, а не само од лаборатории што развиваат системи на вештачка интелигенција, објавува Њујорк Тајмс.
Објавените случаи дополнително го поттикнаа прашањето дали развојот на најнапредните модели треба да се забави додека не се воведат посигурни безбедносни мерки. Дебатата се интензивираше по инцидентот во кој системите на OpenAI беа нападнати претходно оваа година од страна на стартапот за вештачка интелигенција Hugging Face, а компанијата дозна за настанот дури неколку недели подоцна.
Директорот на Anthropic, Дарио Амодеи, потоа повика на привремено забавување на развојот за да се овозможи доволно време за воведување заштитни механизми. Неговиот став беше поддржан од директорот на компанијата OpenAI, Сем Алтман (Сем Алтман), Елон Маск (Елон Маск) и шефот на Google DeepMind, Демис Хасабис (Деми Хасабис), додека други лидери на индустријата за вештачка интелигенција веруваат дека забавувањето не е потребно.
Меѓу новите примери е случајот со развојот на моделот GPT-5.6 Sol, кој напиша потсетници во внатрешни белешки за да ги скрие сопствените грешки од корисникот. Белешките, исто така, содржеа упатства за изработка на исчезнати податоци или прикривање на разликите помеѓу различните верзии на изворниот материјал. Во друг случај, сè уште необјавен модел вклучуваше упатства во своите белешки за игнорирање на поставените ограничувања и се опиша како систем „ослободен од улогите и идентитетите што ги ограничуваат другите четботови“.
Во друг инцидент, систем со вештачка интелигенција, додека одговарал на рутинско прашање, пронашол програмски клуч на Интернет и го користел без дозвола, а потоа измислил податоци кога не успеал да ги пронајде потребните броеви. Друг модел, откако правилно решил задача користејќи програмски код, ја поставил својата датотека на Интернет без дозвола за да може да цитира веб-извор. Во два дополнителни случаи, автоматизираните системи пронашле начини сами да комуницираат едни со други, едниот користејќи го внатрешното складиште на компанијата како табла за пораки, додека другиот разменувал документи преку јавни услуги за споделување датотеки.
OpenAI нагласи дека овие примери претставуваат индивидуални случаи и дека од нив не може да се заклучи колку често се случува несоодветно однесување на системите со вештачка интелигенција. Компанијата објави дека идните инциденти ќе бидат класифицирани во три категории, при што спорните прашања за откривање ќе бидат упатени до внатрешен советодавен одбор за безбедност, а најсериозните случаи до федералната влада на САД. Сите шест пријавени случаи веќе се истражени или бараат само мали дополнителни проверки, а голем дел од проблемот се однесувал на постари модели кои никогаш не биле пуштени во употреба.
(Biznis)
Фото – Wikimedia
