Американската компанија OpenAI најави воведување невидлив воден печат за текст и код генерирани од нејзините алатки ChatGPT и Codex во рамките на Европската унија. Оваа одлука е донесена за да се усогласи со новиот Закон за вештачка интелигенција на Европската унија, чии правила за транспарентност бараат од развивачите да ја означуваат содржината генерирана од вештачка интелигенција, со цел другите компјутерски системи лесно да можат да ја препознаат.
Невидливиот воден печат постепено ќе се воведува за сите корисници на ChatGPT и Codex во земјите-членки на ЕУ во текот на наредните недели. За развивачите ширум светот кои го користат API-то на OpenAI, оваа функција е достапна од денес, иако е исклучена по дифолт и зависи од претпочитањата на корисникот.
Технологијата зад ова решение, наречена TextGrain, е развиена во соработка со истражувачи од Универзитетот во Пенсилванија и Универзитетот Јеил. Водениот печат не претставува видлив графички симбол; наместо тоа, тој суптилно влијае на изборот на следните зборови во реченицата врз основа на таен клуч.
Ова создава математичка шема која е невидлива за човечкото око, но може да се открие со специјализирани алатки, дури и откако текстот ќе биде копиран и префрлен во друг документ. Од OpenAI напоменуваат дека водениот печат не собира лични податоци и не го нарушува квалитетот на генерираниот текст.
Сепак, тестовите открија одредени ограничувања на оваа технологија, соопшти OpenAI на својата веб-страница. Замената на околу 10 проценти од зборовите во текстот со вообичаени синоними ја намалува сигурноста на откривањето од 92 на 66 проценти, додека кратките одговори, математичките пресметки и преведените текстови се потешки за означување со воден печат.
Поради овие ограничувања, OpenAI првично ќе овозможи пристап до алатката за откривање само на проверени истражувачки организации и експерти, кои можат да аплицираат за користење на детекторот почнувајќи од денес.
(Euro News)
(фото: Pexels / Solen Feyissa)
