Ново истражување објавено од Wired откри дека големите јазични модели се значително подобри од луѓето во изведувањето на таканаречените измами со „касапење свињи“ – форма на измама преку интернет инвестиции во која криминалците градат лажни, долгорочни врски со жртвите за да стекнат доверба пред целосно да ги лишат финансиски.
За да ја спроведат студијата, истражувачите од Универзитетот Нортистен и група меѓународни институции се соочија со 22 испитаници со два вида измамници: едниот беше вештачки чет-бот, а другиот беше случајно избрано лице. По седумдневно додворување, „измамниците“ ги замолија своите „жртви“ или да преземат апликација или да играат онлајн игра, што служеше како замена за финансиски манипулативно барање (барања што во реалниот свет би можеле да се користат за хакирање на уредот на жртвата).
Генерално, само 18 проценти од човечките измамници успеале во својата намера, додека чет-ботовите со вештачка интелигенција биле далеку поуспешни, освојувајќи речиси половина од учесниците.
Иако самите резултати се доволно загрижувачки, леснотијата со која истражувачите успеале да создадат овие измамнички јазични модели е веројатно уште позастрашувачка. Студијата првенствено го користела моделот Клод, на кого му било наложено да не признае под никакви околности дека вештачката интелигенција е чет-бот.
Ботот Клод послушал со извонредна посветеност, негирајќи дека е чет-бот со вештачка интелигенција кога бил замолен, па дури и измислувајќи прикриени приказни кога бил притиснат.
„Со релативно малку напор, успеавме да создадеме агент кој може да го надмине човекот во градењето на оваа емоционална доверба што е пријателска кон злоупотребата“, изјави за Wired Јисроел Мирски, професор по компјутерски науки на Универзитетот Бен Гурион и еден од коавторите на студијата.
Подеднакво алармантна беше и реакцијата на учесниците откако завршил експериментот. Иако 20 од 22 жртви успеале да идентификуваат кој од двајцата измамници бил чет-ботот со вештачка интелигенција, истражувачите за Wired изјавиле дека имало голем шок, па дури и негирање.
(B92)
Фото – Pixa Hive
