Прашајте го ChatGPT за резултатите од изборите, побарајте од Claude да ги сумира вестите или Perplexity да обезбеди основни информации за конфликтот на Блискиот Исток – стотици милиони луѓе се потпираат на четботовите со вештачка интелигенција како извори на информации секој ден. Само ChatGPT го користат 800 милиони луѓе ширум светот неделно. За многумина овие дигитални асистенти веќе ги заменуваат традиционалните пребарувања на Google.
Но, таа доверба е ризична, како што покажува нова студија на Европската радиодифузна унија (EBU). Здружението на 68 јавни радиодифузери од 56 земји систематски ја тестираше веродостојноста на најпопуларните системи со вештачка интелигенција.
Резултатите се застрашувачки: ChatGPT, Calude, Gemini и другите четботови измислуваат до 40% од нивните одговори, презентирајќи ги како факти.
Копилотот на Microsoft, интегриран во Word и Excel, не знае дека Шведска е членка на НАТО. Gemini на Google смета дека реизборот на Доналд Трамп е „можен“, иако тоа веќе се случило.
„Системите звучат убедливо, иако постојано кажуваат работи што се сосема неточни. Ова ги прави особено опасни за неискусните корисници, бидејќи грешките честопати не се веднаш очигледни“, предупредува економистот Питер Пош од Техничкиот универзитет во Дортмунд.
Феноменот се нарекува „халуцинација“: вештачката интелигенција измислува информации што изгледаат кохерентни, но немаат вистинска фактичка основа. Ова се случува особено често со локални настани, тековни вести или кога треба да се поврзат повеќе информации.
Што значи ова за општеството во кое сè повеќе луѓе ги добиваат своите информации од четботови? Последиците се веќе видливи: лажните информации брзо се шират на социјалните мрежи бидејќи корисниците споделуваат „факти“ генерирани од вештачката интелигенција без да ги проверат. Студентите вклучуваат измислени податоци во својата работа. Граѓаните можат да донесуваат одлуки за тоа за кого да гласаат врз основа на неточни тврдења.
Особено е проблематично што многу корисници не се ни свесни дека четботовите можат да „халуцинираат“. Тие претпоставуваат дека технологијата работи објективно и фактички – што е опасна заблуда. Системите со вештачка интелигенција предупредуваат за можни грешки во нивните услови за користење, но – кој воопшто го чита тоа?
Друг проблем се однесува на кредибилитетот на воспоставените медиуми. Четботовите често тврдат дека нивните измислени информации доаѓаат од извори како што се, на пример, германските јавни радиодифузери ARD или ZDF, иако овие медиуми никогаш не известувале за тоа – или го известувале сосема поинаку. Корисниците потоа ја губат довербата во реномираните извори кога вештачката интелигенција ги злоупотребува нивните имиња за да шири лажни информации.
Студијата на EBU ги тестирала четботовите со стотици фактички прашања за историски настани, научни факти и тековни вести. Во зависност од темата, стапката на грешки се движела од 15% до дури 40%. Ниту еден од тестираните системи со вештачка интелигенција не работел беспрекорно.
Проблемот е во самиот систем: четботовите всушност не разбираат што зборуваат. Тие пресметуваат кои зборови би можеле да следат врз основа на огромни количини текст и не можат да потврдат дали нивната изјава е точна. Тие немаат познавање на фактите, само статистички обрасци.
Технолошките компании се свесни за овие недостатоци и работат на решенија: тие интегрираат бази на податоци, ги подобруваат цитатите од извори и ги преквалификуваат системите. Милијарди се инвестираат во развој. Сепак, „халуцинациите“ остануваат фундаментален, но нерешен проблем со технологијата.
ЕБУ препорачува јасни правила при користење на чет-ботови: никогаш не им верувајте слепо, секогаш проверувајте важни информации и потпирајте се на воспоставени медиуми, а не на вештачка интелигенција, за вести и факти. Посебна претпазливост се препорачува кога станува збор за политички теми, здравствени информации и финансиски одлуки.
Училиштата и универзитетите мора да учат медиумска писменост – како да се препознаат дезинформации генерирани од вештачка интелигенција и кои извори се сигурни.
(DW)
(фото: Pexels)
