Новата публикација „Етика и пристрасност во вештачката интелигенција“ е дело на Суад Сефери, основач на првата невладина организација за вештачка интелигенција „ВИ Сега“ и универзитетските професори Сеад Џигал и Сања Аџаип Величковски, која се занимава со потребата за етичко и одговорно користење на новите технологии во секојдневието.
Во интервју за Иновативност, Сефери објаснува дека целта на ова издание е да се поттикне дебата за одговорна, инклузивна и иновативна примена на ВИ во општеството, како и за воспоставување на национални стандарди кои ќе бидат во согласност со европските и светски практики. Системите на ВИ треба да бидат објасниви, да не дискриминираат по било која основа, да ги почитуваат приватноста и човековите права, и да обезбедуваат еднаков пристап и третман за сите корисници.
Разговараше – Сања Наумовска
Неодамна беше промовирана вашата публикација „Етика и пристрасност во вештачката интелигенција“. Која беше мотивацијата да се работи на ова дело?
Мотивацијата за изработка на оваа публикација произлегува од сè поголемото влијание на вештачката интелигенција (ВИ) врз секојдневниот живот, како и од потребата за етичко и одговорно користење на овие технологии во С. Македонија и регионот. Додека глобалните трендови покажуваат забрзана примена на вештачка интелигенција, кај нас таа се воведува без доволно дебата, контрола и разбирање. Соочени сме со нови предизвици поврзани со пристрасност, приватност и транспарентност, а нашата цел беше да понудиме практичен водич и препораки за сите засегнати страни – институции, компании, академија и граѓански сектор, за да се обезбеди безбедна и фер примена на ВИ.
Кои се главните поенти и препораки?
Главните поенти се насочени кон препознавање и намалување на пристрасноста во алгоритмите преку користење разновидни и репрезентативни податоци, заштита на личните и чувствителни информации на корисниците преку строги протоколи и транспарентност во обработката на податоци, потребата од транспарентност и одговорност кај сите што развиваат и применуваат ВИ, како и воспоставување на национални и регионални стандарди за етичка употреба на ВИ, во согласност со европските и светски практики.
Што подразбира кога ќе се каже етичка и фер употреба на вештачка интелигенција?
Етичката и фер употреба на ВИ подразбира развој и примена на технологии кои се транспарентни, одговорни и инклузивни. Тоа значи дека системите на ВИ треба да бидат објасниви, да не дискриминираат по било која основа (пол, раса, возраст), да ги почитуваат приватноста и човековите права, и да обезбедуваат еднаков пристап и третман за сите корисници. Важно е и континуирано едуцирање на професионалците и јавноста за етичките аспекти на ВИ.
Каква е состојбата на ова поле во земјава, колку сме блиску/далеку од земјите во регионот или од развиените земји?
Северна Македонија е на почетокот од воспоставувањето национални стандарди и регулативи за етичка употреба на ВИ. Во споредба со земјите од регионот, како Србија, Бугарија или Грција, кои веќе имаат усвоено стратегии или етички водичи, ние сè уште работиме на првите чекори. Нашата публикација претставува значаен придонес за подигнување на јавната свест и иницирање институционални процеси за унапредување на ова поле.
Кои се главните предности на ВИ и нејзиното користење?
Вештачката интелигенција нуди значајни предности во различни сектори преку автоматизација, подобрување на ефикасноста и отворање нови можности. Во здравството, ВИ се користи за автоматска анализа на медицински слики, персонализирани терапии според генетски податоци, предвидување на ширење на заразни болести и оптимизација на болнички ресурси. Во образованието, адаптивни платформи за учење се прилагодуваат на индивидуалните потреби на учениците, автоматска евалуација на тестови и интелигентни тутори помагаат во учењето. Во земјоделството, системи за интелигентно наводнување, детекција на болести кај растенијата преку сателитски снимки и оптимизација на жетвата се дел од примената. Јавната администрација користи автоматизација на административни процеси и подобрување на транспарентноста и ефикасноста во услугите за граѓаните. Во бизнисот и финансии, ВИ овозможува анализа на податоци за предвидување на пазарни трендови, автоматско детектирање на измами и персонализирани препораки за клиенти. Бенефитите од ВИ вклучуваат зголемена продуктивност, намалување на човечки грешки, поефикасно користење на ресурси и подобрување на квалитетот на услугите.
Кои се опасностите од неетичкото користење на ВИ? Колку е АИ всушност заканата за луѓето, работните места, бизнисите, медиумите или е тоа нејзиното погрешно користење?
Вистинската закана не е самата технологија, туку начинот на нејзина примена. Најголемите опасности од неетичко користење на ВИ се пристрасност и дискриминација, особено кога алгоритмите се тренирани врз податоци со историски или културни предрасуди, што може да резултира со дискриминаторски одлуки, на пример при вработување или доделување кредити. Во Македонија веќе имаше случаи каде автоматски системи за селекција на кандидати покажаа пристрасност по пол или возраст. Дезинформации и манипулации преку deepfake видеа, лажни вести и автоматски генерирани содржини ја манипулираат јавноста. Во светот, вакви технологии веќе се користат за политички манипулации и ширење на дезинформации, а и кај нас се забележани случаи на автоматско модерирање на содржини на социјалните мрежи што доведува до блокирање на легитимни информации. Автоматизацијата може да ги замени одредени професии, особено во индустриите каде што рутинските задачи се доминантни, што бара навремена преквалификација и поддршка за работниците. Масовното собирање и обработка на лични податоци носи ризик од злоупотреби и пробиви на податоци, па се потребни строги протоколи и транспарентност во ракувањето со лични информации.
Заканата не е технологијата, туку нејзината примена. Затоа е важно да се едуцира јавноста за препознавање на ризиците, како на пример, внимателно проверување на изворите на информации и препознавање на манипулативни содржини, како и да се бара транспарентност од институциите и компаниите кои користат ВИ.
Кои се начините на кои би требало да ги достигнеме посакуваните стандарди?
Потребно е воспоставување на национални и регионални етички стандарди и регулативи, во согласност со европските практики. Транспарентност и одговорност кај сите што развиваат и применуваат ВИ треба да се промовираат. Континуирана едукација и обука на професионалци и јавноста за етичките аспекти на ВИ е неопходна. Вклучување на различни сектори – академија, влада, индустрија и граѓански сектор – во креирањето на политики и практики за одговорно користење на ВИ е клучно. Поддршка на истражувања и развој на инклузивни и правични алгоритми, особено во однос на родова еднаквост и заштита на маргинализираните групи, треба да биде приоритет.
Кажете ни нешто повеќе за работата на Асоцијацијата за вештачка интелигенција „AI NOW“.
Асоцијацијата „AI NOW“ е првата национална платформа за вештачка интелигенција во Северна Македонија. Нашата мисија е да поттикнеме одговорна, инклузивна и иновативна примена на ВИ преку едукација, истражување и застапување на етички стандарди. Со објавувањето на првиот национален водич за етика и пристрасност во ВИ, ја поставивме основата за понатамошен развој на ова поле и активно работиме на едукација, креирање политики и меѓусекторска соработка за подобра иднина со ВИ во нашата земја.
