Алгоритмот за намалување на слики на Твитер претпочита помлади, послаби лица со посветла кожа, откри истрагата за алгоритамската пристрасност на компанијата, пишува Гардијан.
Откритието, за кое претходно компанијата им се извини на корисниците, го означува првиот случај на успешно пронајдена грешка во алгоритмот на Твитер.
Компанијата му исплати 3.500 долари на Богдан Кулинич, дипломиран студент на Швајцарскиот федерален институт за технологија, кој ја докажа пристрасноста во алгоритмот, кој се користи за фокусирање на прегледите на сликите на нивните најинтересни делови. На ова работел во рамки на натпревар во Лас Вегас.
Кулинич ја докажа пристрасноста со тоа што прво вештачки генерираше лица со различни карактеристики, а потоа ги спроведе преку алгоритмот на Твитер за да види на што се фокусира софтверот.
Со оглед дека лицата сами по себе биле вештачки, можело да се генерираат лица кои се скоро идентични, но во различни точки на спектарот на тонот на кожата, ширината, полот или возраста – и така младиот студент демонстрираше дека алгоритмот се фокусира на помлади, послаби и посветли лица наспроти оние кои биле постари, пошироки или потемни.
„Кога размислуваме за предрасуди во нашите модели, не станува збор само за академски или експериментални… туку и како функционира тоа со начинот на кој размислуваме во општеството“, вели Руман Чаудхари, шеф на тимот за етичка вештачка интелигенција при Твитер.
„Ја користам фразата„ животот ја имитира уметноста што го имитира животот“. Ние ги создаваме овие филтри затоа што мислиме дека тоа е она што е „убаво“, а тоа завршува со тренирање на нашите модели и водење на овие нереални сфаќања за тоа што значи да се биде привлечен“.
Твитер беше мета на критики во 2020 година поради алгоритмот за намалување на сликата, откако корисниците забележаа дека редовно се фокусира на белите лица над црните луѓе – па дури и на белите кучиња над црните.
Компанијата првично се извини, велејќи: „Нашиот тим направи тест за пристрасност пред да го испрати моделот и не најде докази за расна или родова пристрасност во нашето тестирање. Но, од овие примери е јасно дека имаме повеќе анализи за правење. Ние ќе продолжиме да го споделуваме она што го учиме, какви дејства преземаме и ќе ги споделиме јавно нашите анализи за да можат другите да ги прегледаат и реплицираат “.
Меѓутоа, во подоцнежна студија, сопствените истражувачи на Твитер открија само многу блага пристрасност во корист на белите лица и лицата на жените.
Ова ја натера компанијата да започне да доделува награди од илјадници долари за истражувачите кои би можеле да докажат штетни резултати од алгоритмот за намалување слика на компанијата.
Извор – Радио МОФ
Фото – Pixabay
