Малезија и Индонезија станаа првите земји што го блокираа Grok, четбот со вештачка интелигенција развиен од компанијата xAI на Илон Маск, откако властите изјавија дека алатката се злоупотребува за генерирање сексуално експлицитни и ненамерни (неконсензуални) слики.
Мерките ги одразуваат растечките глобални загрижености за генеративните алатки за вештачка интелигенција кои можат да произведат реалистични слики, звук и текст, додека постојните заштитни мерки не успеваат да ја спречат нивната злоупотреба.
Четботот Grok, до кој се пристапува преку социјалната мрежа X на Маск, е критикуван за генерирање манипулирани слики, вклучувајќи прикажувања на жени во бикини или сексуално експлицитни пози, како и содржина со деца.
Регулаторите во двете земји од Југоисточна Азија изјавија дека постојните контроли не го спречуваат создавањето и дистрибуцијата на лажна порнографска содржина, особено онаа што вклучува жени и малолетници. Индонезиската влада привремено го блокираше пристапот до Grok во саботата, а потоа и Малезија во неделата.
„Владата ги смета ненамерните сексуални дипфејкси како сериозно кршење на човековите права, достоинството и безбедноста на граѓаните во дигиталниот простор“, изјави во саботата министерот за комуникации и дигитални работи на Индонезија, Меутја Хафид.
Министерството соопшти дека мерката е воведена за заштита на жените, децата и пошироката заедница од лажна порнографска содржина генерирана со помош на технологијата на вештачка интелигенција.
Првичните наоди покажаа дека на Grok му недостасуваат ефикасни заштитни мерки за да се спречат корисниците да создаваат и да дистрибуираат порнографска содржина заснована на вистински фотографии на Индонезијци, изјави во посебна изјава Александар Сабар, генерален директор на надзорникот за дигиталниот простор.
Тој додаде дека ваквите практики можат да доведат до кршење на правата за приватност и заштита на сликите кога фотографиите се манипулираат или споделуваат без согласност, предизвикувајќи психолошка, социјална и репутациска штета.
Во Куала Лумпур, Комисијата за комуникации и мултимедија на Малезија во неделата нареди привремено ограничување на пристапот до Grok по она што го нарече „повторена злоупотреба“ на алатката за создавање непристојни, сексуално експлицитни и ненамерно манипулирани слики, вклучително и содржина со жени и малолетници.
Регулаторот соопшти дека писмата испратени овој месец до X Corp. и xAI, во кои се бараат посилни заштитни мерки, дале одговори кои во голема мера се потпирале на механизмите за пријавување на корисниците.
„Ограничувањето се воведува како превентивна и пропорционална мерка додека се во тек правните и регулаторните процеси“, се вели во соопштението, додавајќи дека пристапот ќе остане блокиран сè додека не се воспостават ефикасни заштитни мерки.
Grok беше лансиран во 2023 година и е бесплатен за употреба на платформата X. Корисниците можат да поставуваат прашања на социјалната мрежа и да ги означуваат објавите што ги креирале, како и да одговараат на објави од други корисници. Минатото лето компанијата воведе функција за генерирање слики, Grok Imagine, која вклучува таканаречен „зачинет режим“ способен за генерирање содржина за возрасни.
Ограничувањата во Југоисточна Азија доаѓаат во време кога Grok се соочува со зголемен надзор на други места, вклучително и во Европската унија, Велика Британија, Индија и Франција. Grok минатата недела ја ограничи можноста за генерирање и уредување слики на корисниците што плаќаат само по глобалното негодување поради сексуализираните длабоки лажни слики на луѓе, но критичарите велат дека тоа не го решава целосно проблемот.
(Klix.ba)
