The Guardian пренесува дека осум американски сојузни држави ја обвинуваат компанијата OpenAI дека ги доведува во заблуда родителите во однос на безбедноста на својот четбот, како и дека ги изложува ранливите корисници на опасни разговори.
Освен тоа, CNET известува дека една мајка, која поднела тужба во име на своите две деца, тврди дека OpenAI собирала и користела чувствителни лични податоци на децата без важечка согласност од родителите.
Овие случаи покренуваат сериозни прашања за тоа што се случува кога децата им ги доверуваат своите најинтимни размислувања на еден четбот, како и каква одговорност сноси компанијата што стои зад него за разговорите што произлегуваат од тоа.
На 14 октомври главните јавни обвинители на Ајова, Канзас, Небраска, Западна Вирџинија, Арканзас, Аризона, Ајдахо и Монтана поднесоа посебни тужби против OpenAI. Оваа координирана акција ја обвинува компанијата дека ги доведува во заблуда родителите во врска со безбедноста на ChatGPT и дека ги прекршува државните закони за заштита на потрошувачите.
Сојузните држави тврдат дека четботот е дизајниран да биде „претерано личен“ и да „симулира човечка емпатија“. Обвинителите укажуваат на случаи во кои ChatGPT наводно ги изложил ранливите корисници – вклучително и деца – на ризик, охрабрувајќи ги да извршат самоубиство или да им наштетат на другите.
Условите за користење на OpenAI наложуваат корисниците помлади од 18 години да имаат дозвола од родител или старател. Сепак, во тужбата се наведува дека децата можат да креираат кориснички сметки без OpenAI да провери дали таквата дозвола навистина е дадена. Исто така, опишан е случај во кој дете помладо од минималната пропишана возраст од 13 години – кое ја користи услугата – продолжува да комуницира со четботот дури и откако експлицитно ја навело својата возраст.
Тужителите тврдат дека компанијата користела податоци од деца за обука на своите модели на вештачка интелигенција без важечка родителска согласност. Тие понатаму тврдат дека OpenAI собирала податоци за да креира лични профили.
OpenAI ги отфрла овие обвинувања, нарекувајќи ја тужбата „погрешно насочена“ и истакнувајќи ги заштитните мерки што ги има воведено за помладите корисници. OpenAI воведе верзија на ChatGPT наменета за тинејџери, која вклучува дополнителни родителски контроли и известувања дизајнирани да ги алармираат поврзаните родители во одредени, ограничени ситуации – како на пример, кога постои сериозна загриженост за самоповредување.
Сепак, ефикасноста на овие заштитни мерки е предмет на дополнителна проверка. Порано овој месец, Common Sense Media ја оцени верзијата на ChatGPT ориентирана кон тинејџери како „неприфатлив ризик“, известувајќи дека тестирањето открило неуспеси во известувањето на родителите за време на разговори поврзани со самоубиство, самоповредување или нарушувања во исхраната.
OpenAI ги оспорува овие наоди, тврдејќи дека неговите безбедносни предупредувања се дизајнирани за специфични сценарија и можеби не ги идентификуваат сите потенцијални области на загриженост.
(Vidi.hr)
(фото: Pexels/Solen Feyissa)
