OpenAI објави нова функција во ChatGPT што му овозможува на моделот да ја процени возраста на корисникот врз основа на различни сигнали поврзани со сметката и однесувањето, со цел да се идентификуваат сметки што може да ги користат малолетници.
Промената е претставена како дел од поширока иницијатива за да се направи вештачката интелигенција побезбедна и подобро прилагодена содржина на возраста на корисникот.
Системското предвидување на возраста функционира со автоматско проценување на веројатноста дека корисникот е под 18 години, а потоа, доколку алгоритмот го покаже тоа, автоматски активира построги безбедносни поставки. Ова вклучува ограничување на пристапот до чувствителна содржина како што се графичко насилство, сцени што поттикнуваат преземање ризик или одредени сексуално експлицитни теми, како и друга содржина што се смета за несоодветна за малолетници.
OpenAI објаснува дека проценката се базира на комбинација од сигнали поврзани со сметката, вклучувајќи ја самопријавената возраст на корисникот при регистрација, должината на сметката, типичното време на активност и моделите на користење со текот на времето, за да се направи информирана проценка без потреба од постојана рачна верификација.
Доколку системот погрешно го означи возрасен корисник како малолетник, постои опција за отстранување на овие ограничувања со проверка на возраста преку селфи или лична карта преку услуга од трета страна (Persona). Овој чекор овозможува целосна функционалност да се врати откако ќе се потврди дека корисникот е навистина возрасен.
Лансирањето на системот за предвидување на возраста доаѓа во време на зголемен меѓународен надзор на платформите за вештачка интелигенција и нивното влијание врз децата и адолесцентите. OpenAI се соочи со критики поради ризиците што генеративната вештачка интелигенција може да ги претставува за малолетниците, вклучително и потенцијално изложување на штетна или чувствителна содржина, а оваа функција доаѓа како одговор на тие загрижености.
Системот веќе почна да се воведува глобално, додека се очекува Европската унија да ја заврши неговата имплементација во наредните недели, со цел целосно да се усогласи со локалните безбедносни и регулаторни барања.
Стратешки, предвидувањето на возраста е важно и во контекст на најавата за режим за возрасни за корисници кои се потврдуваат себеси како возрасни, модел што би дозволил содржина што не е наменета за малолетници, но со строга проверка на идентитетот. Овој „двоен“ пристап покажува како OpenAI се обидува да ја балансира безбедноста на младите луѓе и слободата на возрасните корисници, додека одржува доверба и усогласеност со растечките регулаторни барања во светот на технологиите за вештачка интелигенција.
(The Hill/Benchmark)
