Во време кога довербата и безбедноста онлајн стануваат клучни елементи на секоја дигитална интеракција, вештачката интелигенција (AI) игра сè поголема улога во начинот на кој компаниите ги заштитуваат своите корисници. За овие теми и за трансформацијата што ја носи AI во дигиталната безбедност, разговараме со г-а Марина Ангеловска, Engineering Manager во Booking.com, една од водечките светски дигитални травел платформи и една од говорничките на претстојната 8. Регионална конференција за е-трговија која ќе се одржи во Скопје на 4 ноември. Со долгогодишно искуство во софтверско инженерство и водење интернационални технолошки тимови, Марина е одговорна за развој на системи кои секојдневно обезбедуваат сигурност за милиони корисници ширум светот. Нејзината работа е насочена кон примена на вештачката интелигенција за откривање и спречување на измами, заштита на податоците и унапредување на довербата во дигиталните услуги — со цел секој патник да може да резервира и патува со чувство на сигурност.
Новинар – Верица Јорданова
Започнавте во Booking.com како специјалист за машинско учење во областа на Trust & Safety, а сега водите тим кој комбинира машинско учење и софтверско инженерство. Гледајќи наназад, која е една лекција од практичната работа што сè уште го обликува начинот на кој што менаџирате денес?
Кога ќе погледнам наназад на мојот пат и кариера, ако треба да издвојам една клучна лекција што ја дефинираше мојата транзиција кон менаџмент, тоа е важноста на преземањето одговорност во неизвесни ситуации.
Како ML Scientist (научник за машинско учење), често живеете со неизвесност и не знаете со сигурност дали моделот ќе ги постигне целните KPI индикатори и посакувани резултати, а воедно времето потребно за добивање на тие резултати е помалку предвидливо отколку во класичното софтверско инженерство. Учев како да се движам низ таа постојана неизвеснот, и тоа ми помогна да стекнам една суштинска вештина: целосно да го преземам процесот на истражување и ризик, од почеток до крај.
Како менаџер, ова се претвора во создавање култура на психолошка сигурност и отпорно планирање. Го водам тимот така што ги охрабрувам луѓето да не се плашат од неизвесноста, туку напротив, проактивно да ги преземат потребните чекори за соочување со непознатото. Приоритет ми е транспарентната комуникација за ризиците и можности, наместо целење кон фиксен резултат, за да можеме да носиме информирани одлуки и да ги држиме сите инволвирани членки на проектот усогласени, дури и кога првичниот план се менува. Оваа способност за управување со неизвесност е можеби најважната лекција во мојот премин од научниот во менаџерскиот свет.
Да се води тим кој работи и на најсовремени AI решенија и на клучни безбедносни функции звучи доста комплексно. Како ги поттикнувате инженерите во вашиот тим да иновираат, а притоа да ги задржат довербата и сигурноста во основата на сè што создаваат?
Балансот помеѓу иновација и доверба и сигурност на системите навистина е еден од најголемите предизвици во нашата индустрија, и тоа е нешто што постојано го имам на ум како менаџер. Нашата примарна цел секогаш е да помогнеме во заштитувањето на корисниците и да постапуваме правилно, а не само да се водиме по највозбудливите технолошки идеи.
Но, за да останеме ефикасни, мора постојано да се развиваме. За да ја поттикнеме иновацијата, практикуваме нешто што го нарекувам „иновирање со контролиран ризик“. Јасно ги раздвојуваме експериментите од “production” системите. На пример, често организираме интерни хакатони кои служат како безбедни зони за учење и креативност. Овие идеи потоа се развиваат во т.н. “Proof of Concept” решенија што минуваат низ строга процена и валидација пред да бидат вклучени во нашите активни системи кои овозможуваат безбедност на корисниците. Така можеме смело да иновираме без да ја загрозиме сигурноста.
Сигурноста сама по себе е задолжителна. Секоја иновативна ML-апликација мора да се темели на цврсти инженерски основи. Успехот го мериме не само преку точноста на моделот, туку и преку стабилноста, следливоста и одржливоста на целиот “production” процес.
Покрај тоа, јас сум силен поборник за споделување на знаење и брзи успеси. Редовно одржуваме сесии за размена на искуства и имаме активни Slack-канали за нови сознанија – од конференции, статии и блогови. Оваа култура на постојано учење им помага на тимовите побрзо да решаваат предизвици и да добиваат свежи идеи.
Со ваков начин на размислување, иновациите директно ја поддржуваат нашата главна мисија – да им овозможиме на сите безбедно да го доживеат светот.
Вашето излагање на 8. Регионална конференција за е-трговија во Скопје на тема „Како ги чуваме нашите клиенти безбедни со помош на вештачка интелигенција“ истражува како Booking.com обезбедува не само онлајн, туку и реални безбедни искуства. Што ве инспирираше за оваа тема и која порака сакате да ја понесат слушателите?
Инспирацијата доаѓа директно од мисијата на Booking.com – да му овозможи на секој човек безбедно да го доживее светот. Работејќи во областа на Trust & Safety, оваа мисија е основа на сè што правиме. Како менаџер на ML и инженерски тимови, имам привилегија да видам како вештачката интелигенција ја движи оваа мисија напред, на глобално ниво.
Интересно е што многумина мислат дека „безбедност“ значи само борба со онлајн ризици, како откривање измами или сигурни плаќања. Иако тоа е важно, нашите напори одат уште подалеку. Работиме на заштита на физичката и психолошката благосостојба на патниците и партнерите во текот на целото нивно патување, од резервација до крај на патувањето.
Пораката што сакам да ја пренесам е двојна: Прво, бизнисите треба да одат подалеку од обична регулаторна усогласеност или едноставно штиклирање на “безбедносни листи”. Време е да го смениме пристапот од „што мора да направиме“ кон „што можеме да направиме“ за вистински да го подобриме корисничкото искуство. И второ, новите технологии и AI се клучни двигатели на таа промена, тие го поврзуваат онлајн светот со реалниот, овозможувајќи ни да предвидиме, спречиме и реагираме на комплексни човечки ризици на голем обем.
Туристичката индустрија постојано се менува, со нови дигитални ризици и очекувања од корисниците. Како гледате на улогата на AI во обликувањето на иднината на онлајн патувањата и е-трговијата во следните неколку години?
Како ентузијаст за вештачка интелигенција, гледам дека AI целосно ја трансформира е-трговијата, правејќи го корисничкото искуство по-персонализирано, поефикасно и побеспрекорно. Но, клучно е да не заборавиме на вистинската цел: да решаваме реални проблеми за луѓето – безбедно, одговорно и во голем обем.
Областа што веќе најбрзо се менува е пребарувањето и откривањето содржини. Сè повеќе луѓе, вклучително и јас, денес претпочитаат да разговараат со LLM модели наместо да пребаруваат на Google. Без разлика дали планираме патување, бараме ресторан или споредуваме уреди, сакаме персонализирани, разговорни и корисни одговори. AI го претвора процесот на откривање од едноставно филтрирање во интелигентно, проактивно искуство што го води корисникот низ целиот процес, а не само низ една трансакција. Возбудлив пример за ова е што Booking.com стана една од првите апликации-партнери на ChatGPT, што им овозможува на патниците полесно да откриваат сместувања преку едноставни разговорни команди (на пример: „Booking.com најди ми хотели во Мајами од 3 до 5 ноември со базен“). Доколу сте заинтересирани да прочитате повеќе за ова, погледнете ја оваа статија.
Покрај тоа, AI носи и нова ера на оперативна отпорност т.н. operational resilience. Во индустријата AI веќе презема комплексни и повторливи задачи како брза обработка и одговори на барања од клиенти, динамично поставување на цени или пак автоматско следење на точноста на поставените стандарди – со што се ослободува време за тимовите да се фокусираат на креативни и комплексни активности.
Верувам дека AI може да ги унапреди бизнисите, да го поедностави животот и да создаде нови искуства – се додека се користи одговорно. Тимовите што ќе предводат во оваа област се оние што се движат брзо, но остануваат цврсто втемелени во етиката, довербата и исправното постапување.
Машинското учење е клучен дел од вештачката интелигенција – централна за вашата работа како специјалист и инженерски менаџер. На кои AI алатки, рамки или технологии најмногу се потпирате – вие или вашиот тим – и кои би им ги препорачале на професионалците во е-трговијата?
Денес сите се потпираме на AI апликации кои стануваат сè поважен дел од секојдневната работа, и за инженерите и за лидерите. Освен широко користените open source алатки, според мене, најголемиот предизвик и фокус денес се во областа на MLOps – односно како моделите да се имплементираат, прошируваат и притоа да останат стабилни во работењето. Во нашиот тим во Booking.com го решаваме тоа преку користење на робусни MLOps платформи, како AWS SageMaker, кои го стандардизираат целиот процес – од создавање карактеристики за моделот до мониторинг. Овој пристап е клучен за е-трговијата, бидејќи ја елиминира опасноста од „model drift“ што може да предизвика губење на приходи, и овозможува брза и сигурна имплементација на моделите со еден клик – нешто што често е поважно од почетната точност на моделот.
Многу стартапи и компании на Западен Балкан почнуваат да експериментираат со вештачка интелигенција. Од вашето искуство на глобално ниво, кој би бил вашиот совет за тимовите што сакаат да градат AI решенија одговорно и ефективно, без да ја изгубат фокусираноста на корисничкото искуство?
Според мене, развојот на AI решенија секогаш мора да е поврзан со фокусот кон корисниците. Најуспешните апликации што сум ги видела започнуваат со длабоко разбирање на вистинските потреби на луѓето, а не со трчање по новата технолошка мода.
За компаниите на Западен Балкан, би препорачала да започнат со мали, фокусирани проекти што навистина го подобруваат корисничкото искуство. Не е потребно да ги имплементирате сите алатки за вештачка интелигенција сè од првиот ден, туку идентификувајте една конкретна т.н. “болна точка” или препрека која ќе можете да ја решите добро. Важно е уште од почеток да се вгради одговорност во процесот – преку размислување за пристрасност, фер третман и приватност на податоци како составен дел од стратегијата за развој, а не како додаток на крајот.
Интерактивниот пристап е исто така клучен: собирајте повратни информации од корисниците и задржете човечка контрола во раните фази, особено кога станува збор за одлуки што директно влијаат на луѓето. Така се гради доверба и постојан надзор. Успехот не треба да се мери само преку техничка точност, туку преку тоа колку решението е корисно и сигурно за корисниците.
Западен Балкан има уникатна можност да гради AI решенија со свежа перспектива и помалку ограничувања од претходни системи. Ако тимовите останат втемелени во етиката и вредноста за клиентите, имаат вистинска шанса да бидат лидери во паметна и одговорна иновација – што е навистина возбудливо.
