Tiiny AI, американски стартап специјализиран за вештачка интелигенција, го претстави најмалиот личен суперкомпјутер во светот, Tiiny AI Pocket Lab, кој е официјално потврден од Гинисовата книга на рекорди.
Настанот го означи првото глобално јавно лансирање на Tiiny AI Pocket Lab. За прв пат во суперкомпјутерството со вештачка интелигенција уред со џебна големина е способен да извршува до 120 милијарди параметарски големи јазични модели (LLM) целосно на уредот, без поврзување со облак, серверит или врвни графички процесори.
Наменет за енергетски ефикасна лична интелигенција, Tiiny AI Pocket Lab работи со потрошувачка на енергија од 65 W. Може да ги испорача перформансите на големите модели со значително помал енергетски и јаглероден отпечаток од традиционалните системи базирани на графички процесори.
Уредот претставува голема промена во траекторијата на индустријата за вештачка интелигенција. Бидејќи вештачката интелигенција базирана на облак сè повеќе се бори со проблеми со одржливоста, растечките трошоци за енергија, глобалните прекини, превисоките трошоци за обработка на долг контекст и растечките ризици за приватноста, Tiiny AI воведува алтернативен модел фокусиран на лична, пренослива и целосно приватна интелигенција.
„Вештачката интелигенција во облак донесе извонреден напредок, но исто така создаде предизвици на зависност, ранливост и одржливост“, рече Самар Боџ, директор на GTM во Tiiny AI.
„Со Tiiny AI Pocket Lab веруваме дека интелигенцијата не треба да им припаѓа на центрите за податоци, туку на луѓето. Ова е првиот чекор кон тоа напредната вештачка интелигенција да стане навистина достапна, приватна и лична со тоа што ќе ја донесе моќта на моделите со голем обем од облакот до секој уред.“ рече Боџ.
Tiiny AI Pocket Lab е дизајниран да поддржи речиси секој голем случај на употреба на лична вештачка интелигенција, служејќи им на програмерите, истражувачите, креаторите, професионалците и студентите. Овозможува повеќестепено заклучување, длабоко контекстуално разбирање, работни процеси на агенти, генерирање содржина и безбедна обработка на чувствителни информации, дури и без пристап до интернет.
Уредот, исто така, обезбедува вистинска долгорочна лична меморија со локално складирање на кориснички податоци, преференции и документи со банкарска енкрипција, нудејќи ниво на приватност и издржливост што системите за вештачка интелигенција базирани на облак не можат да го обезбедат.
Клучно е што Tiiny AI Pocket Lab работи во „златната зона“ на личната вештачка интелигенција, задоволувајќи над 80% од потребите во реалниот свет. Понатаму, поддржува модели што се зголемуваат до 120B LLM, испорачувајќи нивоа на интелигенција споредливи со GPT-4o. Ова овозможува инференција на ниво на докторат, анализа на повеќе нивоа и длабоко контекстуално разбирање, но со безбедноста на целосно офлајн обработка на уредот.
Најавата доаѓа во време кога глобалниот пазар на LLM влегува во период на брза експанзија. Според Grand Views Research, големината на глобалниот пазар на LLM се проценува на 7,4 милијарди американски долари во 2025 година и се предвидува да достигне 35,4 милијарди американски долари до 2030 година, со комбинирана стапка на раст од 36,9% од 2025 до 2030 година. Тоа е поттикнато од напредокот во самонадгледуваното учење, развојот на модели специфични за доменот и зголемувањето на усвојувањето од страна на претпријатијата во сите сектори, вклучувајќи ја малопродажбата, е-трговијата, здравството и медиумите.
Тини AI Pocket Lab е напојувана од два клучни технолошки откритија кои овозможуваат модели со високи параметри на компактен уред. TurboSparse, техника на ретка активација на ниво на неврони, значително ја подобрува ефикасноста на инференција, додека ја задржува целосната интелигенција на моделот. PowerInfer, хетероген мотор за инференција со отворен код со повеќе од 8.000 GitHub ѕвезди, ги забрзува големите работни оптоварувања на LLM со динамичка распределба на пресметките помеѓу процесорските и непродуктивните единици, овозможувајќи врвни перформанси со дел од традиционалната потрошувачка на енергија. Заедно, овие технологии ѝ овозможуваат на Tiiny AI Pocket Lab да испорача можности за кои претходно беа потребни професионални графички процесори кои чинеа илјадници долари.
Компанијата исто така нуди екосистем со отворен код подготвен за употреба. Tiiny AI Pocket Lab поддржува инсталација со еден клик на водечки модели со отворен код, вклучувајќи OpenAI GPT-OSS, Llama, Qwen, DeepSeek, Mistral и Phi, и овозможува непречено распоредување на популарни агенти за вештачка интелигенција со отворен код како што се OpenManus, ComfyUI, Flowise, Presenton, Libra, Bella и SillyTavern.
Корисниците добиваат континуирани ажурирања. Горенаведените карактеристики ќе бидат објавени на CES во јануари 2026 година.
(Vidi.hr)
(фото: Tiiny AI)
