Meta at Qualcomm, dalawang higante ng sektor ng teknolohiya, nagsanib pwersa sila upang ma-optimize ang pagpapatupad ng mga modelo malaking wika Llama 2 nang direkta sa iyong mga device, binabawasan ang dependency sa mga serbisyo ng cloud. Binibigyang-daan ka ng inobasyong ito na magpatakbo ng mga generative AI model tulad ng Llama 2 sa mga smartphone, PC, VR/AR headset at sasakyan, na nag-aalok sa mga user ng mas pribado, maaasahan at personalized na mga karanasan, habang kasabay nito makatipid sa mga gastos sa ulap.
Isang promising teknolohikal na hinaharap salamat sa artificial intelligence ng Llama 2
Ang on-device na AI ay maaaring gumana nang perpekto kahit na sa airplane mode. Nilalayon ng partnership na ito na gawing available ang mga pagpapatupad ng AI batay sa Llama 2, na nagbibigay-daan sa mga developer lumikha ng mga makabagong aplikasyon ng artificial intelligence. Magagamit ng mga customer, kasosyo, at developer ang kapangyarihan ng mga karanasang ito sa AI para bumuo ng matatalinong virtual assistant, productivity tool, platform sa paggawa ng content, at entertainment application.
Durga Malladi, senior vice president at general manager of technology, planning and edge solutions sa Qualcomm Technologies, ay nagbahagi ng kanyang opinyon suportahan ang diskarte ng Meta sa bukas at responsableng AI. Binigyang-diin ni Malladi ang pangako ng kumpanya sa paghimok ng pagbabago at pagpapadali sa pagbuo ng AI para sa mga developer sa lahat ng laki, na hinuhulaan na ang generative AI ay gagana nang walang putol sa parehong cloud at edge na mga device tulad ng mga smartphone, laptop, mga sasakyan e mga aparatong IoT.
Ang pakikipagtulungan sa pagitan ng Meta at Qualcomm Technologies ay bumubuo sa isang mahabang kasaysayan ng teknolohikal na pagbabago upang maghatid ng mga premium na karanasan sa device. Kasama sa partnership na ito ang pinagsamang pananaliksik at mga pagsusumikap sa engineering ng produkto na naglalayong suportahan ang Llama ecosystem. Ang pamumuno ng Qualcomm Technologies sa on-device AI ay natatanging nagpoposisyon nito upang suportahan ang Llama, dahil sa malawak nitong presensya sa gilid, na nagpapagana sa bilyun-bilyong smartphone, sasakyan, XR headset, salamin, PC at IoT device na may nangungunang mga solusyon sa hardware at software. nangunguna sa AI.
Inaasahang magagamit simula sa 2024, plano ng Qualcomm Technologies na mag-alok Llama 2-based AI na mga pagpapatupad sa mga device na pinapagana ng Snapdragon. Maaaring magsimula ngayon ang mga developer sa pamamagitan ng pag-optimize ng kanilang mga application para sa on-device AI gamit ang Qualcomm AI Stack, isang dedikadong hanay ng mga tool na nagbibigay-daan sa Mas mahusay na pagproseso ng AI sa Snapdragon. Ginagawang posible ng rebolusyonaryong teknolohiyang ito ang on-device AI kahit sa maliliit, manipis at magaan na device.
