MediaTek je partner s Alibaba Cloudom za velike modele mobilnih čipova

Izvor:www.ichunt.com

Prema Sci-Tech Innovation Board Daily, MediaTek, proizvođač čipova za pametne telefone, uspješno je implementirao velike modele s 1,8 milijardi i 4 milijarde parametara na svojim vodećim čipovima kao što je Dimensity 9300, postigavši ​​duboku prilagodbu velikog modela na mobilnim čipovima i omogućujući Tongyi Qianwen da pokrene više krugova AI dijaloga čak iu offline situacijama. U budućnosti će dvije strane također prilagoditi više velikih modela različitih veličina, uključujući onaj sa 7 milijardi parametara, temeljen na čipu Dimensity.

Alibaba Cloud je izjavio da će blisko surađivati ​​s MediaTekom kako bi globalnim proizvođačima mobilnih telefona pružio rješenja za krajnje velike modele.

Trenutno je MediaTek tvrtka poluvodiča s najvećim opsegom isporuka čipova za pametne telefone na globalnoj razini. Prema posljednjim podacima Canalysa, isporučeno je više od 117 milijuna jedinica u četvrtom tromjesečju 2023., što je na prvom mjestu, a slijede ga Apple sa 78 milijuna isporuka i Qualcomm sa 69 milijuna isporuka. Tongyi Qianwen temeljni je veliki model koji je razvio Alibaba Cloud. Do sada je lansirao verzije s do 100 milijardi parametara i verzije otvorenog koda sa 72 milijarde, 14 milijardi, 7 milijardi, 4 milijarde, 1,8 milijardi i 500 milijuna parametara, kao i multimodalne velike modele poput model za vizualno razumijevanje Qwen-VL i veliki audio model Qwen-Audio.

Tijekom MWC2024, MediaTek je predstavio razne aplikacije umjetne inteligencije, uključujući Dimensity 9300 i 8300 čipove. Podrazumijeva se da je čip Dimensity 9300 već podržavao primjenu velikog modela Meta Llama 2 od 7 milijardi parametara u inozemstvu, a implementiran je na telefone serije vivo X100 u Kini s modelom velikog jezika od 7 milijardi parametara na end side, a također je uspješno pokrenuo model od 13 milijardi parametara u krajnjem eksperimentalnom okruženju.

Suradnja između MediaTeka i Alibaba Clouda označava prvi put da je veliki model Tongyi postigao hardversku i softversku prilagodbu na razini čipa. Xu Dong, poslovni voditelj Alibabinog laboratorija Tongyi, objasnio je: "Krajnja umjetna inteligencija jedan je od važnih scenarija za primjenu velikih modela, ali se suočava s mnogim izazovima kao što su poteškoće u prilagodbi hardvera i softvera te nedovršena razvojna okruženja. Alibaba Cloud i MediaTek nadvladali su niz tehničkih i inženjerskih izazova povezanih s temeljnom prilagodbom i razvojem više razine, istinski integrirajući velike modelirati u mobilni čip i istražujući novi model implementacije Model-on-Chip za end-side AI."

Uz MediaTek, Qualcomm također aktivno promiče implementaciju velikih modela na mobilnim uređajima. Qualcomm je 18. ožujka najavio lansiranje treće generacije mobilne platforme Snapdragon 8s, koja podržava velike jezične modele s do 10 milijardi parametara i također može podržati multimodalne generativne AI modele, uključujući Baichuan-7B, Gemini Nano, Llama 2 i Zhipu ChatGLM od tvrtki kao što su Baidu Xiriver, Google i META. Prijavljeno je da će Xiaomi Civi 4 Pro biti prvi opremljen mobilnom platformom Snapdragon 8s.

Analitičar industrije potrošačke elektronike izjavio je da suradnja između Alibaba Clouda i MediaTeka znači da domaći proizvođači mobilnih telefona sada imaju alternativu Baiduu.

Prema razumijevanju novinara, Honor i Samsung su ranije najavili suradnju s Baidu Wenxin Yiyan. Na primjer, Samsungov najnoviji vodeći telefon, serija Galaxy S24, integrira višestruke mogućnosti velikog modela Wenxin, uključujući pozivanje, prijevod i pametno sažimanje. Osim toga, izvor je otkrio da je Apple trenutno u kontaktu s Baiduom, nadajući se da će koristiti Baiduovu tehnologiju umjetne inteligencije, a preliminarni razgovori su već održani između dviju strana.

Lin Dahua, vodeći znanstvenik u Laboratoriju za umjetnu inteligenciju u Šangaju, izjavio je da s eksponencijalnim rastom velikih modela temeljenih na oblaku krajnja strana uskoro ulazi u zlatno razdoblje rasta. Suradnja na kraju oblaka postat će važan trend u budućnosti, s računalstvom na strani oblaka koji će uspostaviti gornju granicu, a računalstvom na krajnjoj strani podržavati usvajanje velikog broja korisnika.

Prema predviđanjima konzultantske tvrtke IDC, obujam isporuka pametnih telefona na kineskom tržištu dosegnut će 277 milijuna jedinica u 2024., uz međugodišnju stopu rasta od 2,3%. Među njima, obujam isporuka telefona s umjetnom inteligencijom dosegnut će 36,6 milijuna, s godišnjom stopom rasta od više od tri znamenke. Primjena velikih AI modela na mobilnim telefonima postat će sve raširenija.