最新發(fā)布
2025年5月28日,賽輪思AI (Cerence Inc., NASDAQ:CRNC)宣布與Arm達(dá)成戰(zhàn)略合作,賽輪思AI將借助Arm? Kleidi?軟件庫,提升其CaLLM? Edge多模態(tài)汽車端側(cè)(SLM)模型的能力與性能。
隨著汽車制造商競相為駕駛者引入由AI驅(qū)動(dòng)的功能,他們面臨著多項(xiàng)挑戰(zhàn),其中包括構(gòu)建足夠的算力來處理如大語言模型(LLMs)這類高強(qiáng)度工作負(fù)載的需求。汽車制造商及其合作伙伴需要簡便的方法來優(yōu)化CPU性能和計(jì)算力最大化,從而更輕松地為駕駛者提供生成式AI的優(yōu)勢(shì)。賽輪思AI和Arm正在攜手合作以填補(bǔ)這一空白。全球94%的汽車制造商在其最新車型中采用了Arm技術(shù)。Arm汽車解決方案為整車的AI功能提供了基礎(chǔ)的算力架構(gòu)。Kleidi旨在加速機(jī)器學(xué)習(xí)進(jìn)程,并優(yōu)化基于Arm設(shè)備的神經(jīng)網(wǎng)絡(luò)運(yùn)算,從而在端側(cè)實(shí)現(xiàn)更高效、更強(qiáng)大的實(shí)時(shí)語言處理能力。
賽輪思AI與Arm攜手合作,在CPU和GPU之間靈活分配并并行處理生成式AI的計(jì)算負(fù)載,為CaLLM Edge帶來更快的速度和更優(yōu)的性能,與此同時(shí)還支持增強(qiáng)的隱私保護(hù)與數(shù)據(jù)安全。除了其他片上系統(tǒng)(SoC),CaLLM Edge可在經(jīng)Kleidi優(yōu)化的基于Arm的芯片組上以智能體化模式運(yùn)行。即便車載語言模型面臨算力有限、體積龐大以及處理需求高等挑戰(zhàn),它依然展現(xiàn)出了行業(yè)領(lǐng)先的性能。因此,即使在沒有云端連接的情況下,汽車制造商也能夠?yàn)轳{駛者提供快速、智能的用戶體驗(yàn)。
我們很高興能夠與Arm合作,將CaLLM Edge提升至全新高度,為車載邊緣計(jì)算的性能與效率樹立新標(biāo)桿。通過將我們?cè)贏I驅(qū)動(dòng)語言模型方面的專長與Arm的創(chuàng)新軟件庫相結(jié)合,我們正持續(xù)推進(jìn)汽車領(lǐng)域語音優(yōu)先體驗(yàn)和新一代AI應(yīng)用的革新進(jìn)程,致力于為消費(fèi)者打造更智能、更迅捷、響應(yīng)更靈敏的汽車助理。
—— Nils Schanz
賽輪思AI產(chǎn)品與技術(shù)執(zhí)行副總裁
AI正在定義下一代先進(jìn)的車載功能,因此我們必須利用一切可能的優(yōu)化措施,確保AI能夠在端側(cè)無縫運(yùn)行。賽輪思AI通過利用Arm Kleidi取得了顯著的性能提升。我們期待繼續(xù)合作,在車內(nèi)快速落地全新的、創(chuàng)新的特定應(yīng)用AI模型。
—— Suraj Gajendra
Arm汽車業(yè)務(wù)線汽車產(chǎn)品和軟件解決方案副總裁
來源:賽輪思AI