聯(lián)發(fā)科近日宣布了一項重要進展,其天璣系列移動平臺已經(jīng)成功適配并優(yōu)化了微軟最新發(fā)布的Phi-3.5小語言模型(SLM)。這一舉措標志著聯(lián)發(fā)科在推動AI技術(shù)在智能手機領(lǐng)域應(yīng)用上的又一重大突破。
目前,天璣9400、天璣9300這兩款旗艦級芯片,以及次旗艦天璣8300芯片已經(jīng)完成了對Phi-3.5小語言模型的優(yōu)化。聯(lián)發(fā)科透露,未來包括天璣8400在內(nèi)的更多采用生成式AI技術(shù)的芯片也將支持這一模型。這意味著,聯(lián)發(fā)科平臺的智能手機用戶將能夠享受到更高效、更智能的AI服務(wù)。
為了助力開發(fā)者更好地利用這一優(yōu)化,聯(lián)發(fā)科提供了NeuroPilot SDK開發(fā)工具包,開發(fā)者可以通過微軟Azure AI模型目錄,輕松地在聯(lián)發(fā)科平臺上進行Phi-3.5相關(guān)開發(fā),特別是在內(nèi)置NPU AI引擎的天璣平臺上,進一步優(yōu)化生成式AI推理能力。
小語言模型相較于大語言模型(LLM),參數(shù)量顯著減少,從數(shù)千億甚至數(shù)萬億降低至幾百萬至幾十億。這種轉(zhuǎn)變不僅大幅縮減了模型的體積和復雜度,還提高了運行效率,使得模型更易于獲取和定制。這對于智能手機等硬件資源有限的設(shè)備來說,無疑是一個巨大的福音。
隨著生成式AI技術(shù)的蓬勃發(fā)展,尤其是端側(cè)AI的廣泛應(yīng)用,AI正逐漸改變著人們的生活、娛樂和工作方式。聯(lián)發(fā)科在這一領(lǐng)域的深耕細作,無疑為其在智能手機市場的競爭增添了有力的籌碼。
回顧聯(lián)發(fā)科的發(fā)展歷程,其在每一代天璣移動平臺上都在不斷演進NPU AI硬件引擎,始終保持著旗艦級的性能表現(xiàn)。在蘇黎世AI Benchmark測試中,聯(lián)發(fā)科平臺幾乎一直是AI性能的佼佼者。這一強大的端側(cè)AI性能,加上聯(lián)發(fā)科在生態(tài)開發(fā)方面的持續(xù)投入,為天璣平臺智能手機的AI智能化體驗奠定了堅實的基礎(chǔ)。
為了加速端側(cè)AI應(yīng)用的落地和普及,聯(lián)發(fā)科還推出了全新的“天璣AI智能化體引擎”。這一引擎利用強大的端側(cè)AI性能,將傳統(tǒng)應(yīng)用轉(zhuǎn)化為更加智能化的AI應(yīng)用,并與多款知名應(yīng)用達成了深度合作。這不僅讓年輕人的生活更加智慧、更加有趣,也展示了聯(lián)發(fā)科在推動AI技術(shù)普及方面的決心和實力。