自從一年前ChatGPT 掀起了大語言模型的熱潮，以通用人工智能(AGI)為目標(biāo)，已經(jīng)吸引了巨大的資金投入、人才投入，并涌現(xiàn)出了大批的先進(jìn)大模型。語言類聊天應(yīng)用只是一個(gè)開端，真正的驅(qū)動(dòng)力，是對(duì)幾乎所有行業(yè)帶來的顛覆性機(jī)會(huì)。視覺、多模態(tài)成為剛需。

　　以微軟、Google 等等巨頭為投資代表，在海量資金和算力加持下打造出的 OpenAI 和  Gemini，在激烈地競(jìng)爭未來的壟斷地位。同時(shí)，各個(gè)行業(yè)都希望擁有適合自身的大模型解決方案，能夠在企業(yè)內(nèi)網(wǎng)，省錢省電的用上最新的 AI大模型。針對(duì)垂直應(yīng)用和產(chǎn)品的需求群體，他們最大的一個(gè)疑問就是：有沒有合適的芯片和系統(tǒng)解決方案?

　　安霸的單芯片 SoC 已經(jīng)可以順暢運(yùn)行多模態(tài)大模型的推理，比如LLaMA 130億參數(shù)的開源大語言模型，以及視覺-語言模型，比如LLaVA 1.5。這將可以賦能很多垂直行業(yè)和應(yīng)用，例如，使用自然語言進(jìn)行互動(dòng)的智能監(jiān)控設(shè)備，本地(不上云)的通用智能服務(wù)，提升程序員生產(chǎn)力的Copilot(不必?fù)?dān)心泄漏企業(yè)機(jī)密)，人形機(jī)器人本機(jī)快速反饋機(jī)制，單車本地實(shí)現(xiàn)智能駕駛場(chǎng)景的端到端多模態(tài)大模型推理等等。

　　視覺處理，低功耗都是安霸的專長，非常契合大模型在多模態(tài)的接入和端到端低功耗運(yùn)行的需求。大模型在安霸芯片上的應(yīng)用可以推動(dòng)更多產(chǎn)品和應(yīng)用的快速發(fā)展，留給人工智能無限的想象空間。