瑜伽常識 /MANUAL
端側(cè)AI如何起飛?
端側(cè)AI如何起飛?近期,端側(cè)AI在多領(lǐng)域落地的動(dòng)作不斷。消費(fèi)電子領(lǐng)域,聯(lián)想于2月25日發(fā)布其AI PC新品YOGA 2025系列,本地部署DeepSeek-7B,成為全球首家在終端設(shè)備上部署此規(guī)模大模型的廠商。3月5日,蘋果時(shí)隔兩年重磅更新的Mac Studio配備了全新M3 Ultra和M4 Max芯片兩個(gè)版本,蘋果宣稱 M3 Ultra 版本 Mac Studio 支持本地部署 6000億參數(shù)的AI大模型運(yùn)行。此外,近日華為的AI PC也傳出新消息,預(yù)計(jì)其自研商用AI筆記本將在四月發(fā)布,除了搭載全面集成的DeepSeek大模型,其芯片及零部件或?qū)?shí)現(xiàn)全自研。
汽車領(lǐng)域,小米SU7 Ultra于2月27日上市,雷軍通過微博宣布Xiaomi HAD端到端全場景智駕開啟全量推送,小米SU7 Ultra出廠即搭載該智駕系統(tǒng)。吉利在3月3日的AI智能科技發(fā)布會(huì)上宣布完成全域AI智能化布局,其中階躍星辰提供通用大模型技術(shù),與吉利聯(lián)合開源多模態(tài)交互框架,實(shí)現(xiàn)文本、語音、圖像數(shù)據(jù)的融合理解。此外,吉利自研的超級智算中心2.0,算力資源超越萬卡,綜合算力達(dá)到23.5EFLOPS。
事實(shí)上,除了上述高熱度的領(lǐng)域,端側(cè)AI還在涉及面更加廣闊的IoT等領(lǐng)域加速落地。例如,今年2月,深思考人工智能在全球開發(fā)者大會(huì)上正式發(fā)布鴻蒙系統(tǒng)TinyDongni& deepseek超小端側(cè)多模態(tài)大模型及硬件模組,并聯(lián)合國產(chǎn)模組廠商推出兩大解決方案,一方面為車載、機(jī)器人等場景提供實(shí)時(shí)AI處理能力,另一方面賦能工業(yè)檢測球盟會(huì)官網(wǎng)、AI攝像頭等高精度場景。深思考創(chuàng)始人& CEO楊志明表示,超小端側(cè)多模態(tài)大模型及硬件模組的發(fā)布,不僅是技術(shù)的突破,更是端側(cè)AI普惠化的里程碑。未來將持續(xù)優(yōu)化多模態(tài)交互能力,推動(dòng)AI在醫(yī)療、工業(yè)、消費(fèi)等領(lǐng)域的深度應(yīng)用。
“AI推理將從云端下沉到我們身邊,無處不在?!盇rm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健告訴記者解釋道,如果我們生活在連接帶寬無限大、延時(shí)無限低、成本接近零的世界,那么AI部署在集中式數(shù)據(jù)中心是最有效的。但是這個(gè)假設(shè)并不成立,來自海量傳感器、攝像頭的視覺、聲音等數(shù)據(jù)都回傳到云端是不現(xiàn)實(shí)的,尤其是在對延時(shí)、隱私以及可靠性有嚴(yán)格要求的場景,邊緣AI勢在必行。
以DeepSeek為代表的開源模型,加速了AI從云走向端的進(jìn)程,其帶來的影響之一就是支持邊緣設(shè)備,使得高性能AI應(yīng)用能夠在邊緣設(shè)備上順利運(yùn)行。達(dá)摩院首席科學(xué)家、知合計(jì)算CEO孟建熠指出,大模型在云端的話,實(shí)施成本比較高,只有有限的企業(yè)可能在部分領(lǐng)域應(yīng)用,而一旦到了端側(cè),就有大量的應(yīng)用都會(huì)發(fā)展起來。
首先,當(dāng)前先進(jìn)的AI小模型已具有卓越性能。模型蒸餾和新穎的AI網(wǎng)絡(luò)架構(gòu)等新技術(shù)能夠在不影響質(zhì)量的情況下簡化開發(fā)流程,讓新模型的表現(xiàn)超越一年前推出的僅能在云端運(yùn)行的更大模型。其次,模型參數(shù)規(guī)模正在快速縮小。先進(jìn)的量化和剪枝技術(shù)使開發(fā)者能夠在不對準(zhǔn)確性產(chǎn)生實(shí)質(zhì)影響的情況下,縮小模型參數(shù)規(guī)模。第三,開發(fā)者能夠在邊緣側(cè)打造更豐富的應(yīng)用。高質(zhì)量AI模型快速激增,意味著文本摘要、編程助手和實(shí)時(shí)翻譯等特性在智能手機(jī)等終端上的普及,讓AI能夠支持跨邊緣側(cè)規(guī)?;渴鸬纳逃脩?yīng)用。第四,AI正在成為新的UI。個(gè)性化多模態(tài)AI智能體將簡化交互,高效地跨越各種應(yīng)用完成任務(wù)。
大模型、智能體在邊緣側(cè)的落地需要具備更高性能和能效的邊緣計(jì)算平臺。2月底,Arm發(fā)布新一代邊緣AI計(jì)算平臺Armv9,可運(yùn)行超10億參數(shù)的端側(cè)AI模型。此外,Arm近日與阿里巴巴合作,通過 KleidiAI 與通義千問模型的集成,加速端側(cè)多模態(tài)AI體驗(yàn)。多年前高通就已經(jīng)為此做了準(zhǔn)備。高通早在十五年前就開始在終端側(cè)開展針對AI的研究,其AI引擎已迭代到第十代;去年3月推出AI HUB,幫助不同開發(fā)者優(yōu)化模型,使其部署在不同平臺上。
對于芯片企業(yè)而言,通過硬件創(chuàng)新推動(dòng)端側(cè)AI市場向上攀升的同時(shí),也讓自身吃到更多紅利。以我國AIoT芯片領(lǐng)域的代表性企業(yè)瑞芯微為例,其在端側(cè)AI方面可提供從0.2TOPs到6TOPs的不同算力水平的AIoT芯片。據(jù)悉,當(dāng)前已有多個(gè)領(lǐng)域的客戶基于瑞芯微主控芯片研發(fā)在端側(cè)支持AI大模型的新硬件,如教育平板、AI 玩具、桌面機(jī)器人、算力終端、會(huì)議主機(jī)等產(chǎn)品。根據(jù)瑞芯微公布的2024年業(yè)績預(yù)告,預(yù)計(jì)其2024年?duì)I收31億元到31.5億元,同比增長45.23%到47.57%;預(yù)計(jì)實(shí)現(xiàn)凈利潤5.5億到6.3億元,同比增長307.75%到367.06%。業(yè)績增長背后,是AI技術(shù)快速發(fā)展、應(yīng)用場景不斷拓展對AIoT業(yè)務(wù)的帶動(dòng)。
大象新聞?dòng)浾?張子琪近日,河北廊坊三河市城市內(nèi)商戶招牌被禁止使用“紅黑藍(lán)”引發(fā)廣泛關(guān)注。據(jù)廊坊市人民政府網(wǎng)站消息,4月15日,廊坊市聯(lián)合調(diào)查組就三河市“廣告牌匾禁用紅藍(lán)黑底色”一事發(fā)布通報(bào)稱,經(jīng)初步核查,媒體反映的主要問題基本屬實(shí)。
增長940%,突然爆火!蘋果商店排名飆升至第二,特朗普關(guān)稅下,美國人正大量下載這款中國App:堪稱“省錢利器”
特朗普引發(fā)的貿(mào)易戰(zhàn),令許多美國人焦慮于未來“T恤價(jià)格可能會(huì)像雞蛋一樣上漲”。隨著大量中國廠商的宣傳視頻在TikTok上驟然爆火,一家原本在普通美國人那可能并不算特別出名的中國跨境B2B電商平臺DHgate(敦煌網(wǎng)),也在短短數(shù)天內(nèi)悄然被推上了美區(qū)App商店最火熱的位置。
極目新聞?dòng)浾?杜光然近日,有消息稱,山西稷山縣一對父子掉入溝渠不幸身亡。網(wǎng)友稱系兒子出了車禍,父親去施救發(fā)生悲劇。4月15日,搜救人員和當(dāng)?shù)鼐焦ぷ魅藛T表示,確有此事,父子兩人的遺體已經(jīng)找到。4月15日,據(jù)搜救人員介紹:“孩子出車禍掉進(jìn)引洪渠,父親去救他落水了。
來自奧運(yùn)三金王的底氣!全紅嬋世界杯因失誤摘銀被質(zhì)疑,分享18張照片回懟“那咋了這就破防了”#全紅嬋
山西訂婚案二審將公開宣判,庭審檢方認(rèn)定雙方有實(shí)質(zhì)性關(guān)系,男方母親:希望有合理公正判決,案情復(fù)雜,難以預(yù)料最后結(jié)果#媒體精選計(jì)劃
特朗普又變卦了!美股震蕩,中國資產(chǎn)全線爆發(fā)!日本首相警告美國:不打算重大讓步!美國宣布將對墨西哥番茄征關(guān)稅
此外,央視記者當(dāng)?shù)貢r(shí)間14日獲悉,美國商務(wù)部當(dāng)天表示,由于美國已退出一項(xiàng)其認(rèn)為未能保護(hù)國內(nèi)番茄種植者的協(xié)議,自7月14日起,從墨西哥進(jìn)口到美國的大部分番茄將面臨20.91%的關(guān)稅。
極目新聞?dòng)浾?唐佳燕 詹钘4月15日,江西省景德鎮(zhèn)市中級人民法院一審公開開庭審理了被告人廖某宇以危險(xiǎn)方法危害公共安全一案。極目新聞?dòng)浾邚膮⒓油彽闹槿颂幜私獾?,被告人廖某宇?dāng)庭鞠躬致歉,但被害人家屬不接受其道歉。
公開資料顯示,吳錦出生于1969年10月,湖北紅安人,大學(xué)學(xué)歷,經(jīng)濟(jì)學(xué)博士學(xué)位,1991年7月參加工作,1990年12月加入中國黨。
不知道各位在日常生活中,有沒有留意到這樣一個(gè)有趣現(xiàn)象:同樣是身體素質(zhì)相當(dāng)、年齡相仿的人,在喝了同樣多的水之后,有的人剛放下水杯不久,就頻繁往廁所跑,而有的人卻能長時(shí)間 “穩(wěn)坐釣魚臺”,幾乎不怎么跑廁所。
要么終身監(jiān)禁,要么死刑?尹錫悅拒絕就范,中方的線號,尹錫悅出席他“涉嫌內(nèi)亂罪”的首次庭審,內(nèi)亂罪無論在哪個(gè)法制健全的國家,都是一項(xiàng)很重的罪名,如果罪名成立,輕則終身監(jiān)禁,重則死刑。