當(dāng) GPT-4o 用毫秒級(jí)響應(yīng)處理圖文混合指令、Gemini-1.5-Pro 以百萬(wàn) token 上下文 “消化” 長(zhǎng)文檔時(shí),行業(yè)的目光正從云端算力競(jìng)賽轉(zhuǎn)向一個(gè)更實(shí)際的命題:如何讓智能 “落地”?—— 擺脫網(wǎng)絡(luò)依賴(lài)、保護(hù)本地隱私、控制硬件成本,讓設(shè)備真正具備 “看見(jiàn)并對(duì)話(huà)” 的離線(xiàn)智能,成為邊緣 AI 突破的核心卡點(diǎn)。
AI 時(shí)代的新基石
在科技飛速發(fā)展的當(dāng)下,邊緣 AI 正經(jīng)歷著一場(chǎng)深刻的變革。從最初的 TinyML 微型機(jī)器學(xué)習(xí)探索低功耗 AI 推理,到邊緣推理框架的落地應(yīng)用,再到平臺(tái)級(jí) AI 部署工具的興起以及垂類(lèi)模型的大熱,我們已經(jīng)成功實(shí)現(xiàn)了 “讓模型跑起來(lái)” 的階段性目標(biāo)。然而,這僅僅是邊緣 AI 發(fā)展的起點(diǎn),其未來(lái)的演進(jìn)方向正逐漸聚焦于一個(gè)更為關(guān)鍵的問(wèn)題:當(dāng) AI 模型能夠在邊緣設(shè)備上穩(wěn)定運(yùn)行后,它們能否進(jìn)一步實(shí)現(xiàn)協(xié)作,從而推動(dòng)邊緣 AI 邁向更高的智能形態(tài)?
在科技飛速發(fā)展的當(dāng)下,邊緣 AI 正經(jīng)歷著一場(chǎng)深刻的變革。從最初的 TinyML 微型機(jī)器學(xué)習(xí)探索低功耗 AI 推理,到邊緣推理框架的落地應(yīng)用,再到平臺(tái)級(jí) AI 部署工具的興起以及垂類(lèi)模型的大熱,我們已經(jīng)成功實(shí)現(xiàn)了 “讓模型跑起來(lái)” 的階段性目標(biāo)。然而,這僅僅是邊緣 AI 發(fā)展的起點(diǎn),其未來(lái)的演進(jìn)方向正逐漸聚焦于一個(gè)更為關(guān)鍵的問(wèn)題:當(dāng) AI 模型能夠在邊緣設(shè)備上穩(wěn)定運(yùn)行后,它們能否進(jìn)一步實(shí)現(xiàn)協(xié)作,從而推動(dòng)邊緣 AI 邁向更高的智能形態(tài)?
率先將一流硬件、軟件和云服務(wù)相結(jié)合,改變互聯(lián)產(chǎn)品的構(gòu)建、部署和升級(jí)方式,以應(yīng)對(duì)瞬息萬(wàn)變的需求和日益增加的軟件復(fù)雜性
Nordic 突破性 nRF54L 系列和 Neuton.AI 自動(dòng)化 TinyML 平臺(tái)相輔相成,在邊緣實(shí)現(xiàn)易于使用的超高效機(jī)器學(xué)習(xí) (ML)
DigiKey 應(yīng)用與技術(shù)門(mén)戶(hù)平臺(tái)已針對(duì)亞太地區(qū)進(jìn)行了本地化,旨在提高工程師和創(chuàng)新者對(duì)熱門(mén)話(huà)題的了解程度
AI與物聯(lián)網(wǎng)系統(tǒng)的融合改變了數(shù)據(jù)的處理、分析與使用方式。多年以來(lái),各種 AI 解決方案始終基于云端部署,而如今邊緣 AI 的興起,在提升運(yùn)行效率、增強(qiáng)安全性和改善運(yùn)營(yíng)可靠性方面提供了頗有潛力的解決方案。本文旨在深入剖析邊緣 AI 的復(fù)雜性,探究其構(gòu)成要素、應(yīng)用優(yōu)勢(shì)及其快速演進(jìn)的硬件支持體系。
在人工智能(AI)技術(shù)迅猛發(fā)展的當(dāng)下,邊緣 AI 已成為行業(yè)矚目的焦點(diǎn)。邊緣 AI 旨在將 AI 的能力拓展至網(wǎng)絡(luò)邊緣設(shè)備,實(shí)現(xiàn)實(shí)時(shí)數(shù)據(jù)處理與決策,避免了數(shù)據(jù)傳輸至云端帶來(lái)的延遲與帶寬限制等問(wèn)題。而在邊緣 AI 系統(tǒng)中,芯片架構(gòu)的選擇至關(guān)重要,它直接關(guān)乎系統(tǒng)的性能、功耗以及應(yīng)用的靈活性。在眾多架構(gòu)中,可擴(kuò)展 GPU 架構(gòu)正逐漸嶄露頭角,吸引了眾多開(kāi)發(fā)者與企業(yè)的目光。
Cortex-A320 旨在賦能未來(lái)的物聯(lián)網(wǎng)和邊緣 AI 創(chuàng)新,可實(shí)現(xiàn)超高能效的性能、先進(jìn)的 AI 處理和強(qiáng)大的安全性。
全球首個(gè) Armv9 邊緣 AI 計(jì)算平臺(tái)以 Cortex-A320 CPU 和 Ethos-U85 NPU 為核心,專(zhuān)為物聯(lián)網(wǎng)應(yīng)用優(yōu)化,支持運(yùn)行超 10 億參數(shù)的端側(cè) AI 模型,已獲得包括亞馬遜云科技 (AWS)、西門(mén)子和瑞薩電子等在內(nèi)的多家行業(yè)領(lǐng)先企業(yè)的支持。
汽車(chē)制造商可以通過(guò)一款高度集成、基于 Arm?、結(jié)合 TI 基于向量的 C7x 數(shù)字信號(hào)處理器 (DSP) 內(nèi)核的業(yè)界先進(jìn)的汽車(chē)微控制器 (MCU) 和處理器,提供卓越的音頻體驗(yàn)。
近年來(lái),人工智能(AI)在推動(dòng)各個(gè)行業(yè)創(chuàng)新方面發(fā)揮了關(guān)鍵作用。視覺(jué)和語(yǔ)音技術(shù)的進(jìn)步促進(jìn)了大型智能模型的發(fā)展,創(chuàng)造了新的用例,并改善了用戶(hù)體驗(yàn)。越來(lái)越多的應(yīng)用要求能夠在配備微控制器和微處理器的邊緣設(shè)備上運(yùn)行的AI,這帶來(lái)了更低的延遲、更低的能耗以及更強(qiáng)的數(shù)據(jù)隱私保護(hù)等好處。在這些應(yīng)用中,時(shí)間序列數(shù)據(jù)通常用于開(kāi)發(fā)三類(lèi)主要任務(wù):異常檢測(cè)、分類(lèi)和回歸。時(shí)間序列數(shù)據(jù)是指按一致、均勻的時(shí)間間隔記錄的一系列數(shù)據(jù)點(diǎn)。
Nordic 多協(xié)議 SoC nRF54H20 憑借卓越的處理能力、內(nèi)存和效率被業(yè)界譽(yù)為最具革命性的無(wú)線(xiàn)發(fā)明之一
隨著 ChatGPT 橫空出世、AI 行業(yè)蓬勃發(fā)展,初心資本嘗試窺探 AI 領(lǐng)域的發(fā)展奧秘,2023 年 8 月正式發(fā)布《2023 初心 AI 趨勢(shì)報(bào)告》,分享初心洞察 AI 未來(lái)發(fā)展的六大趨勢(shì),共同探尋通向智能極限的道路。