專屬客服號
微信訂閱號
全面提升數(shù)據(jù)價值
賦能業(yè)務提質(zhì)增效
雖然端側(cè)AI優(yōu)勢明顯、端側(cè)大模型的布局熱度正酣,但終端芯片受到體積和功耗的限制,對于更大的模型和調(diào)優(yōu)等重度負載并非最優(yōu)解,更加高階或復雜的AI用例往往誕生于云端大模型。
那么,當終端用戶偶爾需要超越端側(cè)大模型的功能時,該如何獲取?高通在《混合AI是AI的未來》白皮書中,提出了在云端和邊緣終端之間分配并協(xié)同處理AI工作負載的混合AI架構。這種架構可以根據(jù)模型和查詢需求的復雜度等因素,在云端和終端側(cè)之間分配處理負載。
5G或未來6G的連接,是實現(xiàn)混合AI架構的關鍵。當終端大模型判斷出現(xiàn)了終端無法處理的工作,可以通過5G連接,將數(shù)據(jù)上傳到云端進行運算,之后再將結果推回到終端。5G或6G的高速連接,能夠保障數(shù)據(jù)處理和結果反饋的實時性。如此一來,云端、邊緣云的訓練和計算資源,都將為終端大模型服務,保障了用戶體驗。
雖然6G尚未到來,但行業(yè)已經(jīng)行至5G第二個階段的演進——5G Advanced(以下簡稱5G-A)。相比5G,5G-A可實現(xiàn)網(wǎng)絡能力的10倍提升,支撐10Gbps體驗、全場景物聯(lián)、通信感知一體、L4級別自動駕駛網(wǎng)絡、綠色ICT等業(yè)態(tài),進一步開發(fā)和釋放5G的潛能。
最新一代驍龍8 Gen 3集成的驍龍X75是業(yè)界首個5G Advanced-ready調(diào)制解調(diào)器及射頻系統(tǒng),面向智能手機、移動寬帶、汽車、計算、工業(yè)物聯(lián)網(wǎng)、固定無線接入和5G企業(yè)專網(wǎng)等細分領域,提升網(wǎng)絡覆蓋、時延、能效和移動性體驗。在11月8日于烏鎮(zhèn)舉辦的“世界互聯(lián)網(wǎng)大會領先科技獎”頒獎典禮上,高通5G Advanced-ready調(diào)制解調(diào)器及射頻系統(tǒng)X75獲得“世界互聯(lián)網(wǎng)大會領先科技獎”。
內(nèi)生AI被視為5G-A的關鍵技術之一,使網(wǎng)絡更智能、靈活地按需提供功能。驍龍X75是業(yè)界首次在調(diào)制解調(diào)器及射頻系統(tǒng)中采用專用硬件張量加速器,將AI性能提升至前代產(chǎn)品的2.5倍以上。驍龍X75還引入了5G AI套件,為連接速度、移動性、鏈路穩(wěn)健性等5G性能和特性的優(yōu)化提供更大空間。
5G-A的加持,除了讓手機、PC等終端能夠高效運行大模型,也為大模型進入XR(虛擬現(xiàn)實、增強現(xiàn)實等)、汽車等終端帶來更多可能。5G-A提供的萬兆體驗,能夠更有力地支撐VR/AR和車聯(lián)網(wǎng)等需要高帶寬、低時延的應用。例如微軟基于云流媒體和第二代驍龍XR2芯片平臺,在XR終端側(cè)運行先進的算法,實現(xiàn)了將Windows體驗安全傳輸?shù)組eta Quest設備,用Azure遠程渲染MR終端內(nèi)容等用例,更有效地融合了XR云端和客戶端內(nèi)容。
混合AI架構以及5G+AI的協(xié)同工作,也為開發(fā)者在本地和云上的無縫開發(fā)大模型相關應用帶來便利。今年9月,微軟將AI助手Copilot接入Windows11,將生成式AI引入更多應用程序。微軟Windows和設備副總裁帕萬·達武魯里在2023驍龍峰會表示,終端側(cè)AI促進了客戶端和云端之間的平衡,將使開發(fā)人員能夠使用本地和云計算編寫混合AI應用。“未來,我們需要一個能夠模糊云端和邊緣端芯片界限的操作系統(tǒng),在合適的地方使用合適的芯片,從而實現(xiàn)最佳體驗。這將讓Windows成為一個跨應用、內(nèi)容和圖形的編排系統(tǒng)。”
萬物互聯(lián),萬物智能。AIGC提升了終端的智能上限,而5G-A和未來的6G拓展了智能的觸達范圍,兩者將一起為終端的使用和交互體驗帶來更多可能。
本文為本網(wǎng)轉(zhuǎn)載,出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其內(nèi)容的真實性,如涉及侵權,請權利人與本站聯(lián)系,本站經(jīng)核實后予以修改或刪除。
請完善以下信息,我們的顧問會在1個工作日內(nèi)與您聯(lián)系,為您安排產(chǎn)品定制服務
評論