應用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊個(gè)人注冊登錄

顛覆性創(chuàng )新!云天勵飛「深目」AI模盒開(kāi)啟千元級大模型應用新紀元

2024-04-01 09:10 視覺(jué)物聯(lián)
關(guān)鍵詞:云天勵飛深目AI模盒

導讀:云天勵飛舉辦AI大模型產(chǎn)品發(fā)布會(huì ),正式發(fā)布“深目”AI模盒。

  3月28日,備受矚目的小米汽車(chē)發(fā)布會(huì )如期而至,小米SU7正驚艷亮相,21.59萬(wàn)元的起售價(jià),讓雷軍獲得了“雷神”的新稱(chēng)號。

  而在同一天里,“深圳A(yíng)I第一股”云天勵飛也邁出了革命性的一步,打響了大模型【平民化】的第一槍。

  28日,云天勵飛舉辦AI大模型產(chǎn)品發(fā)布會(huì ),正式發(fā)布“深目”AI模盒。據了解,該產(chǎn)品能夠做到“3個(gè)90%”:覆蓋場(chǎng)景超過(guò)90%、算法精度超過(guò)90%,使用成本降低90%,解決大模型在場(chǎng)景落地最后一公里的問(wèn)題,幫助更多中小企業(yè)客戶(hù)輕松使用大模型。

image.png

  圖源:云天勵飛

  在過(guò)去的這一年多里,AI大模型發(fā)展如火如荼,在全球范圍內掀起了一場(chǎng)AI技術(shù)“狂飆”新浪潮,更廣范圍、更深層次地影響著(zhù)人們的經(jīng)濟發(fā)展和生產(chǎn)生活方式變革。

  發(fā)布會(huì )上,云天勵飛董事長(cháng)兼CEO陳寧博士提到:“未來(lái)3年,全球80%的企業(yè)都將使用大模型?!?/p>

  然而,隨著(zhù)這一革命性機遇的降臨,行業(yè)也同樣遭遇著(zhù)大模型發(fā)展初期所面臨的多重挑戰。其中,最顯而易見(jiàn)的挑戰就是訓練大模型的成本問(wèn)題。訓練專(zhuān)屬大模型需要消耗大量的算力,資金投入達到了成百上千萬(wàn)級,而這筆高昂的投入是絕大多數企業(yè)難以承擔的。

  在這場(chǎng)AI大模型技術(shù)的盛宴中,如何才能真正地把AI普惠化落地到實(shí)處?

  于是,為了能夠讓大模型“平民化”,成為人人都可用的產(chǎn)品,云天勵飛推出了“深目”AI模盒。

  據了解,這款售價(jià)在千元級、用單手就能托起的“深目”AI模盒,搭載了云天勵飛自研大模型邊緣訓推芯片DeepEdge10 Max和自研多模態(tài)大模型“云天天書(shū)”,具備算法邊緣側在線(xiàn)學(xué)習能力的,能夠做到“3個(gè)90%”,讓人人都能夠根據自身場(chǎng)景需求,利用大模型能力,訓練出可實(shí)戰應用的算法,讓大模型唾手可得。

  而之所以能夠實(shí)現3個(gè)90%,關(guān)鍵還在于云天勵飛的核心能力——“算法芯片化”。為了把大模型變“小”,云天勵飛用時(shí)一年進(jìn)行了兩大技術(shù)攻關(guān),一是自研大模型推理芯片DeepEdge10;二是自研多模態(tài)大模型“云天天書(shū)”

  “深目”AI模盒的算力基礎,來(lái)源于2023年云天勵飛推出的14nm Chiplet大模型訓推芯片DeepEdge10 Max。據悉,該芯片采用了自主可控的國產(chǎn)工藝,內含國產(chǎn)RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10創(chuàng )新的D2D chiplet架構打造的推理平臺,已適配并可承載SAM CV大模型、Llama2等百億級大模型運算,可廣泛應用于A(yíng)loT邊緣視頻、移動(dòng)機器人等場(chǎng)景。

  “深目”AI模盒的大模型能力,則來(lái)源于云天勵飛自主研發(fā)的多模態(tài)大橫型“云天天書(shū)”。云天天書(shū)大模型包含語(yǔ)言大模型、多模態(tài)大模型等不同系列,在C-Eval、CMMLU等權威測試中多次獲得第一,并于去年正式通過(guò)中央網(wǎng)信辦備案。云天天書(shū)1.0版本于2023年初正式推出,至今已完成3個(gè)版本的迭代,預計今年6月將迭代4.0 V版本。

  以云天天書(shū)為底座,云天勵飛能夠與生態(tài)合作伙伴完成預訓練場(chǎng)景算法,再將預訓練算法提供給廣大中小企業(yè)用戶(hù),中小企業(yè)客戶(hù)可根據自身場(chǎng)景需求,在邊緣端完成算法微調。由于大模型具備泛化和學(xué)習的能力,客戶(hù)部署算法后,大模型還能夠不斷根據現實(shí)應用場(chǎng)景情況,在線(xiàn)學(xué)習、優(yōu)化算法,不斷提升算法精度。

  “深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產(chǎn)品,更是把云天勵飛大模型通過(guò)算法芯片化能力平臺“硬件化”的一次重要嘗試。把復雜的技術(shù)通過(guò)簡(jiǎn)單的產(chǎn)品提供給用戶(hù),讓用戶(hù)可以零學(xué)習成本,快速訓練出自己需要的算法。

  從2014年成立至今,云天勵飛一直堅持將AI技術(shù)與物理世界相結合,這也是云天勵飛從成立之初自研芯片的重要原因。芯片是AI與物理世界的連接器,AI通過(guò)芯片為實(shí)體賦能,物理世界的數據又通過(guò)芯片反哺AI,推動(dòng)AI進(jìn)步發(fā)展。

  陳寧博士表示,“AI商業(yè)化發(fā)展有三個(gè)階段:AI方案化、AI運營(yíng)化、AI產(chǎn)品化。

  在A(yíng)I方案化階段,AI企業(yè)主要通過(guò)項目制滿(mǎn)足不同垂直領(lǐng)域客戶(hù)需求,通過(guò)不斷積累行業(yè)認知和數據,AI技術(shù)實(shí)力不斷增強,并形成具備越來(lái)越強的泛化能力AI平臺,企業(yè)也得以開(kāi)啟AI運營(yíng)業(yè)務(wù)。而最終,所有的技術(shù)都需要通過(guò)物理實(shí)體賦能,因此AI最終必須走向產(chǎn)品化。

  圖源:云天勵飛

  云天勵飛業(yè)務(wù)發(fā)展路徑也沿著(zhù)這條路徑展開(kāi)。在A(yíng)I方案化方面,云天勵飛在警務(wù)、城市治理、智慧交通、人居生活等領(lǐng)域打造諸多標桿項目,并且在低空經(jīng)濟、智慧教育等創(chuàng )新領(lǐng)域持續展開(kāi)探索?;谠诖罅啃袠I(yè)的落地經(jīng)驗,云天勵飛已形成數據運營(yíng)、新能源運營(yíng)平臺,走向AI運營(yíng)化。如今,云天勵飛還逐步走向AI產(chǎn)品化。

  去年,云天勵飛與華為昇騰聯(lián)合推出天舟大模型訓推一體機;如今又推出面向邊緣訓推場(chǎng)景的“深目”AI模盒。此外,云天勵飛還通過(guò)資本紐帶,進(jìn)軍智能穿戴和機器人等硬件領(lǐng)域,形成日益完善的大模型產(chǎn)品體系。

  總之,從AI方案化、AI運營(yíng)化再到AI產(chǎn)品化,云天勵飛一直在致力于做物理世界的“解碼者”,通過(guò)算法芯片化的能力,為“無(wú)形”的技術(shù)和“有形”的世界構建通道,讓AI不僅僅是一個(gè)在虛擬世界的工具,而是轉化為物理世界的生產(chǎn)力。

image.png

來(lái)源:云天勵飛

  想了解更多行業(yè)動(dòng)態(tài)以及行業(yè)最新、最前沿的產(chǎn)品、技術(shù)與解決方案,那就來(lái)參加4月24-26日IOTE 2024第二十一屆國際物聯(lián)網(wǎng)展·上海站。這里匯聚全球超300+家參展企業(yè)、3萬(wàn)+多元領(lǐng)域的專(zhuān)業(yè)集成商、終端用戶(hù),不僅能提供行業(yè)最前沿的產(chǎn)品信息,也為業(yè)內人士提供了交流合作的機會(huì ),能夠享受高效、精準的資源對接。同時(shí),展會(huì )也開(kāi)設了RFID、高精度定位、智慧康養、智慧工廠(chǎng)、智慧能源、智慧建筑園區、智慧應急與減災等多個(gè)技術(shù)與應用領(lǐng)域論壇。識別下方二維碼,即可報名觀(guān)展!

image.png

  識別上方二維碼,即可報名觀(guān)展!