近日，此芯科技宣布成功完成DeepSeek R1系列模型在此芯P1平臺(tái)上的端側(cè)異構(gòu)適配，進(jìn)一步釋放高能效智能算力的潛力，標(biāo)志著此芯科技在智能算力領(lǐng)域邁出了堅(jiān)實(shí)的一步，為星空人工智能產(chǎn)業(yè)帶來(lái)更多創(chuàng)新可能。
實(shí)現(xiàn)端側(cè)異構(gòu)賦能
早在2024年5月，DeepSeek V2開(kāi)源模型發(fā)布之際，此芯科技便敏銳地捕捉到這一技術(shù)前沿動(dòng)態(tài)，并迅速啟動(dòng)了與此芯SoC的異構(gòu)適配工作。
時(shí)隔不久，DeepSeek R1的正式發(fā)布迅速成為AI領(lǐng)域的焦點(diǎn)。DeepSeek R1采用強(qiáng)化學(xué)習(xí)訓(xùn)練，推理時(shí)包含大量反思和驗(yàn)證，思維鏈長(zhǎng)度可達(dá)數(shù)萬(wàn)字。在數(shù)學(xué)、代碼以及復(fù)雜邏輯推理任務(wù)上，DeepSeek R1 有著出色的表現(xiàn)，能取得媲美 OpenAI o1 的推理效果，還能為用戶(hù)展現(xiàn)完整的思考過(guò)程。
此芯科技再次展現(xiàn)了高效的技術(shù)實(shí)力，成功實(shí)現(xiàn)了DeepSeek R1系列模型的蒸餾版本在此芯P1平臺(tái)上的異構(gòu)適配，包括DeepSeek-R1-Distill-Qwen-1.5B、DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Llama-8B和DeepSeek-R1-Distill-Qwen-14B等版本。
實(shí)測(cè)數(shù)據(jù)顯示，在此芯P1平臺(tái)上，DeepSeek-R1-Distill-Qwen-7B模型的推理速度可達(dá)10 tokens/s，DeepSeek-R1-Distill-Qwen-1.5B模型的推理速度將近40 tokens/s，展現(xiàn)出強(qiáng)大的端側(cè)AI計(jì)算能力。
加速端側(cè)AI應(yīng)用普及
DeepSeek憑借卓越的算法優(yōu)化能力，成功降低了AI模型的訓(xùn)練和推理成本，并通過(guò)模型蒸餾技術(shù)顯著提升小模型的運(yùn)行效率，使其在資源受限的環(huán)境下依然具備優(yōu)異的推理性能。這一突破將進(jìn)一步加速端側(cè)AI應(yīng)用的普及。通過(guò)此次適配，此芯科技不僅推動(dòng)了DeepSeek-R1模型在此芯P1平臺(tái)上的chatbot高效本地部署，同時(shí)基于微軟VSCode插件調(diào)用DeepSeek-R1本地模型作為服務(wù)端進(jìn)行代碼輔助生成，突破傳統(tǒng)云端依賴(lài)，實(shí)現(xiàn)本地模型的高速運(yùn)行，保障數(shù)據(jù)安全與處理速度。此外，該插件與VSCode編輯器深度整合，開(kāi)發(fā)者無(wú)需額外學(xué)習(xí)成本，即可輕松上手，為開(kāi)發(fā)者們帶來(lái)了全新的編碼體驗(yàn)。
加強(qiáng)端側(cè)AI生態(tài)構(gòu)建
未來(lái)，此芯科技將充分發(fā)揮此芯P1平臺(tái)在端側(cè)AI異構(gòu)算力方面的優(yōu)勢(shì)，持續(xù)優(yōu)化AI模型的本地部署方案，并攜手產(chǎn)業(yè)鏈上下游合作伙伴，共同推動(dòng)AI PC等智能終端生態(tài)的發(fā)展，為星空人工智能行業(yè)注入更多創(chuàng)新動(dòng)力。此次DeepSeek R1模型的成功適配，不僅提升了此芯科技在端側(cè)智能算力領(lǐng)域的競(jìng)爭(zhēng)力，也為整個(gè)產(chǎn)業(yè)鏈的協(xié)同發(fā)展提供了有力支撐。在此基礎(chǔ)上，此芯科技也將進(jìn)一步推進(jìn)DeepSeek Janus Pro多模態(tài)大模型的異構(gòu)適配，進(jìn)一步拓展端側(cè)AI的應(yīng)用場(chǎng)景。緊跟時(shí)代前沿，此芯科技將繼續(xù)秉承創(chuàng)新、高效、合作的理念，推動(dòng)星空人工智能技術(shù)的持續(xù)進(jìn)步，為用戶(hù)帶來(lái)更智能、更高效的產(chǎn)品和解決方案。
星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問(wèn)題，煩請(qǐng)30天內(nèi)提供版權(quán)疑問(wèn)、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時(shí)溝通與處理。！：首頁(yè) > 星空人工智能產(chǎn)業(yè) > AI大模型 » 此芯科技完成DeepSeek R1系列模型適配, 開(kāi)啟智能算力新篇章