本報(bào)訊 （記者矯月）

    3月20至21日，華為中國合作伙伴大會(huì)2025在深圳舉行。會(huì)上，恒生電子股份有限公司（以下簡(jiǎn)稱“恒生電子”）正式發(fā)布光子大模型一體機(jī)DeepSeek版，基于昇騰800I A2推理服務(wù)器，為金融機(jī)構(gòu)提供“開箱即用”的全棧式金融AI引擎，助力金融機(jī)構(gòu)快速完成大模型的部署落地，加速金融行業(yè)數(shù)智化轉(zhuǎn)型進(jìn)程。

    2025年開年，DeepSeek憑借“低成本+高性能+高開放度”的應(yīng)用優(yōu)勢(shì)，為金融機(jī)構(gòu)提供了更智能、更高效、更低成本的基礎(chǔ)大模型底座。但在實(shí)際接入DeepSeek的過程中，大模型仍存在諸多挑戰(zhàn)，如算力選型困難、部署交付周期長(zhǎng)、數(shù)據(jù)安全與隱私風(fēng)險(xiǎn)、缺乏標(biāo)準(zhǔn)化知識(shí)增強(qiáng)方案、應(yīng)用效果需要持續(xù)優(yōu)化等。

    針對(duì)以上痛點(diǎn)，恒生電子聯(lián)合華為昇騰，打造全棧國產(chǎn)化的光子大模型一體機(jī)DeepSeek版，提供了從底層算力資源池、模型服務(wù)平臺(tái)、企業(yè)級(jí)知識(shí)庫、智能體編排生態(tài)組件到系統(tǒng)交付和運(yùn)維的全棧開放能力，覆蓋模型調(diào)試、部署到運(yùn)營(yíng)全流程，具備一站式交付、成本優(yōu)化、合規(guī)風(fēng)險(xiǎn)控制等優(yōu)勢(shì)特點(diǎn)，有效降低大模型引入門檻，助力金融機(jī)構(gòu)實(shí)現(xiàn)高性價(jià)比AI基建。

    據(jù)了解，恒生光子大模型一體機(jī)DeepSeek版支持部署DeepSeekR1/V3滿血版，在2臺(tái)16卡昇騰推理服務(wù)器上可部署671B滿血版DeepSeek，基于國產(chǎn)開源推理引擎MindIE實(shí)現(xiàn)高并發(fā)高吞吐性能，在金融行業(yè)最典型的4096tokens輸入，1024tokens輸出場(chǎng)景下，2臺(tái)16卡昇騰推理服務(wù)器在滿足單路輸出10tokens/s體驗(yàn)下，可支持超過100路并發(fā)，同時(shí)滿足了單路時(shí)延和高并發(fā)需求。

    此外，恒生光子大模型一體機(jī)內(nèi)置100+通用模型，支持AI應(yīng)用響應(yīng)多樣性請(qǐng)求，基于大模型MaaS平臺(tái)實(shí)現(xiàn)多模型管理及智能調(diào)度，既滿足對(duì)要素提取、內(nèi)容審核等離線任務(wù)場(chǎng)景，又可以滿足長(zhǎng)文本理解輸出、多輪對(duì)話、復(fù)雜數(shù)據(jù)等特定業(yè)務(wù)生成場(chǎng)景。客戶可以根據(jù)“場(chǎng)景+體驗(yàn)+成本”選擇不同的模型底座。

    恒生電子光子大模型一體機(jī)的全棧AI能力，真正打通了AI應(yīng)用的“最后一公里”，可以幫助金融機(jī)構(gòu)快速實(shí)現(xiàn)這些智能應(yīng)用的開發(fā)與上線，實(shí)現(xiàn)降本增效和價(jià)值創(chuàng)造的建設(shè)目標(biāo)。

（編輯 李波 賀俊）