|
來(lái)源：大半導(dǎo)體產(chǎn)業(yè)網(wǎng) 據(jù)龍芯中科官微消息，近日，知名AI推理框架開(kāi)源社區(qū)ONNX Runtime正式發(fā)布支持龍架構(gòu)的版本1.17.0。今后，用戶(hù)可以直接使用ONNX Runtime開(kāi)源社區(qū)發(fā)布的版本在龍芯平臺(tái)完成AI推理類(lèi)應(yīng)用的開(kāi)發(fā)和部署，標(biāo)志著龍架構(gòu)軟件生態(tài)得到進(jìn)一步完善。 據(jù)悉，ONNX Runtime（ORT）是近年來(lái)興起的AI推理框架軟件，被大量AI應(yīng)用作為基礎(chǔ)AI推理引擎。可支持PyTorch、Tensorflow、TFLite等多種格式的模型輸入，以及CPU、GPU、IoT、NPU、FPGA等多樣化算力后端。龍芯中科技術(shù)團(tuán)隊(duì)與社區(qū)保持緊密合作，期間向ONNX Runtime社區(qū)代碼倉(cāng)庫(kù)提交了7697行代碼，對(duì)矩陣乘法、卷積、轉(zhuǎn)置等核心算子進(jìn)行深度向量?jī)?yōu)化。 未來(lái)，龍芯中科將繼續(xù)與AI領(lǐng)域的國(guó)際開(kāi)源軟件社區(qū)攜手合作，助力AI領(lǐng)域的生態(tài)發(fā)展和技術(shù)創(chuàng)新，為用戶(hù)帶來(lái)更優(yōu)產(chǎn)品，實(shí)現(xiàn)更大價(jià)值。 |
