來源:大半導體產業(yè)網 據龍芯中科官微消息,近日,知名AI推理框架開源社區(qū)ONNX Runtime正式發(fā)布支持龍架構的版本1.17.0。今后,用戶可以直接使用ONNX Runtime開源社區(qū)發(fā)布的版本在龍芯平臺完成AI推理類應用的開發(fā)和部署,標志著龍架構軟件生態(tài)得到進一步完善。 據悉,ONNX Runtime(ORT)是近年來興起的AI推理框架軟件,被大量AI應用作為基礎AI推理引擎。可支持PyTorch、Tensorflow、TFLite等多種格式的模型輸入,以及CPU、GPU、IoT、NPU、FPGA等多樣化算力后端。龍芯中科技術團隊與社區(qū)保持緊密合作,期間向ONNX Runtime社區(qū)代碼倉庫提交了7697行代碼,對矩陣乘法、卷積、轉置等核心算子進行深度向量優(yōu)化。 未來,龍芯中科將繼續(xù)與AI領域的國際開源軟件社區(qū)攜手合作,助力AI領域的生態(tài)發(fā)展和技術創(chuàng)新,為用戶帶來更優(yōu)產品,實現更大價值。 |