|
自“千模大戰(zhàn)”興起，金融、醫(yī)療、教育等擁有數(shù)據(jù)積累的多領(lǐng)域企業(yè)，紛紛加入大模型隊伍，發(fā)布垂類大模型。垂類大模型以深度解決行業(yè)需求為主，即大模型需要具備豐富的專業(yè)領(lǐng)域知識，才可能創(chuàng)建出更符合特定垂類場景的“產(chǎn)業(yè)版GPT”。 不過，創(chuàng)建大模型并非易事，通常會面臨數(shù)據(jù)、計算資源、模型和算法設(shè)計、訓(xùn)練時效、模型驗證調(diào)優(yōu)等多方面問題，耗費大量人力、物力、財力后，依然效果甚微，而使用虎博科技的開源大模型Tigerbot則可得到解決，用戶最快可在30分鐘內(nèi)無代碼的訓(xùn)練和使用專屬于自己的大模型和數(shù)據(jù)。 據(jù)了解，虎博科技在發(fā)布開源大模型Tigerbot的同時，也發(fā)布了大模型應(yīng)用開發(fā)所需的全套API，包括對話(Chat)、插件(Plug-ins)、微調(diào)(Fine-Tunes)等，并開放金融、法律、百科等多個專業(yè)領(lǐng)域數(shù)據(jù)，在高效果和高效率雙方面，為用戶提供了充分保障。 對話方面，Chat-API 為 TigerBot 對外提供的可直接使用的 api，支持 Tigerbot-7B 和 Tigerbot-180B 兩種模型的選擇;插件方面，除了Tigerbot提供的自研插件，可用api調(diào)用外，用戶還能管理自己的數(shù)據(jù)，訓(xùn)練專屬插件;微調(diào)則更加人性化，用戶僅僅按照數(shù)據(jù)要求管理上傳自身數(shù)據(jù)，即可無代碼快速訓(xùn)練出基于 TigerBot 大模型能力基礎(chǔ)的自己的模型。 Tigerbot是虎博科技自研的多語言多任務(wù)大規(guī)模語言模型，10人團隊歷經(jīng)三個月超過3000次實驗后誕生。目前覆蓋生成、開放問答、編程、畫圖、翻譯、頭腦風(fēng)暴等15大類能力，支持子任務(wù)超過60種。經(jīng)測試體驗，Tigerbo能勝任寫廣告語、做表格、糾正語法錯誤等不同任務(wù)，也支持多模態(tài)文生圖的需求。 目前，虎博科技共推出70億參數(shù)(TigerBot-7B)和1800億參數(shù)(TigerBot-180B)兩種規(guī)模的模型。根據(jù)OpenAI InstructGPT 論文在公開 NLP 數(shù)據(jù)集上的自動評測，TigerBot-7B 版本已達到 OpenAI 同樣大小模型的綜合表現(xiàn)的 96%，尤其在推理式問答等個別領(lǐng)域表現(xiàn)更為亮眼，而這一版本還只是MVP(最小可行性模型)。 (上圖為公開 NLP 數(shù)據(jù)集上的自動評測，以O(shè)penAI-instruct GPT-6B-SFT為基準，歸一化并平均各模型的得分情況) 虎博科技創(chuàng)始人兼CEO陳燁希望通過提供Tigerbot API構(gòu)建生態(tài)藍圖，“大模型是人工智能時代的基礎(chǔ)設(shè)施，而生態(tài)的發(fā)展則能反哺大模型的能力，實現(xiàn)技術(shù)與產(chǎn)業(yè)發(fā)展的共榮共生，也可與廣大開發(fā)者一同打造中國的世界級應(yīng)用�！� 此外，Tigerbot在發(fā)布之際便開源，涉及模型、代碼、數(shù)據(jù)三部分內(nèi)容，包含 TigerBot-7B-sft、 TigerBot-7B-base、TigerBot-180B-research 等多個模型版本;基本訓(xùn)練且覆蓋雙卡推理 180B 模型的量化和推理代碼;以及達 100G 的預(yù)訓(xùn)練數(shù)據(jù)、監(jiān)督微調(diào) 1G/100 萬條數(shù)據(jù)。(開源地址：https://github.com/TigerResearch/TigerBot ) 據(jù)了解，虎博科技成立于2017年，以讓人們獲取知識更簡單為愿景，其專注于深度學(xué)習(xí)和NLP技術(shù)的研究和應(yīng)用已得到了廣泛認可。此次自研大模型TigerBot發(fā)布并開源，更標志著這家專注于深度學(xué)習(xí)和自然語言處理技術(shù)的算法公司在大模型研發(fā)領(lǐng)域取得了重要突破。 |
