本站 消息，10 月 11 日，近日全鏈數(shù)據(jù)網(wǎng)絡(luò) Chainbase 宣布在 HuggingFace 開源其專為加密領(lǐng)域打造的大語言模型 Theia-Llama-3.1-8B。該模型在困惑度（Perplexity）和 BERT 評分上均超越了市場主流模型，對 crypto 世界的理解能力超過大多主流開源大模型。
Chainbase 團(tuán)隊獨創(chuàng)性地構(gòu)建了首個專業(yè) Web3 數(shù)據(jù)集，收錄了 CoinMarketCap 前 2000 項目的各類資料。數(shù)據(jù)集經(jīng)過手動和算法過濾，確保訓(xùn)練數(shù)據(jù)的準(zhǔn)確性、多樣性和專業(yè)性?；诖藬?shù)據(jù)集，團(tuán)隊采用 LoRA 技術(shù)高效微調(diào)模型，并利用 DeepSpeed 等工具加速訓(xùn)練過程。此外，模型量化為 Q8 GGUF 格式，大幅降低了內(nèi)存占用，提升了推理速度。
據(jù)悉，Theia-Llama-3.1-8B 是 Chainbase 在加密領(lǐng)域大模型的初步嘗試且該模型已成功應(yīng)用于 Chainbase DEMO 交互應(yīng)用 TheiaChat，目前日活用戶超過 30 萬。
鄭重聲明：本文版權(quán)歸原作者所有，轉(zhuǎn)載文章僅為傳播更多信息之目的，如作者信息標(biāo)記有誤，請第一時間聯(lián)系我們修改或刪除，多謝。
