Techub News 消息，研究團隊 Linkup Research 發佈開源稀疏嵌入模型 SPARSEUP。該模型基於 1.49 億參數的 ModernBERT 主幹網絡構建，採用 Apache 2.0 許可協議發佈。據團隊報告，其在 BEIR-13 基準測試上的平均 nDCG@10 得分為 56.4，並稱這是目前已知參數量低於 1.5 億、基於公共詞匯的最強稀疏編碼器。 模型權重已託管於 Hugging Face，可通過 Transformers 或 Sentence Transformers 加載。該模型旨在填補 LightOn 近期發佈 DenseOn 和 LateOn 模型後缺失的稀疏檢索方案，使用相同的主幹網絡係列和微調數據，以便進行三種檢索風格的橫向比較。 在速度與稀疏性方面，SPARSEUP 在 MS MARCO 數據集上平均每個查詢有 47 個非零項，每個文檔有 190 個。使用 Seismic 倒排索引時，單綫程下每個查詢約 380 微秒即可達到超過 97% 的召回率。（MarkTechPost）
内容來源：TECHUB NEWS
財華網所刊載內容之知識產權為財華網及相關權利人專屬所有或持有。未經許可，禁止進行轉載、摘編、複製及建立鏡像等任何使用。
如有意願轉載，請發郵件至 content@finet.com.hk，獲得書面確認及授權後，方可轉載。
香港領先,世界一流的科技媒體平台 在數字化時代,Web3技術的崛起為媒體行業注入了新的活力。作為香港領先的Web3媒體平台,Techub News憑借其專業的團隊、豐富的資源和創新的業務模式,成為了行業内的佼佼者。Techub News,作為香港的科技媒體翹楚,致力於打造「香港領先,世界一流」的科技媒體和新媒體集群。Techub News平台提供最新、最快、最專業的Web3科技資訊,為用戶呈現科技前沿的無限魅力。
或
按钮分享