banner
李大仁博客

李大仁博客

天地虽大,但有一念向善,心存良知,虽凡夫俗子,皆可为圣贤。

CaCl2(中文)

CaCl2#

其他語言版本: 簡體中文, English

一、CaCl2 簡介#

CaCl2(CaCl2: Chinese Lexicon)中文名稱:CA 中文語言詞庫,源於某國內金融行業 NLP 項目,通過分析既有語料獲得海量詞條數據,同時按金融行業標準進行詞條編目和分類,在自然語言處理 NLP 過程中,可以用於分詞,關鍵詞提取、內容摘要,實體識別等用途。 CaCl2 項目目標在於向互聯網提供行業性的、完整的、準確的的詞庫,完成中文語言 NLP 的基礎性工作,讓用戶將更多精力投入業務研究。 CaCl2 是開放項目 CaOCl(CA 開放中文詞法分析工具包)重要組成部分。

統計數據#

1. 詞條數#

時間總詞條數候選詞條已公開詞條預覽版詞條
2021-02-01約 21,000,000約 3,000,0002,553,806280,000

2. 行業字典數#

時間行業詞典數已公開預覽版未公開
2021-02-01一級行業282260
2021-02-01二級行業1045990

** 詳細統計狀態,請參考鏈接:CaCl2 開放狀態統計

二、快速開始#

1.Clone 或按需下載 CaCl2 詞庫#

Clone

git clone https://github.com/limccn/cacl2.git

下載

wget https://github.com/limccn/cacl2/blob/master/archive/v0.2/\[字典代碼 \].zip

2. 導入和配置詞庫#

CaCl2 公開的詞庫支持在多種分詞工具和環境中使用。

使用示例#

import jieba
dict_name = '480000.txt'
jieba.load_userdict(os.path.join(BASE_PATH_TO_DICT), dict_name))

使用示例#

<properties>
<entry key="ext_dict">480000.txt;480100.txt;</entry>
</properties>

3. 測試和開始使用 CaCl2,Enjoy!#

三、詞庫開源進度表#

1. 已開源#

行業代碼詞庫名稱詞條數量公開時間當前版本格式下載地址
480000銀行 - 通用406122021-02v0.2txt480000.zip
480100銀行 - 銀行2244332021-02v0.2txt480100.zip
490000非銀金融 - 通用3412352021-02v0.2txt490000.zip
490100非銀金融 - 證券3111212021-02v0.2txt490100.zip
490200非銀金融 - 保險310202021-02v0.2txt480200.zip

2. 計劃開源#

行業代碼詞庫名稱詞條數量計劃公開時間當前版本格式下載地址
490300非銀金融 - 多元金融10,0002Q 2021v0.2txt490300.zip

3. 技術預覽版#

公開發布詞典前,我們提供 28 個一級行業的各 1 萬個詞條的技術預覽,詞典實際包含的詞條數量,請參考鏈接:CaCl2 開放狀態統計

行業代碼詞庫名稱收錄數量格式下載地址
110000農林牧漁 - 通用10,000txt110000.zip
210000采掘 - 通用10,000txt210000.zip
220000化工 - 通用10,000txt220000.zip
230000鋼鐵 - 通用10,000txt230000.zip
240000有色金屬 - 通用10,000txt240000.zip
270000電子 - 通用10,000txt270000.zip
280000汽車 - 通用10,000txt280000.zip
330000家用電器 - 通用10,000txt330000.zip
340000食品飲料 - 通用10,000txt340000.zip
350000紡織服裝 - 通用10,000txt350000.zip
360000輕工製造 - 通用10,000txt360000.zip
370000醫藥生物 - 通用10,000txt370000.zip
410000公用事業 - 通用10,000txt410000.zip
420000交通運輸 - 通用10,000txt420000.zip
430000房地產 - 通用10,000txt430000.zip
450000商業貿易 - 通用10,000txt450000.zip
460000休閒服務 - 通用10,000txt460000.zip
480000銀行 - 通用10,000txt480000.zip
490000非銀金融 - 通用10,000txt490000.zip
510000綜合 - 通用10,000txt510000.zip
610000建築材料 - 通用10,000txt610000.zip
620000建築裝飾 - 通用10,000txt620000.zip
630000電氣設備 - 通用10,000txt630000.zip
640000機械設備 - 通用10,000txt640000.zip
650000國防軍工 - 通用10,000txt650000.zip
710000計算機 - 通用10,000txt710000.zip
720000传媒 - 通用10,000txt720000.zip
730000通信 - 通用10,000txt730000.zip

** 原始格式的詞條,請參考:/dicts ** 詳細的開放狀態,請參考鏈接:CaCl2 開放狀態統計

四、使用效果#

1. 工具測試對比#

1.1 使用 CaCl2 標準詞庫和 Jieba 標準庫測試分詞結果對比(@CaoWJ)#

1.2 使用 CaCl2 和金融行業詞庫對比【招金詞酷】進行分詞(@CaoWJ)#

1.3 使用 CaCl2 和金融行業詞庫對比【招金詞酷】進行分詞提出摘要(@CaoWJ)#

2. 指標和得分#

2.1 行業數據集測試#

2.1.1 金融行業 (銀行行業),分詞測試#

2.1.2 金融行業 (金融行業,不包含銀行),分詞測試#

2.2 標準數據集測試#

五、歷史和變更日誌#

1. 定期發布版本#

版本發布時間變更日誌
0.22021發布中的版本
0.1.12020使用申萬行業分類對詞庫進行編目和分類,共 28 個一級行業和 104 個二級行業
0.12019第一个发布版本,包含来自互联网的 2100 万中文词条,主要来自百度百科,维基中文百科等来源

2. 自動發布版本#

最新版本發布周期發布時間變更日誌
v0.2.21.01monthly2021-02-01金融行業(銀行和非銀金融)行業詞庫發布
v0.2.20.12monthly2021-01-01版本 0.2 的初版,開源第一版,提供 28 個一級行業的各 1 萬個詞條預覽

** 歷史自動發布版本,請參考鏈接: 版本歷史

六、License 許可證#

1. 開源軟件許可證#

CaCl2 的源代碼在Apache License 2.0許可下開源。

    Copyright 2021 limc.cn All rights reserved.
    
    Licensed under the Apache License, Version 2.0 (the "License");
    you may not use this file except in compliance with the License.
    You may obtain a copy of the License at

    http://www.apache.org/licenses/LICENSE-2.0

    Unless required by applicable law or agreed to in writing, software
    distributed under the License is distributed on an "AS IS" BASIS,
    WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
    See the License for the specific language governing permissions and
    limitations under the License.

2. 共同創作許可證#

CaCl2 開放的詞庫,語料,模型等資料沿用Creative Commons BY-NC-SA 4.0知識共享許可協議。

七、貢獻和貢獻者#

感謝所有 CaCl2 貢獻者的努力,我們歡迎所有願意參與並貢獻 CaCl2 項目的貢獻者

1. 如何貢獻?#

1.1 Fork 或 Star 我們的 CaCl2#

1.2 在 Github 上參與 CaCl2 社區討論#

2. 貢獻者#

@CaoWJ

八、常見問題#

九、其他說明#

CaCl2 的部分內容來自互聯網公開的信息和數據資料,CaCl2 不保證數據的完整性和正確性,不構成任何建議。 我們沒有持有本文提及的相關證券,與本文提及的相關公司沒有任何關聯關係。

十、參考資料#

1.申銀萬國研究院行業分類標準.2014

載入中......
此頁面數據所有權由區塊鏈加密技術和智能合約保障僅歸創作者所有。