banner
李大仁博客

李大仁博客

天地虽大,但有一念向善,心存良知,虽凡夫俗子,皆可为圣贤。

CaCl2

CaCl2#

介紹#

CaCl2 是什麼?#

CaCl2(CaCl2: Chinese Lexicon V2, Simple Chinese:CA 中文語言詞庫)CaCl2 源自於一個由中國公司贊助的中文自然語言處理(NLP)研究項目。CaCl2 項目是 CaOCl(CaOCl: Open Chinese Lexical Analyzer)項目的一個重要部分。

CaCl2 如何運作?#

CaCl2 分析來自互聯網的大量文本數據,並將數據重新格式化為大量條目,根據金融行業分類標準對條目進行目錄編排和分類 [見參考文獻 1]。

CaCl2 詞庫能做什麼?#

在自然語言處理(NLP)任務中,CaCl2 詞庫幫助將語言分解為更短的基本單位。(即,標記化)CaCl2 詞庫可用於更高級的 NLP 任務,如詞語分割、文檔摘要、上下文提取、內容分類等。

CaCl2 的目標是什麼?#

CaCl2 項目旨在為互聯網構建一致、完整和準確的行業詞庫或字典集合。我們竭盡所能以實現更高的數據完整性,為中文 NLP 工作提供堅實的基礎,使用者將能夠將更多注意力投入到他們的業務和研究中。

統計數據#

條目#

日期總數候選發佈預覽
2021-02-0121,000,0003,000,0002,553,806280,000

字典#

日期類別行業發佈預覽關閉
2021-02-01類別 - 1282260
2021-02-01類別 - 21045990

** 詳細統計數據請參考 Statistics

開始使用#

1. 從 GitHub 克隆 cacl2 或下載字典#

克隆 cacl2

git clone https://github.com/limccn/cacl2.git

或下載字典

wget https://github.com/limccn/cacl2/blob/master/archive/v0.2/\[在此處放置字典代碼 \].zip

2. 將字典導入到您的項目和研究環境#

CaCl2 字典格式良好,可以在許多詞庫工具中使用。

import jieba
dict_name = '480000.txt'
jieba.load_userdict(os.path.join(BASE_PATH_TO_DICT), dict_name))

<properties>
<entry key="ext_dict">480000.txt;480100.txt;</entry>
</properties>

3. 運行、測試並享受 CaCl2!#

開源計劃#

已發佈#

代碼名稱條目日期版本格式下載
480000銀行 - 通用406122021-02v0.2txt480000.zip
480100銀行 - 銀行2244332021-02v0.2txt480100.zip
490000金融 - 通用3412352021-02v0.2txt490000.zip
490100金融 - 證券3111212021-02v0.2txt490100.zip
490200金融 - 保險310202021-02v0.2txt480200.zip

預定發佈#

代碼名稱條目預定版本格式下載
490300金融 - 其他10,0002021 年第 2 季度v0.2txt490300.zip

技術預覽#

在字典最終發佈之前,我們發佈了一個技術預覽字典,包含每個類別 - 1 行業的 10,000 條條目。如果您需要有關所有條目的進一步信息,請參考 Statistics

** 原始數據,請參考 /dicts ** 詳細的類別 - 1 和 2 行業字典,請參考 Statistics

比較與測試#

1. 比較#

(@CaoWJ)字典#

(@CaoWJ)#

(@CaoWJ)#

2. 測試與評分#

2.1 行業測試數據集#

詞語分割測試用於不同的行業文本數據

2.1.1 使用金融行業(僅銀行行業)字典的詞語分割#

2.1.2 使用金融行業(不包括銀行行業)字典的詞語分割#

2.2 標準測試數據集#

詞語分割測試使用標準中文測試數據集

歷史與變更日誌#

1. 定期發佈#

版本日期變更日誌
0.22021最新
0.1.12020將所有條目編目並分類為 28 個類別 - 1 行業和 240 個類別 - 2 行業
0.12019首次發佈版本,包含超過 2000 萬條條目,數據主要來自百度百科,維基百科

2. 每月 / 每季度發佈#

版本週期日期變更日誌
v0.2.21.01每月2021-02-01發佈:銀行和金融字典
v0.2.20.12每月2021-01-01v0.2 初始版本

常見問題#

披露#

CaCl2 及其數據來自互聯網上發佈的信息。CaCl2 不保證數據的完整性和正確性。CaCl2 不構成任何投資建議。作為貢獻者,我們在任何提及的股票中沒有持倉。我們與任何提及的公司的股票沒有業務關係。

參考文獻#

1.SWSI 行業分類標準.2014

載入中......
此頁面數據所有權由區塊鏈加密技術和智能合約保障僅歸創作者所有。