聊天中文语料库对比

2022-03-07

聊天中文语料库对比

本仓库提供了一个综合性的聊天中文语料库资源,包含了多个公开的中文聊天语料库。这些语料库经过统一化规整和处理,可以直接用于自然语言处理(NLP)项目,特别是聊天机器人和对话系统的开发。

语料库列表

本仓库包含了以下8个常见的中文聊天语料库:

  1. chatterbot
  2. 豆瓣多轮
  3. PTT八卦语料
  4. 青云语料
  5. 电视剧对白语料
  6. 贴吧论坛回帖语料
  7. 微博语料
  8. 小黄鸡语料

每个语料库都经过繁体字转换和格式统一处理,确保可以直接用于各种NLP任务。

使用方法

  1. 下载语料库:所有语料库已经统一打包,可以直接下载使用。
  2. 解压文件:将下载的文件解压到指定目录。
  3. 处理语料库:使用提供的Python脚本对语料库进行进一步处理,生成可用的TSV格式文件。

环境要求

  • Python 3

处理过程

  1. 提取各个来源的语料库。
  2. 进行繁体字转换。
  3. 统一格式为一轮一轮的对话。

生成结果

每个语料库将生成一个独立的TSV文件,包含查询(query)和回答(answer)。

结果的使用

生成的语料库文件可以根据个人需求进行进一步处理和使用,适用于各种聊天机器人和对话系统的开发。

版权说明

本项目为非商业项目,旨在搜集和汇总资料。如有侵权,请在issue下留言。


通过本仓库,您可以方便地获取和处理多个中文聊天语料库,加速您的NLP项目开发。

下载链接

聊天中文语料库对比