GitHub

2024-07-09 20:15| 来源: 网络整理| 查看: 265

ChineseSquad

中文机器阅读理解数据集，本数据集通过机器翻译加人工校正的方式从原始Squad转换而来，其中包括V1.1 和V2.0。由于部分翻译无法找到原文中的答案（短答案翻译和文档翻译有出入），故数据量对比原始英文版SQuAD 有所减少。

NEWS 2020.01.13 将V 1.1 和V2.0 两个中文版本进行合并，详情请参考正式版的 squad-zen V 1.0。能通过huggingface 的transfomers 加载，便于研究人员利用本数据集和大量预训练模型测试和验证自己的中文机器阅读理解模型。为什么这么做？

现有中文抽取式机器阅读理解数据集存在数据量较小，或者领域专一的特点

CMRC 2018 数据集较小，只有能回答的问题，问题类型比较单一。里面还有空格，huggingface 的transfomers不能正常读取。 Dureader 2019 数据集规模较大，但是数据文本质量不敢赞誉，优秀的数据预处理方法可以提升好几个百分点。只要数据清理的好，结果就不差 CAIL 2019 法研杯机器阅读理解，数据领域性比较强，文本质量很高。中国军事机器阅读理解数据领域性比较强，数据未公开。 DRCD 繁体版中文表述和简体中文表述存在一定的差异。数据集数据集有答案无答案总数下载链接 squad-zen 1.0 train 68213 43498 110k squad-zen 1.0 train squad-zen 1.0 dev 8326 5954 14k squad-zen 1.0 dev squad 2.0 train 46530 43498 90K squad 2.0 train squad 2.0 dev 3391 5945 9K squad 2.0 dev squad 1.1 dev 7679 - 7k squad 1.1 dev squad 1.1 train 55526 - 55k squad 1.1 train 实验结果 model data dev-EM dev-F1 BERT-base v1.1 56.74 56.79 BERT-base V2.0 61.14 61.17 BERT-base zen 1.0 70.84 70.86 RoBERTa-large zen 1.0 72.94 72.97 参考

SQuAD 2.0:The Stanford Question Answering Dataset

CNSD：中文自然语言推理数据集

致谢

感谢百度云提供计算服务

声明

该数据集只能用于学术研究，请勿商用。

【本文地址】

GitHub

GitHub

今日新闻

推荐新闻