政府新闻
中国大模型语料数据联盟开源发布高质量多模态语料“书生·万卷” 2023-08-23
继今年7月在2023世界人工智能大会发起成立“中国大模型语料数据联盟”(以下简称“语料数据联盟”)之后,8月14日,上海人工智能实验室(上海AI实验室)宣布,联合语料数据联盟成员单位共同开源发布“书生·万卷” 1.0多模态预训练语料。 “书生·万卷” 1.0目前包含文本数据集、图文数据集、视频数据集三部分,本次开源的数据总量超过2TB。该语料数据包含超过5亿个文本,2200万个图文交错文档,10