京东言犀获离散推理型阅读理解DROP冠军

3月14日消息，据京东科技News消息，近日，在由Allen AI研究院发起的离散推理型阅读理解榜单DROP上，京东智能客服言犀团队（JDAI research）提出的NR-Rino模型以90.26%的准确率登顶DROP Leaderboard冠军。

据了解，DROP榜单是一个国际著名的评测任务，主要用于测试计算机在语言理解中的数学推理能力。不同于许多单轮问答，离散推理型阅读理解数据集DROP要求模型在语义理解的基础上，具备数值推理能力。本次DROP数据集任务吸引了国际众多参赛队伍，包括Google Research、中国平安、腾讯等。

DROP数据集的难点在于问题的答案无法通过直接与文章匹配得到，需要结合不同位置的数字及其上下文表示，来进行推理得出。此外，加法、排序、统计等符号运算对模型的综合推理能力也是极大的挑战。

京东言犀团队提出了NR-Rino模型，主要是对基于多头预测器方法进行创新和改进，NR-Rino采用了编码层、数字推理层、预测层的三级结构。

除了模型结构的优化外，NR-Rino还进行了训练优化，以充分利用预训练语言模型中蕴含的知识，包括对模型参数的正则化约束和Dropout正则化。

京东科技表示，未来言犀将进一步推动离散推理型阅读理解的发展，包括涉及背景知识的数字推理、复杂数字推理等问题。包括NR-Rino模型在内的AI能力也将广泛应用于京东零售、京东物流、京东健康，以及外部金融、政务、泛互的行业，涉及数字分析、金融报告分析、体育数据分析，智能交互RPA等环节。