京东探索研究院织女模型Vega v1登GLUE榜首

林月
2022-01-05 14:39

1月5日消息,据京东科技News微信公众号消息,在近日公布的全球自然语言处理领域顶级测试GLUE中,京东探索研究院联合悉尼大学、武汉大学以及北京航空航天大学组成梦之队(JDExplore Dream Team, d-team)参与其中,其提出的织女模型Vega v1以总平均分91.3分荣登榜首,再次刷新自然语言理解技术世界纪录。

format-jpg

(图源京东探索研究院,下同)

据悉,测试中织女模型在九个子任务中的四个单项任务,即情感分类任务SST-2(The Stanford Sentiment Treebank)、语义相似度任务MRPC(Microsoft Research Paraphrase Corpus)、问句语义等价任务QQP(The Quora Question Pairs)和指代消解任务WNLI(winograd NLI)中均位列第一。尤其在情感分析任务SST和指代消解任务WNLI中首次超越人类智能水平。

织女模型Vega v1采用了“预训练-微调”范式,依托于多个重要预训练的技术创新实现突破,例如采用了高效节能的并行化训练框架以及数据利用方法,使用了数十亿参数量的创新模型架构、更好的自监督信号以及多粒度句子级表征等。

format-jpg

京东表示,织女模型Vega v1问鼎GLUE榜单并超越人类的表现,将京东探索研究院NLP模型水平推上新台阶,有望以创新性科技更好助动智能城市、供应链管理、智能零售等应用研究,更快推进数智化产业蓬勃发展。

未来还将考虑融合可信人工智能等技术对织女模型进行全面升级,让其不仅具有强大的文本理解能力,还能具备稳定性、可解释性、保护隐私、公平性等重要属性。

据了解,京东探索研究院在自然语言处理及机器视觉等领域拥有世界领先的智能人机交互技术,在国际顶级学术会议上发表了520余篇论文,获得了33项国际AI比赛冠军并多次获得国际大奖,且拥有370余项专利。依托京东的应用场景,打造了新一代多模态智能客服产品,涵盖了全链条客户服务场景。

format-jpg

1、该内容为作者独立观点,不代表观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
2、平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn
相关阅读
京东探索研究院院长、京东科技智能服务与产品部总裁何晓冬受邀在2023世界人工智能大会发表主题演讲。
据“AI科技评论”报道,京东最高级别AI科学家陶大程将于近期离职,不再担任京东探索研究院院长。
陶大程认为,产业元宇宙,是使用数字技术,对现实世界中的社会属性和自然属性进行精准重构和再创造的能力集合。
近日,京东探索研究院联合悉尼大学推出了超级深度学习模型ViTAEv2,该模型精准高达91.2%。
世界机械臂大赛SAPIEN ManiSkill Challenge 2021公布了本届参赛队伍成绩以及最终排名,京东探索研究院在两个重要赛道中分别获得第一和第二。
8月24日消息,近日,京东探索研究院院长陶大程带领其量子计算研究团队主要成员杜宇轩、钱扬提出全球首个以经典云平台为依托、量子计算设备为终端的量子并行处理框架QUDIO ,将可实现充分调度现有量子计算资源去求解超越经典计算的大规模任务。
近日,京东探索研究院院长陶大程带领其量子计算研究团队主要成员杜宇轩、钱扬提出全球首个以经典云平台为依托、量子计算设备为终端的量子并行处理框架QUDIO。
11月25日消息,京东今日宣布正式成立京东探索研究院,今后将面向全世界延揽顶级人才,深耕“人工智能”、“量子计算”、“数据科学、工程与管理”、“去中心化计算”、“伦理道德”、“科学与艺术”等六大数智技术领域。据了解京东集团首席战略官廖建文今日披露了数智化
    Baidu
    map