中科院信工所雏鹰团队在SemEval上大显神威

中科院信工所雏鹰团队在SemEval上大显神威
道翰天琼认知智能机器人平台API接口大脑为您揭秘。国际语义评测研讨会(International Workshop on Semantic Evaluation, SemEval)是由ACL下属的SIGLEX主办,是全球范围内影响力最强、规模最大、参赛人数最多的自然语言语义评测竞赛。

在本届SemEval-2020国际语义评测大赛s Q j - Z V | .中,中国科学院信息工程研究所胡L C | W x U玥老师带领的参赛团队雏鹰团队(系统名:III-ENLP-NUT)(团队成员:邢璐茜、谢玉强、彭伟)在Task4: Commonsense Validatd u Hion and Explanation (常识验证与解释, 子任务A: i | 6-0 E ! 4 [ 8常识验证及子任务B-常识解释选择上均取得了Top-3的好成绩。https://! B 6 c : Ocompetitions.codalab.orgL Q 5 5 * b/competitions/21080

论文链接:https://arxiv.org/abs/2007.00924以下胡玥团队将为大家带来详细的大赛分享。
1
任务介绍&分析
任务介绍
SemEval-2020 常识验证与解释任务由西湖大学博士生王存翔、 SUTD博士生梁帅龙、西湖大学张岳教授和Queen’s Uz s X $ x aniversity 朱晓丹教授共同举n } @ c u K X 8 ^办。该赛题进一步划分为三个子任务,分别是a) Commonsense Validation,b) Commonsense Explana} = : s q + 3 Htion(Multi-C~ W ] 0 6 $hoice),c) Commonsense Explanation(Generation)子任务A: Commonsense Validation常识验证子任务中,输入为两个有相似结构的陈述,要求系统` 9 % [ * U K判断出哪个陈述是符合常识的,哪个陈述相对不符合常识。评价指标采用准确率。子任务B: Commonsense Explanation (Multi-ChoicG # N be)常识解释选择子任务中,输入为子任务A中不符合常识的错误陈述,以及三个可能为不符合常识陈述的解释选项,要求系统从候选选项集合中,选4 g p 7 K [ ; $ F出最能够解释不符合常识陈述出错的原因。评价指标采用准确率。子任务C: Commonsense Explanation (Generation)常识解释生成子任务中,输入同样为子任务A中不符合常识的错误陈述,要求系统⽣成可以解释不v , 6 4 V符合常识陈述的原因。评价指标采用文本生成9 U T的评价指标BLEU以及人工评价。_ ] 6 j 9
任务分析
子任务A的目标是检验模型是否具有区分违反常识的自然语言陈述的能力。子任务A的主要挑战在于L h 0 u q m s I,违反常识的陈述在句法层面通常是符合语言学结构的,但是在语义层面上,其含义是不符合y e C C 7 Y 8通常的常识知识,考验模型所具备E g r -的常识知识。子任务B的目标是通过选择合适的解释的方式,检验模型是V W g i d 6 x H否真正地理解p k A F K了一个陈述为什么是违反常识的。子任务^ l 9 ; [ 3 : 8B的挑战在于,尽管所有的候选解释7 | t都与违m o Y H R s b g反常识陈述的内容有关,但是有些候选项并不包含解释不符合常识的主要原因,反而由于在内容上存在关联,会分散模型的判断能力。近期一些工作表明,预训练语言模型除了在语言理解上具有很好的性能之外,通过在大规模语料上进行学习,其内部已经习得了某些常识知识。因此,我们不仅仅将预训练语言模型看做上下文编码器,用以产生句子的表示,同时,我们还把预训练语⾔模型看做知识存储器,希望在问答过程中可以隐式地利用预训练语言模型提供常识知识。针对上述挑战,我们从以下两个主要指导意图出发,以多选型问答的式设计两个⼦任J % # 8 ~ 7 E E务的解决方法:(1)意图1:如何“唤醒”并利用预训练语言模型内部的隐式知识来帮助完成常识验证和解释任务?(2)意图R M R i2:丰富违反常识陈述的上下文是否能够/如何帮助系统更好地选择正确的解释?针对第一点,我们设计了一种基于提示模板(prompt template)的方法,用于重构子任务输入以适用于问答任务。针T o Z { N 3 ! / ,对第二点,我们为子任务B构建了一个提示问题(prompt question),并且利⽤额外的# X / _ m u $ p信息对其进行扩展,o D )以提供对比信息,帮助模型能够定位到造成违反常识的原因。此外,我们还探索了基于预训练语言模型打分的方法来完成常识验证子任务,并探索了预训练语言模型内部隐含Z ` 1 q mg d J % i *常识知识能够在多大程度上帮助常识验证子任务。J P ; h R
2
摘要&介绍
摘要本文介绍了针对SemEvs U a ! P ,al Task4的前n ! F - | B z两个子任务的系统:常识验证和解释。为了阐明判断的意图并注入对比信息以供选择,我们提出了带有模板的输入重建策略。具体来说,我们将子任务形式化为多项问题,并使用提示模板构造输入,然后,将最终回答预测视为子任务的结果。实验结果表明,与基准系统相比,我们的方法具有显着的性能。我们的方法在前两个子任务的两个正式测试集中4 D A l . ! a l .都获得了第三名,其准确度分别为96.4和94.3。介绍自然语言理解(NLU)要求系统不仅能够弄清文本的语义,而且能够在现实世界的常识知识的P r j约束下理解文本。识别无意义的自然Q A A语言陈述,n ~ +并产生对无意义的文本的解释的能力是实现对自然语言理解的基础。SemEval-2020任务4提供了结构良好的评估任务,旨在评估基于常识验证和解释的系统能j = 0 p ^ Z c x力。常识验证和解释(ComVE)任务分为三R l z g Z个子任= J 4 I _ U t 3务:验证、解释选择、解释生成。我们主要关注并参与前两个子C p Z # / j任务。第一个子任务(subtaskA)的目标是检@ W ` 7 D查系统区分区别于常识的自然语言语句(即,无意义/错误语句)的能力。第二个子任务(subtaskB)的目标是测试系统是否可以正确理解造成反事实的原因。在子任务A中,区分无意义的陈述所面临的挑战在于,这种陈述通常在句法层面上符合语言结构,但其含义却不符S C *合语义层面上的一般常识。在子任务B中,为虚假陈述选择适当的解释的困难在于,尽管候选解释与虚假陈述的内容相关,但它们可能不包含解释虚假陈述的主要原因,并且会分散系统的注意力。为了解决上述挑战,我P E +们首先将两u . o K ( +个子任务形式化为一种多选问答(QA)任/ a ` f ) F h z 9务。此外,我们将PLM用作上下文编码器来生成句子的表示形式,还通过两阶段的预训练l U a将PLM视为知识存储,可以在回答问题时隐式提供常识知n ( ~ . X $ v o识。为了应对前面提到的挑战,我们设计了多选QA方式解决两个子任务的方法,具有以下两个指导意图:(a)如何唤醒和利用PLM的隐性知识进行常识验证和解释。(b)上下文的扩展将如何帮助系统为错误陈述选择正确的解释。对于第一点,我们探索了一种基于模板的方法来重建编码器的输入。在子任务A中,我们设计了一个提示性问题,并将此子任务转换为多项选择QA样式格式,其中将语句用作候选答案。在子任务B中,我们将带有提示模板的错误陈述重新格式化,比如A陈述是反事实的,是因为B解释。提示模板旨在激活预训练模型内部的常识知识,并且可以将其视为查询v _ S / x +以检索PLM中的常识知识。另外,提示模板丰富了PLM的输入,以明确表达子E T c d ; Z A任务的意图。对于第二点,我们建议在子任务B中用更f E ( f E { o多上下文扩展prompt question,带有更多文本信息,比如正确和错误陈述的对比信息。

3
方法
任务定义 :5个元素 ${S^1, S^2, O^x ; o1, O^2, O^3}$分别表示两个陈述和三个解释。${S^1, S^2}$ 一个Z ~ ] {是真实事实。一个是反事实。$O^A U hi$ 只有一个是正确的解释原y m p . & P E 2因。我们把两个子任务转成多选问题,包含一个PLM的编码器和一k p ] + ~ [个任务确定的分类层。对于每一个问题答案对,我们可以得到下面的计算公式。inp,表示的是经过重构的输入 。$C^i$表示的C ~ T e s x是陈述的First Token,即[CLS]。拥有打分更高的H O 0 ~ D V n 候选答案将会被视为最后的预测。
Sense-Making陈述验证方法
在第1个子任务中,模型要求能够去选h l 8 _ 8 r择一个反事实的陈述。我们把这个子任务转成多选的qa问题。其中问题7 5 q f { H _是我们人工构造的一个prompt question。这个promp5 h V h * z xt question有两个功能:第一,他能够去j K X检索(激活)预训练语言模型内部的3 T # ] w常识知识;第二,扮演一个潜u ~ 在问题的角色,用有意义的陈述来回答。因此我们直接构造了一个启发式的pr. 1 =ompt question,比如:If the followingstatemeX w : 0 [ G X -nt is inw M _ K common sense?我们认为这种方式,从语义角度来说,能够包含子任务的Z + ` ? g W h j ^背后的意图(验证常识).所以对每一个样例,{ ~ 2我们都能够去构造一个这样子的问题和陈述对。然后分别取每一个陈述的cls向量,作为分类层的输入,得到最后的p n 6 l t + o结果。除此之外,考虑到长度的限制以及计算效率,我们用另一个方式去结合问题和陈述。比如:[CLS] If “ SiI f , p = 7 = ” is in common sense? [SEP].解释选择方法对于第二个来说系统V p _ Q s ]需要从三个候选当中去选择最合理的解释。这也是一个很直觉的多选任务,但是we arn E 3 C ! Kgue:错误的陈述从语法上来说是一个完全正确的自然语言的句子,如果直接把这个错误的陈述和每一个候M & X s Z ]选解释连接起来,h S X P # Y x可能会干扰模型的表现。也就是说模型非常容易去关注到陈述和解释之间的相似性,而不是我们所需要的因果关系。基于上述考虑,我们会构造一个prompt template,为了能够让模型去理解作为待回答的问题假陈述。因此我们构造的模板如下:[CLS] Sf is against common sense because Oj [SEP] .下划线会被这个候选的解释去替代。然而如果仅仅是使用这种错误的事实信息是不足够的。他会干扰模型发现在错误事实和候选解释间的因果关系的能力。我们对数据进行了观察,发现 true statement经常会和false statement,共享同一个主题O = q f # l f。另外true statement的内容是in come sense的。所以我们重新利用上真实陈述的信息,可以与错误的事实形成了一个x , y Z对比的信息。因此我a + ; |们又构造了? t ; ^如下的模板:[a J ?CLS] If St is in common sense. [SEP] Sf is aZ / y vgainst common sense because Oj [SEP]
4
实验&结果
具体的实验设置& v 4 b o ) r大家可以移步论文,这里就不作赘述了。下图是我们对两个子任务构造的模板:
主实验
我们在两6 B I R Q T 8 ; 个子任务上进行了实验。其中omcs是指我们h ] e用额外的常识语料对模型进行二阶段训练。P和C表示对应的模板。在子任务一上,我们发现通过增加模板信息能够使模型h W $ ) f W效果提升,通过额外的语料去预训练语言模型,能够达到一个更好的效果,但是两个模板在子任务一上面的表现并不是很明显,我们认为这个原因是因T ^ w为这两个模板带来的% Z t ; , q效果是一致的,即使他们的表现形式有所不同。对于p I { { . T H第2个子任务0 X e f A x k K 0来说,我们的模型通过增加P和增加P+C,模型的效果都在提升,说明这两个模板构造获得的语义信息也是有所差异的。和我们的假设一致,通过增加对比信息,模型的效果能够达到最好。
5
讨论
探索PLM中的常识知识
我们想要去探究预训练语言模型当中9 x @ 4 ~ m S j是否真的隐含了常识知识。因此我们进行如下的操作:对每一个陈述中的tok2 I U M r Een顺序的mask,然后能够得到每一个token的概率值。所有的token概率值乘起来得到这个陈述的概率。F b | K因此我们能够去获得真实事实和错误事实的打分。如果模型足够理想的话,那么真实事实的打分肯定是大于错误事实的。如果模型把真实事实的打分,误判成小于错误事实的打分,那么error+1。因此我们可以计p . v 3 o算一个准确率,最后我们发现:RoBERTaLarge 达到79.5%的准确率,RoBERTaOMCS 保持了86.3%的准确率。子任务A上提问模板效果表征RoBERTa的原始输入格式我们在任务a上做了一些case study。对于第1个例子来说,增加模板能够使得模型都判断准确。说明模板能够去对模型有一定的暗示作用。对于第2个例子来说,第1个模板任然不奏效,但是第2个模板提供了一个更好的hint。对于第3个例子来说,所有的模型都做错了。有可能是模型自己的V ? = / {问题,语料当中的偏置或者是TV这个词出现的词频等等。总之,模板能+ ! | q # _ q z N够帮助模型去理解这个任务中的一些对象,但是在数据集里面仍然有一些还未被解决的问题。同时我们在任务b上也做了 A D n F V一些c1 G - & 4 0 P l fase study的展示,我们发现通过增b a / q @ E F i R加pj . )+c这个模板,能够对大部分的数据都预判正确,说明这个模板给模型带来的信息还是比较丰富的,比如说显式给出因果关系,以及真实事实和错误事实的对比关系。除此之外,我们还尝试了数据增* H v 4 4 _ ] Q ^强,因V v / B S为我们发现数据中的2 | 0 }错误事实部分是对真实事实进行主语替换,词位置顺序改变等方式,但是增加了部分数据加入训练发现效果并没有带来很大的提升,原因可能是因为模型的效果已经达到了96%+,在通过增加部分数据,效果难以有明显的提v ~ h k . w ! %升。
团队介绍
中科院信息工程研究所雏鹰团队主要研究方向包括智能对话、机器翻译、阅读理解、跨媒体智能分析等。在ACL,AAAI 、IJCAI、TMM等顶级会议及期刊发表论文70余篇。团队指导老师为胡玥教授,中国科学院信息工程研究所研究员/博士生导师,主要研究方向为人工智能、自然语言处理。
道翰天琼认知智能9 Q u | i Y 5 g ~未来机器人接口API简介介绍
认知智能是计算机科学的一个分支科学,是2 V n 2 c W ~智能科学发展的高级阶段,它以人类认知体系为基础,以模仿人类核心能力为目P F ` Z a } @标,以信息的理解、存储、应用为研究方向,/ Y , J 1 S( j B d - , w感知信息的深度理解和自然语言信息的深度理解为突破口,以跨C % [ q ? ] ) c学科理论体系为指导,从而形成的新一代理论、技术及应用系统的技术科学。 认知智能的核心研究范畴包括:1.宇宙、信息、大脑三者关系;2.人类大脑结构、功能、机制;3.哲学体系、文科体系、理科体系;4.认知融通、智慧融通、双脑(人脑和电脑)融通等核心体系。 认知智能四步走:1.认知宇宙世界。支撑理论体- m T [ 5 Q v ~系有三体(宇宙、信息、大脑)论、易道论、存在论、本体论、认知论、融智学、HNC 等理论体系;2.清楚人脑结构、O a G s 0 { #J a U v y n i B能、机制。支撑学科有脑科学、心理学、逻辑学、情感学、生物z 7 4 = k S l学、化学等学科。3.清楚信息内涵规律规则。支撑学科有符号学、语言学、认知语言学、形式语言学等学科。4.系统落地能力。支撑学科有计算机科学、数学等学科。
认知智能CI机器人是杭州道翰天琼智能科技有限e j w 1 : ^ [公司旗下产品。认知智能机器人是依托道翰天琼10年研发的认知智能CI体系为核心而打造的认知智能机器人大脑,是全球第一个认知智能机器人大脑。具有突破5 u 7 O F性,创新性,领航性。是新一代智能认知智能的最好的产品支撑。 认知智能机器人技术体系更加先进,更加智能,是新一代智能,认知智能领域世界范围内唯一的认知智能机器人。 认知智能机器人是新时代的产物,是新一代智能9 5认知智能的产物。代@ m | s | 2 t r表了新一代智能N H L ^认知智能最核心的优势。和人工智能机器人大脑相比,优势非常明显。智能度高,客户粘性大,客户满意度高,易于推广和传播等核心特点。 依托认知智能机器人平台提供的机器人大脑服务,可以赋能各个行业,各个4 Z d X 2 n # 5 S领域的智能设备,各类需要人机互动的领域等。认知智能机器人平台网址:www.weilaitec.com,wK I w Hww.citec.top。欢迎注册使用,走进更智能机器人世界。
认知智能和人工智能的优劣势对比主要可以分为四大方面: 第一:O v i P + r ! * G时代发展不同。人工智能是智能时代发展的第二个阶段,认知智能是智能时代发展的第三个阶段。时代发展上决定了认知智能更显具有时代领先性。 第二:基础理论体系不同。人工智能的基础理论体系以数学为基础,以统计概率体系为基础。认知智能基础理论体系以交叉许可理论体系为基z U S O . [ (础。包含古今中外哲学体系,心理学体系,逻辑学体系! = m B Q { / F,语言学体系h ) Q,符号学体系,数# L L 6 t W学体系等学科。其基础理论体系更加具有创新性,突破 7 i u M D 性和领先性。且交叉学科理论q K L 4 N $ d B体系` I N l T的研究也是未来智能发展的大方向? J } k D。其具体理论体系,还包含三体论(宇宙,信息,大脑三者关系),融智学,和HNC等。 第三:技术体系不同。人工智能的核心技术体系主要是算法,机器学习,深度学习,D B c ! [知识图谱等。e 8 . f 0 r U ! h其主要功用在感知智能。感知智能其核心主要是在模仿6 z V + B G v人类的感知能力。认知智能的核心技术体系是以交叉学科理论体系而衍生出来的。- w J a v 7具体包含 s T三大核心技术体系,认知维度,类脑模型和万维图谱。认知智能的技术体系核心以类脑的认知体系为基础。以全方位模仿类脑能力为目标。人工智能以感知智能为基础的体系,只能作为认知智能中的类脑模型技术体系中的t y 6 ^ mA C [ m } ~ l X知层技术体系。类脑模型大致包含,感知层,记忆层,学习层,理解层,认知层,逻辑层,情感 N ~ ! 2层,沟通层,意识层等9大核心技术层。因此人工智能的核心只是作为认知智能类脑模型中的感知层。因此在技术体系上,人工智能和认知智能基本上没有太多的可比性。 第四:智能度成本等方面的不同:人工智能产品的综合智能程度,普遍在2-3岁左右的智力水平。认知智能产品其智能程度大致在5-8岁左右。认知智能体系构建的机器人更V D b加智能。且更省时间,更省人力和资金。优势非常_ P 9 #多。具体请看下列的逐项对比。
道翰天琼CiGril机器人API
道翰天琼Cb G 6 * JiGril认知智能机器人API用户需要按步骤获取基本信息:
1.在平台注册账号
2.g v % $ F P ) .登录c - U A平台,进入后台管理页面,创建应f o 2 /用,然后查看应用,查看应用相关信息。
3.在应用信息页面,找到appid,appkey秘钥等信息,然后写接口代码接入机器人应3 ? P J用。
开始接入
请求l i i Z i 0地址:htO Q ~ 9tp://www.weilT = yaic b s f & t Wtec.com/cigirlro: 6 & 9 vbot.cgr
请求方式:post
请求参数:
参数 类型 默认值 描s S 4 + / M
userid StringR _ 0 J _ I = L 无 平台注册账号
appid StrZ B , ning 无 平台创建的应用id
kej V ( 2 * :y String 无 平台应用生成的秘钥
msg String "" 用] L ! 9 ;户端消息内容
ip StriM L ( ong "" 客户端ip要 ` ] ~求唯一性,无ip等可以用QQ账号,微信账t + L号,手机MAC地址等代替。

接口连接示例:http://w/ ^ A u ) n F [ -ww.weilaitec.com/cigirlrobot.cgr$ w J u ^?key=U- 7 rTNJK34THXK010T566ZI39VES50BLRBE8R66H5R3FOAO84J3BV&msgD c ) W o D K S 0=你好&ip=119.25.36.48&^ @ c + Y;userid=jackli&appid=52454214552

注意事4 | (项:参数名称都要小写,五个参数不能遗漏,参数名称都要写对,且各个参数的值不能为空字符串。否则无法请求成功。userid,appid,keyO L 8 , n三个参数要到平台注册登录创建应用之后,然后查看应用详情就可以看到。userid就是平台注册账号。
示例代码J& X @ l W c F $ hAVA:

import javf c j ea.io.ByteArrayOutputStream;
import java.io.IOException;
import jav+ q # ~ % e C Xa.io.InputStream;
importl 5 o ( d i * { % java.net.HttpURLConnection;
import java.ny / /et.URL i ^ r 2 ! ( ! 9;

publX 6 j G Z ] : ~ic class apitest {

/*# ! ( S V c D @ *
Get请求,获得返回数据
@param urlStr
@r{ Y j l U u ^ ceturn
/
private so 9 _ x F Utatic String opUrl(String u_ ! o [rlStr)
{
URL url = null;
HttpURLConnection conn = nullD m 8 C 7;
InputStream is = null;
ByteArrayOutputStreah q ! I I )m baos = null ? r K 3l;
trW e `y
{
url = new URL(urlStr);
conn = (HttpURLC7 5 monnection) url.openConnection();
conn.setReadT- L ] E G , 4 b mimeout(5
10000);
conn.setConnectTimeout(5 * 10000);
connf A 6 u.setRequestMethoy E Fd("POST"); # m b o
if (conn.getResponseCode() == 200)
{
is = conn.getInputStream();
baos = new ByteArrayOutputSu ? ^ b 5tream();
int len = -1;
byte[] b} ` S #uf = new byte[128];

while ((len = is.read(buf)) != -1)
{
ba6 T g I C 8 V :os.p n 8 e w /write(buf, 0, len);
}
baos.flush();
String result = baos.toString();
return result;
} else
{
throw new Exception("服务器连接错误!5 t J ( ! p");
}

} catch (Exception e)
{
e.printStackY b 7 = v $ ^ ~ wTrace();
} finally
{
try
{
if (is != null)
is.close();
} catch (IOException e)
{
e.printStackTrace();
}

try
{
ifK ; K y d q 6 } (baos != null)
baos.cloK o 8 ]se();
} catch (IOException e)
{
e.printStackTrace();
}
conn.disconnect, Y j D();
}
return "";
}

public static void main(String args []){
//msg参数就是传输过去的对话内容。
System.out.println(opUrl("http:: % 2 q B//www.weilaitec.com/cigirlrobot.cgr?key=UTNJK34THXK010T566ZI39VES50BLRBE8R66H5R3FOAO84J3BV&m& & #sg=你好&ip=119.25.36.48&userid=jackli&appid=52454214552"));

}
}1 | d