NAACL由國際計(jì)算語言學(xué)學(xué)會(huì)(ACL)主辦,與ACL、EMNLP并稱NLP領(lǐng)域的三大頂會(huì),是人工智能的重要研究陣地。NAACL的錄用十分嚴(yán)格,根據(jù)往年評(píng)選結(jié)果,只有不到30%的論文被接收。
作為自然語言處理中最經(jīng)典、最基礎(chǔ)的任務(wù),命名實(shí)體識(shí)別一直受到廣泛的關(guān)注與研究。近年來,中文命名實(shí)體識(shí)別任務(wù)上取得了明顯進(jìn)展,很多新的方法和框架被陸續(xù)提出,但往往忽略了實(shí)體詞的內(nèi)部組成。
對(duì)于中文命名實(shí)體而言,很多類別的實(shí)體都具有很強(qiáng)的命名規(guī)律性。比如說,以“公司”或者“銀行”結(jié)尾的實(shí)體詞,通常屬于組織機(jī)構(gòu)這一實(shí)體類別。因此,在《Delving Deep into Regularity: A Simple but Effective Method for Chinese Named Entity Recognition》中,華為云語音語義創(chuàng)新Lab的研究者提出用簡單有效、規(guī)律性引導(dǎo)的識(shí)別網(wǎng)絡(luò)來探究中文實(shí)體詞中的規(guī)律性。
圖1 規(guī)律性引導(dǎo)的識(shí)別網(wǎng)絡(luò)
如圖1,華為云研究者首先利用注意力機(jī)制顯著地提取每個(gè)文本段的規(guī)律性,進(jìn)而將這種表征文本內(nèi)部的規(guī)律性的特征和通過Biaffine Attention提取的文本段特征結(jié)合起來,進(jìn)行后續(xù)的實(shí)體識(shí)別。為了避免由于過度關(guān)注實(shí)體內(nèi)部規(guī)律性導(dǎo)致的實(shí)體邊界識(shí)別偏差,研究者們另外設(shè)計(jì)了一個(gè)與規(guī)則無關(guān)的模塊來幫助模型更準(zhǔn)確地識(shí)別實(shí)體的邊界。
圖2 中文數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果
華為云研究者提出的規(guī)律性引導(dǎo)的識(shí)別網(wǎng)絡(luò),如圖2,在MSRA, Ontonotes4.0, 和Ontonotes5.0三個(gè)大規(guī)模中文實(shí)體識(shí)別數(shù)據(jù)集上都取得了SOTA的結(jié)果。同時(shí),本文提出的方法不依賴于外部詞典信息,并且F1值超過了目前所有使用詞典信息的方法的結(jié)果。這充分說明通過研究實(shí)體詞的內(nèi)部規(guī)律性,研究者們提出了一個(gè)非常有效的網(wǎng)絡(luò)結(jié)構(gòu)。
不止在信息抽取方面,華為云語音語義創(chuàng)新Lab秉承開放創(chuàng)新、勇于探索、持續(xù)突破關(guān)鍵技術(shù)的精神,面向行業(yè)客戶提供領(lǐng)先的語音語義AI能力,結(jié)合大量行業(yè)知識(shí),推出知識(shí)計(jì)算等行業(yè)解決方案,打造業(yè)界一流的知識(shí)計(jì)算競爭力。截至目前,已在政務(wù)、金融、石油等多個(gè)行業(yè)進(jìn)行了落地和實(shí)踐,幫助客戶實(shí)現(xiàn)AI落地與智能升級(jí)。
查看相關(guān)論文:https://arxiv.org/pdf/2204.05544.pdf