博士生姜藝JASIST發(fā)文探討關(guān)鍵詞的可控生成問(wèn)題

發(fā)布時(shí)間:2023-09-22瀏覽次數(shù):

通訊員黃永)我院2021級(jí)博士研究生姜藝以第一作者身份撰寫(xiě)的論文被信息科學(xué)領(lǐng)域頂級(jí)期刊國(guó)際信息科學(xué)與技術(shù)學(xué)會(huì)會(huì)刊(Journal of the Association for Information Science and Technology,JASIST)錄用。論文題目為“Generating Keyphrases for Readers: A Controllable Keyphrase Generation Framework”,指導(dǎo)教師和通訊作者為我院院長(zhǎng)、信息檢索與知識(shí)挖掘研究所所長(zhǎng)陸偉教授。

隨著關(guān)鍵詞在信息檢索與自然語(yǔ)言處理任務(wù)中的廣泛應(yīng)用,關(guān)鍵詞抽取逐漸興起。然而,由于深度學(xué)習(xí)的端到端學(xué)習(xí)機(jī)制,使模型能夠直接學(xué)習(xí)文本的重要語(yǔ)義信息,在統(tǒng)計(jì)層面上重要的關(guān)鍵詞對(duì)相關(guān)任務(wù)的貢獻(xiàn)越來(lái)越小。同樣,由于大多數(shù)論文的關(guān)鍵詞幾乎都沒(méi)有明確標(biāo)注其與論文內(nèi)容的對(duì)應(yīng)關(guān)系,這使得讀者無(wú)法像作者一樣清晰地知道各個(gè)關(guān)鍵詞在特定上下文中的語(yǔ)義角色,即關(guān)鍵詞功能。相對(duì)作者而言,讀者所見(jiàn)的關(guān)鍵詞語(yǔ)義并不完整(如下圖所示),僅根據(jù)關(guān)鍵詞文本本身難以快速理解文章的主要內(nèi)容。在某種程度上,關(guān)鍵詞似乎不夠重要,關(guān)鍵詞抽取的必要性也有待商榷。

不同于關(guān)鍵詞,實(shí)體的類(lèi)別明確界定了其所屬的知識(shí)范疇,極大地規(guī)避了語(yǔ)義缺失問(wèn)題。同時(shí),有研究指出,明確論文中特定類(lèi)別的重要概念,將有助于快速回答研究工作的主要內(nèi)容,比如“本文提出或改進(jìn)了某方法,解決了某問(wèn)題”。受此啟發(fā),該研究嘗試為關(guān)鍵詞標(biāo)注功能類(lèi)別,以完善關(guān)鍵詞的語(yǔ)義信息,使其在輔助讀者快速了解論文核心內(nèi)容方面充分發(fā)揮作用。通過(guò)用戶(hù)實(shí)驗(yàn),驗(yàn)證了關(guān)鍵詞功能對(duì)輔助讀者快速理解論文主要內(nèi)容的有效性。在此基礎(chǔ)上,該研究重新審視了關(guān)鍵詞自動(dòng)抽取任務(wù),提出生成特定語(yǔ)義功能的關(guān)鍵詞,以彌合讀者與論文作者在關(guān)鍵詞理解層面的語(yǔ)義鴻溝,進(jìn)而構(gòu)建并實(shí)現(xiàn)了一個(gè)可控的關(guān)鍵詞生成框架——CKPG (Controllable Keyphrase Generation framework)。

該研究分別基于Transformer、BART和T5實(shí)現(xiàn)了CKPG模型并取得了較好的實(shí)驗(yàn)效果,P@5、R@5和F1@5的宏平均值分別高達(dá)0.680、0.535和0.558。相關(guān)實(shí)驗(yàn)結(jié)果表明,CKPG模型能夠生成語(yǔ)義邊界清晰、功能類(lèi)別分明的論文關(guān)鍵詞。另外,論文對(duì)比了先抽取再分類(lèi)的兩階段方法。假設(shè)第一階段的關(guān)鍵詞抽取準(zhǔn)確率為100%,在第二階段,基于詞頻、位置信息、文本相似度等5個(gè)特征訓(xùn)練了多個(gè)分類(lèi)模型,對(duì)在文中出現(xiàn)的全部關(guān)鍵詞進(jìn)行功能分類(lèi)。實(shí)驗(yàn)結(jié)果表明,在最大化兩階段方法抽取準(zhǔn)確率的前提下,端到端的CKPG模型也更具優(yōu)勢(shì),充分證明了該模型對(duì)于所提關(guān)鍵詞生成任務(wù)的有效性。

論文鏈接:https://doi.org/10.1002/asi.24749

招远市| 财经| 永靖县| 洞头县| 宁南县| 仁化县| 葫芦岛市| 和平县| 乌兰察布市| 房山区| 商城县| 安岳县| 普兰县| 乌什县| 开鲁县| 姜堰市| 绍兴县| 东山县| 尤溪县| 九江县| 响水县| 大冶市| 岑溪市| 增城市| 江安县| 咸丰县| 县级市| 曲水县| 贵港市| 淮南市| 栾川县| 察雅县| 许昌县| 永修县| 晋宁县| 登封市| 常熟市| 奇台县| 布拖县| 太白县| 六枝特区|