關鍵詞:漢語分詞 領域移植 弱標注數據
摘要:近年來,基于神經網絡的分詞模型在封閉領域文本上取得了很高的性能。然而,在領域移植場景下,即測試數據與訓練數據的領域差異較大時,分詞的性能會顯著下降。該文嘗試利用自動獲取的弱標注數據來提升領域移植場景下的分詞性能。首先,對目前性能最好的BiLSTM-CRF分詞模型進行擴展,引入適用于弱標注數據的損失函數;進而提出一種簡單有效的數據篩選方法,從海量弱標注數據中篩選和目前領域更相關的數據;最后,該文發現數據預處理和在神經網絡中引入傳統特征均可以有效提高分詞性能。在SIGHAN Bakeoff 2010和ZhuXian標注測試集上的實驗結果表明,該文所提方法可有效提升漢語分詞領域移植性能,平均F值提高了3.6%。
中文信息學報雜志要求:
{1}本刊對刊發的文章擁有版權,不得擅自轉載、改編。凡轉載、改編務經我刊同意,違者必究。
{2}作者簡介包括:姓名、性別、出生年月、畢業學校及所學專業、工作單位、職務職稱、現從事的研究工作情況。
{3}來稿若屬國家自然科學基金項目或省部基金項目,請在文稿中標明其基金來源和編號,我刊可以優先審核發表。
{4}正文內連續敘述中的序號采用①……;②……;③……。分級超過3級后用網括號如:“①”,“②”表示,并采用連排。
{5}附注請一律使用當頁腳注的形式,以帶圈①……⑩的方式編號,使用每頁重新編號的方式。
注:因版權方要求,不能公開全文,如需全文,請咨詢雜志社