自然语言处理领域重要论文&资源全索引

自然语言处理（NLP）是人工智能研究中极具挑战的一个分支。随着深度学习等技术的引入，NLP领域正在以前所未有的速度向前发展。但对于初学者来说，这一领域目前有哪些研究和资源是必读的？最近，Kyubyong Park 为我们整理了一份完整列表。

 

GitHub 项目链接：_tasks

 

本人从事自然语言处理任务（NLP）的研究已经有很长时间了，有一天我想到，我需要为庞大的 NLP领域做一个概览，我知道自己肯定不是想要一睹 NLP 任务的全貌的第一个人。

 

我曾竭尽所能的研究过尽可能多种类型的 NLP 任务，但由于个人知识的局限，我承认还远远没有穷尽整个领域。目前，该项目选取的参考文献都偏重最新的深度学习研究成果。我希望这些能为想要深入钻研一个 NLP 任务的人们提供一个开端。这个项目将持续更新，不过，我更希望与更多人合作。如果你有意愿的话，欢迎对这个项目作出贡献。

 

回指解析

 

• See Coreference Resolution （_tasks#coreference-resolution）

 

自动作文评分

 

• 论文：AutomaticText Scoring Using Neural Networks （9）
• 论文：ANeural Approach to Automated Essay Scoring（y/D/D16/D16-1193.pdf）
• 竞赛：Kaggle:The Hewlett Foundation: Automated Essay Scoring（kaggle.com/c/asap-aes）
• 项目：EnhancedAI Scoring Engine（github.com/edx/ease）

 

自动语音识别

 

• WIKI Speech recognition（peech_recognition）
• 论文：DeepSpeech 2: End-to-End Speech Recognition in English and Mandarin（5）
• 论文：WaveNet:A Generative Model for Raw Audio （9）
• 项目：A TensorFlow implementation of Baidu's DeepSpeech architecture（Speech）
• 项目：Speech-to-Text-WaveNet: End-to-end sentence level English speech recognition using DeepMind's WaveNet（/speech-to-text-wavenet）
• 竞赛：The 5thCHiME Speech Separation and Recognition Challenge（hime_challenge/）
• 资源：The 5thCHiME Speech Separation and Recognition Challenge（hime_challenge/download.html）
• 资源：CSTRVCTK Corpus（jyamagis/page3/page58/page58.html）
• 资源：LibriSpeechASR corpus （openslr.org/12/）
• 资源：Switchboard-1Telephone Speech Corpus （dc97s62）
• 资源：TED-LIUMCorpus （/en/content/ted-lium-corpus）

 

自动摘要

 

• WIKI Automatic summarization （utomatic_summarization）
• 书籍：AutomaticText Summarization （xt-Summarization-Juan-Manuel-Torres-Moreno/dp/1848216688/ref=sr_1_1?s=books&ie=UTF8&qid=1507782304&sr=1-1&keywords=Automatic+Text+Summarization）
• 论文：TextSummarization Using Neural Networks（iewdoc/download?doi=10.1.1.823.8025&rep=rep1&type=pdf）
• 论文：Rankingwith Recursive Neural Networks and Its Application to Multi-DocumentSummarization（AAAI/AAAI15/paper/viewFile/9414/9520）
• 资源：TextAnalytics Conferences（TAC）（.html）
• 资源：DocumentUnderstanding Conferences （DUC）（ects/duc/data.html）

 

指代消解

 

• INFO Coreference Resolution（ts/coref.shtml）
• 论文：DeepReinforcement Learning for Mention-Ranking Coreference Models（7）
• 论文：ImprovingCoreference Resolution by Learning Entity-Level Distributed Representations（3）
• 竞赛：CoNLL2012 Shared Task: Modeling Multilingual Unrestricted Coreference in OntoNotes（/task-description.html）
• 竞赛：CoNLL2011 Shared Task: Modeling Unrestricted Coreference in OntoNotes（/task-description.html）

 

实体链接

 

• 见「命名实体消歧」部分

 

语法错误纠正

 

• 论文：NeuralNetwork Translation Models for Grammatical Error Correction（9）
• 竞赛：CoNLL-2013Shared Task: Grammatical Error Correction（nll13st.html）
• 竞赛：CoNLL-2014Shared Task: Grammatical Error Correction（nll14st.html）
• 资源：NUSNon-commercial research/trial corpus license（nll14st/nucle_license.pdf）
• 资源：Lang-8Learner Corpora（-8/）
• 资源：CornellMovie--Dialogs Corpus （n/Cornell_Movie-Dialogs_Corpus.html）
• 项目：DeepText Corrector（-text-corrector）
• 产品：deepgrammar（deepgrammar.com/）

 

字素音素转换

 

• 论文：Grapheme-to-PhonemeModels for （Almost） Any Language（/b9c8/fef9b6f16b92c6859f6106524fdb053e9577.pdf）
• 论文：PolyglotNeural Language Models: A Case Study in Cross-Lingual Phonetic RepresentationLearning （2.pdf）
• 论文：MultitaskSequence-to-Sequence Models for Grapheme-to-Phoneme Conversion（/26d0/09959fa2b2e18cddb5783493738a1c1ede2f.pdf）
• 项目：Sequence-to-Sequence G2P toolkit （p-seq2seq）
• 资源：Multilingual Pronunciation Data（folders/0B7R_gATfZJ2aWkpSWHpXUklWUmM）

 

语种猜测

 

• 见「语种辨别」部分

 

语种辨别

 

• WIKI Language identification （anguage_identification）
• 论文：AUTOMATICLANGUAGE IDENTIFICATION USING DEEP NEURAL NETWORKS（tream/handle/10486/666848/automatic_lopez-moreno_ICASSP_2014_ps.pdf?sequence=1）
• 竞赛： 2015Language Recognition Evaluation （15-language-recognition-evaluation）

 

语言建模

 

• WIKI Language model （anguage_model）
• 工具包： KenLMLanguage Model Toolkit （m/）
• 论文：DistributedRepresentations of Words and Phrases and their Compositionality（21-distributed-representations-of-words-and-phrases-and-their-compositionality.pdf）
• 论文：Character-AwareNeural Language Models（AAAI/AAAI16/paper/viewFile/12489/12017）
• 资源： PennTreebank （ataset-from-Tomas-Mikolov-s-webpage/tree/master/data）

 

语种识别

 

• 见「语种辨别」部分

 

同一词类

 

• WIKI Lemmatisation （emmatisation）
• 论文： JointLemmatization and Morphological Tagging with LEMMING（f/emnlp_2015.pdf）
• 工具包：WordNet Lemmatizer（html#nltk.stem.wordnet.WordNetLemmatizer.lemmatize）
• 资源：Treebank-3 （dc99t42）

 

观唇辨意

 

• WIKI Lip reading （ip_reading）
• 论文：LipReading Sentences in the Wild （8）
• 论文：3DConvolutional Neural Networks for Cross Audio-Visual Matching Recognition（9）
• 项目： LipReading - Cross Audio-Visual Recognition using 3D Convolutional Neural Networks（reading-deeplearning）
• 资源： TheGRID audiovisual sentence corpus （ridcorpus/）

 

机器翻译

 

• 论文：NeuralMachine Translation by Jointly Learning to Align and Translate（arxiv.org/abs/1409.0473）
• 论文：NeuralMachine Translation in Linear Time （9）
• 论文：2）
• 竞赛： ACL2014 NINTH WORKSHOP ON STATISTICAL MACHINE TRANSLATION（ation-task.html#download）
• 竞赛： EMNLP2017 SECOND CONFERENCE ON MACHINE TRANSLATION （WMT17）（ation-task.html）
• 资源：OpenSubtitles2016 （Subtitles2016.php）
• 资源： WIT3:Web Inventory of Transcribed and Translated Talks （wit3.fbk.eu/）
• 资源： TheQCRI Educational Domain （QED） Corpus（qedcorpus/）

 

生成词法变化

 

• WIKI Inflection （nflection）
• 论文：MorphologicalInflection Generation Using Character Sequence to Sequence Learning（0）
• 竞赛：SIGMORPHON 2016 Shared Task: Morphological Reinflection（/sigmorphon2016/）
• 资源：sigmorphon2016 （l/sigmorphon2016）

 

命名实体消歧

 

• WIKI Entity linking （ntity_linking）
• 论文：Robustand Collective Entity Disambiguation through Semantic Embeddings（pdf/Sigir_2016.pdf）

 

命名实体识别

 

• WIKI Named-entity recognition （amed-entity_recognition）
• 论文：NeuralArchitectures for Named Entity Recognition （0）
• 项目： OSUTwitter NLP Tools （ter_nlp）
• 竞赛： NamedEntity Recognition in Twitter （16/ner-shared-task.html）
• 竞赛： CoNLL2002 Language-Independent Named Entity Recognition（ll2002/ner/）
• 竞赛：Introduction to the CoNLL-2003 Shared Task: Language-Independent Named EntityRecognition （3-0419）
• 资源：CoNLL-2002 NER corpus（ree/master/resources/corpora/conll2002）
• 资源：CoNLL-2003 NER corpus （ree/master/corpus/CoNLL-2003）
• 资源： NUTNamed Entity Recognition in Twitter Shared task（ter_nlp/tree/master/data/annotated/wnut16）

 

释义检测

 

• 论文：DynamicPooling and Unfolding Recursive Autoencoders for Paraphrase Detection（iewdoc/download?doi=10.1.1.650.7199&rep=rep1&type=pdf）
• 项目：Paralex: Paraphrase-Driven Learning for Open Question Answering（/paralex/）
• 资源：Microsoft Research Paraphrase Corpus （nload/details.aspx?id=52398）
• 资源：Microsoft Research Video Description Corpus （nload/details.aspx?id=52422&from=http%3A%2F%2Fresearch.microsoft.com%2Fen-us%2Fdownloads%2F38cf15fd-b8df-477e-a4e4-a4680caa75af%2F）
• 资源： PascalDataset （kenmaierGroup/pascal-sentences/index.html）
• 资源：Flicker Dataset （kenmaierGroup/8k-pictures.html）
• 资源： TheSICK data set （poses/sick.html）
• 资源： PPDB:The Paraphrase Database （/）
• 资源：WikiAnswers Paraphrase Corpus（/paralex/wikianswers-paraphrases-1.0.tar.gz）

 

语法分析

 

• WIKI Parsing （arsing）
• 工具包： TheStanford Parser: A statistical parser （re/lex-parser.shtml）
• 工具包： spaCyparser （endency-parse）
• 论文：A fastand accurate dependency parser using neural networks（4-1082）
• 竞赛： CoNLL2017 Shared Task: Multilingual Parsing from Raw Text to Universal Dependencies （/conll17/）
• 竞赛： CoNLL2016 Shared Task: Multilingual Shallow Discourse Parsing（nll16st/）
• 竞赛： CoNLL2015 Shared Task: Shallow Discourse Parsing（nll15st/）
• 竞赛：SemEval-2016 Task 8: The meaning representations may be abstract, but this taskis concrete! （6/task8/）

 

词性标记

 

• WIKI Part-of-speech tagging （art-of-speech_tagging）
• 论文：MultilingualPart-of-Speech Tagging with Bidirectional Long Short-Term Memory Models andAuxiliary Loss （9.pdf）
• 论文：UnsupervisedPart-Of-Speech Tagging with Anchor Hidden Markov Models（php/tacl/article/viewFile/837/192）
• 资源：Treebank-3 （dc99t42）
• 工具包：nltk.tag package （tml）

 

拼音-中文转换

 

• 论文：NeuralNetwork Language Model for Chinese Pinyin Input Method Engine（5-1052）
• 项目： NeuralChinese Transliterator（ral_chinese_transliterator）

 

问答系统

 

• WIKI Question answering （uestion_answering）
• 论文：Ask MeAnything: Dynamic Memory Networks for Natural Language Processing（eston/ram/papers/paper_21.pdf）
• 论文：DynamicMemory Networks for Visual and Textual Question Answering（48/xiong16.pdf）
• 竞赛： TRECQuestion Answering Task （in.html）
• 竞赛：NTCIR-8: Advanced Cross-lingual Information Access （ACLIA）（cir8/Home）
• 竞赛： CLEFQuestion Answering Track （nlp.uned.es/clef-qa/）
• 竞赛：SemEval-2017 Task 3: Community Question Answering（7/task3/）
• 资源： MSMARCO: Microsoft MAchine Reading COmprehension Dataset（msmarco.org/）
• 资源：Maluuba NewsQA （qa）
• 资源： SQuAD:100,000+ Questions for Machine Comprehension of Text（AD-explorer/）
• 资源：GraphQuestions: A Characteristic-rich Question Answering Dataset（hQuestions）
• 资源： StoryCloze Test and ROCStories Corpora （cstories/）
• 资源：Microsoft Research WikiQA Corpus （nload/details.aspx?id=52419&from=http%3A%2F%2Fresearch.microsoft.com%2Fen-us%2Fdownloads%2F4495da01-db8c-4041-a7f6-7984a4f6a905%2Fdefault.aspx）
• 资源：DeepMind Q&A Dataset （cs.nyu.edu/~kcho/DMQA/）
• 资源： QASent（mengqiu/data/qg-emnlp07-data.tgz）

 

关系提取

 

• WIKI Relationship extraction （elationship_extraction）
• 论文：A deeplearning approach for relationship extraction from interaction context insocial manufacturing paradigm（ce/article/pii/S0950705116001210）

 

语义角色标注

 

• WIKI Semantic role labeling （emantic_role_labeling）
• 书籍：Semantic Role Labeling （eling-Synthesis-Lectures-Technologies/dp/1598298313/ref=sr_1_1?s=books&ie=UTF8&qid=1507776173&sr=1-1&keywords=Semantic+Role+Labeling）
• 论文：End-to-endLearning of Semantic Role Labeling Using Recurrent Neural Networks（P15/P15-1109.pdf）
• 论文：NeuralSemantic Role Labeling with Dependency Path Embeddi ngs（5）
• 竞赛：CoNLL-2005 Shared Task: Semantic Role Labeling（05/st05.html）
• 竞赛：CoNLL-2004 Shared Task: Semantic Role Labeling（04/st04.html）
• 工具包：Illinois Semantic Role Labeler （SRL）（re_view/SRL）
• 资源：CoNLL-2005 Shared Task: Semantic Role Labeling（ft.html）

 

语句边界消歧

 

• WIKI Sentence boundary disambiguation（entence_boundary_disambiguation）
• 论文：AQuantitative and Qualitative Evaluation of Sentence Boundary Detection for theClinical Domain （ticles/PMC5001746/）
• 工具包： NLTKTokenizers （tokenize.html）
• 资源： TheBritish National Corpus （natcorp.ox.ac.uk/）
• 资源：Switchboard-1 Telephone Speech Corpus （dc97s62）

 

情绪分析

 

• WIKI Sentiment analysis （entiment_analysis）
• INFO Awesome Sentiment Analysis （e-sentiment-analysis）
• 竞赛：Kaggle: UMICH SI650 - Sentiment Classification（r11#description）
• 竞赛：SemEval-2017 Task 4: Sentiment Analysis in Twitter（7/task4/）
• 竞赛：SemEval-2017 Task 5: Fine-Grained Sentiment Analysis on Financial Microblogsand News （7/task5/）
• 项目：SenticNet （sentic.net/about/）
• 资源：Multi-Domain Sentiment Dataset （version2.0）（asets/sentiment/）
• 资源：Stanford Sentiment Treebank （ent/code.html）
• 资源：Twitter Sentiment Corpus （itter-sentiment/）
• 资源：Twitter Sentiment Analysis Training Corpus （entiment-analysis-training-corpus-dataset-2012-09-22/）
• 资源： AFINN:List of English words rated for valence（iews/publication_details.php?id=6010）

 

源分离

 

• WIKI Source separation （ource_separation）
• 论文：FromBlind to Guided Audio Source Separation （/hal-00922378/document）
• 论文：JointOptimization of Masks and Deep Recurrent Neural Networks for Monaural SourceSeparation （9）
• 竞赛： SignalSeparation Evaluation Campaign （SiSEC）（sisec.inria.fr/）
• 竞赛： CHiMESpeech Separation and Recognition Challenge（hime_challenge/）

 

说话人认证

 

• 见「说话人识别」部分

 

语音身份分离

 

• WIKI Speaker diarisation （peaker_diarisation）
• 论文：DNN-basedspeaker clustering for speaker diarisation（/109281/1/milner_is16.pdf）
• 论文：UnsupervisedMethods for Speaker Diarization: An Integrated and Iterative Approach（s/publications/2013/Shum_IEEE_Oct-2013.pdf）
• 论文：Audio-VisualSpeaker Diarization Based on Spatiotemporal Bayesian Fusion（5.pdf）
• 竞赛： RichTranscription Evaluation （ch-transcription-evaluation）

 

说话人识别

 

• WIKI Speaker recognition （peaker_recognition）
• 论文：A NOVELSCHEME FOR SPEAKER RECOGNITION USING A PHONETICALLY-AWARE DEEP NEURAL NETWORK（/204a/ff8e21791c0a4113a3f75d0e6424a003c321.pdf）
• 论文：DEEPNEURAL NETWORKS FOR SMALL FOOTPRINT TEXT-DEPENDENT SPEAKER VERIFICATION（/media/research.google.com/en//pubs/archive/41939.pdf）
• 竞赛： NISTSpeaker Recognition Evaluation （SRE）（eaker-recognition）
• INFO Are there any suggestions for free databases for speakerrecognition?（re_there_any_suggestions_for_free_databases_for_speaker_recognition）

 

唇读

 

• 见「观唇辨意」部分

 

语音识别

 

• 见「自动语音识别」部分

 

语音分割

 

• WIKI Speech_segmentation （peech_segmentation）
• 论文：WordSegmentation by 8-Month-Olds: When Speech Cues Count More Than Statistics（child-centre/sites/files/infant-child-centre/public/shared/elizabeth-johnson/Johnson_Jusczyk.pdf）
• 论文：UnsupervisedWord Segmentation and Lexicon Discovery Using Acoustic Word Embeddings （5）
• 论文：UnsupervisedLexicon Discovery from Acoustic Inpu（y/Q/Q15/Q15-1028.pdf）
• 论文：Weaklysupervised spoken term discovery using cross-lingual side information（l/files/29957958/1609.06530v1.pdf）
• 资源：CALLHOME Spanish Speech （dc96s35）

 

语音合成

 

• WIKI Speech synthesis （peech_synthesis）
• 论文：WaveNet:A Generative Model for Raw Audio （9）
• 论文：Tacotron:Towards End-to-End Speech Synthesis （5）
• 论文：DeepVoice 2: Multi-Speaker Neural Text-to-Speech（7）
• 资源： TheWorld English Bible （otron）
• 资源： LJSpeech Dataset （otron）
• 资源： LessacData （blizzard/2011/lessac_blizzard2011/）
• 竞赛：Blizzard Challenge 2017 （izzard_Challenge_2017）
• PRODUCT Lyrebird （lyrebird.ai/）
• 项目： TheFestvox project （festvox.org/index.html）
• 工具包：Merlin: The Neural Network （NN） based Speech Synthesis System（gh/merlin）

 

语音增强

 

• WIKI Speech enhancement （peech_enhancement）
• 书籍： Speechenhancement: theory and practice （cement-Theory-Practice-Second/dp/1466504218/ref=sr_1_1?ie=UTF8&qid=1507874199&sr=8-1&keywords=Speech+enhancement%3A+theory+and+practice）
• 论文 AnExperimental Study on Speech Enhancement BasedonDeepNeuralNetwork（u/Speech%20signal%20processing/publications/SPL2014_Xu.pdf）
• 论文： ARegression Approach to Speech Enhancement BasedonDeepNeuralNetworks（e/Yong_Xu63/publication/272436458_A_Regression_Approach_to_Speech_Enhancement_Based_on_Deep_Neural_Networks/links/57fdfdda08aeaf819a5bdd97.pdf）
• 论文： SpeechEnhancement Based on Deep Denoising Autoencoder（e/Yu_Tsao/publication/283600839_Speech_enhancement_based_on_deep_denoising_Auto-Encoder/links/577b486108ae213761c9c7f8/Speech-enhancement-based-on-deep-denoising-Auto-Encoder.pdf）

 

语音文本转换

 

• 见「自动语音识别」部分

 

口语的术语检测

 

• 见「语音分割」部分

 

词干提取

 

• WIKI Stemming （temming）
• 论文： ABACKPROPAGATION NEURAL NETWORK TO IMPROVE ARABIC STEMMING（No3/7Vol82No3.pdf）
• 工具包： NLTKStemmers （l）

 

术语提取

 

• WIKI Terminology extraction （erminology_extraction）
• 论文： NeuralAttention Models for Sequence Classification: Analysis and Application to KeyTerm Extraction and Dialogue Act Detection （7.pdf）

 

文本简化

 

• WIKI Text simplification （ext_simplification）
• 论文：Aligning Sentences from Standard Wikipedia to Simple Wikipedia（~hannaneh/papers/simplification.pdf）
• 论文：Problems in Current Text Simplification Research: New Data Can Help（/2b8d/a013966c0c5e020ebc842d49d8ed166c8783.pdf）
• 资源：Newsela Data （newsela.com/data/）

 

文本语音转换

 

• 见「语音合成」部分

 

文本蕴涵

 

• WIKI Textual entailment （extual_entailment）
• 项目：Textual Entailment with TensorFlow （t/Entailment-with-Tensorflow）
• 论文：Textual Entailment with Structured Attentions and Composition（6.pdf）
• 竞赛：SemEval-2014 Task 1: Evaluation of compositional distributional semantic modelson full sentences through semantic relatedness and textual entailment（4/task1/）
• 竞赛：SemEval-2013 Task 7: The Joint Student Response Analysis and 8th RecognizingTextual Entailment Challenge （013/task7.html）

 

声音转换

 

• 论文：PHONETIC POSTERIORGRAMS FOR MANY-TO-ONE VOICE CONVERSION WITHOUT PARALLEL DATATRAINING（cl/publications/pub/2016_paper_297.pdf）
• 项目： Animplementation of voice conversion system utilizing phonetic posteriorgrams（/ppg_vc）
• 竞赛： VoiceConversion Challenge 2016 （6/index.html）
• 竞赛： VoiceConversion Challenge 2018 （vc-challenge.org/）
• 资源：CMU_ARCTIC speech synthesis databases （festvox.org/cmu_arctic/）
• 资源： TIMITAcoustic-Phonetic Continuous Speech Corpus（dc93s1）

 

声音识别

 

• 见「说话人识别」部分

 

词嵌入

 

• WIKI Word embedding （ord_embedding）
• 工具包：Gensim: word2vec （/models/word2vec.html）
• 工具包：fastText （arch/fastText）
• 工具包： GloVe:Global Vectors for Word Representation（ts/glove/）
• INFO Where to get a pretrained model （c-api）
• 项目：Pre-trained word vectors of 30+ languages（dvectors）
• 项目：Polyglot: Distributed word representations for multilingual NLP（myeid/projects/polyglot）

 

词预测

 

• INFO What is Word Prediction? （ry/wp/what_is.htm）
• 论文： Theprediction of character based on recurrent neural network language model（mp/stamp.jsp?arnumber=7960065）
• 论文： AnEmbedded Deep Learning based Word Prediction（2）
• 论文：Evaluating Word Prediction: Framing Keystroke Savings（8-2066）
• 资源： AnEmbedded Deep Learning based Word Prediction（dPrediction/master.zip）
• 项目： WordPrediction using Convolutional Neural Networks—can you do better than iPhone™Keyboard? （d_prediction）

 

词分割

 

• WIKI Word segmentation（ext_segmentation#Segmentation_problems）
• 论文： NeuralWord Segmentation Learning for Chinese （0）
• 项目：Convolutional neural network for Chinese word segmentation（vseg）
• 工具包：Stanford Word Segmenter （re/segmenter.html）
• 工具包： NLTKTokenizers （tokenize.html）

 

词义消歧

• 资源：Word-sense disambiguation （ord-sense_disambiguation）
• 论文：Train-O-Matic: Large-Scale Supervised Word Sense Disambiguation in MultipleLanguages without Manual Training Data （7-1008）
• 资源：Train-O-Matic Data （ain-o-matic-data.zip）
• 资源：BabelNet （babelnet.org/）