论文推荐
“ 《SFFAI 66期-诗歌生成专场》来自清华大学的矣晓沅同学推荐的文章主要关注于自然语言处理领域，你可以认真阅读讲者推荐的论文，来与讲者及同行线上交流哦。”
关注文章公众号
回复"SFFAI66"获取本主题精选论文
领域基础
推荐理由：这是篇论文第一次将统计机器翻译模型用于中文对联的自动生成。文中定义了多个统计翻译的feature，部分feature在后续的一些工作中也可以用于后处理，作为神经网络模型的补足。此外，该篇model比较了人工评分和BLEU值的相关性，表明BLEU在一定程度上也可以用于自动评价文学文本的生成。
—— 矣晓沅
推荐理由：这篇论文是上一篇的延续，同样是MSRA周明老师组当年的工作。在对联之后，他们将统计机器翻译模型进一步应用到了绝句生成上。该文确定了诗歌生成line to line的生成模式，并且提出了利用古籍《诗学含英》来自动构建多个BLEU reference的方法。
—— 矣晓沅
推荐理由：这篇论文是将循环神经网络(RNN)应用到中文诗歌生成的第一篇工作，在诗歌自动生成领域具有奠基性的意义。文中提出的很多方法，如上下文的建模思路等，都直接启发了后续的一系列相关工作。对诗歌生成有兴趣的朋友建议优先读一下这篇文论。
—— 矣晓沅
领域前沿
推荐理由：这是我们九歌团队的另一篇工作。该篇论文中我们提出了一种无监督的风格诗歌生成方法。通过最大化互信息的方式，我们直接将诗歌空间，而非隐空间，解耦为任意设定的K个风格空间。该模型完全基于无监督的方法进行训练，在风格的区分度和诗歌的多样性上，效果要略差于MixPoet。但是该模型的优势在于，无需标注语料，简单易用并且可以任意设置风格的数量。有兴趣的朋友可以阅读一下并和MixPoet作对比。
—— 矣晓沅
推荐理由：文学文本的生成往往对多样性有较高的要求。一般我们使用beam search进行解码，然而beam search容易产生雷同乏味的生成结果。这篇论文是Max welling组的工作。该方法利用Gumbel分布定义了新的Beam Score，从而将随机性自然地引入到Beam Search算法中，并在数学上证明了所提出的Stochastic Beam Search算法能够和原Beam Search一样搜索到局部最优解。该方法比较适合于对多样性和创新性有要求的文本生成任务。
—— 矣晓沅
推荐理由：这篇论文同样发表于AAAI，其首次将预训练的Masked Language Model (MLM)用在了中文诗歌生成任务上。该论文先用一个基础的sequence-to-sequence模型生成诗歌的草稿，然后利用BERT对草稿诗中质量较差的字进行mask，而后重新生成，不断迭代，以达到润色的效果。虽然对诗歌进行Iterative Polishing的思路最早应该是I, Poet 模型 (Yan, IJCAI 2016)中提出的，但该篇论文设计了更为有效的mask和prediction的方法，同时也整合了目前强大的BERT模型，值得认真阅读。
—— 矣晓沅
参会须知
会议主题
诗歌生成专场
会议简介
清华大学自然语言处理与社会人文计算实验室（THUNLP）开发的人工智能诗歌写作系统“九歌”在2017年上线后立即就产生了巨大的轰动。九歌能够产生集句诗、近体诗、藏头诗等不同体裁的诗歌，融合了现代技术和中国古典文化，在推动自然语言处理技术发展，弘扬中华优秀传统文化等方面都有所帮助。本期论坛我们邀请到了九歌系统的主要研发成员矣晓沅，为大家介绍他的最新研究成果。
会议时间
2020年5月31日（周日）
20:00 -- 21:00
报名方式
公众号二维码
请同学们扫码关注本公众号，对话框回复“SFFAI66”，获取入群二维码。
SFFAI的介绍
现代科学技术高度社会化，在科学理论与技术方法上更加趋向综合与统一，为了满足人工智能不同领域研究者相互交流、彼此启发的需求，我们发起了人工智能前沿学生论坛SFFAI，邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果，使专注于各个细分领域的研究者开拓视野、触类旁通。SFFAI目前主要关注机器学习、计算机视觉、自然语言处理等各个人工智能垂直领域及交叉领域的前沿进展，进行学术传播，同时为讲者塑造个人影响力。
SFFAI还在构建人工智能领域的知识森林—AI Knowledge Forest。通过汇总各位参与者贡献的领域知识，沉淀人工智能前沿精华，使AI Knowledge Tree枝繁叶茂，为人工智能社区做出贡献。SFFAI自2018年9月16日举办第一期，每周一期学术分享交流，截止目前已举办65期学术交流活动，共有100+位讲者分享了他们的真知灼见，来自100多家单位的同学参与了现场交流，通过线上推文、网络直播等形式，50000+人次参与了人工智能前沿学生论坛。SFFAI自发起以来，迅速成长壮大，已经成为人工智能学生交流的第一品牌，有志同道合的论坛核心志愿者团队、乐于学术分享的讲者伙伴，还有许多认可活动价值、多次报名参加现场交流的观众，大家通过参与人工智能前沿学生论坛，收获了宝贵的知识和友谊，SFFAI致力于帮助大家解决在学术中遇到的相关问题，拓展学术人脉，为大家营造专业、开放的学术交流环境！
历史文章推荐
牛广林：规则引导的知识图谱组合式表示学习
王玫：自然环境下的多种族人脸：利用信息最大化自适应网络去减少种族偏差
傅朝友：Domain-Aware Diverse Face Manipulation
申磊：多轮对话中的上下文信息建模
方杰民：Recent Advances and Highlights of NAS
张志鹏：SiamDW Real-Time Visual Tracking
周龙：同步双向文本生成
王亦宁：Multilingual Neural Machine Translation
呼奋宇：深度层次化图卷积神经网络
崔泽宇：套装搭配推荐在图神经网络上的应用
张文：Recent Advances in NMT
若您觉得此篇推文不错，麻烦点点在看↓↓