A Reinforcement Learning Framework for Natural Question Generation using Bi-discriminators论文阅读

这个工作着眼于Visual Question Generation (VQG)这个多模态问题,同样使用当下热门的GAN来处理,它最大的创新之处在于构建了双判别器(bi-discriminator)结构。

问题背景

上面讲到,这个工作聚焦的任务是Visual Question Generation,即根据图片产生问题。但这个任务有一个重要的特征,那就是要让所问的问题得以使双方的对话进行下去。相比之下,另一个同样是根据图片产生问题的任务Visual Question Answering (VQA)则只注重提出那些有客观答案的问题。两者对比的例子如下:

简单地说,VQA侧重于提出仅针对图片内容本身的描述性问题,而VQG则会产生自然的联想,问出更符合人们日常交流特点的问题。

于是,作者抽象出VQG所提问题的两个重要属性:naturalhuman-written,分别从问题的内容和通顺性两个方面进行了约束。

Bi-discriminator结构

作者提出Bi-discriminator结构的目的就是用两个判别器分别对上述两个属性进行判别。整体的GAN框架如图:

简单说一下我对这一框架的理解:

1. Generated指的是G生成的问题,Natural和Descriptive都属于人类生成的,不过后者是描述性的问题,在VQG任务中也被归类为负样本。

2. D_{1}对“问题是否为人类生成的”进行判别,D_{2}对“问题是否足够自然”进行判别。注意D_{1}是dynamic,因为它和一般的Discriminator一样,是与Generator一同博弈进行训练的;而D_{2}是static,是针对已有的Natural/Descriptive数据进行训练的二分类器,在GAN训练的过程中始终是固定的,所以把这个分类器也命名为Discriminator其实多少有点蹭Bi-discriminator噱头的意味。至于这其中具体的网络结构,论文中并没有披露太多,我已经联系了本文的作者索要代码,期待他的回复。

3. Generator部分就基本套用了GAN处理NLP问题的模式:采用Monte Carlo RolloutPolicy Gradient方法利用来自Discriminator的reward更新参数。有意思的是,这里Generator采用的是Img2Seq模型,即在Seq2Seq的基础上把输入改成了图像的CNN特征。

4. 另外,我认为上述的框架图有几个缺陷:该GAN应该同时也是一个Conditional GAN,当前的图像也应作为Discriminator的输入,这一点在图上没有体现出来;一般而言,Generator的输入还应当包括一个噪声变量,这在图上同样没有示意。

实验

实验方面,作者设置了几个baseline:

由于目前没有直接的方法来评估一个问题是否足够“自然”,作者只好针对NLP常用的几种relevance scores(衡量生成样本与ground-truth样本重合度的指标)都进行了自动化测试:

这个测试结果有几个值得注意的地方:

1. GAN框架(Reinforce_{D_{1}}Reinforce_{D_{2}})的效果明显比单纯用MLE进行训练的Img2Seq模型要好,同时,Bi-discriminator结构(Reinforce_{D_{1} + D_{2}})的确显示出一定的优越性。

2. MIXER (Mixed Incremental Cross-Entropy Reinforce)是一个强化学习模型,MIXER-BLEU-4表示模型以BLEU-4作为直接的优化目标,因此,它的BLEU-4指标最高令人毫不意外,然而它在所有指标中的综合表现并不如Reinforce_{D_{1} + D_{2}},侧面说明了GAN更具备良好的灵活性和鲁棒性。

最后,这个工作请了真人来评估这些baseline的表现,对各模型生成的样本以及ground-truth样本依据自然的程度进行打分,分数范围是{1, 2, 3},评估结果如下:

这个结果基本和上述自动化测试的结果类似,而有一点值得关注,那就是机器生成的样本与ground-truth样本还存在着非常明显的差距。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,736评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,167评论 1 291
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,442评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,902评论 0 204
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,302评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,573评论 1 216
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,847评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,562评论 0 197
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,260评论 1 241
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,531评论 2 245
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,021评论 1 258
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,367评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,016评论 3 235
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,068评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,827评论 0 194
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,610评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,514评论 2 269

推荐阅读更多精彩内容