Human-in-the-Loop Person Re-identification

最近在看person re-identification相关的paper,之后应该会有一系列以eccv 2016 person re-identification为主题相关的笔记。

这是第一篇。

主要思想之一(HVIL)

假设有一组probe set,有一组gallery set,HVIL(human verification incremental learning) 的主要做法就是,每给出一张probe,用模型对gallery set里的图片进行rank,然后把rank list给user看,user从中找出true match(就是和probe属于同一个人的照片)并且给出以下三个值中的一个{true match, similar, dissimilar} ,true match 代表模型给出的top rank 和 probe是匹配的(属于同一个人),similar 代表模型给出的top rank 和probe有点像,dissimilar代表一点也不像。user给出这两个反馈信息后,model就进行参数更新,并online地再次给出rank list,user再给出上述的两个反馈信息。如此往复,直到user给出的第二个信息是true match 或者 循环的次数达到了预先设定的次数(这篇论文中设定3次)。对每个probe都进行这样的操作。这样训练完以后再进行testing。

这样做有这样几个好处:

  • 传统的人工标注,需要user在看到一个probe后在所有gallery中寻找匹配的identity,gallery分布比较随机,你说不定翻遍整个gallery set才找到true match。这个方法的话,随着模型的迭代修正,会把gallery set 按照rank score排列,这样越到后面,就越可能在很靠前的位置找到true match,减轻劳动力。
  • 除了像传统标注方法给出true match以外,还给出{true match, similar, dissimilar}三个值中的一个,有利于模型的自我修正。
  • 现在reID存在的一个问题就是,训练数据少,但是待测试的数据太多,在实际场景是更是如此,你想一个24小时工作的摄像头一天能产生多少数据。。。所以传统的方法,即在训练数据上训练,再把训练好的模型做testing,是unscalable的,但是这个方法,不需要传统的预标注的数据,如果testing数据变多了,那么再在原来的基础上user再继续训练模型就好了。

具体做法

计算error

前面已经说了,user给出两个反馈信息,一个是true match ,另一个是{true match, similar, dissimilar}三个值中的一个,然后就要算模型的error了,


1式中,下面这一项代表模型给出的rank scores,其中x^p是给定的probe的特征(可以是color LBP等),x^g是gallery set 中的对给定probe的true match的特征。


2式中,I(·)是指示函数,意思就是·如果成立,那函数值为1,·如果不成立,那函数值为0。1式等号右边的意思就是把所有rank score高于true match的score的数量统计出来(理想状况下,这些gallery的分数不应该高于true match)(注:后来想到,最后对结果进行评价的时候,有个前5hit 前10hit 前20hit之类的,所以这里应该是,如果正确答案在分数top5 top10 top20的list内,就算true match)

3式中,y就是{true match, similar, dissimilar}三个值中的一个,如果y是true match或者 similar,loss function就是上面那个式子,如果y是dissimilar,那就用下面那个式子。此外,如果y是true match, 那么αi取1/i(比较陡峭),如果y是similar或者dissimilar,那么αi取1/(ng - 1)(比较平缓),这样做可以让true match在rank list 中迅速上升,让negatives缓慢下降。虽然我不懂为啥要这样干,但是作者说这样做的实际表现很好,姑且就信了吧。

更新模型参数

根据user的反馈得到error 后,就要实时更新模型参数了

f(·)是负的Mahalanobis distance metric,这个函数值越大,表示probe和gallery越接近。越小表示越远,所以其实就是我上面说的rank score。

5式是object function,其中ΔF是Bregman divergence measure,你也可以看做是一种距离的度量。你可以把5式理解为,当很多次循环后,如果M和Mt-1已经近似相同了(收敛),那么训练目标也就达到了。其实5式后面那个我也不是很理解,这里把原文摘录如下,有谁理解的可以交流一下:


(注:我已经搞懂上面的意思了,我上面说的那段话有错误,5式才是我们的目标函数,5式的目的是为了平稳的更新M,5式左侧的三角形式子是Bregman divergence measure,你也可以看做是一种距离的度量,右式是loss,左侧式子的意思是为了让M的更新速度小一点,右式的意思是要让loss向着变小的方向移动,两者相互调节)

但是按照3式中的loss function,这个Mt是离散的,所以不可微,作者做了一些处理,使它变得可微(用一个连续的上界来估计loss),如6式:

其中:

上面那部分我没有细读,所以直接摘录了。
后面作者为了加速整个参数更新,又对6式做了处理,这里不摘录了。

整个流程总结如下

主要思想之二 (RMEL)

上面的训练过程中产生了一系列副产品,就是每次得到的模型Mt(随着t变化,有好几个从弱到强的模型)。给出一个probe-gallery pair ,作者把这几个模型给出的结果ensemble起来,作为probe和gallery之间的距离:

最终的ranking function设计如下:

所以还要学习W这个参数矩阵。
学习的目标函数如下:

F星号是理想的W,Fens是现有的W,学习的目标就是最小化两者的差距(理想的W,在i和j相同时应该让fens为0,在i和j不同时让f^ens为-1,所以这个F星号是可以得到的。)。13式右边最后那一项也是一个正则项这个R(w)可以取很多类型,比如L1 L2 或者matrix trace,作者在这里取成这样:

这么做的目的是为了重重惩罚(severe penalties)下面这种情况:这个pair是match的,但是分数很低。f值是负的(从12式可以看出),如果分数很低,那么f值在取相反数,那这个R值就很大,惩罚就大。

13式是个凸函数,可以比较轻易的做优化。这一步里训练数据用的是之前人工参与的时候的true pairs。

结合上述两个思想就能把模型训练出来。

实验结果

以上。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 159,015评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,262评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,727评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,986评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,363评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,610评论 1 219
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,871评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,582评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,297评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,551评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,053评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,385评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,035评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,079评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,841评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,648评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,550评论 2 270

推荐阅读更多精彩内容