写在18年底

Posted by Ceyuan| on November 27, 2018

写在18年底

要说今年的主题,大概一个‘混’字就可以概括了。

总是在找一些借口来让自己‘心安理得’地忙起来。

3月投稿5月份接收,要说今年最令人欣慰的莫过于中了一篇一作ECCV。

现在回头来看,不过是赶上了GAN的浪潮水了一篇,很多东西做的都不到位。

还是too young too simple了。

其实可以把重点从‘花式生成各种酷炫的结果’放到可控可解释上,毕竟GAN的落地是老大难问题了。

或者把adversarial learning 的思想用在别的上面,推荐一篇dual motion GAN,idea还是蛮有意思的。

之前挺看好glow这种生成模型,以为会有蛮多人follow,不过BigGAN一出来关注点又回去了。

今年的paper告诉大家,机器+数据+工程能力可以做到蛮多事情。像BigGAN和BERT这种工作更是缺一不可。

Final version后回学校’忙‘毕业,其实还是混。一堆堆材料挺磨人的。

Video generation之后关注点就放在了representation上,做了一段时间self-supervised learning其实挺迷的。

中间穿插了开会,考英语,申请,最后不出意外实验gg了自然也没赶得上cvpr。

时至今日才算是把所有的琐事,材料都搞定。希望后面能更投入点。

不过最难受的是为什么不work我至今不明白,为什么work我也不清楚。

到底什么情况下需要general还是task-specific的representation,我没有一个好的结论。

不过今年收获还是很多。

重新拾起了一些graph的知识,把gcn,self-attention/graph-attention,non-local这些操作深入理解了下。

以前其实挺不信encoder-decoder出mask这种attention的,不过引入了correlation之后就非常reasonable了。

还是挺佩服Xiaolong Wang这一系列工作的。

今年的group,drop系也确实挺有意思的。从group conv到group norm,drop一切能drop的,挺值得思考的。

BERT这类工作启发性也很强,不过直接挪用到vision task难度还是比较大。

总而言之,

18年尾留下了很多疑问,希望19年能有些结论。