姿态估计相关研究进展

「爱情、让人受尽委屈。」 2022-05-31 01:23 258阅读 0赞

自上而下：就是先检测包含人的框，即human proposal，然后对框子中的人进行姿态估计。一般RCNN（区域CNN就是这个思路）

自下而上：先检测keypoint，然后根据热力图、点与点之间连接的概率，根据图论知识，基于PAF（部分亲和字段）将关键点连接起来，将关键点分组到人。

1、CMU：openpose 研究多人的姿态估计

运行环境：caffe

自下而上， 关键点被分组到人的实例

时间：2.8-3.4fps

开源,Github: [https://github.com/CMU-Perceptual-Computing-Lab/openpose][https_github.com_CMU-Perceptual-Computing-Lab_openpose]

2、谷歌：

（1）deepgaze 研究头部姿态和注意力方向的，开源

主要为头部姿态估计 先框出人脸区域，再进行姿态估计。

运行环境：tensorflow+python

运行速度较快，基本满足实时性，准确度略差。

开源。Github: [https://github.com/mpatacchiola/deepgaze][https_github.com_mpatacchiola_deepgaze]

（2）野外多人姿态估计：Towards Accurate Multi-person Pose Estimation in the Wild 自上而下（up-bottom）的方法，把姿态估计器放在边界框的输出后。

未开源

3、UCLA：

(1)《Articulated Pose Estimation by a Graphical Model with Image Dependent Pairwise Relations》2014

(2)《Joint Multi-Person Pose Estimation and Semantic Part Segmentation> ( ICCV 2017, UCLA)》自上而下

时间需要8s一张图。

4、Facebook： 2018

mask RCNN:[https://github.com/facebookresearch/Detectron][https_github.com_facebookresearch_Detectron]

该开源项目可以进行人-物交互识别，如有人拿着手机在耳朵边，则可判定为人在打电话，人手上捧着书，则人在读书。网络通过目标检测和语义分割联合进行，从而进行行为识别。

据说keypoint检测和openpose差不多，效果略差于openpose.可见时间也提不上去。

Caffe2+python

5、deepercut： 2016

基于tensorflow

其具体思路即（类似openpose）：提出人体部件的候选区域，每个候选区域作为一个节点，所有的节点组成一个密集连接图，节点之间的关联性作为图节点之间的权重，将其作为一个优化问题，将属于同一个人的部件（节点）归为一类，每个人作为一个单独类。

（1）采用了Resnet(残差网络)来提高body part的检测，更加的有效，精度更高；

（2）使用了image-conditioned pairwise terms可以将得到足够丰富的候选区域节点压缩到一定数量的节点，而这也是整个论文的核心部分，也是stronger & faster的主要原因。通过候选区域节点之间的距离来判断是否为不同的重要关节点。

[https://github.com/eldar/deepcut-cnn][https_github.com_eldar_deepcut-cnn]

时间：230s/frame（太慢了）

6、《RMPE: Regional Multi-Person Pose Estimation》ICCV 2017 腾讯优图和上海交大联合研究的。它对于多人姿态估计的方法采用传统的自顶向下的方法，即先检测人，再识别人体姿态。检测使用的是SSD-512，识别人体姿态使用的是state-of-the-art的Stacked Hourglass方法。

论文地址：[https://arxiv.org/abs/1612.00137v3][https_arxiv.org_abs_1612.00137v3]

项目主页：RMPE: Regional Multi-person Pose Estimation

[http://blog.csdn.net/qq\_36165459/article/details/78330800][http_blog.csdn.net_qq_36165459_article_details_78330800]

人体姿态数据集：

LSP

地址：[http://sam.johnson.io/research/lsp.html][http_sam.johnson.io_research_lsp.html] √

样本数：2K

关节点个数：14

全身，单人

FLIC

地址：[https://bensapp.github.io/flic-dataset.html][https_bensapp.github.io_flic-dataset.html] √

样本数：2W

关节点个数：9

全身，单人

MPII

地址：[http://human-pose.mpi-inf.mpg.de/][http_human-pose.mpi-inf.mpg.de] √

样本数：25K

关节点个数：16

全身，单人/多人，40K people，410 human activities

MSCOCO

地址：[http://cocodataset.org/\#download][http_cocodataset.org_download]

样本数：>= 30W

关节点个数：18

全身，多人，keypoints on 10W people

AI Challenge

地址：[https://challenger.ai/competition/keypoint/subject][https_challenger.ai_competition_keypoint_subject]

样本数：21W Training, 3W Validation, 3W Testing

关节点个数：14

全身，多人，38W people

[https_github.com_CMU-Perceptual-Computing-Lab_openpose]: https://link.jianshu.com/?t=https%3A%2F%2Fgithub.com%2FCMU-Perceptual-Computing-Lab%2Fopenpose
[https_github.com_mpatacchiola_deepgaze]: https://link.jianshu.com/?t=https%3A%2F%2Fgithub.com%2Fmpatacchiola%2Fdeepgaze
[https_github.com_facebookresearch_Detectron]: https://link.jianshu.com/?t=https%3A%2F%2Fgithub.com%2Ffacebookresearch%2FDetectron
[https_github.com_eldar_deepcut-cnn]: https://link.jianshu.com/?t=https%3A%2F%2Fgithub.com%2Feldar%2Fdeepcut-cnn
[https_arxiv.org_abs_1612.00137v3]: https://link.jianshu.com/?t=https%3A%2F%2Farxiv.org%2Fabs%2F1612.00137v3
[http_blog.csdn.net_qq_36165459_article_details_78330800]: https://link.jianshu.com/?t=http%3A%2F%2Fblog.csdn.net%2Fqq_36165459%2Farticle%2Fdetails%2F78330800
[http_sam.johnson.io_research_lsp.html]: https://link.jianshu.com/?t=http%3A%2F%2Fsam.johnson.io%2Fresearch%2Flsp.html
[https_bensapp.github.io_flic-dataset.html]: https://link.jianshu.com/?t=https%3A%2F%2Fbensapp.github.io%2Fflic-dataset.html
[http_human-pose.mpi-inf.mpg.de]: https://link.jianshu.com/?t=http%3A%2F%2Fhuman-pose.mpi-inf.mpg.de%2F
[http_cocodataset.org_download]: https://link.jianshu.com/?t=http%3A%2F%2Fcocodataset.org%2F%23download
[https_challenger.ai_competition_keypoint_subject]: https://link.jianshu.com/?t=https%3A%2F%2Fchallenger.ai%2Fcompetition%2Fkeypoint%2Fsubject