Github开源人体姿态识别项目OpenPose中文文档

小咪咪 2022-04-17 01:59 898阅读 0赞

![strip][]

![logo][]

> OpenPose人体姿态识别项目是美国卡耐基梅隆大学（CMU）基于卷积神经网络和监督学习并以caffe为框架开发的开源库。可以实现人体动作、面部表情、手指运动等姿态估计。适用于单人和多人，具有极好的鲁棒性。是世界上首个基于深度学习的实时多人二维姿态估计应用，基于它的实例如雨后春笋般涌现。人体姿态估计技术在体育健身、动作采集、3D试衣、舆情监测等领域具有广阔的应用前景，人们更加熟悉的应用就是抖音尬舞机。
> 
> OpenPose项目Github链接：[https://github.com/CMU-Perceptual-Computing-Lab/openpose][https_github.com_CMU-Perceptual-Computing-Lab_openpose]
> 
> 为了便于中国开发者学习CMU开源人体姿态识别项目，我将README文档翻译成了中文。
> 
> 向卡耐基梅隆大学大学的开发者以及本项目其他贡献者致敬。
> 
> 英译汉：张子豪（同济大学开源软件协会）
> 
> 文章勘误、补充，请看译者知乎专栏：人工智能小技巧
> 
> In order to facilitate Chinese software developers to learn, use Openpose, make progress in human gesture recognition development and source code contributions, we translated README file into simplified Chinese.
> 
> Salute to the developers in Carnegie Mellon university and the contributors to this project.
> 
> Translattor: Tommy in Tongji Univerisity Opensource Software Association

人体姿态识别与估计的应用场景：抖音尬舞机、体育动作教学、3D健身教练、3D试衣、绘画辅助、游戏人物动作采集。

本项目更详细的中文介绍：[【AI识人】OpenPose：实时多人2D姿态估计 | 附视频测试及源码链接][AI_OpenPose_2D_ _]

本项目理论基础来自Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields ，是CVPR 2017的一篇论文，作者是来自CMU感知计算实验室的[曹哲][Link 1],[Tomas Simon][],[Shih-En Wei][],[Yaser Sheikh][] 。

一些人体姿态识别案例案例：

[《芳华》文工团跳舞视频片段：人体姿态识别][Link 2]

![《芳华》文工团跳舞视频片段：人体姿态识别][strip 1]

[《叶问》武打视频片段：人体姿态识别][Link 3]

![《叶问》武打视频片段：人体姿态识别][strip 2]

## 内容 ##

1.  特点
2.  最近更新
3.  效果
4.  安装、重装、卸载
5.  快速启动
6.  输出
7.  增加运算速度以及基准测试
8.  向我们提供出错信息和反馈
9.  作者和项目贡献者
10. 引用
11. 授权协议

## 特点 ##

*  **功能**:
    
     *  **二维多人关键点实时识别**:
        
         *  **15、18或 25个身体/脚部的关键点识别，运算时间与检测出的人数无关**。
         *  **2\*21个手部关键点识别。目前，运算时间取决于检测出的人数**。
         *  **70个面部关键点的识别。目前，运算时间取决于检测出的人数**
     *  **三维单关键点实时识别**:
        
         *  通过多个单一角度的视频进行三角测量。
         *  菲力尔品牌摄像机的视频同步处理。
         *  与Flir摄像机和Point Grey摄像机兼容，提供了C++语言的代码样本，用户可以自定义输入。
     *  **校准工具**:
        
         *  能够对摄像机拍摄中出现的扭曲等内外参数进行简易评估。
     *  针对未来的加速优化和视觉流畅，增加了**单人位置追踪** 。
 *  **输入**: 图片、视频、网络摄像头的视频流、Flir或Point Grey和IP摄像机。项目提供了C++语言的代码样本，用户可以自定义输入。
 *  **输出**: 原有图片+关键点展示（PNG、JPG、AVI等格式），关键点数据存储文件（(JSON, XML, YML等格式）。
 *  **操作系统**: Ubuntu (14, 16), Windows (8, 10), Mac OSX, Nvidia TX2.
 *  **其它**:
    
     *  项目提供: 命令行测试、C++封装、C++ API接口。
     *  CUDA (Nvidia GPU), OpenCL (AMD GPU), and CPU 版本。

## 最近更新 ##

*  Sep 2018: **单人位置追踪测试** 增加处理速度，观看体验更加流畅！
 *  Jun 2018: **躯干、脚部联合检测的模型发布！速度加快40%，精确度增加5%**!
 *  Jun 2018: **Python API接口**发布!
 *  Jun 2018: **OpenCL/AMD 显卡版本** 发布!
 *  Jun 2018: **校准工具** 发布!
 *  Jun 2018: **Mac OSX 版本(CPU)** 发布!
 *  Mar 2018: **CPU 版本**!
 *  Mar 2018: **三维关键点重建模型** (从多个摄像机角度识别)!

更多信息可访问 全部更新文档 以及 版本更新记录.

## 效果 ##

### 躯干、脚部识别 ###

![strip 3][]

### 躯干、脸部、手部识别 ###

![strip 4][]

### 人体姿态三维重建 ###

![strip 5][]

### 身体、手指关键点识别 ###

![strip 6][]

### 身体识别 ###

![strip 7][]

## 安装、重装、卸载 ##

**Windows能用的版本**: 点击[所有版本][Link 4] 下载最新的版本即可。

或者，你也可以点击 安装文档 查看通过源代码编译安装的安装指南。

## 快速启动 ##

大部分用户不需要调用OpenPose的C++和Python的开发接口，这些用户只需要运行OpenPose Demo即可

*  **OpenPose Demo**: 为了便于处理图片、视频或者网络摄像头的视频流，并展示和后处理结果，你需要看doc/demo\_overview.md. 例如，你可以直接通过以下命令在Ubuntu操作系统上处理一个视频。

# Ubuntu
    ./build/examples/openpose/openpose.bin --video examples/media/video.avi
    :: Windows - Portable Demo
    bin\OpenPoseDemo.exe --video examples\media\video.avi

*  **校准工具**: 三维的OpenPose处理和其它立体视觉处理任务需要你便捷校准摄像机，可查看 doc/modules/calibration\_module.md文档。
 *  **OpenPose C++ API**: 如果你想定制开发读取特定内容的接口、增加个性定制的后处理功能或者展示存储功能，点击这个链接查看C++的API接口，examples/tutorial\_api\_cpp/ 和 doc/library\_introduction.md。你可以增加自己的代码examples/user\_code/ 使用Cmake快速编译整个项目。快速增加自己定制的代码，看这个文档：examples/user\_code/README.md
 *  **OpenPose Python API**: 类似C++的API接口，点击文档查看Python API的教程examples/tutorial\_api\_python/.
 *  **增加额外的模块**:查看 doc/library\_add\_new\_module.md.
 *  **独立的脸部和手指检测**:
    
     *  **脸部** 不对身体关键点进行识别，**仅对**脸部关键点识别：如果你想加快处理速度（同时也会减少识别脸的个数），请看OpenCV脸部识别文档：doc/standalone\_face\_or\_hand\_keypoint\_detector.md.
     *  **使用你自己的脸部和手部识别工具**: 与身体关键点识别不同，你可以使用你自己的脸部和手部识别工具。比方说，在手指能看清但身体看不清的时候使用（OpenPose的识别器不能正常工作）。查看文档doc/standalone\_face\_or\_hand\_keypoint\_detector.md.

## 输出 ##

请点击这个文档，查看输出文件的格式、关键点数据结构等信息。doc/output.md.

## 增加运算速度以及基准测试 ##

点击这个文档，查看增加运行速度、减少内存需求的提示 doc/faq.md\#speed-up-memory-reduction-and-benchmark.

## 向我们提供出错信息和反馈！ ##

我们的代码库面向以科学研究为目的开发者开源，我们希望持续不断地优化它！所以，如果出现了以下情况，请及时向我们反馈。

1.  你发现OpenPose处理图片或视频出错，请把识别失败的案例发到openposecmu@gmail.com邮箱中，我们会运用你提供的信息优化我们的算法。
2.  你发现了软件功能或者运行速度上的bug。
3.  你增加了一些我们可能吸纳到项目源代码中的函数、类或者其它子类。
4.  你知道如何针对本项目优化性能、提升检测速度。
5.  你发现本项目的一个潜在应用场景。
6.  其它问题.

你可以在Github上评论，或者pull request提交你的新代码，我们会尽快回复你的。如果你基于本项目做了有趣的开发或者录制了Youtube视频，请给我们发电子邮件。

## 作者和项目贡献者 ##

Openpose项目由 [Gines Hidalgo][], [Zhe Cao][], [Tomas Simon][Tomas Simon 1], [Shih-En Wei][Shih-En Wei 1], [Hanbyul Joo][], 和 [Yaser Sheikh][Yaser Sheikh 1]创造发起。 目前，这个项目由 [Gines Hidalgo][] 和 [Yaadhav Raaj][]进行日常维护。 [original CVPR 2017 repo][] 包括了Matlab和Python版本，以及模型训练代码。人体姿态评估方面的工作是基于 [the original ECCV 2016 demo][]的。

除此之外，不可或缺的还有 [CMU Panoptic Studio dataset][]。

我们还想感谢所有帮助过OpenPose项目的人，主要贡献者列在了这个文档里doc/contributors.md。

## 引用 ##

如果本项目帮助了你的研究，请在你发表的作品里注明引用出处（人脸关键点识别与\[Simon et al. 2017\]使用了同样的训练方法）。

@inproceedings{cao2017realtime,
      author = {Zhe Cao and Tomas Simon and Shih-En Wei and Yaser Sheikh},
      booktitle = {CVPR},
      title = {Realtime Multi-Person 2D Pose Estimation using Part Affinity Fields},
      year = {2017}
    }
    
    @inproceedings{simon2017hand,
      author = {Tomas Simon and Hanbyul Joo and Iain Matthews and Yaser Sheikh},
      booktitle = {CVPR},
      title = {Hand Keypoint Detection in Single Images using Multiview Bootstrapping},
      year = {2017}
    }
    
    @inproceedings{wei2016cpm,
      author = {Shih-En Wei and Varun Ramakrishna and Takeo Kanade and Yaser Sheikh},
      booktitle = {CVPR},
      title = {Convolutional pose machines},
      year = {2016}
    }

## 授权协议 ##

Openpose对于非商业化使用是免费的，而且仅限于这些情况。点击 license查看更多细节。[对商业使用的授权感兴趣？点我吧][Link 5]。咨询商业应用相关信息可以联系 [Yaser Sheikh][Yaser Sheikh 1].

## 参考文献和扩展阅读 ##

【1】论文：[https://arxiv.org/pdf/1611.08050.pdf][https_arxiv.org_pdf_1611.08050.pdf]

【2】姿态检测视频制作源码：[muyiguangda/caffe\_rtpose][muyiguangda_caffe_rtpose]

【3】开头视频：[Changing Batteries 更换电池「中字」][Changing Batteries]

【4】CMU训练数据集： [CMU Panoptic Dataset][]

【4】匈牙利算法： [Hungarian algorithm][]

![古画人体姿态分析][1240]

[strip]: /images/20220417/24728cb4cb6a4bd19446759ebda93a6e.png
[logo]: /images/20220417/921718605f1244068340e50d495d67f1.png
[https_github.com_CMU-Perceptual-Computing-Lab_openpose]: https://github.com/CMU-Perceptual-Computing-Lab/openpose
[AI_OpenPose_2D_ _]: https://zhuanlan.zhihu.com/p/37526892
[Link 1]: http://people.eecs.berkeley.edu/~zhecao/#top
[Tomas Simon]: http://link.zhihu.com/?target=https%3A//arxiv.org/search%3Fsearchtype%3Dauthor%26query%3DSimon%252C%2BT
[Shih-En Wei]: http://link.zhihu.com/?target=https%3A//arxiv.org/search%3Fsearchtype%3Dauthor%26query%3DWei%252C%2BS
[Yaser Sheikh]: http://link.zhihu.com/?target=https%3A//arxiv.org/search%3Fsearchtype%3Dauthor%26query%3DSheikh%252C%2BY
[Link 2]: https://www.zhihu.com/video/987128876031561728
[strip 1]: /images/20220417/b0ffee848aa749a5aa2018db61da21ed.png
[Link 3]: https://www.zhihu.com/video/987108227749883904
[strip 2]: /images/20220417/31a7d71dc51a4c9395f58d07d672435a.png
[strip 3]: /images/20220417/6c68ae511b2e408ebffa40dfff011156.png
[strip 4]: /images/20220417/a054e64af11c45779c2500e79da36010.png
[strip 5]: /images/20220417/238d198252e445fe90dea3203a29db35.png
[strip 6]: /images/20220417/f003085e52f348b38cb849cca72edea4.png
[strip 7]: /images/20220417/c557ea9e7bc548fbba44496ed7795c90.png
[Link 4]: https://github.com/CMU-Perceptual-Computing-Lab/openpose/releases
[Gines Hidalgo]: https://www.gineshidalgo.com/
[Zhe Cao]: http://www.andrew.cmu.edu/user/zhecao
[Tomas Simon 1]: http://www.cs.cmu.edu/~tsimon/
[Shih-En Wei 1]: https://scholar.google.com/citations?user=sFQD3k4AAAAJ&hl=en
[Hanbyul Joo]: http://www.cs.cmu.edu/~hanbyulj/
[Yaser Sheikh 1]: http://www.cs.cmu.edu/~yaser/
[Yaadhav Raaj]: https://www.linkedin.com/in/yaadhavraaj
[original CVPR 2017 repo]: https://github.com/ZheC/Multi-Person-Pose-Estimation
[the original ECCV 2016 demo]: https://github.com/CMU-Perceptual-Computing-Lab/caffe_rtpose
[CMU Panoptic Studio dataset]: http://domedb.perception.cs.cmu.edu/
[Link 5]: https://flintbox.com/public/project/47343/
[https_arxiv.org_pdf_1611.08050.pdf]: http://link.zhihu.com/?target=https%3A//arxiv.org/pdf/1611.08050.pdf
[muyiguangda_caffe_rtpose]: http://link.zhihu.com/?target=https%3A//github.com/muyiguangda/caffe_rtpose
[Changing Batteries]: http://link.zhihu.com/?target=http%3A//haokan.baidu.com/v%3Fpd%3Dwisenatural%26vid%3D13645223998249592838
[CMU Panoptic Dataset]: http://link.zhihu.com/?target=http%3A//domedb.perception.cs.cmu.edu/index.html
[Hungarian algorithm]: http://link.zhihu.com/?target=https%3A//en.wikipedia.org/wiki/Hungarian_algorithm
[1240]: /images/20220417/ec14f703c8cb45aeb290651278c65035.png