Firefly开源社区

标题: Firefly-RK3399 上使用 Kinect ：OpenCV 3 + OpenNI2 + libfreenect [打印本页]
作者: eevee    时间: 2017-5-20 15:12
标题: Firefly-RK3399 上使用 Kinect ：OpenCV 3 + OpenNI2 + libfreenect
本帖最后由 eevee 于 2017-5-21 08:15 编辑

OS：官方固件 Xubuntu 16.04

1) 准备 Preparation

1.1) Install libfreenect

Note:
  libfreenect  for Kinect Xbox 360
  libfreenect2 for Kinect Xbox One
  1. # download latest code, instead of latest release v0.5.5
  2. $ git clone https://github.com/OpenKinect/libfreenect.git
  3. $ cd libfreenect/

  5. # fix issue with OpenCV, in line 173
  6. $ vi OpenNI2-FreenectDriver/src/DepthStream.hpp

  8.         case XN_STREAM_PROPERTY_ZERO_PLANE_DISTANCE:    // unsigned long long or unsigned int (for OpenNI2/OpenCV)
  9.           if (*pDataSize != sizeof(unsigned long long) && *pDataSize != sizeof(unsigned int))
  10.           {
  11.             LogError("Unexpected size for XN_STREAM_PROPERTY_ZERO_PLANE_DISTANCE");
  12.             return ONI_STATUS_ERROR;
  13.           } else {
  14.             if (*pDataSize != sizeof(unsigned long long)) {
  15.               *(static_cast<unsigned long long*>(data)) = ZERO_PLANE_DISTANCE_VAL;
  16.             } else {
  17.               *(static_cast<unsigned int*>(data)) = (unsigned int) ZERO_PLANE_DISTANCE_VAL;
  18.             }
  19.           }
  20.           return ONI_STATUS_OK;

  22. # build
  23. $ mkdir build
  24. $ cd build
  25. $ cmake -DBUILD_OPENNI2_DRIVER=ON ..
  26. $ make

  28. # preview
  29. $ ./bin/freenect-glview
复制代码



1.2) Install OpenNI

  1. # download this, aarch64 platform support
  2. $ git clone -b develop https://github.com/joinAero/OpenNI2.git
  3. $ cd OpenNI2/

  5. # deps
  6. $ sudo apt-get install libudev-dev
  7. # or, all
  8. $ sudo apt-get install \
  9.     g++              \
  10.     python           \
  11.     libusb-1.0-0-dev \
  12.     libudev-dev      \
  13.     openjdk-6-jdk    \
  14.     freeglut3-dev    \
  15.     doxygen          \
  16.     graphviz

  18. # build
  19. $ make

  21. # setup
  22. $ echo "export OPENNI2_INCLUDE=`pwd`/Include" >> ~/.bashrc
  23. $ echo "export OPENNI2_REDIST=`pwd`/Bin/AArch64-Release" >> ~/.bashrc
复制代码

Then, copy the freenect driver to OpenNI2 driver repository:

  1. $ cd libfreenect/build/
  2. $ cd lib/OpenNI2-FreenectDriver/

  4. $ export FREENECT_DRIVER_LIB=libFreenectDriver.so
  5. $ export FREENECT_DRIVER_REAL_LIB=$(python - <<'EOF'
  6. import os
  7. lib = os.environ['FREENECT_DRIVER_LIB']
  8. while os.path.islink(lib):
  9.     lib = os.readlink(lib)
  10. print(lib)
  11. EOF
  12. )
  13. $ ln -sf `pwd`/$FREENECT_DRIVER_REAL_LIB $OPENNI2_REDIST/OpenNI2/Drivers/$FREENECT_DRIVER_LIB
复制代码

1.3) Build OpenCV with OpenNI

请参阅这篇：Firefly-RK3399 上编译安装 OpenCV 3
  1. $ cd opencv/
  2. $ mkdir build
  3. $ cd build/

  5. $ export PY_NAME=$(python -c 'from sys import version_info as v; print("python%d.%d" % v[:2])')
  6. $ export PY_NUMPY_DIR=$(python -c 'import os.path, numpy.core; print(os.path.dirname(numpy.core.__file__))')

  8. $ cmake -DCMAKE_BUILD_TYPE=RELEASE \
  9. -DCMAKE_INSTALL_PREFIX=/usr/local \
  10. \
  11. -DPYTHON2_EXECUTABLE=$(which python) \
  12. -DPYTHON_INCLUDE_DIR=/usr/include/$PY_NAME \
  13. -DPYTHON_INCLUDE_DIR2=/usr/include/aarch64-linux-gnu/$PY_NAME \
  14. -DPYTHON_LIBRARY=/usr/lib/aarch64-linux-gnu/lib$PY_NAME.so \
  15. -DPYTHON2_NUMPY_INCLUDE_DIRS=/usr/lib/$PY_NAME/dist-packages/numpy/core/include/ \
  16. \
  17. -DWITH_OPENNI2=ON \
  18. \
  19. -DBUILD_DOCS=OFF \
  20. -DBUILD_EXAMPLES=OFF \
  21. -DBUILD_TESTS=OFF \
  22. -DBUILD_PERF_TESTS=OFF \
  23. \
  24. -DOPENCV_EXTRA_MODULES_PATH=../../opencv_contrib/modules \
  25. ..

  27. $ make -j$(nproc --all)
  28. $ sudo make install
复制代码

2) 使用 Usage

`kinect.cc`:

  1. #include "camera.hpp"

  3. int main(int argc, char const *argv[]) {
  4.     Camera cam(cv::CAP_OPENNI2);
  5.     if (!cam.IsOpened()) {
  6.         std::cerr << "ERROR: Open camera failed" << std::endl;
  7.         return 1;
  8.     }
  9.     std::cout << "\033[1;32mPress ESC/Q to terminate\033[0m\n\n";

  11.     double min, max;
  12.     cv::Mat adjmap, colormap;
  13.     cam.Capture([&](const cv::Mat& frame, const cv::Mat& depthmap) {
  14.         cv::minMaxIdx(depthmap, &min, &max);
  15.         const float scale = 255 / (max-min);
  16.         depthmap.convertTo(adjmap, CV_8UC1, scale, -min*scale);

  18.         //applyColorMap(adjmap, colormap, cv::COLORMAP_AUTUMN);

  20.         cam.DrawInfo(frame);
  21.         cam.DrawInfo(adjmap);
  22.         cv::imshow("frame", frame);
  23.         cv::imshow("depthmap", adjmap);

  25.         const int key = cv::waitKey(10);
  26.         return !(key == 27 || key == 'q' || key == 'Q'); // ESC/Q
  27.     });

  29.     return 0;
  30. }
复制代码



完整的 C++ 代码见这，Python 代码见这。

3) 结束 Finally

步骤 1.1：

* 直接安装 libfreenect 使用时，没有 OpenNI2 驱动，需要自己编译。
* 自己编译 libfreenect 时，请使用最新代码。当前 Release v0.5.5 未支持好 aarch64 。
* 自己编译 libfreenect 时，如果要结合 OpenCV 使用，得做个修正。

步骤 1.2：

* 直接安装 OpenNI2 使用时，运行时没能找到 Kinect ，也可能我没插好。
* 使用官方 OpenNI2 ARM 版本时，报不兼容的错误，与 aarch64 是有冲突的。
* 自己编译 OpenNI2 时， aarch64 平台未支持好， fork 了个版本。

Python 代码：

* 同时获取图像和深度时，图像是有问题的，见此 Issue 。


参考：Use Kinect on Firefly-RK3399
作者: 牛头    时间: 2017-5-22 08:57
做得很好，感谢分享
作者: *^_^*    时间: 2017-6-3 00:37
好
作者: 18217556330    时间: 2017-11-10 21:47
最后的CPP和Python代码都是错的，坑了老子一天。
作者: Helios    时间: 2018-6-29 11:01
LZ,opencv怎么能够在python3中支持呢？安装的都是在python2中使用
作者: VulcanusYou    时间: 2019-6-17 13:35
等会儿去试试
作者: qiz37    时间: 2020-1-21 09:44
感谢分享
作者: tomas    时间: 2020-6-16 16:39
我也安装成功了，但是实时画面很卡，你有碰到这样的现象吗？



欢迎光临 Firefly开源社区 (https://dev.t-firefly.com/) Powered by Discuz! X3.1