光流算法

绝地灬酷狼 2022-07-17 02:25 254阅读 0赞

# [   ][Link 1] #

光流的概念是Gibson在1950年首先提出来的。它是空间运动物体在观察成像平面上的像素运动的瞬时速度，是利用图像序列中像素在时间域上的变化以及相邻帧之间的相关性来找到上一帧跟当前帧之间存在的对应关系，从而计算出相邻帧之间物体的运动信息的一种方法。一般而言，光流是由于场景中前景目标本身的移动、相机的运动，或者两者的共同运动所产生的。其计算方法可以分为三类：

（1）基于区域或者基于特征的匹配方法；

（2）基于频域的方法；

（3）基于梯度的方法；

简单来说，光流是空间运动物体在观测成像平面上的像素运动的“瞬时速度”。光流的研究是利用图像序列中的像素强度数据的时域变化和相关性来确定各自像素位置的“运动”。研究光流场的目的就是为了从图片序列中近似得到不能直接得到的运动场。

光流法的前提假设：

（1）相邻帧之间的亮度恒定；

（2）相邻视频帧的取帧时间连续，或者，相邻帧之间物体的运动比较“微小”；

（3）保持空间一致性；即，同一子图像的像素点具有相同的运动

这里有两个概念需要解释：

运动场，其实就是物体在三维真实世界中的运动；

光流场，是运动场在二维图像平面上的投影。

![1337349301_4078.jpg][]

![1337349313_5077.jpg][]

![1337349326_9509.jpg][]

如上图所示，H中的像素点(x,y)在I中的移动到了(x+u,y+v)的位置，偏移量为(u,v)。

光流法用于目标检测的原理：给图像中的每个像素点赋予一个速度矢量，这样就形成了一个运动矢量场。在某一特定时刻，图像上的点与三维物体上的点一一对应，这种对应关系可以通过投影来计算得到。根据各个像素点的速度矢量特征，可以对图像进行动态分析。如果图像中没有运动目标，则光流矢量在整个图像区域是连续变化的。当图像中有运动物体时，目标和背景存在着相对运动。运动物体所形成的速度矢量必然和背景的速度矢量有所不同，如此便可以计算出运动物体的位置。需要提醒的是，利用光流法进行运动物体检测时，计算量较大，无法保证实时性和实用性。

光流法用于目标跟踪的原理：

（1）对一个连续的视频帧序列进行处理；

（2）针对每一个视频序列，利用一定的目标检测方法，检测可能出现的前景目标；

（3）如果某一帧出现了前景目标，找到其具有代表性的关键特征点（可以随机产生，也可以利用角点来做特征点）；

（4）对之后的任意两个相邻视频帧而言，寻找上一帧中出现的关键特征点在当前帧中的最佳位置，从而得到前景目标在当前帧中的位置坐标；

（5）如此迭代进行，便可实现目标的跟踪；

[1：][Link 1] [Lucas–Kanade][Link 1] [光流算法][Link 1]

[简介：在计算机视觉中，Lucas–Kanade光流算法是一种两帧差分的光流估计算法。它由Bruce D. Lucas 和 Takeo Kanade提出。  
光流的概念:(Optical flow or optic flow)  
它是一种运动模式，这种运动模式指的是一个物体、表面、边缘在一个视角下由一个观察者（比如眼睛、摄像头等）和背景之间形成的明显移动。光流技术，如运动检测和图像分割，时间碰撞，运动补偿编码，三维立体视差，都是利用了这种边缘或表面运动的技术。][Link 1]

[  
二维图像的移动相对于观察者而言是三维物体移动的在图像平面的投影。  
有序的图像可以估计出二维图像的瞬时图像速率或离散图像转移。  
  
光流算法：  
它评估了两幅图像的之间的变形，它的基本假设是体素和图像像素守恒。它假设一个物体的颜色在前后两帧没有巨大而明显的变化。基于这个思路，我们可以得到图像约束方程。不同的光流算法解决了假定了不同附加条件的光流问题。  
  
Lucas–Kanade算法：  
这个算法是最常见，最流行的。它计算两帧在时间t 到t + δt之间每个每个像素点位置的移动。由于它是基于图像信号的泰勒级数，这种方法称为差分，这就是对于空间和时间坐标使用偏导数。  
图像约束方程可以写为I (x ,y ,z ,t ) = I (x \+ δx ,y \+ δy ,z \+ δz ,t \+ δt )  
I(x, y,z, t)为在（x,y,z）位置的体素。  
我们假设移动足够的小，那么对图像约束方程使用泰勒公式，我们可以得到：  
![201212042209368274.png][]][Link 1]

[H.O.T. 指更高阶，在移动足够小的情况下可以忽略。从这个方程中我们可以得到：  
![201212042209366290.png][]  
或者  
![201212042209374272.png][]  
我们得到：  
  
![201212042209394356.png][]  
V x,V y,V z分别是I(x,y,z,t)的光流向量中x，y，z的组成。![201212042209462791.png][], ![201212042209468298.png][], ![201212042209461645.png][]和![201212042209468265.png][]则是图像在(x ,y ,z ,t )这一点向相应方向的差分。  
所以][Link 1]

[I xV x\+ I yV y\+ I zV z= − I t。][Link 1]

[写做：][Link 1]

[![201212042209471612.png][]][Link 1]

[这个方程有三个未知量，尚不能被解决，这也就是所谓光流算法的光圈问题。那么要找到光流向量则需要另一套解决的方案。而Lucas-Kanade算法是一个非迭代的算法：][Link 1]

[假设流(Vx,Vy,Vz)在一个大小为m\*m\*m(m>1)的小窗中是一个常数，那么从像素1...n , n = m 3中可以得到下列一组方程：][Link 1]

[![201212042209476039.png][]][Link 1]

[![20121204220947989.png][]][Link 1]

[![201212042209485101.png][]][Link 1]

[![201212042209485624.png][]][Link 1]

[三个未知数但是有多于三个的方程，这个方程组自然是个超定方程，也就是说方程组内有冗余，方程组可以表示为：][Link 1]

[![201212042209482003.png][]][Link 1]

[记作：![201212042209498000.png][]][Link 1]

[为了解决这个超定问题，我们采用最小二乘法：][Link 1]

[![201212042209496888.png][]or][Link 1]

[![201212042209501772.png][]][Link 1]

[得到：][Link 1]

[![201212042209519721.png][]][Link 1]

[其中的求和是从1到n。][Link 1]

[这也就是说寻找光流可以通过在四维上图像导数的分别累加得出。我们还需要一个权重函数W(i, j,k)，![201212042209512753.png][]来突出窗口中心点的坐标。高斯函数做这项工作是非常合适的，][Link 1]

[这个算法的不足在于它不能产生一个密度很高的流向量，例如在运动的边缘和黑大的同质区域中的微小移动方面流信息会很快的褪去。它的优点在于有噪声存在的鲁棒性还是可以的。][Link 1]

[补充：opencv里实现的看上去蛮复杂，现在还不是太明白。其中LK经典算法也是迭代法，是由高斯迭代法解线性方程组进行迭代的。][Link 1]

[参考文献：Lucas B and Kanade T. An Iterative Image Registration Technique with an Application to Stereo Vision. Proc. Of 7th International Joint Conference on Artificial Intelligence (IJCAI), pp.674-679.是81年发表的。][Link 1]

[opencv中实现的是84年发表的算法，][Link 1]

[参考文献：][Link 1][Bruce D. Lucas , "Generalized Image Matching by the Method of Differences," doctoral dissertation, tech. report , Robotics Institute, Carnegie Mellon University, July, 1984][Bruce D. Lucas _ _Generalized Image Matching by the Method of Differences_ doctoral dissertation_ tech. report _ Robotics Institute_ Carnegie Mellon University_ July_ 1984]

[这篇论文是收费的，一直都没下到还。][Bruce D. Lucas _ _Generalized Image Matching by the Method of Differences_ doctoral dissertation_ tech. report _ Robotics Institute_ Carnegie Mellon University_ July_ 1984]

[Link 1]: mailto:gnuhpc@gmail.com
[1337349301_4078.jpg]: https://img-my.csdn.net/uploads/201205/18/1337349301_4078.jpg
[1337349313_5077.jpg]: https://img-my.csdn.net/uploads/201205/18/1337349313_5077.jpg
[1337349326_9509.jpg]: https://img-my.csdn.net/uploads/201205/18/1337349326_9509.jpg
[201212042209368274.png]: /images/20220717/c24cafbe68da485ba92c7442b2dae687.png
[201212042209366290.png]: /images/20220717/84f449a9ed894fb0a6f8ff73d1b39c3c.png
[201212042209374272.png]: /images/20220717/326deac101014d94b3cc755354911243.png
[201212042209394356.png]: /images/20220717/4c1723c19c56495eb7f185799c7695fc.png
[201212042209462791.png]: http://images.cnblogs.com/cnblogs_com/gnuhpc/201212/201212042209462791.png
[201212042209468298.png]: http://images.cnblogs.com/cnblogs_com/gnuhpc/201212/201212042209468298.png
[201212042209461645.png]: http://images.cnblogs.com/cnblogs_com/gnuhpc/201212/201212042209461645.png
[201212042209468265.png]: /images/20220717/01c48ae9023b47249904617d90f9871f.png
[201212042209471612.png]: /images/20220717/77c5f0df6d114774949f5bf0bc7911f9.png
[201212042209476039.png]: /images/20220717/e8c6e64929dd4abeb31c6c647f293ad2.png
[20121204220947989.png]: /images/20220717/58dbb19db15c4ee797a97fc354a1deb2.png
[201212042209485101.png]: /images/20220717/ade36764c64a4f7d8f63d88c72100155.png
[201212042209485624.png]: /images/20220717/009e3698b879412c809c01db2c619f30.png
[201212042209482003.png]: /images/20220717/2468e4ec76d5452d8f6685a0c46a528f.png
[201212042209498000.png]: /images/20220717/af31bdffea28428fb9368bf800ffe874.png
[201212042209496888.png]: /images/20220717/45fbe76745c7410a9bbac8810c27994b.png
[201212042209501772.png]: /images/20220717/fe2cfd9ae510495f8c7330b653442dfe.png
[201212042209519721.png]: /images/20220717/0455430ff85648dab74f7d790ff7d399.png
[201212042209512753.png]: /images/20220717/561e024473ce4ecb9655104367c5a94a.png
[Bruce D. Lucas _ _Generalized Image Matching by the Method of Differences_ doctoral dissertation_ tech. report _ Robotics Institute_ Carnegie Mellon University_ July_ 1984]: http://www.ri.cmu.edu/person.html?person_id=1802