通过梯度结构张量进行各向异性图像分割

目录

• 目标
• 原理
  • 什么是梯度结构张量？
  • 如何通过梯度结构张量估计各向异性图像的方向和相干性？
• 源代码
• 原理解释
• 结果
• 参考文献

上一篇教程： 运动去模糊滤波器
下一篇教程： 周期性噪声去除滤波器

原作者	Karpushin Vladislav
兼容性	OpenCV >= 3.0

目标

在本教程中你将学习

• 什么是梯度结构张量
• 如何通过梯度结构张量估计各向异性图像的方向和相干性
• 如何通过梯度结构张量对具有单一局部方向的各向异性图像进行分割

理论

注意

本解释基于书籍 [140]、[29] 和 [289]。梯度结构张量的良好物理解释可在 [313] 中找到。此外，您还可以参考维基百科页面 结构张量。

本文中的各向异性图像是真实世界的图像。

什么是梯度结构张量？

在数学中，梯度结构张量（也称为二阶矩矩阵、二阶矩张量、惯性张量等）是从函数梯度派生出的一个矩阵。它总结了给定点邻域内梯度的主要方向以及这些方向的相干性程度（相干性）。梯度结构张量广泛应用于图像处理和计算机视觉中，用于二维/三维图像分割、运动检测、自适应滤波、局部图像特征检测等。

各向异性图像的重要特征包括局部各向异性的方向和相干性。在本文中，我们将展示如何估计方向和相干性，以及如何通过梯度结构张量对具有单一局部方向的各向异性图像进行分割。

图像的梯度结构张量是一个 2x2 的对称矩阵。梯度结构张量的特征向量指示局部方向，而特征值则给出相干性（各向异性度量）。

图像 \(Z\) 的梯度结构张量 \(J\) 可以写成

\[J = \begin{bmatrix} J_{11} & J_{12} \\ J_{12} & J_{22} \end{bmatrix}\]

其中 \(J_{11} = M[Z_{x}^{2}]\), \(J_{22} = M[Z_{y}^{2}]\), \(J_{12} = M[Z_{x}Z_{y}]\) - 张量分量，\(M[]\) 是数学期望的符号（我们可以将其操作视为窗口 w 中的平均），\(Z_{x}\) 和 \(Z_{y}\) 是图像 \(Z\) 对 \(x\) 和 \(y\) 的偏导数。

张量的特征值可以通过以下公式找到

\[\lambda_{1,2} = \frac{1}{2} \left [ J_{11} + J_{22} \pm \sqrt{(J_{11} - J_{22})^{2} + 4J_{12}^{2}} \right ] \]

其中 \(\lambda_1\) - 最大特征值，\(\lambda_2\) - 最小特征值。

如何通过梯度结构张量估计各向异性图像的方向和相干性？

各向异性图像的方向

\[\alpha = 0.5arctg\frac{2J_{12}}{J_{22} - J_{11}}\]

相干性

\[C = \frac{\lambda_1 - \lambda_2}{\lambda_1 + \lambda_2}\]

相干性范围从 0 到 1。对于理想的局部方向（\(\lambda_2\) = 0, \(\lambda_1\) > 0），相干性为 1，对于各向同性的灰度值结构（\(\lambda_1\) = \(\lambda_2\) > 0），相干性为 0。

源代码

您可以在 OpenCV 源代码库的 samples/cpp/tutorial_code/ImgProc/anisotropic_image_segmentation/anisotropic_image_segmentation.cpp 中找到源代码。

C++

 
#include <iostream>
#include "opencv2/highgui.hpp"
#include "opencv2/imgproc.hpp"
#include "opencv2/imgcodecs.hpp"
 
using namespace cv;
using namespace std;
 
void calcGST(const Mat& inputImg, Mat& imgCoherencyOut, Mat& imgOrientationOut, int w);
 
int main()
{
    int W = 52; // 窗口大小为 WxW
    double C_Thr = 0.43; // 相干性阈值
    int LowThr = 35; // 方向的阈值1，范围从 0 到 180
    int HighThr = 57; // 方向的阈值2，范围从 0 到 180
 
samples::addSamplesDataSearchSubDirectory("doc/tutorials/imgproc/anisotropic_image_segmentation/images");
    Mat imgIn = imread(samples::findFile("gst_input.jpg"), IMREAD_GRAYSCALE);
    if (imgIn.empty()) //检查图像是否已加载
    {
cout << "ERROR : Image cannot be loaded..!!" << endl;
        return -1;
    }
 
    Mat imgCoherency, imgOrientation;
calcGST(imgIn, imgCoherency, imgOrientation, W);
 
    Mat imgCoherencyBin;
imgCoherencyBin = imgCoherency > C_Thr;
    Mat imgOrientationBin;
inRange(imgOrientation, Scalar(LowThr), Scalar(HighThr), imgOrientationBin);
 
    Mat imgBin;
imgBin = imgCoherencyBin & imgOrientationBin;
 
normalize(imgCoherency, imgCoherency, 0, 255, NORM_MINMAX, CV_8U);
normalize(imgOrientation, imgOrientation, 0, 255, NORM_MINMAX, CV_8U);
 
imshow("Original", imgIn);
imshow("Result", 0.5 * (imgIn + imgBin));
imshow("Coherency", imgCoherency);
imshow("Orientation", imgOrientation);
imwrite("result.jpg", 0.5*(imgIn + imgBin));
imwrite("Coherency.jpg", imgCoherency);
imwrite("Orientation.jpg", imgOrientation);
waitKey(0);
    return 0;
}
void calcGST(const Mat& inputImg, Mat& imgCoherencyOut, Mat& imgOrientationOut, int w)
{
    Mat img;
inputImg.convertTo(img, CV_32F);
 
    // 计算 GST 分量 (开始)
    // J = (J11 J12; J12 J22) - GST
    Mat imgDiffX, imgDiffY, imgDiffXY;
Sobel(img, imgDiffX, CV_32F, 1, 0, 3);
Sobel(img, imgDiffY, CV_32F, 0, 1, 3);
multiply(imgDiffX, imgDiffY, imgDiffXY);
 
    Mat imgDiffXX, imgDiffYY;
multiply(imgDiffX, imgDiffX, imgDiffXX);
multiply(imgDiffY, imgDiffY, imgDiffYY);
 
    Mat J11, J22, J12; // J11, J22 和 J12 是 GST 分量
boxFilter(imgDiffXX, J11, CV_32F, Size(w, w));
boxFilter(imgDiffYY, J22, CV_32F, Size(w, w));
boxFilter(imgDiffXY, J12, CV_32F, Size(w, w));
    // 计算 GST 分量 (停止)
 
    // 特征值计算 (开始)
    // lambda1 = 0.5*(J11 + J22 + sqrt((J11-J22)^2 + 4*J12^2))
    // lambda2 = 0.5*(J11 + J22 - sqrt((J11-J22)^2 + 4*J12^2))
    Mat tmp1, tmp2, tmp3, tmp4;
tmp1 = J11 + J22;
tmp2 = J11 - J22;
multiply(tmp2, tmp2, tmp2);
multiply(J12, J12, tmp3);
sqrt(tmp2 + 4.0 * tmp3, tmp4);
 
    Mat lambda1, lambda2;
lambda1 = tmp1 + tmp4;
lambda1 = 0.5*lambda1; // 最大特征值
lambda2 = tmp1 - tmp4;
lambda2 = 0.5*lambda2; // 最小特征值
    // 特征值计算 (停止)
 
    // 相干性计算 (开始)
    // Coherency = (lambda1 - lambda2)/(lambda1 + lambda2)) - 各向异性度量
    // 相干性是各向异性程度（局部方向的一致性）
divide(lambda1 - lambda2, lambda1 + lambda2, imgCoherencyOut);
    // 相干性计算 (停止)
 
    // 方向角计算 (开始)
    // tan(2*Alpha) = 2*J12/(J22 - J11)
    // Alpha = 0.5 atan2(2*J12/(J22 - J11))
phase(J22 - J11, 2.0*J12, imgOrientationOut, true);
imgOrientationOut = 0.5*imgOrientationOut;
    // 方向角计算 (停止)
}

Python

 
import cv2 as cv
import numpy as np
import argparse
 
W = 52 # 窗口大小为 WxW
C_Thr = 0.43 # 相干性阈值
LowThr = 35 # 方向的阈值1，范围从 0 到 180
HighThr = 57 # 方向的阈值2，范围从 0 到 180
 
 
def calcGST(inputIMG, w)
 
img = inputIMG.astype(np.float32)
 
    # 计算 GST 分量 (开始)
    # J = (J11 J12; J12 J22) - GST
imgDiffX = cv.Sobel(img, cv.CV_32F, 1, 0, 3)
imgDiffY = cv.Sobel(img, cv.CV_32F, 0, 1, 3)
imgDiffXY = cv.multiply(imgDiffX, imgDiffY)
    
 
imgDiffXX = cv.multiply(imgDiffX, imgDiffX)
imgDiffYY = cv.multiply(imgDiffY, imgDiffY)
 
J11 = cv.boxFilter(imgDiffXX, cv.CV_32F, (w,w))
J22 = cv.boxFilter(imgDiffYY, cv.CV_32F, (w,w))
J12 = cv.boxFilter(imgDiffXY, cv.CV_32F, (w,w))
    # GST 分量计算 (停止)
 
    # 特征值计算 (开始)
    # lambda1 = 0.5*(J11 + J22 + sqrt((J11-J22)^2 + 4*J12^2))
    # lambda2 = 0.5*(J11 + J22 - sqrt((J11-J22)^2 + 4*J12^2))
tmp1 = J11 + J22
tmp2 = J11 - J22
tmp2 = cv.multiply(tmp2, tmp2)
tmp3 = cv.multiply(J12, J12)
tmp4 = np.sqrt(tmp2 + 4.0 * tmp3)
 
lambda1 = 0.5*(tmp1 + tmp4) # 最大特征值
lambda2 = 0.5*(tmp1 - tmp4) # 最小特征值
    # 特征值计算 (停止)
 
    # 相干性计算 (开始)
    # Coherency = (lambda1 - lambda2)/(lambda1 + lambda2)) - 各向异性度量
    # 相干性是各向异性程度（局部方向的一致性）
imgCoherencyOut = cv.divide(lambda1 - lambda2, lambda1 + lambda2)
    # 相干性计算 (停止)
 
    # 方向角计算 (开始)
    # tan(2*Alpha) = 2*J12/(J22 - J11)
    # Alpha = 0.5 atan2(2*J12/(J22 - J11))
imgOrientationOut = cv.phase(J22 - J11, 2.0 * J12, angleInDegrees = True)
imgOrientationOut = 0.5 * imgOrientationOut
    # 方向角计算 (停止)
 
    return imgCoherencyOut, imgOrientationOut
 
 
parser = argparse.ArgumentParser(description='各向异性图像分割教程代码.')
parser.add_argument('-i', '--input', help='输入图像路径.', required=True)
args = parser.parse_args()
 
imgIn = cv.imread(args.input, cv.IMREAD_GRAYSCALE)
if imgIn is None
print('无法打开或找到图像：{}'.format(args.input))
exit(0)
 
 
imgCoherency, imgOrientation = calcGST(imgIn, W)
 
 
_, imgCoherencyBin = cv.threshold(imgCoherency, C_Thr, 255, cv.THRESH_BINARY)
_, imgOrientationBin = cv.threshold(imgOrientation, LowThr, HighThr, cv.THRESH_BINARY)
 
 
 
imgBin = cv.bitwise_and(imgCoherencyBin, imgOrientationBin)
 
 
imgCoherency = cv.normalize(imgCoherency, None, alpha=0, beta=1, norm_type=cv.NORM_MINMAX, dtype=cv.CV_32F)
imgOrientation = cv.normalize(imgOrientation, None, alpha=0, beta=1, norm_type=cv.NORM_MINMAX, dtype=cv.CV_32F)
 
cv.imshow('result.jpg', np.uint8(0.5*(imgIn + imgBin)))
cv.imshow('Coherency.jpg', imgCoherency)
cv.imshow('Orientation.jpg', imgOrientation)
cv.waitKey(0)
 

解释

各向异性图像分割算法包括梯度结构张量计算、方向计算、相干性计算以及方向和相干性阈值处理。

C++

    Mat imgCoherency, imgOrientation;
calcGST(imgIn, imgCoherency, imgOrientation, W);
 
    Mat imgCoherencyBin;
imgCoherencyBin = imgCoherency > C_Thr;
    Mat imgOrientationBin;
    inRange(imgOrientation, Scalar(LowThr), Scalar(HighThr), imgOrientationBin);
 
    Mat imgBin;
imgBin = imgCoherencyBin & imgOrientationBin;

Python

imgCoherency, imgOrientation = calcGST(imgIn, W)
 
 
_, imgCoherencyBin = cv.threshold(imgCoherency, C_Thr, 255, cv.THRESH_BINARY)
_, imgOrientationBin = cv.threshold(imgOrientation, LowThr, HighThr, cv.THRESH_BINARY)
 
 
 
imgBin = cv.bitwise_and(imgCoherencyBin, imgOrientationBin)
 

函数 calcGST() 使用梯度结构张量计算方向和相干性。输入参数 w 定义了窗口大小。

C++

void calcGST(const Mat& inputImg, Mat& imgCoherencyOut, Mat& imgOrientationOut, int w)
{
    Mat img;
inputImg.convertTo(img, CV_32F);
 
    // 计算 GST 分量 (开始)
    // J = (J11 J12; J12 J22) - GST
    Mat imgDiffX, imgDiffY, imgDiffXY;
    Sobel(img, imgDiffX, CV_32F, 1, 0, 3);
    Sobel(img, imgDiffY, CV_32F, 0, 1, 3);
    multiply(imgDiffX, imgDiffY, imgDiffXY);
 
    Mat imgDiffXX, imgDiffYY;
    multiply(imgDiffX, imgDiffX, imgDiffXX);
    multiply(imgDiffY, imgDiffY, imgDiffYY);
 
    Mat J11, J22, J12; // J11, J22 和 J12 是 GST 分量
    boxFilter(imgDiffXX, J11, CV_32F, Size(w, w));
    boxFilter(imgDiffYY, J22, CV_32F, Size(w, w));
    boxFilter(imgDiffXY, J12, CV_32F, Size(w, w));
    // 计算 GST 分量 (停止)
 
    // 特征值计算 (开始)
    // lambda1 = 0.5*(J11 + J22 + sqrt((J11-J22)^2 + 4*J12^2))
    // lambda2 = 0.5*(J11 + J22 - sqrt((J11-J22)^2 + 4*J12^2))
    Mat tmp1, tmp2, tmp3, tmp4;
tmp1 = J11 + J22;
tmp2 = J11 - J22;
    multiply(tmp2, tmp2, tmp2);
    multiply(J12, J12, tmp3);
sqrt(tmp2 + 4.0 * tmp3, tmp4);
 
    Mat lambda1, lambda2;
lambda1 = tmp1 + tmp4;
lambda1 = 0.5*lambda1; // 最大特征值
lambda2 = tmp1 - tmp4;
lambda2 = 0.5*lambda2; // 最小特征值
    // 特征值计算 (停止)
 
    // 相干性计算 (开始)
    // Coherency = (lambda1 - lambda2)/(lambda1 + lambda2)) - 各向异性度量
    // 相干性是各向异性程度（局部方向的一致性）
    divide(lambda1 - lambda2, lambda1 + lambda2, imgCoherencyOut);
    // 相干性计算 (停止)
 
    // 方向角计算 (开始)
    // tan(2*Alpha) = 2*J12/(J22 - J11)
    // Alpha = 0.5 atan2(2*J12/(J22 - J11))
    phase(J22 - J11, 2.0*J12, imgOrientationOut, true);
imgOrientationOut = 0.5*imgOrientationOut;
    // 方向角计算 (停止)
}

Python

def calcGST(inputIMG, w)
 
img = inputIMG.astype(np.float32)
 
    # 计算 GST 分量 (开始)
    # J = (J11 J12; J12 J22) - GST
imgDiffX = cv.Sobel(img, cv.CV_32F, 1, 0, 3)
imgDiffY = cv.Sobel(img, cv.CV_32F, 0, 1, 3)
imgDiffXY = cv.multiply(imgDiffX, imgDiffY)
    
 
imgDiffXX = cv.multiply(imgDiffX, imgDiffX)
imgDiffYY = cv.multiply(imgDiffY, imgDiffY)
 
J11 = cv.boxFilter(imgDiffXX, cv.CV_32F, (w,w))
J22 = cv.boxFilter(imgDiffYY, cv.CV_32F, (w,w))
J12 = cv.boxFilter(imgDiffXY, cv.CV_32F, (w,w))
    # GST 分量计算 (停止)
 
    # 特征值计算 (开始)
    # lambda1 = 0.5*(J11 + J22 + sqrt((J11-J22)^2 + 4*J12^2))
    # lambda2 = 0.5*(J11 + J22 - sqrt((J11-J22)^2 + 4*J12^2))
tmp1 = J11 + J22
tmp2 = J11 - J22
tmp2 = cv.multiply(tmp2, tmp2)
tmp3 = cv.multiply(J12, J12)
tmp4 = np.sqrt(tmp2 + 4.0 * tmp3)
 
lambda1 = 0.5*(tmp1 + tmp4) # 最大特征值
lambda2 = 0.5*(tmp1 - tmp4) # 最小特征值
    # 特征值计算 (停止)
 
    # 相干性计算 (开始)
    # Coherency = (lambda1 - lambda2)/(lambda1 + lambda2)) - 各向异性度量
    # 相干性是各向异性程度（局部方向的一致性）
imgCoherencyOut = cv.divide(lambda1 - lambda2, lambda1 + lambda2)
    # 相干性计算 (停止)
 
    # 方向角计算 (开始)
    # tan(2*Alpha) = 2*J12/(J22 - J11)
    # Alpha = 0.5 atan2(2*J12/(J22 - J11))
imgOrientationOut = cv.phase(J22 - J11, 2.0 * J12, angleInDegrees = True)
imgOrientationOut = 0.5 * imgOrientationOut
    # 方向角计算 (停止)
 
    return imgCoherencyOut, imgOrientationOut

下面的代码对方向图像应用阈值 LowThr 和 HighThr，对方向图像应用阈值 C_Thr。LowThr 和 HighThr 定义了方向范围。

C++

    Mat imgCoherencyBin;
imgCoherencyBin = imgCoherency > C_Thr;
    Mat imgOrientationBin;
    inRange(imgOrientation, Scalar(LowThr), Scalar(HighThr), imgOrientationBin);

Python

_, imgCoherencyBin = cv.threshold(imgCoherency, C_Thr, 255, cv.THRESH_BINARY)
_, imgOrientationBin = cv.threshold(imgOrientation, LowThr, HighThr, cv.THRESH_BINARY)

最后，我们将阈值处理结果组合起来。

C++

    Mat imgBin;
imgBin = imgCoherencyBin & imgOrientationBin;

Python

imgBin = cv.bitwise_and(imgCoherencyBin, imgOrientationBin)

结果

下面您可以看到具有单一方向的真实各向异性图像：

下面您可以看到各向异性图像的方向和相干性：

下面您可以看到分割结果：

结果是通过 w = 52, C_Thr = 0.43, LowThr = 35, HighThr = 57 计算得出的。我们可以看到该算法只选择了具有单一方向的区域。

参考文献

• 结构张量 - 维基百科上的结构张量描述