基于梯度结构张量的各向异性图像分割

目录

• 目标
• 理论
  • 什么是梯度结构张量？
  • 如何利用梯度结构张量估计各向异性图像的方向和一致性？
• 源代码
• 解释
• 结果
• 参考文献

上一篇教程： 运动模糊滤波器
下一篇教程： 周期性噪声去除滤波器

原作者	Karpushin Vladislav
兼容性	OpenCV >= 3.0

目标

本教程将教会你

• 什么是梯度结构张量
• 如何利用梯度结构张量估计各向异性图像的方向和一致性
• 如何利用梯度结构张量分割具有单一局部方向的各向异性图像

理论

注意

本解释基于书籍 [134]，[27] 和 [283]。梯度结构张量的良好物理解释在 [308] 中给出。此外，您可以参考维基百科页面 结构张量。

此页面上的各向异性图像是真实世界的图像。

什么是梯度结构张量？

在数学中，梯度结构张量（也称为二阶矩矩阵、二阶矩张量、惯性张量等）是由函数梯度导出的矩阵。它总结了点指定邻域中梯度的主要方向，以及这些方向的一致性程度。梯度结构张量广泛用于图像处理和计算机视觉中，用于二维/三维图像分割、运动检测、自适应滤波、局部图像特征检测等。

各向异性图像的重要特征包括局部各向异性的方向和一致性。在本文中，我们将展示如何利用梯度结构张量估计方向和一致性，以及如何分割具有单一局部方向的各向异性图像。

图像的梯度结构张量是一个 2x2 对称矩阵。梯度结构张量的特征向量指示局部方向，而特征值给出一致性（各向异性的度量）。

图像 \(Z\) 的梯度结构张量 \(J\) 可以写成

\[J = \begin{bmatrix} J_{11} & J_{12} \\ J_{12} & J_{22} \end{bmatrix}\]

其中 \(J_{11} = M[Z_{x}^{2}]\)，\(J_{22} = M[Z_{y}^{2}]\)，\(J_{12} = M[Z_{x}Z_{y}]\) - 张量的分量，\(M[]\) 是数学期望的符号（我们可以将此运算视为窗口 w 中的平均值），\(Z_{x}\) 和 \(Z_{y}\) 是图像 \(Z\) 关于 \(x\) 和 \(y\) 的偏导数。

张量的特征值可以在下面的公式中找到

\[\lambda_{1,2} = \frac{1}{2} \left [ J_{11} + J_{22} \pm \sqrt{(J_{11} - J_{22})^{2} + 4J_{12}^{2}} \right ] \]

其中 \(\lambda_1\) - 最大特征值，\(\lambda_2\) - 最小特征值。

如何利用梯度结构张量估计各向异性图像的方向和一致性？

各向异性图像的方向

\[\alpha = 0.5arctg\frac{2J_{12}}{J_{22} - J_{11}}\]

一致性

\[C = \frac{\lambda_1 - \lambda_2}{\lambda_1 + \lambda_2}\]

一致性范围从 0 到 1。对于理想的局部方向（\(\lambda_2\) = 0，\(\lambda_1\) > 0），它为 1；对于各向同性的灰度值结构（\(\lambda_1\) = \(\lambda_2\) > 0），它为 0。

源代码

您可以在 OpenCV 源代码库的 samples/cpp/tutorial_code/ImgProc/anisotropic_image_segmentation/anisotropic_image_segmentation.cpp 中找到源代码。

C++

 
#include <iostream>
#include "opencv2/highgui.hpp"
#include "opencv2/imgproc.hpp"
#include "opencv2/imgcodecs.hpp"
 
using namespace cv;
using namespace std;
 
void calcGST(const Mat& inputImg, Mat& imgCoherencyOut, Mat& imgOrientationOut, int w);
 
int main()
{
    int W = 52; // 窗口大小为 WxW
    double C_Thr = 0.43; // 一致性阈值
    int LowThr = 35; // 方向阈值1，范围为 0 到 180
    int HighThr = 57; // 方向阈值2，范围为 0 到 180
 
samples::addSamplesDataSearchSubDirectory("doc/tutorials/imgproc/anisotropic_image_segmentation/images");
    Mat imgIn = imread(samples::findFile("gst_input.jpg"), IMREAD_GRAYSCALE);
    if (imgIn.empty()) // 检查图像是否加载
    {
cout << "ERROR : Image cannot be loaded..!!" << endl;
        return -1;
    }
 
    Mat imgCoherency, imgOrientation;
calcGST(imgIn, imgCoherency, imgOrientation, W);
 
    Mat imgCoherencyBin;
imgCoherencyBin = imgCoherency > C_Thr;
    Mat imgOrientationBin;
inRange(imgOrientation, Scalar(LowThr), Scalar(HighThr), imgOrientationBin);
 
    Mat imgBin;
imgBin = imgCoherencyBin & imgOrientationBin;
 
normalize(imgCoherency, imgCoherency, 0, 255, NORM_MINMAX, CV_8U);
normalize(imgOrientation, imgOrientation, 0, 255, NORM_MINMAX, CV_8U);
 
imshow("原始图像", imgIn);
imshow("结果", 0.5 * (imgIn + imgBin));
imshow("一致性", imgCoherency);
imshow("方向", imgOrientation);
imwrite("result.jpg", 0.5*(imgIn + imgBin));
imwrite("Coherency.jpg", imgCoherency);
imwrite("Orientation.jpg", imgOrientation);
waitKey(0);
    return 0;
}
void calcGST(const Mat& inputImg, Mat& imgCoherencyOut, Mat& imgOrientationOut, int w)
{
    Mat img;
inputImg.convertTo(img, CV_32F);
 
    // GST 分量计算 (开始)
    // J = (J11 J12; J12 J22) - GST
    Mat imgDiffX, imgDiffY, imgDiffXY;
Sobel(img, imgDiffX, CV_32F, 1, 0, 3);
Sobel(img, imgDiffY, CV_32F, 0, 1, 3);
multiply(imgDiffX, imgDiffY, imgDiffXY);
 
    Mat imgDiffXX, imgDiffYY;
multiply(imgDiffX, imgDiffX, imgDiffXX);
multiply(imgDiffY, imgDiffY, imgDiffYY);
 
    Mat J11, J22, J12; // J11、J22和J12是GST分量
boxFilter(imgDiffXX, J11, CV_32F, Size(w, w));
boxFilter(imgDiffYY, J22, CV_32F, Size(w, w));
boxFilter(imgDiffXY, J12, CV_32F, Size(w, w));
    // GST分量计算 (结束)
 
    // 特征值计算 (开始)
    // lambda1 = 0.5*(J11 + J22 + sqrt((J11-J22)^2 + 4*J12^2))
    // lambda2 = 0.5*(J11 + J22 - sqrt((J11-J22)^2 + 4*J12^2))
    Mat tmp1, tmp2, tmp3, tmp4;
tmp1 = J11 + J22;
tmp2 = J11 - J22;
multiply(tmp2, tmp2, tmp2);
multiply(J12, J12, tmp3);
sqrt(tmp2 + 4.0 * tmp3, tmp4);
 
    Mat lambda1, lambda2;
lambda1 = tmp1 + tmp4;
lambda1 = 0.5*lambda1; // 最大特征值
lambda2 = tmp1 - tmp4;
lambda2 = 0.5*lambda2; // 最小特征值
    // 特征值计算 (结束)
 
    // 相干性计算 (开始)
    // 相干性 = (lambda1 - lambda2)/(lambda1 + lambda2)) - 各向异性度量
    // 相干性是各向异性程度（局部方向的一致性）
divide(lambda1 - lambda2, lambda1 + lambda2, imgCoherencyOut);
    // 相干性计算 (结束)
 
    // 方向角计算 (开始)
    // tan(2*Alpha) = 2*J12/(J22 - J11)
    // Alpha = 0.5 atan2(2*J12/(J22 - J11))
phase(J22 - J11, 2.0*J12, imgOrientationOut, true);
imgOrientationOut = 0.5*imgOrientationOut;
    // 方向角计算 (结束)
}

Python

 
import cv2 as cv
import numpy as np
import argparse
 
W = 52 # 窗口大小为 WxW
C_Thr = 0.43 # 相干性阈值
LowThr = 35 # 方向阈值1，范围为0到180
HighThr = 57 # 方向阈值2，范围为0到180
 
 
def calcGST(inputIMG, w):
 
img = inputIMG.astype(np.float32)
 
    # GST分量计算 (开始)
    # J = (J11 J12; J12 J22) - GST
imgDiffX = cv.Sobel(img, cv.CV_32F, 1, 0, 3)
imgDiffY = cv.Sobel(img, cv.CV_32F, 0, 1, 3)
imgDiffXY = cv.multiply(imgDiffX, imgDiffY)
    
 
imgDiffXX = cv.multiply(imgDiffX, imgDiffX)
imgDiffYY = cv.multiply(imgDiffY, imgDiffY)
 
J11 = cv.boxFilter(imgDiffXX, cv.CV_32F, (w,w))
J22 = cv.boxFilter(imgDiffYY, cv.CV_32F, (w,w))
J12 = cv.boxFilter(imgDiffXY, cv.CV_32F, (w,w))
    # GST分量计算 (结束)
 
    # 特征值计算 (开始)
    # lambda1 = 0.5*(J11 + J22 + sqrt((J11-J22)^2 + 4*J12^2))
    # lambda2 = 0.5*(J11 + J22 - sqrt((J11-J22)^2 + 4*J12^2))
tmp1 = J11 + J22
tmp2 = J11 - J22
tmp2 = cv.multiply(tmp2, tmp2)
tmp3 = cv.multiply(J12, J12)
tmp4 = np.sqrt(tmp2 + 4.0 * tmp3)
 
lambda1 = 0.5*(tmp1 + tmp4) # 最大特征值
lambda2 = 0.5*(tmp1 - tmp4) # 最小特征值
    # 特征值计算 (结束)
 
    # 相干性计算 (开始)
    # 相干性 = (lambda1 - lambda2)/(lambda1 + lambda2)) - 各向异性度量
    # 相干性是各向异性程度（局部方向的一致性）
imgCoherencyOut = cv.divide(lambda1 - lambda2, lambda1 + lambda2)
    # 相干性计算 (结束)
 
    # 方向角计算 (开始)
    # tan(2*Alpha) = 2*J12/(J22 - J11)
    # Alpha = 0.5 atan2(2*J12/(J22 - J11))
imgOrientationOut = cv.phase(J22 - J11, 2.0 * J12, angleInDegrees = True)
imgOrientationOut = 0.5 * imgOrientationOut
    # 方向角计算 (结束)
 
    return imgCoherencyOut, imgOrientationOut
 
 
parser = argparse.ArgumentParser(description='各向异性图像分割教程代码。')
parser.add_argument('-i', '--input', help='输入图像路径。', required=True)
args = parser.parse_args()
 
imgIn = cv.imread(args.input, cv.IMREAD_GRAYSCALE)
if imgIn is None:
print('无法打开或找到图像：{}'.format(args.input))
exit(0)
 
 
imgCoherency, imgOrientation = calcGST(imgIn, W)
 
 
_, imgCoherencyBin = cv.threshold(imgCoherency, C_Thr, 255, cv.THRESH_BINARY)
_, imgOrientationBin = cv.threshold(imgOrientation, LowThr, HighThr, cv.THRESH_BINARY)
 
 
 
imgBin = cv.bitwise_and(imgCoherencyBin, imgOrientationBin)
 
 
imgCoherency = cv.normalize(imgCoherency, None, alpha=0, beta=1, norm_type=cv.NORM_MINMAX, dtype=cv.CV_32F)
imgOrientation = cv.normalize(imgOrientation, None, alpha=0, beta=1, norm_type=cv.NORM_MINMAX, dtype=cv.CV_32F)
 
cv.imshow('result.jpg', np.uint8(0.5*(imgIn + imgBin)))
cv.imshow('Coherency.jpg', imgCoherency)
cv.imshow('Orientation.jpg', imgOrientation)
cv.waitKey(0)
 

解释

各向异性图像分割算法包括梯度结构张量计算、方向计算、一致性计算以及方向和一致性阈值化。

C++

    Mat imgCoherency, imgOrientation;
calcGST(imgIn, imgCoherency, imgOrientation, W);
 
    Mat imgCoherencyBin;
imgCoherencyBin = imgCoherency > C_Thr;
    Mat imgOrientationBin;
    inRange(imgOrientation, Scalar(LowThr), Scalar(HighThr), imgOrientationBin);
 
    Mat imgBin;
imgBin = imgCoherencyBin & imgOrientationBin;

Python

imgCoherency, imgOrientation = calcGST(imgIn, W)
 
 
_, imgCoherencyBin = cv.threshold(imgCoherency, C_Thr, 255, cv.THRESH_BINARY)
_, imgOrientationBin = cv.threshold(imgOrientation, LowThr, HighThr, cv.THRESH_BINARY)
 
 
 
imgBin = cv.bitwise_and(imgCoherencyBin, imgOrientationBin)
 

函数calcGST()使用梯度结构张量计算方向和一致性。输入参数w定义窗口大小。

C++

void calcGST(const Mat& inputImg, Mat& imgCoherencyOut, Mat& imgOrientationOut, int w)
{
    Mat img;
inputImg.convertTo(img, CV_32F);
 
    // GST 分量计算 (开始)
    // J = (J11 J12; J12 J22) - GST
    Mat imgDiffX, imgDiffY, imgDiffXY;
    Sobel(img, imgDiffX, CV_32F, 1, 0, 3);
    Sobel(img, imgDiffY, CV_32F, 0, 1, 3);
    multiply(imgDiffX, imgDiffY, imgDiffXY);
 
    Mat imgDiffXX, imgDiffYY;
    multiply(imgDiffX, imgDiffX, imgDiffXX);
    multiply(imgDiffY, imgDiffY, imgDiffYY);
 
    Mat J11, J22, J12; // J11、J22和J12是GST分量
    boxFilter(imgDiffXX, J11, CV_32F, Size(w, w));
    boxFilter(imgDiffYY, J22, CV_32F, Size(w, w));
    boxFilter(imgDiffXY, J12, CV_32F, Size(w, w));
    // GST分量计算 (结束)
 
    // 特征值计算 (开始)
    // lambda1 = 0.5*(J11 + J22 + sqrt((J11-J22)^2 + 4*J12^2))
    // lambda2 = 0.5*(J11 + J22 - sqrt((J11-J22)^2 + 4*J12^2))
    Mat tmp1, tmp2, tmp3, tmp4;
tmp1 = J11 + J22;
tmp2 = J11 - J22;
    multiply(tmp2, tmp2, tmp2);
    multiply(J12, J12, tmp3);
sqrt(tmp2 + 4.0 * tmp3, tmp4);
 
    Mat lambda1, lambda2;
lambda1 = tmp1 + tmp4;
lambda1 = 0.5*lambda1; // 最大特征值
lambda2 = tmp1 - tmp4;
lambda2 = 0.5*lambda2; // 最小特征值
    // 特征值计算 (结束)
 
    // 相干性计算 (开始)
    // 相干性 = (lambda1 - lambda2)/(lambda1 + lambda2)) - 各向异性度量
    // 相干性是各向异性程度（局部方向的一致性）
    divide(lambda1 - lambda2, lambda1 + lambda2, imgCoherencyOut);
    // 相干性计算 (结束)
 
    // 方向角计算 (开始)
    // tan(2*Alpha) = 2*J12/(J22 - J11)
    // Alpha = 0.5 atan2(2*J12/(J22 - J11))
    phase(J22 - J11, 2.0*J12, imgOrientationOut, true);
imgOrientationOut = 0.5*imgOrientationOut;
    // 方向角计算 (结束)
}

Python

def calcGST(inputIMG, w):
 
img = inputIMG.astype(np.float32)
 
    # GST分量计算 (开始)
    # J = (J11 J12; J12 J22) - GST
imgDiffX = cv.Sobel(img, cv.CV_32F, 1, 0, 3)
imgDiffY = cv.Sobel(img, cv.CV_32F, 0, 1, 3)
imgDiffXY = cv.multiply(imgDiffX, imgDiffY)
    
 
imgDiffXX = cv.multiply(imgDiffX, imgDiffX)
imgDiffYY = cv.multiply(imgDiffY, imgDiffY)
 
J11 = cv.boxFilter(imgDiffXX, cv.CV_32F, (w,w))
J22 = cv.boxFilter(imgDiffYY, cv.CV_32F, (w,w))
J12 = cv.boxFilter(imgDiffXY, cv.CV_32F, (w,w))
    # GST分量计算 (结束)
 
    # 特征值计算 (开始)
    # lambda1 = 0.5*(J11 + J22 + sqrt((J11-J22)^2 + 4*J12^2))
    # lambda2 = 0.5*(J11 + J22 - sqrt((J11-J22)^2 + 4*J12^2))
tmp1 = J11 + J22
tmp2 = J11 - J22
tmp2 = cv.multiply(tmp2, tmp2)
tmp3 = cv.multiply(J12, J12)
tmp4 = np.sqrt(tmp2 + 4.0 * tmp3)
 
lambda1 = 0.5*(tmp1 + tmp4) # 最大特征值
lambda2 = 0.5*(tmp1 - tmp4) # 最小特征值
    # 特征值计算 (结束)
 
    # 相干性计算 (开始)
    # 相干性 = (lambda1 - lambda2)/(lambda1 + lambda2)) - 各向异性度量
    # 相干性是各向异性程度（局部方向的一致性）
imgCoherencyOut = cv.divide(lambda1 - lambda2, lambda1 + lambda2)
    # 相干性计算 (结束)
 
    # 方向角计算 (开始)
    # tan(2*Alpha) = 2*J12/(J22 - J11)
    # Alpha = 0.5 atan2(2*J12/(J22 - J11))
imgOrientationOut = cv.phase(J22 - J11, 2.0 * J12, angleInDegrees = True)
imgOrientationOut = 0.5 * imgOrientationOut
    # 方向角计算 (结束)
 
    return imgCoherencyOut, imgOrientationOut

下面的代码对图像方向应用阈值LowThr和HighThr，对先前函数计算的图像一致性应用阈值C_Thr。LowThr和HighThr定义方向范围。

C++

    Mat imgCoherencyBin;
imgCoherencyBin = imgCoherency > C_Thr;
    Mat imgOrientationBin;
    inRange(imgOrientation, Scalar(LowThr), Scalar(HighThr), imgOrientationBin);

Python

_, imgCoherencyBin = cv.threshold(imgCoherency, C_Thr, 255, cv.THRESH_BINARY)
_, imgOrientationBin = cv.threshold(imgOrientation, LowThr, HighThr, cv.THRESH_BINARY)

最后，我们结合阈值结果。

C++

    Mat imgBin;
imgBin = imgCoherencyBin & imgOrientationBin;

Python

imgBin = cv.bitwise_and(imgCoherencyBin, imgOrientationBin)

结果

下面您可以看到具有单个方向的真实各向异性图像：

下面您可以看到各向异性图像的方向和一致性：

下面您可以看到分割结果：

结果使用w = 52, C_Thr = 0.43, LowThr = 35, HighThr = 57计算得出。我们可以看到该算法只选择了具有单个方向的区域。

参考

• 结构张量 - 维基百科上的结构张量描述