OpenCV图像修复cv2.inpaint()的使用

这篇博客将介绍如何通过OpenCV中图像修复的技术——cv2.inpaint() 去除旧照片中的小噪音、笔划等。并提供一个可交互式的程序，利用OpenCV的快速行进和流体力学俩种修复算法对自己的图片进行修复。

大多数人家里都会有一些旧的老化照片，上面有一些黑点、笔划等。如何复原呢？

在绘制工具中擦除：将简单地用无用的白色结构替换黑色结构，效果并不理想。OpenCV中图像修复的技术——基本思想很简单：用相邻像素替换这些坏标记，使其看起来像邻居。

• cv2.INPAINT_TELEA（Fast Marching Method 快速行进算法）

• cv2.INPAINT_NS（Fluid Dynamics Method 流体力学算法）

• OpenCV未实现的：Content-Aware Fill 内容感知填充算法，这是Adobe Photoshop中使用的一种高级修复技术。

cv2.inpaint() 优点：修复效果更加自然；
缺点：修复时需要提供原图以及mask图（与原图一致只有被污染的像素区域有值）；

1. 效果图

官方原始图 VS mask图 VS 快速行进算法修复效果 VS 流体力学修复效果 如下：

接下来用可交互的例子实现自己的图片修复；

原始图 VS Mask图 VS 快速行进算法修复效果图如下：
原始图随意用鼠标左键移动绘制点、线，右键移动绘制矩形来随机增加一些被污染的区域；
并根据原始图生成mask图，mask图是与原始图具有相同大小，并且只有被污染的区域是白色像素的图。可以看到修复效果还是挺好的~

原始图 VS Mask图 VS 流体力学算法修复效果图如下：
原始图随意用鼠标左键移动绘制点、线，右键移动绘制矩形来随机增加一些被污染的区域；
mask图是与原始图具有相同大小，并且只有被污染的区域是白色像素的图。可以看到修复效果还是挺好的~

快速行进算法与流体力学算法修复的效果图差别不太大；

2. 原理

• cv2.INPAINT_TELEA （Fast Marching Method 快速行进算法），对位于点附近、边界法线附近和边界轮廓上的像素赋予更多权重。一旦一个像素被修复，它将使用快速行进的方法移动到下一个最近的像素。

• cv2.INPAINT_NS（Fluid Dynamics Method 流体力学算法），使用了流体力学的一些方法，基本原则是启发式的。首先沿着边从已知区域移动到未知区域（因为边是连续的）。它在匹配修复区域边界处的渐变向量的同时，继续等高线（连接具有相同强度的点的线，就像等高线连接具有相同高程的点一样）。

• OpenCV未实现的：Content-Aware Fill 内容感知填充算法，这是Adobe Photoshop中使用的一种高级修复技术。

3. 源码

# 图像修复交互式案例——通过水流填充算法来修复被破坏的图像区域；
# 使用俩种方法进行修复
# cv2.INPAINT_TELEA （Fast Marching Method 快速行进算法），对位于点附近、边界法线附近和边界轮廓上的像素赋予更多权重。一旦一个像素被修复，它将使用快速行进的方法移动到下一个最近的像素。
# cv2.INPAINT_NS 流体力学算法，使用了流体力学的一些方法，基本原则是启发式的，首先沿着边从已知区域移动到未知区域（因为边是连续的）。它在匹配修复区域边界处的渐变向量的同时，继续等高线（连接具有相同强度的点的线，就像等高线连接具有相同高程的点一样）。

# USAGE
# python inpaint.py D:/deepLearning/py-demo/20210808/images/ml.jpg

# 按下鼠标左键,添加点、线，按下鼠标右键，添加矩形框，以制作被污染的需要修复图像
# 按下空格键：执行修复功能
# 按下r键：重置待修复的mask
# 按下esc键，退出
import cv2
import numpy as np

class Sketcher:
   def __init__(self, windowname, dests, colors_func):
       self.prev_pt = None  # 线起始点
       self.drag_start = None  # 矩形起点
       self.drag_rect = None  # 矩形（左上角，右下角）坐标
       self.windowname = windowname
       self.dests = dests
       self.colors_func = colors_func
       self.dirty = False
       self.drawing = False
       self.mode = False
       self.show()
       cv2.setMouseCallback(self.windowname, self.on_mouse)

def show(self):
       cv2.imshow(self.windowname, self.dests[0])

def on_mouse(self, event, x, y, flags, param):
       pt = (x, y)
       if event == cv2.EVENT_LBUTTONDOWN:
           self.prev_pt = pt
           self.drawing = True
       elif event == cv2.EVENT_RBUTTONDOWN:
           # 第一次初始化时设定pt，往后保留上一个点作为矩形起点
           if self.drag_start == None:
               self.drag_start = pt

if self.prev_pt and flags & cv2.EVENT_FLAG_LBUTTON:
           for dst, color in zip(self.dests, self.colors_func()):
               cv2.line(dst, self.prev_pt, pt, color, 5)
           self.dirty = True
           self.prev_pt = pt
           self.show()

if self.drag_start and flags & cv2.EVENT_FLAG_RBUTTON:
           xo, yo = self.drag_start
           x0, y0 = np.minimum([xo, yo], [x, y])
           x1, y1 = np.maximum([xo, yo], [x, y])
           self.drag_rect = None
           if x1 - x0 > 0 and y1 - y0 > 0:
               self.drag_rect = (x0, y0, x1, y1)
               for dst, color in zip(self.dests, self.colors_func()):
                   cv2.rectangle(dst, (x0, y0), (x1, y1), color, -1)
               self.dirty = True
               self.drag_start = None
               self.drag_rect = None
               self.show()
           else:
               self.drag_start = pt

@property
   def dragging(self):
       return self.drag_rect is not None

def main():
   import sys
   try:
       fn = sys.argv[1]
   except:
       fn = 'images/ml_.jpg'

img = cv2.imread(fn)
   if img is None:
       print('Failed to load image file:', fn)
       sys.exit(1)

img_mark = img.copy()
   mark = np.zeros(img.shape[:2], np.uint8)
   sketch = Sketcher('img', [img_mark, mark], lambda: ((255, 255, 255), 255))

while True:
       ch = cv2.waitKey()
       if ch == 27:
           break
       if ch == ord(' '):
           cv2.imshow('mask', mark)
           fmmres = cv2.inpaint(img_mark, mark, 3, cv2.INPAINT_TELEA)
           nsres = cv2.inpaint(img_mark, mark, 3, cv2.INPAINT_NS)
           cv2.imshow('inpaint fmm res', fmmres)
           cv2.imshow('inpaint ns res', nsres)
       if ch == ord('r'):
           img_mark[:] = img
           mark[:] = 0
           sketch.show()

print('Done')

if __name__ == '__main__':
   main()
   cv2.destroyAllWindows()

参考 https://docs.opencv.org/3.0-beta/doc/py_tutorials/py_photo/py_inpainting/py_inpainting.html#inpainting

来源：https://blog.csdn.net/qq_40985985/article/details/119508318