此程式碼片段實作了卷積運算的核心邏輯，包含前向傳播和反向傳播的計算。_get_image_patches 函式將輸入影像分割成多個區塊（patches），以便後續進行卷積操作。_output 函式利用這些區塊和卷積核引數計算卷積輸出。_param_grad 和 _input_grad 函式則分別計算引數和輸入的梯度，用於模型訓練時的引數更新和反向傳播。這些函式共同構成了 Conv2DOperation 的基礎，實作了卷積層的核心功能。
_get_image_patches 函式
該函式用於將輸入資料劃分為多個 patches，以便進行卷積運算。
def _get_image_patches(input_, patch_size):
"""
將輸入資料劃分為多個 patches。
Args:
input_ (numpy.ndarray): 輸入資料。
patch_size (int): patch 的大小。
Returns:
numpy.ndarray: patches。
"""
batch_size, in_channels, img_height, img_width = input_.shape
patches = np.zeros((batch_size, in_channels, patch_size, patch_size, img_height - patch_size + 1, img_width - patch_size + 1))
for i in range(patch_size):
for j in range(patch_size):
patches[:, :, i, j, :, :] = input_[:, :, i:img_height - patch_size + i + 1, j:img_width - patch_size + j + 1]
return patches
_output 函式
該函式用於計算 Conv2DOperation 的輸出。
def _output(input_, param):
"""
計算 Conv2DOperation 的輸出。
Args:
input_ (numpy.ndarray): 輸入資料。
param (numpy.ndarray): Conv2DOperation 的引數。
Returns:
numpy.ndarray: 輸出資料。
"""
batch_size, in_channels, img_height, img_width = input_.shape
output = np.zeros((batch_size, in_channels, img_height - param.shape[2] + 1, img_width - param.shape[3] + 1))
patches = _get_image_patches(input_, param.shape[2])
for i in range(img_height - param.shape[2] + 1):
for j in range(img_width - param.shape[3] + 1):
output[:, :, i, j] = np.sum(patches[:, :, :, :, i, j] * param, axis=(1, 2, 3))
return output
_param_grad 函式
該函式用於計算 Conv2DOperation 的引數梯度。
def _param_grad(input_, output_grad):
"""
計算 Conv2DOperation 的引數梯度。
Args:
input_ (numpy.ndarray): 輸入資料。
output_grad (numpy.ndarray): 輸出梯度。
Returns:
numpy.ndarray: 引數梯度。
"""
batch_size, in_channels, img_height, img_width = input_.shape
param_grad = np.zeros((in_channels, output_grad.shape[1], output_grad.shape[2], output_grad.shape[3]))
patches = _get_image_patches(input_, output_grad.shape[2])
for i in range(in_channels):
for j in range(output_grad.shape[1]):
for k in range(output_grad.shape[2]):
for l in range(output_grad.shape[3]):
param_grad[i, j, k, l] = np.sum(patches[:, i, :, :, :, :] * output_grad[:, j, k, l], axis=0)
return param_grad
_input_grad 函式
該函式用於計算 Conv2DOperation 的輸入梯度。
def _input_grad(output_grad, param):
"""
計算 Conv2DOperation 的輸入梯度。
Args:
output_grad (numpy.ndarray): 輸出梯度。
param (numpy.ndarray): Conv2DOperation 的引數。
Returns:
numpy.ndarray: 輸入梯度。
"""
batch_size, in_channels, img_height, img_width = output_grad.shape
input_grad = np.zeros((batch_size, in_channels, img_height + param.shape[2] - 1, img_width + param.shape[3] - 1))
patches = _get_image_patches(output_grad, param.shape[2])
for i in range(in_channels):
for j in range(img_height):
for k in range(img_width):
input_grad[:, i, j, k] = np.sum(patches[:, i, :, :, j, k] * param, axis=(1, 2, 3))
return input_grad
這些函式共同實作了 Conv2DOperation 的核心功能，包括輸出計算、引數梯度計算和輸入梯度計算。
從底層實作到高階應用的全面檢視顯示，這些 Python 函式提供了一個基礎的二維卷積運算（Conv2DOperation）實作。透過 _get_image_patches 函式將輸入資料分割成 patches，_output 函式有效地執行了卷積核心計算。而 _param_grad 和 _input_grad 函式則分別計算了引數和輸入的梯度，為反向傳播演算法提供了必要的元件。然而，根據多層迴圈的實作方式，效能可能成為瓶頸，尤其在處理大批次資料或大型卷積核時。目前的實作缺乏向量化最佳化，限制了其在實際應用中的效率。考量未來發展，匯入向量化運算和利用現有深度學習框架的最佳化策略，例如使用 NumPy 的高效陣列操作或整合至 TensorFlow/PyTorch 等，將是提升效能的關鍵。對於追求高效能運算的場景，建議參考或直接使用成熟的深度學習框架提供的卷積運算實作。接下來，探索如何將這些基礎函式整合至更複雜的深度學習模型，並針對不同硬體平臺進行效能調校，將是重要的研究方向。
