开放科学(资源服务)标志码(OSID):
随着生物电子技术的发展,人工神经网络的研究也不断取得进展。文献[1]根据哺乳动物视觉皮层神经元信号传导特性,构建一种新的神经网络模型。文献[2]将神经网络模型改进为用于图像处理领域的模型,并命名为脉冲耦合神经网络(Pulse Coupled Neural Network,PCNN)。传统的PCNN模型可分为耦合连接和无耦合连接两种模式,被广泛应用于图像分割[3-4]、图像融合[5-6]、图像去噪[7-8]、图像检索[9-10]以及图像边缘检测[11-12]等领域。通常将无耦合连接模式下的网络称为无耦合PCNN。无耦合PCNN模型虽然没有耦合连接项,但是保留了PCNN模型的核心子系统部分,具有网络参数少的特点,近年来,逐渐被应用于图像处理领域[13]。
研究人员通过对图像进行信息提取或变换域处理,融合PCNN模型进行参数自适应设定,并应用于特定的图像处理领域。文献[14]通过SIST(Shift Invariant Shearlet Transform)方法获取图像的高频子带和低频子带频率,使用SOM(Self-Origanizing Maps)网络进行初步分类,之后融合改进的PCNN模型,获得较优的图像分割效果。文献[15]利用非下采样轮廓波变换对图像进行多尺度和多方向分解,获得低通子带和多个带通方向子带,并将其与改进后的PCNN模型相结合用于多聚焦图像融合。文献[16]基于图像NSCT(Non-Subsampled Contourlet Transform)域变换提取图像的边缘特征,提出一种结合自适应PCNN的红外与可见光图像融合算法。文献[17]通过建立待分割图像统计特性与PCNN神经元动态特性之间的直接关系,完成简化PCNN的参数自适应设置。文献[18]通过计算分割图像的最小交叉熵,提出一种新的基于循环迭代的自适应图像分割算法,用于改进PCNN阈值分割机制。此外,研究人员通过对网络模型进行理论分析,以解释网络本质特性并进行参数的自适应设定。文献[19]分析改进后PCNN网络的动态行为,明确PCNN的动态行为特性受网络参数变化的影响,并提出网络参数确定准则,使得所有神经元只点火一次。文献[20]通过分析PCNN中神经元的脉冲发放周期,定义了动态比,以得出近似的脉冲发放周期公式。文献[21]根据PCNN工作机理的时域分析,提出一种在点火神经元没有完全灭火时不允许灭火神经元重新点火的网络工作模式,并用于图像的自适应分割。然而,上述PCNN模型的研究都只是从时域方面或图像本身所含信息方面分析参数与模型之间的关系,在网络本质的特性挖掘方面还存在着一定的局限性和片面性。
本文从频域角度对无耦合PCNN的网络参数与模型特性之间的关系进行分析。通过推导动态门限子系统的频率响应函数,揭示动态门限子系统具有低通特性,同时分析参数对动态门限子系统频率响应的影响,推导无耦合连接时PCNN有效点火时刻方程、动态门限衰减频率和脉冲发放频率的方程,解释无耦合PCNN的网络参数对网络频域特性的影响。
1 基本概念 1.1 数学模型无耦合PCNN模型由输入子系统、动态门限子系统和输出子系统组成,分别如式(1)~式(3)所示[22]:
$ {U}_{ij}\left(n\right)={S}_{ij} $ | (1) |
$ {E}_{ij}\left(n\right)={{\mathrm{e}}}^{-{a}_{E}}{E}_{ij}(n-1)+{v}_{E}{Y}_{ij}(n-1) $ | (2) |
$ {Y}_{ij}\left(n\right)=\varepsilon \left({U}_{ij}\right(n)-{E}_{ij}(n\left)\right) $ | (3) |
其中:
在前期研究中[23]已经得知无耦合PCNN的第1次神经元点火时刻不受网络参数的影响,因此重点分析了网络的第2次点火时刻,又称为第1次有效点火时刻(所有输入值在第1次迭代时发生的点火称为无效点火,其后各次点火为有效点火),通过推导所得第1次有效点火时刻
$ {N}_{1}={\mathrm{c}}{\mathrm{e}}{\mathrm{i}}{\mathrm{l}}\left(2+\frac{1}{{a}_{E}}{\mathrm{l}}{\mathrm{n}}\left(\frac{{v}_{E}}{{S}_{ij}}\right)\right) $ | (4) |
由于网络数学模型为差分方程,因此当理论点火时刻为小数时,实际点火时刻为下一个整数时刻。在第1次有效点火时刻计算中引入向上取整函数
在实际图像的处理过程中,输入子系统的输入为图像对应像素点的灰度值,是简单的线性系统。本文对式(1)表示的输入子系统不展开分析。由于无耦合网络的时域特性完全受参数影响,因此本文对于网络的频域分析,根据动态门限子系统的频域特性分析参数对动态门限子系统的影响,将式(1)、式(2)和式(3)联系起来,分别分析网络中动态变量
动态门限子系统是无耦合PCNN模型的核心子系统,由差分方程式(2)表示,对式(2)进行
$ {E}_{ij}\left(z\right)={{\mathrm{e}}}^{-{a}_{E}}{z}^{-1}{E}_{ij}\left(z\right)+{v}_{E}{z}^{-1}{Y}_{ij}\left(z\right) $ | (5) |
动态门限子系统的系统函数如式(6)所示:
$ {H}_{E}\left(z\right)=\frac{E\left(z\right)}{Y\left(z\right)}=\frac{{v}_{E}{z}^{-1}}{1-{{\mathrm{e}}}^{-{a}_{E}}{z}^{-1}}=\frac{{v}_{E}}{z-{{\mathrm{e}}}^{-{a}_{E}}} $ | (6) |
根据系统函数
从零极点对系统影响可知,子系统函数无零点,且极点
动态门限子系统的系统函数
$ {H}_{E}\left({{\mathrm{e}}}^{{\mathrm{j}}\omega }\right)=\begin{array}{cc}\left(\frac{{v}_{E}}{{{\mathrm{e}}}^{{\mathrm{j}}\omega }-{{\mathrm{e}}}^{-{a}_{E}}}\right), {a}_{E} > 0& \begin{array}{cc}& \end{array}\end{array} $ | (7) |
根据频率响应函数
$ \left|{H}_{E}\left({{\mathrm{e}}}^{{\mathrm{j}}\omega }\right)\right|=\left|\frac{{v}_{E}}{{{\mathrm{e}}}^{{\mathrm{j}}\omega }-{{\mathrm{e}}}^{-{a}_{E}}}\right|=\left|\frac{{v}_{E}}{\sqrt{1-2{{\mathrm{e}}}^{-{a}_{E}}{\mathrm{c}}{\mathrm{o}}{\mathrm{s}}\omega +{{\mathrm{e}}}^{-2{a}_{E}}}}\right| $ | (8) |
由式(8)可知,参数
![]() |
Download:
|
图 1 参数对动态门限子系统幅频特性的影响 Fig. 1 Influence of parameters on amplitude-frequency characteristics of the dynamic threshold subsystem |
从图 1(a)可以看出,参数
无耦合PCNN是一个非线性系统,其神经元的输入与神经元的脉冲发放频率之间存在非线性关系。当参数
![]() |
Download:
|
图 2 动态门限和点火时刻的变化 Fig. 2 Change of dynamic threshold and firing timing |
因此,输入值与神经元点火周期和动态门限衰减存在非线性映射关系。为分析这种非线性关系,在单个神经元的一个有效点火周期内建立关系,如式(9)所示:
$ {E}_{ij{\mathrm{m}}{\mathrm{i}}{\mathrm{n}}}={U}_{ij}\left(n\right) $ | (9) |
当单个神经元的输入值与动态门限最小值相等时,神经元发生点火。由式(2)可知,动态门限的最大值是脉冲点火时刻后下一次的门限值,
$ {S}_{ij}=({v}_{E}+{S}_{ij}{{\mathrm{e}}}^{-{a}_{E}}){{\mathrm{e}}}^{-{a}_{E}I} $ | (10) |
间隔
$ I=\frac{1}{{a}_{E}}{\mathrm{l}}{\mathrm{n}}\left(\frac{{v}_{E}}{{S}_{ij}}+{{\mathrm{e}}}^{-{a}_{E}}\right) $ | (11) |
脉冲发放间隔应满足
$ {T}_{{s}_{ij}}=I+1=\frac{1}{{a}_{E}}\left({\mathrm{l}}{\mathrm{n}}\left(\frac{{v}_{E}}{{S}_{ij}}+{{\mathrm{e}}}^{-{a}_{E}}\right)\right)+1 $ | (12) |
不同输入
$ T={\mathrm{c}}{\mathrm{e}}{\mathrm{i}}{\mathrm{l}}\left({T}_{{s}_{ij}}\right)={\mathrm{c}}{\mathrm{e}}{\mathrm{i}}{\mathrm{l}}\left(\frac{1}{{a}_{E}}\left({\mathrm{l}}{\mathrm{n}}\left(\frac{{v}_{E}}{{S}_{ij}}+{{\mathrm{e}}}^{-{a}_{E}}\right)\right)\right)+1 $ | (13) |
无耦合PCNN在得到能够反映实际脉冲发放的周期后,脉冲发放时刻如式(14)所示:
$ {Y}_{ij}\left(n\right)=\delta (n-{N}_{1}-rT)\text{,}r\in {\mathrm{1, 2}}, \cdots , n $ | (14) |
其中:单位冲激函数
由脉冲发放时刻方程可知,无耦合PCNN脉冲点火具有周期性,而周期为N的序列可展开成离散傅里叶级数(Discrete Fourier Series,DFS)。因此,在一个周期内对脉冲发放时刻式(14)进行傅里叶级数展开,如式(15)所示:
$ {Y}_{ij}\left(k\right)={\mathrm{D}}{\mathrm{F}}{\mathrm{S}}\left({Y}_{ij}\right(n\left)\right)=\sum \limits_{n=0}^{N}{Y}_{ij}\left(n\right){{\mathrm{e}}}^{-{\mathrm{j}}\frac{2{\mathrm{\pi }}}{N}kn}=\sum\limits_{n={N}_{1}}^{T+{N}_{1}-1}\delta (n-{N}_{1}){{\mathrm{e}}}^{-{\mathrm{j}}\frac{2{\mathrm{\pi }}}{T}kn}\\={{\mathrm{e}}}^{-{\mathrm{j}}\frac{2{\mathrm{\pi }}}{T}k{N}_{1}} $ | (15) |
本文对脉冲发放时刻的傅里叶级数表达式进行傅里叶变换(Fourier Transform,FT),可得其脉冲发放频率表达式,如式(16)所示:
$ {Y}_{ij}\left({{\mathrm{e}}}^{{\mathrm{j}}\omega }\right)={\mathrm{F}}{\mathrm{T}}\left({Y}_{ij}\right(k\left)\right)=\frac{2{\mathrm{\pi }}}{N}\sum\limits _{k=-\infty }^{k=\infty }{Y}_{ij}\left(k\right)\delta \left(\omega -\frac{2{\mathrm{\pi }}}{N}k\right)=\\\frac{2{\mathrm{\pi }}}{T}\sum\limits _{k=-{\mathrm{\infty }}}^{k={\mathrm{\infty }}}{{\mathrm{e}}}^{-{\mathrm{j}}\frac{2{\mathrm{\pi }}}{T}k{N}_{1}}\delta \left(\omega -\frac{2{\mathrm{\pi }}}{T}k\right) $ | (16) |
幅值谱函数如式(17)所示:
$ \left|{Y}_{ij}\left({{\mathrm{e}}}^{{\mathrm{j}}\omega }\right)\right|=\frac{2{\mathrm{\pi }}}{T}\delta \left(\omega -\frac{2{\mathrm{\pi }}}{T}k\right) $ | (17) |
由式(17)可知,无耦合PCNN的脉冲发放幅值谱是由一系列幅值为
![]() |
Download:
|
图 3 参数 |
![]() |
Download:
|
图 4 参数 |
因此,在无耦合PCNN模型中,参数
动态门限子系统是一个衰减系统,因此将该子系统的输出动态变量
$ {E}_{ij}\left({{\mathrm{e}}}^{{\mathrm{j}}\omega }\right)={Y}_{ij}\left({{\mathrm{e}}}^{{\mathrm{j}}\omega }\right)\times {H}_{E}\left({{\mathrm{e}}}^{{\mathrm{j}}\omega }\right) $ | (18) |
由于式中
$ {E}_{ij}\left({{\mathrm{e}}}^{{\mathrm{j}}\omega }\right)=\frac{2{\mathrm{\pi }}}{T}{{\mathrm{e}}}^{-{\mathrm{j}}\frac{2{\mathrm{\pi }}}{T}k{N}_{1}}\delta \left(\omega -\frac{2{\mathrm{\pi }}}{T}k\right)\left(\frac{{v}_{E}}{{{\mathrm{e}}}^{{\mathrm{j}}\omega }-{{\mathrm{e}}}^{-{a}_{E}}}\right) $ | (19) |
频谱函数如式(20)所示:
$ \begin{array}{l}\left|{E}_{ij}\left({{\mathrm{e}}}^{{\mathrm{j}}\omega }\right)\right|=\frac{2{\mathrm{\pi }}}{T}\delta \left(\omega -\frac{2{\mathrm{\pi }}}{T}k\right)\\ \frac{{v}_{E}}{\sqrt{1-2{{\mathrm{e}}}^{-{a}_{E}}{\mathrm{c}}{\mathrm{o}}{\mathrm{s}}\omega +{{\mathrm{e}}}^{-2{a}_{E}}}}\end{array} $ | (20) |
当选取输入
![]() |
Download:
|
图 5 |
![]() |
Download:
|
图 6 |
从式(20)可知,动态门限幅频函数
因此,在无耦合PCNN模型中,参数
本文通过式(7)、式(16)和式(19)描述了无耦合PCNN模型的频域特性,通过分析参数对无耦合PCNN模型频域特性的影响,得出参数影响网络运行的结论。在主频2.8 GHz(双核),内存12 GB的计算机上利用Python3.8平台完成数值模拟实验,验证了无耦合PCNN频域相关公式推导及理论分析结论的正确性。
3.1 实际网络脉冲发放时刻为验证对脉冲发放时刻推导的正确性,本文构建一幅灰度值已知的人工测试灰度图与灰度值,如图 7所示。
![]() |
Download:
|
图 7 人工测试灰度图与灰度值 Fig. 7 Gray scale image of manual test and gray scale value |
当网络参数
![]() |
Download:
|
图 8 人工测试图的迭代过程 Fig. 8 Iterative process of manual test image |
![]() |
Download:
|
图 9 不同像素第1次有效点火时刻和点火周期 Fig. 9 The first effective firing time and firing cycle of different pixels |
本文分别选取灰度值
![]() |
Download:
|
图 10 实际脉冲发放过程 Fig. 10 Actual pulse firing process |
本文分别选取灰度值
![]() |
Download:
|
图 11 网络实际动态门限变化过程 Fig. 11 Actual dynamic threshold change process of network |
本文分析了无耦合PCNN的频域特性。通过对无耦合PCNN动态门限子系统进行分析,得出动态门限子系统稳定的条件,确定参数的取值范围,并指出动态门限子系统具有低通特性。同时分析单个神经元的脉冲发放频率特性和动态阈值频域特性,明确参数对网络动态频域的影响。仿真实验结果验证理论分析结论的正确性。后续将从图像特性角度分析图像统计特性对网络参数的影响,设计无耦合PCNN模型用于图像分割时的参数自适应设置方法,使无耦合PCNN模型广泛应用于图像处理领域。
[1] |
ECKHORN R, REITBOECK H J, ARNDT M, et al. Feature linking via synchronization among distributed assemblies: simulations of results from cat visual cortex[J]. Neural Computation, 1990, 2(3): 293-307. DOI:10.1162/neco.1990.2.3.293 |
[2] |
JOHNSON J L, PADGETT M L. PCNN models and applications[J]. IEEE Transactions on Neural Networks, 1999, 10(3): 480-498. DOI:10.1109/72.761706 |
[3] |
LIAN J, YANG Z, LIU J Z, et al. An overview of image segmentation based on pulse-coupled neural network[J]. Archives of Computational Methods in Engineering, 2021, 28(2): 387-403. DOI:10.1007/s11831-019-09381-5 |
[4] |
GUO Y N, YANG Z, MA Y D, et al. Saliency motivated improved simplified PCNN model for object segmentation[J]. Neurocomputing, 2018, 275(C): 2179-2190. DOI:10.1016/j.neucom.2017.10.057 |
[5] |
TAN W, XIANG P, ZHANG J J, et al. Remote sensing image fusion via boundary measured dual-channel PCNN in multi-scale morphological gradient domain[J]. IEEE Access, 2020, 8: 42540-42549. DOI:10.1109/ACCESS.2020.2977299 |
[6] |
LI L L, MA H B. Pulse coupled neural network-based multimodal medical image fusion via guided filtering and WSEML in NSCT domain[J]. Entropy, 2021, 23(5): 591. DOI:10.3390/e23050591 |
[7] |
MOHAMMED M M, BADR A, ABDELHALIM M B. Image classification and retrieval using optimized Pulse-Coupled Neural Network[J]. Expert Systems With Applications, 2015, 42(11): 4927-4936. DOI:10.1016/j.eswa.2015.02.019 |
[8] |
YONEKAWA M, KUROKAWA H. The content-based image retrieval using the pulse coupled neural network[C]//Proceedings of International Joint Conference on Neural Networks. Washington D.C., USA: IEEE Press, 2012: 1-8.
|
[9] |
DENG X Y, MA Y D, DONG M. A new adaptive filtering method for removing salt and pepper noise based on multilayered PCNN[J]. Pattern Recognition Letters, 2016, 79: 8-17. DOI:10.1016/j.patrec.2016.04.019 |
[10] |
SHEN C, WANG D, TANG S M, et al. Hybrid image noise reduction algorithm based on genetic ant colony and PCNN[J]. The Visual Computer, 2017, 33(11): 1373-1384. DOI:10.1007/s00371-016-1325-x |
[11] |
DENG X Y, MA Y. PCNN model analysis and its automatic parameters determination in image segmentation and edge detection[J]. Chinese Journal of Electronics, 2014, 23(1): 97-103. |
[12] |
ZHOU L, SUN Y, ZHENG J G. Automated color image edge detection using improved PCNN model[J]. WSEAS Transactions on Computers, 2008, 7(4/6): 186-191. |
[13] |
DENG X Y, YANG Y H, QIN W J. An improved non-coupled PCNN model for image segmentation[C]//Proceedings of the 2nd International Conference on Communication, Network and Artificial Intelligence. Guangzhou, China: [s. n. ], 2019: 1-10.
|
[14] |
HELMY A K, EL-TAWEEL G S. Image segmentation scheme based on SOM-PCNN in frequency domain[J]. Applied Soft Computing, 2016, 40: 405-415. DOI:10.1016/j.asoc.2015.11.042 |
[15] |
CHINMAYA P, AYAN S, KUMAR M N. Fractal dimension based parameter adaptive dual channel PCNN for multi-focus image fusion[J]. Optics and Lasers in Engineering, 2020, 133: 10614. DOI:10.1016/j.optlaseng.2020.106141 |
[16] |
闫利, 向天烛. NSCT域内结合边缘特征和自适应PCNN的红外与可见光图像融合[J]. 电子学报, 2016, 44(4): 761-766. YAN L, XIANG T Z. Fusion of infrared and visible images based on edge feature and adaptive PCNN in NSCT domain[J]. Acta Electronica Sinica, 2016, 44(4): 761-766. (in Chinese) DOI:10.3969/j.issn.0372-2112.2016.04.002 |
[17] |
CHEN Y L, SUNG-KEE P, MA Y D, et al. A new automatic parameter setting method of a simplified PCNN for image segmentation[J]. IEEE Transactions on Neural Networks, 2011, 22(6): 880-92. DOI:10.1109/TNN.2011.2128880 |
[18] |
MA Y D, LIU Q, QIAN Z B. Automated image segmentation using improved PCNN model based on cross-entropy[C]//Proceedings of International Symposium on Intelligent Multimedia, Video and Speech Processing. Washington D.C., USA: IEEE Press, 2004: 743-746.
|
[19] |
姚畅, 陈后金, 李居朋. 改进型脉冲耦合神经网络在图像处理中的动态行为分析[J]. 自动化学报, 2008, 34(10): 1291-1297. YAO C, CHEN H J, LI J P. Analysis of dynamic behaviors of improved pulse coupled neural network in image processing[J]. Acta Automatica Sinica, 2008, 34(10): 1291-1297. (in Chinese) |
[20] |
郝敬帅, 高媛, 程橙, 等. 对脉冲耦合神经网络中被动神经元的脉冲周期分析[J]. 计算机测量与控制, 2019, 27(6): 256-262. HAO J S, GAO Y, CHENG C, et al. Pulse cycle analysis of passive neurons in the pulse coupled neural network[J]. Computer Measurement & Control, 2019, 27(6): 256-262. (in Chinese) |
[21] |
DENG X Y, YAN C M, MA Y D. PCNN mechanism and its parameter settings[J]. IEEE Transactions on Neural Networks and Learning Systems, 2020, 31(2): 488-501. DOI:10.1109/TNNLS.2019.2905113 |
[22] |
MA Y D, SHI F, LI L. Gaussian noise filter based on PCNN[C]//Proceedings of International Conference on Neural Networks and Signal Processing. Washington D.C., USA: IEEE Press, 2003: 149-151.
|
[23] |
邓翔宇, 马义德. PCNN参数自适应设定及其模型的改进[J]. 电子学报, 2012, 40(5): 955-964. DENG X Y, MA Y D. PCNN model automatic parameters determination and its modified model[J]. Acta Electronica Sinica, 2012, 40(5): 955-964. (in Chinese) |