您的位置 首页 kreess

CNP|耦合神經P系統

概要受埃克霍恩(Eckhorn)模仿哺乳動物視覺皮層的神經元模型的啟發,本文提出瞭一種新的類神經P系統,稱為耦合神經P系統(CNP系統)。CNP系統由一些耦合神經元組成,每

概要

受埃克霍恩(Eckhorn)模仿哺乳動物視覺皮層的神經元模型的啟發,本文提出瞭一種新的類神經P系統,稱為耦合神經P系統(CNP系統)。CNP系統由一些耦合神經元組成,每個耦合神經元都有三個組件:接收域(receptive field),調制器(modulation),和輸出模塊(output module)。 CNP系統是一類分佈式並行計算模型,有一個和脈沖神經P系統一樣的有向圖結構。此外,CNP系統有一個非線性的耦合調制特征和一個動態的閾值機制。CNP系統的計算能力得以討論。具體地,證明瞭作為數字生成設備的CNP系統是圖靈通用的。另外,文章為函數計算設備提供瞭一個小通用的CNP系統。

>1.論文地址

附註:本人為第一次涉及該領域,如有專業術語翻譯錯誤,歡迎各位同仁提出並指正。

>2.動機

生物系統總是啟發瞭許多新的計算模型。

哺乳動物的視覺皮層,例如貓或豚鼠的視覺皮層,已經形成瞭一些網絡模型的基礎。

輸入的信息由眼睛接收,眼睛內的一個接收器改變相鄰接收器的行為並將信息轉發到視覺皮層,然後大腦哦分析接收到的信息。

Eckhorn等人通過研究貓視覺皮層中神經元的同步振蕩現象,創建瞭哺乳動物的神經元模型。除瞭興奮和抑制狀態外,神經元接收到的信息在時間和空間上都是累積的,其輸入和輸出之間存在非線性的關系。而且,接收到的信息以乘法的形式進行非線性調制,突觸連接的強度是可以調節的。Eckhorn的神經元模型已經用於發展耦合脈沖神經網絡。

受Eckhorn神經元模型的啟發,一個耦合神經元的基本結構如下圖所示。

耦合神經元由三個部分組成:一個接收域,一個調制器,一個輸出模塊。

  1. 接收域包含Linking input unit和Feeding input unit;
  2. 調制器以相乘的形式實現兩個輸入的非線性調制;
  3. 輸出模塊有兩個部分:一個動態閾值,一個脈沖生成器;其中動態閾值的操作如下:
  • 如果耦合神經元激活,那麼閾值增加;否則,閾值減少;
  • 如果耦合神經元的值大於動態閾值,那麼一個脈沖生成器生成一個脈沖。

這篇文章的動機是提出一個新型的類神經P系統,耦合神經P系統(CNP系統),基於耦合神經模型。CNP系統引入瞭一個佈爾激活條件代替一個正則表達式,但是它們的核心是一個神經元的脈沖耦合機制。通過使用耦合神經元,CNP系統開起來更加適合一些實際世界中的問題,這是發展CNP系統的一個潛在的動機。

>3.耦合神經P系統

一個CNP系統可以看作一個有向圖,它的節點是m個耦合神經元,且它的弧表示那些神經元之間的突觸連接。具體的,如果系統工作在生成模式下,那麼輸入神經元in從系統中移除;相反,在接收模式中,系統將會忽略輸出神經元out

每個耦合神經元 sigma_{i} 有三種存儲單元:

  1. 反饋輸入單元(Feeding input unit): u_{i}
  2. 鏈接輸入單元(Linking input unit): v_{i}
  3. 動態閾值單元(Dynamic threshold unit): tau_{i}

假設計算現在在步驟t,此時反饋輸入單元,鏈接輸入單元和動態閾值單元中脈沖的數量分別表示為: u_{i}left( t right),v_{i}left( t right),tau_{i}left( t right) 。每個神經元包含一條或者多條規則,稱為激活規則,擁有形式 E/left( a^{u},a^{v},a^{tau} right)rightarrow a^{p},其中E稱為激活條件。

E有兩種激活條件:

  1. 佈爾條件,形式為: Eequivleft( n_{i}left( t right)geq tau_{i}left( t right) wedge u_{i}left( t right) geq u wedge v_{i}left( t right) geq v wedge tau_{i}left( t right) geq tauright)
  2. 正則表達式,形式如: a^{2b+1}

佈爾條件的激活機制描述如下:

如果激活條件被滿足,那麼激活規則得以使用。當神經元 sigma_{i} 中的激活規則被應用,神經元激活,在反饋輸入單元中消耗 u 個脈沖(剩餘 left( u_{i}-u right) 個脈沖),在鏈接輸入單元中消耗 v 個脈沖(剩餘 left( v_{i}-v right) 個脈沖),在動態閾值單元中消耗 tau 個脈沖(剩下 left( tau_{i}-tau right) 個脈沖),然後生成p個脈沖。生成的p個脈沖轉送到 sigma_{j} 中,其中 left( i,j right) in syn 。規則 E/left( a^{u},a^{v},a^{tau} right)rightarrow a^{p} ,如果p等於0,那麼規則可以寫成 E/left( a^{u},a^{v},a^{tau} right)rightarrow lambda ,稱為一個遺忘規則。如果一條遺忘規則被應用,那麼在它的三個內存單元中相應的脈沖會被移除,並且不會生成新的脈沖。因此,在第 t+1 步, u_{left( i+1 right)},v_{left( i+1 right)},tau_{left( i+1 right)} 可以如下被計算:

CNP系統中規則的使用遵循最大脈沖消耗策略。

實例:

>4.圖靈通用性的證明

工作在generating模式下

>5.小通用CNP系統

通過組合指令ADD/SUB的使用,神經元的數量從67個減少至60個,具體的證明方法請參考原文,這裡不再贅述。

>6. 總結

在這篇文章中,作者展示瞭一種新的類神經P系統,稱為一個耦合神經P系統(CNP系統)。CNP系統有有向圖的拓撲結構,是一類分佈式並行計算模型。證明瞭CNP系統可以生成圖靈可計算數字的任意集合。構造瞭關於計算函數的有60個神經元的一個小通用CNP系統。

眾所周知,Eckhorn的神經模型已經被用於提出脈沖耦合神經網絡,用於解決許多圖像處理問題,信號處理和動態系統模型化問題。這些問題都是CNP系統的潛在應用領域,而CNP系統擁有一些不同於脈沖耦合神經網絡的機制。因此,CNP系統可能提出一個用於解決這些實際世界問題的替代模型,比如藥物圖像片段和圖像融合。

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注

返回顶部