4o. SBAI- Simpósio Brasileiro de Automação Inteligente, São Paulo, SP, 08-10 de Setembro de 1999

CONVERSOR ANALÓGICO DIGITAL USANDO DIPOLOS DE HOPFIELD

José Homero Feitosa Cavalcantí'"'

José Ricardo da Silva Ferreira[b]

Pablo Javier Alsina [e]

[a][b]UNIVERSIDADE FEDERALDA PARAÍBACCT/COPININEUROLAB

Av. Aprígio Veloso, 882 FonelFax : (083) 310-1119/310-112458.109-970 - Campus lI. - Campina Grande - PB(alhomero@dsc.ufpb.br, [b]ricardo@dsc.ufpb.br

[C1UNIVERSIDADE FEDERALDO RIO GRANDEDONORTECTIDEElLECA

Campus Universitário - Lagoa Nova - Fone/fax : (084) 215-373859072-970 - Natal- RNpabfo@leca.ufrn.br

WjJ, Wip ... Win representam os pesos. Obtém-se Yi através daEq. (1). Emprega-se a chave SI. ilustrada na Fig. I, paraconduzir a zero a saída Oi do neurônio. A constante de tempodo circuito RC do neurônio é obtida por lIRC. Obtém-se asaída Z;, na forma contínua, através da Eq. (2), com trepresentando o tempo.

Resumo Este trabalho apresenta detalhes do projeto,implementação, e treinamento de um novo conversoranalógico/digital (AID) baseado num par de neurônios deHopfield, chamados de dipolo de Hopfield.

Palavras chaves: Redes neurais de Hopfield, Coversor AID.

Abstract: This paper presents project detail , implementation,and training of a new analogical/digital (AID) converter basedon two Hopfield's neurons, called Hopfield's dipolo.

Keywords: Hopfield Neural Networks, AID Converter.dZi Yi-Zi--=---dt RC

(1)

(2)

1 INTRODUÇÃOAs redes neurais são excelentes ferramentas para o controle deplantas não lineares. Catunda & Cavalcanti (1997) e Alsina &Cavalcanti (1998) propuseram um controlador baseado naRNH denominado Controlador Neural de Hopfield - (CNH) .Baseando-se neste trabalho, apresenta-se um conversoranalógico/digital (AID), utilizando o neurônio de Hopfield(1984), com dois neurônios na forma de dipolo . Apresenta-se omodelo dos neurôn ios, a emulação do CNH num computadordigital, os conversores AID, o conversor AID de Hopfield, e oconversor AID baseado nos dipolos de Hopfield.

2 OS NEURÔNIOS DE HOPFIELDO neurônio utilizado por Hopfield (1992), ilustrado na Fig. 1,baseia-se no neurônio não-linear proposto por McCulloch &Pitts. Os XjJ, Xi2, ,,,Xin representam as entradas do neurônio, os

139

Cil

Fig.1. O neurônio de Hopfield.

Através do método de Euler, para a solução de equaçõesdiferenciais, calcula-se o valor discreto de Zi, descrito naEq.(3). Considerando-se k a representação do tempo discreto, ha representação do valor de incremento do tempo do método deEuler, e .8 definido na Eq. (4), o novo valor de Z, é obtidoatravés da Eq, (5).

40. SBAI - SimpósioBrasileiro de Automação Inteligente, SãoPaulo,SP, 08-10 de Setembrode 1999

A saída O;do neurônio pode ser uma função sigmóide ou umafunção tangente hiperbólica, descritas nas Eq. (6) e (7)respectivamente. O símbolo 1J representa uma constantepositiva que controla a declividade da saída do neurônio .

1z; 1 =Z.k+h-(Y -Z'k)1+ I RC I I

hf3 =RC

IO. = S/C (Z.)=-----;:-I I 1+ e-ryz,

(3)

(4)

(5)

(6)ITER

Fig.3. Competição entre os neurônios Nl e N2.

Fig.2. Representação simplificada da RNH. I1 1

o.•

o.•

0.4

0.2

.. Ek

-,-1.5 -0.5 0.5 1.5·2

Fig. 4. O Controlador Neural de Hopfield - CNH.

Fig.S Curva do erro versos valor final de 01'

As características observadas durante as simulações com o parde neurônios evidenciaram a possibilidade do uso do par deneurônios de Hopfield em controladores (Catunda &Cavalcanti, 1997). Na Fig. 4 são ilustrados o CNH e li plantanão linear (Cavalcanti & Alsina, 1998) . Pode-se calcular adiferença entre I] e 12 (I]=Dk e 12=Xk) com o valor da saída deN]. Se 1] > li e se o número de iterações é maior que 100, ovalor da saída de N] se aproxima de um. Entretanto, se I] < 12 ovalor da saída de N] se aproxima de menos um.

Define-se o erro Ek como a diferença entre o valor desejado e ovalor na saída da planta (Ek=Dk-Xk) . Utilizando-se os doisneurônios como controlador com número de iterações maiorque 100, o par de neurônios de Hopfield pode ser consid eradoum controlador do tipo ON/OFF. Mas, se o número deiterações é menor que 100, o valor absoluto final de N] é menorque um.

(7)1 -1/Z·

O;=TGH(Z;)=2SIG(Zj ) -1 =1- e- 7IZ'. +e '

3 OS DIPOLOSDE HOPFIELD.Uma RNH com dois neurônios, conforme ilustrado na Fig. 2,representa os dipolos de Hopfield. Cada um dos dois neurôniospossui uma entrada externa e uma entrada recorrente. A entradaXll do neurônio NJ é conectada ao valor I J. A entrada XZJ doneurônio Nz é conectada ao valor Iz. Assim obtém-se asentradas de N]: XlI=WJ1*I1 e XJ2=W12*Oz, com Wl1>O eW12<O. As entradas de Nz são: X21=WZJ *I2 e Xn =Wn*Ob comW21>0e Wn<O.Na Fig. 2 Wll=W21=-1 e W12=W2z=1.

Para ilustrar as características da RNH ela é emulada nummicrocomputador IBM-PC com processador PENTIUM. Onúmero de iterações utilizado para calcular o valor de Z;k+bdescrito na Eq. (3), durante a fase transitória da saída dos doisneurônios foi denominado de lTER. Durante a emulação daRNH foram atribuídos os seguintes valores às variáveis:ITER=100, /3=0.02. Apresentam-se na Fig. 3, as curvas dosresultados obtidos durante a fase transitória da saída dosneurônios NJ e Nz. Nesta figura, IJ e Iz são as entradas dodipolo.

t, ---l.....

O neurônio NJ com a entrada IJ é o vencendor quando I] > Iz,conforme ilustrado na Fig. 3. As curvas das saídas dos doisneurônios foram obtidas com /]=1 e para diferentes valores de12 (0.1;0.5;0.9). Na mesma figura também se pode observarque, quando o número de iterações for menor do que 40, oefeito da competição (Oz>O quando OJ>O) é evidente para/]=1 e 12>0. A competição é negligenciável para IJ=1 .0 e Iz<0.3. Quando o número de iterações é maior do que 100, asaída de N] está próximo de um. Observou-se também(resultados não apresentados na Fig. 3) que quando I] < Jz, oneurônio N: é o vencedor.

140

40. SBAI- Simpósio Brasileiro de Automação Inteligente, São Paulo, SP. 08-10 de Setembro de 1999

A seguir foram feitas simulações para diferentes valores doerro Ek e de {3. Fazendo-se Ek variar entre -2 e 2, com 12=0 e os.valores de I} variando entre -2 e 2, obteve-se, para a saída OJ,os resultados ilustrados na Fig. 5. Durante a simulação foramutilizados os seguintes valores para os parâmetros do CNH:Xk= O., -2:;s; 52, WJJ = W21 = 1., W12 = W22 = -I, {3 = 0.01(curva Or1), {3 = 0.02 (curva Or2), ITER = 50 e 11 = 8. Naabscissa da Fig. 5 representa-se o erro Ek (-2<Ek<2), e naordenada são ilustradas as curvas Or1 e Or2 que apresentamuma forma sigmóide.

INÍgo

Fig.7 Circuito básico de um AID.

4 TREINAMENTO DA RNH. Quadro 1. Algoritmo da contagem.

vo

vo=O.b3bzblbo=OOOOdo{

inctbsbzbrbo) .vo=DA(b3bzb,bo)

}while(vo-cvref)

vref

Define-se o inc(b3b2b}bo), no algoritmo da contagem, como oincremento do valor armazenado no registrador do circuito'NOda Fig. 7.

Conforme ilustrado na Fig . 5, quanto maior for {3 maior será ovalor final O}do neurônio ({3=0.01 para a curva Oi-I , e {3=0.02para a curva Or2). Pode-se provar que o valor da saída O} éproporcional a {3. Isto é, aumentando-se {3 também aumenta-seo valor da saída O}. Esta característica do CNH, paradeterminados valores de {3 e com o número fixo de iterações(lTER=50) , sugere um algoritmo adaptativo em que, {3 émodificado em função do erro Ek=Dk-Xk. Assim, tem-se umnovo controlador CNH, com dois neurônios e a adaptação doparâmetro {3, baseado na regra delta generalizada. Alsina &Cavalcanti (1998) demonstraram que a saída desse novo CNHé diretamente proporcional ao erro e ao parâmetro {3, isto éO}={3Ek• Eles também observaram que, se forem atribuídospesos iguais às entradas de Dk e Xk do dipolo, a saída do novoCNH é diretamente proporcional ao valor deste peso.

5 CONVERSOR ANAlÓGICO/DIGITAL.Um conversor Analógico/Digital (NO) é um dispositivo quetransforma a representação dos dados na forma analógica paraa forma digital. Um esquema simplificado 'de um conversor Fig.S. Curvas da conversão AID.ND é ilustrado na Fig . 6.

:amALCD

... ...r NO

r

vref

Fig.6. Esquema simplificado de um AID.

.O sinal analógico de entrada é representado por vref e os bitsdo sinal na forma digital são representados por b3b2b}bo (Fíg.6), tal que vo;=.b323+b222+b}21+b02° (vo é o sinal analógico nasaída do D/A). A seguir estuda-se dois algoritmos baseados emconversores D/A desenvolvidos para a conversão AID.

5.1 Algoritmo da Contagemo esquema de um circuito NO é ilustrado na Fig .7, utilizando-se um conversor D/A (digital/analógico). O algoritmo básicodo conversor NO é conhecido como o algoritmo da contagem, .descrito no Quadro 1. Definindo-se m=2", onde n é o númerode bits e m o número de níveis menos um, a conversão ND,utilizando o algoritmo da contagem, necessita de um númerode iterações proporcional a m. Isto pode ser visto na Fig. 8,onde a conversão termina quando vo>vref.

5.2 Algoritmo Aproximações Sucessivaso algoritmo do conversor AID, com melhor desempenho, é oalgoritmo das aproximações sucessivas (AS), descrito noQuadro 2. Conforme ilustrado na Fig. 9, são necessárias 4iterações para a conversão AID, isto é, definindo-se m=2",onde n é o número de bits e m o número de níveis menos um; aconversão ND, utilizando o AS, necessita de um número deiterações proporcional a logim).

Quadro 2. Algoritmo das aproximações sucessivas•

vo--o.a3azalao=1000

bo=OOOOdo{aux=DA(a3azalao)

bo)vo=vo+auxif (voae-vref) {voevo-auxq=O

}else1'\=1

a3azalao=a3aZalaol2}while(i<n)

141

40. SBAI- Simpósio Brasileiro de Automação Inteligente , São Paulo, SP, 08·10 de Setembro de 1999

vo

vref ......., .

Fig.9 Circuito de um AlD.

5.3 O AIO com o neurônio de HopfieldVários autores desenvolveram circuitos baseados em redesneurais artificiais para a conversão NU (Bemiere et al, 1999),(Daponte et al, 1999) e (Tank & Hopfield, 1986). Na Fig.l0 éilustrado o circuito NU implementado com urna rede neural deHopfield como proposto por Tank & Hopfield (1986).

32 8 2 1/2

8 4 2 ·v8 4 2 X

f 6 8 2

32 8 432 16 8

Fig.l0 Representação de Hopfield do AlD

Considera-se que a conversão NU é um problema deotimização. Se a palavra digital b3b2b}bo for a melhorrepresentação digital de X (ou vref), cada b, deve ter valor "O"ou "I" tal que o conjunto de "O" e "I" seja o que melhorrepresenta X. Pode-se utilizar a função de energia da Eq. (8),mas, só a equação de energia da Eq, (8) não garante bipróximos de "O" e "1". Adiciona-se um novo termo,denominado restrição, à equação da energia obtendo-se aEq.(lO), rearranjada a partir da Eq. (9), para a forma daequação de energia de Hopfield do Apêndice A, com lV;F-2(i+J)e / j=(_i2j.1)+iX).

Fig.ll Curvas nas saídasb,IJ}1]bodos neurônios.

As variações em tomo dos valores quantizados são devido aosvalores finais das saídas dos neurônios. Por exemplo , o valorfinal de bo, na Fig. 11 é diferente de O(Lee & Sheu, 1988).

16

Fig.12 Conversão AlD dos números entre Oe 15 com in-cremento 0.1

5.4 O AIO com os dipolos de Hopfieldo esquema do conversor ND utilizando dipolos de Hopfield éilustrado na Fig. 13. O AID foi projetado a partir da equação deenergia E=ljz(X-rBj2 jf (Rj representa os valores bináriosobtidos da conversão) e do algoritmo AS da seção 5.2.Observa-se que a entrada /2 dos dipolos (Segunda entrada nosdipolos da Fig. 13) é composta do sinal Y=rBji e de i . Osdipolos do circuito são ativados seqüencialmente pelo "clock"a partir do dipolo referente ao bit R3•

Os resultados obtidos nas saídas dos neurônios na conversãoAID para o valor de entrada vref=6 são ilustrados na Fig. 11.Os resultados obtidos para a conversão NU de vref variandoentre O e 15 com incremento 0.1 são ilustrados na Fig. 12(saídas dos 4 neurôonios) .

1( 3 )2 13E =- - X - L Vj2 1 - - L 21(VI(Vi - 1»)2 1=0 2 1=0

(8)

(9)

(10)

142

ICLOCK II II II I1- 1----.....IJII

... _-

Fig.13 Esquema do AID.

y

40. SBAI- Simpós io Brasileiro de Automação. Inteligente, São Paulo, SP, 08·10 de Setembro de 1999

10 12 14 16

Os resultados obtidos na conversão AID com quatro dipol ósdeHopfield, para o valor de entrada vref=6 são ilustrados naFig.14. Os resultados obtidos na conversão com vrefvariandoentre Oe 15 (incremento de 0.1, Fig. 15)evidenciam a melhorconversão obtida com os dipolos de Hopfield.

vrcf= 6.8 w.lDr'=6

Fig.14 Curvas nas saídas b3b#]bodos neurônios.

Fig.15. Conversão AID dos números entre Oe 15 com in-cremento 0.1 .

6 CONCLUSÃO

Tank, David W. and Hopfield, J.J. (1986). Simple Neural Op-tirnization Networks: AID Converter, Signal DecisionCircuit, and a Linear Programming Circuit. IEEE Trans.on Circuits and Systems, Vol.33, No. 5; pp. 533-?41.

Lee, Bang W. and Sheu,Bing J. (1988). Design of a Neural-Based AID Converter Using Modified Hopfield Net-work. Republicado por J.A. Anderson and E. Rosenfeld,Neurocomputing Foundations of Researchs, MIT Press,Cambridge,Massachusets, USA, 1988. pp.253-259.

Berniere, A. and Daponte, P. ADC Neural Modeling . IMTC(Instrumentation / Measurenrnent Technology Confer-ence Proceedings,Massachusetts, USA,.pp. 789-794.

Daponte, P., Grimaldi D. and Michaeli, L. A FulI Neural GrayCode Based ADC, IMTC (Instrumentation / Measuren-ment Technology Conference .Proceedings, Massachu-setts, USA, pp. 119-122. .

Catunda, S. Y. C. and Cavalcanti, J.H.F. (1997). AdaptativeHopfield Neural Controllers , IEEE International Sym-posium on Industrial Electronics - ISIE'97, Guimarães,Portugal, 7 a 11 de julho de 1997. Pp.1206-1211.

Alsina, Pablo J. and Cavalcanti, José Homero F.(1998). Im-plementação do Controlador Neural De Hopfield. XIIBrazilian Automatic Control Conference-XII CBA'98,setembro de 1998, Uberlând ía MG, pp. 2193-2197.

APÊNDICE A - O MODELO CONTíNUO DONEURÔNIO DE HOPFIELDO estado dos neurônios, no modelo contínuo de Hopfield(1982), é caracterizado pelo seu nível de ativação Zj que égovernado pela equação diferencial descrita na Eq. (11), com1J=RC, g(.)uma função sigmóide e Yj obtido pela Eq. (12). Otermo -Z/T], na Eq. (11), é passivo e decrescente. Wjj, na Eq.(12), é o peso da interconexão entre os neurônios i e j e X, é aentrada externa do neur ônio N; Hopfield sugeriu uma funçãode Lyapunov para uma rede de n neurônios quando o ganho(1J=lIRC) da função de ativação é suficientemente alto, quepode ser representadopela Eq. (13).

Neste trabalho apresentou-se a fase de projeto, treinamento eresultados experimentais obtidos com um dipolo de neurôniosde Hopfield, evidenciando-se a utilização do CNH como umcircuito conversor AID. Observou-se que o conversor AID comdipolos de Hopfield teve uma precisão maior do que aobservado com o circuito AID padrão de Hopfield. Está sendoimplementada uma versão digital do conversor proposto.

az. Y. -Z. Z . Y.--'=-'- -'=--'+--!...dt ' 1] 1] 1]

n

1'; =I.w;jOj +W;lX jj=I

(11)

(12)

REFERÊNCIA BIBLIOGRÁFICAHopfield, J. J. (1992). Neural Networks and Physical Systems

with Emergent ColIective Computational Abilities. Re-publicado por E. Sanchez-Sinencio.& C. Lau, ArtificialNeural Networks, IEEE Press, New York, pp. 25-29.

'Hopfield, J.J. (1984). Neurons with graded response have col-lective computational properties like those of two-state .neurons. Proc. Nac. Acad. Sci. U.S.A., vo1.81, pp. 3088-3092. Republicadopor J. A. Anderson & E. Rosenfeld.Neurocomputing Foundations of Researchs. MIT Press,Cambridge, Massachusets, USA, 1988. Pp. 579-583.

143

(13)

No mesmo trabalho Hopfield também provou que a sua redeneural com função de ativação tangente hiperbólica tambémpossui estados estáveis. Na sua demonstração, ele adicionou aintegral da inversa da função hiperbólica a função de energiadescrita na Eq. (13). Como a inversa da função tangentehiperbólica é sempre crescente, Hopfield provou que a variaçãono tempo da função energia E tenderá para um mínimo, isto é,a sua rede neural tenderá para um estado estável.