7 de Enero del 2010 REDES NEURONALES

Redes Adaline – Filtros Adaptativos

Efrén Medina, Henry Cubides, Juan Salazar, Jorge Sigüencia Universidad Politécnica Salesiana, Ingeniería
Electrónica, Ciclo 9.

Abstract— Este trabajo tiene por objetivo II. INTRODUCCION A LAS REDES
principal describir en forma concreta y precisa el ADALINE
funcionamiento, estructura, algoritmos,
aplicaciones de las redes Adaline. Reforzando así
los conocimientos previos a la teoría de redes A. ¿Que son las redes Adaline y sus
neuronales. Finalizaremos dándole énfasis al características?
estudio de la aplicación “Filtros Adaptativos”, Son Redes muy similares al Perceptrón con la
donde estudiaremos su funcionamiento, diferencia de que su función de activación es
estructura y una implementación practica en lineal (purelin). Son de aprendizaje
MATLAB. supervisado. De manera similar al perceptrón
buscan minimizar el error en la salida. Usan
Orden de Temas — I. Introducción, II la regla de Widrow – Hoff para el
Introducción a las redes adaline, III. Filtros aprendizaje. Pueden resolver problemas
adaptativos, IV. Sistemas predictivos usando
linealmente separables. Su algoritmo LMS
filtros adaptativos, V Ejercicio práctico.
(Least Mean Square) es más eficiente que la
regla de aprendizaje del perceptrón pues
I. INTRODUCCION
minimiza el error medio cuadrático. Este

C onocemos de antemano la teoría de las

redes neuronales y como primer estudio
nos enfocamos en el perceptrón de
aprendizaje es del tipo Supervisado.

B. Estructura
Rosemblatt, del cual sacamos muchos La estructura general de la red es la siguiente:
conceptos básicos e importantes, como son:
El perceptrón es capaz de clasificar
patrones linealmente separables, utiliza el P1 n a
aprendizaje supervisado, la función de ∑
activación es una hardlim (limitador fuerte).
Su algoritmo de entrenamiento no es
P2
optimizado pues busca una posible solución y
no la mejor respuesta a la clasificación. Fig1. Estructura General Adaline

Como su función de activación es lineal la

Las redes adaline son muy parecidas
al perceptrón, es decir, solo son capaces de salida está definida directamente por la
clasificar patrones linealmente separables, la función identidad:
diferencia radica en que su función de
activación es lineal, pero su punto fuerte está a=f ( n )
en su algoritmo de entrenamiento basado en
la optimización del error cuadrático medio. a=n
Esto hace que busque una respuesta óptima
para las soluciones. a=∑ w i∗Pi +b
i=1

Por estos criterios las redes Adaline

son muy utilizadas en la aplicación de filtros
adaptativos, sistemas predictivos en general.
 7 de Enero del 2010 REDES NEURONALES

C. Algoritmo LMS newlin(PR,S,ID,LR): crea una red Adaline

A continuación describimos en resumen el
Donde: R, matriz Rx2 que contiene valores
algoritmo general LMS utilizado en las
máximos y mínimos de cada uno de los R
redes adaline:
elementos de entrada.
1. Conocer de antemano el conjunto de
patrones de entrenamiento, valor S: # de neuronas
esperado (t), valor de entrada (p).
ID: Arreglo de valores de retardos, 0
2. Evaluamos los patrones de la red por defecto.
mediante la función identidad:
LR: Tasa de aprendizaje, 0.01 por
a=∑ w i∗Pi +b [1] defecto.
i=1
Net.inputWeights{1,1}.delays: retardos
3. Calcular los nuevos pesos y bias iniciales, nos permite ingresar el numero de
mediante las ecuaciones: retardos que se desee. Se tiene que tomar en
W k+1=W k −2 ∝ ( t k −a k ) . Pi [2] cuenta que los retarnos tienen que ir e orden
ascendete ejemplo [0 1 2 3…] etc .
b k+1=b k −2 ∝ ( t k −ak ) [3]
Net.adaptParam.passes: # de
4. Calculamos el error medio cuadrático iteraciones.
mediante:
2 1
L
2
Net.IW{1,1}: Nos permite inicializar los
fℇ = ∑ ( t k −a k ) [4] pesos de los retardos.
2 L R =1
Net.B{1}: permite inicializar el peso del bias.
Donde k es el número de iteraciones.

Se debe imponer el valor de la tasa de

adapt(net,P,T,Pi,Ai): Entrena la red y realiza la
aprendizaje (α), por ejemplo; α = 0.2. adaptación del filtro
- net: Es la red creada con newlin
5. Se debe terminar el aprendizaje si: - P es la entrada de la neurona
- T son los targets de la señal o lo que se quiere
ℇ esperado>f ℇ2 [5] eliminar
- Pi condiciones iniciales del delay
En este caso se debe imponer el valor del - Ai condiciones iniciales del layer
ℇ esperado (goal).
Más adelante observaremos como se
D. Implementación ADALINE con
emplean estos comandos con la aplicación
MATLAB
descrita.

MATLAB nos ofrece la herramienta toolbox III. FILTROS ADAPTATIVOS

de redes neuronales en el cual nos simplifica A. Introducción
y facilita la implementación de estas redes Las redes Adaline tienen su máxima
con su entrenamiento LMS a través de la aplicación en el tratamiento de señales, en
siguiente manera: especial el filtrado. En comunicaciones o
transporte de señales hay muchas
 7 de Enero del 2010 REDES NEURONALES

p1  k   y k 
interferencias que modifican las señales, por

y k 
esto se han creado diversos tipos de filtros,
desde redes pasivas RCL, técnicas de
D
frecuencia, etc. Hasta modernos diseños p 2  k   y k  1
digitales DSP. El diseño es muy complejo y
costoso en muchas ocasiones. Las redes D
neuronales simplifican estos diseños como
veremos más adelante.

pR  k   y k  R  1
D
B. Que son los Filtros Adaptativos?
Como sabemos al escuchar música de
Fig.2. Retardos en línea
cualquier tipo de medio audible con sus
respectivos altavoces o parlantes, se dividen
las frecuencias en bajos, medios, agudos, esto W1,1
se logra mediante filtros que separan estas

D
frecuencias del original. Este es el trabajo de W1,2

un filtro separar ciertas componentes n(k) a(k)

deseadas o indeseadas de la original, en este ∑
caso podría separar componentes de ruido W1,R

indeseadas de una señal. b=1

C. ¿Cómo se diseñan? Fig.3. filtro adaptativo

Se implementan filtros más eficientes
mediante software. La implementación de un En este caso la salida queda definida por la
filtro mediante redes adaline funciona de la siguiente expresión:
siguiente manera:
R

La red toma valores de la entrada y salida a ( k )=f ( W p +b ) =∑ W 1 ,i∗y ( k−i+1 ) +b

i=1
deseada y se ajusta para dar una respuesta [6]
dada. Si cambian los valores la red puede
adaptarse automáticamente a estos nuevos El esquema en diagrama de bloques para su mayor
comprensión lo exponemos a continuación:
valores.
s: señal original
D. Estructura v: fuente de ruido
Al combinar la red Adaline con un bloque de m: ruido contaminado por el trayecto
retardos en línea se crea un filtro adaptativo t: suma de s+m
de la siguiente manera: a: salida esperada del filtro adaptativo
e: error.
 7 de Enero del 2010 REDES NEURONALES
Señal
Señal Original Restaurada cualidades de las redes Adaline y de los
s t e filtros adaptativos creados con estas, vimos
+ +
+ que son capaces de adaptarse a diversas
señales, esto quiere decir que se pueden
- Error
estudiar patrones de comportamientos
m
estadísticos en cierto tiempo y así entrenar
Camino de contaminación
una red que sea capaz de comportarse y
predecir valores en ciertos tiempos.
Fuente de Ruido
v Filtro Adaptativo a Un ejemplo muy práctico es un
estudio de la predicción del consumo de
carga, se toman datos del consumo en todo el
año y se entrena con estos valores a la red. A
lo largo del año la red entrenada será capaz
Fig.4. Diagrama de bloques de un filtro de predecir consumos picos o bajos en ciertas
Adaptativo fechas del año o días en función de su
Para nuestra red, la salida del filtro son los entrenamiento, además si ocurre algo fuera de
valores de m, en la entrada tendremos los lo planeado la red está en la capacidad de
valores de v respectivamente. Hay que tomar adaptarse a nuevos valores y así dar
en cuenta que la señal m que pasa a través de resultados óptimos.
algún trayecto (camino de contaminación) por
efectos esta se atenúa y se desfasa por V. EJERCICIO PRÁCTICO
retardos, por tanto esta señal deberá tener la
siguiente forma: El ejercicio implementado es el de un filtro
m ( k )= Asin (wk +θ) adaptativo en base a lo estudiado. Nuestra
aplicación se describe:
Funcionamiento:
En el ejercicio práctico se uso Matlab con el
No es posible determinar la forma de onda de cual adquirimos una señal de voz de formato
la señal original pues puede ser cualquier wav a una frecuencia de muestreo fs de 8000
onda en cualquier instante. El filtro hz la cual es la señal de origen S.
adaptativo se adapta a cualquier tipo de onda.
Por esto se debe determinar completamente la Creamos una señal que actúa como la fuente
forma de la fuente del ruido. de ruido vk la cual puede ser adquirida desde
el micrófono o generada mediante una onda
La señal v se introduce y se obtiene la fuente senoidal. La señal que actúa como fuente de
efectiva del ruido m, por tanto lo que interesa
ruido teniendo el ruido contaminante mk que
es que la señal a sea lo más parecida a m,
para que así se cancele la parte de ruido al sumar a la señal de origen se produce la
efectivo de t = s + m, aproximándose así la señal contaminada.
señal de error e a la señal s.
Cabe recalcar que tanto la señal entrante
IV. SISTEMAS PREDICTIVOS como la del ruido son señales que duran 3
USANDO FILTROS ADAPTATIVOS segundos con una frecuencia de muestreo de
Los sistemas predictivos se basan en datos 8000Hz dado señales de 24000 muestras en
estadísticos, como sabemos las redes total se realiza de esta manera para optimizar
neuronales son muy apropiadas en el manejo el entrenamiento y adaptación del filtro.
de los mismos. Por el simple hecho de las
 7 de Enero del 2010 REDES NEURONALES

En el aprendizaje el vector de entradas P es filtrado y nos da una idea del

igual al vector vk y la salida deseada es mk. potencial que tiene este tipo de
neurona.
Para la implementación se utilizo dos 6. En cuanto a los comando se los
retardos, tres pesos sinápticos y el bias, estudiaron y se basan exactamente en
inicializándolos con valores aleatorios. Se uso lo visto en este informe ya que es la
una neurona y con el comando adapt el cual manera de entrenar una red adeline y
realiza el filtro adaptativo y entrena a la vemos la sencillez de la aplicación de
los comando.
neurona para eliminar el ruido vk de la señal
contaminada VII. BIBLIOGRAFÍA
Audio
1

0 [1] Tomado el 6 de Enero del 2010 de

-1
0 1000 2000 3000
Ruido
4000 5000 6000 7000
Martin T. Hagan, Howard B. Demounth and Mark
1
Beale, “Neural Network Desing”, original
0
copyright by PWS Publishing Company 1996 .
-1
0 500 1000 1500 2000 2500 3000 3500 4000
China Machine Press.
Señal con ruido
2
[2]Tomado el 6 de Enero del 2010 de
0

-2
0 1000 2000 3000 4000 5000 6000 7000 James A. Freeman, David M. Skapura, ”Neural
1
Señal filtrada
Networks, Algorithms, Applications and Programming
0
Techniques ”, Addison-Wesley Publishing Company.
QA76.87.F74. 1991.
-1
0 1000 2000 3000 4000 5000 6000 7000

[3] Tomado el 6 de Enero del 2010 de

Universidad Tecnologica de Pereira, “Tutorial de
VI. CONCLUSIONES Redes Neuronales”, Copurigth© Universidad
Tecnologica de Pereira. 2000.

1. Las redes adaline son muy parecidas [4] Tomado el 6 de Enero del 2010 de
al perceptrón con la diferencia que su MATLAB 7 , “Help Neural Network Toolbox”.
función de activación es lineal.
2. La optimización de la red está en su
algoritmo LMS descrito
anteriormente que minimiza
óptimamente el error medio
cuadrático.
3. En los filtros adaptativos básicamente
se utiliza una estructura de retardos y
una red adaline.
4. Se observa la rapidez con la que la
red se entrena y la eficacia que posee
ya que se probo filtrando con 2 voces
diferentes y filtra que uno no desea
escuchar
5. También se nota una especie de
amplificación a la salida de la red
neuronal lo cual amplifica para el