Aprendizaje asociativo

Contenido

Problema P15.1 Problema P15.2 Problema P15.3 Problema P15.4 Problema P15.5 App Referencias

Problema P15.1

En forma escalar

Iterando dos veces

sustituyendo

Sustituyendo los valores 0 y 1

Hay estabilidad, ¿por?

Para valores pequeños de γ, respecto a α, los valores del peso se aproximan a infinito

lr = 0:0.025:1;

dr = 0.025:0.025:1;

[LR,DR] = meshgrid(dr,lr);

MW = LR ./ (DR .* (2 - DR));

mesh(DR,LR,MW);

Problema P15.2

w0 = 3;
W = [0 0 0];
p0 = 0;
p = [1 -1 -1]'; % siempre activo
a = hardlim(w0*p0 + W*p - 2)
a = 0
W = W + 0.4*a*(p'-W)
W = 1×3
     0     0     0
p0 = 1;
p = [1 -1 -1]';
a = hardlim(w0*p0 + W*p - 2)
a = 1
W = W + 0.4*a*(p'-W)
W = 1×3
    0.4000   -0.4000   -0.4000
p0 = 0;
p = [1 -1 -1]';
a = hardlim(w0*p0 + W*p - 2)
a = 0
W = W + 0.4*a*(p'-W)
W = 1×3
    0.4000   -0.4000   -0.4000
p0 = 1;
p = [1 -1 -1]';
a = hardlim(w0*p0 + W*p - 2)
a = 1
W = W + 0.4*a*(p'-W)
W = 1×3
    0.6400   -0.6400   -0.6400
p0 = 0;
p = [1 -1 -1]';
a = hardlim(w0*p0 + W*p - 2)
a = 0
W = W + 0.4*a*(p'-W)
W = 1×3
    0.6400   -0.6400   -0.6400
p0 = 1;
p = [1 -1 -1]';
a = hardlim(w0*p0 + W*p - 2)
a = 1
W = W + 0.4*a*(p'-W)
W = 1×3
    0.7840   -0.7840   -0.7840

En la iteración 17

Problema P15.3

Tres entradas una para cada componente
Dos salidas una para cada neurona

Se eleigen los pesos igual alos vectores para que cuando se tenga la entrada se tenga el máximo producto punto

Observamos que las entradas tienen la misma magnitud

la relación exacta ocurrira si las desviaciones se eligen como

W = [5 -5 5;-5 5 5];
b = [-75;-75];
p1 = [5 -5 5]';
a = hardlim(W*p1 + b) % respode en la asociación a p1
a = 2×1
     1
     0
p3 = [-5 5 -5]';
a = hardlim(W*p3 + b) % como no es ninguna entrada deseada no hay respuesta
a = 2×1
     0
     0

Problema P15.4

La salida de la neurona

Solo se activará si

para los datos

Un vector en la formatera de asociación

Se elige la primer componente a cero (puede ser otra opción, y otra componente)

Resolviendo la cuadrática

eligiendo un valor

Entonces el vector

Probamos la asociación, se verifica la frontera

Problema P15.5

p0 = 0;
p = [-1 1]'; % siempre activo
alpha = 0.5;
w0 = 3;
W0 = [0 0];
a1 = hardlim(w0*p0 + W*p - 2)
a1 = 0
W1 = W0' + alpha * a1 * (p-W0')
W1 = 2×1
     0
     0
p0 = 1;
a2 = hardlim(w0*p0 + W1'*p - 2)
a2 = 1
W2 = W1 + alpha * a2 * (p-W1)
W2 = 2×1
   -0.5000
    0.5000
p0 = 0;
a3 = hardlim(w0*p0 + W2'*p - 2)
a3 = 0
W3 = W2 + alpha * a3 * (p-W2)
W3 = 2×1
   -0.5000
    0.5000
p0 = 1;
a4 = hardlim(w0*p0 + W3'*p - 2)
a4 = 1
W4 = W3 + alpha * a4 * (p-W3)
W4 = 2×1
   -0.7500
    0.7500

Continuando con esto, se llega a

App

Unsupervised Hebb Rule

nnd13uh % Versiones del libro, en 2014 este cap es el 15 antes 13

Hebb with Decay

nnd13hd

Effect of Decay Rate

nnd13edr

Graphical Instar

nnd13gis

Outstar Rule

nnd13os

Referencias

El material se toma del libro de Martin Hagan et. al. enlace