Te propongo este otro programa, que es lo único que se me ocurre:
A = [0 1 5; .3 0 0; 0 0.5 0];
n = [1; 0; 0];
resultado = zeros(3,15);
for k = 1:15:
n = A*n;
resultado(:,k) = n;
end
t = [1:1:15];
especie1 = resultado(1,:);
especie2 = resultado(2,:);
especie3 = resultado(3,:);
hold off;
clf;
hold on;
plot(t,especie1,'-');
plot(t,especie2,'-b');
plot(t,especie3,'-r');
figure(1)
Te pido disculpas si hay algún error, pero es que no tengo Matlab instalado en mi PC, y estoy programando "de memoria", jaja.
(Todo es culpa del emule, que me llena el disco

)
Lo que hice ahí fue ir acumulando los resultados en la matriz resultado.
En cada columna pongo una nueva iteración.
Luego leo las filas de esa matriz, que corresponderían a los datos de evolución de cada especie.
El vector de "tiempo" t va de 1 a 15, con saltos de a 1,
y después grafico cada especie según ese parámetro de tiempo, con distintos colores, negro azul y rojo.