Bonjour à tous,

Je souhaitais savoir si quelqu'un connaissait quelques références sur
l'évolution de l'entropie de l'estimation de l'état étant donné la
séquence des observations obtenues dans une chaine de Markov, et ce,
avant la convergence vers la distribution stationnaire.

Je m'explique. Si on appelle $b$ une distribution de probabilité sur
un ensemble fini d'états, alors, étant donné la matrice de transition
et une matrice d'émission pour une chaine de Markov, on peut calculer
une estimée de l'état courant de la chaine en utilisant la règle de
Bayes à chauqe observation reçue. Je cherche à estimer l'évolution de
l'entropie H(b) de la distribution sur les états.

Certains travaux que j'ai trouvé parle d'"estimation entropy" de
Mohammad Rezaeian (http://arxiv.org/abs/cs.IT/0606114) ou encore
d'"entropy production rate". Seulement, les travaux de Mr Rezaeian
portent sur la valeur de l'entropy de l'estimée de l'état, après
convergence vers la distribution stationnaire. Et les travaux relatifs
à l'"entropy production rate" proviennent de physique statistique et
sont difficilement compréhensible pour l'informaticien que je suis.

En fait, tout travail se rapportant à l'étude de l'entropie intantanée
ou à la capacité d'un canal sans mémoire transmettant des symboles
générés par une chaine de Markov finie, serait également le
bienvenu :-)

Merci d'avance,
CB.