TIC06 - Capacidade de Canal Discreto

A informacao mutua e uma medida da quantidade de informacao transmitida atraves de umcanal. Entretando, na sua expressao, pode-se observar que a informacao mutua depende de P (xi)que e um parametro da fonte. Para contornar este problema, definimos a capacidade de canal comoa maxima transferencia de informacao que pode ocorrer

Cs = max{P (xi)}

{I (X, Y )} [bits/smbolo ou bits/uso do canal] (1)

sendo a maximacao feita considerando todas as distribuicoes de probabilidade {P (xi)} da fonte X.Se r smbolos sao transmitidos por segundo, a capacidade em bits/s e C = rCs.

Exemplo 1 Determine a capacidade dos seguintes DMCs: a) canal sem perdas; b) canal deter-minstico; c) canal sem rudo; d) BSC com probabilidade condicional p.

A invevitavel presenca de rudo num canal provoca erros nos dados de sada. Por exemplo,para um canal binario ruidoso, a probabilidade de erro de bit pode chegar a 101, ou seja, dentre10 bits enviados, em media, 1 bit esta errado. Como em muitas aplicacoes e exigido probabilidadede erro menores do que 105, deve-se lancar mao de codificacao de canal: acrescentam-se bits deredundancia que permitem detectar e corrigir erros.

Codigos de Bloco. A cada bloco de k bits de dados da fonte, acrescentam-se nk bits, produzindoblocos de n bits que sao transmitidos. A razao = k/n e chamada de taxa de codigo.

Se a fonte produz um smbolo a cada Ts segundos, a taxa de informacao media da fonte eH (X) /Ts (bits/s). E, se o canal e usado a cada Tc segundos, a sua capacidade e Cs/Tc (bits/s).

Teorema da Codificacao de Canali) Seja uma DMS X com entropia H (X) produzindo smbolos a cada Ts segundos e seja um DMC

com capacidade Cs usado a cada Tc segundos. Se

H (X)

Ts Cs

Tc, (2)

entao existe um esquema de codificacao para o qual a taxa de erro pode ser feita tao pequena quantose queira.

ii) Por outro lado, seH (X)

Ts>

CsTc

, (3)

entao nao e possvel reconstruir a informacao com probabilidade de erro arbitrariamente pequena.

Exemplo 2 Considere uma DMS binaria que emite dgitos equiprovaveis em intervalos de Tssegundos. Estes dgitos sao aplicados na entrada de um codificador de canal com taxa e realiza umatransmissao a cada Tc segundos atraves de um BSC com capacidade Cs. Obtenha uma relacao entre e Cs que garanta a existencia de um codigo capaz de prover uma probabilidade de erro arbitrariamentebaixa.

0Ref.: [1] HWEI HSU, Schaums Outlines of Theory and Problems of Analog and Digital Communications, 2a. Ed.,McGraw-Hill, 2003, Cap. 10. [2] LATHI, B. P. Modern Digital and Analog Comunication Systems, 3a. Ed. [3] S.HAYKIN, Sistemas de Comunicacao: Analogicos e Digitais, Bookman, 4.a Ed., 2004.

1

Exerccios

1. Um canal binario simetrico realiza uma transmissao a cada TC = 1 s.

a) Calcule a capacidade deste canal em bits por segundo para probabilidade de erro de bit p = 0.1.

b) Supondo que a taxa de codigo seja dada por = 3/n, sendo n um inteiro mpar, qual o nmnimo que satisfaz a condicao de existencia de um bom codigo?

(Resp.: 0,531 bits/s; n = 7.)

2. Considere um BSC com probabilidade de erro de bit p = 102 e com taxa de sinalizacaoTc = 1ms. Determine: a) A capacidade do canal Cs.

b) Conforme o Teo. da Codificacao de Canal, pode-se afirmar que para qualquer > 0 (p. ex.,108), existe um codigo com n suficientemente grande que garante probabilidade de erro apos adecodificacao menor do que , isto desde que a taxa de codigo esteja abaixo da taxa crtica Cs.Calcule o valor da taxa crtica e confira se esta corretamente indicada na Fig. 1.

c) Considere o uso de codigo de repeticao como codificacao de canal: cada bit da fonte e repetidon = 2m+1 vezes e, no lado do receptor, toma-se o valor da maioria como o bit decodificado. Deduzaa expressao de Pe (probabilidade de erro de decodificacao) para este codigo e complete a Tab. 1.

d) Calcule o atraso na transmissao dos bits da fonte caso se queira Pe < 108 usando codigo de

repeticao.

e) E possvel aumentar a taxa de codigo, mantendo-se a exigencia de Pe < 108 ? Caso afirmativo,

explique como isto pode ser feito. Neste caso, o que ocorre com o valor do atraso na transmissao dosbits?

Taxa de Codigo = 1/n Probabilidade de Erro Pe11/31/51/71/91/11

Tab. 1 - Probabilidade de erro para o Codigo de Repeticao.

Fig. 1 - Desempenho do codigo de repeticao (figura de [3, p.592])

2