Αναλυτική Άσκηση στα Διακριτά Κανάλια Επικοινωνίας

Επιλύεται μία αναλυτική άσκηση στα διακριτά κανάλια επικοινωνίας.

ΕΚΦΩΝΗΣΗ: Έστω διακριτή πηγή πληροφορίας χωρίς μνήμη η οποία παράγει τα σύμβολα x1, x2, x3, x4 με πιθανότητες 3/4, p, 1/16, 1/16, αντίστοιχα. Τα σύμβολα αποστέλλονται μέσα από διακριτό κανάλι με πίνακα μετάβασης
| a 0 0 |
| 0 b 0 |

P = | 0 c 3/4 |
| 0 0 d |

Α) Να υπολογιστούν οι τιμές των παραμέτρων p, a, b, c, d.
Β) Να βρεθεί η κατανομή των πιθανοτήτων των συμβόλων y1, y2, y3 της εξόδου του καναλιού.
Γ) Να υπολογιστεί η εντροπία των συμβόλων της εισόδου και των συμβόλων της εξόδου.
Δ) Να υπολογιστεί η υπό συνθήκη εντροπία των συμβόλων της εξόδου, δεδομένου ότι εκπέμφθηκε το σύμβολο x1.
E) Να υπολογιστεί η υπό συνθήκη εντροπία των συμβόλων της εξόδου, δεδομένου ότι εκπέμφθηκε το σύμβολο x3.
Ζ) Να υπολογιστεί η υπό συνθήκη εντροπία των συμβόλων της εξόδου, δεδομένης της εισόδου.