Θεωρία πληροφορίας

Σε αυτή την ενότητα παρουσιάζεται η μαθηματική θεμελίωση της πληροφορίας σύμφωνα με το έργο του Shannon, εξηγείται η έννοια και ο τρόπος ποσοτικοποίησης της πληροφορίας, και αναλύονται οι βασικές έννοιες της θεωρίας πληροφορίας, όπως η αμοιβαία πληροφορία, η υπό συνθήκη πληροφορία και η εντροπία. Εξετάζονται εφαρμογές της θεωρίας πληροφορίας στην κωδικοποίηση μέσων και την διαχείριση των ψηφιακών καναλιών μετάδοσης.

Λέξεις κλειδιά: Πληροφορία, εντροπία, πηγές, κωδικοποίηση πηγής, αμοιβαία πληροφορία, δυαδικό κανάλι, εσωτερική πληροφορία, εντροπία, κωδικές λέξεις, κωδικοποίηση μήκους σειρών.