КТіСУ

Дисципліна «Теорія інформації» відноситься до циклу нормативних дисциплін. Метою викладання дисципліни є вивчення теоретичних основ і набуття практичних навичок: систематизації циклу сприйняття передачі, обробки та представлення інформації, структурного перетворення інформації, вимірювання інформації, на кількісному і семантичному рівнях, застосування методів дискретизації інформації і їх оцінки та методів завадостйкого кодування інформації. Основними базовими дисциплінами для засвоєння дисципліни є, «Вища математика», «Теорія ймовірності та математична статистика», «Фізика», «Алгоритмічні мови та програмування», «Теорія електричних і магнітних кіл». Дисципліна забезпечує вивчення таких дисциплін, як «Теорія автоматичного управління» «Проектування систем управління», «Локальні системи автоматики», «Основи системного аналізу» та дипломне проектування.

Дисципліна складається з двох модулів.

В рамках модуля «Основні положення теорії інформації та інформаційна метрика» розглядаються загальне визначення інформації, фази обертання інформації, формування інформаційних ансамблів, класифікація і структура інформації, інформаційна ємкість, надмірність інформації. В ракурсі інформаційної метрики розглядаються: структурні міри інформації (геометрична, адитивна, комбінаційна міра Хартлі); статистичні міри інформації за Шеноном на основі введення поняття ентропії дискретного і неперервного джерела інформації (диференціальна ентропія); семантичні міри інформації (змістовність інформації, доцільність інформації, суттєвість інформації). Як практичне використання інформаційної метрики розглядаються: методи оцінки надлишковості інформації, розрахунку необхідної інформаційної ємкості; оцінка якості вимірювання і контролю, методика оцінки продуктивності дискретного джерела та швидкості передачі інформації, пропускної здатності каналів передачі інформації та інформаційних втрат при передачі інформації по дискретному каналу.

В модулі «Дискретизація та кодування інформації» розглядаються методи квантування та відтворення інформації, теоретичні і методологічні основи дискретизації інформації. В ракурсі кодування інформації розглядаються загальні положення теорії кодування як процес представлення інформації в цифровому вигляді, оцінка ефективності кодування, основні типи кодів, завадозахисне кодування.

Практичні заняття направлені на надбання практичних навичок кількісної оцінки інформації у різних інформаційних метриках в процесі її передачі, визначення необхідної ємності для зберігання інформації та використання методів кодування для різних практичних застосувань.

Виконання розрахункової роботи полягає у дослідженні різних типів сигналів при їх проходженні через канал зв’язку в умовах завад шляхом математичного моделювання з використанням програмного середовища, MATLAB.