Теорията на информацията

Основни понятия от теорията въведена през четиридесетте години на ХХ век, Шанън. теорията на информацията - науката на процеса на прехвърляне, съхранение и извличане на данни в областта на естествените, техническите и социалните системи. В много приложения на научни области като компютърни науки, лингвистиката, криптографията, теория на управлението, обработка на изображения, генетика, психология, икономика, организация на производствени методи се използват тази наука.

В съвременните условия с информация теория много тясно свързани с теория кодиране, разглежда най-често срещаните проблеми на съответствие между сигнал и съобщение и теорията на обработка на сигнали, при квантуването проучен и сигнали за възстановяване и спектрална и корелационен анализ него.

теорията на информацията счита, че основната концепция на "информация" по-голямата част в количествено, без да се отчита стойността си, а понякога и безсмислена. При този подход на страница текст ще съдържа приблизително същото количество данни, определени от редица знаци и символи, и не зависи от факта, че, строго погледнато, не се отпечатва, дори и ако това е абсолютно безсмислено и хаотичен набор от някои символи.

Този подход е оправдан, но само за симулация на комуникационни системи, тъй като те имат точно да предава информация на комуникационните канали, които могат да бъдат всеки набор от знаци и символи. След това, когато е необходимо да се вземе предвид стойността и значението на данните, количествен подход е неприемливо. Тези обстоятелства налагат значителни ограничения върху областта на възможно приложение на тази теория.

Основи на теорията на информацията включва разглеждане на различни въпроси, включително и пряко свързани с предаване и приемане на данни. Основната схема за комуникация, които се приемат в учението е както следва. Теория на информацията и кодиране Той смята, че те са източник на съобщения, което е една дума или набор от думи, написани на някои букви от азбуката. Източникът на съобщението може да бъде текстова, на всяко физическо или изкуствен език, човешки език, база данни и някои математически модели, създавайки поредица от букви. Предавателят преобразува съобщението в сигнал, съответстващ на физическата природа на комуникационния канал - средство за предаване на сигнала. По време на преминаването на такава е обект на смущения, които въвеждат нарушаване на стойността на параметрите на информация. Приемникът се възстановява първоначалното съобщение от получения изкривен сигнал. Писмо в редуцирана форма идва до местоназначението - определено лице или техническо устройство.

източник съобщение е статистически по природа, т.е. появата на всяко съобщение се определя от определена вероятност. теорията на информацията на Шанън вярва, че ако вероятността на съобщението е равна на единство, което е, появата му значително и несигурност не вярвам, че тя не носи никаква информация.

Един от най-важните проблеми на теорията на информацията счита координирането на канала за комуникация и информационни свойства на източника на съобщението. Bandwidth се определя от единица на 1 бит в секунда.

Един проблем с комуникационни системи са смущения на желания път на сигнала. Шанън, за съжаление, не ни дава специфични методи за справяне с тях. Най-лесният начин за експедиране, който се повтаря много пъти съобщения не са много ефективни, защото отнема повече разходи от време за предаване на информация. Много по-голяма ефективност позволява използването на кодове, които ви позволяват да се откриват и коригират грешки за предаване на данни.