Informatietheorie

Basisconcepten van de theorie geïntroduceerd in de jaren veertig van de twintigste eeuw, Shannon. informatietheorie - de wetenschap van het proces van overdracht, opslaan en ophalen van gegevens in een natuurlijke, technische en sociale systemen. In vele toepassingen van wetenschappelijke gebieden zoals informatica, taalkunde, cryptografie, regeltechniek, beeldverwerking, genetica, psychologie, economie, organisatie van de productie methoden worden gebruikt deze wetenschap.

In moderne voorwaarden informatietheorie zeer nauw verbonden met een coderende theorie bespreekt de meest voorkomende problemen van overeenstemming tussen een signaal en een bericht, en de theorie van de signaalverwerking, waarbij de kwantisering bestudeerd en herstel en spectrale signalen en correlatie analyse daarvan.

informatietheorie beschouwt het basisconcept van "informatie" voor het grootste deel kwantitatief, zonder rekening te houden zijn waarde, en soms zinloos. In deze aanpak zal een pagina met tekst ongeveer dezelfde hoeveelheid data bepaald door een aantal tekens en symbolen bevatten, en is niet afhankelijk van het feit dat, strikt genomen, er wordt afgedrukt, ook al is het absoluut zinloos en chaotische set van enkele symbolen.

Deze benadering is gerechtvaardigd, maar alleen voor simulatie van communicatiesystemen, aangezien zij informatie nauwkeurig zenden op de communicatiekanalen, waarbij elke reeks tekens en symbolen kunnen zijn. Dan, wanneer het nodig is om rekening te houden met de waarde en betekenis van data, kwantitatieve benadering is onaanvaardbaar. Deze omstandigheden stellen strenge beperkingen aan het gebied van de mogelijke toepassing van deze theorie.

Fundamentals of informatie theorie impliceert basis van een aantal kwesties, inclusief direct gerelateerd aan de verzending en ontvangst van gegevens. De belangrijkste communicatie-regeling, die wordt beschouwd als in het onderwijs is als volgt. Informatie Theorie en codering Hij is van mening dat dit de bron van de berichten, dat is een woord of een reeks woorden geschreven bepaalde letters van het alfabet. De bron van het bericht kan tekst op elke natuurlijke of zijn kunstmatige taal, menselijke taal, database en een aantal wiskundige modellen, het creëren van een opeenvolging van letters. De zender zet de boodschap in een signaal dat overeenkomt met de fysieke aard van het communicatiekanaal - medium voor signaaloverdracht. Tijdens het passeren van deze is onderworpen aan interferentie, die vervormingen van de waarde van de gegevens parameters invoeren. De ontvanger herstelt het oorspronkelijke bericht uit het ontvangen signaal vervormd. Bericht in een gereduceerde vorm komt naar de bestemming - een bepaalde persoon of een technisch hulpmiddel.

berichtbron is statistisch van aard, dat wil zeggen het uiterlijk van elk bericht wordt bepaald door een bepaalde waarschijnlijkheid. Shannon's informatie theorie gelooft dat als de waarschijnlijkheid van het bericht gelijk is aan de eenheid is, dat wil zeggen, zijn verschijning aanzienlijk en onzekerheden niet geloven dat het geen informatie draagt.

Een van de belangrijkste problemen van de informatie theorie beschouwt de coördinatie van het communicatiekanaal en de informatie eigenschappen van het bericht bron. Bandbreedte wordt bepaald door de eenheid 1 bit per seconde.

Een probleem bij communicatiesystemen interferentie met het gewenste signaalpad. Shannon, helaas, geeft ons niet de specifieke methoden voor het omgaan met mensen. De eenvoudigste methode voor het verwijderen dat vele malen berichten wordt herhaald zijn niet erg effectief, omdat het kost meer tijd kosten voor de overdracht van informatie. Veel grotere efficiëntie maakt het gebruik van codes die u in staat op te sporen en te corrigeren fouten van gegevensoverdracht.