Inligtingsteorie

Inligtingsteorie
Entropie Differensiële entropie Voorwaardelike entropie Gesamentlike entropie Wedersydse inligting Voorwaardelike wedersydse inligting Relatiewe entropie Entropie koers Beperking van digtheid van diskrete punte
Asimptotiese ekwipartisie-eienskap Tempo-vervorming teorie
Shannon se bronkoderingstelling Kanaal kapasiteit Ruiserige-kanaal kodering stelling Shannon–Hartley stelling

Inligtingsteorie is ’n vertakking van toegepaste wiskunde en elektroniese ingenieurswese en het te doen met die meting of kwantifisering van inligting. Die veld is fundamenteel gevestig deur die werke van Harry Nyquist en Ralph Hartley, in die 1920s, en Claude Shannon in die 1940s. Claude Shannon word as vader van hierdie studie beskou en sy 1948 gepubliseerde wetenskaplike artikel A Mathematical Theory of Communications het die grondslag gelê vir die informasie-era (Engels: Information Age).

’n Beeld van krapplekke op die leesbare oppervlak van ’n CD-R. Musiek- en Data-CD’s word gekodeer met foutherstellingskodes en kan dus steeds deur middel van foutoptelling- en foutherstellingstegnieke gelees word, alhoewel hulle klein krapplekke bekom het.

Inligtingsteorie help wetenskaplikes om verskillende stelsels se kapasiteit om informasie te stoor, oor te dra en te verwerk, te bepaal. Inligtingsteorie is ook bemoeid met datakompressie en met metodes vir die vermindering van geraas en foute, om sodoende so veel as moontlik data betroubaar te kan stoor of oor ’n kanaal te kan stuur. Die maatstaf van informasie, ook bekend as informasie entropie, word gewoonlik uitgedruk as die gemiddelde hoeveelheid bisse benodig vir die berging of oordrag van data. Baie van die ondersteunende wiskunde is deur Ludwig Boltzmann en Josiah Willard Gibbs vir termodinamika ontwikkel. Alan Turing het soortgelyke idees gebruik toe hy gedurende die Tweede Wêreldoorlog die Duitse Enigma syferskrifkode (Engels: ciphers) gebreek het.

Inligtingsteorie affekteer ’n wye verskeidenheid van velde, wat strek vanaf wiskunde en rekenaarwetenskap tot by neurobiologie, taalkunde en swart kolke. Praktiese toepassings, sluit in die herstel van foute as gevolg van krapplekke op DVD’s. ’n Artikel in 1953 in die tydskrif Fortune, bevat die volgende:

It may be no exaggeration that man's progress in peace, and security in war, depend more on fruitful applications of Information Theory than on physical demonstrations, either in bombs or in power plants, that Einstein’s famous equation works.

Claude Shannon is in 2001 oorlede, teen die ouderdom van 84, na ’n lang stryd teen Alzheimer se siekte.

Bronne

• The Math Book, Clifford A. Pickover. ISBN 978-1-4027-5796-9