Bevezetés az információelméletbe

Kódolás, valószínűség, információ

Szerző

Fazlollah M. Reza

Fordító

Bognár Jánosné

Lektor

Csiszár Imre

Budapest

'Fazlollah M. Reza: Bevezetés az információelméletbe ' összes példány

Kiadó:	Műszaki Könyvkiadó
Kiadás helye:	Budapest
Kiadás éve:	1966
Kötés típusa:	Fűzött keménykötés
Oldalszám:	583 oldal
Sorozatcím:
Kötetszám:
Nyelv:	Magyar
Méret:	20 cm x 14 cm
ISBN:
Megjegyzés:	155 fekete-fehér ábrával illusztrálva. Tankönyvi száma: 60 003.

Értesítőt kérek a kiadóról

A beállítást mentettük,
naponta értesítjük a beérkező friss
kiadványokról

Tartalom

Előszó	5
Köszönetnyilvánítások	8
Előszó a magyar kiadáshoz	10
Bevezetés	11
Hírközlési folyamatok	12
Hírközlési rendszer modellje	13
Az információ kvantitatív mértéke	16
Az információ bináris egysége	18
A könyv tartalmának áttekintése	20
Az információelmélet legjelentősebb művelői	22
Az információelmélet összefoglalása	25
Emlékezet nélküli diszkrét rendszerek
A valószínűségszámítás alapfogalmai diszkrét rendszerekre	31
Szemléletes alapfogalmak	31
Halmazok	33
Műveletek halmazokkal	35
Halmazok algebrája	37
Függvények	43
Eseménytér	48
Valószínűségi mérték	51
Események gyakorisága	53
Összeadási tétel	56
Feltételes valószínűség	58
Szorzási tétel	60
Bayes-tétel	62
Kombinatorikai problémák a valószínűségszámításban	66
Fa- és állapotdiagramok	70
Valószínűségi változók	76
Diszkrét valószínűségfüggvények és eloszlások	77
Kétdimenziós diszkrét eloszlások	79
Binomiális eloszlás	82
Poisson-eloszlás	83
Valószínűségi változók várható értéke	86
Az információelmélet alapfogalmai - emlékezet nélküli véges rendszerek	97
A bizonytalanság mértéke	97
Szemléletes igazolás	99
Az átlagos bizonytalanságra vonatkozó formális kikötések	101
A H függvény mint a bizonytalanság mértéke	104
Az entrópiafüggvény szélsőérték-tulajdonságának más bizonyítása	109
Források és bináris források	113
Kétdimenziós véges diszkrét valószínűségi szkémához tartozó információmennyiség	115
Feltételes entrópiák	118
Hírközlési hálózat vázlatos modellje	120
A csatorna zajkarakterisztikája	123
A különböző entrópiák közötti néhány alapvető összefüggés	125
A kölcsönös információ mértéke	129
Az információelmélet alapegyenlőtlenségeinek halmazelméleti szemléltetése	131
Redundancia, hatásfok és csatornakapacitás	134
Szimmetrikus zajstruktúrájú csatornák kapacitása	137
A bináris szimmetrikus és a bináris eltörlődéses csatorna	140
Bináris csatornák kapacitása	142
Hírközlési csatorna különböző időtartamú jelekkel	150
Az entrópiafüggvény unicitása	152
A kódoláselmélet elemei	161
A kódolás célja	161
Szeparálható bináris kódok	168
A Shannon-Fano-féle kódolás	169
A zajmentes kódolás szükséges és elégséges feltételei	173
Egy dekódolási tétel	179
A kódolt közlemények átlagos hossza	180
Shannon-féle bináris kód	184
A diszkrét zajmentes kódolás alaptétele. (Az információelmélet első alaptétele)	186
Huffman-féle minimális redundanciájú kód	188
Gilbert-Moore-féle kódolás	191
Zaj jelenlétében való diszkrét kódolás alaptétele. (Az információelmélet második alaptétele)	194
Hibajelző és hibajavító kódok	201
A bináris kódtér geometriája	202
A Hamming-féle egyhiba-javító kód	205
Az Elias-féle iterációs módszer	211
Az angol ábécé kódolása	215
Emlékezet nélküli folytonos rendszerek
Folytonos valószínűségeloszlás és sűrűség	225
Folytonos eseménytér	225
Az eloszlásfüggvény fogalma	226
A sűrűségfüggvény fogalma	229
Normális eloszlás	230
Cauchy-eloszlás	234
Exponenciális eloszlás	235
Többdimenziós valószínűségi változók	235
Két változó együttes eloszlása, vetületi eloszlás	238
Feltételes valószínűségeloszlás és sűrűség	240
Kétváltozós normális eloszlás	243
Valószínűségi változók függvényei	245
Transzformáció derékszögű koordinátákról polárkoordinátákra	252
Statisztikai átlagok	259
Várható érték a diszkrét esetben	259
Véges sok független diszkrét valószínűségi változó összegének és szorzatának várható értéke	262
Egydimenziós valószínűségi változó momentumai	264
Két egyenlőtlenség	267
Kétdimenziós valószínűségi változók momentumai	270
Korrelációs együttható	271
Valószínűségi változók lineáris kombinációja	274
Néhány gyakori eloszlásfüggvény momentumai	275
Valószínűségi változó karakterisztikus függvénye	280
Valószínűségi változók karakterisztikus függvénye és momentumgeneráló függvénye	282
Két valószínűségi változó összegének sűrűségfüggvénye	285
Normális eloszlások és határeloszlás-tételek	295
A kétdimenziós normális eloszlás mint az egydimenziós eloszlás kiterjesztése	295
Többdimenziós normális eloszlás	298
Normális eloszlású független valószínűségi változók lineáris kombinációja	300
Centrális határeloszlás-tétel	302
Egy egyszerű bolyongási probléma	307
Binomiális eloszlás közelítése normális eloszlással	308
Poisson-eloszlás közelítése normális eloszlással	311
A nagy számok törvényei	312
Emlékezet nélküli folytonos csatornák	317
A különböző entrópiák definíciója folytonos esetre	317
Folytonos eloszlás negatív entrópiája	319
A folytonos eloszlást közelítő diszkrét eloszlások entrópiája végtelenhez tart	321
A folytonos eset entrópiájának függése a koordinátarendszertől	324
Az információ mértéke folytonos esetben	327
Folytonos valószínűségi változók entrópiájának maximalizálása	330
Három konkrét entrópiamaximalizálási probléma megoldása	331
Gauss-féle zajos csatornák	335
Információátvitel additív zaj jelenlétében	337
Csatornakapacitás additív Gauss-féle zaj esetén, az adó és a zaj meghatározott átlagteljesítménye mellett	339
Két egymással függvénykapcsolatban levő valószínűségi változó entrópiái közti összefüggés	341
Megjegyzés a kölcsönös információ definiciójához	343
Véges sávszélességű jelek átvitele	347
Bevezetés	347
Többváltozó folytonos eloszlások entrópiái	348
Két Gauss-eloszlású valószínűségi vektorváltozó kölcsönös információja	350
Egy additív Gauss-zajokra vonatkozó csatornakapacitási tétel	352
Kitérő	355
Mintavételi tétel	356
A mintavételi tétel egy fizikai interpretációja	361
A vektortér fogalma	365
Fourier-sorral definiált jeltér	371
Véges sávszélességű jeltér	374
Véges sávszélességű véletlen jelek	376
Véges sávszélességű véletlen jelek entrópiája	379
Folytonos jelek átvitelének matematikai modellje	381
Optimális dekódolás	383
A hibavalószínűség egy alsó korlátja	385
A hibavalószínűség egy felső korlátja	387
Az additív zajú, emlékezet nélküli folytonos csatornák alaptétele	389
Thomasian becslése	390
Emlékezettel rendelkező rendszerek
Sztochasztikus folyamatok	397
A sztochasztikus folyamatok elmélete	398
Példák sztochasztikus folyamatokra	402
Momentumok és várható értékek	403
Stacionárius folyamatok	405
Ergodikus folyamatok	407
Korrelációs együtthatók és korrelációfüggvények	411
Példa normális sztochasztikus folyamatokra	414
Példák korrelációfüggvények kiszámítására	415
A stacionárius folyamatok korrelációfüggvényeinek néhány elemi tulajdonsága	418
Teljesítményspektrumok és korrelációfüggvények	420
Koncentárlt paraméterű lineáris rendszerek válasza ergodikus gerjesztésre	423
A valószínűségszámítás határérték- és konvergenciafogalmai	428
Sztochasztikus differenciálás és integrálás	430
Példák stacionárius Gauss-folyamatokra	432
A sztochasztikus folyamatok rövid áttekintése	433
Egy összefüggés a pozitív definit függvények és a valószínűségszámítás között	435
Emlékezettel rendelkező források és csatornák	439
A hírközlés sztochasztikus természete	439
Véges Markov-láncok	441
Ergodikus Markov-láncokra vonatkozó alaptétel	443
Egyszerű Markov-lánc entrópiája	446
Diszkrét stacionárius forrás entrópiája	451
Emlékezettel rendelkező diszkrét csatornák	456
A forrás és az emlékezettel rendelkező diszkrét csatorna összekapcsolása	457
Stacionárius forrás és stacionárius csatorna összekapcsolása	459
Néhány újabb eredmény
Az információelmélet alaptétele	465
Döntési szkéma	466
A döntési szkéma hibavalószínűsége	466
Összefüggés a hibavalószínűség és a kétértelmű entrópia között	469
Diszkrét, emlékezet nélküli, zajos csatornák kiterjesztése	470
Hírközlési rendszerekkel kapcsolatos valószínűségi változók függvényei	472
Egy halmazokra vonatkozó lemma	473
A bizonyítás befejezése	475
Véletlen kódok	478
Összefüggés a kölcsönös információ és a hibavalószínűség között	482
A hibavalószínűség exponenciális korlátja	484
A kódszókészlet	486
Egy lemma és alkalmazása	489
A szavak számának becslése	491
Wolfowitz bizonyításának befejezése	492
Csoportkódok	493
Bevezetés	493
A csoport fogalma	494
Testek és gyűrűk	501
n-jegyű bináris szavak algebrája	503
Hamming-kódok	506
Csoportkódok	510
Detektáló szkéma csoportkódokra	512
Slepian módszere az egyetlen hibát javító csoportkódokra	513
További megjegyzések a csoportkódokról	518
Néhány korlát egy szisztematikus kód szavainak számára	522
Függelék. Kiegészítő megjegyzések és táblázatok	527
Magánvonallal rendelkező játékos	527
Néhány megjegyzés a mintavételi tételhez	529
Analitikus jelek és a határozatlansági reláció	532
A bináris szimmetrikus csatornára vonatkozó alaptétel Elias-féle bizonyítása	534
További megjegyzések a kódoláselmélethez	538
Csatornák részben rendezése	541
Információelmélet és radardetektálási problémák	542
Táblázatok	544
Irodalomjegyzék	561
Név- és tárgymutató	571