EN2500 Informationsteori och källkodning 7,5 hp

Informationsteori av diskreta och kontinuerliga variabler: entropi, Krafts olikhet, relativ entropi, entropitakt, redundans, ömsesidig information, asymptotisk ekvipartition. Estimering av sannolikhetsfunktioner och täthetsfunktioner. Expectation Maximization-algoritmen. Principen om maximal entropi.

Ickedestruktiv kodning: icke-adaptiva koder: Shannon, Huffmann, aritmetiska koder. Universella och adaptiva koder: Ziv-Lempel-koder.

Rate-distortion-teori: rate-distortions-funktionen, Shannons undre gräns, rate-distortion av oberoende variabler, "reverse waterfilling", Blahuts algoritm.

Fin-kvantisering: kvantiering genom begränsning av upplösning och begränsning av entropi. Vektor- och skalärkvantisering. Tillämpad fin-kvantisering: mixture- och gitter-kvantisering, kompandering.

Kvantisering med låg datahastighet: Lloyds algoritm för begränsad upplösning och begränsad entropi. Strukturerad vektorkvantisering (trästruktur, multi-steg, "gain-shape", gitter). Snabba sökmetoder.

Transformer och filterbankar: baser och ramar. Fasta tranformer: DFT, DCT, MLT, Gabor-ramar, Balian-Lows sats. A-priori-adaption: Karhunen-Loeve, a-priori energikoncentrering. A-posteriori adaption: a-posteriori energikoncentrering, sökning efter bästa bas, "matching pursuit".

Linjär prediktion: återkopplad prediktion, brusformning, "analysis-by-synthesis", "spectral flatness", Kolmogorovs formel, redundans, framåt- och bakåt-prediktion.

Att ge en förståelse för de teoretiska grunderna för källkodning.

För fristående kursstudent: 120 hp samt Engelska B eller motsvarande

W.B. Kleijn, A basis for source coding, KTH-S3 (2004).

När kurs inte längre ges har student möjlighet att examineras under ytterligare två läsår.

• HEM1 - Hemuppgift, 1,5 hp, betygsskala: P, F
• TEN1 - Tentamen, 6,0 hp, betygsskala: A, B, C, D, E, FX, F

Examinator beslutar, baserat på rekommendation från KTH:s handläggare av stöd till studenter med funktionsnedsättning, om eventuell anpassad examination för studenter med dokumenterad, varaktig funktionsnedsättning.

Examinator får medge annan examinationsform vid omexamination av enstaka studenter.

Skriftlig examen.
Hemuppgift.

Markus Flierl

• Vid grupparbete har alla i gruppen ansvar för gruppens arbete.
• Vid examination ska varje student ärligt redovisa hjälp som erhållits och källor som använts.
• Vid muntlig examination ska varje student kunna redogöra för hela uppgiften och hela lösningen.