25128: تئوری اطلاعات و کدینگ
نام درس: تئوری اطلاعات و کدینگ (Information and Coding Theory)
شماره درس: 25128
پیش‌نیاز(ها): 25111 (مخابرات 1)
هم‌نیاز(ها): -
تعداد واحد: 3
مقطع: کارشناسی ارشد
آخرین ویرایش: پاییز 1391

توضیحات:
هدف این درس آشنایی با مفاهیم نظریه شانون و نظریه اطلاعات، از جمله آنتروپی، اطلاعات متقابل AEP، منابع ایستان و ارگادیک، کدهای بهینه، آشنایی با کاربردهای نظریه شانون و نظریه اطلاعات، از جمله کدگذاری منابع، ظرفیت کانال و شبکه‌های اطلاعات است.
 
سرفصل‌ها:
  • مقدمه، اندازه‌گیری اطلاعات (آنتروپی، اطلاعات متقابل)
  • AEP، منابع ایستان و ارگادیک، آنتروپی منایع ایستان و آنتروپی منابع مارکف
  • فشرده‌سازی داده‌ها (کدکردن منابع)، کدهای به‌طوریکتا قابل کشف، کدهای آنی، کدهای بهینه (هافمن)، قضیه اول شانون، کدهای بسته بهینه
  • کانال‌های گسسته و بدون حافظه (DMC)، ظرفیت کانال، کانال‌های خاص، قضیه دوم شانون (قضیه اصلی نظریه اطلاعات)، قضیه معکوس (نامساوی فانو)
  • کانال‌های گوسی، ظرفیت، قضیه دوم شانون، کانال‌های موازی، کانال‌های با فیدبک
  • نظریه اطلاعات شبکه (کانال‌های چندراهه)
  • دنباله‌های نوعی، کانال‌های TWC، IF
  • کانال دو طرفه (TWC)، کانال تداخل (TFC)
  • کانال‌های دسترسی چندگانه (MAC)
  • کدکردن منابع وابسته و قضیه Slepian-Wall
  • کانال پخش (BC)
  • کانال رله
  • کدکردن منابع با اطلاعات جانبی
  • شبکه‌های کلی اطلاعات

مراجع:
  • T. M. Cover, J. Thomas, Elements of Information Theory, John Wiley, 2006
  • R. Ash, Information Theory, John Wiley, 1965
  • R. Gallager, Information Theory and Reliable Communication, John Wiley, 1968
  • I. Csiszar, J. Korner, Information Theory: Coding Theorems for Discrete Memoryless Systems, Academic Press, 1981
  • R. Yeung, A First Course in Information Theory, Kluwer Academic, 2002
  • C. E. Shannon, A Mathematical Theory of Communication, Bell Tech. J., 1948
  • D. Slepian, Key Papers in the Development of Information Theory, IEEE, 1974
  • E. Van Der Meulen, A Survey of Multiway channels in Information Theory: 1961-1976, IEEE Trans. Inform. Theory, 1977
  • S. Verdu, Fifty Years of Shannon Theory, IEEE Trans. Inform. Theory, 1998
  • T. M. Cover, Comments on Broadcast Channels, IEEE Trans. Inform. Theory, 1998
  • G. Kramer, Topics in Multi-user Information Theory, Foundation and Trends in Communications and Information Theory, 2008
  • A. El Gamal and Y.-H. Kim, Lecture Notes on Network Information Theory, Cambridge Press, 2012


 
آخرین به‌روزرسانی: 17 / 4 / 1403