シラバス参照

講義概要/Course Information
2024/07/19 現在

科目基礎情報/General Information
授業科目名
/Course title (Japanese)
情報理論特論
英文授業科目名
/Course title (English)
Advanced Information Theory
科目番号
/Code
開講年度
/Academic year
2024年度 開講年次
/Year offered
全学年
開講学期
/Semester(s) offered
後学期 開講コース・課程
/Faculty offering the course
博士前期課程、博士後期課程
授業の方法
/Teaching method
講義 単位数
/Credits
2
科目区分
/Category
大学院専門教育科目 - 専門科目Ⅱ
開講類・専攻
/Cluster/Department
情報・ネットワーク工学専攻
担当教員名
/Lecturer(s)
大濱 靖匡
居室
/Office
西1-405
公開E-mail
/e-mail
oohama@uec.ac.jp
授業関連Webページ
/Course website
http://www.itsoc.org/
更新日
/Last update
2024/03/25 11:35:29 更新状況
/Update status
公開中
/now open to public
講義情報/Course Description
主題および
達成目標(2,000文字以内)
/Themes and goals(up to 2,000 letters)
情報理論は、1948年にシャノンによって創始された情報通信の理論限界を与える
基礎理論である。本講義では、情報理論の基本的枠組みとその考え方について講
義を行う。情報理論が理論として情報通信技術をどのように支えているのかを理
解することが目標である。

In this lecture we study information theory to understand its relationship to the analysis of real communication systems.   
前もって履修
しておくべき科目(1,000文字以内)
/Prerequisites(up to 1,000 letters)
確率論、統計学、情報代数系に関連した専門基礎科目を履修しておくべきである。
Classes Related to Probability Theory, Statistics, and Algebric Systems
前もって履修しておくこ
とが望ましい科目(1,000文字以内)
/Recommended prerequisites and preparation(up to 1,000 letters)
情報理論、通信理論に関連した科目を履修しておくことが望ましい。

Classes Related to Information Theory or Communication Theory
教科書等(1,000文字以内)
/Course textbooks and materials(up to 1,000 letters)
T. M. Cover and J.A. Thomas, Element of Information Theory, 2nd Ed.
Hoboken, NJ: Wiley, 2006. 翻訳版: T. M. Cover and J.A. Thomas, 情報理
論-基礎と広がり-,山本博資・古賀弘樹・有村光晴・岩本貢訳,共立出版,2012
授業内容と
その進め方(2,000文字以内)
/Course outline and weekly schedule(up to 2,000 letters)
日本語での記載: 英語タイプⅡ(Cb)により講義を実施

The lecture in this course, type II, is mostly offered in Japanese; materials such as writing on the whiteboard, PPT slides and handouts are given in English.

第1回 情報理論の歴史
第2回 情報量とその性質 (エントロピー)
第3回 情報量とその性質(条件付き情報量)
第4回 情報量とその性質
  (確率変数のマルコフ連鎖、データ処理定理)
第5回 情報源とその性質
第6回 記憶のある情報源とその性質
第7回 漸近的等分割性について 
第8回 情報スペクトル的量とその性質
第9回 情報源符号化の一般的枠組
第10回 情報源符号化に関する基本定理
    (AEPとの関係)
第11回 情報源符号化に関する基本定理
   (情報スペクトル的方法からの考察)
第12回 通信路符号化の一般的枠組
第13回 通信路符号化の基本定理
    (AEPとの関係)
第14回 通信路符号化に関する基本定理
   (情報スペクトル的方法の観点より)
第15回最近の話題 (多端子情報理論、盗聴通信路等)

スライド、板書、により進める。適宜講義資料を配布する。

1. History of Information Theory
2. Information Quantities and their Properties
    (Entropy)
3. Information Quantities and their Properties
    (Conditional Information Quantities
4. Information Quantities and their Properties
     (Markov Chain of Random Variable, Data Processiong Inequality)  
5. Information Sources and their Properties
6. Memory of Information Sources and its Property
7. Asymptotic Equipartition Property (AEP)
8. Information Spectrum and its propety   
9. Source Coding Problem
10. Source Coding Theory
    (Relationship between AEP)  
11. Source Coding Theory
    (Standpoint of Infomation Spectrum Method)  
12. Channel Coding Problem
13. Channel Coding Theory
    (Relationship between AEP)  
14. Channel Coding Theory
    (Standpoint of Infomation Spectrum Method)  
15. Recent Topics in Information Theory
   (e.g. Network Information Theory, Wire-tap Channels)

We use a lecture board or slide. We also use appendix handouts.

   

実務経験を活かした
授業内容
(実務経験内容も含む)
/Course content utilizing practical experience
授業時間外の学習
(予習・復習等)(1,000文字以内)
/Preparation and review outside class(up to 1,000 letters)
予習では、情報理論に関連の動画を見ておくことが望ましい。復習では、講義内容の理解のために具体例の計算を行うことが望ましい。

Study by watchig video on information theory. Computation of examples to understand contents of the lecture.

成績評価方法
および評価基準
(最低達成基準を含む)
(1,000文字以内)
/Evaluation and grading
(up to 1,000 letters)
適宜レポート課題を出す。これにより成績を評価する。
Evaluation by Submitted Reports
オフィスアワー:
授業相談(1,000文字以内)
/Office hours(up to 1,000 letters)
木曜日16時~
学生へのメッセージ(1,000文字以内)
/Message for students(up to 1,000 letters)
講義内容を理解することも大事であるが、講義内容を通じ、情報理論が現実の
情報通信技術にいかなる影響を与えるのかを理解することが重要である。
関連リンクとして 以下がある。
http://www.uctv.tv/shows/Claude-Shannon-Father-of-the-Information-Age-6090
We have the following URL related to this lecture:   
http://www.uctv.tv/shows/Claude-Shannon-Father-of-the-Information-Age-6090

その他
/Others
Currently, we are setting up a face-to-face method,
but depending on the situation, it may be a on-demand method.
現在、対面講義の設定で行なっていますが、状況の変化によりオンデマンド
方式になる場合があります。
キーワード
/Keywords
情報理論、多端子情報理論、盗聴通信路
Information Theory, Network Information Theory, Wire-tap Channels