情報理論 -Information Theory-

担当教員・研究室 配当年次 学期 種別 単位数 授業形態 開講年度 ナンバリングコード
柳 信一 324研究室
2年 前期 選択 2 単位
講義（遠隔オ）
2021 SSI215
アクティブラーニング
いいえ
授業概要
　情報理論は確率論に基づいて情報という概念を定式化し，情報通信技術の本質である効率化と高信頼化に関する理論的な枠組を与えている。また，情報理論の基礎事項である情報量の概念や情報の符合化は，情報通信のみならず情報の圧縮や情報の暗号化等，情報科学全般に関連しており，コンピュータに関係する様々な情報処理技術を理解するうえでの基本となる。
　本講義は幅広い応用分野をもつ情報理論の基礎を理解することを目的とする。
　まず，情報量と平均情報量の概念を学習する。次に，情報源のモデルを学習し，代表的な符号化方法を学習する。さらに通信路のモデルを学習し，通信路の符号化方法が信頼性のある通信を実現するための基礎理論となっていることを学習する。
授業における学修の到達目標
1.情報量とエントロピーの理解
2.情報源の符号化の理解
3.通信路の符号化の理解
授業計画
回数 授業、事前・事後学習 時間
1 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 情報理論の目的と通信システムのモデル
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
2 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 情報量とエントロピー
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
3 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 条件付きエントロピーと相互情報量

事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
4 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 情報源
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
5 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 語頭条件と符号の木
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
6 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 クラフトの不等式
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
7 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 拡大情報源と情報源符号化定理
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
8 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 効率のよい符号の構成法
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
9 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 2元対象通信路と通信路容量
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
10 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 通信路符号化定理
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
11 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 誤り検出と誤り訂正
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
12 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 線形符号
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
13 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 ハミング符号
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
14 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 生成行列とパリティー検査行列
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
15 事前学習 教科書の該当部分をよく読み，理解できない部分を自分なりに調べる。 2
授業 巡回符号
事後学習 教科書の該当部分とノートを読み返し，内容を確認する。 2
成績評価の方法およびその基準
次項の項目及び割合で標準評価基準に基づき総合評価する。

■試験：１００%　□小テスト：　　%　□レポート：　　%　□演習課題：　　%　
□その他[ 　　　　　 ]
課題(試験やレポート等)に対するフィードバック方法
添削して返却する。
教科書
  • 書名:はじめての情報理論(第2版) ,　著者名:稲井寛 ,　出版社:森北出版 ,　備考:電子書籍不可
参考書・Webサイト
なし
単位習得が望ましい科目
確率統計I，線形代数I，II
備考
なし
担当教員の実務経験
実務経験なし
close閉じる