シラバス参照

講義概要/Course Information
2020/04/28 現在

科目基礎情報/General Information
授業科目名
/Course title (Japanese)
知的学習システム
英文授業科目名
/Course title (English)
Advanced Topics in Machine Learning
科目番号
/Code
開講年度
/Academic year
2020年度 開講年次
/Year offered
全学年
開講学期
/Semester(s) offered
前学期 開講コース・課程
/Faculty offering the course
博士前期課程
授業の方法
/Teaching method
講義 単位数
/Credits
2
科目区分
/Category
大学院専門教育科目 - 専門科目Ⅰ
開講学科・専攻
/Cluster/Department
情報学専攻
担当教員名
/Lecturer(s)
庄野 逸
居室
/Office
西3-313
公開E-Mail
/e-mail
shouno@uec.ac.jp
授業関連Webページ
/Course website
https://webclass.cdel.uec.ac.jp/webclass/
更新日
/Last updated
2020/03/03 15:42:07 更新状況
/Update status
公開中
/now open to public
講義情報/Course Description
主題および
達成目標
/Topic and goals
統計的なパターン認識、機械学習などの基礎について主に学習し,データサイエンスの基盤を構築する.その後、具体的な学習認識システムの例として,Deep Learning(神経回路モデル),Support Vector Machine,Hidden Markov Modelなどの手法に関していくつかを取り上げ,議論を行い,基本的な考え方を理解する.

This lecture provides basic machine learning concepts and data science in the first part. The second part discuss the advanced topic of the machine learning such like deep learning (neural network), support vector machine, hidden Markov model and so on.
前もって履修
しておくべき科目
/Prerequisites
線形代数学1, 2,微積分学1, 2,統計学などの数学の基礎科目
Python などの機械学習を実行しやすい計算機言語の基本的な使い方.

Some basic mathematics like linear Algebra, differentiation, integration, statistics  is important for understanding this field. Also, some computer language for handling the machine learning model, such like Python, is also important.
前もって履修しておくこ
とが望ましい科目
/Recommended prerequisites and preparation
応用数学などの数学に加え,アルゴリズムとデータ構造並びに同演習などの計算機科学系講義と演習

Advanced Mathematics helps understanding the concept. Also algorithm and data structure in the computer science helps.
教科書等
/Course textbooks and materials
教科書は特に使用しない

参考書としては
  C.M. Bishop "Pattern Recognition and Machine Learning"
などが上げられる.
必要に応じて、授業に用いるスライドやプリント等を配布する.

Especially, specific textbook is not assigned.
However, "Pattern Recognition and Machine Learning (C.M Bishop)" is a good reference.

Some other materials like slides in the lecture will be provided.
授業内容と
その進め方
/Course outline and weekly schedule
a) 内容:主に次の内容について議論を行う.

第1回:基本的問題設定の理解.統計的パターン認識とは何か?
    The Basic formulation. What is pattern recognition?

第2回:数学的準備.確率・統計的データの取り扱い
    Mathematical preparation. How to handle the data.

第3回:線形回帰モデル(1).最小二乗法
    Linear Regression, from the viewpoint of Least square method

第4回:線形回帰モデル(2).Ridge 回帰
    Linear Regression, from the viewpoint of Ridge regression

第5回:最尤法とベイズ法.
    Maximum Likelihood method and Bayes approach.

第6回:パターン識別(1)線形識別関数による判別
    Classification, from the viewpoint of linear discriminant function

第7回:パターン識別(2)確率的生成モデルと識別モデル
    Classification, from the viewpoint of statistical generative and recognition model.

第8回:計算機による実現
    Implement of some machine learning algorithm

第9〜15回:Support Vector Machine,隠れマルコフモデル(HMM), Deep Learning,などに関する議論を行う予定.具体的な予定は下記の通り.
In the second part, we will discuss several advance topics such like, Support Vector Machine, hidden Markov model, deep learning, and so on. The following is one of sample.


第9回:Support Vector Machine 1: 線形識別器の復習と内積表現
    Basic idea of support vector machine

第10回:Support Vector Machine 2: マージン最大化
    Maximization of margin in the support vector machine

第11回:Support Vector Machine 3: カーネル法
    Kernel method in the support vector machine

第12回: Deep Learning の基礎1: 神経回路モデル概要
    Basic of Deep learning 1: Overview of neural network model

第13回: Deep Learning の基礎2: パーセプトロンと学習法
    Basic of Deep learning 2: Simple perceptron and learning method

第14回: Deep Learning の基礎3: 畳み込みネットワーク(CNN), ネオコグニトロン
    Convolution neural network and Neocognitron

第15回: Deep Learning の応用: 画像処理など
    Application of Deep learning.


(b) 進め方:黒板やプロジェクタを用いて授業を行う.
  Using white board and slides.

実務経験を活かした
授業内容
(実務経験内容も含む)
/Course content utilizing practical experience
なし
授業時間外の学習
(予習・復習等)
/Preparation and review outside class
授業時間外の学習:毎回の授業後に、必ず復習を行うこと.レポート課題を課すので,そのレポート作成も復習時に計画的に行うこと.
  Mathematical and computational exercise is important.  Moreover some reports are required in the class.
成績評価方法
および評価基準
(最低達成基準を含む)
/Evaluation and grading
(a) 評価方法:成績は講義中に出す小課題 (60%) とレポート(40%)による.
  The evaluation is based on the homework practices shown in the classroom (60%) and reports (40%)

(b) 評価基準:
 以下の到達レベルをもって合格の基準とする.

 (1) 学習理論の基本概念を理解している.
 (2) 授業で説明した論理展開を理解している.
 (3) 授業で説明した論理を実現するのに必要な計算を自力で行える.
オフィスアワー:
授業相談
/Office hours
主に月曜4限をオフィスアワーにあてる.メールにて事前に連絡することが望ましい.

The office hour is 14:40〜16:10 on every Monday, however, it is better to be appointed.
学生へのメッセージ
/Message for students
学習システムは "入力データに依存して最適化を行うシステム" として捉えられる.
この科目を通して学習・認識といった機能の基本的な考え方を学び,自分の研究や将来の仕事などに応用していくことを望む.
その他
/Others
なし
キーワード
/Keyword(s)
パターン認識(Pattern Classification),統計的学習(Statistical Learning),線形識別関数(Linear discrimination function),パーセプトロン(Perceptron),Deep Learning,  Support Vector Machine,Hidden Markov Model