シラバス参照

講義概要/Course Information
2024/07/19 現在

科目基礎情報/General Information
授業科目名
/Course title (Japanese)
知的学習システム
英文授業科目名
/Course title (English)
Advanced Topics in Machine Learning
科目番号
/Code
開講年度
/Academic year
2024年度 開講年次
/Year offered
全学年
開講学期
/Semester(s) offered
前学期 開講コース・課程
/Faculty offering the course
博士前期課程
授業の方法
/Teaching method
講義 単位数
/Credits
2
科目区分
/Category
大学院専門教育科目 - 専門科目Ⅰ
開講類・専攻
/Cluster/Department
情報学専攻
担当教員名
/Lecturer(s)
庄野 逸
居室
/Office
西3-308
公開E-mail
/e-mail
shouno@uec.ac.jp
授業関連Webページ
/Course website
Google Classroom にて提供
更新日
/Last update
2024/03/11 15:20:52 更新状況
/Update status
公開中
/now open to public
講義情報/Course Description
主題および
達成目標(2,000文字以内)
/Themes and goals(up to 2,000 letters)
統計的なパターン認識、機械学習の基礎について学習し,データサイエンスの基盤を構築する.その後、具体的な学習認識システムの例として,Deep Learning(神経回路モデル),サポートベクターマシン,スパースモデリングなどの手法に関していくつかを取り上げ,基本的な考え方を修得する.

This lecture covers the fundamentals of machine learning and data science in the first part, followed by a discussion of advanced topics in machine learning in the second part, including deep learning (neural networks), support vector machines, sparse modeling, and more.
前もって履修
しておくべき科目(1,000文字以内)
/Prerequisites(up to 1,000 letters)
線形代数学1, 2,微積分学1, 2,統計学などの数学の基礎科目
Python などの機械学習を実行しやすい計算機言語の基本的な使い方.

Basic mathematical concepts such as linear algebra, calculus, and statistics are essential for understanding this field. In addition, proficiency in computer languages such as Python for handling machine learning models is crucial.
前もって履修しておくこ
とが望ましい科目(1,000文字以内)
/Recommended prerequisites and preparation(up to 1,000 letters)
応用数学などの数学に加え,アルゴリズムとデータ構造並びに同演習などの計算機科学系講義と演習

Advanced mathematics can enhance one's understanding of the concepts, while knowledge of algorithms and data structures in computer science can also be beneficial.
教科書等(1,000文字以内)
/Course textbooks and materials(up to 1,000 letters)
教科書は特に使用しない

参考書としては
  C.M. Bishop "Pattern Recognition and Machine Learning"
などが上げられる.
必要に応じて、授業に用いるスライドやプリント等を配布する.

Especially, specific textbook is not assigned.
However, "Pattern Recognition and Machine Learning (C.M Bishop)" is a good reference.

Some other materials like slides in the lecture will be provided.
授業内容と
その進め方(2,000文字以内)
/Course outline and weekly schedule(up to 2,000 letters)
英語タイプⅡ(Cc)により講義を実施
The lecture is classified as type II (Cc), that is, mostly lecture talk is offered in Japanese; the materials such as writing on the whiteboard, PPT slides and handouts are given in English.

英語講義に関しては字幕付きの講義動画を提供予定である
We provide Lecture videos with English subtitles will be provided from Google Classroom.

a) 内容:主に次の内容について議論を行う.

第1回:基本的問題設定の理解.統計的パターン認識とは何か?
The Basic formulation. What is pattern recognition?

第2回:数学的準備.確率・統計的データの取り扱い
Mathematical preparation. How to handle the data.

第3回:線形回帰モデル(1).最小二乗法
Linear Regression, from the viewpoint of Least square method

第4回:線形回帰モデル(2).Ridge 回帰
Linear Regression, from the viewpoint of Ridge regression

第5回:最尤法とベイズ法.
Maximum Likelihood method and Bayes approach.

第6回:ベイズ法を用いた線形回帰問題
Linear Regression with Baysian approach

第7回:パターン識別(1)線形識別関数による判別
Classification, from the viewpoint of linear discriminant function

第8回:パターン識別(2)確率的生成モデルと識別モデル
Classification, from the viewpoint of statistical generative and recognition model.


第9〜15回:Support Vector Machine,スパースモデリング(SpM), Deep Learning,などに関する議論を行う予定.具体的な予定は下記の通り.
In the second part, we will discuss several advance topics such like, Support Vector Machine, Sparase Modeling, deep learning, and so on. The following is one of sample.


第9回:Support Vector Machine 1: 線形識別器の復習と内積表現
Basic idea of support vector machine

第10回:Support Vector Machine 2: マージン最大化
Support Vector Machine (1): Maximization of margin in the support vector machine

第11回:Support Vector Machine 3: カーネル法
Support Vector Mahcine (2): Kernel method in the support vector machine

第12回: Deep Learning の基礎1: 神経回路モデル概要
Basic of Deep learning 1: Overview of neural network model

第13回: Deep Learning の基礎2: パーセプトロンと学習法
Basic of Deep learning 2: Simple perceptron and learning method

第14回: Deep Learning の基礎3: 畳み込みネットワーク(CNN), ネオコグニトロン
Convolution neural network and Neocognitron

第15回: Deep Learning の応用: 画像処理など
Application of Deep learning.


(b) 進め方:対面講義を基本に行うが,状況によってはオンライン講義などを導入する.
Face to face lecture is basic style; however online lecture might be adopt if the environment becomes worse.
実務経験を活かした
授業内容
(実務経験内容も含む)
/Course content utilizing practical experience
授業時間外の学習
(予習・復習等)(1,000文字以内)
/Preparation and review outside class(up to 1,000 letters)
授業時間外の学習:数学的,計算機的な演習は重要なので,演習を行うこと.
レポート課題を課すので,そのレポート作成も復習時に計画的に行うこと.

Mathematical and computational exercise is crucial for machine learning. Moreover some reports are required for grading.
成績評価方法
および評価基準
(最低達成基準を含む)
(1,000文字以内)
/Evaluation and grading
(up to 1,000 letters)
(a) 評価方法:成績は講義ごとに課す小課題 (20%) とレポート(80%)によって評価する.
Grades are based on assignment in each lecture (20%) and reports (80%).

(b) 評価基準:
以下の到達レベルをもって合格の基準とする.

(1) 学習理論の基本概念を理解している.
(2) 授業で説明した論理展開を理解している.
(3) 授業で説明した論理を実現するのに必要な計算を自力で行える.


The following levels of achievement will be used as the criteria for passing the course:

(1) Understanding of the fundamental concepts of learning theory.
(2) Understanding of the logical development explained in class.
(3) Ability to independently perform the necessary calculations to implement the logic explained in class.
オフィスアワー:
授業相談(1,000文字以内)
/Office hours(up to 1,000 letters)
主に月曜4限をオフィスアワーにあてる.コンタクトに関してはメールにて事前に連絡することが望ましい.

I will primarily hold office hours on Mondays at 4 pm. For contact, it is preferable to inform me in advance via email.
The office hour is 14:40〜16:10 on every Monday, however, it is better to be appointed.
学生へのメッセージ(1,000文字以内)
/Message for students(up to 1,000 letters)
学習システムは "入力データに依存して最適化を行うシステム" として捉えられる.
この科目を通して学習・認識といった機能の基本的な考え方を学び,自分の研究や将来の仕事などに応用していくことを望む.

The machine learning (ML) can be regarded as "a system that relies on input data for optimization."
Through this course, I hope all students will learn the basic concepts of ML and and apply them to their own research and future work.
その他
/Others
なし
キーワード
/Keywords
パターン認識(Pattern Classification),統計的学習(Statistical Learning),線形識別関数(Linear discrimination function),パーセプトロン(Perceptron),Deep Learning,  Support Vector Machine,Hidden Markov Model