シラバス参照

講義概要/Course Information

2024/07/19 現在

科目基礎情報/General Information

授業科目名 /Course title (Japanese)	アルゴリズム特論
英文授業科目名 /Course title (English)	Topics on Algorithms
科目番号 /Code
開講年度 /Academic year	2024年度	開講年次 /Year offered	全学年
開講学期 /Semester(s) offered	後学期	開講コース・課程 /Faculty offering the course	博士前期課程、博士後期課程
授業の方法 /Teaching method	講義	単位数 /Credits	2
科目区分 /Category	大学院専門教育科目 - 専門科目Ⅱ
開講類・専攻 /Cluster/Department	情報・ネットワーク工学専攻
担当教員名 /Lecturer(s)	中鹿　亘
居室 /Office	西10-209
公開E-mail /e-mail	nakashika@uec.ac.jp
授業関連Webページ /Course website	http://sp.lab.uec.ac.jp
更新日 /Last update	2024/03/21 09:14:11	更新状況 /Update status	公開中 /now open to public

講義情報/Course Description

主題および 達成目標（2,000文字以内） /Themes and goals（up to 2,000 letters）	機械学習やクラスタリングなどに用いられる各種の最適化手法の原理やアルゴリズムについて学ぶ．とりわけ近年の深層学習モデルで用いられている基本的なアルゴリズムや原理について解説する．それぞれのアルゴリズムの基本的な考え方を理解し，応用力を身につけることが目標である． In this class, I will introduce several optimization methods and algorithms used in machine learning, clustering, and especially deep learning. The aim of this lecture is to understand the basic idea of each algorithm and acquire applied skills.
前もって履修 しておくべき科目（1,000文字以内） /Prerequisites（up to 1,000 letters）	確率統計，線形代数，解析学，アルゴリズム Probability and statistics, Linear algebra, Mathematical analysis,  Algorithm
前もって履修しておくこ とが望ましい科目（1,000文字以内） /Recommended prerequisites and preparation（up to 1,000 letters）	機械学習，人工知能，情報理論，複素解析，音声信号処理 Machine learning, Artificial Intelligence, Information theory, Complex analysis, Speech signal processing
教科書等（1,000文字以内） /Course textbooks and materials（up to 1,000 letters）	講義資料を配付する． Lecture materials will be distributed. 参考書として以下を挙げる． Reference books are given as follows. Machine Learning: A Bayesian and Optimization Perspective, S. Theodoridis, Academic Press わかりやすいパターン認識／続・わかりやすいパターン認識，石井健一郎ら，オーム社 パターン認識と機械学習 上・下，C.M.ビショップ（元田浩ら訳），シュプリンガー・ジャパン Pattern Recognition and Machine Learning, C. M. Bishop, Springer
授業内容と その進め方（2,000文字以内） /Course outline and weekly schedule（up to 2,000 letters）	Google ClassroomなどWebページで配布した講義資料をもとに授業を行う．英語タイプ：Ccにより講義を実施する．授業内容は以下となる予定である． The lecture will be proceeded based on lecture materials that will be distributed through the website such as Google Classroom. The class will be held by the english type: Cc. Example of the contents of this lecture are listed below. 第1回：ガイダンス 第2回：解析学の基礎（極値，勾配法，ラグランジュの未定乗数法） 第3回：確率統計の基礎（最尤推定，ベイズ推定） 第4回：動的計画法（DPマッチング，ダイクストラ法） 第5回：非負値行列因子分解（乗法更新法，補助関数法） 第6回：クラスタリング（k-means，GMM，EMアルゴリズム） 第7回：隠れマルコフモデル（FBアルゴリズム，Viterbiアルゴリズム） 第8回：ニューラルネットワーク（誤差逆伝播法） 第9回：深層学習の基礎（CNN，ResNet） 第10回：時系列表現ネットワーク（LSTM，Attention，Transformer） 第11回：深層生成モデル（VAE，GAN，Flow） 第12回：ボルツマンマシンの基礎（BM，RBM） 第13回：ボルツマンマシンの発展（DBM，EBM） 第14回：拡散モデル（SBM，Diffusion） 第15回：総括 Week 1: Guidance Week 2: Introduction to analysis (local minima/maxima, gradient method, method of Lagrange multiplier) Week 3: Introduction to probability and statistics (maximum likelihood estimation, Bayesian estimation) Week 4: Dynamic Programming (sequence matching, Dijkstra's algorithm) Week 5: Non-negative matrix factorization (multiplicative update rules, auxiliary function) Week 6: Clustering (hierarchical cluster analysis, k-means, EM algorithm) Week 7: Hidden Markov model (forward-backward, Viterbi, Baum-Welch algorithms) Week 8: Neural networks (back propagation) Week 9: Introduction to deep learning (CNN, ResNet) Week 10: Neural sequence models (LSTM, Attention, Transformer) Week 11: Deep generative models (VAE, GAN, Flow) Week 12: Boltzmann machines Part 1 (BM, RBM) Week 13: Boltzmann machines Part 2 (DBM, EBM) Week 14: Diffusion models (SBM, Diffusion) Week 15: Summary
実務経験を活かした 授業内容 (実務経験内容も含む) /Course content utilizing practical experience
授業時間外の学習 （予習・復習等）（1,000文字以内） /Preparation and review outside class（up to 1,000 letters）	Google Classroomに講義資料がアップロードされるので予習・復習を行うことが望ましい． Students are preferred to prepare and review the lecture materials on Google Classroom.
成績評価方法 および評価基準 （最低達成基準を含む） （1,000文字以内） /Evaluation and grading （up to 1,000 letters）	レポートにより評価する． Evaluation will be based on the reports.
オフィスアワー： 授業相談（1,000文字以内） /Office hours（up to 1,000 letters）	Google Classroomまたはメール（nakashika@uec.ac.jp）にて適宜相談に応じる． Contact by e-mail or chat on Google Classroom.
学生へのメッセージ（1,000文字以内） /Message for students（up to 1,000 letters）	近年深層学習が大きな注目を集めています．上辺の知識でなく，しっかりと基礎技術を身に付けることが重要です． Deep learning has received a lot of attention in recent years. It is important to acquire basic skills firmly, not superficial knowledge.
その他 /Others	講義内容が一部変更される可能性がある． The lecture contents may be partially changed.
キーワード /Keywords	深層学習，機械学習，パターン認識，音声認識，人工知能，アルゴリズム，最尤法，ベイズ統計，ニューラルネットワーク，ボルツマンマシン，混合正規分布，隠れマルコフモデル，生成モデル Deep learning, Machine learning, Pattern recognition, Speech recognition, Artificial intelligence, Algorithms, Maximum likelihood, Bayesian statistics, Neural networks, Boltzmann machines, Gaussian mixture model, Hidden Markov model, Generative models