[Intro] Learning from Big Data

성균관대학교 산업공학과 석박사과정에서 다루는 빅데이터활용실무이다.

 

해당과목은 선형대수학, 응용통계학 및 데이터마이닝을 선수과목으로 이수해야하며,

 

빅데이터에서 학습하기위한 현대 기술에 대한 기초적인 소개와 이론 및 응용을 다룬다.

 

빅데이터활용실무 목차는 다음과 같다.

 

- 과목명: 빅데이터활용실무(Learning from Big Data)

1주차) 0. Course Introduction

         0. Introduction to Deep Learning (S1. From AI to ML, DL: A Brief History)

         Supplementary: Obstacles to Progress in Deep Learning & AI (by Yann LeCun)

2주차) 1. Machine Learning Basics

3주차) 2. Deep Neural Networks [TBA (2~3) students]

4주차) 3. Optimization [TBA (2~3) students]

5주차) 4. Regularization [TBA (2~3) students]

6주차) 5. Practical Methodology [TBA (2~3) students]

7주차) Review (Lectures 1-5, in Korean)

8주차) - Midterms (35%) -

9주차) 6. Convolutional Neural Networks [TBA (2~3) students]

10주차) 7. Recurrent Neural Networks [TBA (2~3) students]

11주차) 8. Graph Neural Networks / 9. Auto-encoders [TBA (2~3) students]

12주차) 10. Deep Generative Models [TBA (2~3) students]

13주차) Special Topics in Deep Learning

14주차) Review (Lectures 6-10, in Korean)

15주차) - Finals (35%) -

 

별도 PDF 강의노트를 중심으로 국제어(English) 수업으로 진행 예정이며,

Part Ⅰ(학습의 기초)과 Part Ⅱ(딥 러닝 모델)으로 나뉘어져 있다.

 

Part Ⅰ- Basic Concepts of "Learning"

A. Generalization (일반화)

 a-1. Machine Learning (M/L)

 a-2. Deep Neural Network (DNN or DN)

B. Optimization (최적화)

 b-1. Optimization

C. Regularization (정규화)

 c-1. Regularization (Like a Normalization...)

 ...... Practical Methodology ......

 

Part Ⅱ - Deep Learning Models

A. Supervised Learning : 지도학습 모델 방법론

 a-1. Feed-forward Neural Networks (FNN)

 a-2. Convolusional Neural Networks (CNN)

 a-3. Recurrent Neural Networks (RNN)

 a-4. Graph Neural Networks (GNN)

B. Unsupervised Learning : 비 지도학습 모델 방법론

 b-1. Autoencoders

 b-2. Deep Generative Models - Variational Autoencoders, Generative Adversarial Networks

C. Special Topics in Deep Learning : 카네기 멜론 대학교 박사 과정 김주용 초청 강연

 c-1. 딥 러닝에 대한 최신 이슈와 리뷰

 

산업인공지능과 제조빅데이터 분석의 알고리즘으로 활용할 수 있기를 기대해본다.

 

Evaluation:

• [10%] Attendance (출석)

• [10%] Assignment 1 (과제 1): self-introduction report(ENG), Assignment 2 (과제 2): Research Proposal(9주차)

• [10%] Presentation (발표): 강의주제와 관련된 최신 연구 논문 소개 (10분 간 영어로 발표)

• [35%] Midterms (Closed-book, off-line)

• [35%] Finals (Closed-book, off-line)

 

Lecture Notes:

• 과정 소개: 0. Course Introduction.pdf

• 딥 러닝 입문: 0. Introduction to Deep Learning.pdf

• 머신 러닝 기초: 1. Machine Learning Basics.pdf

• 심층 신경망: 2. Deep Neural Networks.pdf

• 최적화: 3. Optimization.pdf

• 정규화: 4. Regularization.pdf

• 실용적인 방법: 5. Practical Methodology

...

• 합성곱 신경망: 6. Convolutional Neural Networks.pdf

• 순환 신경망: 7. Recurrent Neural Networks.pdf

• 그래프 신경망: 8. Graph Neural Networks.pdf

• 오토인코더: 9. Autoencoders.pdf

• 심층 생성 모델: 10. Deep Generative Models.pdf

 

References:

• Ian Goodfellow, Yoshua Bengio & Aaron Courville, Deep Learning, MIT Press, 2016. (https://www.deeplearningbook.org/)

• Trevor Hastie, Robert Tibshirani & Jerome Friedman, The Elements of Statistical Learning: Data Mining, Inference, and Prediction (2nd ed.), Springer, 2009. (https://web.stanford.edu/~hastie/ElemStatLearn/)

• https://www.tensorflow.org/

• https://github.com/terryum/awesome-deep-learning-papers

• https://github.com/ChristosChristofidis/awesome-deep-learning