- 딥 러닝은 학습 데이터를 기반으로 한 광범위한 기계 학습 방법 제품군의 일부를 표현한 것이다.
다시 말하면, 딥 러닝은 머신 러닝의 부분 집합에 속한다고 볼 수 있다.
- 데이터 마이닝은 다음과 같은 방법을 포함하는 대규모 데이터 집합의 패턴을 발견하는 컴퓨팅 프로세스다.
"머신 러닝", "통계" 및 "데이터베이스 시스템"의 교차점에 위치한 개념이다.
- 데이터 과학은 "통계, 데이터 분석 및 관련 방법을 통합하는 개념"이다.
데이터로 "실제 현상을 이해하고 분석"한다. 그것은 그려진 기술과 이론을 사용한다.
수학, 통계, 정보 과학 및 넓은 영역 내의 많은 분야에서 컴퓨터 과학(특히 기계 학습, 분류, 클러스터의 하위 영역에서 분석, 데이터 마이닝, 데이터베이스 및 시각화)
※ 데이터 과학자는 문제를 해결할 수 있는 수학/과학적 방법론을 기획하고,
데이터 엔지니어는 주요 백엔드 기술 스택과 분석 기술을 적용한다.
“Artificial intelligence (AI) is intelligence demonstrated by machines, in contrast to the natural intelligence displayed by humans.” 인공 지능은 기계에 의해 입증된 지능이다. 인간이 보여주는 자연 지능과는 대조적으로, - wikipedia
• Dartmouth Summer Research Project on Artificial Intelligence (1956) From left: Trenchard More, John McCarthy, Marvin Minsky, Oliver Selfridge, and Ray Solomonoff . (Photo by Joseph Mehling '69) “The study is to proceed on the basis of the conjecture that every aspect of learning or any other feature of intelligence can in principle be so precisely described that a machine can be made to simulate it.” 이 연구는 학습의 모든 측면이나 지성의 어떤 다른 특징들이 원칙적으로 매우 정확하게 기술되어 그것을 시뮬레이션 할 수 있는 기계가 만들어질 수 있다는 추측에 근거하여 진행하는 것이다.
• Strong AI:
· as intelligent as a human does (e.g. SCI-FI)
• Weak AI:
· narrow and limited intelligence that performs a specific task (e.g. manufacturing systems, robots,…)
• AI History (Traditional AI¹ → Machine Learning² → Deep Learning³)
① Traditional AI(Rule-Based, “Human-driven”)
- 전통적인 AI 시스템은 규칙 기반의 전문가 시스템 (Expert System)으로 구동되었다.
(1) 전문가의 지식(또는 수식)을 컴퓨터에 저장 → (2) 사용자가 접근하여 활용
- 대부분이 if/else 문장들로 이루어진 문제에 대한 인류 지향의 복잡한 코드 덩어리이다.
② Machine Learning from Data(Implicit knowledge, “Data-driven”)
- 훨씬 더 짧고, 유지관리가 용이하며 정확한 프로그램(기계 학습, Machine Learning)이 등장하였다.
- 기존 방법으로는 해결할 수 없는 복잡한 문제나 알고리즘이 없는 문제에도 적용할 수 있다.
(데이터 기반의 모델을 보고, 약간의 하이퍼 파라미터 조정이나 학습률 등 사람의 손이 들어간다.)
• Traditional Learning Paradigm Data → Human(Expert) → Rules/Logics (White-Box) • Machine Learning Paradigm Data → Machine(Computer) → Model(Mostly Black-Box)
- 명시적 지시 없이 특정 과업을 수행하는 것이 가능하나, 확장성이 다소 떨어진다.
• Machine Learning - A computer system learns from data - implicit knowledge, “data driven” - Machine learning performs a specific task without using explicit instructions, relying on patterns (data) and inference (mostly black box) instead. - requires domain expertise to design hand craft feature extractor that transforms the raw data into a suitable representations (so called feature engineering) • time consuming, brittle, and not scalable in practice
③ Deep Learning(It is generally regarded as a synonym of “Deep Neural Networks”)
Key Enablers of "Deep Learning" - ABC
- 딥 러닝은 머신 러닝 연구의 새로운 영역으로, 인공 신경망(Artificial Neural Networks)에 사용된다.
- 인공 지성을 통해 언어를 번역하거나, 의료 진단을 하거나, 자율 주행이 가능한 자동차 부품을 만든다.
• Deep Learning -Deep Learning is based on a cascade of multiple layers of nonlinear processing units for feature extraction and transformation. -Higher layers of representation:amplify important aspects of the input, suppress irrelevant variations. - The representations are not designed by human engineers, but are learned from raw data using a general purpose learning procedure.
2nd Hidden Layer ↑, is called "Deep Learning"
- 최근 들어서 복잡한 알고리즘(A)을 수행할 수 있는 컴퓨팅 파워(C)와 데이터 양(B)이 증가하였다.
- 머신 러닝과의 차이점은 완전한 데이터 기반 학습(fully data-driven)과 단일 목적 함수를 통한 종단 간 학습이다.
