[4학년][1학기][딥러닝응용][W2]

Deep Learning Applications

week2

Introduction to Deep Learning

Overview of Deep Learning

• AI: 문제를 인식하고 해결하는 능력인 지능을 구현하는 기술
• ML: 기계 스스로 학습하여 지능을 습득하는 기술
• DL
  • 생체 신경망을 모방해서 만든 인공 신경망 이용
  • 복잡한 데이터 관계를 찾아내는 ML 기법
  • 다양한 문제에 보편적 사용
  • 복잡도에 맞춰 모델 확장이 쉬운 구조
  • 모델이 커질수록 복잡한 관계를 표현할 수 있는 능력도 커짐

Deep Learning의 장점과 한계

• 장점
  • 특징을 자동으로 추출,
  • 확장성과 성능
• 한계
  • 많은 학습 데이터
  • 시간과 비용,
  • 오류 찾기와 디버깅 어려움,
  • 데이터 생성 비용

Artificial Neural Networks

Intelligence

• 문제에 당면했을 때 자신의 지식과 경험을 활용해 문제를 해결하는 능력
• 인간의 생체 지능을 모방
• 생체 신경망과 뇌의 과학적 연구
• 뉴런의 신호 전달 과정

Perceptron

• Inputs and weights
• Bias
• Weighted Sum
• Activation Function
• Classifier

Backpropagation Algorithm

Output과 Truth의 Error를 이전 Multi Layers에 반영하여 Data에 Fitting

Vanishing Gradient

Backpropagation 과정에서 미분값이 사라지면서 학습이 중단되는 현상

History of Deep Learning

기호주의 학파

사물과 사상을 기호화하고 그들 사이에 관계를 정해주면 논리적 추론을 통해 지능을 만들 수 있다

연결주의 학파

뉴런 수준에서 지능이 형성되는 과정을 모방하면 데이터로부터 스스로 지능을 만들 수 있다

Understanding Big Data

Background

인터넷 확산으로 인한 정형/비정형 데이터의 무수한 발생

Key Characteristics of Big Data

1. Volume
2. Variety
3. Velocity
4. Veracity
5. Value