딥러닝 (4) 썸네일형 리스트형 [boostcourse beyond ai] 딥러닝의 역사 denny britz, "deep learining's most import ideas" 2012 AlexNet 224*224 이미지 분류 2012년도 이미지넷 대회에서 1등 고전적 머신러닝이 아닌 딥러닝을 이용해 최초로 우승 blackbox로만 여겨지던 딥러닝의 성능을 확인 2013 DQN Q러닝이라는 강화학습 방법론 사용 알파고 2014 Encoder / Decoder NMT(Nueral machine translation) 문제를 풀기 위함 단어의 연속이 주어졌을 때 이를 잘 표현해서 다른 언어로 해석할지 이후 기계어 번역의 트랜드 번역 2014 Adam Optimizer 많은 사람들이 딥러닝 사용할 때 지금도 adam을 optimizer로 많이 사용 결과가 잘나옴 일반적으로 딥러닝 모델을 만들 때.. [모두의 딥러닝] 로지스틱 회귀(logistic regression), 시그모이드 함수 [모두의 딥러닝] 로지스틱 회귀(logistic regression) 선형 회귀와 마찬가지로 적절한 선을 그려가는 과정 그러나 그 형태는 직선이 아닌 참(1)/거짓(0)을 구분하는 S자형 곡선 시그모이드 함수 로지스틱 회귀의 S자형 곡선을 그릴 수 있는 함수 e(자연상수) = 2.718... 시그모이드 함수 식은 아래와 같다. a: 그래프의 경사도 b: 그래프 좌우 이동. 값 클수록 오른쪽 이동 a 값이 작을수록 오차 무한대로 커짐. a값이 커진다고해서 오차 무한대 아님 b값이 너무 크거나 작을수록 오차 무한대(2차함수 형태) 오차 공식 시그모이드 함수에서 a,b 구하는 방법: 경사 하강법 시그모이드 함수의 y값은 0에서 1 사이이다. 따라서 실제값이 1일때 예측값이 0이거나, 실제값이 0일때 예측값이 .. [모두의딥러닝] 퍼셉트론 퍼셉트론 인공 신경망을 이루는 기본 단위 역치값이 넘을 경우 신호를 다음 뉴런으로 전달하는 뉴런처럼, 퍼셉트론은 입력값과 활성화 함수를 사용해 출력값을 다음으로 넘김 y=wx+b w: 가중치 b: 바이어스 가중합(weighted sum): 모든 입력값 x와 w의 곱을 더한 후 여기에 b를 더한 값 이 가중합의 결과를 기준으로 0,1을 나눈다. 이때 0,1을 나누는 함수를 활셩화 함수(activation function)이라고 한다. 퍼셉트론의 한계: 간단한 XOR문제조차도 해결 못함 >> 다층 퍼셉트론의 등장 *XOR문제: 둘 중 하나만 1일때 1 출력 다층 퍼셉트론 차원을 변경하여 문제 해결 이를 위해서 입력층과 출력층 사이에 은닉층(hidden layer)을 생성하여 공간 왜곡 중간의 은닉층에 각각의.. [모두의 딥러닝] 선형 회귀와 로지스틱 회귀 선형 회귀(linear regression) 가장 훌륭한 예측선 긋기 단순 선형 회귀(simple linear regression): 하나의 x만으로 y값을 설명 가능 y = ax + b 다중 선형 회귀(multiple linear regression): y를 설명하기 위해 여러 x값이 필요 최소 제곱법(method of least square) a,b를 바로 구할 수 있다. a = (x편차) * (y편차)의 합 / x편차의 합의 제곱 b = y의 평균 - (x평균 * 기울기a) 이를 통해 x에 대한 일차식을 구하면 이 직선이 바로 오차가 가장 적고 좌표의 특성을 가장 잘 나타내는 예측 직선 코딩으로 최소 제곱법 구현하기 #ch3 최소제곱법 import numpy as np x = [2,4,6,8] y .. 이전 1 다음
