leejhstory

9-1 XOR 문제 딥러닝으로 풀기XOR 문제를 풀기 위해서는 두개 이상을 합쳐서 풀수가 있었다. 하지만 복잡한 네트웍의 각각 weight과 bias를 학습하는 것은 불가능 하다고 생각하였다. XOR은 3개의 네트웍을 가지고 풀 수있다.X1,X2을 게이트에 넣었을 때 WX1,2의 곱과 b를 합하여 Y1,2를 계산한다음Y1,2를 입력값으로 넣어서 XOR값을 구한다. Forward propagation : 전방 전파(순전파)는 멀티노미얼 클레시피케이션과 유사. Neural Network(NN)w1,w2,b1,b2 값을 어떻게 자동적으로 학습시킬 수 있을까? 9-2에서.. 9-2 딥네트웍 학습시키기 코스트함수를 정의할 때 W값이 어디에있든지 기울기를 구해서 계속 내려가면 가장작은점 global minimum에..

Cost function : cross entropysoftmax 함수에 맞는 loss 함수 loss function loss function : ylog() = cross entropyloss function = cross entropy 인가? 텐서플로우에서 arg_max : 제일 큰 값을 인덱스값으로 골라내는 것3개면 0, 1, 2 중 하나 동물의 특징을 가지고 동물 종 맞추기 hypothesis을 softmax로 뽑아내기 ( 확률처럼 모두 더했을 때 1이 되도록 한 것) logits = tf.matmul(X, W) + bhypothesis = tf.nn.softmax(logits) tf.nn.softmax_cross_entropy_with_logits 함수logits함수가 softmax함수에 들어가..

시그모이드는 원래 H(x)의 값이 실수이며 값의 차이가 크지만 0 ~ 1 로 줄이는 것 softmax란?예를 들어 a, b, c 세개의 예측값을 0 ~ 1의 값으로 만들었을 때 세 숫자의 합이 1이 되도록 하는 것 one-hot encoding : 제일 큰 값을 골라내는 것(인덱스값으로)(텐서플로우에서 arg_max) Cost function예측한 값과 실제 값의 차이를 나타내는 cost 함수를 설계한다.(cost 함수 최소화 학습) cross-entropy : 두 값 사이의 차이가 얼마나 되는지를 구하는 함수S(y)는 예측한 값L은 실제의 값cross-entropy 함수가 여기에 적합한 cost함수가 된다? 값이 x축의 0 ~ 1 사이의 값이 된다. (softmax를 통과하는 값) 예측한값(x축)이 0..

Logistic regression : 두 가지의 데이터를 구분하는 것을 학습하는 것Multinomial classification : 두 가지 이상의 데이터를 구분하는 것을 학습하는 것 기본적인 출발은 H(x)=Wx단점은 리턴하는 값이 실수가 되기때문에 크기의 차이가 너무 많이난다. 그래서 0 or 1로 구분하기 위해 Z=H(x), g(z)로 0 ~ 1의 값으로 압축하여 나타냄(sigmoid=logistic)*sigmoid = S자 모양의, logistics = 기호 논리학 원래의H(x)의 값을 시그모이드 함수에 통과시키면 0 ~ 1의 값이 된다. Binary classification 만으로도 Multinomial classification을 구분 할 수 있다.먼저 a, b, c 가있으면 두개씩 구분..

Logistic (regression) classification : cost function & gradient decent코스트 함수와 코스트 함수의 minimize 하는 알고리즘 가설로 예측한 값과 실제의 값의 차의 평균을 내면 아래와 같은 형태의 그래프가 된다. 이제 가설이 로 변경이 되었기 때문에 출력값이 0＜~＜1 사이에 들어오게 된다. 위의 새로운 형태의 H(X) 를 사용하여 cost 함수를 그려보면 일정하지않고 구불구불한 모양이 나타나게 되어 문제가 생긴다.(시작점이 어딘지의 따라 진짜 최저점(global minimum)을 찾을 수가 없다.)따라서 H(X)를 변경하였기 때문에 그에 따라 cost(W) 또한 변경해 주어야 한다.기존의 cost함수는 어떤 값의 합을 m으로 나누어 평균내는 것 ..

수업의 궁극적 목표 뉴럴네트워킹 & 딥러닝 값을 예측하는 것(regression) y값 가설 Hypothesis 이지만 간단하게 H(X) = WX 로 표시 코스트함수 Cost cost는 학습데이터와 가설을 세운 데이터 값의 차이의 평균치이다. (낮을수록 좋음) 코스트함수를 minimize하는 Gratient decent w값을 조절하여 cost값을 줄인다. 기울기란 코스트값을 미분한 값으로 나타난다. 기울기의 변화 사이즈 α(=learning rate) (Binary) Classification(분류)두가지 중 하나로 분류하는 것 ( 0 or 1 )자주 사용하는 것을 위주로 분류하여 걸러내는 방법오류 : 0과 1의 기준이 모호 해질 수 있다. ( 1보다 큰수의 값이 나올 경우 )해결방안 : H(x) 함수..

anaconda를 사용하면 python3.6버전이 자동으로 설치된다고 하여서 기존에 깔려있던 python2.x 버전과 python3.4 버전을 삭제하였다. 기존에 anaconda를 설치했었어서 다른번전의 python을 삭제하니 자동으로3.6 버전이 설정이 되었다. anaconda prompt에서 >conda create --no-shortcuts -n py35 python=3.5 anaconda(나는 >conda create --no-shortcuts -n py35 anaconda 라고 했는지 기억이..) 환경 생성이 완료되면 activate 명령으로 환경으로 진입한다.>activate py35 텐서플로우 설치를 위해 pip명령어를 사용한다.(pip update를 먼저 해야한다.)(py35)...> pi..

(20170819- 준형,재동 댓글연동 완료) 앞으로 댓글 입력창 만들기

먼저 index.html에서 지역부분을 url로 만든다.href 어트리뷰트로 link 주소를 설정. 지역 부분을 링크로 만드려면 {{candidate.area}}를

elections\models.pyclass Poll을 만들고 여론조사에서 지시결과를 저장하는 class choice를 만든다.DateTimeField : date와 time을 나타내고, python의 datetime.datetime 인스턴스로 표현한다.CharField : string을 나타내며, 필수 인자 max_length가 있다. 길이가 긴 문자열을 저장하려면 TextField 등을 사용한다.IntergerField : -2147483648 ~ 2147483647까지의정수를 나타냄. 더 큰 정수는 BigIntergerField 등을 사용한다. ForeignKey : 한 모델에서 다른 모델을 이용할 때 사용(many-to-one 관계 모델에서 사용). admin.py파일에서 Poll파일을 추가한다...