소품집

Small Dataset, Unbalanced Dataset Semi Supervised는 기계학습과 비지도학습의 중간 학습으로, 학습하기 전 사전에 모델에 분류를 위한 약간의 사전지식을 부여하게 됩니다. Transfer learning: 학습데이터가 부족한 분야의 모델 구축을 위해 데이터가 풍부한 분야에서 훈련된 모델을 재사용하게 됨 (ex: Pre-trained model의 파라메터로 초기화) Distant Supervision: a weakly labeled training set (training data is labeled automatically based on heuristics / rules) 약하게 라벨링 된 트레이닝 셋을 사용하게 됩니다. (훈련 데이터는 휴리스틱이나 규칙에 기반하여 자..

Neural Network Motivated by studies of the brain (사람의 뇌를 학습한 모습!) A network of "artificial neurons" that learns a function Doesn't have clear decision rules like decision trees, but highly successful in many different application (e.g. face detection) → D.T와 같은 완전한 결정(classification)은 하지 못하지만, 여러 응용 분야에서 높은 성공률을 보여줌 Artificial Neural Networks ANN의 특징 한 쪽 방향으로 흐름 (feed forward) 보통 1개 이상의 hidden l..

Neuron Motivated by studies of the Brain Neuron 뇌 세포 Dendrite(가지돌기)에 여러 값들(입력)이 도착하면 나의 신호로 통합하고, 임의의 임계값을 넘게 되면 이 값이 Axon을 통해 전달된다는 개념으로 표현한 것! MCP 뉴런이라고도 불린다. Net input function (순입력함수) 입력 값 x이 n+1개의 feature들이 n+1개의 weight와 곱한 값 즉, summation(=feature*weight) 되어 하나의 신호로 통합됨 → 왜 n+1개인가? 마지막 1개는 bias(prior)가 된다! Activation function (활성함수) 순입력함수의 결과값을 임의의 임계값(threshold)과 비교하여 -1 or 1의 결과값 생성 Perce..

Linear Regression (선형회귀) 수식 미분으로 한 번에 구하는 방법 sum of squared error를 최소화 하기 위해 미분하여 얻은 최소화 된 식은 y = Xb (Xt)y = (Xt)Xb[(Xt)X]^(-1)(Xt)y = [(Xt)X]^(-1)(Xt)Xb [(Xt)X]^(-1)(Xt)y = b 즉, 주어진 데이터 (x,y)만 있으면 위 수식으로 한 번에 파라미터(beta값 ==기울기) 를 계산할 수 있음 계산이 끝나면, 그 파라메터로 테스트 데이터에 적용하여 예측값 ^y 생성이 가능함 Iterative(반복 수행) 방법으로 학습하는 방법 데이터 (각각 (x,y)값으로 취급) (2,5), (3,7), (4,9), (5,11) 선형 모델 가정하기: ax+by+c=0 (파라메터: a,b,c..

Decision Tree Decision tree는 머신러닝 중에서도 대표적인 지도 학습에 속합니다. 지도 학습이란, 모델 학습을 위해 '정답'이 주어진 데이터를 classification 하도록 만든 일종의 러닝 기술입니다. 즉 무언가를 결정할 수 있는 기준을 학습하는 것이 목표입니다. Decision tree 가 'tree' 의 이름이 붙게 된 이유는, 나무를 뒤집어 봤을 때 닮아 붙여졌다고 하는데요. 그래서 제일 상단에 있는 하나의 노드는 루트 노드가 있고, 루트 노드를 시작으로 잔 가지를 branch 라 합니다. 하나 이상의 노드를 포함하고 있다면 하나 이상의 노드를 결정할 수 있어 Decision node라 하고, 반면 가장 말단에 있는 자식이 없는 노드를 leaf node(분류 종료) 라 합니..