소품집

나이브 베이즈 정리 베이지안 네트워크를 정의하기 전에 베이즈 정리의 개념을 알아야 하는데요. 베이즈 정리란 두 확률 변수의 사전확률과 사후확률 사이의 관계를 나타내는 정리로, 베이즈 확률에 따르면 베이즈 정리는 사전확률로부터 사후확률을 구할 수 있는 정리입니다. 예시 베이즈 정리의 예시를 들면, 가장 대표적인 예제인 '주머니에서 공 꺼내기' 예시입니다. 순서는 이렇습니다. 두 개의 주머니 A , B가 있습니다. 주머니 A에는 빨간 공 5개, 파란 공 5개. 주머니 B에는 빨간공 3개, 파란공 7개가 있다고 합시다. 우연히 공을 뽑았을 때, 빨간 공이 주머니 A에서 나올 확률을 구해볼게요. 각 바구니 A와 B에서 빨간공이 나올 확률을 구해봅니다. A와 B의 사전확률(prior)을 구해줍니다. 베이지안 룰을..

Decision Tree Decision tree는 머신러닝 중에서도 대표적인 지도 학습에 속합니다. 지도 학습이란, 모델 학습을 위해 '정답'이 주어진 데이터를 classification 하도록 만든 일종의 러닝 기술입니다. 즉 무언가를 결정할 수 있는 기준을 학습하는 것이 목표입니다. Decision tree 가 'tree' 의 이름이 붙게 된 이유는, 나무를 뒤집어 봤을 때 닮아 붙여졌다고 하는데요. 그래서 제일 상단에 있는 하나의 노드는 루트 노드가 있고, 루트 노드를 시작으로 잔 가지를 branch 라 합니다. 하나 이상의 노드를 포함하고 있다면 하나 이상의 노드를 결정할 수 있어 Decision node라 하고, 반면 가장 말단에 있는 자식이 없는 노드를 leaf node(분류 종료) 라 합니..