기계 학습
개요
기계 학습(機械學習, 영어: Machine Learning, ML)은 컴퓨터가 경험을 통해 자동으로 성능을 향상하도록 만드는 알고리즘을 연구하는 분야이다. 이는 인공지능(AI)의 하위 분야로서, 데이터를 분석하여 미래를 예측하고, 상황에 맞는 판단이나 결정을 가능하게 해준다.
기계 학습의 대표적인 예는 이메일 필터링이다. 시스템이 데이터를 학습하여 스팸 메일인지 아닌지를 자동으로 판별할 수 있도록 훈련된다.
기계 학습의 핵심 개념은 다음과 같다:
- 표현 (Representation): 데이터를 어떻게 구조화하고 해석할 것인가
- 일반화 (Generalization): 학습되지 않은 새로운 데이터에 대한 예측 능력
이는 전산 학습 이론 (Computational Learning Theory)과도 밀접한 관련이 있으며, 다양한 현실 문제에 응용되고 있다. 예를 들어 문자 인식, 이미지 분류, 음성 인식, 자연어 처리 등에서 널리 사용된다.
정의
기계 학습은 특정 작업 T와 성능 측정 P, 그리고 경험 E가 주어졌을 때, 컴퓨터 프로그램이 경험 E를 통해 작업 T에 대한 성능 P를 향상시키는 것을 목표로 한다.
일반화
학습 데이터 이외의 새로운 데이터에 대해서도 정확한 예측이나 분류가 가능해야 하며, 이것이 바로 일반화의 개념이다. 이는 오버피팅(overfitting)을 방지하고 실용적인 모델을 만드는 데 중요하다.
기계 학습과 데이터 마이닝
기계 학습은 예측에 중점을 두는 반면, 데이터 마이닝은 데이터 내의 패턴과 관계를 찾아내는 데 초점을 둔다. 하지만 두 분야는 기법과 알고리즘 측면에서 많은 부분이 겹친다.
이론
기계 학습 이론은 알고리즘의 수렴성, 학습 복잡도, 일반화 오류 등에 대한 수학적 분석을 포함한다. 대표적으로 VC 차원, PAC 학습 이론 등이 있다.
알고리즘 유형
기계 학습 알고리즘은 일반적으로 다음 세 가지 범주로 나뉜다:
- 지도 학습 (Supervised Learning)
- 비지도 학습 (Unsupervised Learning)
- 강화 학습 (Reinforcement Learning)
접근 방법별 알고리즘
결정 트리 학습법
트리 구조를 사용하여 데이터의 특징에 따라 분기하며 학습하는 알고리즘이다.
연관 규칙 학습법
특정 항목 간의 연관성을 분석하여 규칙을 도출하는 기법 (예: 장바구니 분석).
인공신경망
사람의 뇌 구조를 모방한 노드 기반 네트워크로 구성된 알고리즘. 딥러닝의 기반이 된다.
유전 계획법
진화론의 자연 선택 개념을 적용한 최적화 방식으로, 유전 알고리즘의 일종이다.
귀납 논리 계획법
논리 프로그램 기반의 데이터로부터 규칙을 추론하는 기법이다.
서포트 벡터 머신 (SVM)
데이터를 분류하는 최적의 경계(초평면)를 찾는 지도 학습 알고리즘이다.
클러스터링
데이터를 유사성에 따라 그룹(클러스터)으로 나누는 비지도 학습 방식이다.
베이즈 네트워크
확률적 관계를 표현하는 그래프 모델로 조건부 확률 기반 추론에 사용된다.
강화 학습법
에이전트가 환경과 상호작용하며 보상을 통해 학습하는 방식이다.
표현 학습법
데이터에서 의미 있는 특징을 자동으로 추출하는 기법이며, 딥러닝과 밀접하다.
동일성 계측 학습법
샘플 간의 유사성(거리)을 기준으로 분류나 예측을 수행하는 방식이다.
주제별 알고리즘
응용 분야에 따라 추천 시스템, 자연어 처리, 게임 AI, 로봇 제어 등 다양한 분야별로 특화된 알고리즘이 존재한다.
