📚 Word2Vec이란?
Word2Vec은 2013년 Tomas Mikolov 등이 제안한 단어 임베딩(Word Embedding) 기법으로, 단어를 숫자 벡터로 표현하여 단어 간 의미적 유사성을 계산할 수 있도록 한다.
기존의 BoW나 TF-IDF는 단어를 단순한 빈도로 표현했기 때문에 단어 간 의미 관계를 파악하기 어려웠다. 반면 Word2Vec은 비슷한 문맥에서 사용되는 단어들이 비슷한 벡터 값을 갖도록 학습한다.
🔍 Word2Vec의 원리
“비슷한 문맥에서 등장하는 단어는 비슷한 의미를 가진다”는 가정을 기반으로 한다.
✨예시:
* 왕 → [0.25, 0.71, -0.12, …]
* 여왕 → [0.28, 0.69, -0.10, …]
* 남자 → [0.11, 0.45, -0.33, …]
* 여자 → [0.14, 0.48, -0.31, …]
이러한 벡터를 통해 다음과 같은 의미 연산도 가능하다.
왕 - 남자 + 여자 ≈ 여왕
⚙️ Word2Vec의 학습 방식
1️⃣ CBOW (Continuous Bag of Words)
주변 단어들을 이용하여 중심 단어를 예측한다.
✨예시:
* “나는 사과를 먹는다”
* “나는 ___ 먹는다” → “사과를” 예측
2️⃣ Skip-Gram
중심 단어를 이용하여 주변 단어를 예측한다.
✨예시:
* 중심 단어: “사과”
* 주변 단어: “나는”, “먹는다”
✅ 장점
* 단어의 의미와 문맥 정보를 반영할 수 있다.
* 단어 간 유사도 계산이 가능하다.
* 계산 효율이 높고 학습 속도가 빠르다.
* 자연어 처리 성능을 크게 향상시켰다.
⚠️ 단점
* 하나의 단어에 하나의 벡터만 부여한다.
* 동음이의어를 구분하기 어렵다.
* 문장 전체의 의미를 반영하지 못한다.
🎯 활용 분야
* 검색 엔진
* 챗봇
* 감성 분석
* 문서 분류
* 추천 시스템
* 기계 번역
🌸요약
Word2Vec은 단어를 고정된 길이의 실수 벡터로 변환하여 단어 간 의미적·문맥적 관계를 학습하는 자연어 처리 기법이다.
⭐️생각
Word2Vec은 단어를 단순한 빈도가 아닌 의미를 가진 벡터로 표현했다는 점에서 자연어 처리의 큰 전환점이었다. 이후 GloVe, FastText, 그리고 BERT 같은 문맥 기반 언어모델의 발전으로 이어지는 중요한 기반 기술로 평가된다.