πŸ”€n-gram 생성기

ν…μŠ€νŠΈλ₯Ό n개 λ‹¨μœ„ ν† ν°μœΌλ‘œ λΆ„ν• 

n-gram 생성기 μ‚¬μš©λ²•

n-gram은 ν…μŠ€νŠΈλ₯Ό μ•žμ—μ„œλΆ€ν„° ν•œ μΉΈμ”© λ°€λ©΄μ„œ nκ°œμ”© 잘라 λ‚Έ μ‘°κ°μž…λ‹ˆλ‹€. 검색어 μžλ™μ™„μ„±, μ˜€νƒ€ ꡐ정, ν‘œμ ˆ 검사, κ°„λ‹¨ν•œ μ–Έμ–΄ λͺ¨λΈμ²˜λŸΌ ν…μŠ€νŠΈλ₯Ό λ‹€λ£¨λŠ” μž‘μ—…μ—μ„œ κΈ°λ³Έ 재료둜 μ“°μž…λ‹ˆλ‹€. 이 λ„κ΅¬λŠ” 뢙여넣은 글을 문자 λ‹¨μœ„ λ˜λŠ” μ–΄μ ˆ λ‹¨μœ„λ‘œ 잘라 λΉˆλ„κ°€ 높은 순으둜 정리해 μ€λ‹ˆλ‹€.

λ‹¨μœ„ 선택이 κ²°κ³Όλ₯Ό 크게 λ°”κΏ‰λ‹ˆλ‹€. 문자 λ‹¨μœ„λŠ” λ³΄μ΄λŠ” κΈ€μž ν•˜λ‚˜λ₯Ό 1κΈ€μžλ‘œ μ„Έλ©°, 이λͺ¨μ§€λ‚˜ κ²°ν•© λ¬Έμžλ„ ν•˜λ‚˜λ‘œ λ¬Άμ–΄ μ…‰λ‹ˆλ‹€. μ–΄μ ˆ λ‹¨μœ„λŠ” 곡백으둜 λ‚˜λˆˆ 덩어리λ₯Ό ν•˜λ‚˜λ‘œ λ΄…λ‹ˆλ‹€. ν•œκ΅­μ–΄λŠ” ν˜•νƒœμ†Œ 뢄석이 μ•„λ‹ˆλΌ μ–΄μ ˆκ³Ό 음절 κΈ°μ€€μ΄λΌλŠ” 점에 μ£Όμ˜ν•˜μ„Έμš”. 'λ¨Ήμ—ˆλ‹€'λŠ” μ–΄μ ˆ ν•˜λ‚˜μ΄μž 음절 μ…‹μœΌλ‘œ 닀뀄지며, μ–΄κ°„κ³Ό μ–΄λ―Έλ₯Ό λ‚˜λˆ„μ§€λŠ” μ•ŠμŠ΅λ‹ˆλ‹€.

ν‘œμ—λŠ” μˆœμœ„, n-gram, λΉˆλ„, λΉ„μœ¨μ΄ λ‚˜μ˜€κ³  νƒ­ κ΅¬λΆ„μœΌλ‘œ ν•œ λ²ˆμ— 볡사할 수 μžˆμŠ΅λ‹ˆλ‹€. λΉ„μœ¨μ€ 전체 n-gram 개수 λŒ€λΉ„ κ°’μž…λ‹ˆλ‹€. ν…μŠ€νŠΈλ³΄λ‹€ n이 크면 λ§Œλ“€ 수 μ—†λ‹€λŠ” μ•ˆλ‚΄κ°€ λ‚˜μ˜€κ³ , μ’…λ₯˜κ°€ ν‘œμ‹œ κ°œμˆ˜λ³΄λ‹€ 많으면 μƒμœ„ λͺ‡ 개만 보여 μ£Όκ³  μžˆλ‹€λŠ” 사싀을 κ²°κ³Ό μœ„μ— ν‘œμ‹œν•©λ‹ˆλ‹€. μž…λ ₯은 5만 μžκΉŒμ§€ μ²˜λ¦¬ν•˜λ©°, 뢙여넣은 글은 μ„œλ²„λ‘œ μ „μ†‘λ˜μ§€ μ•Šκ³  λΈŒλΌμš°μ € μ•ˆμ—μ„œλ§Œ κ³„μ‚°λ©λ‹ˆλ‹€.

자주 λ¬»λŠ” 질문

ν•œκ΅­μ–΄λ„ ν˜•νƒœμ†Œ λ‹¨μœ„λ‘œ 잘라 μ£Όλ‚˜μš”?

μ•„λ‹ˆμš”. 이 λ„κ΅¬λŠ” ν˜•νƒœμ†Œ 뢄석을 ν•˜μ§€ μ•Šκ³  μ–΄μ ˆ(곡백 λ‹¨μœ„) λ˜λŠ” 음절(문자 λ‹¨μœ„)둜만 μžλ¦…λ‹ˆλ‹€. μ–΄κ°„κ³Ό μ–΄λ―Έλ₯Ό λ‚˜λˆ„λ €λ©΄ λ³„λ„μ˜ ν˜•νƒœμ†Œ 뢄석기가 ν•„μš”ν•©λ‹ˆλ‹€.

이λͺ¨μ§€κ°€ μ„žμ—¬ 있으면 λͺ‡ κΈ€μžλ‘œ μ„Έλ‚˜μš”?

문자 λ‹¨μœ„μ—μ„œλŠ” λ³΄μ΄λŠ” κΈ€μž κΈ°μ€€μœΌλ‘œ μ„ΈκΈ° λ•Œλ¬Έμ— 이λͺ¨μ§€ ν•˜λ‚˜λŠ” 1κΈ€μžμž…λ‹ˆλ‹€. λΈŒλΌμš°μ €κ°€ 이 κΈ°λŠ₯을 μ§€μ›ν•˜μ§€ μ•ŠμœΌλ©΄ μ½”λ“œν¬μΈνŠΈ κΈ°μ€€μœΌλ‘œ μ„Έλ©°, κ·Έ 경우 κ²°κ³Ό μœ„μ— κ·Έ 사싀을 ν‘œμ‹œν•©λ‹ˆλ‹€.