ํ๊ท ์ ํจ์ ์์ ๋ฒ์ด๋๋ ๋ฒ: ๋ ์ดํด์ ๋ฐฑ๋ถ์์ ๋ถ์
์๋ฒ ์ฑ๋ฅ ๋ชจ๋ํฐ๋ง์ ํ ๋ ๊ฐ์ฅ ํํ ์ ์ง๋ฅด๋ ์ค์๋ 'ํ๊ท ์๋ต ์๊ฐ'์๋ง ์ง์คํ๋ ๊ฒ์ ๋๋ค. ํ๊ท ์ ์ ์ฒด์ ์ธ ๊ฒฝํฅ์ฑ์ ๋ณด์ฌ์ฃผ์ง๋ง, ์์คํ ์ ๊ฐ์ฅ ์ทจ์ฝํ ๋ถ๋ถ์์ ๋ฐ์ํ๋ '๊ผฌ๋ฆฌ ์ง์ฐ ์๊ฐ(Tail Latency)'์ ์๋ฒฝํ๊ฒ ๊ฐ๋ ค๋ฒ๋ฆฝ๋๋ค. ์๋ฅผ ๋ค์ด 99๋ช ์ ์ฌ์ฉ์๊ฐ 100ms์ ๋น ๋ฅธ ์๋ต์ ๋ฐ๋๋ผ๋ ๋จ 1๋ช ์ ์ฌ์ฉ์๊ฐ 10์ด์ ๋๊ธฐ๋ฅผ ๊ฒช๋๋ค๋ฉด, ๊ทธ 1%์ ๊ฒฝํ์ด ์๋น์ค ์ ์ฒด์ ์ ๋ขฐ๋๋ฅผ ๊ฐ์๋จน๊ฒ ๋ฉ๋๋ค. ์ด๋ฌํ ์ด์ ๋ก ๊ตฌ๊ธ, ์๋ง์กด๊ณผ ๊ฐ์ ๋น ํ ํฌ ๊ธฐ์ ๋ค์ p99(Percentile 99) ์งํ๋ฅผ ์ฑ๋ฅ ๊ด๋ฆฌ์ ํต์ฌ ์งํ๋ก ์ผ์ต๋๋ค.
๋ฐฑ๋ถ์์(Percentile)๋ ๋ฐ์ดํฐ๋ฅผ ํฌ๊ธฐ์์ผ๋ก ๋์ดํ์ ๋ ํน์ ์์น์ ์๋ ๊ฐ์ ์๋ฏธํฉ๋๋ค. p50์ ๋ฑ ์ค๊ฐ์ ์์นํ ์ค์๊ฐ์ผ๋ก, ๋๋ค์์ ์ฌ์ฉ์๊ฐ ๊ฒช๋ ์ผ๋ฐ์ ์ธ ์ฑ๋ฅ์ ๋ํ๋ ๋๋ค. ๋ฐ๋ฉด p90, p95๋ฅผ ๋์ด p99์ ๋๋ฌํ ์๋ก ์์คํ ์ด ๊ฐ์ฅ ๋ถํ๋ฅผ ๋ง์ด ๋ฐ์ ๋๋ ๋๋ฌผ๊ฒ ๋ฐ์ํ๋ ๋ณ๋ชฉ ํ์์ ํฌ์ฐฉํ ์ ์์ต๋๋ค. p99 ์งํ๊ฐ ๋์๋ค๋ ๊ฒ์ ์ ์ฒด ์ฌ์ฉ์์ 1%๊ฐ ๊ณ ํต๋ฐ๊ณ ์๋ค๋ ๋ป์ด๋ฉฐ, ํธ๋ํฝ์ด ๋ง์์ง์๋ก ์ด 1%๋ ์์ฒ, ์๋ง ๋ช ์ ์ฌ์ฉ์ ์ดํ๋ก ์ด์ด์ง ์ ์์ต๋๋ค.
์ด ๋๊ตฌ๋ ์์ง๋ ๋ก๊ทธ ๋ฐ์ดํฐ๋ ๋ฒค์น๋งํฌ ๊ฒฐ๊ณผ๋ฅผ ๋ฐํ์ผ๋ก ์ค์ ์ฑ๋ฅ ๋ถํฌ๋ฅผ ํ๋์ ํ์ ํ ์ ์๋๋ก ๋์ต๋๋ค. ์ผํ๋ก ๊ตฌ๋ถ๋ ์์ ๋ฐ์ดํฐ๋ฅผ ๋ฃ๊ธฐ๋ง ํ๋ฉด ๋ณต์กํ ํต๊ณ ๊ณ์ฐ ์์ด ์ฆ์ p99 ๊ฐ์ ํ์ธํ ์ ์์ต๋๋ค. ์ธํ๋ผ ํ์ฅ ๊ฒฐ์ ์ ๋ด๋ฆฌ๊ฑฐ๋, ์ฝ๋ ์ต์ ํ์ ์ฐ์ ์์๋ฅผ ์ ํ ๋ ๋จ์ํ ํ๊ท ๊ฐ์ ์์ฃผํ์ง ๋ง๊ณ ์ต์ ์ ์ผ์ด์ค๋ฅผ ๊ฐ์ ํ๋ ์ ๋ต์ ์ธ์๋ณด์ธ์. ์์ ์ ์ธ ์์คํ ์ ๊ฐ์ฅ ๋๋ฆฐ ์ฌ์ฉ์๊น์ง ๋ฐฐ๋ คํ๋ ํต๊ณ์ ๋ถ์์์ ์์๋ฉ๋๋ค.
์์ฃผ ๋ฌป๋ ์ง๋ฌธ (FAQ)
A: ๋ฐฑ๋ถ์์ ๋ถ์, ํนํ p99 ๋ถ์์ ํ๋ณธ์ด ๋ง์์๋ก ์ ํํฉ๋๋ค. ์ต์ 100๊ฐ ์ด์์ ์๋ต ๋ฐ์ดํฐ๋ฅผ ๋ฃ๋ ๊ฒ์ ๊ถ์ฅํ๋ฉฐ, ์์ฒ ๊ฐ ์ด์์ ๋ฐ์ดํฐ๊ฐ ๋ชจ์ผ ๋ ํต๊ณ์ ์ ์๋ฏธํจ์ด ์ปค์ง๋๋ค.
A: ํ๊ท ์ ๋ชจ๋ ๊ฐ์ ๋ํด ๊ฐ์๋ก ๋๋์ง๋ง, ์ค์๊ฐ์ ๋ฐ์ดํฐ๋ฅผ ์ ๋ ฌํ์ ๋ ์ ์ค์์ ์๋ ๊ฐ์ ๋๋ค. ๊ทน๋จ์ ์ผ๋ก ๋๋ฆฐ ์์ฒญ์ด ๋ช ๊ฐ ์์ฌ ์์ ๋ ํ๊ท ์ ํฌ๊ฒ ์ค๋ฅด์ง๋ง, ์ค์๊ฐ์ ์์ ์ ์ผ๋ก ์ ์ง๋๋ ํน์ฑ์ด ์์ต๋๋ค.
A: ๊ธ์ต ๊ฒฐ์ ์์คํ ์ด๋ ์ค์๊ฐ ์ฃผ์ ๊ฑฐ๋์ ๊ฐ์ด ์์ฃผ ๋ฏผ๊ฐํ ์์คํ ์์๋ ์์ 0.1%์ธ p99.9๊น์ง ๊ด๋ฆฌํ๊ธฐ๋ ํฉ๋๋ค. ํ์ง๋ง ์ผ๋ฐ์ ์ธ ์น ์๋น์ค๋ p99 ์์ค๋ง ์ ๊ด๋ฆฌํด๋ ๋งค์ฐ ์ฐ์ํ ์ฌ์ฉ์ ๊ฒฝํ์ ์ ๊ณตํ ์ ์์ต๋๋ค.