2장 개략적인 규모 측정 (가상 면접 사례로 배우는 대규모 시스템 설계 기초)

책 "가상 면접 사례로 배우는 대규모 시스템 설계 기초" 2장  정리

 

학습 목표

구글의 Senior Fellow인 Jeff Dean에 따르면, "개략적인 규모 추정(back-of-the-envelope estimation)은 보편적으로 통용되는 성능 수치상에서 사고 실험(thought experiments)을 행하여 추정치를 계산하는 행위로서, 어떤 설계가 요구사항에 부합할 것인지 보기 위한 것"이다. 개략적 규모 추정을 효과적으로 해 내려면 규모 확장성을 표현하는 데 필요한 기본기에 능숙해야 한다. 2의 제곱수나 응답지연 값, 그리고 가용성에 관계된 수치들을 잘 이해하고 있어야 한다.

어떤 설계가 요구사항에 부합하는지 고민하기 위해, 시스템 용량이나 성능 요구사항을 개략적으로 추정해보자. 이를 위해 규모 확장성을 표현하는 기본적인 수치의 개념들을 이해해보자.

 

2의 제곱수

분산 시스템에서 다루는 데이터 양을 제대로 계산하기 위해서는 데이터 볼륨의 단위를 2의 제곱수로 표현할 수 있어야 한다.

ASCII 문자 하나가 차지하는 메모리 크기의 최소 단위는 1바이트이고, 8비트로 구성된다. 아래는 흔히 쓰이는 데이터 볼륨의 단위이다.

 

 

응답 지연 값

Jeff Dean은 2010년 통상적인 컴퓨터에서 구현된 연산들의 응답지연 값(latency)을 공개한 바 있다.

 

위의 수치들을 알기 쉽게 시각화하면 다음과 같다.

 

위의 수치들을 분석하면 다음과 같은 결론이 나온다.

• 메모리는 빠르지만 디스크는 아직도 느리다.
• 디스크 탐색(seek)은 가능한 한 피하도록
• 단순한 압축 알고리즘은 빠르다.
• 데이터를 인터넷으로 전송하기 전에 가능하면 압축하기
• 데이터 센터는 보통 여러 지역에 분산되어 있고, 센터들 간에 데이터 전송에는 시간이 오래 걸린다.

 

가용성에 관계된 수치들

고가용성(high ability)은 시스템이 오랜 시간 동안 지속적으로 중단 없이 운영될 수 있는 능력을 지칭하는 용어이다.

고가용성을 표현하는 값은 퍼센트로 표현하는데, 100%는 시스템이 단 한 번도 중단된 적이 없었음을 의미한다. 대부분의 서비스는 99%에서 100% 사이의 값을 갖는다.

SLA(Service Level Agreement)는 서비스 사업자(service provider)가 보편적으로 사용하는 용어로, 서비스 사업자와 고객 사이에 맺어진 합의를 의미한다. 이 합의에는 서비스 사업자가 제공하는 서비스의 가용시간(uptime)이 공식적으로 기술되어 있다. 가용시간은 관습적으로 숫자 9를 사용해 표시하며, 9가 많으면 많을수록 좋다고 볼 수 있다.

아래는 9의 개수와 시스템 장애 시간(downtime)사이의 관계이다.

 

 

예제: 트위터 QPS와 저장소 요구량 추정

연습용으로 트위터라는 한 서비스의 예를 들어 보자.

 

가정

• 월간 능동 사용자(monthly active user)의 3억(300milion) 명이다.
• 50%의 사용자가 트위터를 매일 사용
• 평균적으로 각 사용자는 매일 2건의 트윗을 업로드
• 미디어를 포함하는 트윗은 10% 정도
• 데이터는 5년간 보관

 

추정

QPS 추정치

• 일간 능동 사용자(Daily Active User, DAU) = 3억 x 50% = 1.5억(150 milion)
• QPS = 1.5억 x 2트윗 / 24시간 / 3600 초 = 약 3500
• 최대 QPS(Peek QPS) = 2 * QPS = 약 7000

미디어 저장을 위한 저장소 요구량

• 평균 트윗 크기
  • tweet_id에 64바이트
  • 텍스트에 140바이트
  • 미디어에 1MB
• 미디어 저장서 요구량: 1.5억 x 2 x 10% x 1 MB = 30TB/일
• 5년간 미디어를 보관하기 위한 저장소 요구량: 30TB x 365 x 5 = 약 55PB

 

팁

개략적인 규모 축정과 관계된 면접에서 가장 중요한 것은 문제를 풀어나가는 절차이다. 올바른 밟느냐가 결과를 내는 것보다 중요하다. 면접자가 보고자 하는 것은 문제 해결 능력이며, 이에 대한 몇가지 팁은 다음과 같다.

• 근사치를 활용한 계산(rounding and approximation) : 면접장에서 복잡한 계산을 하는 것은 어려운 일이다. 따라서 계산 결과의 정확함에 시간을 쏟기보다, 적절한 근사치를 활용하여 시간을 절약하자. "99987 / 9.1" 와 같은 경우 "100,000 / 10"의 수식으로 간소화할 수 있다.
• 나중에 살펴볼 수 있도록 가정(assumption)을 적어 두자.
• 단위(unit)을 붙이라. KB, MB 등 단위를 붙이는 습관을 들여 두면 모호함을 방지할 수 있다.
• 많이 출제되는 개략적 규모 추정 문제는 QPS, 최대 QPS, 저장소 요구량, 개시 요구량, 서버 수 등을 추정하는 것이다. 면접에 임하기 전에 이런 값들을 미리 계산하는 연습을 미리 하도록 하자!