TPS 및 튜닝 | Notion

핵심기능과 목표 TPS (*인스턴스 한 대 기준)

핵심기능: ETA API (친구들의 위치 현황 조회 API)
목표 TPS: 100 (100개의 요청 1초 처리)
- tomcat default, hikariCP connection timeout 3초, max connection 38 설정하여 TPS 46.86 달성
인스턴스 스펙: AWS EC2 t4g.micro (2 CPU, 1G RAM)

1 VU vs 100 VU

	테스트 1 (1 VU)	테스트 2 (100 VUs)	차이 분석
VUs	1	100	100배
총 반복 횟수	1	100	100배
실행 시간	0.7초	9.1초	테스트 1이 약 13배 더 긺
<성능 지표>
http_req_duration (avg)	`341.2ms`	`3.01초`	테스트 1이 약 8.8배 더 느림
http_req_blocked (avg)	6.01ms	5.7ms	비슷한 수준
http_req_connecting (avg)	5.81ms	5.69ms	비슷한 수준
<처리량>
http_reqs/초	2.87/s	21.98/s	테스트 1이 약 7.7배 더 높음
iterations/초	1.43/s	10.99/s	테스트 1이 약 7.7배 더 높음

1 VU) connection timeout = 3초, max connection = 10 / http_req_duration avg 341.2ms
100 VU) threads max: 200 (default) / http_req_duration avg 3.01s

톰캣 설정

상황: 100VU, 1회

*1회로 진행한 이유 핵심기능으로 선정한 API 특성상 duration을 지정하는 것이 유의미하지 않았음

외부 API 호출 횟수를 줄이기 위해 10분에 한 번만 외부 API를 호출하고 그 외는 서버 내부 연산을 통해 소요 시간을 추정하고 있음
외부 API 호출이 서버 내부 연산에 비해 시간이 오래 걸려 대략 10분 주기로 특정 구간에서 응답 시간이 높게 나타나는 그래프 주기가 나타남

평균을 바탕으로 톰캣 설정을 진행하거나, duration을 길게 지정하는 대신 부하가 높게 나타나는 초기 호출 1회를 기준으로 아래의 실험들을 진행하는 방식을 택함

threads max: 200 (default)
max connections: 8192 (default)
accept count: 100 (default)
실험 결과

hikariCP 커넥션풀 설정

설정 수치
- timeout connection: 3s
- max connection: 38
이유 (실험 결과)