[nhn forward 2022] 편안한 휴식 시간을 지켜줄 안정적인 백엔드 운영과 개발 기법

2022 nhn forward track2 11시

편안한 휴식 시간을 지켜줄 안정적인 백엔드 운영과 개발 기법(정지범님)

 

2. 과도한 부하를 견디는 방법

3. 변경사항

4. 자동 재시작

1. gc
jvm은 미리 메모리를 잡고쓰니 힙이슈
static변수 싱글턴패턴 적재 위험

힙덤프 스레드덤프

* jvm 실행옵션 추가 고려
exitonoutofmemoryerror
heapdumponoutodmemorye
onoutofmemoryerror : 실행할 쉘 추가 가능


액추에이터
2. 스레드 차단
3. 데드락

과부하처리

1. 눈에 보이게
액추에이터 프로메테우스
그라파나
cpu, 스레드, 분당request, 분당수신건수

2. 처리
-스캐일 업/아웃
-매세지브로커
-클라우드 오토스캐일
-서킷 브래이커 패턴
-수신거부

수신거부 선택:
429: 기준 초과상황에서 응답거부
"기준을 찾고", "어디에 적용"할지 고민
-> 사용자 인터렉션 거의 없고 비용이 높은api

http cache활용
304 not modified 브라우저캐시

헤더사용?
cache control 머스트 밸리데이트
etag 헤더
if none match헤더

spring으로 개발할 경우 webRequest

 

5. Netty의 Backpressure

네티소켓서버
oom