Super Kawaii Cute Cat Kaoani
본문 바로가기
728x90

{Lecture}/Distributed Systems4

[분산시스템] 분산 시스템 개념 정리 분산 시스템 AI 인프라, 컨센서스, RDMA, 벡터 DB, 폴트 톨러런스한 학기 동안 배운 분산 시스템 핵심 개념들을 정리했다. AI 인프라/LLM 서빙부터 시작해서 컨센서스(Paxos), 분산 락, RDMA, 분산 벡터 데이터베이스, 폴트 톨러런스까지 — 최근 연구(vLLM, ShiftLock, DiskANN)까지 포함해서 정리해봤다. 1. AI 인프라 & LLM 서빙 시스템1-1. 메모리 월(Memory Wall)GPU 컴퓨팅 코어 성능은 지난 10년간 약 80배 증가했지만, 메모리 대역폭은 17배밖에 늘지 않았다. 연산 속도는 빨라졌는데 데이터를 옮기는 속도가 따라오지 못하면서 GPU 코어가 유휴 상태에 빠지는 문제가 생긴다. 이를 해결하기 위해 등장한 것이 HBM(High Bandwidt.. 2026. 6. 20.
[분산 시스템] 컨센서스(Consensus) 정리 1. 컨센서스란? 컨센서스(Consensus)는 합의라는 뜻으로, 분산 시스템에서 여러 노드들이 공통된 상태 정보에 동의하는 과정이다. 어그리먼트(Agreement)와 같은 말이며, 모든 노드가 동일한 값을 인식하도록 맞추는 것이 핵심이다. 2. 분산 시스템이 Unreliable한 이유 분산 시스템의 노드들은 네트워크를 통해 메시지를 교환하는데, 네트워크 자체가 불안정하다.문제 설명패킷 손실메시지가 중간에 유실될 수 있음딜레이스위치 트래픽 과부하로 지연 발생순서 역전패킷 순서가 뒤바뀔 수 있음중복 메시지스퓨리어스 타임아웃으로 중복 전송노드 크래시경고 없이 갑자기 장애 발생네트워크 파티션클러스터가 고립된 그룹으로 분리 TCP 같은 프로토콜이 Reliability를 높여주려 하지만, 근본적으로 분산 시스템.. 2026. 5. 10.
[분산시스템]7주차 논문 정리 NetLR 보호되어 있는 글 입니다. 2026. 4. 22.
[분산시스템]4주차 논문 ASTRAL 정리 보호되어 있는 글 입니다. 2026. 4. 22.
728x90