[TIL 프로젝트] 4일차 - 캐시 메모리와 계층 구조

CPU와 메모리 사이의 속도 차이를 줄이기 위해 도입된 것이 캐시(Cache)
게임처럼 연산이 많은 환경에서는 캐시의 활용이 성능에 엄청난 영향을 줌

1. 왜 캐시가 필요할까?

- CPU는 엄청 빠름
- RAM(메인 메모리)은 상대적으로 느림
- 매번 RAM에 접근하면 성능 저하 발생
-> 그래서 CPU 근처에 더 빠르고 작은 기억장치인 캐시를 둬서 성능을 높임

2. 캐시 메모리 계층 구조

보통 캐시는 L1 -> L2 -> L3 순서로 구성됨
계층 / 위치 / 크기 / 속도 / 역할
L1 / CPU 내부 / 적음(수십 KB) / 가장 빠름 / 현재 실행 중인 명령과 데이터를 저장
L2 / CPU 내부 or 외부 / 수백 KB~MB / L1보다 느림 / L1에서 못 찾을 때 사용
L3 / CPU 외부 (공유) / 수 MB / L2보다 느림 / 모든 코어가 공유

* RAM은 캐시 미스가 났을 때 접근하는 주 기억장치

3. 캐시 히트 vs 캐시 미스

- 캐시 히트 (Cache Hit)
-> 원하는 데이터가 캐시에 있음 -> 빠르게 접근 가능
- 캐시 미스 (Cache Miss)
-> 캐시에 데이터 없음 -> RAM 접근 -> 속도 느림

게임에서 캐시 미스가 잦으면
- FPS 하락
- 입력 지연
- 물리 연산 느려짐

4. 캐시 친화적인 코드 작성하기 (Cache-Friendly)

CPU는 데이터를 연속된 메모리에서 가져오는 것을 좋아함

구조체 설계 팁
- SoA (Structure of Arrays) -> 캐시 효율 높음
- AoS (Array of Structures) -> 비효율적일 수 있음

5. 게임 개발에서 캐시 활용 예시

- Physics Simulation : 충돌 판정 계산 시 캐시 효율이 중요
- Animation : 본 정보와 트랜스폼 연산을 빠르게 가져와야 함
- AI Pathfinding : 노드 그래프 탐색 시 캐시 최적화
- Rendering : 버텍스, 텍스처 데이터 캐싱

Unity ECS(Entity Component System)

1. 일반적인 OOP 방식의 문제점 (MonoBehaviour 중심)

Unity의 전통적인 방식은 OOP(Object-Oriented Programming)를 따르고 있음
이 객체들이 메모리에 흩어져 있음 (메모리 주소가 불연속적)
CPU캐시 미스 증가

2. CPU 캐시는 어떻게 동작하나?

CPU는 데이터를 메인 메모리(RAM)에서 직접 읽기보다, L1~L3 캐시에 미리 가져와서 사용함
데이터를 연속된 주소(메모리 블록)로 가져오기 때문에, 캐시에 들어가는 데이터는 보통 64바이트 단위로 묶여서 처리가 됨 (캐시 라인 단위)
따라서 연속된 데이터 구죌수록 캐시 적중률(Cache Hit Rate)이 높음

3. Unity ECS의 구조: SoA (Structure of Arrays)

Unity ECS는 데이터를 SoA (Structure of Arrays) 방식으로 저장함
즉, 컴포넌트 데이터를 하나의 큰 배열처럼 메모리에 연속적으로 저장함
Entity마다 컴포넌트들을 가지며, 이 데이터들은 Chunk라는 단위로 연속된 메모리에 저장됨
1Chunk = 여러 Entity의 동일한 컴포넌트 데이터를 정렬된 배열 형태로 보관
Chunk는 ECS 내부에서 컴포넌트 데이터를 저장하는 고정 크기의 메모리 블록
ECS는 모든 Entity의 데이터를 개별적으로 관리하지 않고, 비슷한 구성의 Entity들을 묶어서 Chunk에 저장함
Chunk 하나는 보통 16KB 크기로 고정되어 있음 (Unity 기본 설정 기준)
Chunk는 같은 Archetype(Entity 구조)를 가진 Entity들을 담는 컨테이너
하나의 Chunk에 담긴 Entity들은 같은 컴포넌트를 같은 순서로 갖고 있음
이렇게 하면 메모리에 연속적으로 정렬된 데이터 구조가 생기고, CPU 캐시 효율이 극대화 됨
“CPU 캐시를 고려한 물리적 정렬 방식”

이 구조가 왜 빠른가?
연속된 배열 순회 -> 캐시 히트 -> 벡터화 기능 (SIMD) -> 초고속 처리

4. Burst Compiler와 함께 작동할 때

ECS는 단순히 데이터 구조만 개선한 게 아니라, Burst Compiler와 조합되면 성능이 극적으로 향상됨
Burst는 Low-level CPU 최적화를 자동으로 해줌
연속된 데이터를 대상으로 SIMD(Vectorization) 최적화도 적용
캐시 히트를 활용하여 루프를 효율적으로 인라인화 & 파이프라인화