직렬화 가능한 격리 및 성능 고려 사항 이해

소개

database 관리라는 복잡한 세계에서 동시 트랜잭션이 발생하는 가운데 데이터 일관성을 보장하는 것은 매우 중요한 과제입니다. 애플리케이션의 규모가 커지고 사용자 활동이 증가함에 따라 여러 트랜잭션이 동시에 동일한 데이터를 읽고 수정하려고 시도하는 경우가 많습니다. 이러한 상호 작용을 제어하기 위한 적절한 메커니즘이 없다면 데이터 무결성이 심각하게 손상되어 잘못된 결과, 업데이트 손실 또는 데이터 손상으로 이어질 수 있습니다. 이때 데이터베이스 격리 수준이 등장하며, 데이터 일관성을 위한 중요한 수호자 역할을 합니다. 이 중에서 Serializable 격리 수준은 가장 엄격한 수준으로, 가장 높은 수준의 데이터 무결성을 제공합니다. 그러나 이러한 견고함은 종종 성능에 영향을 미치는 상당한 절충을 수반합니다. 이 문서는 Serializable 격리 수준을 심도 있게 탐구하고, 기본 원리, 실제 구현을 파헤치고, 성능에 미치는 영향을 비판적으로 검토하여 신중하게 적용할 수 있는 로드맵을 제공하는 것을 목표로 합니다.

직렬화 가능한 격리 이해

Serializable의 복잡한 내용으로 들어가기 전에 데이터베이스 동시성 제어를 뒷받침하는 몇 가지 기본적인 개념을 명확히 해보겠습니다.

핵심 용어

트랜잭션(Transaction): 데이터베이스에 액세스하고 잠재적으로 수정하는 단일 논리적 작업 단위입니다. 트랜잭션은 데이터 무결성과 일관성을 유지하도록 설계되었습니다. 원자성(Atomicity), 일관성(Consistency), 격리(Isolation), 내구성(Durability)의 ACID 속성으로 특징지어집니다.
동시성 제어(Concurrency Control): 여러 데이터베이스 작업을 동시에 관리하는 원칙으로, 데이터 무결성이 유지되고 충돌이 예측 가능한 방식으로 해결되도록 합니다.
격리 수준(Isolation Levels): SQL 표준(종종 특정 데이터베이스 시스템에서 확장됨)에서 정의된 표준으로, 트랜잭션 데이터 수정이 다른 동시 트랜잭션에 어떻게 보이는지를 지정합니다. 높은 격리 수준은 동시성 이상 현상에 대해 더 큰 보호를 제공하지만 일반적으로 더 높은 성능 비용을 발생시킵니다.
동시성 이상 현상(Concurrency Anomalies): 적절한 격리 없이 여러 트랜잭션이 동시에 실행될 때 발생할 수 있는 다양한 유형의 오류 또는 예기치 않은 동작입니다. 일반적인 이상 현상으로는 다음이 있습니다.
- 더티 읽기(Dirty Reads): 한 트랜잭션이 아직 커밋되지 않은 다른 트랜잭션이 쓴 데이터를 읽습니다.
- 반복 불가능한 읽기(Non-Repeatable Reads): 한 트랜잭션이 이전에 읽었던 데이터를 다시 읽고 다른 커밋된 트랜잭션에 의해 수정되었음을 발견합니다.
- 팬텀 읽기(Phantom Reads): 한 트랜잭션이 행 집합을 반환하는 쿼리를 다시 실행하고, 다른 커밋된 트랜잭션(예: 새 행 추가 또는 기존 행 삭제)으로 인해 쿼리를 만족하는 행 집합이 변경되었음을 발견합니다.
- 업데이트 누락(Lost Updates): 두 개의 트랜잭션이 동일한 데이터를 읽고, 수정하고, 다시 씁니다. 한 트랜잭션의 업데이트는 다른 트랜잭션이 첫 번째 업데이트를 고려하지 않고 덮어쓰기 때문에 "손실"됩니다.
직렬 실행(Serial Execution): 트랜잭션을 서로 겹치지 않고 순차적으로 실행하는 것입니다. 이는 본질적으로 일관성을 보장하지만, 처리량이 극도로 낮기 때문에 동시 시스템에서는 비현실적입니다.
직렬화(Serialization): 동시 트랜잭션이 어떤 순서로든 직렬로 실행된 것과 동일한 결과를 생성하도록 보장하는 프로세스입니다.

직렬화 가능한 격리란 무엇인가?

Serializable 격리 수준은 SQL 표준에서 정의한 가장 강력한 격리 수준입니다. 동시 실행되는 트랜잭션이 어떤 순서로든 순차적으로(직렬로) 실행된 것과 동일한 결과를 생성하도록 보장합니다. 본질적으로 더티 읽기, 반복 불가능한 읽기, 팬텀 읽기를 포함한 모든 일반적인 동시성 이상 현상을 제거합니다. 또한 트랜잭션이 전체 기간 동안 데이터베이스에 대한 독점 액세스 권한을 가진 것처럼 작동하도록 보장합니다.

직렬화 가능한 격리가 작동하는 방식

데이터베이스 시스템은 일반적으로 2단계 잠금(2PL) 또는 낙관적 동시성 제어(OCC) 변형을 통해 Serializable 격리를 달성하며, 최신 시스템에서는 다중 버전 동시성 제어(MVCC) 기술과 결합하는 경우가 많습니다.

2단계 잠금(2PL)

순수 2PL에서는 트랜잭션이 데이터 항목에 대한 잠금(읽기에는 공유, 쓰기에는 배타적)을 획득합니다. 트랜잭션에는 새 잠금을 획득할 수 있는 성장 단계와 잠금을 해제할 수 있는 축소 단계가 있습니다. 2PL의 중요한 규칙은 트랜잭션이 잠금을 해제하면 더 이상 새 잠금을 획득할 수 없다는 것입니다. Serializable 격리의 경우, 2PL은 **고유 2PL(Strict 2PL)**이어야 합니다. 즉, 모든 잠금은 트랜잭션이 커밋되거나 중단될 때까지 유지됩니다. 팬텀 읽기를 방지하기 위해 Serializable은 종종 술어 잠금(predicate locks) 또는 **범위 잠금(range locks)**을 사용합니다. 이는 개별 행뿐만 아니라 지정된 범위 내에서 또는 특정 술어를 충족하는 행이 추가되거나 제거될 가능성까지 잠급니다.

은행 송금 예시를 살펴보겠습니다.

-- 트랜잭션 A: 계좌 1에서 계좌 2로 100달러 송금
BEGIN TRANSACTION ISOLATION LEVEL SERIALIZABLE;
SELECT balance FROM Accounts WHERE account_id = 1 FOR UPDATE; -- 계좌 1 잠금
UPDATE Accounts SET balance = balance - 100 WHERE account_id = 1;
SELECT balance FROM Accounts WHERE account_id = 2 FOR UPDATE; -- 계좌 2 잠금
UPDATE Accounts SET balance = balance + 100 WHERE account_id = 2;
COMMIT;

-- 트랜잭션 B: 계좌 1, 2, 3의 총 잔액 확인
BEGIN TRANSACTION ISOLATION LEVEL SERIALIZABLE;
SELECT SUM(balance) FROM Accounts WHERE account_id IN (1, 2, 3);
COMMIT;

고유 2PL을 사용하는 Serializable 격리에서 트랜잭션 A가 먼저 시작되면 계좌 1과 계좌 2에 대한 배타적 잠금을 획득합니다. 해당 계좌를 읽으려는 트랜잭션 B는 트랜잭션 A가 커밋될 때까지 차단됩니다. 트랜잭션 A가 커밋되면 트랜잭션 B는 업데이트된 잔액을 읽을 수 있습니다. 이렇게 하면 트랜잭션 B가 중간 상태(더티 읽기)를 보거나 나중에 데이터를 다시 읽을 때 다른 총액(반복 불가능한 읽기)을 보는 것을 방지할 수 있습니다. 트랜잭션 B가 잔액 합계를 읽으려고 하면 관련 계좌 전체에 대한 공유 잠금을 획득할 수 있으며, 트랜잭션 A가 해당 계좌 중 하나를 수정하려고 하면 트랜잭션 B가 완료될 때까지 차단되어 교착 상태가 발생할 수 있습니다.

스냅샷 격리(MVCC 기반"Serializable"에서 종종 지원)

PostgreSQL 및 Oracle과 같은 많은 최신 관계형 데이터베이스는 **다중 버전 동시성 제어(MVCC)**와 스냅샷 격리 위에 구축된 추가 확인 계층을 결합하여 Serializable 격리 수준(또는 Oracle의 SERIALIZABLE과 같은 동등한 수준)을 구현합니다.

MVCC: 데이터를 제자리에서 덮어쓰는 대신, MVCC 데이터베이스는 행이 업데이트될 때마다 행의 새 버전을 생성합니다. 판독기는 일반적으로 트랜잭션 시작 시점의 일관된 데이터베이스 "스냅샷"을 보며, 쓰기 작업을 차단하지 않습니다. 이는 본질적으로 더티 읽기와 반복 불가능한 읽기를 방지합니다.
스냅샷 격리: 스냅샷 격리에서 작동하는 트랜잭션은 트랜잭션 시작 시 존재했던 데이터베이스의 스냅샷을 봅니다. 스냅샷이 찍힌 후 커밋된 다른 트랜잭션의 쓰기는 보이지 않습니다. 이는 더티 읽기와 반복 불가능한 읽기를 방지합니다. 그러나 스냅샷 격리만으로는 팬텀 읽기나 "쓰기 왜곡(write skew)" 이상 현상이라고 불리는 특정 이상 현상을 방지할 수 없습니다.

MVCC/스냅샷 격리 위에 완전한 Serializable 격리를 달성하기 위해 데이터베이스는 커밋 시점에 추가 검증 계층을 추가합니다. 이 검증은 커밋된 트랜잭션의 수정(쓰기)이 스냅샷 이후에 커밋된 다른 동시 트랜잭션과 직렬화 위반을 초래하는 방식으로 충돌하는지 확인합니다. 이러한 충돌이 감지되면 업데이트가 거부되고 트랜잭션이 일반적으로 중단되어 애플리케이션이 다시 시도해야 합니다. 이는 종종 **직렬화 가능한 스냅샷 격리(Serializable Snapshot Isolation, SSI)**라고 합니다.

SSI로 MVCC/스냅샷 격리 위에서 완전한 Serializable 격리를 달성하기 위해 데이터베이스는 커밋 시점에 추가적인 유효성 검사 계층을 추가합니다. 이 유효성 검사는 커밋된 트랜잭션의 수정(쓰기)이 스냅샷 이후에 커밋된 다른 동시 트랜잭션들과 직렬화를 위반하는 방식으로 충돌하는지 확인합니다. 이러한 충돌이 감지되면 업데이트가 거부되고 트랜잭션이 일반적으로 중단되어 애플리케이션에서 트랜잭션을 재시도해야 합니다. 이는 종종 **Serializable Snapshot Isolation(SSI)**이라고 합니다.

SSI를 사용하여 MVCC/스냅샷 격리 위에 완전한 Serializable 격리를 달성하기 위해 데이터베이스는 커밋 시점에 추가적인 유효성 검사 계층을 추가합니다. 이 유효성 검사는 커밋된 트랜잭션의 수정(쓰기)이 스냅샷 이후에 커밋된 다른 동시 트랜잭션들과 직렬화를 위반하는 방식으로 충돌하는지 확인합니다. 이러한 충돌이 감지되면 업데이트가 거부되고 트랜잭션이 일반적으로 중단되어 애플리케이션에서 트랜잭션을 재시도해야 합니다. 이는 종종 **Serializable Snapshot Isolation(SSI)**이라고 합니다.

SSI를 사용하여 MVCC/스냅샷 격리 위에 완전한 Serializable 격리를 달성하기 위해 데이터베이스는 커밋 시점에 추가적인 유효성 검사 계층을 추가합니다. 이 유효성 검사는 커밋된 트랜잭션의 수정(쓰기)이 스냅샷 이후에 커밋된 다른 동시 트랜잭션들과 직렬화를 위반하는 방식으로 충돌하는지 확인합니다. 이러한 충돌이 감지되면 업데이트가 거부되고 트랜잭션이 일반적으로 중단되어 애플리케이션에서 트랜잭션 재시도가 필요한 경우가 많습니다. 이는 종종 **Serializable Snapshot Isolation(SSI)**이라고 합니다.