MariaDB decimal 타입과 Java BigDecimal 동일하게 처리하기

😂 배경

정확한 실수 값 계산이 필요해 Java의 BigDecimal을 사용해 구현한 특정 비즈니스 로직이 있었다.

 

해당 로직은 조회 기능이 두 가지가 있는데, 하나는 DB 값을 조회하는 현재 조회, 다른 하나는 미래 날짜를 선택하면 예상된 값을 계산해서 보여주는 미래 조회가 있다.

 

어느 날 기획자가 해당 비즈니스 로직과 관련된 화면을 캡처해서 보여주며, 조회와 계산된 값이 맞지 않는다고 하며 의문을 제기했다.

 

해당 문제를 해결하고 나서 알게 된 부분에 대해서 공유하고자 한다.

🔎 문제

현재 조회(DB 조회)를 하면 100.0 값이 출력되고, 미래 날짜를 입력하고 계산해서 조회하면 99.9가 뜨는 문제가 발생했다.

 

해당 문제는 100을 3으로 나누는 경우 발생했는데, 100을 3으로 나누면 33.333333333...으로 나오게 되고, 3개를 더하면 99.999999999... 가 된다. 그런데 DB 조회는 100.0이고 왜 계산 조회는 99.9인 것일까?

📌 원인

MariaDB의 decimal(M, D)은 D를 초과한 첫 번째 자릿수에서 반올림 처리하지만 Java의 BigDecimal은 별도로 처리하지 않았던 것이 문제였다. (decimal(M,D)는 M은 전체 자릿수, D는 소수점 이하 자릿수를 가진 숫자형을 의미한다.)

 

예를 들어 decimal(16,10)인 경우 소수점이 10자리를 넘어가는 첫 번째 자리 즉, 11번째 자리 값에서 반올림(5 이상 올림)이 된다.

 

해당 상황을 간단하게 테스트를 구성해서 재구성해봤다. 

 

@Entity
@Table(name = "task")
@Getter
@Builder
@NoArgsConstructor
@AllArgsConstructor
@ToString
public class Task {

    @Id
    @GeneratedValue(strategy = GenerationType.IDENTITY)
    private Long id;

    @Column(precision = 16, scale = 10)
    private BigDecimal value;
}

@SpringBootTest
public class TaskServiceTest {

    @Autowired
    TaskRepository taskRepository;

    @Autowired
    EntityManager entityManager;

    @Test
    @Transactional
    void decimalIssue() {
        Task task = Task.builder()
                .value(new BigDecimal("99.99999999999"))
                .build();

        Task savedTask = taskRepository.save(task);
        entityManager.clear();

        Task result = taskRepository.findById(savedTask.getId()).get();
        System.out.println(result);
    }
}

 

소수가 10 자릿수를 넘어가는 값을 BigDecimal로 저장하고, 조회해서 확인해 본다.

 

테스트 결과는 100으로 나오는 것을 알 수 있다. 또한, DB에도 100으로 저장되어 있는 것을 확인할 수 있다.

 

하지만 Java BigDecimal은 별도로 Scale 및 RoundingMode를 설정해주지 않으면 여전히 99.999999..로 값을 가지고 있게 된다. 만약 DB에 설정된 decimal과 다른 자릿수에서 반올림 또는 올림, 내림 등의 처리를 하게 된다면 DB에 저장된 값과 다른 값이 조회되는 문제가 발생한다.

📕 해결

DB 정책과 동일하게 맞추어 계산하는 처리하는 방식으로 해결하게 되었다.  BigDecimal은 자릿수를 넘어가면 어떻게 처리할지 결정할 수 있도록 하는 setScale(int newScale, RoundingMode roundingMode) 메서드를 지원한다.

(RoundingMode는 값이 scale 값을 넘어갈 경우 어떻게 처리할지 정하는 enum)

 

new BigDecimal("99.99999999999").setScale(10, RoundingMode.HALF_UP);

 

REFERENCE

https://mariadb.com/kb/en/decimal/

https://docs.oracle.com/javase/8/docs/api/java/math/RoundingMode.html