AI service를 위한 현실적인 접근 방법 (1): Memory Capacity Limitation

NLP 모델이 커지면서 GPU의 Memory Capacity 제한이 학습 뿐만이 아니라 추론에서도 문제가 되고 있다. 현실적으로 이 문제를 해결하는 방법론에 대해서 알아보기로 하자.