엔비디아 Model-Optimizer, GitHub 하루만에 인기 목록에 올랐다

엔비디아가 GitHub에 공개한 Model-Optimizer가 9월 25일 하루 동안 주목받은 프로젝트 목록에 이름을 올렸다. GitHub는 개발자들이 코드를 공개하고 함께 고치는 사이트다. 모든 프로그래밍 언어를 아우르는 목록과 파이썬 언어 목록, 두 곳에 함께 등장했다.

Model-Optimizer는 엔비디아가 만든 오픈소스 도구다. 학습을 마친 AI 모델을 실제 서비스에 올리기 전에 더 작고 빠르게 다듬는 데 쓴다. 숫자를 다루는 정밀도를 낮추는 양자화, 덜 쓰이는 부분을 잘라내는 가지치기, 큰 모델의 판단을 작은 모델로 옮기는 지식 증류 같은 방법을 담았다. 엔비디아는 학습을 마친 모델에 양자화를 적용하면 모델 크기를 2~4배 줄일 수 있다고 설명한다.

이번 소식은 목록에 올랐다는 사실 그 자체다. 새 제품을 내놓거나 새 기능을 발표한 것은 아니다.

전체 언어 목록에서는 별 46개, 파이썬 목록에서는 별 48개가 확인됐다. 별은 이용자가 관심 있는 프로젝트에 남기는 표시다. 두 수치는 확인한 시각이 서로 달라 같은 시점의 기록으로 묶어 읽을 수는 없다.

인기 목록에 올랐다는 사실과 별 수만으로는 실제 작업에 얼마나 도움이 되는지 알기 어렵다. 이용자가 앞으로 확인할 점은 세 가지다. 어떤 기능을 쓸 수 있는지, 어떤 조건에서 돌아가는지, 실제 AI 작업에 적용했을 때 효과가 있는지다.