GitLab Duo Agent Platform Self-Hosted를 위한 더 많은 AI 모델 (새 탭에서 열림)

GitLab 19.0은 GitLab Duo Agent Platform Self-Hosted에서 사용할 수 있는 오픈소스 AI 모델을 확대해, 에어갭·규제 환경에서도 더 강력한 에이전트 기능을 제공한다. 기업은 데이터와 소스 코드를 외부 API로 전송하지 않고도 작업 유형과 인프라에 맞는 모델을 선택할 수 있으며, 필요하면 GitLab 관리형 모델과 자체 호스팅 모델을 혼합할 수도 있다.

규제·에어갭 환경의 AI 제약

• 데이터 레지던시, 네트워크 격리, 규제 준수 때문에 소스 코드를 외부 클라우드 API로 보낼 수 없는 조직이 대상이다.
• 완전한 에어갭 환경에서는 인터넷과 외부 API를 사용할 수 없으므로, 자체 인프라에서 실행하는 오픈소스 모델이 사실상 유일한 선택지다.
• 기존에는 이런 환경이 최신 AI 기능 도입에서 뒤처지거나, 모든 작업에 하나의 모델만 사용해야 하는 문제가 있었다.

GitLab 19.0의 오픈소스 모델 확대

GitLab은 Duo Agent Platform의 실제 에이전트 작업에 필요한 다음 기준을 바탕으로 모델을 평가했다.

• 여러 단계의 도구 호출 및 작업 수행
• 지시사항 준수
• 코드 생성 품질
• 대규모 diff와 여러 파일로 구성된 코드베이스에 대한 추론

새롭게 지원되는 모델은 다음과 같다.

• Mistral Devstral 2 123B
• GLM-5.1
• Kimi-K2.6
• MiniMax-M2.7

이를 통해 단순 작업에는 효율적인 모델을, 복잡한 에이전트 작업에는 더 강력한 모델을 선택하는 방식의 운영이 가능해진다.

온프레미스 및 가상 인프라 배포

• 권장 방식은 자체 하드웨어에서 vLLM을 사용해 모델을 제공하는 것이다.
• 모든 추론이 조직 내부에서 실행되므로 소스 코드와 데이터가 외부로 나가지 않는다.
• 전용 GPU를 직접 구매하기 어려운 팀은 GPU가 연결된 프라이빗 클라우드의 가상 머신에서 모델을 실행할 수 있다.
• 이 방식은 필요할 때만 GPU 용량을 확보하면서도 데이터 격리 정책을 유지할 수 있다.

배포 환경별 모델 선택

• 완전한 에어갭 환경
  • 자체 추론 하드웨어에 오픈소스 모델을 배포해야 한다.
  • 모델별 GPU·하드웨어 요구사항을 사전에 확인해야 한다.
• 하이브리드 환경
  • 기능별로 자체 호스팅 모델과 GitLab 관리형 모델을 혼합할 수 있다.
  • AI Gateway 설정을 통해 어떤 기능이 어떤 모델을 사용할지 구성한다.
• 온라인 라이선스 환경
  • 사용량 기반 모델을 이용할 수 있다.
  • 자체 호스팅 모델과 GitLab 관리형 모델을 함께 사용하는 구성이 가능하다.

이용 조건

• 오프라인 라이선스 고객은 GitLab Duo Agent Platform Self-Hosted 애드온이 필요하다.
• 온라인 라이선스 고객은 사용량 기반 모델을 사용할 수 있으며, 자체 호스팅·GitLab 관리형 모델의 하이브리드 구성이 가능하다.

실용적인 권장 사항

완전한 네트워크 격리와 데이터 보안이 중요하다면 vLLM 기반의 자체 GPU 인프라에 지원 모델을 배포하는 것이 적합하다. 반면 작업별 성능과 운영 비용을 균형 있게 관리하려면, 민감한 코드는 자체 호스팅 모델로 처리하고 일반 작업이나 고난도 작업은 GitLab 관리형 모델로 분리하는 하이브리드 구성을 검토할 수 있다.