쿠팡 SCM 워크플로우: 효율적이고 확장 가능한 low-code, no-code 플랫폼 개발 (새 탭에서 열림)

쿠팡 SCM 팀은 복잡한 공급망 관리 과정에서 발생하는 다양한 직군 간의 협업 비용을 줄이고 시스템 확장성을 높이기 위해 'SCM 워크플로우 플랫폼'을 구축했습니다. 이 플랫폼은 Low-code와 No-code 방식을 도입하여 개발자뿐만 아니라 비개발자도 직접 데이터 파이프라인을 설계하고 서비스에 적용할 수 있는 환경을 제공합니다. 이를 통해 요구사항 변화에 민첩하게 대응하며, 데이터 생성부터 프로덕션 연동까지의 전 과정을 효율화하는 것을 목표로 합니다. **No-code 데이터 빌더를 통한 데이터 접근성 혁신** * **다양한 데이터 소스 통합:** Redshift, Hive, Presto, Aurora, MySQL, Elasticsearch, S3 등 산재한 공용 데이터 소스에 대한 접근 및 질의를 코드 없이 수행할 수 있습니다. * **시각적 노드 기반 설계:** 사용자는 데이터 추출, 계산, 연동 등의 과정을 시각적인 '노드'로 생성하고 연결함으로써 직관적인 데이터 워크플로우를 구성할 수 있습니다. * **협업 효율화:** 비즈니스 분석가(BA)나 데이터 사이언티스트가 개발자에게 매번 파이프라인 생성을 요청하던 기존 프로세스를 개선하여, 스스로 데이터를 가공하고 시스템에 반영할 수 있게 함으로써 커뮤니케이션 비용을 획기적으로 낮췄습니다. **Low-code 기반의 서비스 확장 및 운영 효율화** * **도메인 확장성 확보:** 새로운 시스템을 매번 구축하지 않고도 워크플로우 설정을 통해 도메인을 확장할 수 있어, 변화가 빠른 이커머스 환경에 유연하게 대처합니다. * **기존 도구의 복잡성 해소:** Jenkins, Airflow, Notebook 등 파편화된 도구들이 가진 연결성 문제를 단일 플랫폼 안에서 통합하여 관리 편의성을 높였습니다. * **신속한 서비스 론칭:** 간단한 조작만으로 데이터를 시각화하거나 간단한 서비스를 출시할 수 있는 환경을 제공하여 아이디어의 실행 속도를 높였습니다. **실용적인 결론 및 제언** SCM 워크플로우 플랫폼은 데이터 기반 의사결정의 주체를 전 직군으로 확대하는 '데이터 민주화'를 실현하는 도구입니다. 복잡한 MSA(마이크로서비스 아키텍처) 환경에서 데이터 파이프라인 유지보수에 많은 리소스를 소모하고 있는 조직이라면, 이러한 로우코드 기반의 워크플로우 플랫폼을 도입하여 엔지니어링 역량을 핵심 알고리즘 개발에 집중시키고 운영 효율을 극대화할 것을 추천합니다.

기계 학습 모델을 활용한 물류 입고 프로세스 최적화 (새 탭에서 열림)

쿠팡은 물류 센터 입고 과정에서 발생하는 자원 낭비를 최소화하고 배송 효율을 극대화하기 위해 머신러닝 기반의 트럭 수량 예측 모델을 도입했습니다. 입고 예약 단계에서 필요한 슬롯(트럭 하역 시간 단위) 수를 정확히 예측함으로써, 자원 부족으로 인한 입고 지연과 유휴 자원 발생 문제를 동시에 해결했습니다. 이를 통해 쿠팡은 직매입 제품의 풀필먼트 센터 입고 프로세스를 최적화하고 고객에게 더 빠른 배송 서비스를 제공하는 기반을 마련했습니다. **물류 입고 프로세스의 병목 현상과 자원 낭비** * 풀필먼트 센터의 한정된 도크(dock)와 시간당 사용 가능한 슬롯은 물류 효율의 핵심 자원입니다. * 입고에 필요한 슬롯을 과소 예측할 경우 하역 작업이 지연되어 전체 물류 흐름에 차질이 생기며, 과대 예측 시에는 다른 업체가 사용할 수 있는 소중한 자원이 낭비되는 문제가 발생합니다. * 이를 해결하기 위해 업체 및 제품 특성을 반영한 데이터 기반의 정교한 예측 시스템이 필요했습니다. **도메인 지식과 데이터 분석을 통한 특징 추출** * 약 2년간 축적된 80만 건의 입고 신청 데이터를 분석하여 학습 데이터 세트를 구성했습니다. * 탐색적 데이터 분석(EDA)뿐만 아니라 물류 현장 전문가들과의 심층 인터뷰를 병행하여 현장의 실질적인 입고 패턴을 파악했습니다. * 피처 엔지니어링 단계에서는 단순 통계 수치를 넘어 업체 특성, 제품군별 물성 등 트럭 수량에 영향을 미치는 다수의 범주형(categorical) 특징들을 도출해 냈습니다. **LightGBM을 활용한 고성능 모델 학습** * 대량의 데이터 세트를 빠르게 처리하고 범주형 특징에 대해 우수한 성능을 보이는 LightGBM 알고리즘을 채택했습니다. * 기존 트리 기반 알고리즘의 수평적 확장(Level-wise) 방식 대신 수직적 확장(Leaf-wise) 방식을 사용하는 LightGBM의 특성을 활용해 학습 속도를 높이고 손실을 최소화했습니다. * 모델의 성능을 극대화하기 위해 베이지안 최적화(Bayesian Optimization) 기법을 적용하여 하이퍼 파라미터 튜닝을 효율적으로 수행했습니다. **시스템 연계 및 운영 최적화** * 학습된 모델을 실제 입고 예약 시스템과 실시간으로 연계하여 업체가 예약을 신청하는 즉시 최적의 트럭 수량을 확인할 수 있도록 자동화했습니다. * 단순히 정확도만 높이는 것이 아니라, 현장의 안정성을 위해 과소 예측과 과대 예측 사이의 트레이드 오프(Trade-off)를 정교하게 관리하여 운영 리스크를 방어했습니다. 데이터에 기반한 입고 프로세스 자동화는 물류 운영의 가시성을 높이고 인적 판단 오류를 줄이는 데 큰 기여를 합니다. 특히 물류와 같이 변동성이 큰 산업군에서는 LightGBM과 같은 고성능 알고리즘과 현장 도메인 전문가의 통찰을 결합하는 것이 실질적인 비즈니스 성과를 내는 핵심 전략이 될 수 있습니다.

쿠팡의 머신러닝 플랫폼을 통한 ML 개발 가속화 (새 탭에서 열림)

쿠팡은 검색, 가격 책정, 물류 등 비즈니스 전반에 머신러닝(ML)을 적극적으로 활용하며, 개발 효율을 극대화하기 위해 통합 ML 플랫폼을 구축했습니다. 이 플랫폼은 데이터 준비부터 모델 배포 및 모니터링까지의 전 과정을 자동화하고 표준화하여, 개발자가 인프라 관리보다는 모델 로직에 집중할 수 있는 환경을 제공합니다. 이를 통해 쿠팡은 대규모 컴퓨팅 자원을 효율적으로 관리하면서도 고객 경험을 개선하기 위한 혁신적인 기능들을 빠르게 시장에 선보이고 있습니다. **ML 개발 가속화를 위한 도전 과제** * **Time-to-Market 단축:** 아이디어 단계에서 모델을 실제 서비스에 적용하기까지 발생하는 복잡한 인프라 설정 과정을 간소화해야 함. * **표준화된 CI/CD 통합:** 머신러닝 모델의 학습, 검증, 배포 과정을 소프트웨어 공학의 지속적 통합 및 배포 체계와 결합하여 운영 안정성을 확보. * **확장성 있는 컴퓨팅 자원:** 대규모 데이터와 복잡한 딥러닝 모델 학습을 위해 GPU 및 CPU 자원을 효율적으로 할당하고 확장할 수 있는 시스템 필요. **효율적인 파이프라인 및 피처 관리** * **노트북 및 워크플로우:** 주피터 노트북(Jupyter Notebook) 환경과 Kubeflow 기반 파이프라인을 제공하여, 데이터 탐색부터 모델 학습까지의 워크플로우를 코드 형태로 관리하고 자동화함. * **피처 스토어(Feature Store):** 실시간 추론과 배치 학습 환경 간의 데이터 불일치를 방지하고, 검증된 피처를 재사용할 수 있는 중앙 집중형 저장소 운영. * **일관성 유지:** 온라인과 오프라인 환경에서 동일한 피처 엔지니어링 로직을 적용하여 모델 성능의 신뢰성을 높임. **모델 훈련 및 실시간 추론 인프라** * **분산 훈련 지원:** 고성능 GPU 클러스터를 활용한 분산 훈련 환경을 구축하여 Ko-BERT와 같은 대규모 언어 모델의 학습 시간을 획기적으로 단축. * **안정적인 추론 서비스:** 실시간 트래픽 처리를 위한 고가용성 서빙 환경과 대량의 데이터를 한 번에 처리하는 배치 추론 시스템을 동시에 지원. * **자동화된 배포:** 훈련된 모델을 검증한 후 클릭 몇 번으로 실제 운영 환경에 배포할 수 있는 셀프 서비스 기능 제공. **지속적인 모니터링 및 자원 최적화** * **가시성 확보:** 모델의 성능 지표뿐만 아니라 입력 데이터의 분포 변화(Data Drift)를 실시간으로 감지하여 모델 재학습 시점을 파악. * **Kubernetes 기반 관리:** 모든 ML 워크로드를 컨테이너화하여 Kubernetes 환경에서 실행함으로써 하드웨어 자원 활용도를 최적화하고 운영 부담을 최소화. **플랫폼 도입을 통한 주요 성과** * **검색 품질 향상:** 한국어에 특화된 Ko-BERT 모델 학습 과정을 플랫폼을 통해 최적화하여 검색 쿼리 이해도와 검색 결과의 정확도를 개선. * **실시간 가격 예측:** 수백만 개의 상품에 대해 시장 상황을 즉각적으로 반영하는 가격 예측 모델을 안정적으로 운영하여 비즈니스 민첩성 확보. 대규모 조직에서 ML 모델 개발 속도를 높이려면 개별 모델의 성능만큼이나 전체 생애주기를 관리하는 플랫폼의 역할이 중요합니다. 쿠팡처럼 다양한 서비스 도메인을 가진 환경에서는 표준화된 ML 플랫폼을 통해 인프라 복잡성을 추상화하고, 데이터 사이언티스트가 비즈니스 가치 창출에만 몰입할 수 있는 환경을 구축하는 것이 가장 효과적인 전략입니다.

머신러닝 모델을 (새 탭에서 열림)

쿠팡은 물류 센터 입고 프로세스의 효율성을 극대화하기 위해 머신러닝 모델을 활용하여 벤더사가 예약해야 할 최적의 트럭 대수(슬롯)를 예측합니다. 한정된 물류 센터 도크 자원을 효율적으로 배분함으로써 자원 낭비를 줄이고 입고 지연 문제를 동시에 해결하는 것이 이 시스템의 핵심 목표입니다. 데이터 기반의 자동화된 예측 시스템은 입고 예약 단계에서부터 정확한 가이드를 제공하여 전체 공급망의 흐름을 개선하고 있습니다. **물류 입고 프로세스의 병목 현상과 과제** - 물류 센터의 도크(Dock)와 시간당 사용 가능한 슬롯은 물리적으로 제한된 자원입니다. - 벤더사가 실제 필요량보다 많은 슬롯을 예약하면 도크 자원이 낭비되어 다른 물품의 입고 기회가 박탈됩니다. - 반대로 실제보다 적은 슬롯을 예약할 경우, 트럭 대기 시간이 길어지고 하역 작업에 병목이 발생하여 전체 물류 흐름이 지연되는 문제가 발생합니다. - 이를 해결하기 위해 상품의 종류, 수량, 벤더의 과거 이력 등을 종합적으로 고려한 정교한 예측 모델이 필요해졌습니다. **머신러닝 기반의 트럭 대수 예측 모델링** - **피처 추출(Feature Extraction):** 수년간 축적된 방대한 물류 데이터와 입고 요청 이력을 분석하여 실제 투입된 트럭 대수에 영향을 미치는 핵심 변수들을 도출했습니다. - **LightGBM 알고리즘 활용:** 대용량 데이터 세트에서도 학습 속도가 빠르고 예측 정확도가 높은 LightGBM 알고리즘을 채택하여 효율적인 모델을 구축했습니다. - **베이지안 최적화(Bayesian Optimization):** 모델의 성능을 극대화하기 위해 하이퍼파라미터 탐색 과정에서 베이지안 최적화 기법을 적용하여 최적의 설정값을 찾았습니다. **예약 시스템 통합 및 최적화 전략** - **실시간 예약 가이드:** 구축된 모델을 입고 예약 시스템에 통합하여, 벤더가 입고 요청을 하는 즉시 필요한 적정 트럭 대수를 자동으로 제시합니다. - **예측 오차의 관리(Trade-off):** 과소 예측으로 인한 입고 지연(Delay)과 과대 예측으로 인한 자원 낭비(Waste) 사이의 균형점을 찾기 위한 최적화 로직을 적용했습니다. - **운영 효율성 증대:** 자동화된 시스템 도입을 통해 사람이 수동으로 예측할 때 발생할 수 있는 주관적 오차를 줄이고 슬롯 가동률을 높였습니다. 이러한 데이터 중심의 접근 방식은 한정된 물류 인프라 내에서 더 많은 상품을 적시에 처리할 수 있게 함으로써, 결과적으로 고객에게 더욱 빠른 배송 서비스를 제공하는 밑거름이 됩니다. 물류 현장의 복잡한 변수들을 머신러닝으로 정교화하는 과정은 기술이 어떻게 실질적인 비즈니스 가치를 창출하는지 잘 보여주는 사례입니다.

LLM을 통한 쿠 (새 탭에서 열림)

쿠팡은 검색, 광고, 물류 등 서비스 전반에 걸쳐 머신러닝(ML) 기술을 적극적으로 활용하고 있으며, 최근에는 대규모 언어 모델(LLM)을 도입해 AI 혁신을 가속화하고 있습니다. LLM은 다국어 환경과 방대한 상품 데이터를 처리하는 데 탁월한 성능을 보이며, 효율적인 모델 학습과 추론을 위한 플랫폼 인프라의 최적화가 이 과정의 핵심 동력이 되고 있습니다. 쿠팡은 이를 통해 고객 경험을 개선하고 운영 효율성을 극대화하는 성과를 거두고 있습니다. **쿠팡의 머신러닝 활용 영역** * **추천 시스템:** 사용자 클릭, 구매 이력, 장바구니 담기 등 대규모 상호작용 데이터와 사람이 직접 라벨링한 관련성 판단 지표를 기반으로 홈 피드, 검색, 광고의 개인화를 구현합니다. * **콘텐츠 이해:** 상품 카탈로그(텍스트, 이미지), 사용자 리뷰, 검색어 등 방대한 데이터를 딥러닝으로 분석해 상품과 고객에 대한 표현(Representation)을 학습하고 이를 쇼핑 경험 개선에 활용합니다. * **예측 모델링:** 100개 이상의 물류 센터(FC) 내 수백만 개 상품에 대한 수요, 가격, 배송 경로를 예측하며, 기존 통계적 기법에 딥러닝 기술을 점진적으로 결합하고 있습니다. **멀티모달 기반의 이미지 및 언어 이해** * **Vision-Language Transformer:** 이미지와 텍스트 데이터를 별개로 처리하던 기존 방식에서 벗어나, 두 데이터를 동시에 모델링하는 트랜스포머 모델을 통해 더욱 정교한 임베딩(Embedding)을 생성합니다. * **검색 및 추천 고도화:** 생성된 임베딩은 광고 검색, 유사 상품 찾기 및 추천 모델의 핵심 피처로 활용되어 사용자에게 더 적합한 결과를 제공합니다. * **다양한 서비스 적용:** 한국어와 대만어 간의 상품명 번역, 쇼핑 피드 이미지 품질 개선, 사용자 리뷰 요약, 상품 및 판매자 키워드 자동 생성 등 다양한 영역에서 대규모 모델이 성공적으로 적용되었습니다. **데이터 레이블링 및 속성 추출 혁신** * **대규모 약지도 학습(Weak Label) 생성:** 사람이 직접 수행하기에 비용과 시간이 많이 드는 다국어(한국어, 영어, 중국어 등) 레이블링 작업을 LLM이 수행하여, 모델 학습을 위한 기초 데이터를 대규모로 확보합니다. * **데이터 부족 문제 해결:** 학습 데이터가 부족한 새로운 카테고리나 세그먼트에서 LLM이 생성한 레이블을 통해 모델의 성능을 빠르게 안정화하고 관련성 모델의 품질을 높입니다. * **통합 모델링으로의 전환:** 과거에는 상품 카테고리별로 개별 ML 모델을 구축해야 했으나, 이제는 통합된 LLM을 통해 상품 분류 및 속성 추출 프로세스를 간소화하고 효율성을 높이고 있습니다. 쿠팡은 LLM을 단순한 기술 도입을 넘어 인프라 최적화와 결합하여 실제 비즈니스 가치를 창출하는 핵심 도구로 활용하고 있습니다. 특히 다국어 지원과 대규모 데이터 처리가 필수적인 글로벌 이커머스 환경에서, LLM 기반의 플랫폼 전략은 향후 AI 경쟁력을 좌우하는 중요한 기반이 될 것입니다.

비용 효율성을 위한 클라우 (새 탭에서 열림)

쿠팡은 재무와 엔지니어링 팀 간의 긴밀한 협력을 통해 클라우드 지출을 최적화하고 재무적 책임감을 강화하는 전략적 로드맵을 실행했습니다. 이를 위해 구성된 중앙 관리 팀(Central team)은 '낭비 지양(Hate Waste)'이라는 기업 원칙 아래 데이터 기반의 분석 도구와 가변 비용 모델을 도입하여 전사적인 비용 관리 문화를 정착시켰습니다. 결과적으로 비즈니스 성장을 저해하지 않으면서도 리소스 사용 효율을 극대화하여 수백만 달러 규모의 온디맨드 비용을 절감하는 성과를 거두었습니다. ### 중앙 관리 팀 조직과 분석 체계 구축 * 인프라 엔지니어와 기술 프로그램 매니저(TPM)로 구성된 중앙 팀을 조직하여 각 도메인 팀이 클라우드 효율성을 스스로 관리할 수 있도록 지원했습니다. * Amazon CloudWatch, Amazon Athena, 그리고 AWS CUR(비용 및 사용 보고서) 데이터를 활용한 맞춤형 대시보드를 구축하여 실시간으로 비용을 모니터링하고 데이터에 기반한 의사결정을 내릴 수 있는 환경을 마련했습니다. * 재무 팀과의 파트너십을 통해 각 도메인 팀이 할당된 월간 및 분기별 예산을 준수하도록 관리하는 거버넌스 체계를 확립했습니다. ### 지출 감소 및 단가 최적화 전략 (Spend Less & Pay Less) * **지출 감소(Spend Less):** 비운영 환경(Non-production)에서 리소스가 필요할 때만 자동으로 실행되도록 자동화 프로세스를 도입하여, 해당 환경의 비용을 약 25% 절감했습니다. * **단가 최적화(Pay Less):** 사용 패턴 분석을 통해 사용되지 않거나 효율이 낮은 EC2 리소스를 수동으로 제거하고, 워크로드에 맞는 적정 사양으로 조정(Rightsizing)했습니다. * **인프라 현대화:** 기존 인스턴스를 최신 세대로 전환하고, x86 대비 가성비가 뛰어난 ARM 기반의 AWS Graviton 인스턴스 도입을 확대하여 처리 성능은 높이고 비용은 낮추었습니다. ### 기술적 세부 최적화 실행 * **데이터 처리 및 저장:** Amazon S3의 저장 구조를 최적화하고 스토리지 계층화(Tiering)를 적용하여 데이터 보관 비용을 효율화했습니다. * **빅데이터 워크로드:** EMR(Elastic MapReduce) 환경에서 Spot 인스턴스 활용도를 높여 데이터 분석 및 처리 비용을 획기적으로 줄였습니다. * **문화적 확산:** 엔지니어들이 클라우드 비용을 단순한 지출이 아닌 관리해야 할 리소스로 인식하도록 교육하고, 기술적 최적화가 비즈니스 가치로 이어지는 선순환 구조를 만들었습니다. 성공적인 클라우드 비용 최적화를 위해서는 단순히 리소스를 삭제하는 것을 넘어, 엔지니어링 팀과 재무 팀이 공통의 목표를 공유하는 것이 중요합니다. 특히 데이터 분석을 통해 가시성을 확보하고, Graviton 인스턴스나 Spot 인스턴스 같은 클라우드 고유의 가변 비용 모델을 적극적으로 활용할 것을 권장합니다.

쿠팡 로켓 배송의 공간 지수 기반 배송 관리 시스템 (새 탭에서 열림)

쿠팡은 급증하는 배송 물량을 효율적으로 처리하기 위해 기존의 텍스트 및 우편번호 기반 배송 구역 관리 시스템을 공간 인덱스(H3) 기반의 시각적 시스템으로 혁신했습니다. 이를 통해 복잡한 배송 구역을 지도상에서 직관적으로 분할하고 관리할 수 있게 되었으며, 숙련된 인력의 경험에 의존하던 운영 방식을 데이터 중심의 체계적인 시스템으로 전환하는 성과를 거두었습니다. 결과적으로 배송 효율성을 극대화하고 캠프 관리자들이 유연하게 구역을 조정할 수 있는 기술적 토대를 마련했습니다. **기존 텍스트 기반 관리의 한계** * **우편번호 단위의 한계:** 과거에는 정부가 할당한 우편번호를 배송 단위로 사용했으나, 배송 물량이 급증하면서 단일 우편번호 구역이 한 명의 쿠팡 친구가 처리하기에는 너무 비대해졌습니다. * **경험 의존적 운영:** 우편번호를 아파트 단지나 건물 단위로 더 세밀하게 쪼개야 했으나, 공간 정보가 없는 텍스트 주소 위주여서 해당 지역에 익숙한 숙련자의 주관적인 판단에만 의존해야 했습니다. * **시각화 및 편집의 어려움:** 텍스트 중심 데이터는 지도상에서 구역의 경계를 직관적으로 파악하기 어려웠으며, 구역을 변경하거나 공유하는 과정에서 데이터의 일관성을 유지하기 힘들었습니다. **H3 공간 인덱스 도입과 이점** * **육각형 격자 시스템(H3) 선택:** 구글의 S2(사각형/다이아몬드 기반) 시스템 대신 우버에서 개발한 H3 육각형 그리드 시스템을 채택했습니다. * **기하학적 이점:** 육각형은 인접한 모든 셀과의 중심 거리가 동일하여 거리 계산 및 확장이 용이하며, 구역을 병합하거나 나누었을 때 시각적 왜곡이 적어 배송 구역 관리에 최적입니다. * **데이터 표준화:** 모든 배송지를 위경도 기반의 H3 인덱스로 변환함으로써, 주소 체계에 상관없이 일관된 공간 데이터를 추출하고 분석할 수 있게 되었습니다. **시스템 재설계 및 기술적 구현** * **적정 해상도(Resolution) 설정:** 너무 세밀한 해상도는 데이터 양을 과도하게 늘리고, 너무 낮은 해상도는 정밀도를 떨어뜨립니다. 쿠팡은 배송 효율을 고려해 관리 효율성과 데이터 크기의 균형을 맞춘 최적의 해상도 단계를 선택했습니다. * **육각형 그룹 기반 구역 정의:** 배송 구역을 단순한 텍스트 리스트가 아닌 '육각형들의 집합(Hexagonized Polygon)'으로 재정의했습니다. 이를 통해 지도상에서 다각형(Polygon)을 그리면 해당 영역에 포함된 H3 셀들이 자동으로 할당되는 방식을 구현했습니다. * **운영 도구의 혁신:** 캠프 관리자들이 웹 인터페이스를 통해 직접 지도 위에서 구역을 수정하고, 변경된 구역의 물량 통계를 즉각적으로 확인하며 최적의 배송 영역을 설정할 수 있는 환경을 구축했습니다. 공간 인덱스 기반의 시스템 전환은 단순한 시각화를 넘어, 배송 구역별 물량 통계를 실시간으로 파악하고 데이터에 기반한 의사결정을 가능하게 합니다. 물류 및 배송 시스템을 운영하는 조직이라면 주소 텍스트에 의존하기보다 H3와 같은 공간 인덱스를 활용해 구역 관리의 유연성과 데이터 정확도를 확보하는 것이 배송 최적화의 핵심입니다.

쿠팡의 머신러 (새 탭에서 열림)

쿠팡의 머신러닝 플랫폼은 데이터 탐색부터 모델 배포에 이르는 전체 ML 생애주기를 가속화하여 개발 생산성을 혁신적으로 높이는 것을 목표로 합니다. 이를 통해 검색, 가격 책정, 물류 최적화 등 쿠팡의 다양한 서비스에 머신러닝을 효율적으로 적용하고 있으며, 인프라 관리 부담을 줄여 엔지니어들이 모델 고도화에만 집중할 수 있는 환경을 제공합니다. 결과적으로 이 플랫폼은 복잡한 비즈니스 문제를 해결하는 핵심 기술 기반으로서 쿠팡의 비즈니스 성장을 견인하고 있습니다. **플랫폼 구축의 동기와 목표** * **생산 모드 전환 시간 단축**: 실험 단계의 모델을 실제 서비스 환경에 배포하기까지 걸리는 시간을 줄여 비즈니스 요구사항에 빠르게 대응합니다. * **ML 개발의 CI/CD 도입**: 소프트웨어 공학의 지속적 통합 및 배포(CI/CD) 개념을 ML에 접목하여, 모델 학습과 배포 과정을 자동화하고 일관된 품질을 유지합니다. * **컴퓨팅 자원의 효율적 확장**: 하부 인프라에 대한 개입 없이도 대규모 학습 및 추론을 수행할 수 있도록 유연한 확장성을 제공하여 비용과 성능을 최적화합니다. **플랫폼의 핵심 기능 및 구성 요소** * **관리형 노트북 및 파이프라인 SDK**: 데이터 과학자들이 익숙한 Jupyter 기반 환경에서 작업할 수 있도록 지원하며, 전용 SDK를 통해 복잡한 ML 파이프라인을 손쉽게 정의하고 실행할 수 있습니다. * **피처 스토어(Feature Store)**: 학습과 추론 단계에서 동일한 피처 데이터를 재사용하고 공유할 수 있는 중앙 저장소를 제공하여, 데이터 정합성 문제를 해결하고 개발 효율을 높입니다. * **모델 학습 및 추론 서비스**: 다양한 ML 프레임워크를 지원하는 매니지드 학습 환경과, 대규모 트래픽을 처리할 수 있는 실시간 및 배치 추론 인프라를 운영합니다. * **모니터링 및 관측 가능성**: 배포된 모델의 성능 저하(Drift)나 이상 징후를 실시간으로 추적하여 모델의 신뢰성을 보장하고 신속한 재학습 여부를 결정합니다. **주요 성공 사례** * **Ko-BERT를 통한 검색 고도화**: 한국어 특화 언어 모델인 Ko-BERT를 학습시켜 고객의 검색 쿼리 의도를 더 정확하게 파악하고 상품 검색의 질을 향상시켰습니다. * **실시간 가격 예측**: 수백만 개의 상품에 대해 시장 변화를 즉각적으로 반영하는 실시간 가격 예측 모델을 성공적으로 배포하여 비즈니스 의사결정을 지원하고 있습니다. 쿠팡 ML 플랫폼은 단순히 도구의 집합을 넘어, 데이터 과학자가 비즈니스 가치 창출에만 전념할 수 있도록 돕는 강력한 엔지니어링 생태계입니다. 대규모 데이터와 복잡한 모델을 다루는 조직이라면 쿠팡의 사례처럼 파이프라인 자동화와 피처 정합성을 보장하는 통합 플랫폼 구축을 통해 개발 사이클을 획기적으로 단축할 수 있습니다.

잊지 못할 Config 발표를 준비 (새 탭에서 열림)

제공해주신 내용은 Figma 블로그의 주요 카테고리와 지향점을 설명하는 도입부 및 메뉴 구성으로 파악됩니다. 이를 바탕으로 Figma가 지향하는 기술적 방향성과 콘텐츠의 핵심을 요약해 드립니다. Figma는 차세대 기술 생태계를 이끌어갈 제작자(Makers)들을 위해 디자인, AI, 접근성 등 현대 기술 산업의 핵심 의제들을 통합적으로 다루고 있습니다. 단순한 디자인 도구의 차원을 넘어, 리더십과 기술적 혁신을 통해 제품 개발의 미래를 정의하고 협업의 표준을 제시하고자 합니다. ### 기술 생태계 확장과 커뮤니티 허브 * **Config 및 글로벌 이벤트:** Figma의 연례 컨퍼런스인 'Config'와 다양한 이벤트를 통해 최신 기술 업데이트와 업계 표준을 공유합니다. 이는 전 세계 제작자들이 모여 기술적 난제를 해결하고 최신 트렌드를 교류하는 지식의 장 역할을 합니다. * **Inside Figma:** Figma 내부의 기술적 도전과 조직 문화를 투명하게 공개함으로써, 혁신적인 제품을 만들기 위한 내부적 리더십과 제작자들의 사고방식을 조명합니다. ### AI와 디자인 프로세스의 융합 * **지능형 디자인 워크플로우:** AI 섹션을 통해 인공지능이 디자인 프로세스에 미치는 영향과 이를 실질적인 생산성 향상으로 연결하는 기술적 방안을 모색합니다. * **제작자의 역할 변화:** AI 기술이 반복적인 작업을 대체함에 따라, 인간 제작자가 더 전략적이고 창의적인 의사결정에 집중할 수 있는 환경을 구축하는 데 주력합니다. ### 포용성을 위한 접근성(Accessibility) 강화 * **표준화된 설계 가이드:** 모든 사용자가 제약 없이 기술을 누릴 수 있도록 돕는 구체적인 접근성 지침을 제공합니다. * **초기 단계부터의 접근성 고려:** 제품 설계 초기부터 접근성을 기술적 필수 요소로 포함시켜, 더 넓은 사용자 층을 포용하는 고품질의 제품을 만드는 방법론을 다룹니다. Figma는 디자인과 개발의 경계를 허물고 AI와 같은 신기술을 적극적으로 수용함으로써 단순한 소프트웨어를 넘어 기술 혁신의 플랫폼으로 진화하고 있습니다. 최신 기술 트렌드를 실무에 적용하고 싶은 제작자라면 Figma가 제공하는 AI 및 접근성 관련 기술 포스트를 지속적으로 탐독하며 실질적인 인사이트를 얻으시길 추천합니다.

새로운 시대를 위한 웹 (새 탭에서 열림)

피그마(Figma)는 브랜드의 정체성과 제품 경험 사이의 간극을 좁히기 위해 시각 언어를 대대적으로 진화시켰습니다. 기존의 정적인 도형 중심 시스템에서 벗어나, 사용자가 실제 툴을 다루는 방식과 상호작용을 반영한 역동적이고 표현력이 풍부한 디자인 시스템을 구축하는 것이 이번 변화의 핵심입니다. 결과적으로 피그마는 마케팅과 프로덕트 전반에서 일관성을 유지하면서도 창의적인 유연성을 확보할 수 있는 지속 가능한 시각 체계를 완성했습니다. **기하학적 기본 도형에서 확장된 시각 언어로의 진화** * 피그마의 초기 아이덴티티였던 단순한 원, 사각형 등의 기하학적 기본형(Primitives)을 유지하되, 이를 현대적인 감각에 맞게 재해석했습니다. * 단순히 로고나 색상을 바꾸는 것에 그치지 않고, 피그마라는 제품이 가진 '유연성'과 '정밀함'이라는 이중적 가치를 시각적으로 전달하는 데 집중했습니다. * 다양한 하위 브랜드와 캠페인이 하나의 통일된 목소리를 내면서도 각자의 개성을 드러낼 수 있도록 디자인 가이드라인을 세분화했습니다. **모션과 인터랙션을 통한 생동감 구현** * 정적인 이미지를 넘어, 제품 내부의 레이어나 커서의 움직임 같은 '과정'의 미학을 브랜드 디자인의 핵심 요소로 채택했습니다. * 모션을 브랜드의 부가 요소가 아닌 핵심 언어로 정의하여, 모든 시각 매체에서 피그마 특유의 협업 리듬과 속도감을 느낄 수 있도록 설계했습니다. * 3D 요소와 깊이감을 적절히 혼합하여 추상적인 소프트웨어의 기능을 보다 직관적이고 촉각적인 경험으로 변환했습니다. **브랜드와 프로덕트 디자인 시스템의 통합** * 마케팅을 위한 브랜드 디자인 시스템과 실제 제품을 위한 UI 디자인 시스템 간의 정렬(Alignment)을 강화했습니다. * 피그마의 최신 기능인 변수(Variables), 오토 레이아웃(Auto Layout), 컴포넌트 시스템을 브랜드 에셋 관리에 적극 도입하여 '피그마로 만드는 피그마'의 가치를 실현했습니다. * 이를 통해 디자이너와 마케터가 동일한 자산을 공유하며 협업 효율성을 극대화하고, 어떤 접점에서도 사용자에게 동일한 브랜드 인상을 심어줄 수 있게 되었습니다. **협업 중심의 디자인 문화 정착** * 이번 시각 언어의 진화 과정은 특정 팀의 독단적인 결정이 아니라, 브랜드, 제품, 마케팅 팀 간의 긴밀한 협업을 통해 이루어졌습니다. * 내부 피드백 루프를 시스템화하여 디자인 시스템이 실제 작업 환경에서 어떻게 작동하는지 끊임없이 검증하고 개선하는 과정을 거쳤습니다. * 이러한 과정 자체가 피그마가 지향하는 '개방적인 디자인 프로세스'를 상징하며, 도구가 브랜드의 철학을 직접 증명하는 사례가 되었습니다. 브랜드의 성장에 따라 시각 언어 역시 단순히 보기 좋은 것을 넘어 제품의 본질을 담아낼 수 있어야 합니다. 피그마처럼 브랜드와 제품 디자인 시스템을 유기적으로 연결하고, 자사 제품의 기능을 디자인 시스템 관리에 직접 활용하는 방식은 복잡한 프로덕트를 운영하는 팀들에게 훌륭한 벤치마킹 사례가 될 것입니다.

How we built a Ruby library that saves 50% in testing time (새 탭에서 열림)

소프트웨어 프로젝트의 규모가 커짐에 따라 발생하는 길고 불안정한 CI 파이프라인은 개발 생산성을 저해하는 주요 원인입니다. 데이터독(Datadog)은 코드 변경 사항과 관련된 테스트만 선택적으로 실행하는 '테스트 영향 분석(Test Impact Analysis)' 기술을 통해 이 문제를 해결하고자 했으며, 성능 오버헤드를 최소화한 Ruby용 Intelligent Test Runner를 구축했습니다. 이를 위해 기존 도구들의 한계를 넘어 Ruby VM 인터프리터 이벤트를 직접 활용하는 C 익스텐션을 개발함으로써 테스트 시간을 절반으로 단축하는 성과를 거두었습니다. **테스트 영향 분석의 개념과 필요성** * CI 파이프라인의 병렬 실행은 속도를 높일 수 있지만, 클라우드 컴퓨팅 비용이 증가하고 관련 없는 코드의 결함으로 인한 테스트 실패(Flaky tests) 문제를 해결하지 못합니다. * 테스트 영향 분석은 각 테스트와 해당 테스트가 실행하는 소스 파일 간의 매핑 정보를 동적으로 생성하여 관리합니다. * Git 커밋에서 변경된 파일과 특정 테스트가 의존하는 파일 목록이 겹칠 때만 해당 테스트를 실행하고, 관련이 없는 경우 건너뜁니다. * 이 시스템은 정확성(필요한 테스트를 거르지 않음), 성능(매 커밋마다 실행 가능할 정도로 낮은 오버헤드), 투명성(사용자 코드 수정 없음)이라는 세 가지 핵심 요구사항을 충족해야 합니다. **기존 Ruby 솔루션의 한계** * **내장 Coverage 모듈:** Ruby 3.1에서 추가된 테스트별 커버리지 수집 기능은 `SimpleCov`와 같은 기존 커버리지 도구와 호환되지 않으며, 성능 오버헤드가 약 300%에 달해 테스트 속도가 4배나 느려지는 단점이 있습니다. * **TracePoint API:** VM 이벤트를 구독하는 `TracePoint` 방식은 사용이 간편하고 기존 도구와 충돌하지 않지만, 여전히 200~400% 수준의 높은 성능 저하를 유발하여 실제 개발 환경에 적용하기 어렵습니다. **Ruby VM 이벤트를 활용한 맞춤형 C 익스텐션** * 성능 최적화를 위해 Ruby 소스 코드의 `coverage.c`와 `thread.c`를 분석하여, C 언어 수준에서 직접 인터프리터 이벤트를 가로채는 방식을 채택했습니다. * Ruby의 C API인 `rb_add_event_hook2`를 사용하여 `RUBY_EVENT_LINE` 이벤트를 등록함으로써, 코드가 실행되는 시점에 즉각적으로 파일 정보를 수집하도록 설계했습니다. * `dd_cov_update_line_coverage`와 같은 콜백 함수 내에서 실행 중인 파일이 프로젝트 루트 내에 있는지 확인하는 필터링 로직을 구현하여 데이터 수집의 효율성을 높였습니다. * 이 접근 방식은 Ruby 인터프리터 내부 메커니즘을 직접 활용함으로써 성능 오버헤드를 획기적으로 낮추고, 대규모 테스트 수트에서도 무리 없이 작동합니다. 규모가 큰 Ruby 프로젝트에서 테스트 속도 정체와 CI 비용 증가 문제를 겪고 있다면, 전체 테스트를 매번 실행하는 대신 테스트 영향 분석 도구를 도입하여 파이프라인의 효율성을 극대화할 것을 권장합니다. 특히 성능이 중요한 환경이라면 Ruby 내장 도구에만 의존하기보다 VM 이벤트를 직접 제어하는 방식이 유효한 해결책이 될 수 있습니다.

테스트 시간을 50 (새 탭에서 열림)

개발 효율성을 저해하는 길고 불안정한 CI 파이프라인 문제를 해결하기 위해, 테스트와 소스 코드 간의 의존성을 분석하여 변경된 코드와 관련된 테스트만 선택적으로 실행하는 '테스트 영향 분석(Test Impact Analysis)' 기술이 주목받고 있습니다. Datadog은 Ruby 환경에서 이를 실현하기 위해 성능 저하를 최소화하면서도 기존 도구와 호환되는 전용 라이브러리를 개발하였으며, 이는 전체 테스트 시간을 절반 수준으로 단축하는 성과를 거두었습니다. 이 과정에서 개발 팀은 Ruby 내장 모듈의 한계를 극복하기 위해 C 확장을 통한 저수준 인터프리터 이벤트 활용 방식을 채택했습니다. ## 테스트 영향 분석(TIA)의 개념과 필요성 - 소프트웨어 규모가 커짐에 따라 전체 테스트 수트 실행 시간은 비대해지며, 코드 변경과 무관한 '불안정한 테스트(Flaky tests)'로 인해 CI가 실패하는 빈도가 높아집니다. - 테스트 영향 분석은 각 테스트가 실행될 때 접근하는 소스 파일 목록을 동적으로 맵핑하여 저장하는 기술입니다. - Git 커밋 시 변경된 파일과 맵핑된 파일 목록에 교집합이 있는 테스트만 실행함으로써, 불필요한 리소스 낭비를 줄이고 파이프라인의 안정성을 높일 수 있습니다. - Datadog의 'Intelligent Test Runner'는 이러한 원리를 바탕으로 정확성, 성능, 사용자 투명성을 핵심 가치로 설계되었습니다. ## 기존 Ruby 솔루션의 성능 한계 - **내장 Coverage 모듈:** Ruby 3.1에서 추가된 resume/suspend 메서드를 통해 테스트별 커버리지를 측정할 수 있으나, `simplecov`와 같은 기존 도구와 충돌하며 약 300% 수준의 매우 높은 성능 오버헤드가 발생합니다. - **TracePoint API:** 코드 실행 시 이벤트를 구독하는 표준 API로 구현이 용이하고 호환성도 뛰어나지만, 순수 코드 실행 위주의 벤치마크(RuboCop 등)에서 200~400%의 오버헤드를 기록하여 실무 적용이 어렵습니다. - 이러한 기존 방식들은 대규모 테스트 수트를 빠르게 실행하려는 원래의 목적에 부합하지 않는 성능 결과(기존보다 3~4배 느려짐)를 보였습니다. ## C 확장을 이용한 저수준 인터프리터 이벤트 활용 - 성능 문제를 해결하기 위해 Ruby VM의 내부 동작을 분석하고, C 언어로 직접 커버리지 수집 도구를 개발했습니다. - Ruby 인터프리터 내부에서 사용하는 `rb_thread_add_event_hook` 함수를 활용해 `RUBY_EVENT_LINE` 이벤트를 직접 훅(hook)하는 방식을 취했습니다. - 테스트 시작(start)과 종료(stop) 시점에만 이벤트 훅을 등록 및 해제하며, 실행되는 파일의 경로가 프로젝트 루트 내에 있는지 C 수준에서 빠르게 필터링하여 해시 구조에 저장합니다. - 이 방식은 Ruby 레벨의 추상화 단계를 건너뛰고 VM 이벤트에 직접 접근함으로써, 데이터 수집의 정확성을 유지하면서도 실행 오버헤드를 획기적으로 낮추는 기반이 되었습니다. Ruby 기반의 대규모 프로젝트를 운영 중이라면 매번 전체 테스트를 실행하기보다, 변경 사항에 기반한 지능형 테스트 실행 방식을 도입하여 CI 비용과 시간을 최적화할 것을 권장합니다. 특히 성능에 민감한 환경에서는 표준 API에 의존하기보다 저수준 최적화가 포함된 전문적인 모니터링 도구를 활용하는 것이 효과적입니다.

Figma에서 AI 기반 검색을 (새 탭에서 열림)

피그마의 AI 검색 인프라는 수십억 개의 디자인 레이어를 실시간으로 처리하고 의미론적으로 검색할 수 있도록 구축되었습니다. 대규모 벡터 데이터베이스와 멀티모달 임베딩 모델을 결합하여 단순 텍스트 매칭을 넘어 시각적 유사성을 기반으로 한 검색 경험을 제공합니다. 이 시스템은 데이터 프라이버시를 엄격히 준수하면서도 디자인 파일의 빈번한 수정을 즉각적으로 검색 결과에 반영하는 고성능 데이터 파이프라인을 핵심으로 합니다. **멀티모달 임베딩을 통한 디자인의 수치화** * 디자인 파일 내의 레이어, 텍스트, 이미지를 고차원 벡터로 변환하기 위해 멀티모달 임베딩 모델(예: CLIP 변형 모델)을 사용합니다. * 단순한 시각적 특징뿐만 아니라 디자인의 구조적 맥락과 텍스트 정보를 함께 학습하여 "로그인 페이지", "네비게이션 바"와 같은 추상적인 검색어에도 정확한 결과를 반환합니다. * AWS SageMaker를 활용해 모델 추론을 확장 가능하게 관리하며, 다양한 해상도의 이미지 자산을 효율적으로 처리하기 위한 전처리 과정을 포함합니다. **실시간 변경 사항을 반영하는 증분 인덱싱 파이프라인** * 피그마 디자인은 수시로 수정되기 때문에, 전체 데이터를 다시 인덱싱하는 대신 변경된 부분만 업데이트하는 증분(Incremental) 업데이트 방식을 채택했습니다. * 사용자가 디자인을 수정하면 해당 이벤트가 Kafka를 통해 실시간 스트리밍되며, Flink와 같은 처리 엔진을 거쳐 즉시 벡터 데이터베이스에 반영됩니다. * 이 과정을 통해 수만 명의 사용자가 동시에 작업하는 환경에서도 검색 결과와 실제 디자인 사이의 시차를 최소화합니다. **벡터 데이터베이스와 하이브리드 검색 최적화** * 대규모 벡터 검색을 위해 Pinecone과 같은 전문 벡터 데이터베이스를 활용하여 밀집 벡터(Dense Vector) 검색을 수행합니다. * 단순히 유사도만 측정하는 것이 아니라, 파일 이름, 생성 날짜, 프로젝트 위치 등 구조화된 메타데이터를 함께 필터링하는 하이브리드 검색 방식을 사용합니다. * 검색 성능을 높이기 위해 사용자별, 팀별로 데이터를 논리적으로 분할하여 검색 범위를 최적화하고 응답 속도를 밀리초(ms) 단위로 유지합니다. **엄격한 권한 관리와 데이터 격리** * AI 검색 결과는 피그마의 복잡한 권한 체계(Permissions)를 완벽히 준수해야 하므로, 검색 요청 시 실시간으로 사용자의 접근 권한을 확인하는 레이어가 포함됩니다. * 인덱싱 단계에서부터 각 벡터에 조직 및 파일 식별자(ID)를 메타데이터로 부여하여, 사용자가 접근할 수 없는 디자인 데이터가 검색 결과에 노출되는 것을 원천 차단합니다. * 데이터 보안을 위해 테넌트(Tenant) 간 데이터 격리를 보장하며, 모델 학습과 추론 과정에서도 민감한 정보가 유출되지 않도록 설계되었습니다. 피그마와 같이 데이터 업데이트가 빈번하고 권한 체계가 복잡한 환경에서 AI 검색을 구현하려면, 단순히 성능 좋은 모델을 사용하는 것을 넘어 실시간 데이터 파이프라인과 메타데이터 필터링 시스템을 정교하게 결합하는 것이 필수적입니다. 효율적인 비용 관리와 낮은 지연 시간을 동시에 달성하고자 하는 팀에게 피그마의 증분 인덱싱 및 하이브리드 검색 아키텍처는 훌륭한 벤치마킹 사례가 될 것입니다.

Made in Figma: 국립공 (새 탭에서 열림)

이 글은 슈퍼볼 광고라는 거대한 마케팅 이벤트를 뒷받침하기 위해 고성능 랜딩 페이지를 구축한 기술적 여정을 다룹니다. 수백만 명의 동시 접속자가 발생하는 극한의 트래픽 상황에서도 중단 없는 서비스를 제공하기 위한 엔지니어링 최적화와 디자인 전략의 결합을 핵심적으로 설명합니다. 결론적으로, 철저한 사전 성능 테스트와 프레임워크 차원의 최적화가 브랜드의 신뢰도를 결정짓는 결정적 요소임을 강조합니다. **극한의 트래픽을 견디는 엔지니어링 아키텍처** * 수백만 명의 사용자가 동시에 웹사이트에 진입하는 상황에 대비하여 정적 사이트 생성(SSG) 방식을 채택, 서버 사이드 렌더링의 부하를 제거하고 응답 속도를 극대화했습니다. * 전 세계 어디서든 지연 없는 접속을 보장하기 위해 에지 컴퓨팅(Edge Computing) 기술과 글로벌 CDN 인프라를 활용하여 물리적 거리에 따른 병목 현상을 최소화했습니다. * 초기 로딩 시 필수적인 리소스만을 우선적으로 로드하고, 이미지 및 자바스크립트 에셋을 압축 및 최적화하여 1초 미만의 LCP(Largest Contentful Paint)를 달성했습니다. **브랜드 정체성과 퍼포먼스의 균형을 맞춘 디자인** * 마케팅의 핵심 메시지를 시각적으로 강렬하게 전달하면서도, 복잡한 애니메이션이 페이지 성능을 저해하지 않도록 코드로 구현된 최적화된 모션을 사용했습니다. * 다양한 기기 환경에서 일관된 경험을 제공하기 위해 반응형 레이아웃을 정교하게 설계하였으며, 사용자 인터랙션 시 즉각적인 피드백이 가능하도록 UI/UX를 구성했습니다. * 디자인 팀과 엔지니어링 팀이 프레임워크 내에서 실시간으로 협업하며, 디자인 수정 사항이 즉시 고성능 코드로 변환될 수 있는 효율적인 워크플로우를 구축했습니다. **실전 시뮬레이션을 통한 안정성 확보** * 슈퍼볼 광고 송출 시점의 예상 트래픽보다 높은 수치로 스트레스 테스트를 수행하여 시스템의 임계치를 확인하고, 발생 가능한 모든 장애 시나리오에 대비했습니다. * 자동 확장(Auto-scaling) 설정을 최적화하여 트래픽 급증 시 즉각적으로 컴퓨팅 자원을 늘릴 수 있는 유연한 인프라 구조를 확립했습니다. * 실시간 모니터링 도구를 배치하여 광고 방영 중 발생하는 미세한 오류나 성능 저하를 즉각적으로 감지하고 대응할 수 있는 관제 체계를 마련했습니다. 대규모 마케팅 캠페인을 준비하는 팀이라면 시각적 완성도만큼이나 인프라의 복원력과 프런트엔드 성능 최적화에 집중해야 합니다. 기술적 준비가 뒷받침되지 않은 마케팅은 오히려 브랜드 이미지에 타격을 줄 수 있으므로, 초기 기획 단계부터 엔지니어링과 마케팅 팀 간의 긴밀한 기술적 조율이 필수적입니다.

요점만 말하자면: (새 탭에서 열림)

Issue no.6: The prompt Working Well The Long & Short of It