ROOST가 온라인 안전을 발전시키는 방법 (새 탭에서 열림)
Discord는 온라인 안전 도구를 기업 내부의 비공개 자산으로 두기보다, ROOST를 통해 공개·공유·감사 가능한 오픈소스로 발전시키고 있다. 그 대표 사례인 Osprey는 실시간 이벤트 처리와 행동 분석을 수행하는 규칙 엔진으로, Discord의 프로덕션 환경에서 검증된 뒤 커뮤니티의 개선을 거쳐 다시 Discord에 반영됐다. ROOST는 이러한 도구를 여러 플랫폼이 함께 사용하고 발전시키는 생태계를 만들어 온라인 위협 대응의 기본 수준과 혁신 속도를 높이려 한다. ## 생성형 AI로 복잡해진 온라인 위협 - 공격자들은 생성형 AI를 활용해 정교한 피싱 캠페인, 설득력 있는 딥페이크, 대규모 협력형 공격을 더 빠르게 만들고 있다. - 기존의 신뢰·안전 대응 방식만으로는 위협의 규모와 변화 속도를 따라가기 어렵다. - 플랫폼마다 안전 도구를 처음부터 개발하면 대응 수준이 크게 달라지고, 특히 소규모 플랫폼은 충분한 보호 기능을 갖추기 어렵다. - ROOST는 이미 검증된 안전 기술을 공유해 플랫폼 간 격차를 줄이는 것을 목표로 한다. ## Osprey의 실시간 규칙 엔진 - Osprey는 로그인 시도, 콘텐츠 게시, 계정 생성 등 플랫폼에서 발생하는 모든 이벤트를 입력으로 받을 수 있다. - 플랫폼별로 필요한 사용자 지정 이벤트도 처리할 수 있으며, 규칙을 통해 이상 행동과 잠재적 위협을 실시간으로 분석한다. - 안전·보안 팀은 간단한 규칙 언어로 탐지 로직을 작성할 수 있다. - 새로운 규칙을 배포할 때 별도의 엔지니어링 작업에 의존하지 않아도 되며, 판단 결과가 안전·의심·악성으로 투명하게 제공된다. - Discord에서는 수천 개의 규칙을 수백 가지 이벤트 유형에 적용하고 있다. - 조사 플랫폼에서 발견한 이상 징후를 새로운 규칙으로 연결하는 순환 구조를 갖는다. - 탐지 결과가 규칙 개선으로 이어짐 - 규칙이 실제 집행으로 연결됨 - 집행 과정에서 새로운 위협 신호가 축적됨 ## 프로덕션 검증을 거친 오픈소스 - Osprey 공개를 위해 Discord 내부 시스템과의 결합을 분리하는 데 수개월의 엔지니어링 작업이 진행됐다. - 공개 버전은 기능을 축소한 별도 제품이 아니라 Discord의 실제 프로덕션 엔진에서 출발했다. - ROOST 커뮤니티가 기능을 발전시켰고, 개선된 버전은 다시 Discord의 시스템에 통합됐다. - 따라서 Discord가 운영 환경에서 사용하는 엔진과 외부 기업이 배포할 수 있는 엔진이 동일하다는 점이 강조된다. ## 기존 업계 협력 모델의 확장 - 온라인 안전 분야에는 이미 여러 조직이 공동으로 기술과 신호를 공유해 온 사례가 있다. - 아동 착취 이미지 대응을 위한 이미지 해시 기술 공유 - Tech Coalition의 Lantern 프로그램 - 테러 및 대규모 폭력 사건 대응을 위한 GIFCT의 플랫폼 간 협력 - Digital Trust & Safety Partnership이 주도한 ISO 표준화 - ROOST는 이러한 협력 전통을 오픈소스 개발 재단의 방식과 결합한다. - Linux Foundation, Apache Foundation, Python Foundation처럼 도구를 관리하는 데 그치지 않고 새로운 도구를 직접 만들고 유지보수한다. - Osprey와 종합 검토 도구인 Coop 등을 누구나 사용·기여할 수 있게 해 공공의 이익을 위한 개발자 커뮤니티를 구축하려 한다. ## 여러 플랫폼이 함께 만드는 안전 생태계 - 단일 도구나 단일 기업만으로는 온라인 안전 문제를 해결할 수 없다. - 오픈소스 안전 도구는 플랫폼들이 갖춰야 할 최소한의 보호 수준을 높이고, 새로운 방어 기술의 개발을 가속한다. - 소규모 플랫폼이 기본적인 보호 기능을 도입하면 위협이 특정 서비스에 집중되는 것을 줄일 수 있다. - 대형 플랫폼들이 방어 기술을 공개적으로 공동 개선하면 전체 인터넷 생태계가 혜택을 받는다. - ROOST는 도구 자체뿐 아니라 이를 배포·운영·관리해 주는 상용 서비스 생태계도 함께 성장할 것으로 기대한다. - Musubi는 Coop 기반 관리형 서비스를 제공 - Zentropi는 자체 라벨러 엔진을 Coop에 통합 ## 공개 개발과 실제 도입 성과 - ROOST는 2026년 FOSDEM에서 Osprey v1을 공개했다. - 여러 조직과 프로토콜의 엔지니어들이 함께 참여해 플랫폼 안전 문제와 대응 방법을 논의하는 계기가 됐다. - Bluesky를 비롯한 플랫폼들이 이미 ROOST 도구를 사용하고 있으며, 실제 운영 개선 사례도 공개되고 있다. - 글에서는 여러 플랫폼에 걸쳐 3억 6천만 명 이상의 사용자가 오픈소스 안전 도구의 혜택을 받는 생태계에 포함됐다고 설명한다. - Osprey 기여자와 도입 기관들은 2주마다 공개 작업 그룹 회의를 열어 기능을 논의하고 개발 계획을 조율한다. 오픈소스 안전 도구를 도입하려는 플랫폼은 Osprey 같은 실시간 규칙 엔진으로 탐지·집행 체계를 먼저 구축하고, 공개 작업 그룹과 다른 도입 기관의 사례를 활용하는 것이 효과적이다. 다만 도구만 설치하는 것보다 자체 위협 모델, 운영 인력, 규칙 검토 절차를 함께 마련해야 지속적인 안전 성과를 얻을 수 있다.