AI에게 투자정보를 말하게 하기까지 (새 탭에서 열림)

LLM을 활용한 금융 투자 정보 서비스의 핵심은 문장을 잘 생성하는 데 있지 않고, 생성 전후의 근거 선별·검증·관찰 체계를 설계하는 데 있습니다. 토스증권은 이를 위해 세 가지 관문을 제시합니다. 즉, 말할 정보를 고르고, 생성 과정을 통제하며, 결과를 평가 가능한 구조로 만드는 것입니다.

금융 투자 정보가 일반 요약보다 어려운 이유

• 적시성: 시장 상황은 빠르게 변하므로 늦은 설명은 부정확한 정보가 될 수 있습니다.
• 정확성: 기사에 기업명이 등장했다는 사실만으로 해당 기업의 주가 변동을 설명할 수 없습니다.
  • 자회사 관련 내용인지
  • 유사한 이름의 다른 기업인지
  • 단순 홍보성 기사인지 구분해야 합니다.
• 검증 가능성: 모든 설명에 근거를 남기고, 결과를 평가하며, 오류 발생 시 재현할 수 있어야 합니다.
• 비정상성: 실적 시즌, 금리 이벤트, 선거, 지정학적 이슈 등에 따라 데이터 분포와 시장 반응이 달라집니다.

LLM과 에이전트의 불확실성

• LLM은 비정형 텍스트를 자연어로 재구성하는 데 강하지만, 근거가 부족하면 유창한 오답을 생성할 수 있습니다.
• 에이전트 구조에서는 다음과 같은 오류가 여러 단계로 전파될 수 있습니다.
  • 검색 단계에서 잘못된 근거 선택
  • 툴 호출 결과의 오해
  • 이전 단계의 잘못된 상태를 다음 판단에 사용
• 따라서 투자 정보 서비스에서는 에이전트의 자율성을 무조건 확대하기보다, 필요한 부분은 제한하고 생성 전후의 통제를 강화해야 합니다.

첫 번째 관문: 말할 정보 고르기

입수 단계에서 메타데이터 구축

• 뉴스·공시·재무 데이터를 수집할 때 BERT 기반 분류 모델로 미리 분류합니다.
• 데이터에는 다음과 같은 정보를 함께 저장합니다.
  • 산업·시장·콘텐츠 유형 등의 taxonomy_tags
  • 관련 기업인 related_entities
  • 벡터 검색을 위한 embedding
• 검색 시점에 매번 분류하는 대신, 데이터가 들어올 때부터 검색과 검증에 필요한 구조를 갖춥니다.

후보를 넓게 검색한 뒤 단계적으로 축소

• 하이브리드 리트리버로 후보를 넓게 확보해 재현율을 우선합니다.
• 이후 다음 절차로 부적절한 정보를 제거합니다.
  • 중복 제거: 의미 유사도 기반으로 같은 이벤트를 클러스터링하고 대표 출처만 남깁니다.
  • 리랭킹·필터링: 기업 주가 움직임과의 직접적 관련성을 기준으로 순위를 조정합니다.
  • 설명 유형 분류: 실적, 가이던스, 기업 행동 등 주요 설명 패턴을 분류합니다.
  • 실패 사유 분류: 광고성, 홍보성, 근거 부족 등의 라벨을 붙여 필터링합니다.
• 최종 근거는 다음 순서로 배치합니다.
  • 무슨 일이 있었는가
  • 대상 기업과 어떻게 연결되는가
  • 주가 방향과 근거의 방향성이 일치하는가
  • 근거가 충분하고 최신인가

이 과정은 LLM에 전달할 정보를 압축하고, 비즈니스 요구에 맞게 배치하는 컨텍스트 엔지니어링입니다.

두 번째 관문: 생성 과정 통제하기

절차형 태스크 그래프

• 검색, 관련성 판단, 중복 제거, 근거 구성, 응답 생성 등을 독립된 단계로 나눕니다.
• 각 단계의 입력·출력 스키마를 명확히 정의하면 다음 효과가 있습니다.
  • 단계별 디버깅과 평가 가능
  • 비용과 레이턴시 예측
  • 실패 지점 추적
  • 단계별 폴백 설계

자율형 에이전트와 절차형 오케스트레이션의 구분

• 탐색 과정 자체가 중요한 업무에는 자율형 에이전트가 적합합니다.
  • 투자 아이디어 발굴
  • 시장 이벤트의 잠재 시나리오 탐색
• 응답 형식과 판단 절차가 명확한 업무에는 절차형 그래프가 유리합니다.
  • 특정 기업의 주가 등락 원인 설명
  • 정해진 근거 검증과 방향성 판단
• 긴 ReAct 루프는 툴 호출, 토큰, 레이턴시와 실행 경로를 늘리므로 제품 요건이 명확할 때는 과도할 수 있습니다.
• 이 경우 LLM은 검색과 판단을 모두 자율적으로 수행하기보다, 요약·재작성·근거 기반 설명에 집중시키는 편이 안정적입니다.

절차형 그래프의 재사용성

• 절차형 그래프는 단순한 운영 안정화 수단을 넘어 다른 에이전트가 호출할 수 있는 기능 인터페이스가 됩니다.
• 예를 들어 다음과 같은 입력과 출력의 도구로 제공할 수 있습니다.
  • 입력: 종목, 주가 방향, 시간 범위
  • 처리: 검색 → 관련성·방향성 판단 → 중복 제거 → 근거 정렬 → 설명 생성
  • 출력: 설명, 근거 목록, 추론 유형 등
• 이렇게 구성하면 상위 에이전트가 복잡한 절차를 직접 계획하지 않고 검증된 기능을 재사용할 수 있습니다.

세 번째 관문: 평가 가능한 결과 만들기

범주형 루브릭과 구조화된 출력

• 자연어 답변만 생성하지 않고, 답변과 함께 이벤트 유형·실패 사유 등의 분류값도 생성합니다.
• 이를 통해 다음 지표를 측정할 수 있습니다.
  • 관련성 오탐 감소 여부
  • 주가 방향성과 근거 방향성의 불일치 비율
  • 부적절한 이슈의 통과율
  • 정밀도, 재현율, F1-score
• 시장 국면이 바뀌면 새로운 실패 유형과 이벤트 유형을 추가할 수 있도록 분류 체계를 유연하게 운영해야 합니다.
• 운영 중 발견된 문제, 평가 데이터셋, 프롬프트 버전, 모델 버전을 연결해야 개선 효과를 재현하고 수치로 확인할 수 있습니다.

맥락 기반 Few-shot Retrieval

• 고정된 Few-shot 예시는 다양한 금융 이벤트와 시장 국면을 충분히 대표하지 못합니다.
• 대신 운영 샘플에 다음 정보를 저장합니다.
  • 원문
  • 판단 결과
  • 실패 유형
  • 유사도 검색용 임베딩
• 새로운 판단 요청이 들어오면 유사한 과거 사례를 검색해 포지티브·네거티브 예시를 함께 프롬프트에 넣습니다.
• 성공 사례와 실패 사례를 동시에 제공하면 모델이 판단의 경계와 오류 패턴을 더 잘 파악할 수 있습니다.
• 실제 관련성 검증 태스크에서 재현율을 유지하면서 정확도와 정밀도가 개선되었으며, 특히 False Positive 감소에 효과적이었습니다.

프롬프트와 모델 학습을 넘어 필요한 것

• 금융 AI 서비스 품질은 프롬프트와 모델만으로 결정되지 않습니다.
• 운영을 위해 다음 요소가 함께 필요합니다.
  • 적절한 임베딩 모델과 리트리빙 전략
  • 별도 분류 모델을 활용한 데이터 구조화
  • 근거 검증과 실패 유형 관리
  • 단계별 추적 및 평가
  • 시장 국면 변화에 따른 평가셋·프롬프트 업데이트

투자 정보 서비스에서는 LLM의 자율성을 최대화하기보다, 근거를 선별하고 검증하는 절차를 명확히 설계하는 것이 중요합니다. 검색·분류·검증은 통제 가능한 그래프로 구성하고, LLM은 구조화된 근거를 바탕으로 설명을 생성하도록 제한하는 방식이 안정성과 확장성을 함께 확보하는 현실적인 접근입니다.