chatbot

2 개의 포스트

도메인에 의존하지 않는 채팅 플랫폼은 어떻게 만들었을까? (새 탭에서 열림)

MessagingHub는 서비스마다 개별적으로 구축해야 했던 채팅 기능을 통합하여 플랫폼화함으로써 개발 비용을 절감하고 시스템 복잡도를 낮춘 메시징 플랫폼입니다. 특정 도메인에 의존하지 않는 독립성과 범용성을 바탕으로 챗봇, 상담 채팅, 1:1 대화 등 다양한 요구사항을 레고처럼 조합할 수 있는 구조로 설계되었습니다. 결과적으로 연동 서비스는 비즈니스 로직에만 집중하고, 채팅의 핵심 기능과 연결 관리는 플랫폼이 전담하여 효율적인 서비스 운영이 가능해졌습니다. ### 도메인 독립적인 인증 및 사용자 식별 * **연동 측 책임 중심의 인증:** MessagingHub는 직접 사용자를 관리하지 않고, 연동 시스템이 인증을 마친 후 요청한 연결 토큰(connection token)을 검증하여 웹소켓 연결을 허용합니다. * **유연한 사용자 식별:** 도메인 정보와 연동 측 식별자를 조합한 ‘client ID’를 사용해 여러 서비스의 사용자를 구분하며, 닉네임이나 프로필 같은 부가 정보는 연동 측에서 실시간으로 갱신하도록 설계되었습니다. * **서비스 컨텍스트 기반 제어:** '누가 누구와 대화하는지(Driver2CS 등)'를 정의하는 서비스 컨텍스트와 채팅방 유형(1:1, 그룹, 챗봇 등)의 조합을 통해 세밀한 접근 권한과 메시지 허용 정책을 관리합니다. ### 관심사 분리를 통한 모듈형 아키텍처 * **컴포넌트 기반 구조:** 연결 관리(connection-manager), 비즈니스 로직(chat-app), 메시지 중계(message-router), 알림(notification-app) 등 각 기능을 독립적인 컴포넌트로 분리하여 R&R을 명확히 했습니다. * **커맨드(Command) 패턴 활용:** 채팅의 모든 동작을 커맨드 단위로 정의하여 챗봇이나 상담 채팅 등 서비스 성격에 맞게 기능을 유연하게 조합하고 확장할 수 있습니다. * **이벤트 기반 연동:** 각 컴포넌트는 이벤트 기반으로 느슨하게 결합되어 있어, 특정 기능의 변경이 전체 시스템에 미치는 영향을 최소화했습니다. ### 효율적인 데이터 관리와 메시지 순서 보장 * **메시지 체이닝 및 상태 관리:** `prev_chat_log_id`를 사용하여 메시지 간 순서를 보장하며, 읽음 위치(`last_seen_chat_log_id`)와 전체 메시지 범위를 비교하여 정확한 안 읽은 메시지 수를 산출합니다. * **JSON 컬럼을 통한 확장성:** 연동 측에서 필요로 하는 도메인 특화 데이터(검색용 데이터, 사용자 상세 정보 등)를 MessagingHub가 해석하지 않고 JSON 형태로 그대로 보관 및 전달함으로써 범용성을 확보했습니다. * **보안 및 자동 삭제:** 모든 메시지는 암호화하여 저장되며, 참여자 이탈에 따른 즉시 삭제나 설정된 보관 기간에 따른 자동 삭제 정책을 지원합니다. ### 챗봇 시나리오의 안정적인 배포와 SOFT STOP 정책 * **계층적 시나리오 구조:** 관리자 도구를 통해 시나리오를 편집하고 배포할 수 있으며, 답변과 선택지 및 외부 연동을 위한 웹훅 기능을 지원합니다. * **SOFT STOP 상태 도입:** 새로운 시나리오 배포 시, 기존 대화 중인 사용자는 이전 버전을 유지하고 신규 사용자에게만 새 버전을 노출하는 'SOFT STOP' 단계를 두어 사용자 경험의 단절을 방지합니다. * **지능형 스케줄링:** 스케줄러가 이전 버전 시나리오의 잔여 연결 정보를 주기적으로 체크하여, 더 이상 사용하는 사용자가 없을 때 자동으로 해당 버전을 종료 처리합니다. ### 상담 효율을 높이는 문의형 채팅 최적화 * **상담 컨텍스트 제공:** 상담원이 사용자 정보를 별도로 조회할 필요가 없도록, 채팅방 생성 시 연동 측으로부터 전달받은 검색 데이터, 추적 데이터 등 풍부한 메타데이터를 상담 화면에 함께 제공합니다. * **생명 주기 관리:** 상담 대기(PENDING)부터 종료(DISABLE) 및 재진입 방지(BLOCK)까지 이어지는 상담 전용 상태 관리를 통해 상담 프로세스의 일관성을 유지합니다. MessagingHub와 같은 채팅 플랫폼 도입은 서비스 확장 속도가 빠르고 다양한 소통 창구가 필요한 환경에서 특히 유용합니다. 채팅 기능을 직접 구현하기보다는, 인증과 데이터 처리는 전문 플랫폼에 맡기고 도메인 특화 데이터(Metadata)를 적극 활용하는 방향으로 설계한다면 시스템의 유연성과 운영 효율을 동시에 확보할 수 있을 것입니다.

실제 임상 연구에서의 대화형 진단 AI 실현 가능성 탐색 (새 탭에서 열림)

구글 리서치와 구글 딥마인드는 대화형 의료 AI인 'AMIE(Articulate Medical Intelligence Explorer)'를 실제 임상 환경에 적용한 첫 번째 타당성 조사 결과를 발표했습니다. 하버드 의대 부속 병원(BIDMC)과의 협력을 통해 진행된 이번 연구는 AMIE가 환자의 내원 전 병력 청취를 안전하게 수행하고 전문의 수준의 진단 추론 능력을 보여줄 수 있음을 입증했습니다. 이는 시뮬레이션을 넘어 실제 의료 현장에 AI를 통합할 수 있다는 가능성을 보여준 중요한 이정표로 평가됩니다. ### 실제 임상 워크플로우에서의 AMIE 검증 * **연구 설계:** 비응급 질환으로 1차 진료를 예약한 100명의 성인 환자를 대상으로 진행된 전향적, 단일 기관 타당성 조사입니다. * **상호작용 방식:** 환자는 실제 진료 전 보안 웹링크를 통해 AMIE와 텍스트로 대화하며 증상을 설명했습니다. * **안전 감독 시스템:** 'AI 감독관'으로 명명된 의사가 실시간 화상 공유를 통해 대화 내용을 모니터링하며, 사전에 정의된 안전 기준(자해 위험, 정서적 고통 등) 발생 시 즉시 개입할 수 있도록 배치되었습니다. * **의료진 지원:** 대화가 종료되면 AMIE는 전체 대화 녹취록과 요약본을 생성하여 담당 의사가 실제 진료를 시작하기 전에 환자의 상태를 종합적으로 파악할 수 있도록 도왔습니다. ### 안전성 및 환자 경험 결과 * **제로 세이프티 스톱:** 연구 기간 동안 AI 감독관이 개입하여 대화를 중단해야 했던 '안전 정지' 사례는 단 한 건도 발생하지 않아 대화형 안전성을 확인했습니다. * **환자 신뢰도 향상:** AMIE와 상호작용한 후 AI에 대한 환자들의 신뢰도가 상승했으며, 다양한 연령과 인종, 기술 문해력을 가진 그룹에서 전반적으로 긍정적인 평가를 받았습니다. * **현실적 수용성:** 환자들은 AI와의 대화가 쉽고 유용하다고 느꼈으며, 이는 AI가 실제 진료 보조 도구로서 충분히 기능할 수 있음을 시사합니다. ### 임상적 추론 및 진단 역량 비교 * **진단 정확도(DDx):** 숙련된 전문의 평가단이 블라인드 테스트를 진행한 결과, AMIE의 차등 진단(Differential Diagnosis) 품질은 실제 1차 진료 의사(PCP)와 대등한 수준으로 나타났습니다. * **관리 계획(Mx Plan):** 전반적인 치료 및 관리 계획의 품질과 안전성 측면에서도 AMIE는 의사와 비슷한 평가를 받았습니다. * **한계와 차이점:** 다만, 관리 계획의 '실용성'과 '비용 효율성' 측면에서는 실제 임상 환경의 제약 조건을 더 잘 이해하고 있는 의사들이 AI보다 더 높은 점수를 받았습니다. 이번 연구는 대화형 AI가 의료진의 업무 부담을 줄이고 환자 정보를 효율적으로 수집하는 조력자가 될 수 있음을 보여줍니다. 향후 AI가 실제 의료 현장에 안착하기 위해서는 진단 논리뿐만 아니라 의료 경제적 실용성까지 고려한 모델 고도화가 필요할 것으로 보입니다.