“게시글 ‘맥락’까지 본다” 토스증권, 커뮤니티 AI 검수 도입

[마이데일리 = 최주연 기자] 토스증권이 자사 앱과 웹트레이딩시스템(WTS) 내 커뮤니티에 인공지능(AI) 기반 게시글 검수 체계를 도입했다. 기존 금지어 중심의 필터링에서 벗어나 게시글의 내용과 맥락을 분석하는 방식으로 커뮤니티 관리 체계를 고도화했다.

토스증권은 4일 AI 기반 게시글 검수 모델을 적용했다고 밝혔다. 이번 개선은 커뮤니티 내 욕설과 비방, 불법 리딩방 홍보 등 부적절한 콘텐츠를 보다 정확하게 걸러내기 위해 마련됐다.

해당 모델은 게시글 제목과 본문, 이미지를 자동으로 분석한다. 검수 결과에 따라 위반 정도를 판단하고 게시글 추천 제외나 숨김 등의 조치를 적용한다.

게시글 작성 방식도 바뀐다. 기존에는 금지어가 포함된 경우 글 작성 자체가 제한됐지만, 앞으로는 해당 표현만 마스킹 처리해 게시할 수 있다. 금지어를 일괄 차단하는 방식에서 벗어나 위반 표현을 선별적으로 관리하는 것이다.

커뮤니티 운영 기준도 정비했다. 토스증권은 욕설 및 유해 콘텐츠, 혐오·차별 표현, 홍보·광고, 시장질서 교란 행위 등을 제한 대상과 제재 기준으로 명시한 ‘커뮤니티 서비스 콘텐츠 가이드라인’을 신설했다.

게시글 숨김 조치에 대한 이용자 안내와 이의제기 절차도 마련했다. 숨김 조치 시 제재 여부를 안내하고, 고객센터를 통해 이의를 제기할 수 있도록 했다.

토스증권 관계자는 “이번 개선은 투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 것을 줄이고 보다 신뢰할 수 있는 환경에서 소통할 수 있도록 하는 데 초점을 맞췄다”고 말했다.