온라인 플랫폼에 올라온 게시물과 댓글 등에서 일반적인 욕설뿐만 아니라 특수문자나 외국 문자를 사용한 변형 욕설까지 걸러내는 시스템이 개발됐다.

한국인터넷자율정책기구(KISO)는 19일 욕설과 비속어를 자동으로 탐지하고 대체어로 치환해 주는 ‘KISO 이용자보호시스템(KSS, KISO Safeguard System)’을 정식으로 공개했다. KSS는 이용자들이 작성한 게시물과 댓글 등을 분석해 욕설이나 비속어를 탐지하고 치환이 필요한 단어를 실시간으로 알려주는 응용프로그램 인터페이스(API) 서비스다.

KSS는 네이버와 카카오가 수집한 60만 건의 욕설 데이터베이스(DB)를 바탕으로 개발됐다. 네이버와 카카오는 사회적 책임(ESG) 활동의 일환으로 수년간 축적한 DB를 무상으로 공여했다.

KISO는 1차 통합 20만 건(욕설 기본형 3917개)를 수령했고 2차 통합으로 추가 50만 건을 수령하여 중복 제거 작업 등을 통해 현재 약 60만 건의 DB를 구축했다.

KSS는 데이터 분석을 통해 욕설 여부를 판단하며 DB에 포함된 변형 욕설도 탐지가 가능하도록 설계됐다. 60만 건의 DB에는 다양한 형태의 변형된 욕설과 비속어가 포함돼 ‘ㄱH새끼, GR하는, 등1신’ 등과 같이 특수문자나 숫자가 포함된 혼합 형태의 단어들도 치환할 수 있다.

또 다른 장점은 DB를 최신의 상태로 업데이트해 신종 욕설과 비속어에도 대응할 수 있다는 것이다.

2022년 12월부터 약 6개월간 진행된 베타테스트에서 KSS는 약 1080만 건의 게시글을 분석해 16만 건의 욕설·비속어를 걸러냈다. 해당 베타테스트에는 공공기관을 비롯해 인공지능(AI), 온라인 커뮤니티, 패션, 부동산, 금융 등 다양한 온라인 플랫폼 운영 업체 47곳이 참여했다.

베타테스트 참여사 관계자는 “KSS 도입 후 댓글과 게시판 등에서 욕설·비속어에 거부감을 느끼는 이용자들의 거부감이 줄어들고 신규 유입 이용자의 만족도가 높아지는 등 긍정적인 효과가 있었다.”라고 설명했다.

기존에도 욕설을 필터링해 주는 시스템은 있었지만 중소 규모 인터넷 사업자는 자체적으로 DB를 만들고 유지·관리하는 데 많은 비용이 들어 어려움을 겪었다. KISO는 독자적인 필터링 개발 여력이 없는 기업과 공공기관 등에 KSS를 무상으로 배포할 방침이다.

무상 배포 대상이 아닌 경우에도 직접 유사 서비스를 개발하고 유지하는 것과 비교할 수 없을 정도로 저렴하게 이 서비스를 누릴 수 있다.

KSS는 올해 가장 인간 친화적인 기술로 인정받아 제8회 휴먼테크놀로지어워드2023(HTA)에서 최고의 상인 대상에 선정됐다.

이재신 KISO 자율규제DB위원회 위원장은 “KSS는 누구나 쉽게 접근하고 활용할 수 있도록 개발됐다.”라면서 “이용자의 권리가 보호되는 건강한 커뮤니케이션 환경을 조성하기 위해 더욱 노력할 것”이라고 전했다.

KSS에 대한 자세한 내용은 KSS 홈페이지(www.safekiso.com)에서 확인할 수 있다.