AI 윤리 기준 도입 시급…국내 AI 챗봇 기업 심심이 자체 필터링 기술 론칭
AI 윤리 기준 도입 시급…국내 AI 챗봇 기업 심심이 자체 필터링 기술 론칭
2021.02.25 15:06 by 최태욱

인공지능(AI) 챗봇 등 일반 소비자를 대상으로 한 AI 상품 및 서비스 공급이 늘고 있는 가운데 AI 윤리 기준을 서둘러 도입해야 한다는 목소리가 높아지고 있다. 특히 글로벌 대기업을 중심으로 AI 윤리 기준 만들기 사례가 늘어남에 따라 정보통신기술 업계 내에서 관심이 높아지고 있다.

글로벌 기업들은 AI 윤리 기준을 일찌감치 공표하며 이를 적극 실천하고 있다. 구글은 7가지 AI 윤리 원칙을 내세우며 이를 강조하고 있는데 ▲사회적 유익성 ▲불공평한 바이어스 방지 ▲안전성 확보를 염두에 둔 개발 및 실험 ▲설명 책임 ▲프라이버시 원칙 적용 ▲과학적 탁월성의 탐구 ▲기본 이념에 따른 기술 제공 등이 그것이다. IBM 역시 AI 접근법 및 원칙을 자사 홈페이지에 공개하며 세간의 주목을 받았고, 마이크로소프트(MS)도 최근 AI 기본 원칙을 세우고 AI 윤리위원회를 발족했다.

이러한 일련의 자발적인 노력은 과거 AI 윤리 부재에 따른 논란이 반면교사로 작용했다. MS는 2016년 AI 챗봇 '테이(Tay)’를 론칭했으나 유저들이 인종차별, 성희롱 발언을 학습시키는 바람에 혐오 발언을 쏟아내 운영 중단이라는 강수를 뒀다. 아마존은 AI 면접 시스템을 구축했으나 여성 및 인종차별 등의 문제가 불거지면서 개발 중단이라는 비참한 성적표를 받아들인 바 있다.

 

인공지능(AI) 챗봇 기업 '심심이’가 론칭한 필터링 솔루션 ‘DBSC’(사진: 심심이)
인공지능(AI) 챗봇 기업 '심심이’가 론칭한 필터링 솔루션 ‘DBSC’(사진: 심심이)

국내에서도 AI 윤리 기준에 부합하기 위한 시스템 개발 및 도입이 적극 이뤄지고 있다. 인공지능(AI) 챗봇 기업 ‘심심이’가 정부 AI 윤리 기준에 부합하는 자체 시스템을 론칭한게 대표적이다. 악성 글, 악플 탐지가 가능한 필터링 솔루션 ‘DBSC(Deep Bad Sentence Classifier)’가 바로 그 것. 심심이의 DBSC는 자체 연구개발 노하우로 탄생한 문장 분류 솔루션으로 악플을 99% 이상 실시간 탐지 가능한 것이 특징이다. DBSC는 신조어, 은유적 표현 등을 과도하게 필터링하지 않고 금지 키워드를 피해 문장을 교묘하게 변형한 악플, 은유적인 악성 표현들을 포착하는 특화된 차단 성능을 발휘한다. 실제로 심심이는 DBSC의 딥러닝 모델 정확도가 99% 이상으로 집계된다고 발표하며 눈길을 끌었다. 심심이 측은 머신러닝의 성능 지표인 F1점수 또한 0.99 이상으로 나타나 높은 정밀도 및 재현율을 자랑한다고 설명했다. 

심심이 최정회 대표는 “최근 업데이트한 버전의 경우 한국어 채팅에 많이 쓰이는 문장을 210만 개 확보하여 학습데이터로 활용했는데 각 문장마다 10명의 무작위 패널 투표를 받는 방식으로 고순도의 라벨링을 진행했다”면서 “심심이의 DBSC는 키워드 필터링, 인간의 전수검사 두 가지 방식의 장점을 모두 적용한 솔루션으로 딥러닝 모델이 인간의 전수조사 결과물을 유연하고 즉각 다국어에 대응하는 것이 포인트”라고 설명했다. 

 

필자소개
최태욱

눈이 보면, 마음이 동하고, 몸이 움직이는 액션 저널리즘을 꿈꿉니다.


Startup 더보기
  • 팀윙크가 만든 대출비교 플랫폼 ‘알다’, 대출 누적 승인 금액 20배 성장
    팀윙크가 만든 대출비교 플랫폼 ‘알다’, 대출 누적 승인 금액 20배 성장

    누적 대출 조회는 150만건, 누적 대출 승인 금액은 10조원 돌파!

  • 아산나눔재단, 스타트업 위한 팝업스토어 ‘플립로비 시즌3’ 오픈
    아산나눔재단, 스타트업 위한 팝업스토어 ‘플립로비 시즌3’ 오픈

    스타트업은 제품 홍보, 대중들은 상품 경험!

  • 훈민정음 반포 575주년…탈잉, ‘한글을 선택한 스타트업’ 웨비나 연다
    훈민정음 반포 575주년…탈잉, ‘한글을 선택한 스타트업’ 웨비나 연다

    10월 9일 오후 6시 온라인 개최!

  • 스타트업 데이터 한눈에…마크앤컴퍼니, ‘혁신의숲’ 정식버전 출시
    스타트업 데이터 한눈에…마크앤컴퍼니, ‘혁신의숲’ 정식버전 출시

    궁금한 스타트업이 있다면 바로 이곳에서!

  • 루틴-맘마레시피, 네이버 쇼핑라이브 데뷔서 푸드 카테고리 1위
    루틴-맘마레시피, 네이버 쇼핑라이브 데뷔서 푸드 카테고리 1위

    아이 중심의 육아 시장을 엄마 중심으로!

  • 콘텐츠 제작공간 중개플랫폼 ‘아워플레이스’, 20억 규모 시리즈A 투자 유치
    콘텐츠 제작공간 중개플랫폼 ‘아워플레이스’, 20억 규모 시리즈A 투자 유치

    “콘텐츠 시장의 에어비앤비”

  • 원격진료 솔닥 “탈모 진료환자 10명 중 7명은 2030세대”
    원격진료 솔닥 “탈모 진료환자 10명 중 7명은 2030세대”

    2030 탈모인들이 비대면 진료를 선호하는 이유는?

  • 소셜 대화 플랫폼 ‘커넥팅’ 운영사 ‘와이피랩스’, 100억원 규모 시리즈B 투자 유치
    소셜 대화 플랫폼 ‘커넥팅’ 운영사 ‘와이피랩스’, 100억원 규모 시리즈B 투자 유치

    전년 대비 20배 이상의 성장세!