AI 윤리 기준 도입 시급…국내 AI 챗봇 기업 심심이 자체 필터링 기술 론칭
AI 윤리 기준 도입 시급…국내 AI 챗봇 기업 심심이 자체 필터링 기술 론칭
2021.02.25 15:06 by 최태욱

인공지능(AI) 챗봇 등 일반 소비자를 대상으로 한 AI 상품 및 서비스 공급이 늘고 있는 가운데 AI 윤리 기준을 서둘러 도입해야 한다는 목소리가 높아지고 있다. 특히 글로벌 대기업을 중심으로 AI 윤리 기준 만들기 사례가 늘어남에 따라 정보통신기술 업계 내에서 관심이 높아지고 있다.

글로벌 기업들은 AI 윤리 기준을 일찌감치 공표하며 이를 적극 실천하고 있다. 구글은 7가지 AI 윤리 원칙을 내세우며 이를 강조하고 있는데 ▲사회적 유익성 ▲불공평한 바이어스 방지 ▲안전성 확보를 염두에 둔 개발 및 실험 ▲설명 책임 ▲프라이버시 원칙 적용 ▲과학적 탁월성의 탐구 ▲기본 이념에 따른 기술 제공 등이 그것이다. IBM 역시 AI 접근법 및 원칙을 자사 홈페이지에 공개하며 세간의 주목을 받았고, 마이크로소프트(MS)도 최근 AI 기본 원칙을 세우고 AI 윤리위원회를 발족했다.

이러한 일련의 자발적인 노력은 과거 AI 윤리 부재에 따른 논란이 반면교사로 작용했다. MS는 2016년 AI 챗봇 '테이(Tay)’를 론칭했으나 유저들이 인종차별, 성희롱 발언을 학습시키는 바람에 혐오 발언을 쏟아내 운영 중단이라는 강수를 뒀다. 아마존은 AI 면접 시스템을 구축했으나 여성 및 인종차별 등의 문제가 불거지면서 개발 중단이라는 비참한 성적표를 받아들인 바 있다.

 

인공지능(AI) 챗봇 기업 '심심이’가 론칭한 필터링 솔루션 ‘DBSC’(사진: 심심이)
인공지능(AI) 챗봇 기업 '심심이’가 론칭한 필터링 솔루션 ‘DBSC’(사진: 심심이)

국내에서도 AI 윤리 기준에 부합하기 위한 시스템 개발 및 도입이 적극 이뤄지고 있다. 인공지능(AI) 챗봇 기업 ‘심심이’가 정부 AI 윤리 기준에 부합하는 자체 시스템을 론칭한게 대표적이다. 악성 글, 악플 탐지가 가능한 필터링 솔루션 ‘DBSC(Deep Bad Sentence Classifier)’가 바로 그 것. 심심이의 DBSC는 자체 연구개발 노하우로 탄생한 문장 분류 솔루션으로 악플을 99% 이상 실시간 탐지 가능한 것이 특징이다. DBSC는 신조어, 은유적 표현 등을 과도하게 필터링하지 않고 금지 키워드를 피해 문장을 교묘하게 변형한 악플, 은유적인 악성 표현들을 포착하는 특화된 차단 성능을 발휘한다. 실제로 심심이는 DBSC의 딥러닝 모델 정확도가 99% 이상으로 집계된다고 발표하며 눈길을 끌었다. 심심이 측은 머신러닝의 성능 지표인 F1점수 또한 0.99 이상으로 나타나 높은 정밀도 및 재현율을 자랑한다고 설명했다. 

심심이 최정회 대표는 “최근 업데이트한 버전의 경우 한국어 채팅에 많이 쓰이는 문장을 210만 개 확보하여 학습데이터로 활용했는데 각 문장마다 10명의 무작위 패널 투표를 받는 방식으로 고순도의 라벨링을 진행했다”면서 “심심이의 DBSC는 키워드 필터링, 인간의 전수검사 두 가지 방식의 장점을 모두 적용한 솔루션으로 딥러닝 모델이 인간의 전수조사 결과물을 유연하고 즉각 다국어에 대응하는 것이 포인트”라고 설명했다. 

 

필자소개
최태욱

눈이 보면, 마음이 동하고, 몸이 움직이는 액션 저널리즘을 꿈꿉니다.


Startup 더보기
  • 수수료 없는 외식업 플랫폼이 온다…‘나우버스킹-야놀자’의 새로운 도전
    수수료 없는 외식업 플랫폼이 온다…‘나우버스킹-야놀자’의 새로운 도전

    업계 최초 '수수료 0원'의 맛집 플랫폼의 등장!

  • 어메이징브루잉컴퍼니, 덕분에IPA 수익금 성동구 보건소에 기부
    어메이징브루잉컴퍼니, 덕분에IPA 수익금 성동구 보건소에 기부

    덕분입니다, 감사합니다!

  • 부산창조경제혁신센터, ‘부산 스타트업-수도권 투자사’ 연계 나선다
    부산창조경제혁신센터, ‘부산 스타트업-수도권 투자사’ 연계 나선다

    5월 7일 오후 3시까지 온라인 서류접수!

  • 트렌비, 이탈리아 해외지사 설립…글로벌 거점 6곳으로 확대
    트렌비, 이탈리아 해외지사 설립…글로벌 거점 6곳으로 확대

    영국·독일·미국·일본·프랑스에 이은 해외지사

  • 서울로보틱스, 日 최대 종합상사 마크니카와 파트너십
    서울로보틱스, 日 최대 종합상사 마크니카와 파트너십

    세계 5위권 반도체 기업과 손잡고 일본시장 진출!

  • 인천창조경제혁신센터, ‘ICCE 창업스쿨 10기’ 교육생 40명 모집
    인천창조경제혁신센터, ‘ICCE 창업스쿨 10기’ 교육생 40명 모집

    열 번째 ICCE 창업스쿨, 인천에서 용나는 기회!

  • 여가 액티비티 스타트업 '프립', 희망브리지에 코로나19 극복 성금 전달
    여가 액티비티 스타트업 '프립', 희망브리지에 코로나19 극복 성금 전달

    기부도 스타트업 방식으로!

  • 와이앤아처, ‘비대면 스타트업 육성사업’ 스포츠분야 28개사 지원
    와이앤아처, ‘비대면 스타트업 육성사업’ 스포츠분야 28개사 지원

    주관기관 12곳 중 유일한 민간기관…기업 당 최대 1.5억원 지원