카카오 “인종·성별·장애 등 증오발언 근절하겠다”

(21.01.24의 읽은 것) 카카오 “인종·성별·장애 등 증오발언 근절하겠다”

카카오 “인종·성별·장애 등 증오발언 근절하겠다”

최근 AI 챗봇 *'이루다'가 쏘아올린 AI 윤리에 이어 카카오에서는 차별과 증오발언에 대해 강경 대응하겠다는 입장을 공식 발표하였으며, 카카오 서비스 운영 정책에 반영하였습니다.  온라인 증오발언이 이용자의 안전을 위협하기까지 하는 심각한 사회문제로 부상되었기 대문이죠. 따라서 카카오 서비스 내 공개된 공간인 블로그나 카페, 댓글 등 공개 게시물에 해당 규정을 적용해 강경하게 대응하겠다 밝혔습니다. 이외에 공개되지 않은 개인적인 영역인 대화공간이나 메일, 톡서랍 등의 비공개 서비스에서는 프라이버스를 우선 가치로 적용한다고 밝혔죠.

* 이루다 진짜 문제는 챗봇을 이용한 '희롱 훈련', 한겨레21

 

이러한 흐름 가운데 떠오르는 프랑스의 증오발언 필터링 서비스가 있습니다. 서비스의 이름은, 'Bodyguard'로 현재 프랑스 내에서 5만 명에 달하는 사용자가 사용하고 있죠. 해당 서비스는, 트위터, 유튜브, 인스타그램, 트위치 등의 SNS 서비스로부터 부정적인 욕설이나 혐오 발언이 적힌 게시글 및 댓글 들을 자동으로 필터링해주는 기능을 가지고 있습니다.

 

사실 현재까지는(제가 아는 바로는...) 자신의 서비스 내에서만 혐오 표현을 제재하는 형태가 많았던 것 같은데, Bodyguard처럼 한 가지 서비스의 틀에서 벗어나 디지털 세상에서의 모든 혐오 표현을 제거하겠다는 큰 포부를 비친 서비스는 이번이 처음이지 않나 싶습니다. 사실 이러한 서비스들이 등장했을 법도 했습니다. 예를 들어, 유니콘과 같은 광고 차단 서비스도 있는데 말이죠. 하물며 광고보다도 우리를 더욱 더 피폐하게 만드는 악플들을 차단하는 서비스는 정말 우리에게 필요했습니다. 물론, 지금 우리가 보는 악플들이 필터링되어 그나마 적은 수의 악플을 보는 것일 수도 있습니다. 무튼, 지난번 워크맨 81화를 보면서 또 느낀 것이. 정말 심각한 악플들이 넘친다는 것이었죠.

좌 : 네이버웹툰 클린봇 / 우 : 워크맨 81화 데이터 수집가공

디지털 기술은 인간의 편익과 행복을 위한 것이지만, 사람들의 잘못된 사용으로 인간에게 큰 위험과 역작용을 일으키는 것 같습니다. 이루다를 이용한 '희롱 학습'이나 익명성을 무기로 증오발언을 죄책감 없이 남기는 것들 말이죠. 디지털 기술은 우리 삶에 큰 변화를 불러오고 있으며, 점점 더 생활 깊숙이 자리하고 있습니다. 그러니 이제는 정말, 디지털 공간 내에서의 윤리를 따져봐야할 시간이 된 것 같습니다. *심지어 로마 교황청에서도 작년 2월 AI 윤리 백서를 발표하기도 했었네요.

* 교황청, AI 윤리 백서 '로마 콜' 발표... 6대 원칙 제시, ZDNet Korea

 

참고자료

---

- Bodyguard is getting stronger with its new features, Bodyguard

- Bodyguard is mobile app that hides toxic content on social platforms, techcrunch

Bodyguard is a mobile app that hides toxic content on social platforms – TechCrunch