• 전체기사
    • 서울
      B
      -6℃
      미세먼지 좋음
    • 경기
      B
      -4℃
      미세먼지 좋음
    • 인천
      B
      -4℃
      미세먼지 좋음
    • 광주
      B
      1℃
      미세먼지 좋음
    • 대전
      B
      -2℃
      미세먼지 좋음
    • 대구
      B
      1℃
      미세먼지 좋음
    • 울산
      B
      1℃
      미세먼지 좋음
    • 부산
      B
      3℃
      미세먼지 좋음
    • 강원
      H
      -7℃
      미세먼지 좋음
    • 충북
      B
      -4℃
      미세먼지 좋음
    • 충남
      B
      -3℃
      미세먼지 좋음
    • 전북
      B
      -2℃
      미세먼지 좋음
    • 전남
      B
      1℃
      미세먼지 좋음
    • 경북
      B
      1℃
      미세먼지 좋음
    • 경남
      B
      2℃
      미세먼지 좋음
    • 제주
      B
      4℃
      미세먼지 좋음
    • 세종
      B
      -4℃
      미세먼지 좋음
2021-01-19 12:15 (화)
['AI 윤리' 논쟁에 카카오 답하다] 국내 첫 증오발언 근절 원칙...'이루다' 차별과 혐오 논란에 적극 대응
['AI 윤리' 논쟁에 카카오 답하다] 국내 첫 증오발언 근절 원칙...'이루다' 차별과 혐오 논란에 적극 대응
  • 한송희 기자 songhee1909@
  • 승인 2021.01.14 10:16
  • 댓글 0
이 기사를 공유합니다

"모든 차별·배척 반대"…정치권 망설이는 '성 정체성·성적 지향' 포함
AI(인공지능) 챗봇 ‘이루다’의 성희롱과 차별·혐오(증오) 논란이 AI 윤리기준 법제화 주장으로까지 번지고 있는 가운데 카카오가 국내 기업 중 처음으로 '증오 발언 근절 원칙'을 수립해 서비스에 적용한다고 밝혔다. 김범수 카카오 이사회 의장. [사진=카카오 제공]
AI(인공지능) 챗봇 ‘이루다’의 성희롱과 차별·혐오(증오) 논란이 AI 윤리기준 법제화 주장으로까지 번지고 있는 가운데 카카오가 국내 기업 중 처음으로 '증오 발언 근절 원칙'을 수립해 서비스에 적용한다고 밝혔다. 김범수 카카오 이사회 의장. [사진=카카오 제공]

 

[오늘경제 = 한송희 기자]

AI(인공지능) 챗봇 ‘이루다’의 성희롱과 차별·혐오(증오) 논란이 AI 윤리기준 법제화 주장으로까지 번지고 있는 가운데 카카오가 '해법'을 내놨다.

이 회사가 국내 기업 중 처음으로 '증오 발언 근절 원칙'을 수립해 서비스에 적용한다고 밝힌 것으로 향후 다른 기업들의 자발적인 윤리기준 마련을 더욱 독려할 것으로 전망된다.

카카오는 "출신, 인종, 장애, 성별, 성 정체성 등을 이유로 인간을 차별·배척하는 일은 근절돼야 한다"고 강조했다. 이른바 '이루다 사건'으로 '디지털·인공지능(AI) 윤리' 논쟁이 뜨거운 상황에서 업계 선례로 작용할 전망이다.

14일 업계와 정치권에 따르면 카카오는 지난 13일 공식 브런치를 통해 '증오 발언 근절을 위한 카카오의 원칙'을 내놓았다.

카카오는 "온라인 증오 발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 공감대가 넓어지고 있다"며 "카카오 역시 사회 구성원으로서 디지털 공간을 건강하게 만들기 위한 원칙을 수립했다"고 설명했다.

카카오는 약 1년에 걸쳐 증오 발언 근절을 위한 원칙을 마련했다고 밝혔다.

카카오는 첫 번째 원칙으로 "한 인간의 정체성을 이유로 특정 대상을 차별하거나, 이에 대한 편견을 조장하거나, 일방적으로 모욕·배척하는 행위를 반대한다"고 선언했다.

인간의 정체성으로는 '출신(국가·지역 등), 인종, 외양, 장애 및 질병 유무, 사회 경제적 상황 및 지위, 종교, 연령, 성별, 성 정체성, 성적 지향, 기타 정체성 요인 등'이 명시됐다.

주요 정치인이나 정당마저 여전히 "사회적 합의가 필요하다"고 주장하는 성 정체성, 성적 지향에 관해 차별·배척하지 않겠다고 선언한 점이 눈에 띈다.

카카오는 이런 차별에 기반을 두고 특정 집단을 공격하는 발언을 증오 발언으로 정의한다면서, 증오 발언에 앞으로 강경하게 대처하겠다고 예고했다. 증오 발언은 이용자의 안전을 위협할 뿐 아니라 사회적 배척 및 물리적 폭력을 유발하며, 발언의 자유와 사회 신뢰·건강성까지 저해한다는 이유에서다.

카카오는 이용자들에게 "서비스 내에서 특정인과 특정 집단에 대한 폭력을 선동하거나 인간 존엄성을 훼손하는 발언에 유의해야 한다"고 당부했다.

카카오 관계자는 "국내에서 증오 발언 근절을 위해 기업이 원칙을 제정해 적용하는 것은 이번이 처음"이라고 말했다.

이에 대해 정의당 장태수 대변인은 국회 소통관에서 브리핑을 갖고 "특정 대상을 차별하거나 이에 대한 편견을 조장하며 일방적으로 모욕하거나 배척하는 행위에 반대하고, 이들 행위에 강경하게 대처하겠다는 발표는 현실공간에 미치는 가상공간의 영향력을 고려한 적절한 조치"라고 환영했다.

장 대변인은 이어 "정부와 관련 기관의 적극적인 대처도 필요하다"라며 "이루다를 개발한 스캐터랩이 개인정보를 무단 활용하고 유출했다는 의혹에 이어서 수집된 개인정보를 충분히 필터링하지 않은 채 오픈소스 플랫폼에 올린 것으로 드러나 2차, 3차 피해가 우려됩니다. 개인정보보호위원회는 엄중하게 조사하고, 결과에 따라 수사기관에 고발하는 등의 적극적인 조치를 취해야 한다"고 촉구했다.

특히 "사과와 반성은커녕 벤처 생태계가 위축될까 두렵다는 말을 내뱉는 스캐터랩 대표의 발언은 우리사회의 법과 양심이 용납할 수 있는 범위를 넘어섰다"면서 "이루다 서비스가 시작된 지난달 23일은 정부가 인공지능 윤리기준을 발표한 날로, 윤리기준이 문서로만 남아 있지 않기 위한 후속 조치가 마련되어야 한다"고 당부했다.

그는 "도덕적 규범이자 자율규범으로서의 윤리기준으로는 인간의 존엄성 원칙을 지키기 어렵다는 게 이루다 논란으로 드러났다"라며 "업계 규제를 전제하는 것이 아니라 업계의 자정노력과 함께 정부의 실효적인 조치가 동시에 필요하다"고 거듭 강조했다.

한편 네이버는 현재 윤리기준 제정 작업의 경우 마무리 단계이며, 내달 중 사내에 먼저 공유한 뒤 외부에 발표할 계획인 것으로 전해졌다. SK텔레콤 측은 "관련 조치를 마련하고 있다"고 했다.

 

오늘경제


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.