매일안전신문 - 인공지능윤리협회 ＂이루다, AI 윤리 어겼다… 서비스 중단해야＂

[매일안전신문] 인공지능(AI) 챗봇 '이루다'가 동성애·장애인 혐오 및 성차별을 학습했다는 논란이 뜨거운 가운데 학계에서 "이루다 서비스를 중단하라"는 첫 성명이 나왔다.

한국인공지능윤리협회는 11일 성명서를 내고 "AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다"며 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라고 짚었다.

협회는 "AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다"며 "이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다"고 지적했다.

그러면서 "AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다"며 "AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문"이라고 설명했다.

협회는 이루다 제작사의 개인정보 유출 의혹에 관해서는 "카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다"며 "카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다"고 의견을 냈다.

협회는 이루다 서비스를 중단해야 한다면서 "AI 윤리 가이드라인을 적용해 개선한 다음 다시 출시해야 한다"고 촉구했다.

이어 "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 비판했다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.

자연스러운 대화 능력으로 이용자가 40만명을 넘기는 등 크게 주목받았지만, 일부 이용자들이 AI를 성적 도구화했다는 논란에 이어 동성애·장애인·여성 차별 학습 논란까지 휩싸이며 뜨거운 감자가 됐다.

[저작권자ⓒ 매일안전신문. 무단전재-재배포 금지]