곧 소개할 광고를 보고, 꼭 써야겠다는 생각이 들었습니다. 시기도 시기지만, 금방 떠올린 주제를 바로 안 쓰면, 나중에 미루다 제대로 못 쓸 것 같았거든요. 소개하는 내용보다 글은 짧지만, 한번 읽어주셨으면 좋겠습니다. 

그 전에 지난 글에서 다루지 못한 최근 이슈를 간단히 써보겠습니다. 인공지능 챗봇(음성이나 문자를 통한 인간과의 대화를 통해서 특정한 작업을 수행하도록 제작된 컴퓨터 프로그램 - 위키백과) '이루다'가 많은 논란을 쏟아낸 채 종료했습니다.

"이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드립니다. 저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있습니다. (중략) 향후로는 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠습니다." - 이루다를 만든 스캐터랩 '핑퐁팀'의 공식 입장문(전문)

실제 20대 여대생의 대화를 바탕으로 만든 '이루다'가 장애인과 성소수자 혐오 발언을 하고(관련 기사), 개인정보까지 공유(관련 기사)했습니다. '아카라이브', '디씨인사이드' 등 남성 비율이 높은 온라인 커뮤니티 이용자들도 성적 발언을 우회해 대화를 나눴다는 사실(관련 기사)까지 알려지면서 인공지능의 한계와 풀어야할 숙제를 남겼습니다.

이런 논란은 2016년 3월 23일에 중단한 마이크로소프트의 테이(Tay)가 시작이었습니다. 미국의 18~24세 누리꾼을 대상으로 만들었지만, 인종차별 등 부적절한 대화가 이어지자 16시간만에 중단시켰죠. (관련 기사)

인공지능을 키우는 건 우리 인간입니다. 아무리 선한 의도로 만들었더라도, 잘못된 마음을 먹으면 악해질 수 있지요. 많은 시행착오를 거쳐 완벽하게 만든다해도, 길게, 자주 논의하여 다양한 기준을 마련했으면 좋겠습니다.