가톨릭 뉴스

1/20(수) - <3> ''이루다''가 쏘아 올린 AI윤리문제

재생 시간 : 03:36|2021-01-20|VIEW : 146

제목 : ‘이루다’가 쏘아 올린 AI 윤리[앵커] 국내 스타트업이 만든 대화형 인공지능 ‘이루다’가 출시 3주 만에 폐기됐습니다.약자와 소수자를 혐오하는 발언을 하고, 개인정보 유출 의혹까지 불거졌기 때문인데요.교황청은 인공지능 윤리의 필요성을 일찌감치 인식하고 가이드라인을 제시했습니다.‘이루다’ 논란이 우리 사회에 남긴 과제를 짚어보겠습니다.김혜영 ...
제목 : ‘이루다’가 쏘아 올린 AI 윤리

[앵커] 국내 스타트업이 만든 대화형 인공지능 ‘이루다’가 출시 3주 만에 폐기됐습니다.

약자와 소수자를 혐오하는 발언을 하고, 개인정보 유출 의혹까지 불거졌기 때문인데요.

교황청은 인공지능 윤리의 필요성을 일찌감치 인식하고 가이드라인을 제시했습니다.

‘이루다’ 논란이 우리 사회에 남긴 과제를 짚어보겠습니다.

김혜영 기자입니다.

[기자] 지난해 12월 23일 출시돼 인기를 끈 대화형 인공지능, 일명 챗봇 ‘이루다’ 입니다.

20대 여대생 캐릭터로, 자연스러운 대화가 주목을 받으면서 이용자가 75만 명에 육박했습니다.

하지만 ‘이루다’는 얼마 안 가 논란의 주인공으로 전락했습니다.

대화 과정에서 여성, 장애인, 흑인 등을 혐오하고 차별하는 발언을 한 겁니다.

여기에다 딥러닝에 개인정보가 부적절하게 사용됐다는 의혹도 제기됐습니다.

윤리 논란이 커지고 개인정보보호위원회와 한국인터넷진흥원이 조사에 나서자, 학계와 산업계로 구성된 한국인공지능윤리협회는 지난 11일 성명을 발표했습니다.

협회는 "AI 기술은 인간의 편익과 행복을 위한 것이지만, 잘못 개발되거나 사용될 때 인간에게 미치는 위험성과 역작용이 막대할 수 있다"고 지적했습니다.

그러면서 "AI 기업들에게 제품 출시 전 AI 윤리 가이드라인의 자율적 준수와 검증을 촉구하며, 인공지능 윤리의 중요성과 당위성이 강조되는 계기가 되길 바란다"고 밝혔습니다.

결국 ‘이루다’ 개발사인 스캐터랩은 지난 11일 공식 사과하고 서비스를 잠정 중단했습니다.

나아가 ‘이루다’의 데이터베이스와 자동학습, 즉 딥러닝 모델을 폐기하겠다고 밝혔습니다.

<최예지 / 스캐터랩 제품 총괄 매니저> MBC 라디오 ‘김종배의 시선집중’ 인터뷰
"테스트 때와 실전이 다른 부분이 좀 많이 있었던 것 같고요. 앞으로 이 부분에 대해서 더 다양하게 논의가 이뤄져야 된다고 생각을 하고 있어요. 저희가 첫 번째 마중물이 됐다는 게 좀 부담스러운 일이면서도 한편으로는 영광일 수도 있다고 생각을 하고 있고요."

교황청은 인공지능 윤리의 필요성을 일찌감치 인식하고 지난해 2월 28일 ‘AI 윤리를 위한 로마 선언(Rome Call for AI Ethics)’을 발표했습니다.

교황청은 서문에서 "AI가 인류의 삶에 큰 변화를 가져오고 있고 앞으로도 그럴 것"이라며 윤리, 교육, 권리 3개 부문에 걸쳐 가이드라인을 제시했습니다.

윤리 부문엔 이런 구절이 있습니다.

"AI 시스템을 만들고 사용할 때 자유와 존엄성이 보호되고 보장돼야 한다"

"알고리즘에 의해 인종, 피부색, 성, 언어, 종교, 정치적 견해, 출신, 재산 등에 따라 차별받지 않도록 해야 한다"

장애인과 흑인 등을 혐오하는 발언을 한 ‘이루다’ 논란을 떠올리게 하는 대목입니다.

교황청이 발표한 이 선언에는 마이크로소프트와 IBM 등이 동참해 의미를 더했습니다.

교황청은 AI의 윤리적 이용을 위해 6가지 원칙도 꼽았습니다.

바로 투명성과 포용성, 책임성과 공평성, 신뢰성, 그리고 안전성과 사생활 보호 등입니다.

한편 방송통신위원회는 이번 논란과 관련해 인공지능 윤리 실현을 위한 구체적인 지침을 마련하겠다고 밝혔습니다.

‘이루다’ 논란은 인공지능 시스템의 중심에 사람이 있어야 하며, 올바른 규범과 윤리가 지켜지지 않을 때 오히려 사회 갈등을 초래할 수 있다는 걸 보여줬습니다.

CPBC 김혜영입니다.