이루다 ai 혐오 논란 폐기 현장조사 윤리 퇴출 카톡대화 알고리즘

최근 인공지능(AI) 챗봇 '이르다'를 중심으로 한 다양한 윤리적 논란이 일고 있는 가운데, 방송통신위원회는 AI 서비스를 활용하는 과정에서 '사람 중심의 AI 서비스'가 제공될 수 있도록 'AI 윤리 규범'을 구체화하는 방안을 추진할 계획이라고 밝혔습니다.

14일 방통위는 최근 들어 AI 채팅 로봇의 혐오차별적 표현, AI 채팅 로봇에 대한 이용자의 성희롱 발언 등이 사회적으로 큰 논란을 빚은 바 있다며 이와 관련해 사업자 이용자 정부 등 지능정보사회의 구성원 모두가 AI 윤리의 중요성을 인식하고 각자 실천할 수 있는 방안을 모색해야 한다는 지적이 커지고 있는 상황이라고 말했습니다.

 

방통위는 올해부터 이용자에게 'AI 서비스의 비판적 이해와 주체적 활용'에 대한 교육을 실시할 예정입니다. 교육내용으로는 이용자가 AI 서비스에 활용된 알고리즘의 편향을 파악하고 이에 따른 문제를 최소화하고 서비스를 이용할 수 있는 방안 등을 들 수 있습니다.

2022년부터는 신규 예산을 확보해 AI윤리 교육 지원 대상을 이용자에서 사업자로까지 확대하고, 스타트업 등을 대상으로 서비스 설계 시 AI 역기능 등 위험 관리 컨설팅을 지원하는 사업을 추진할 예정입니다.

방통위는 인공지능(AI) 서비스 이용자 보호를 위해 규범과 제도도 구체화할 것입니다.

 

방통위는 2019년 11월 차별 금지, 인간 존엄성 보호 등의 내용을 담은 이용자 중심의 지능정보사회를 위한 원칙을 발표하였습니다. 해당 원칙이 선언적인 규정이라면 올해부터는 이를 실천하기 위한 구체적 사례와 방법 등을 사업자 등과 공유하겠다는 것입니다.

사업자의 규제 부담 및 AI 서비스 혁신 저해를 최소화하기 위해 현재 민간에서 실천되고 있는 모범 사례를 적극 발굴하고, 이를 바탕으로 실행 지침을 마련하겠습니다.

 

중장기적으로는 이용자에게 피해를 준 AI서비스의 책임소재 및 권리구제 절차 등을 포괄할 수 있도록 기존의 법체계를 정비해 나갈 방침입니다.

 

이를 위해 방통위는 지난해 1월 정보통신정책연구원(KISDI) 내에 지능정보사회정책센터를 설립했고 지난해 9월부터 센터 내에 법제연구팀을 구성해 운영하고 있습니다.

 

한상혁 방통위원장은 AI 서비스는 더 많은 부가가치를 창출하고 생활 편의를 도모하지만 올바른 윤리와 규범이 없는 AI 서비스는 이용자에 대한 차별과 사회 갈등을 초래한다며 AI 기술의 혜택은 누리되 부작용은 최소화할 수 있도록 사람 중심의 AI 정책을 차질 없이 추진할 것이라고 말했습니다.