[IT돋보기] 이루다 사태 그 후…AI윤리 어디까지 왔나

[아이뉴스24 박진영 기자] 올초 성차별 및 소수자 혐오 표현으로 논란이 된 인공지능(AI) 챗봇 이루다가 국내 AI윤리 정립에 대한 논의에 불을 지폈다.

이와 함께 지난 16일 여성가족부는 AI 활용 과정에서 성차별과 혐오표현 등 부작용이 발생하고 있어 이에 대한 개선이 필요하다고 지적했다. 인공지능 학습용 데이터 기획·구축 과정에서 성별 등 다양성을 반영하고, 산업계·학계 등 주체별로 구체적인 윤리 기준을 마련해야 한다고 권고했다.

이 가운데 과학기술정보통신부, 개인정보보호위원회 등 관련 정부부처들이 신뢰 기반 AI생태계 구축을 위해 각종 제도 및 가이드라인을 추진하고 있으며, 국회나 학계에서는 AI기본법 등 관련 입법 논의가 진행되고 있다.

◆ 과기정통부·개인정보위, AI윤리 등 포함한 가이드라인 추진

과기정통부는 지난 5월 발표한 '신뢰할 수 있는 인공지능 실현전략'을 통해 이루다 사태의 재발을 막기 위한 AI서비스 인증제 등을 마련했다.

우선, AI기술이 접목된 제품이나 서비스를 만들 때 연구·개발자 등 현업에서 참고할 수 있는 '가이드라인(체크리스트)'을 마련한다. 이를 통해 개발사에서는 AI관련 법·제도, 윤리, 기술적 요구 사항을 파악할 수 있다.

이 가이드라인을 토대로 AI 서비스가 제대로 개발됐는지 검증하고, 서비스를 인증하는 제도도 도입한다. 또한 상황이 열악한 중소기업·스타트업 등을 대상으로 '데이터 확보-알고리즘 학습(구현)-검증'을 통합 지원하는 원스톱 플랫폼을 구축한다.

이와 함께 과기정통부는 지난해 말 '인공지능 법‧제도 정비 관련 전문가 작업반'을 통해 주요 이슈별 연구과제를 추진해왔다. 이를 바탕으로 올해 9월부터 정기 공개세미나를 개최하고, 관련 학계‧업계와 국민의 의견을 수렴할 계획이다.

지난 23일 열린 세미나에서는 인공지능이 법‧제도 상 하나의 인격으로서 '판사 또는 정치인이 될 수 있는지', '세금 납부의무를 지는지' 등과 함께 기존 후견제도 문제점의 해결책으로 '인공지능이 후견인이 될 수 있을지' 등을 주제로 논의했다.

향후 ▲민간 자율적인 인공지능 관리·감독 가이드라인 ▲인공지능 불법행위의 과실책임주의와 그 한계 ▲인공지능 관련 범죄의 특징 및 형사법적 과제 ▲인공지능 위험성 판단 기준 및 기술기준 정립 등의 주제를 다룰 예정이다.

김경만 과기정통부 인공지능기반정책과장은 "급속한 AI기술의 발전으로 갈수록 법·제도와 기술의 간극이 커질 수 있다. 이로 인한 사회적 혼란을 줄이기 위해 지난해부터 인공지능 법제정비단 등을 꾸려 관련 논의를 활발하게 진행하고 있다"면서, "외국의 입법 동향과 맞춰가면서 신뢰할 수 있는 AI생태계 구축을 위해 진흥과 규제의 조화를 담은 정책을 만들어나갈 것"이라고 밝혔다.

개인정보위는 지난 5월 산업계 의견을 토대로 'AI 개인정보보호 자율점검표'를 공개했다. AI자율점검표는 AI 서비스 개발·운영 시 발생할 수 있는 개인정보 침해를 예방하기 위한 안내서다. AI 설계, 개발·운영 과정에서 개인정보를 안전하게 처리하기 위해 지켜야 할 개인정보보호법상 주요 의무·권장사항을 단계별로 자율점검할 수 있도록 만들었다.

점검표는 ▲대규모 데이터의 처리 ▲복잡성·불투명성 ▲자동화·불확실성 등 인공지능의 개인정보 처리 특성을 고려해 만들어졌다. 또 개인정보 보호법, AI 윤리기준, 국제적으로 통용되는 개인정보보호 중심설계 원칙 등을 반영했다.

◆ 특수활용 AI 신고제, AI윤리 의무화 등 법안 논의

국회에서는 AI산업 전반을 아우르는 AI기본법, AI윤리준칙 의무화 등의 법안이 논의되고 있다.

김상희 국회부의장(더불어민주당)은 정부의 AI윤리준칙 제정 의무화 등의 내용을 담은 일명 '이루다 방지법'을 내놓았다.

과기정통부가 '지능정부사회윤리준칙'을 제정하고 AI 윤리적 검증에 필요한 인권 보장, 프라이버시 보호, 다양성 존중, 공공성과 책임성, 안전성 등 내용을 담아 보급·확산하는 내용을 담은 지능정보화기본법 개정안을 발의했다.

김상희 의원 측은 "현재 정부가 내놓는 AI윤리원칙들은 강제성이 없어 기업들이 자발적으로 따라야 할 의무가 없다"면서, "과기부가 '신뢰할 수 있는 AI실현전략' 등을 통해 관련 윤리준칙이나 가이드라인을 내놓고 있는데, 이를 기업들이 따르도록 법적 강제성을 부여한 것"이라고 밝혔다.

또 정필모 의원(더불어민주당)은 인공지능 산업 진흥과 규제 전반을 아우르는 '인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안(인공지능법 제정안)'을 대표발의했다

기본법적인 성격을 지닌 인공지능법 제정안은 AI 설명요구권, 특수활용 인공지능 신고제 등 신뢰할 수 있는 AI기술 구현을 위한 규제체계를 담았다. 또한 산업 진흥을 위해서는 과기정통부가 AI기술 기준 및 표준화를 마련하도록 했다. 또 인공지능 전문인력에 국가 예산을 투입하는 조항을 두었다.

정필모 의원 측은 "AI기본법이라 할 수 있는 이번 제정법안은 국제적으로도 아직 유례가 없다"면서, "인공지능 강국으로 나아가려면 신뢰할 수 있는 인공지능 생태계 조성을 위한 법제도가 마련될 필요가 있다"고 밝혔다.