인스타그램, 가짜뉴스 걸러낸다

[아이뉴스24 민혜정 기자] 인스타그램이 인공지능(AI) 필터링과 신고 기능을 확대한다.

테러나 음란물 등 외에도 거짓정보, 사기나 오해의 소지가 있는 게시물 등 소위 '가짜뉴스' 차단 등까지 대상이 확대될 전망이다. 이를 위해 제3자 팩트체크 기관과의 협력 등도 추진한다.

9일 인스타그램은 서울 강남구 페이스북코리아에서 '안전한 플랫폼 구축을 위한 인스타그램의 정책 및 기능'을 발표했다.

인스타그램은 자사 가이드라인에 위반하는 유해·허위 게시물을 가려내는 데는 신고 기능과 인공지능(AI) 기술을 활용한다.

인스타그램에서 AI는 사이버불링(온라인 집단 괴롭힘), 테러, 혐오 발언 등 가이드라인 위반 게시물을 찾는다. 가이드라인 위반 판별이 비교적 쉬운 나체 이미지나 음란물의 경우 게시물을 자동으로 삭제한다.

카리나 뉴튼 인스타그램 글로벌 공공정책 총괄은 "샘플 콘텐츠를 이용한 지속적인 AI 기술 트레이닝을 통해 테러, 스팸, 혐오 발언 등 가이드라인 위반 게시물을 찾겠다"며 "머신러닝 기술을 적극 활용한다"고 강조했다.

인스타그램은 이달부터 광고 게시물에 '거짓 정보 신고 기능'을 도입했다. 광고 게시물뿐만 아니라 일반 게시물 신고하기에도 '사기 또는 오해의 소지가 있는 콘텐츠'를 신고할 수 있는 항목도 올해 안으로 생길 예정이다.

이용자들이 부적절하다고 신고한 게시물은 인스타그램의 리뷰팀이 걸러 낸다. 제 3자 팩트체크 기관에서 사실 여부를 검토 받을 수 있도록 준비 중이다.

뉴튼 총괄은 "신고된 콘텐츠를 리뷰하는 인력은 주제영역별로 훈련 받는다"며 "사법당국과 가교 역할을 경우가 많아 관련 경력자가 많다"고 강조했다.

인스타그램은 포털의 검색결과 역할을 하는 '둘러보기' 및 '해시태그 검색 페이지'에 노출되는 게시물에 더 엄격한 기준을 적용하기로 했다.

뉴튼 총괄은 "둘러보기나 해시태그 검색 페이지에는 팔로우 하지 않는 콘텐츠도 노출되기 때문에 엄격한 기준을 적용키로 했다"며 "모든 연령대가 볼 수 있다고 판단하는 콘텐츠만 노출키로 했다"고 말했다.