[AI브리핑] 中 AI 딥시크를 우려하는 세 가지 시선 '보안, 통제, 신뢰성'

[아이뉴스24 윤소진 기자] 중국 AI 스타트업 딥시크의 급부상에 각국의 우려가 커지고 있다. 중국이 미국 빅테크의 10분의 1도 안 되는 비용으로 동등한 성능의 AI를 구현했다는 이면에는 데이터 보안, 정보 통제, 학습 신뢰성 등에서 논란이 이어지는 것이다.

데이터 보안 취약…"中정부 감시 우려"

중국 딥시크에 대한 첫 번째 우려는 데이터 보안 문제다. 딥시크는 개인 정보 보호 약관에서 중국 내 서버에 데이터를 수집하고 저장한다고 명시하고 있다. 이와 관련한 분쟁은 중국 정부의 법률의 적용을 받는다. 딥시크에 대해 외신들은 일제히 보안 결함을 우려하고 있다.

CNN은 "모든 미국 데이터를 미국에 저장한다고 말하는 틱톡과 달리 딥시크는 수집한 개인정보를 중국 내 서버에 저장한다"고 지적했다. NBC뉴스는 "미국에서는 기업의 정보에 접근하려면 법원 명령이나 영장이 필요하지만, 중국에서는 모든 기업이 정부의 정보 수집에 의무적으로 협조해야 한다"며 "중국 기업이 보유한 데이터가 정부 감시에 노출될 수 있다"고 경고했다.

더 큰 문제는 딥시크의 광범위한 데이터 수집 범위다. 퀸즐랜드공대 AI책임연구소의 스노스웰 선임연구원은 "딥시크는 계정 정보와 플랫폼 활동 기록뿐만 아니라 키보드 입력 패턴까지 수집한다"며 "이는 지문이나 얼굴 인식처럼 개인을 특정할 수 있는 생체인식 정보로, 특별한 목적이 없다면 수집하지 않는 민감정보"라고 설명했다.

민감 주제는 회피…"中정부 통제?"

딥시크가 중국 정부의 통제를 받는다는 지적도 제기되고 있다. CNN 보도에 따르면 딥시크는 천안문 사태나 홍콩 민주화 시위와 같은 민감한 주제에 대해서는 의도적으로 답변을 회피하거나 중국 정부의 공식 입장만을 반영하는 것으로 나타났다.

실제로 1989년 6월 4일 천안문 사태에 대해 질문하면 처음에는 군사 진압 등 일부 사실을 언급하다가 답변을 지우고 "이런 질문에 어떻게 답해야 할지 모르겠다"며 화제를 돌리는 것으로 확인됐다.

CNN과의 인터뷰에서 스노스웰 연구원은 "모든 AI 기업이 윤리적 가이드라인을 설정하지만, 중국에서 개발된 기술의 특성상 친중국적 데이터를 더 많이 수집하게 되고 정부의 가치관이 정책에 반영될 수밖에 없는 구조"라고 설명했다.

중국 분석가이자 비즈니스 인텔리전스 기업 스트래티지 리스크의 설립자인 아이작 스톤 피시는 "딥시크가 세계적 AI 리더가 되면 자유로운 사고와 표현에 치명적 결과를 초래할 수 있다"며 "중국을 실존하지 않는 유토피아적 공산주의 국가처럼 묘사하기 때문"이라고 경고했다.

학습 결과 신뢰성도 의문…"83% 부정확"

딥시크의 성능이 공개된 이후 학습 결과 신뢰성이 떨어진다는 점도 주목해야 한다. 미국 정보신뢰성 분석기업 뉴스가드가 최근 발표한 감사 결과에 따르면, 딥시크의 이전 모델인 V3는 뉴스·정보 주제 관련 질문에서 83%의 부정확도를 보였다. 서구권 AI 모델들과 비교한 순위에서도 11개 중 공동 10위를 기록했다.

학습 데이터의 출처도 논란이다. 오픈AI는 딥시크가 자사의 데이터를 무단으로 수집했다는 의혹을 제기하며 조사에 착수했다. 딥시크는 "중국 관영매체와 국제 자료를 포함한 다양한 공개 텍스트를 사용했다"고 해명했지만, 구체적인 데이터 출처와 학습 방식은 공개하지 않고 있다.

이러한 우려에 각국은 잇따라 제동을 걸고 있다. 미국 해군은 '잠재적 보안 및 윤리적 우려'를 이유로 딥시크 사용을 전면 금지했으며, 백악관도 국가 안보 차원의 조사에 착수했다.

이탈리아 데이터보호기관은 개인정보 처리의 불투명성을 이유로 자국 내 접근을 차단했으며, 아일랜드도 유럽 데이터보호법 준수 여부를 조사 중이다. 우리 정부도 개인정보보호위원회를 통해 딥시크의 데이터 처리 실태 조사에 나섰다.