"딥시크 뜯어보니…'대량 살상 무기' 정보 수두룩"

[아이뉴스24 김다운 기자] 중국 스타트업 딥시크의 인공지능(AI)에 대량 살상 무기와 관련된 정보가 많이 들어 있는 것으로 나타났다.

김명주 AI 안전연구소장은 17일 한국과학기술단체총연합회와 한국과학기술한림원, 국민생활과학자문단이 온라인으로 '딥시크 파장과 미래 전망'을 주제로 연 긴급 공동포럼에서 이같이 밝혔다.

그는 "지난달 말 딥시크가 세계적인 파장을 몰고 온 이후 이 AI 모델의 위험성을 연구하며 대량 살상 무기를 만드는 생물학, 화학 등에 관한 정보가 얼마나 들어있는지 확인했는데 상당히 들어있었다"고 전했다.

김 소장은 "중국은 국가 보안을 위해 필요하면 중국에 있는 기업에 대한 정보는 거의 무제한 접근할 수가 있고 가입자 개인 정보를 모두 가져다 쓸 수 있어 소위 '프로파일링'을 통해 당성 검사를 할 수도 있다"고 언급했다.

또한 딥시크에 백도어가 생길 수도 있다고 분석했다.

그는 "사용자가 평상시에는 인식할 수 없다가 특별한 상황에서 활성화되는 코드가 '히든 코드'인데 딥시크와 같은 오픈 소스는 히든 코드를 통해 나중에 그 위에서 고쳐 쓰는 모든 것들에 백도어가 생길 수도 있다"고 강조했다.

이상근 고려대 정보보호대학원 인공지능 연구실 교수는 시스코 블로그 내용을 인용해 딥시크 모델의 탈옥 취약성이 주요 AI 모델 중 1위를 차지했다고 밝혔다.

AI 모델에 대한 탈옥이란 기본적으로 설정된 가이드라인을 뚫고 모델 개발 시 의도하지 않았던 작업이 가능한지 공격을 시도했을 때 성공하는 것을 말한다.

시스코에 따르면 딥시크 모델의 탈옥 성공률이 100%에 달했고 메타의 라마 3.1 모델(96%), 오픈AI의 GPT-4o(86%)가 뒤를 이었다.

한편 이날 개인정보보호위원회(개인정보위)는 딥시크 앱의 이용자 정보가 틱톡 모회사인 바이트댄스로 유출된 정황을 확인하고 서비스 개선·보완 시까지 신규 다운로드를 중단했다.

국내 개인정보보호법에 따른 개선·보완이 이뤄진 후에 서비스가 재개될 예정이다.