"AI는 사회 이익 극대화"…앤트로픽 공동창업자, SKT와 '신뢰 가능한 AI' 협업

[아이뉴스24 서효빈 기자] "AI는 사회의 이익을 극대화하는 방향으로 발전해야 합니다. 단순히 효율성을 넘어서, 안전성과 신뢰성을 담보해야 진정한 혁신이 이뤄집니다."

벤 만 앤트로픽 공동창업자는 4일 서울 코엑스에서 열린 'SK AI 서밋 2025'에서 정석근 SK텔레콤 AI(인공지능) CIC(사내회사)장과 대담을 갖고 '신뢰 가능한(Trustworthy) AI'에 대한 양사간 협력을 강조했다.

앤트로픽은 생성형 AI 모델 '클로드(Claude)'를 개발한 기업이다. SK텔레콤은 2023년 앤트로픽에 1억 달러 규모의 전략적 투자를 단행하고, 통신 특화 AI 모델 공동 개발 등 협력 관계를 이어가고 있다.

이번 대담에서 "앤트로픽이 말하는 '신뢰할 수 있는 AI'의 핵심 정의는 무엇이며, 오픈AI·구글 등 경쟁사와 어떤 차별점이 있느냐"는 정 CIC장의 질문에 벤 만 창업자는 "소비자 입장에서는 AI가 사용자의 의도를 정확히 수행하는 것이 첫 번째 신뢰"라며 "이를 위해 저희는 제품 출시 전까지 데이터 유출 위험이 없도록 검증하고, 점진적으로 기능을 공개하고 있다"고 설명했다.

그는 "AI가 사회적으로도 '옳은 일'을 하는 것이 중요하다"며 "앤트로픽은 '책임 있는 확장 정책(Responsible Scaling Policy)'을 통해 모든 개발자가 준수해야 할 보안·윤리 기준을 명확히 정하고 있으며, 특히 생물학적 위험(biorisk)을 사전에 차단하기 위한 분류기를 모든 모델에 탑재하고 있다"고 덧붙였다.

정 CIC장은 "AI의 성능이 고도화될수록 연산 효율성과 에너지 소비의 균형도 중요해진다"면서 "앤트로픽은 추론 효율성 측면에서 어떤 접근을 하고 있냐"고 질문했다. 이에 벤 만 창업자는 "AI가 실제로 사용하는 물이나 전력량은 다른 산업보다 훨씬 적지만, 우리가 진정 주목해야 할 것은 AI가 만들어내는 사회적 가치"라고 답했다.

그는 "AI가 신약 개발을 가속화하고, 중증 환자 치료 결과를 개선하며, 일상에서는 아픈 아이를 병원에 안전하게 데려가는 방법을 알려주는 등 실질적 도움을 준다"며 "이런 사회적 이익이 에너지 비용을 충분히 상쇄한다고 본다"고 강조했다. 또 "데이터센터 파트너들과는 탄소중립을 유지하며, 책임감 있게 운영하는 것을 원칙으로 한다"고 덧붙였다.

두 사람은 SK텔레콤과 앤트로픽의 협력 관계에 대해서도 논의했다. 벤 만 창업자는 "SK텔레콤과 함께 통신(Telco) 특화 커스텀 모델을 개발했고, 이를 전 세계 통신사들과 공유하며 효과적인 솔루션으로 평가받고 있다"며 "SK텔레콤이 보유한 데이터센터·에너지 인프라는 앤트로픽의 연구 확장과 안전한 스케일업에 큰 도움이 될 것"이라고 말했다.

한국 AI 생태계에 대해 벤 만 창업자는 "어제 해커톤이 단 3시간 만에 끝났는데도 놀라운 수준의 결과물이 나왔다"며 "한국 개발자들이 'Claude Code' 같은 생성형 AI 코딩툴을 빠르게 받아들이고 있으며, 아시아·태평양 지역에서도 가장 역동적인 시장"이라고 평가했다.

그는 "가장 활발한 'Claude Code' 개발자도 한국인"이라며 "앞으로 SK텔레콤과 함께 AI 기술의 한계를 넘어서는 진보를 만들어가길 기대한다"고 밝혔다