엔비디아 부사장 "AI 연구, 도구 활용이 핵심"⋯네모트론 기반 전략 제시

[아이뉴스24 황세웅 기자] 브라이언 카탄자로(Bryan Catanzaro) 엔비디아 응용연구 총괄 부사장이 22일 "AI 연구의 핵심은 도구 활용"이라며 "연구자들이 인공지능(AI) 도구를 효과적으로 활용할 수 있도록 지원하는 것이 중요하다"고 말했다.

카탄자로 부사장은 이날 서울대학교 해동첨단공학관에서 서울대 AI연구원 초청으로 열린 특별강연에서 "AI 연구는 오픈 모델과 데이터, 고성능 컴퓨팅 인프라의 결합을 통해 빠르게 진화하고 있다"며 이같이 밝혔다.

그는 AI 기술이 의료, 제조, 자율주행 등 다양한 산업으로 확산되고 있다고 설명하며, 학계와 산업 간 협력 필요성을 강조했다.

이어 "연구 생산성과 확장성을 높이기 위해서는 데이터, 모델, 컴퓨팅 인프라의 유기적 결합이 중요하다"며 "연구 성과가 산업 현장으로 빠르게 이어지는 생태계 구축이 필요하다"고 말했다.

이날 강연에서는 엔비디아의 차세대 AI 모델 '네모트론(Nemotron)' 기반 전략도 함께 제시됐다.

엔비디아는 AI를 △에너지 △칩 △인프라 △모델 △애플리케이션으로 구성된 5계층 구조로 설명했다. 또한 AI 경쟁이 단일 모델 성능 중심에서 비용, 속도, 시스템 안정성을 함께 고려하는 구조로 변화하고 있다고 설명했다.

카탄자로 부사장은 AI 시스템이 처리량과 응답 속도 간 균형을 요구하는 구조적 특성을 갖고 있다고 말했다. 처리량을 높이고 토큰당 비용을 낮출수록 더 많은 사용자를 동시에 처리할 수 있지만, 개별 사용자 기준 응답 속도는 느려질 수 있다고 말했다.

또 에이전트 기반 AI 구조가 확산되면서 연산 패턴이 불규칙해지고, 이에 따라 시스템 설계 복잡도가 증가하고 있다고 말했다.

엔비디아는 이러한 구조적 문제를 해결하기 위한 기술로 네모트론 아키텍처를 소개했다. 멀티 토큰 예측(Multi-token prediction)은 여러 토큰을 동시에 생성하는 방식이며, Latent MoE 구조는 동일 연산 비용에서 더 많은 전문가 모델을 활용할 수 있도록 설계됐다.

또 상태공간모델(SSM) 기반 'Mamba-2'와 어텐션을 결합한 하이브리드 구조를 통해 연산 효율과 메모리 사용량을 줄이는 방식을 제시했다.

엔비디아는 오픈 모델·데이터·라이브러리를 기반으로 글로벌 협력 체계를 구축하고 있으며, 다양한 기업과 협력해 AI 생태계를 확장하고 있다고 설명했다.