SK하이닉스, HBM 넘어 '빛'으로 연결…AI 데이터 병목 푼다

[아이뉴스24 권서아 기자] SK하이닉스가 고대역폭메모리(HBM)를 넘어 프로세서와 메모리를 빛으로 연결하는 차세대 광(빛)통신 기술 확보에 나섰다. 인공지능(AI) 데이터센터가 대형화하면서 칩 자체 성능뿐 아니라 칩 사이 데이터 이동 속도가 새로운 병목으로 떠오른 데 따른 것이다.

SK하이닉스는 글로벌 연구진과 함께 차세대 AI 인프라 핵심 기술인 'CPO(Co-Packaged Optics)'의 발전 방향을 담은 연구 논문을 국제 학술지 '네이처 일렉트로닉스'에 게재했다고 20일 밝혔다.

이번 연구에는 홍승훈 SK하이닉스 AI 인프라 팀장과 이규상 미국 버지니아대 전기컴퓨터공학과 교수를 비롯해 미국 일리노이대 어바나-샴페인, 매사추세츠공대(MIT), 싱가포르 난양공대(NTU), 연세대 연구진 등이 참여했다.

CPO는 반도체 칩 사이에서 데이터를 주고받을 때 기존 전기 신호 대신 빛을 활용하는 기술이다.

프로세서 가까이에 광 송수신기를 배치해 전기 신호가 이동해야 하는 거리를 최소화하면서 데이터 전송 대역폭을 늘리고 전력 소모를 줄일 수 있다.

생성형 AI 확산으로 수천~수만개의 그래픽처리장치(GPU)와 메모리가 동시에 연결되는 AI 데이터센터가 늘면서 데이터 이동 문제가 새로운 성능 제약 요인으로 떠오르고 있다.

GPU와 HBM의 연산 성능이 높아져도 서버와 칩 사이에서 데이터를 제때 전달하지 못하면 시스템 전체 성능이 떨어질 수밖에 없다.

연구진은 이번 논문에서 프로세서와 메모리를 광으로 직접 연결하는 '옵틱스 중심(Optics-Centric) 아키텍처'를 차세대 AI 인프라의 발전 방향으로 제시했다.

이를 통해 다수의 AI 가속기가 대규모 메모리 자원을 보다 효율적으로 공유하고, 데이터센터 규모가 커져도 시스템을 유연하게 확장할 수 있다는 설명이다.

이규상 교수는 "저전력 광소자 집적부터 일관성 프로토콜, 신뢰성 기술까지 풀어야 할 과제가 많지만 결국 핵심은 메모리 소자와 컨트롤러, 광소자, 패키지를 하나의 시스템으로 공동 설계하는 것"이라며 "이 지점에서 SK하이닉스와의 협력이 큰 의미가 있다"고 말했다.

홍승훈 팀장은 "고객의 AI 시스템이 대형화될수록 광 인터커넥트의 중요성은 더욱 커진다"며 "메모리 기업도 단일 제품 공급을 넘어 고객의 시스템 전체 경쟁력을 함께 만들어가는 파트너로 역할이 진화하고 있다"고 말했다.