"AI, 크다고 능사 아니다"⋯삼성이 밝힌 '갤럭시 AI' 진화법

[아이뉴스24 황세웅 기자] 더 크고 더 많은 데이터를 학습시키는 것이 인공지능(AI) 발전의 정답일까. 삼성전자는 앞으로의 AI 경쟁에서는 '크기'보다 '효율'이 중요해질 것으로 보고 있다. 막대한 컴퓨팅 자원과 전력을 투입해 AI 모델의 덩치를 키우는 방식에는 한계가 있는 만큼, 적은 자원으로도 필요한 성능을 내는 기술이 중요해진다는 것이다.

삼성전자는 이미 갤럭시 AI에도 이런 접근법을 적용하고 있다. 스마트폰 안에서 처리하는 온디바이스 AI와 대규모 연산이 가능한 클라우드 AI 가운데 작업에 적합한 방식을 골라 사용하는 것이 대표적이다.

황인철 삼성전자 MX사업부 부사장은 30일 서울 서초구 삼성전자 서초사옥에서 열린 '삼성 AI 포럼 2026' AI 기술 트랙에서 "지금까지 AI의 진화가 규모 확장 중심이었다면 AI가 지속 가능해지기 위해서는 효율화가 필수"라고 말했다.

사람의 뇌에서 찾은 AI 효율화 해법

황 부사장이 이날 화두로 꺼낸 것은 '휴먼 레벨 효율성(Human-level Efficiency)'이다.

사람의 뇌가 제한된 자원만으로 필요한 정보를 골라 처리하는 것처럼 AI도 모든 자원을 항상 최대한 사용하는 대신 필요한 만큼만 쓰도록 만들자는 개념이다.

현재 AI는 모델 규모가 커질수록 학습과 추론에 필요한 컴퓨팅 자원과 데이터, 전력도 함께 늘어나는 구조다. 성능을 높이기 위해 무작정 모델을 키우는 방식만으로는 비용과 전력 소비를 감당하기 어려워질 수 있다는 얘기다.

황 부사장은 "궁극적으로 최소의 자원으로 어떻게 좋은 경험을 그대로 유지해 충족시킬 것인가를 고민하고 있다"고 설명했다.

삼성전자는 사람의 뇌가 필요한 기억을 찾아 활용하고 새로운 정보에 집중하는 방식에 주목하고 있다.

AI 역시 필요한 정보와 모델, 네트워크만 골라 작동시키면 같은 작업을 처리하면서도 자원 사용량을 줄일 수 있다는 것이다.

AI가 문제마다 '얼마나 오래 생각할지' 스스로 판단하는 것도 과제다. 어려운 문제에는 더 많은 연산을 투입하되 간단한 문제라면 불필요하게 계산을 반복하지 않는 방식이다.

황 부사장은 "추론을 많이 한다고 정답률이 무조건 올라가는 것은 아니다"라며 "문제에 따라 언제 더 생각하고 언제 멈출지를 결정하는 모델이 필요하다"고 말했다.

갤럭시 AI도 필요할 때만 클라우드로

이 같은 효율화 전략은 갤럭시 AI에서 이미 현실화되고 있다.

핵심은 온디바이스 AI와 클라우드 AI를 함께 사용하는 '하이브리드 AI'다.

빠른 응답이나 오프라인 사용이 필요하고 개인정보 보호가 중요한 기능은 스마트폰 자체에서 처리한다. 반대로 대규모 AI 모델과 많은 연산이 필요한 작업에는 클라우드를 활용한다.

모든 AI 기능을 무조건 스마트폰 안에서 처리하거나 반대로 매번 클라우드에 보내는 대신, 상황에 따라 적합한 방식을 선택하는 셈이다.

황 부사장은 "현재까지는 사용자 경험에 맞춰 온디바이스와 클라우드를 동적으로 활용할 수 있도록 구성하고 있다"며 "두 가지를 모두 활용함으로써 가장 좋은 성능을 내고 프라이버시 문제도 최적화된 모델로 해결하고 있다"고 설명했다.

갤럭시 AI를 개발하고 개선하는 과정도 자동화하고 있다.

사용자 데이터를 바탕으로 학습 데이터를 늘리고 성능을 검증한 뒤 실제 서비스에 반영하는 과정을 자동화해 AI를 개선하는 데 걸리는 시간을 줄이는 방식이다.

삼성전자가 그리는 다음 단계의 AI는 결국 '무조건 큰 AI'가 아니라 '필요한 만큼 똑똑하게 쓰는 AI'에 가깝다.

황 부사장은 "갤럭시 AI도 열심히 따라가고 있지만 뇌가 가진 다섯 가지 특성을 모두 만족시켰다고 말하기는 어렵다"며 "지금까지가 규모 확장이었다면 앞으로 지속 가능한 AI를 위해서는 효율화가 반드시 필요하다"고 강조했다.