[KCSF 2026 개막] 최재웅 KT 상무 "AI 격차 데이터에서 발생…온톨로지로 실행형 AI 구현"

[아이뉴스24 서효빈 기자] "격차는 모델이 아니라 AI가 쓸 수 있는 데이터 때문에 발생한다. 데이터 신뢰도를 높이려면 온톨로지로 실행형 AI를 구현해야 한다."

최재웅 KT AX사업부문 AX Engineering본부 AX엔지니어링담당(상무)은 29일 서울 영등포구 FKI타워 그랜드볼룸에서 열린 '대한민국 클라우드/SaaS 포럼 2026(KCSF 2026)'에서 'AI Ready Data 사업 및 전략'을 주제로 강연하며 이같이 말했다.

"에이전트 1000개 있어도 못 믿으면 필요 없어"…AI 신뢰성 강조

최 상무는 기업 현장에서 AI 에이전트를 도입할 때 가장 큰 문제로 답변의 신뢰성을 꼽았다. 생성형 AI가 그럴듯한 답을 내놓더라도 어떤 자료를 근거로 했는지 또는 어떤 방식으로 계산했는지를 설명하기 어렵다는 것이다. 그는 "에이전트가 100개 1000개 있어도 믿을 수 없다면 필요 없다"며 "그 답을 믿을 수 있는가가 가장 큰 포인트"라고 말했다.

같은 질문에도 답이 달라질 수 있다는 점은 금융 심사나 정산·보상처럼 숫자와 책임이 걸린 업무에서 특히 문제가 될 수 있다고 봤다. 최 상무는 "근거를 믿을 수 없다면 판단을 업무 시스템에 바로 반영할 수 없다"고 밝혔다.

AI 신뢰성의 격차는 모델 자체보다 AI가 활용할 수 있는 데이터와 현업 노하우에서 발생한다고 진단했다. 그는 "실제 업무에서 사용하려면 데이터와 노하우가 중요하다"며 "어떤 데이터와 노하우를 갖고 있느냐가 가장 중요하다"고 설명했다.

"LLM은 질문 해석하고 온톨로지가 답 확정"…판단 근거·재현성 확보

KT가 해법으로 제시한 것은 '온톨로지'다. 온톨로지는 데이터와 업무 개념 간 관계 그리고 판단 규칙을 구조화한 지식 체계다. 데이터베이스와 문서에 흩어진 정보를 연결해 업무상 개념과 관계 규칙을 함께 정리하는 방식이다.

최 상무는 온톨로지를 "AI를 위해 정리한 업무 지식"이라고 설명하며 "온톨로지는 데이터베이스와 문서를 이어 업무의 개념과 관계 그리고 판단 규칙을 하나로 묶는다"고 언급했다.

특히 LLM과 온톨로지의 역할을 구분해야 한다고 강조했다. LLM이 질문을 이해하고 필요한 정보를 찾는 역할을 한다면 온톨로지는 사전에 정의한 규칙을 바탕으로 숫자 계산이나 규정 적용 등 명확한 판단을 내리는 역할을 한다는 설명이다.

최 상무는 "LLM은 질문을 해석하고 온톨로지가 답을 확정한다"며 "같은 입력이면 늘 같은 답이 나온다"고 강조했다.

"완벽한 데이터 기다리지 말라"…현업 질문 30개부터 구축

최 상무는 최근 AI가 데이터 정리 작업까지 수행하면서 온톨로지 구축 부담이 줄고 있다고 설명했다. 그는 "이제는 기존 데이터로 바로 시작해 AI가 정리하고 사람이 검증할 수 있다"며 "중요한 것은 데이터가 깨끗한지가 아니라 AI가 실제로 쓸 수 있는 데이터인지를 판단하는 것"이라고 말했다.

온톨로지를 활용하면 기업 내부의 판단 기준과 노하우를 조직의 자산으로 남길 수도 있다. 현업 숙련자가 가진 경험을 규칙과 근거 형태로 정리하면 담당자가 떠나거나 AI 모델이 바뀌더라도 이를 재사용할 수 있다는 설명이다.

또한 온톨로지를 활용하면 AI의 역할을 답변에서 실제 업무 실행까지 넓힐 수 있다고 봤다. 다만 초기에는 사람이 판단 결과를 확인한 뒤 실행하는 '승인 후 실행' 방식부터 적용해야 한다고 제안했다.

최 상무는 "기업들이 전체 데이터를 한꺼번에 정비하기보다 현업에서 숫자와 근거가 필요한 질문 30개 정도를 먼저 선정해 필요한 용어와 규칙부터 정리해야 한다"며 "완벽한 데이터를 기다리는 것은 이제 의미가 없다고 생각한다"며 "정확하게 해결해야 할 문제를 추린 뒤 30개부터 시작하면 된다"고 말했다.