[기자수첩] AI 만든 이들의 '위험 경고'…한국형 행동강령 논의할 때

[아이뉴스24 안세준 기자] 인공지능(AI) 발전 속도가 빨라지면서 안전을 둘러싼 우려가 커지고 있다. 인간의 통제를 벗어나거나 예상하지 못한 방식으로 작동할 가능성 때문이다. 이제는 AI를 얼마나 빠르게 발전시킬 것인지뿐 아니라 어디까지 허용할 것인지도 고민해야 할 시점이다.

이런 경고는 AI 산업의 최전선에서 나오고 있다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 AI 모델의 능력을 발전시키는 속도를 늦춰야 한다고 공개적으로 주장했다. 안전 대책을 마련할 시간을 확보하지 못하면 AI 발전 속도를 인간이 이해하고 통제하기 어려워질 수 있다는 이유에서다. 샘 올트먼 오픈AI CEO도 이에 동의하며 외부 독립 평가자가 자사 AI 모델 안전성을 검증하도록 하겠다는 뜻을 밝혔다.

마이크로소프트(MS)가 최근 내놓은 인간주의적 AI(Humanist AI) 행동강령 초안도 이런 고민을 보여준다. MS는 AI를 인간의 통제 아래 두는 것을 핵심 원칙으로 삼았다. AI가 인간의 수정이나 종료 지시에 저항해서는 안 되고, 인간이 이해할 수 있는 방식으로 소통해야 한다는 등 AI가 지켜야 할 구체적인 행동 기준을 제시했다.

한국도 AI 윤리에 대한 큰 방향은 마련했다. 과학기술정보통신부와 정보통신정책연구원(KISDI)은 지난달 과학기술관계장관회의 심의·의결을 거쳐 '대한민국 인공지능 윤리원칙'을 확정했다. 인간중심성과 프라이버시 보호, 공정성, 책임성, 안전성 등을 AI 개발과 활용 과정에서 지켜야 할 원칙으로 제시했다. 법적 의무를 부과하는 규제가 아닌 자율 가이드다.

하지만 큰 방향을 제시하는 것만으로는 부족하다. 한발 더 나아갈 필요가 있다. 정부가 제시한 윤리원칙을 바탕으로 AI가 실제로 어떤 행동을 해야 하고 무엇을 하지 말아야 하는지를 보다 구체화한 '한국형 AI 행동강령'을 논의해볼 만하다.

윤리 원칙이 AI가 지향해야 할 방향이라면 행동강령은 이를 실제 현장에서 작동시키는 기준이다. 기업마다 제각각인 기준만으로 대응하는 데도 한계가 있다. AI 개발 경쟁과 별개로 안전과 윤리만큼은 업계가 공유할 수 있는 공통의 기준을 마련할 필요가 있다.

AI 경쟁에서 속도를 늦출 이유는 없다. 다만 AI가 더 많은 판단과 행동을 인간 대신 수행하게 될수록 그 AI가 따라야 할 기준도 함께 구체화돼야 한다. 대한민국 AI 윤리원칙으로 '어디로 갈 것인지'를 정했다면 이제는 '어떻게 갈 것인지'에 답할 차례다. 정부와 산업계, 학계가 머리를 맞대고 한국형 AI 행동강령에 대한 논의를 시작해야 하는 이유다.