AI 스스로 숨은 약점 찾는다 外 [과학게시판]

[아이뉴스24 정종오 기자] 한국과학기술원(KAIST, 총장 배충식) 전기및전자공학부 김준모 교수 연구팀이 대규모 언어모델(Large Language Model, LLM)의 안전성을 검증하는 레드팀(Red Teaming, AI를 의도적으로 공격해 취약점을 찾는 안전성 검증 과정) 기술의 한계를 극복한 새로운 프레임워크 ‘스테이블-지플로우넷(Stable-GFlowNet)’을 개발했다.

AI 안전성 검증 기술 ‘스테이블-지플로우넷’ 개발

생성형 AI의 레드팀(Red Teaming)은 프로그램을 배포하기 전에 AI가 유해하거나 위험한 답변을 하도록 유도하는 공격 프롬프트(Attack Prompt, AI의 취약점을 시험하기 위한 질문)를 만들어 숨은 약점을 찾아내는 과정이다. 연구팀이 개발한 스테이블-지플로우넷(Stable-GFlowNet)은 기존 기술이 찾아낸 17개의 고유 공격 유형보다 약 7배 많은 134개의 공격 유형을 발굴하면서도 92%의 높은 공격 성공률을 유지했다.

김준모 교수는 “이번 기술은 적은 데이터와 잡음이 많은 현실적 환경에서도 AI의 다양한 취약점을 안정적으로 찾아낼 수 있다는 점에서 의미가 크다”며 “생성형 AI를 실제 서비스에 적용하기 전에 더 폭넓은 위험 요소를 찾아내고 방어할 수 있어, 더욱 안전하고 신뢰할 수 있는 AI 개발의 핵심 기반 기술이 될 것으로 기대한다”고 말했다.

미래유망 융합원천기술 연구 본격 착수

과학기술정보통신부(부총리 겸 과학기술정보통신부 장관 배경훈)는 2026년 ‘미래유망융합기술파이오니어’ 사업의 24개 신규 과제를 수행할 기관을 선정하고, 연구에 본격 착수한다.

미래유망융합기술파이오니어 사업은 다양한 기술·분야·주체 간 시너지를 통해 미래 사회 패러다임을 바꿀 수 있는 핵심 원천기술 확보를 위한 융합연구를 지원하는 사업이다. 혁신‧도전적 연구 시도와 초기 성과 검증을 위해 경쟁형 방식으로 지원한다.

극지연구소 강성호 박사, 노르웨이 왕실 공로 훈장

극지연구소 책임연구원이자 전 극지연구소장인 강성호 박사가 노르웨이 국왕 하랄 5세(Harald V)로부터 오피서(Officer) 등급 노르웨이 왕실 공로 훈장(Royal Norwegian Order of Merit)을 받았다. 강 박사는 한국인 최초로 극지 연구 협력에 이바지한 공로로 이 훈장을 받았다.

안네 카리 한센 오빈 주한 노르웨이 대사는 지난 29일 주한 노르웨이 대사관저에서 열린 수여식에서 강 박사에게 훈장 증서와 휘장을 전달했다.

매쓰에듀투어(Math-Tour)

국가수리과학연구소는 지난 23일 인천광역시교육청 소속 교사들을 대상으로 진행된 ‘2026 매쓰에듀투어(Math-Tour)’에 수학문화 강연 ‘미술에 수(數)를 놓다’를 진행했다.

‘미술에 수(數)를 놓다’는 수리연에서 개발한 미술 작품과 표현 기법 속에 담긴 수학적 원리를 소개하는 융합형 수학문화 프로그램이다. 이번 강연에서는 원근법과 닮음의 관계, 소실점이 형성되는 원리 등 미술 속 수학적 개념을 중심으로 수학을 새로운 관점에서 바라보는 내용을 소개했다.

식품연, 세계 인정의 날 기념 산업통상부 단체 표창 수상

한국식품연구원(원장 백현동)은 지난 9일 열린 ‘2026 세계 인정의 날’ 기념식에서 식품 시험·분석 분야의 국제적 신뢰성 제고, K-푸드 수출 경쟁력 강화에 이바지한 공로를 인정받아 산업통상부 장관 단체 표창을 수상했다.

세계 인정의 날(World Accreditation Day)은 국제인정협력체(Global ACI)가 시험·평가·인증 결과의 국제 상호인정 체계 홍보를 위해 2008년 제정한 기념일이다. 우리나라는 산업통상부 국가기술표준원 주최로 인정 제도의 중요성을 널리 알리고, 시험인증산업 발전에 이바지한 단체와 개인을 대상으로 매년 시상식을 개최하고 있다.

한국연구재단, 일본과학기술진흥기구와 제3회 NRF-JST 전략 세미나

한국연구재단(이사장 홍원화)은 일본과학기술진흥기구(Japan Science and Technology Agency, JST)와 함께 지난 29일 한국과 일본의 연구지원 정책 및 제도에 대한 상호 이해를 높이고 두 기관 사이 협력 기반을 강화하기 위한 ‘제3회 NRF-JST 전략 세미나’를 개최했다.

JST는 일본의 연구개발사업 기획·관리, 산학연 협력 촉진, 과학기술 인재 육성 등을 담당하는 일본의 대표적 국가 연구개발 지원기관이다.

퀀텀에어로, 전남테크노파크와 협약

방산 AI 스타트업 퀀텀에어로(Quantum Aero)는 전남테크노파크와 ‘2026년 2차 고흥드론센터 입주기업 역량강화 지원사업’ 협약을 체결하고 GPS 음영 환경에 대응하는 온보드 AI 자율비행 드론 개발에 착수했다.

고흥드론센터 입주기업 역량강화 지원사업은 전남테크노파크가 센터 입주기업의 시제품 제작과 시험·인증을 지원해 기술사업화를 앞당기는 프로그램이다. 퀀텀에어로는 이번 협약을 통해 GPS 음영 환경에서도 자율비행이 가능한 드론 시제품을 제작하고, 무인비행장치 탑재 신뢰성 검증을 함께 추진한다.

국립광주과학관-제주항공우주박물관 공동 워크숍

국립광주과학관(관장 이정구)은 지난 24일 제주항공우주박물관 회의실에서 제주항공우주박물관과 공동 워크숍을 개최하고 인공지능(AI) 활용, ESG경영(환경·사회·투명경영), 조직문화 등 미래 혁신과제를 중심으로 양 기관의 우수사례를 공유하고 협력 방안을 논의했다.

이번 공동 워크숍은 두 기관의 혁신 우수사례를 공유하고 지속적인 교류와 협력 체계를 강화하기 위해 마련됐다. 국립광주과학관의 직원 참여형 혁신조직인 ‘혁신보드’ 구성원과 제주항공우주박물관 직원들이 참석했다.