첨단AI 의료제품 레드팀 챌린지 9월 개최… 의료 AI 안전성 점검

9월 3~4일 노보텔 앰배서더 서울 동대문서 진행
STA테스팅컨설팅 개발 시험평가 플랫폼 적용

첨단 AI 디지털 의료제품 레드팀 챌린지 및 기술 워크숍 조직위원회 회의 / 조직위원회 사무국 제공

식품의약품안전처가 오는 9월 ‘2026 첨단AI 의료제품 레드팀 챌린지 및 기술 워크숍’을 개최한다. 올해 행사는 평가 대상 모델 확대와 의료 AI 전용 시험평가 플랫폼 도입 등을 통해 의료 AI 제품의 안전성·보안성 점검 방식을 고도화하는 방향으로 진행된다.

식약처가 주최하고 한국전자통신연구원(ETRI), 분당서울대학교병원, ㈜STA테스팅컨설팅, 한국화학융합시험연구원(KTR)이 공동 주관하는 이번 행사는 지난 20일 서울 웨스틴 조선호텔에서 열린 조직위원회 회의에서 개최 계획이 확정됐다. 회의에서는 2025년 운영 결과와 2026년 운영·홍보 계획 등이 논의됐다.

행사는 오는 9월 3일부터 4일까지 노보텔 앰배서더 서울 동대문 호텔에서 진행된다. 행사 공식 홈페이지에는 장소가 노보텔 앰배서더 서울 동대문 그랜드볼룸(B1F)으로 안내돼 있다. 의료 AI 및 AI 보안·시험 분야 전문가 200여 명이 참여할 예정이며, 첫째 날에는 레드팀 챌린지, 둘째 날에는 기술 워크숍과 시상식이 열린다.

올해 챌린지는 국내외 대표 LLM·FM과 의료 특화 모델 등 총 15종을 대상으로 운영될 예정이다. 조직위는 대상 모델 규모가 지난해보다 약 1.5배 확대되는 수준이라고 설명했다.

이번 행사에서는 ㈜STA테스팅컨설팅이 식약처 R&D 과제로 개발한 ‘생성형 AI 디지털의료제품 레드팀 시험평가 플랫폼’이 운영 인프라로 적용된다. 해당 플랫폼은 의료제품에 특화된 적대적 공격 시나리오 설계부터 시험 환경 제공, 결과 수집·분석, 취약점 재현 로그 관리까지 레드팀 전 과정을 지원하는 의료 AI 전용 시험평가 플랫폼이다.

STA테스팅컨설팅 측은 해당 플랫폼이 의료 AI 제품 인허가 단계에서 활용할 수 있는 신뢰성·안전성 평가 체계로 확장될 수 있도록 설계됐으며, 이번 챌린지에서 실제 운영 환경 검증이 이뤄질 예정이라고 설명했다.

평가는 기술적 난이도와 안전·위해도, 취약점 재현성, 공격의 창의성·다양성 등을 기준으로 진행된다. 지난해 행사에는 47개 팀, 100여 명이 참여했으며, 국내외 주요 LLM을 대상으로 의료 분야에서 발생할 수 있는 위험 요소와 취약점을 점검했다.

둘째 날 열리는 기술 워크숍에서는 의료 AI 안전과 제품 평가, 글로벌 규제 조화, 기술·표준 동향 등이 주요 의제로 다뤄진다. 점심시간에는 ‘첨단 의료AI 안전 포럼’도 함께 운영될 예정이다.

한편 이번 행사에는 국가인공지능전략위원회, 보건복지부, 보건산업진흥원, 한국인터넷진흥원, 대한의료인공지능학회 등 유관 기관과 업스테이지, AIM intelligence 등 기업이 후원 기관으로 참여한다.

- Copyright ⓒ 조선비즈 & Chosun.com -