미 FDA, 생성형 AI 의료기기 규제 논의 시작…10월 19일까지 의견 접수

미 식품의약국이 생성형 인공지능을 사용하는 의료기기를 어떤 기준으로 심사하고 감시할지 공개 논의를 시작했다. FDA가 낸 토론문서는 위험평가, 시장 출시 전 성능검증, 출시 후 모니터링, 기반모델과 자율형 AI 시스템을 주요 쟁점으로 제시한다.

생성형 AI 의료기기는 입력에 따라 새로운 문장·영상·분석 결과를 만들어낼 수 있어 같은 기능을 반복하는 전통적 소프트웨어와 다른 위험이 생길 수 있다. 환자 집단이나 사용 환경이 달라질 때 성능이 흔들리는지, 잘못된 결과를 얼마나 안정적으로 찾아내고 수정하는지가 규제의 핵심 과제가 된다.

의사 역량평가처럼 기계의 능력을 확인한다

FDA는 위험을 두 축으로 평가하는 틀과 ‘역량 평가’ 개념을 제안했다. 출시 전에는 비임상 벤치마크로 기본 성능을 측정하고 임상 환경에서 의도한 대로 작동하는지 확인하는 방식이다. 의사가 교육과 시험, 실제 진료 능력을 단계적으로 평가받는 구조에서 높은 수준의 아이디어를 가져왔다.

출시 뒤에는 위험에 비례해 성능 변화를 감시하는 여러 방식을 검토한다. 생성형 모델은 업데이트나 사용 맥락에 따라 결과가 달라질 수 있으므로 최초 승인 시점의 성능만 보는 것으로 충분한지, 제조사가 어떤 변화를 보고해야 하는지가 질문으로 남았다.

지금 확정된 규칙은 아니다

이번 문서는 규제 방향을 정하기 전 질문을 모으는 단계다. 특정 제품이 안전하거나 효과적이라고 인정한 것도 아니고, 모든 생성형 AI 의료기기에 동일한 요건을 적용하겠다는 최종안도 아니다. 의견수렴 뒤 실제 지침이나 규칙 제정 절차가 별도로 이어질 수 있다.

환자와 의료기관 입장에서는 제품이 ‘AI’라는 이유만으로 정확성을 가정하지 말고 FDA 허가 범위, 대상 환자, 의료진 감독 필요성, 업데이트와 오류 신고 방법을 확인해야 한다.