← AI NOW · AI 소식과 변화

OpenAI, 아동 성착취물 탐지 분류기 공개…승인 기관에 무료 API 제공

OpenAI가 기존 해시 목록에 없는 이미지와 AI 생성 의심 자료까지 선별하는 새 분류기를 발표했다. 검증된 기관에 무료 API 접근을 제공하지만 점수만으로 불법 여부를 확정할 수 없고 전문 인력의 검토가 필요하다.

OpenAI는 2026년 11월 16일 아동 성착취물(CSAM) 의심 이미지를 선별하는 이미지 분류기와 모델 카드를 공개했다. 공식 글에는 날짜만 표시돼 정확한 발표 시각과 시간대는 확인되지 않는다. 새 도구는 알려진 이미지의 해시와 일치하는지 확인하는 방식으로 찾기 어려운 신규 이미지와 AI 생성 의심 이미지를 위험 점수로 표시한다. OpenAI는 심사를 통과한 아동 안전 관련 기관에 API 접근을 무료로 제공하겠다고 밝혔다. 일반 사용자가 바로 켜는 ChatGPT 기능이나 누구에게나 열린 공개 API는 아니다.

운영 방식의 핵심은 분류기가 판결을 내리는 대신 사람이 검토할 대상을 정렬한다는 점이다. 모델 카드는 일반 CSAM 의심과 AI 생성 의심에 별도 점수를 준다고 설명한다. 두 점수는 상호 배타적이지 않고, AI 생성 의심 점수도 이미지의 출처를 증명하지 못한다. 점수만으로 이미지가 불법인지, 신고해야 하는지를 결정해서는 안 된다. 관련 법과 보고 의무는 관할 지역과 상황에 따라 달라 전문 검토가 필요하다.

회사 자체 평가에서는 기존 보호 체계와 비슷한 수준의 자료를 찾으면서 검토 대상으로 표시하는 이미지가 48% 적을 수 있다고 추정했다. 이는 OpenAI의 특정 데이터·운영 임계값에서 얻은 비교 결과이며 모든 플랫폼의 성능 보증이 아니다. 모델 카드도 학습·평가 자료 사이의 완전한 중복 제거가 어려웠고, 일부 인구집단의 탐지율 차이가 관찰됐다고 적는다. 따라서 운영자는 누락과 오탐, 인간 검토 부담을 함께 확인해야 한다.

OpenAI는 별도로 ChatGPT에서 유해한 요청을 중단하고 도움을 안내하는 경고, 개발자용 안전 지침도 발표했다. 이런 서비스 조치와 이미지 분류기의 기관용 접근은 서로 다른 제공 범위다. AIPATH 독자 중 플랫폼 운영자는 이 발표를 자동 판정 기능의 보급이 아니라 검토 체계에 추가할 수 있는 신호로 이해하는 것이 정확하다.

공식 출처: https://openai.com/index/strengthening-online-child-safety/ · https://deploymentsafety.openai.com/csam-image-classifier

무엇이 바뀌었나요

OpenAI가 CSAM 의심 이미지와 AI 생성 의심 자료를 분류하는 도구를 공개하고 승인 기관에 무료 API 접근을 제공한다고 밝혔다.

왜 중요한가요

기존 해시 매칭만으로 찾기 어려운 자료를 검토 대상으로 선별할 수 있지만 사람의 판단과 신고 절차를 대체하지 않는다.

누구에게 해당하나요

아동 안전 업무를 수행하는 플랫폼·검토 조직과 관련 개발자.

이용 조건

심사를 통과한 기관이 신청하는 무료 API 접근이다. 일반 공개 API 또는 모든 ChatGPT 이용자용 기능은 아니다.

알아둘 한계

위험 점수는 법적 판단이나 생성 출처 증명이 아니다. 자체 평가의 48% 감소 추정은 특정 조건에 한정되고 중복·인구집단별 성능 한계가 남는다.

지금 할 수 있는 일

도입을 검토하는 기관은 공식 모델 카드, 접근 요건, 관할 법과 인간 검토·신고 절차를 함께 확인한다.

출처와 확인 기준

Strengthening the fight against online child sexual abuse ↗

OpenAI · 원문 게시일 미확인

신규 도구·접근 범위·자체 평가의 한계를 독립 설명; 이미지 미사용

OpenAI CSAM Image Classifier Model Card ↗

OpenAI · 원문 게시일 미확인

점수의 의미·평가 조건·한계 확인; 원문 도표·이미지 미복제

정정·삭제 요청: [email protected] ↗
← AI NOW 목록으로