유럽 내 책임 있는 AI를 위한 오픈AI의 노력

매일 수백만 명의 유럽인들이 OpenAI의 도구를 사용하여 학습, 창작, 업무 및 일상적인 작업을 관리하고 있습니다. 이러한 도구는 또한 다양한 규모의 기업과 정부를 지원합니다. 우리는 책임 있는 AI가 유럽의 경쟁력과 번영을 촉진할 수 있다고 믿습니다. EU AI 법안이 다음 단계로 접어들면서, 우리는 EU 프레임워크에 맞춰 안전성, 보안, 투명성 및 출처에 대한 접근 방식을 강화한 방법과 AI가 발전함에 따라 우리의 관행을 어떻게 발전시킬 것인지 공유하고자 합니다.

책임 있는 AI에 대한 우리의 오랜 약속

우리의 사명은 인공지능이 인류 전체에 이익이 되도록 하는 것입니다. 이 사명은 AI의 이점을 극대화하고 접근성을 넓히며 위험을 관리하는 지속적인 책임을 수반합니다. 이러한 이유로, 우리는 수년간 사람들이 AI를 안전하게 활용할 수 있도록 돕는 실용적이고 비례적이며 위험 기반의 규칙을 개발하고 지지해 왔습니다. 이러한 원칙을 염두에 두고, 우리는 EU의 범용 AI(GPAI) 실천 강령과 AI 생성 콘텐츠 투명성 실천 강령을 개발하고 지지했습니다. 이 두 강령은 광범위한 이해관계자 프로세스를 통해 개발되었으며, 안전성, 보안, 투명성, 책임성 및 출처에 대한 우리의 작업을 기반으로 합니다.

안전하고 보안된 AI 구축 및 배포

GPAI 실천 강령은 범용 AI 모델의 투명성, 안전성 및 보안을 위한 공통 프레임워크를 제공합니다. 이 프레임워크를 지원하기 위한 우리의 작업은 내부 거버넌스와 외부 전문가, 정부 및 동료 조직과의 협력에 기반합니다. 우리는 수년간 모델을 출시하기 전에 광범위한 테스트를 수행하고, 주요 출시 시 시스템 카드를 공개하며, 외부 전문가를 모델 테스트에 참여시키고, 모델 사양을 공개하여 모델 행동을 형성하는 방법을 투명하게 유지해 왔습니다.

우리는 또한 이 작업의 거버넌스 프레임워크를 강화해 왔습니다. 2023년에 도입되고 2025년에 업데이트된 준비 프레임워크는 고급 AI 시스템에서 발생할 수 있는 심각한 위험을 식별, 평가 및 관리하는 방법을 제시합니다. 우리의 프론티어 거버넌스 프레임워크는 이 기반을 바탕으로 안전 및 보안 관행이 EU AI 법안의 GPAI 코드와 같은 새로운 법적 요구 사항과 어떻게 일치하는지를 설명합니다. 이러한 프레임워크는 책임 있는 AI 원칙을 위험 평가, 보호 조치, 모델 보고, 보안, 사고 대응, 외부 전문가 입력 및 지속적인 업데이트에 대한 실질적인 결정으로 전환하는 데 도움을 줍니다.

책임 있는 AI 거버넌스는 한 회사의 노력만으로는 충분하지 않습니다. 프론티어 모델 포럼, 미국 CAISI 및 영국 AISI와의 협력, 제3자 평가 관행에 대한 작업을 통해 우리는 생태계 전반에 걸쳐 공유 안전 연구, 외부 테스트 및 명확한 평가 기준을 지원해 왔습니다.

투명성과 신뢰 증진

AI 생성 콘텐츠 투명성 실천 강령에 대한 우리의 지원은 AI 생성 미디어의 출처를 개선하기 위한 수년간의 연구, 제품 개발 및 협력을 기반으로 합니다. 사람들은 온라인에서 보는 콘텐츠가 AI로 생성되었는지 또는 편집되었는지에 대한 더 나은 맥락을 가져야 합니다. OpenAI의 출처 접근 방식은 두 가지 시스템에 의존합니다. 콘텐츠 자격 증명(C2PA)은 콘텐츠에 세부적인 맥락을 제공하며, SynthID 워터마크는 메타데이터가 남지 않을 때 신호를 유지하는 데 도움을 줍니다. 우리는 이미지뿐만 아니라 오디오 출력에도 이 작업을 확장하고 있습니다. 코드에 따른 우리의 약속에 따라, 우리는 텍스트를 포함한 다양한 형식에 대한 출처 조치를 확장하기 위해 노력하고 있으며, 표준과 도구가 성숙해짐에 따라 이를 계속 발전시킬 것입니다. 또한, 우리는 고객과 개발자가 투명성 의무를 충족하는 데 사용할 수 있는 신호, 도구 및 지침을 제공하여 지원하고자 합니다. 출처는 아직 발전 중인 분야입니다. 메타데이터는 손실될 수 있고, 레이블은 플랫폼 간에 이동하지 않을 수 있으며, 단일 신호가 완벽하지 않을 수 있습니다. 그렇기 때문에 우리는 계층화된 접근 방식을 지지하며, 더 넓은 생태계와의 지속적인 협력을 중요시합니다.

실무에서의 거버넌스 적응: 사이버 보안 예시

사이버 보안은 동적이고 실용적인 거버넌스가 특히 중요한 분야입니다. 취약점을 식별하고 수정하는 데 도움을 줄 수 있는 동일한 기능이 새로운 오용 위험을 초래할 수도 있습니다. 우리의 접근 방식은 신뢰할 수 있는 사이버 액세스(TAC) 프로그램을 통해 합법적인 방어자가 AI를 사용할 수 있도록 지원하면서 오용을 줄이는 것입니다.

우리는 이러한 고급 기능을 배포하고 유럽의 방어자를 지원하기 위해 노력했습니다. 2026년 5월 초에 OpenAI EU 사이버 액션 플랜을 시작한 이후, 우리는 EU 및 국가 사이버 기관, 민간 부문 파트너 및 중요 인프라 운영자와 협력하여 가장 진보된 사이버 모델을 제공하고 궁극적으로 대륙 전역의 사이버 회복력을 강화했습니다. 이 접근 방식은 고급 AI의 위험을 해결하면서 사이버 회복력을 강화하기 위해 고급 AI 시스템에 대한 안전한 접근을 포함한 유럽 위원회의 사이버 보안 및 인공지능 액션 플랜과 일치합니다.

전체 생태계와 함께 지속적인 작업

EU AI 법안의 구현이 계속됨에 따라, 우리는 규제 기관 및 더 넓은 생태계로부터 배우며 우리의 준수 접근 방식을 계속 강화할 것입니다. 기술이 발전함에 따라 규칙은 유연성을 유지하여 사람, 기업 및 조직이 혜택을 누릴 수 있도록 해야 합니다. 실용적이고 비례적이며 위험 기반의 접근 방식이 유럽이 지능 시대의 혜택을 실현하는 데 필수적일 것입니다.