OpenAI, 정부와 AI 협력 원칙 공개

OpenAI의 정부 및 국가 안보 협력 접근 방식

정부는 점점 더 중요한 작업, 특히 국가 안보 분야에서 최첨단 AI 시스템을 사용하기 시작하고 있습니다. 이는 AI 연구소, 정부, 시민 사회가 민감한 환경에서 이러한 도구를 어떻게 사용할지 협력해야 하는 새로운 과제를 제시합니다.

민주 사회는 AI를 사용하여 사람들을 보호하고, 중요한 인프라를 방어하며, 공공 서비스를 제공하고, 사이버 방어 및 생물학적 보안과 같은 분야에서 새로운 위협에 대응할 수 있어야 한다고 믿습니다. AI는 방어자에게 의미 있는 이점을 제공할 수 있습니다. 그러나 점점 더 강력해지는 AI 시스템은 민주적 책임, 의미 있는 인간 판단, 법치주의를 강화하고 권력을 집중시키기보다는 민주적 기관을 강화하는 방식으로 배치되어야 합니다.

오늘 우리는 정부 파트너십과 기술의 국가 안보 사용에 대한 접근 방식을 투명하게 제공하기 위해 OpenAI의 국가 안보 원칙을 발표합니다.

이 원칙은 기술이 계속 발전함에 따라 국가 안보 및 법 집행 분야에서 보다 포괄적인 접근 방식을 개발하기 위한 회사 전반의 노력을 반영합니다. 우리는 이 과정을 촉진하고 독립적인 판단을 제공하기 위해 국가 안보 전문가인 David Kris를 고용했으며, 회사 전반에 걸쳐 경청 세션을 개최하고 연구 및 안전, 정책 및 정부 파트너십을 포함한 다양한 팀을 대표하는 직원들과 협력했습니다.

우리는 미국 정부 및 동맹 파트너와의 작업을 확장함에 따라 이러한 원칙을 발표하고 있으며, 특히 사이버 및 생물 보안 분야에서 중요한 방어 분야에서 활동하고 있습니다. 지난 달, Daybreak 사이버 방어 프로그램의 일환으로 호주, 캐나다, 일본, 대한민국, 프랑스, 독일, 폴란드, 네덜란드 및 ENISA와 같은 EU 기관과 사이버 파트너십을 위한 신뢰할 수 있는 접근을 이미 확립했습니다. 또한 영국 정부와 사이버, 테스트 및 평가 분야에서 신뢰할 수 있는 파트너십을 구축하고 있습니다. 생물 보안 분야에서도 유사한 접근 방식을 취하고 있습니다. 지난달에는 공중 보건 및 생물 방어 임무를 지원하는 미국 정부 및 동맹 파트너를 대상으로 GPT-Rosalind 모델에 대한 신뢰할 수 있는 접근을 확대한다고 발표했습니다.

이 원칙은 현재 및 미래의 국가 안보 및 법 집행 파트너십, 그리고 전쟁부와의 기존 작업에 적용됩니다. 올해 초 계약을 발표했을 때 몇 가지 계약 제한 사항을 명시했습니다: 대규모 국내 감시를 위한 OpenAI 기술 사용 금지, 자율 무기 시스템을 지시하기 위한 OpenAI 기술 사용 금지, 고위험 자동화 결정에 대한 OpenAI 기술 사용 금지. 이러한 제한 사항은 오늘 공유하는 원칙과 일치합니다.

우리는 기술이 어떻게 사용될 수 있고 사용될 수 없는지 명확히 하고 이에 대해 투명하게 하는 것이 옳다고 믿습니다. 그러나 정부, 특히 국가 안보 분야에서 AI에 대한 가장 중요한 질문 중 많은 부분은 민주적 과정을 통해 답변되어야 합니다. 우리와 같은 회사의 역할은 이러한 결정을 단독으로 내리는 것이 아니라 정보를 제공하는 것입니다. 따라서 국내 감시, 자율 무기 시스템 및 미국 국가 안보에 직접 영향을 미치는 기타 고위험 사용과 같은 일부 가장 높은 위험의 군사적 AI 사용에 대한 보호 장치를 마련하기 위한 입법 노력을 지원합니다.