미국, 주·연방 협력으로 AI 안전 강화

미국의 AI 안전 강화: 주와 연방의 협력

크리스 레하네, 글로벌 업무 최고 책임자

미국 전역의 주 정부부터 워싱턴, 국제 회의에 이르기까지, 최첨단 AI 거버넌스를 위한 진지한 접근이 형성되고 있습니다. 이들은 함께 AI에 대한 민주적 비전을 발전시키고 있습니다.

캘리포니아, 뉴욕, 그리고 최근에는 일리노이 주가 가장 강력한 AI 시스템을 관리하기 위한 공통 기준을 향해 나아가도록 돕는 최첨단 안전 입법을 추진했습니다.

이러한 노력은 OpenAI가 '역방향 연방주의'라고 부르는 것의 추진력을 반영합니다. 주들이 공통의 프레임워크를 통해 공유된 방향을 설정하는 데 도움을 주고 있습니다. 주도적인 작업이 연방 차원에서 진행 중인 노력과 결합되면서, 국가 표준이 형성되기 시작하고 있으며, 이는 미국이 주도하는 글로벌 AI 프레임워크의 기초를 마련하고 있습니다. 우리는 AI가 소수에게만 이익을 주는 것이 아니라 다수에게 이익을 주기 위해서는 중요한 결정—특히 최첨단 안전과 관련된 결정—이 최첨단 연구소가 아닌 민주적 정부에 의해 이루어져야 한다고 믿습니다.

주 정부의 역할

궁극적으로, 미국은 그 원칙에 기반한 국가 프레임워크에 의해 가장 잘 서비스될 것입니다. 그러나 하나가 없는 상황에서, 주들은 서로 유사한 법률을 통과시킴으로써 그 방향으로 나아갈 수 있습니다. 단계적으로, 그들은 사실상의 국가 표준을 만들 수 있습니다.

안전이 우선이라면, 그러한 국가 표준은 (a) 미국이 혁신을 주도하고, 사이버 보안과 같은 분야에서 AI를 오용하려는 악의적인 행위자들에 맞서 방어할 수 있는 도구를 최적화할 수 있는 글로벌 민주적 AI 스택을 구축할 수 있는 능력을 저해하지 않도록 보장하는 최선의 정책 접근 방식이며, (b) 미국이 국가 표준을 가지고 민주적 가치를 기반으로 한 AI의 안전한 배치를 위한 글로벌 접근 방식을 만드는 데 가장 강력한 위치에 있도록 합니다. 우리는 AI의 안전한 배치를 가장 잘 지원할 국가 및 국제 표준을 마련하는 안전 프레임워크를 만들고자 한다면, 주 정부, 연방 정부, 국제 대화를 연결하는 전략과 목적의 진지함이 필요합니다. 퍼포먼스나 미덕 신호에 의존하는 접근 방식은 여기서 일을 해결하지 못할 것입니다—주 차원의 혼란은 안전에 대한 지속 가능한 접근 방식에 최선의 이익이 아니며, 더 많은 혼란을 초래할 뿐입니다.

이 접근 방식이 성공하려면, 주들은 캘리포니아, 뉴욕, 일리노이처럼 핵심 요소에 계속해서 일치해야 합니다. 일반적으로 이러한 요소는 다음과 같습니다:

• 최첨단 모델에 대한 위험 평가와 그 평가 및 결과의 공개를 포함한 문서화된 안전 프레임워크.
• 심각한 안전 사고의 보고.
• 독립적이고 객관적인 감사를 통한 거버넌스와 책임성.

이 세 주는 함께 최첨단 AI 배치에 민주적 감독을 구축했습니다. 캘리포니아는 핵심 공개 프레임워크를 확립했고, 뉴욕은 이 접근 방식이 여러 관할 구역에서 채택될 수 있음을 보여주었습니다. 일리노이는 주요 공개 사항의 독립적인 검증을 요구함으로써 이를 보완했습니다.

우리는 입법이 종종 통과에 필요한 표를 확보하기 위해 추가 조항을 포함한다는 것을 인식하고 있습니다. 그러나 우리는 이것들이 역방향 연방주의를 통해 사실상의 국가 표준을 만드는 데 필요한 필수 요소라고 믿습니다. 그러한 규율이 없으면, 정책의 확산과 규제 당국이 집행하기 어려운 주 법률의 패치워크, 소비자가 탐색하기 혼란스러운 상황, 특히 스타트업과 소규모 기업에서 안전에 더 잘 투자될 개발자 자원의 전환 위험이 있습니다. 특히, 최근 몇 주 동안 AI 모델이 점점 더 강력해짐에 따라, 정부, 중요한 인프라, 동맹국 및 신뢰할 수 있는 파트너의 손에 도구를 제공할 수 있는 일관된 시스템이 필요합니다.

정책 입안자들은 또한 임무의 확장을 경계해야 합니다. 주들은 중요한 국가 안보 위험을 관리하거나 국가 전체를 대신하여 국가 안보 결정을 내리거나 고도로 기술적인 검토를 수행하도록 요청받아서는 안 됩니다. 이는 연방 전문가가 자원, 전문성, 기밀 시스템에 대한 접근 및 팀과 긴밀히 협력할 수 있는 역량을 갖춘 경우에 더 잘 처리됩니다.

연방 정부의 역할

연방 차원에서, 트럼프 행정부는 가장 강력한 AI 모델의 사이버 테스트를 위한 미국 정부의 프레임워크를 마련하기 위해 기술 및 국가 안보 전문가들과 계속 협력하고 있습니다. 이 프레임워크는 테스트 표준, 일정, 프로세스를 설정할 것입니다. OpenAI는 행정부, 동료 기업, 비즈니스 그룹 및 기타 이해 관계자들과의 건설적인 논의에 참여하여 이 노력을 형성하는 데 도움을 주고 있습니다.

사이버 평가에 대한 지속적인 작업은 일관성이 왜 중요한지를 보여줍니다. 오늘날, 그리고 이해할 만하게도, 모델은 연방 프레임워크가 완성되기 전에 테스트되고 있습니다. 연구소들이 그 과정을 진행하면서, 한 가지 교훈이 분명해졌습니다: 우리는 주와 연방 차원에서 일관되고 반복 가능한 접근 방식을 필요로 합니다. 이는 정부, 중요한 인프라 방어자, 동맹국 및 기타 신뢰할 수 있는 파트너의 손에 가장 강력한 모델을 제공하고자 한다면 필수적입니다. 우리는 이 프레임워크가 8월 초까지 마련되기를 바라는 행정부의 목표를 높이 평가합니다.

연방 테스트 프레임워크는 고급 AI 도구를 정부, 중요한 인프라 방어자, 동맹국 및 기타 신뢰할 수 있는 파트너의 손에 제공하는 데 도움을 줄 것입니다. 이를 통해 민주적 기관을 강화하고 미국이 주도하는 민주적 AI 스택을 구축하는 데 기여할 것입니다. 이제는 미국의 혁신 리드를 민주적 AI를 지원하는 데 사용할 때입니다.

정의되지 않은 연방 프로세스나 주 법률의 패치워크는 일관된 최첨단 안전 체제를 생산하지 못할 것입니다. 우리는 가장 강력한 모델을 평가하는 최고의 테스트 담당자가 있고, 신뢰할 수 있는 방어자가 악의적인 행위자보다 앞서 도구를 빠르게 얻을 수 있도록 보장하는 접근 방식을 필요로 합니다.

의회도 움직이고 있습니다. 양원 모두의 입법자들은 주와 행정부의 발전을 주목하고 있으며, 연방 프레임워크에 대한 제안을 내놓았습니다. 현실적인 통과 경로를 가진 논의 초안은 완벽하지 않을 것입니다. 그러나 우리는 이 작업을 생산적인 진전으로 보고 있으며, 많은 조항이 사려 깊고 지원할 가치가 있다고 믿습니다.

우리는 또한 상원과 하원 지도자들이 국가 거버넌스 및 최첨단 안전 제안에 진지한 노력을 기울이고 있다는 점에 고무되어 있으며, 그들과의 많은 건설적인 대화를 나누었습니다. 이미 방향이 일치하는 법을 제정한 주들의 규모와 영향력을 고려할 때, 이러한 접근 방식을 연방 입법에 통합하면 단일 국가 최첨단 안전 체제를 수립하는 것이 더 쉬워질 것입니다.

OpenAI의 최첨단 안전 청사진은 우리가 그 프레임워크의 필수 요소라고 믿는 것을 제시합니다.

첫째, 연방 정부는 가장 진보된 시스템의 테스트 및 평가를 주도해야 합니다. 최첨단 AI는 주가 완전히 복제할 수 없는 기술 전문성, 자원 및 접근이 필요한 국가 안보 및 공공 안전 문제를 제기합니다.

그 작업은 바이든 대통령 하에 설립되고 트럼프 대통령 하에 강화된 AI 표준 및 혁신 센터(CAISI)를 강화해야 합니다. CAISI는 고급 모델을 평가하고, 최첨단 안전을 사후 책임보다는 사전 예방으로 전환하는 데 필요한 지속 가능한 연방 역량을 제공할 수 있습니다. 연방 입법은 CAISI가 정부의 나머지 부분과 어떻게 협력해야 하는지, 그리고 테스트의 중심에서 어떤 역할을 해야 하는지를 신중히 고려해야 합니다.

둘째, 가장 강력한 시스템을 개발하는 회사는 독립적인 감사, 사건 보고, 강력한 보안 표준, 내부 고발자 보호를 포함한 명확한 요구 사항을 충족해야 합니다.

셋째, 연방 및 주의 노력이 서로를 강화해야 합니다. 모든 주 법률이 동일하지는 않을 것이며, 우리는 전국의 정책 입안자들과 협력하여 안전을 강화하면서 AI의 경제적 이익을 극대화할 수 있기를 기대합니다.

주들은 또한 최첨단 안전 외에도 청소년 보호, 전기 및 환경 정책, AI 교육 및 문해력과 같은 분야에서 민주주의의 실험실로 계속 봉사해야 합니다.

연방 프레임워크는 여전히 필수적입니다. 최첨단 AI는 궁극적으로 민주적 AI를 지원하기 위해 국가 표준, 국가 역량 및 국가 기관이 필요한 국가 안보, 경제 경쟁력 및 공공 안전 문제를 제기합니다.

글로벌 차원

국가 입법은 또한 AI 표준을 위한 미국 주도의 국제 프레임워크에 필수적입니다. 이 아이디어는 몇 주 전 G7에서 브라질, 이집트, 인도, 케냐, 한국과 함께 논의되었으며, 최첨단 연구소의 CEO들이 그러한 프레임워크의 필요성을 논의했습니다. 그 회의 이후, OpenAI CEO 샘 알트만은 _Financial Times_에 "미국 주도의 국제 포럼을 제안했습니다. 이 포럼은 수용된 표준을 확립하고, 역량과 위험에 대한 전문가 및 공정한 분석을 제공하며, 규칙을 따르는 국가와 회사에 기술을 제공할 것입니다." 이번 주, Google DeepMind CEO 데미스 하사비스도 새로운 논문에서 사려 깊은 아이디어를 제시했습니다. 필연적으로 초당적인 연방 입법은 그 국제적 노력을 위한 강력한 기반을 제공할 것입니다.

모멘텀은 이제 모든 수준에서 가시적입니다. 주들은 공통 접근 방식을 확립하고 있습니다. 의회와 행정부는 국가 프레임워크를 구축하고 있습니다. 그리고 글로벌 리더들은 국제 표준에 대해 논의하기 시작했습니다. 각자가 다른 것을 기반으로 구축한다면, 미국은 AI에 대한 민주적 비전에 기반한 글로벌 프레임워크 개발을 주도할 수 있습니다. 그리고 이 민주적 정렬 접근 방식이 AI의 안전을 진정으로 우선시하는 접근 방식입니다.