청소년을 위한 안전한 AI 접근, 왜 중요한가?

청소년을 위한 안전한 AI 접근, 왜 중요한가?

청소년들은 AI와 함께 성장하는 첫 세대이며, 이 기술은 그들의 미래에 큰 영향을 미칠 것입니다. 오늘날 거의 90%의 청소년들이 ChatGPT를 사용하여 학습, 정보 습득, 기술 개발 또는 생산성을 높이고 있습니다. 따라서 청소년들이 AI에 접근할 수 있는 것이 매우 중요합니다. 청소년들이 성인이 될 때까지 AI 사용을 제한하는 것은 이전 세대에게 인터넷이나 검색 엔진을 18세까지 사용하지 말라고 하는 것과 같으며, 이는 그들이 시대를 정의하는 기술을 사용하는 데 덜 준비되게 만들 것입니다. 그러나 접근성은 청소년을 위한 보호 장치와 함께 제공되어야 합니다.

최근 OpenAI Academy에서 Oriana McKenzie는 ChatGPT를 통해 더 스마트하게 공부하고 업무를 관리하여 고등학교에서 1등을 차지한 경험을 공유했습니다. 그녀의 이야기는 AI가 청소년의 학습과 창작을 어떻게 도울 수 있는지를 보여줍니다.

청소년들이 이러한 이점을 최대한 활용하려면, 그들의 삶의 단계에 맞춘 강력한 보호 장치가 필요합니다. 이는 청소년들이 자신 있게 탐색하고 학습하며 구축할 수 있도록 하는 자동화된 안전 장치를 포함하며, 그들의 나이에 맞춘 보호 장치를 제공합니다. AI가 더욱 발전함에 따라, 우리의 책임은 청소년들이 이 기술의 혜택을 받을 수 있도록 광범위한 접근성과 연령에 적합한 보호 장치를 결합하는 것입니다.

지난 1년 동안 우리는 청소년을 위한 기본 보호 장치를 강화하고, 연령 예측을 도입하고, 부모 통제를 확장하며, 부모가 건강하고 책임 있는 사용을 지원할 수 있도록 추가 가족 리소스를 제공했습니다. 또한 단순히 답변을 제공하는 것이 아니라 더 깊은 이해를 지원하는 학습 기능을 도입했습니다.

• 우리는 다른 목표와 충돌할 수 있더라도 청소년의 안전을 최우선으로 합니다.
• 필요할 때 현실 세계의 지원을 장려합니다.
• 청소년을 청소년으로 대합니다.
• 명확한 기대치를 설정하여 투명성을 유지합니다.

학습을 위한 도구 개발

학습은 청소년들이 AI로부터 얻을 수 있는 가장 명확한 이점 중 하나입니다. 우리는 청소년들이 적극적으로 참여하고 비판적으로 사고하며 더 깊이 이해할 수 있도록 돕는 도구를 개발하고 있습니다. 학습 모드는 교사, 학습 과학자, 교육 전문가와 협력하여 설계되었으며, 학생들이 문제를 단계별로 해결할 수 있도록 유도 질문, 구조화된 설명, 반성의 기회를 제공합니다. 초기 평가에 따르면 이러한 도구는 학생 성과에 유망한 향상을 보여주었으며, AI가 학습 결과를 지원할 수 있는 방법에 대한 우리의 연구를 돕고 있습니다.

청소년들은 이 모드를 스스로 켤 수 있으며, 부모는 연결된 청소년 계정에서 학습 모드를 직접 활성화할 수 있습니다. 활성화되면, 청소년이 새로운 채팅을 시작할 때 기본적으로 활성화되어 가족들이 ChatGPT를 학교 과제와 학습에 어떻게 사용하는지를 안내할 수 있는 또 다른 방법을 제공합니다.

우리는 또한 청소년들이 주제를 간단한 단계로 나누고, 노트를 학습 가이드로 변환하며, 플래시카드나 연습 문제를 만들고, 증거와 명확성을 확인하는 등의 작업을 쉽게 시작할 수 있도록 교육 중심의 시작 프롬프트를 최근에 도입했습니다.

우리는 대화형 학습 경험을 계속 확장하고 있습니다. 연구에 따르면 사람들이 정보를 수동적으로 소비하는 것보다 개념에 적극적으로 참여할 때 더 효과적으로 학습한다는 것이 일관되게 나타났습니다. 올해 초 출시 이후, 매주 1,800만 명의 사용자가 ChatGPT에서 대화형 수학 및 과학 경험에 참여하고 있으며, 이러한 경험을 적분, 세포 분열, 달의 위상, 광합성 등 250개 이상의 새로운 주제로 확장했습니다. 또한 61개 이상의 언어로 단어 발음을 배우는 데 도움을 주는 발음 경험도 도입했습니다.

내장된 안전 장치로 청소년 보호

우리 시스템이 ChatGPT 사용자가 18세 미만임을 추정하면, 자동으로 더 연령에 적합한 경험을 제공합니다. 청소년들은 여전히 ChatGPT를 사용하여 학습하고 창작하며 탐색할 수 있지만, 그들에게 적합하지 않을 수 있는 콘텐츠에 대한 노출을 줄이기 위한 추가 보호 장치가 마련되어 있습니다. 여기에는 폭력적인 콘텐츠, 자해, 위험한 바이럴 챌린지, 건강하지 않은 신체 이미지 콘텐츠, 위험한 로맨틱 또는 성적 역할 놀이에 대한 강력한 보호 장치가 포함됩니다. ChatGPT가 학습과 창의성을 위한 도구로 남아 있고 현실 세계의 관계를 대체하지 않도록 돕는 것이 우리의 목표입니다.

우리는 또한 ChatGPT를 건강한 습관을 장려하도록 설계하고 있습니다. ChatGPT에서 오랜 시간을 보내는 청소년들은 이제 더 자주 휴식 알림을 받아 잠시 멈추고 자리를 떠나도록 권장합니다. 이러한 알림은 젊은 사람들이 균형 잡힌 기술 습관을 형성하도록 돕는 동시에 학습, 창의성 및 문제 해결을 위해 AI를 사용할 자유를 제공합니다.

우리는 가족들이 청소년의 온라인 경험을 함께 탐색할 수 있도록 돕는 최고의 안전 도구를 믿습니다. 우리는 부모 통제 및 알림을 구축하여 조용한 시간을 설정하고, 음성 모드를 끄고, 이미지 생성 접근을 관리하며, 잠재적인 자해 징후와 같은 고위험 상황에서 알림을 받을 수 있도록 했습니다.

우리는 이러한 알림을 온라인에서 폭력적인 위협이나 폭력 행위를 위반하여 연결된 청소년 계정이 비활성화된 경우를 포함하도록 확장하고 있습니다. 이 접근 방식은 부모가 심각한 일이 발생했을 때 알 수 있도록 하면서도 청소년의 프라이버시를 존중하고 오프라인에서의 대화와 지원을 장려합니다.

이러한 기능을 개발하면서 우리는 온라인 폭력 예방의 선두주자인 Moonshot을 포함한 여러 전문가와 협력하여 이러한 개입이 신중하고 효과적이며 가족들이 필요할 때 대응할 수 있도록 돕는 데 중점을 두었습니다.

외부 전문가, 조직, 개발자 및 규제 기관과의 협력

청소년을 온라인에서 안전하게 보호하는 것은 어느 한 회사가 단독으로 해결할 수 있는 문제가 아닙니다. 우리는 청소년, 부모, 교육자, 아동 안전 전문가, 정신 건강 전문가, 연구자, 정부 및 시민 사회 조직과 긴밀히 협력하고 있습니다. 이러한 파트너십은 청소년의 필요를 더 잘 이해하고, 새로운 위험을 식별하며, 우리의 안전 장치의 효과를 평가하고, 독립적인 전문 지식에 기반한 정책을 보장하는 데 도움을 줍니다.

올해 우리는 가족과 청소년을 위한 안전한 온라인 경험을 옹호하는 오랜 단체인 Family Online Safety Institute (FOSI)에 가입했습니다. 우리는 청소년들이 AI의 혜택을 받을 수 있도록 부모의 권한 부여와 책임 있는 산업 관행을 중심으로 협력할 것입니다. 이 파트너십이 효과적인 방법에 대한 공동 이해를 증진하고, 연령에 적합한 보호 장치와 부모 도구를 강화하며, 청소년들이 AI를 안전하고 책임감 있게 활용할 수 있도록 하는 산업 전반의 노력을 지원하기를 바랍니다.

앞으로의 계획

청소년을 온라인에서 보호하는 것은 지속적인 발전이 필요합니다. 앞으로 몇 달 동안 우리는 연령에 적합한 보호 장치를 강화하고, 부모에게 더 많은 도구와 통제권을 부여하며, 심각한 해악에 대한 보호 장치를 개선하고, 건강한 AI 사용에 대한 연구를 발전시키며, 청소년들이 적극적으로 학습하고 AI를 자신 있게 사용할 수 있도록 돕는 경험을 구축할 것입니다.

우리는 할 일이 더 많다는 것을 알고 있으며, 청소년, 부모, 교육자, 전문가 및 전 세계의 커뮤니티와 협력하여 청소년에게 안전하고 광범위한 접근을 제공하기 위한 노력을 계속할 것입니다.