미국 행정부는 올해 말까지 통과되어야 하는 2026년 국방수권법(NDAA)을 마무리하고 있습니다. 이 법안의 한 조항은 주 수준의 AI 규제에 대해 10년 유예(새 창)를 부과하는 것입니다. 이는 AI 도구가 주민을 위해 데이터를 수집하거나 응답을 생성하는 방식을 통제할 수 있는 모든 주의 능력을 사실상 중단시킬 것입니다.
동일한 유예 조치가 2025년 7월(새 창) One Big Beautiful Bill Act의 일부로 거부되었습니다. 하지만 이번에 행정부는 플랜 B를 준비했습니다. 유예 조치가 NDAA의 일부로 통과되지 않으면 트럼프 행정부는 주정부가 자체적인 AI 규정을 폐기하도록 강제하는 행정 명령 초안을 이미 작성했습니다.
Proton은 규정이 사람들을 보호하는 효과적인 도구이며 연방 표준이 올바른 방향이라고 믿습니다. 치열하게 분열된 정치 환경에서 단일 연방법은 AI 규정을 간소화하여 주마다 파편화된 보호를 방지하고 규칙을 훨씬 더 명확하게 만들 것입니다. 하지만 연방 대안을 제안하기 전에 주법을 삭제하는 것은 더 나쁜 결과를 초래할 것입니다. 빅테크는 안전장치 없이 운영할 수 있게 되어 모든 사람의 안전과 개인정보를 위험에 빠뜨릴 것입니다.
행정부의 AI 가속화 계획
AI 행동 계획(새 창)의 일환으로 행정부는 AI 혁신 가속화, 미국 AI 인프라 구축, 국제 AI 외교 및 안보 주도를 위한 계획을 제시했습니다.
이 의제를 추진하기 위해 연방 정부는 주 수준의 규제를 막겠다는 의지를 표명했습니다. 국방 지출 법안은 반드시 통과되어야 하므로 NDAA에 유예 조치를 추가하는 것은 의회를 통해 유예를 추진하는 영리한 방법입니다. 그러나 최종 예산법에 포함되지 못할 경우 트럼프 대통령은 플랜 B로 행정 명령을 준비(새 창)했습니다.
초안에는 다음이 명시되어 있습니다:
- 미국 AI 기업은 규제 없이 자유롭게 혁신해야 하며, 이는 주의회가 AI 성장을 저해하는 규제 깁기(patchwork)를 만들어서는 안 됨을 의미합니다.
- 명령일로부터 30일 이내에 법무장관은 주 AI 법률에 이의를 제기하는 것이 유일한 목적인 AI 소송 태스크 포스를 구성할 것입니다.
- 명령일로부터 90일 이내에 상무부 장관은 “모델이 진실한 출력을 변경하도록 요구하거나 […] AI 개발자 또는 배포자가 수정 헌법 제1조 또는 헌법의 다른 조항을 위반하는 방식으로 정보를 공개하거나 보고하도록 강요하는” 기존 주법에 대한 평가를 발표할 것입니다.
- 명령일로부터 90일 이내에 상무부 장관은 주가 광대역 형평성 접근 및 배포(BEAD) 프로그램에 따라 남은 자금을 지원받을 수 있는 조건을 명시한 정책 통지를 발표할 것입니다.
- 위에 나열된 평가와 충돌하는 AI 법률이 있는 주는 재량 보조금 프로그램 및 비배포 자금에 대한 평가를 받게 됩니다.
행정 명령과 AI 행동 계획은 행정부의 명확한 의제를 시사합니다. AI 산업에서 미국의 우위를 확보하기 위해 미국은 단일 연방법으로 AI를 규제해야 한다는 것입니다. 하지만 AI 기업이 경쟁자를 앞서도록 돕는 정부의 인센티브와 거의 모든 것에 합의하지 못하는 의회의 무능력을 감안할 때, 단일 규제를 추진하는 것은 규제가 전혀 없는 것과 같아질 수 있습니다.
우리는 규제를 두려워하지 않는 AI 산업이 필요합니다
AI 도구가 등장한 지 얼마 되지 않아 우리의 현실은 뚜렷하게 변했습니다. AI는 우리의 업무와 개인 생활의 일부가 되어 이메일 작성, 아이디어 구상, 관심 주제 조사, 계획 수립을 돕습니다. ChatGPT만 해도 출시 몇 달 만에 사용자 1억 명(새 창)을 달성했습니다.
DeepSeek로 인한 혼란 이후, AI 부문의 개발 가속화는 업계와 정부의 중대한 우려 사항이 되었습니다. OpenAI의 CEO 샘 알트만은 중국과의 AI 군비 경쟁에서 미국의 속도를 늦출 수 있는 규제에 대해 경고(새 창)했습니다.
전 세계 다른 기업과 마찬가지로 미국 기업은 해당 분야에서 혁신하고 경쟁자를 능가할 권리가 있습니다. 하지만 규제를 받지 않을 권리는 없습니다. 미국의 글로벌 AI 지배력을 강화하고 AI 부문이 불충분하게 규제되도록 보장하는 것은 인류의 이익에 부합하지 않습니다.
빅테크는 데이터 규정을 어기고 개인 데이터를 판매하는 것이 이익을 얻는 가장 빠른 길임을 몇 번이고 보여주었습니다. AI에 대한 이익 중심의 접근 방식은 기업이 도구를 사용하는 사람들의 이익에 반하더라도 이익이나 경쟁적 지정학적 이득을 우선시한다는 것을 의미합니다. 최근 몇 년 동안 우리는 불충분한 규제의 대가를 보았습니다:
- 앱 스토어에서 AI 챗봇에 대한 독점(새 창)을 만들려는 시도는 기업들이 극적인 가격 인상(새 창)을 고려하도록 이끌었습니다. 독점을 만들려는 기업들은 또한 개발을 제한하지 않기 위해 자사 도구에 대한 개인정보 보호 우선 개발을 억제(새 창)하는 데 열중하고 있습니다.
- 빅테크 기업들은 어린이, 특히 어린 소녀들을 심리적 피해(새 창)로부터 보호하기 위한 기본적인 안전장치를 적절히 마련하지 않았습니다.
- 온라인 사기와 사기성 광고가 급증하고 있으며, 신고 도구는 이를 발견하지 못하고 기업은 범죄자들이 플랫폼에서 계속 활동하도록 허용하고 있습니다.
- AI 기업 측의 보안 부족으로 인해 데이터 브로커가 AI 데이터를 쉽게 이용할 수 있습니다. 데이터 브로커와 해커는 ‘서비스형 탈옥(jailbreak-as-a-service)’(새 창)을 판매하여 악의적인 행위자를 상업적으로 이용 가능한 AI 도구에 직접 연결하고 데이터를 훔칠 수 있게 합니다.
- 소셜 미디어 플랫폼에는 잘못된 정보가 만연하고 확산을 막기 위한 조치가 충분하지 않아 선거를 전복(새 창)하고 심지어 집단 학살(새 창)을 유발하기도 합니다.
적절한 규제 없이는 AI 기업이 성장에 필요하다고 판단하는 목표를 자유롭게 추구할 것입니다. 보시다시피, 이러한 혁신은 도구를 사용하는 사람들의 희생을 바탕으로 이루어질 가능성이 높습니다.
개인 AI 도구 선택
이 행정 명령이 발효되면 소비자는 AI 공간의 잘못된 관행에 더 취약해질 것입니다. 올바른 보호 조치가 없으면 AI 도구는 디지털 감시 장치가 됩니다. 개인 생활에 대한 정보를 유출(새 창)하고, 민감한 비즈니스 문서를 유출(새 창)하며, 정서적으로 의존(새 창)하도록 부추길 수 있습니다. 미국 AI 도구가 사실상 규제되지 않는다면 시민과 기업 모두에게 안전하지 않을 위험이 큽니다.
정부 규제가 불충분한 상황에서 우리 자신의 안전을 지키고 업계의 더 안전한 관행을 장려하기 위한 최선책은 기술 선택입니다. 사람을 최우선으로 하고 대화 로그를 보관하거나 사용자 대화로 모델을 훈련하지 않는 AI 도구를 우선시해야 합니다. 빅테크가 충분히 규제되지 않더라도 그들의 도구에 대한 안전한 대안은 존재합니다.
우리 커뮤니티가 개인 AI 대안에 관심을 표명한 후, 우리 엔지니어들은 이를 가능하게 하기 위한 기술 탐색을 시작했습니다. 올해 7월, 우리는 전 세계 누구나 미국 중심 도구에서 벗어날 수 있도록 돕기 위해 설계된 AI 어시스턴트 Lumo(새 창)를 소개했습니다. 규제와 감시를 피하는 대신, 우리는 보안 모델과 코드베이스를 공개하여 누구나 Lumo의 작동 방식을 확인할 수 있게 했습니다. 대화 로그를 보관하지 않으므로 기밀로 대화하고 있음을 신뢰할 수 있습니다. 제로 액세스(Zero-access) 암호화는 모든 대화를 보호하며 광고주와 정부가 접근할 수 없도록 보장합니다. 책임감 있는 데이터 관행으로서 EU 내부 또는 외부의 모든 사용자에게 GDPR 원칙을 적용하므로 채팅 기록은 언제든지 삭제할 수 있습니다.
규정을 무시하는 대신, Proton은 엄격한 개인정보 보호법을 적극 옹호(새 창)하고 온오프라인 감시에 반대합니다. 우리의 목표는 항상 개인정보 보호가 최우선인 인터넷을 만드는 것이었습니다. 즉, AI와 같은 빅테크 도구에 대한 대안을 만들고, 미국 기술에 대한 유럽 시장의 의존도를 줄이는 것을 돕는 것입니다. 우리는 항상 이익보다 사람을 옹호할 것입니다.
