프롬프트를 입력할 때마다 AI 연구소는 매일 여러분의 비즈니스 데이터를 더 많이 흡수하고 있습니다. 유일한 보호책이 무엇일까요? 학습에 사용하지 않겠다는 모호한 약속뿐입니다.
최근 Lawfare 분석(새 창)은 기업이 소수의 강력한 AI 연구소에 데이터를 넘기면, 그 연구소에 자신을 불필요하게 만드는 방법을 가르치는 셈이라고 주장합니다. 저자들은 이를 지식 습득을 통한 대체(RKA)라고 부릅니다.
AI 연구소가 오늘날 여러분의 비즈니스 데이터로 무엇을 하는지 알 방법은 없지만, 세 가지 힘이 맞물려 작용하고 있습니다. 조건을 사실상 마음대로 정할 수 있는 통제되지 않은 권한, “학습”이 무엇을 뜻하는지조차 아직 정리하지 못한 법체계, 그리고 자사 고객과 경쟁할 수 있는 역량과 유인입니다.
여러분의 비즈니스는 결국 자신을 통째로 삼킬 수도 있는 괴물을 먹여 살리고 있는지도 모릅니다.
AI 연구소는 기업 데이터로 학습하나요?
가장 큰 AI 연구소들은 기업 사용자에게 데이터가 기본적으로 개인 정보로 보호된다고 확신시키기 위해 공동으로 노력해 왔습니다.
- OpenAI는 비즈니스 사용자의 ChatGPT 입력과 출력으로 학습하지 않는다고 주장합니다.
- Anthropic은 기본적으로 Claude 모델 학습에서 비즈니스 데이터를 제외한다고 주장합니다.
- Microsoft는 프롬프트, 응답, 데이터가 Copilot 학습에 사용되지 않는다고 주장합니다.
- Google은 사전 허가나 지시 없이는 비즈니스 데이터로 Gemini 모델을 학습하지 않는다고 주장합니다.
- X는 Grok 비즈니스 요금제에서의 상호작용이 자사 모델을 개선하지 않는다고 주장하지만, 자체 SpaceX 직원 데이터는 학습 목적으로 사용할 것으로 보입니다.
실제로 사용자의 개인정보를 보호하겠다는 이들의 약속은 의도적으로 모호하며, 겉보기보다 훨씬 허술합니다:
- 핵심 용어의 정의가 모호합니다. Lawfare는 OpenAI의 기업용 계약이 고객 콘텐츠를 입력과 출력으로 정의한 뒤, 그 정의에 다시 “입력”과 “출력”이라는 단어를 사용한다고 지적합니다. Anthropic의 약관은 학습이 무엇을 뜻하는지 정의하지 않은 채 고객 콘텐츠로 모델을 학습하는 것을 배제합니다.
- 일부 데이터는 약속의 범위를 벗어날 수 있습니다. AI가 생성하지만 사용자에게 보여주지 않는 패턴, 메타데이터, 요약은 입력이나 출력으로 전혀 간주되지 않을 수 있습니다.
- “학습”은 들리는 것보다 좁은 개념입니다. 데이터를 사용해 테스트 벤치마크를 만들거나 시스템 프롬프트를 조정하거나 별도의 안전 도구를 학습하는 것은 포함되지 않을 수 있습니다.
- 약관은 변경될 수 있습니다. 공급업체는 일반적으로 약관을 변경할 권리를 보유하며, 새로운 모델이 출시될 때마다 약관을 재설정할 기회가 생깁니다.
- 확인할 방법이 없습니다. 학습에 무엇이 들어가는지는 해당 연구소만 알고 있습니다. 보안 사고가 발생해도 알아차리기가 거의 불가능합니다. Proton 창립자 겸 CEO Andy Yen은 한번 AI에 정보를 공유하면 실제로 되돌릴 수 없다고 경고했습니다. 그는 머지않아 AI가 “여러분 자신보다 여러분을 더 잘 알 수도 있다”(새 창)고 주장합니다. 비즈니스에서는 위험이 더 큽니다.
비즈니스가 잃을 수 있는 것
AI가 비즈니스에 대해 학습한 내용이 바로 경쟁력을 만듭니다. 빅테크는 이를 잘 알고 있습니다.
2019년부터 2022년까지 진행된 사건에서 유럽연합 집행위원회는 아마존이 자사 소매 사업에 활용하기 위해 타사 판매자의 비공개 데이터를 사용한 혐의를 조사했습니다. 사실상 판매자 자신의 데이터를 이용해 그들과 경쟁한 것입니다. 아마존은 이를 중단하기로 약속했고, 이후 해당 금지 조항은 디지털시장법에 명문화되었습니다.
일부 산업에서는 경쟁 우위만 문제가 되는 것이 아닙니다. 규정 준수도 위험에 처합니다. 의료와 금융 분야 기업은 HIPAA, GDPR 같은 규정에 따라 민감한 정보를 보호할 법적 의무가 있습니다. 이러한 규정은 개인 데이터 보호에 관해 명확하지만, AI 산업이 너무 새롭다 보니 회색 지대가 커지고 있습니다.
그리고 이제 AI가 회의 기록 도구, 이메일, 일상적인 업무 흐름에 내장되면서, 채팅 창에 머물던 때보다 비즈니스의 훨씬 더 많은 부분에 영향을 미칩니다.
AI 연구소가 얻을 수 있는 것
AI 연구소는 가능한 한 많은 데이터를 흡수할 재정적, 경쟁적 유인을 가지고 있습니다.
AI 시장은 계속 극적으로 성장할 전망이며, Gartner는 2030년까지 AI가 모든 IT 업무에 영향을 미칠 것으로 예측합니다. 또한 AI 지출이 2026년에 2.5조 달러에 달해 전년 대비 44% 증가할 것으로 전망했습니다. 상당한 학습 자료 없이 더 지능적인 AI 모델을 계속 개발해야 한다는 과제를 고려하면, AI 기업들은 기업 고객으로부터 이익을 얻을 방법을 모색하기 시작할 가능성이 큽니다.
폭발적인 수요로 인해 AI 연구소는 모델을 개발할 방법을 점점 더 창의적으로 찾아야 하는 상황입니다. 그리고 비즈니스 데이터가 이들 연구소에 확실히 가치 있다는 점은 분명합니다. Google은 8월 파산한 항공사 Spirit Airlines의 데이터를 사들이는 입찰에서 1,000만 달러를 제시해 낙찰받았습니다. 객실승무원 협회(Association of Flight Attendants)에 따르면 이 데이터에는 직원의 민감 정보가 포함되어 있습니다. 해당 데이터는 직원의 동의 없이 흡수되어 Google의 AI 모델 학습에 사용될 수 있습니다.
OpenAI는 비즈니스 사용자에 대해 자사 제품의 입력이나 출력으로 학습하지 않는다고 주장합니다. 하지만 이 데이터가 기업에 지닌 막대한 가치를 고려하면, 이제 데이터 처리와 관련된 AI 업계의 법적 지위를 살펴볼 필요가 있습니다.
어쩌면 오지 않을 규정에 기댈 수는 없습니다
규정이 비즈니스 데이터를 가장 큰 AI 연구소로부터 보호할 수 있을까요? 이를 파악하려면 업계의 재정적, 정치적 현실을 살펴봐야 합니다.
미국은 AI를 주도하고 있습니다. Stanford의 인공지능 지수 보고서에 따르면, 세계에서 가장 많은 59개의 주목할 만한 모델이 미국에서 운영되고 있습니다. 이러한 주도권은 주목할 만합니다. 3월에 백악관은 AI 규제를 위한 국가 정책 프레임워크를 발표했습니다. 이는 “미국의 권리와 혁신을 보호하고, 미국의 국가 경쟁력을 저해할 주별 규정의 파편화를 막기 위해” 주 차원의 법률을 연방 AI 정책 프레임워크로 대체할 것을 요구합니다. 이 프레임워크는 AI를 규제하는 주 차원의 법률이 “글로벌 AI 주도권을 달성하기 위한 미국의 국가 전략에 반하는 행동”을 하도록 허용해서는 안 된다고 명시합니다.
미국 정부가 미국 밖에 있을 수도 있는 개별 기업의 데이터 개인정보 권리를 우선시할 가능성이 더 클까요? 아니면 자국 AI 제국의 확장 권리를 우선시할 가능성이 더 클까요? 유럽 기업은 미국의 AI 도구가 자신의 데이터 주권을 우선시할 것이라고 보장할 수 없습니다. 가장 큰 AI 연구소들이 미국에서 운영되고 있어, 변화의 기로가 다가오고 있습니다.
기업용 AI를 위한 더 나은 선택
규정을 기대하거나 개인정보취급방침을 계속 따라가는 대신, 기업에는 더 쉽고 효과적인 선택지가 있습니다. 바로 개인정보 보호를 위해 만들어진 AI 도구를 선택하는 것입니다. 착취 없는 혁신의 여지는 충분합니다. 선택한 AI 도구는 그저 그 역할에 머물러야 합니다. 여러분을 돕는 AI 도구여야 하며, 여러분의 자리를 대신할 경쟁자가 되도록 학습시키는 대상이 아니어야 합니다. 영업 비밀을 빼내지 않으면서 시간이 지나며 성장해 제 역할을 다하고자 해야 합니다.
Proton은 이러한 요구를 충족하기 위해 Lumo를 만들었습니다. 사용자 데이터를 수집하거나 착취할 유인이 없기에 AI는 기업에 혁신적인 도구가 될 수 있습니다. Lumo는 비즈니스 채팅 기록을 남기지 않아 데이터를 타사와 정부의 감시로부터 보호합니다. 광고 없는 비즈니스 모델을 채택하고 빅테크나 벤처 캐피털의 투자도 받지 않기에, Lumo의 유일한 유인은 최상의 비즈니스 지원을 제공하는 것입니다. Proton은 기업으로서 Proton Foundation의 지배를 받으며, 이는 산업적 지배가 아닌 사람들의 이익을 위해 행동한다는 뜻입니다.
스위스에 본사를 둔 Proton은 엄격한 데이터 개인정보 보호법과 GDPR의 규제도 받습니다. 코드와 모델이 모두 오픈 소스이므로 어떤 기업이든 우리의 주장을 검증할 수 있습니다. Lumo는 AI가 마땅히 해야 할 일, 즉 착취 없는 지원을 제공하도록 설계되었습니다. 빅테크의 AI 도구 대신 유럽산 대안을 선택하는 것이 규제받지 않는 신뢰할 수 없는 AI 연구소로부터 스스로를 보호하는 기업의 최선의 방법입니다.
