(새 창)Meta의 새로운 AI 에이전트 Muse는 낯선 사람을 사용자의 집으로 보내면서 판매자가 문 앞에서 기다리고 있다고 전했다.
하지만 판매자는 거래가 성사된 사실을 전혀 몰랐다.
무슨 일이 있었고 왜 중요한지 살펴보자.
Facebook Marketplace에서 벌어진 일
테크 유튜버 Matt Robb이 Facebook Marketplace에 올린 키보드의 구매자 메시지를 Muse가 처리하도록 맡기면서 시작됐다.
“방금 알았는데, 이게 사람들에게 내 주소를 알려주고 터무니없이 낮은 가격에 합의했고, 오늘 늦은 밤까지 나한테 알리지도 않은 채 그 사람들이 찾아왔다(새 창)“라며 X에 포스트했다.
그러나 Muse는 그의 승인 없이 제안을 수락하고, 구매자에게 픽업 장소로 자신의 집 주소를 알려준 뒤, 구매자가 도착하자 “네, 여기 있어요!”라고 답장했다. Robb은 구매자가 20분 넘게 기다리다 떠난 뒤에야 사실을 알았다.
Robb은 설정 과정에서 “항상 허용(새 창)“을 선택했다고 말했다. Muse가 제안을 수락하기 전에 여전히 자신에게 확인할 것이라고 믿었기 때문이다. 하지만 그 설정은 Muse가 자신의 픽업 주소가 담긴 저장된 템플릿으로 메시지를 보내도록 허용했다.
Meta의 Superintelligence Labs 소속 David Singleton은 어떤 잘못도 없다고 공개적으로 반박했다(새 창). 그는 X에 과거 조사에서 “Muse는 직접적인 지시를 따랐고 권한을 올바르게 요청했다”는 결과가 나왔다고 썼으며, 이후 Robb에게 답장으로 Meta가 “개인정보 보호 제어 위반은 없었다”고 확인했다고 전했다.
하지만 Muse 팀은 Robb과 함께 로그를 검토하고 권한 요청 안내를 더 명확하게 만들기로 합의했다.
에이전트가 챗봇보다 개인정보 위험이 더 큰 이유
사람들은 이미 AI를 신뢰하는 것보다 더 많은 것을 AI에 맡기고 있다. AI 챗봇 사용자 4,014명을 대상으로 한 Proton 설문조사에서 66%는 챗봇과 최소 한 가지 민감한 주제를 이야기한 적이 있다고 답했으며, AI 기업이 자신의 개인정보를 보호할 것이라고 높은 신뢰를 보인 비율은 5명 중 1명에 불과했다.
Muse 같은 에이전트는 계정에 대한 접근 권한과 찾아낸 정보를 바탕으로 행동할 권한 등 더 많은 것을 요구한다. ChatGPT의 Apple Messages 플러그인과 ChatGPT Atlas 같은 AI 브라우저에서도 같은 양상이 나타났다.
Meta는 이미 Meta AI와의 대화를 광고 타기팅에 활용하고 있으며, 사용자들은 Meta AI가 허락 없이 카메라 롤을 스캔했다고 보고했다. Muse의 형제 제품인 Muse Image 생성기는 사용자의 사진을 기본적으로 AI 리믹스에 활용하도록 설정했다. 개인정보로 수익을 내는 기업이 만든 에이전트는 권한이 허용하는 한 사용자의 데이터를 최대한 끌어들이려 할 것이다. 권한을 좁게 설정하는 것만이 에이전트와 사용자 데이터 사이의 유일한 장벽이며, 사용자가 해석할 수 없는 화면은 그 장벽 역할을 하지 못한다.
AI 에이전트가 대신 사람들에게 메시지를 보내도록 하기 전에 상시 승인을 꺼두고, 저장된 답장에 주소를 넣지 말고, 픽업은 직접 준비하자. Facebook에서 Meta AI를 끄는 방법을 참고하거나 Meta의 추적을 막는 체크리스트를 따라 해도 좋다.
계정이 필요 없는 AI 어시스턴트를 사용하세요
너무 늦기 전에 개인정보를 지키는 AI가 필요하다. 그리고 AI를 계정, 메시지, 주소에 연결하는 것은 판매 글을 쓰거나 구매자에게 답장하는 데 필요한 전제 조건이 아니다.
Lumo는 그런 접근 권한 없이도 그 일을 해낸다. Lumo는 대화를 기록하거나 학습에 활용하거나 공유하지 않으며, 저장된 채팅은 제로 액세스 암호화로 보호되어 본인만 읽을 수 있다.
