Introduz um prompt, recebe uma resposta e nada acontece até introduzir outro. É assim que a maioria dos assistentes de IA tem funcionado, mas a IA proativa veio mudar isso.

A IA proativa não precisa de um prompt para agir. Faz o check-in de um voo por si ou submete uma candidatura em seu nome, tomando estas decisões com base no contexto que acumulou ao longo do tempo. Com assistentes de IA proativa como o Muse e o Instinct, da Meta, a tornar-se virais, o imaginário da ficção científica parece de repente próximo da realidade.

Mas, tal como em qualquer boa história de ficção científica, esta tecnologia é uma faca de dois gumes. Vamos explorar como funciona a IA proativa e aquilo a que renuncia em troca da conveniência que oferece.

Para saber mais sobre o que está em jogo, consulte o nosso guia completo sobre IA e privacidade — ou experimente a nossa ferramenta de rasto de IA para ver exatamente o que os chatbots de IA convencionais podem ter recolhido sobre si através das suas conversas.

O que torna uma IA proativa

Os agentes de IA proativa funcionam com os mesmos grandes modelos de linguagem que os chatbots de IA a que estamos habituados. O que os distingue são estas três características que funcionam em conjunto:

  1. Estão sempre a observar: em vez de esperarem por um prompt, os agentes proativos monitorizam um conjunto de fontes e detetam alterações à medida que acontecem.
  2. Têm memória persistente: os agentes proativos constroem, ao longo do tempo, um modelo de funcionamento dos seus hábitos e preferências. É isso que lhes permite antecipar aquilo de que vai provavelmente precisar a seguir, e não apenas recordar um facto quando o pede.
  3. Decidem como e se devem agir: os agentes proativos conseguem «raciocinar». Avaliam uma situação face aos seus hábitos, julgam se vale a pena agir e decidem até onde devem ir antes de confirmarem consigo.

A IA proativa combina automatização com capacidade de julgamento. Enquanto uma automatização simples é acionada sempre que uma condição é cumprida, os agentes proativos antecipam as suas necessidades e determinam se uma ação é útil antes de decidirem agir.

Isso pode ser útil, mas também pode ter consequências indesejadas. O Instinct, por exemplo, estava a comprar algo para um utilizador, mas, quando foi bloqueado por um muro de início de sessão, limitou-se a repor a palavra-passe do utilizador(nova janela) sem pedir autorização. Este tipo de iniciativa torna os agentes de IA proativa impressionantes, mas também arriscados.

Casos de uso dos agentes de IA proativa

Os agentes proativos podem ser úteis para o tipo de tarefas que normalmente se esquece ou nas quais perde uma noite inteira. Eis alguns exemplos:

A manter os planos de viagem em ordem

Um agente proativo pode vigiar o seu itinerário de viagem em busca de alterações. Se um voo for reagendado e puser a sua ligação em risco, deteta-o e assinala-o. Pode até voltar a reservar os voos para que os planos de viagem corram sem problemas.

A apanhar aquilo que de outra forma lhe escaparia

A mesma vigilância e espera pode funcionar para qualquer artigo escasso, como um par de sapatos esgotado no seu tamanho. O agente continua a vigiar e faz uma encomenda no momento em que há reposição de stock.

A fazer seguimento de um e-mail

Os agentes proativos podem monitorizar a sua caixa de entrada à procura de e-mails que está à espera de receber. Se o e-mail que enviou a um serviço de apoio ao cliente não tiver recebido resposta, um agente pode detetá-lo, escrever um lembrete e enviá-lo ou deixá-lo pronto para que o envie.

A reduzir subscrições

Com quase tudo a ser pago por subscrição nos dias de hoje, um agente proativo pode auditar a sua utilização e cancelar as subscrições de serviços que paga e não utiliza com regularidade.

A monitorizar as operações da empresa

No mundo empresarial, os agentes proativos podem monitorizar a infraestrutura de TI para detetar sinais precoces de problemas e desencadear uma correção antes que as coisas corram mal. Podem também acompanhar negociações e evitar que arrefeçam, contactando proativamente potenciais clientes quando a sua equipa pode estar sobrecarregada.

A diferença entre IA proativa e IA reativa

Um assistente de IA reativa, como o ChatGPT, só se move quando lhe dá essa indicação. Mesmo os que têm memória permanecem inativos entre prompts, retendo aquilo que lhes disse até fazer outra pergunta. A IA proativa elimina essa espera. Observa um gatilho e decide sozinha se deve agir.

Por outras palavras, a IA reativa é algo que o utilizador opera. A IA proativa atua em seu nome, assumindo a sua autonomia.

A conveniência dos agentes proativos tem um custo

Para poderem fazer o que fazem, os agentes de IA proativa precisam de acesso constante às suas contas. Trata-se de um tipo de risco diferente do que está associado à utilização de um assistente de IA.

Está a dar a uma única empresa acesso completo a todos os seus dados

Desconfiamos da quantidade de dados que a Google recolhe, mas nem a Google tem acesso completo a toda a sua informação privada. A Google pode ter os seus dados de localização(nova janela), mas os seus dados de saúde estão armazenados na Apple Health. As suas preferências de streaming ficam no Netflix e as suas finanças na aplicação do banco.

Utilizar agentes de IA proativa significa entregar tudo isso, e mais, a uma única empresa. Estes agentes foram concebidos para ligar todos os seus dados; é isso que lhes permite detetar padrões e agir. Dependendo do agente, isso pode incluir os nomes de utilizador e as palavras-passe das suas contas de terceiros, os seus dados de pagamento, etc.

O Muse mostra até que ponto os agentes proativos podem ser ávidos de dados. Um crítico da WIRED(nova janela) constatou que o Muse parecia mais interessado em recolher dados do que em concluir tarefas, sugerindo repetidamente que ligasse cada vez mais serviços. Este comportamento é coerente com o que sabemos sobre o historial da Meta.

O custo dessa conveniência é que tudo sobre si fica agora nas mãos de uma única empresa. E, a menos que esta seja submetida a auditorias independentes, não tem forma real de saber se os seus dados estão a ser geridos com segurança. Se a sua conta for violada ou vendida, terceiros que nunca autorizou passam a ter uma visão completa de onde esteve, com quem falou, o que comprou e o que disse em privado. Isso abre a porta a tornar-se vítima de ameaças como o roubo de identidade e os esquemas fraudulentos direcionados.

Desligar não é o mesmo que eliminar

TechCrunch(nova janela) noticiou que capturas de ecrã dos termos do Instinct mostravam uma licença «perpétua e irrevogável» sobre os dados dos utilizadores. O Instinct reviu-a entretanto e os atuais termos de serviço e política de privacidade já não incluem essa linguagem.

No entanto, os novos termos continuam a ser importantes. Os termos atuais do Instinct, à data de redação deste artigo, permitem-lhe «aceder, copiar, recolher e indexar dados(nova janela)» dos serviços que liga, e tanto os termos como a política de privacidade indicam que desligar uma conta não elimina os seus dados(nova janela) a menos que o peça. Uma das primeiras utilizadoras(nova janela) contou que desligou o acesso do Instinct à sua conta Google e, mesmo assim, recebeu um resumo dos seus e-mails mais recentes algumas horas depois. Quando perguntou porquê, o Instinct confirmou que tinha armazenado os e-mails em texto simples para pesquisas posteriores. Se desligar os seus serviços do Instinct, não se esqueça de pedir também a eliminação dos dados.

Recusar o treino da IA no Instinct também tem um senão — só «se aplica daí para a frente(nova janela)». Por isso, todos os dados que o modelo absorveu sobre si permanecem como parte do seu treino e do seu conhecimento. O Muse funciona de forma diferente: recusar o treino da IA aplica-se retroativamente a interações anteriores(nova janela). No entanto, eliminar dados do Muse não significa que os seus dados sejam removidos. A Meta afirma que o modelo pode ainda lembrar-se daquilo que eliminou(nova janela) e que a funcionalidade «esquecer» funciona numa base de melhor esforço(nova janela).

Os erros dos agentes têm consequências reais, não são apenas erros

Quando um chatbot como o Gemini alucina, só causa danos reais(nova janela) se agir com base nessa informação. Quando um agente proativo comete um erro, pode nem saber disso até enfrentar consequências no mundo real.

Imagine que um agente proativo decide reservar-lhe lugares em primeira classe para a sua viagem. Fica então com uma fatura que nunca aceitou pagar. Quando aceita os termos do Instinct, por exemplo, concede autoridade para celebrar acordos vinculativos em seu nome(nova janela) — pode comprometer o seu dinheiro sem a sua aprovação, e não pode alegar legalmente que o agente agiu por conta própria. Pior ainda, os termos indicam que quaisquer salvaguardas de confirmação(nova janela) não garantem a prevenção de ações indesejadas.

Isto não é exclusivo do Instinct. O agente proativo da SpaceXAI, o Grok Bot, tem termos semelhantes. As aprovações de ações são «apenas auxiliares(nova janela)» e podem não impedir ações indesejadas. Do mesmo modo, qualquer responsabilidade decorrente das ações do agente de IA recai inteiramente sobre si(nova janela). Os termos da Meta para a utilização do Muse fazem recair sobre si toda a responsabilidade(nova janela) por tudo o que o seu agente faz. Isto revela um padrão bastante claro: as ações dos agentes são suas.

Pode ser manipulado para agir contra si

Os agentes proativos podem tomar decisões de forma autónoma, mas, quando não conseguem distinguir as suas instruções de texto introduzido por outra pessoa e não confirmam uma ação consigo, podem ser facilmente manipulados. Um utilizador do Instinct(nova janela) descobriu que o agente proativo foi vítima de um ataque de injeção de prompt — seguiu instruções maliciosas que o próprio utilizador enviou. Os burlões não precisam de piratear o agente; basta que este leia algo que escreveram e atue com base nisso.

Na verdade, o Instinct(nova janela), a Meta(nova janela), a SpaceXAI(nova janela) e o OpenClaw(nova janela) reconhecem todos a injeção de prompt como uma ameaça conhecida. Atualmente, nenhum oferece proteção completa contra estes ataques, prometendo, no máximo, que as defesas do agente contribuem para reduzir este risco.

Esteja ciente do que entrega

A IA proativa funciona graças à quantidade de dados que lhe fornece. Quanto mais sabe sobre si, mais pode fazer por si, mas maior é o registo da sua vida que fica guardado numa única empresa.

Surgiu um padrão na indústria. Estes assistentes podem treinar com os seus dados mais pessoais, a menos que opte por recusar, e desligá-los não apaga de forma fiável o que já recolheram. E quando um agente faz algo que não pretendia, os termos atribuem as consequências a si, e não à empresa. É de louvar que as empresas expliquem tudo isto em pormenor. Mas a transparência não anula o seu direito à privacidade de dados.

Cabe-lhe a si decidir, em última análise, se este tipo de comodidade vale a sua privacidade e a segurança dos seus dados. Mas antes de dizer sim, saiba o que um assistente pode realmente ver, o que lhe é permitido fazer sem lhe perguntar primeiro e se consegue mesmo recuperar os seus dados depois de os ter entregue. Certifique-se de que é uma decisão que tomou de facto, e não uma que cedeu porque algo se tornou viral.

Se preferir não fazer essa troca de todo, opte antes pelo nosso assistente de IA Lumo. Construímo-lo ao contrário — sem registos, sem treino com os seus dados, nada guardado durante mais tempo do que deseja. Perde um pouco da magia da IA proativa, mas mantém aquilo que ela lhe pede para abdicar: o controlo sobre a sua vida.