- Meredith Whittaker, presidente da Signal, disse que a IA Agentic apresenta sérios riscos de segurança para os usuários.
- A IA Agentic refere -se a bots que podem raciocinar e executar tarefas para seres humanos sem a sua contribuição.
- Mas ter uma tarefa completa para usuários significa dar acesso a resmas de dados, disse Whittaker.
O presidente da Signal, Meredith Whittaker, é cético em relação à IA Agentic – ou seja, agentes de IA que podem concluir tarefas ou tomar decisões sem contribuição humana.
Embora alguns titãs de tecnologia tenham elogiado o quão útil a IA Agentic pode ser e lançou agentes de IA para os usuários experimentarem, Whittaker alertou sobre os riscos de privacidade representados pelos agentes autônomos enquanto falavam na Conferência SXSW 2025 e festivais em Austin na sexta -feira.
“Acho que há um perigo real que estamos enfrentando”, disse Whittaker, “em parte porque o que estamos fazendo é dando muito controle a esses sistemas que precisarão de acesso aos dados “.
Whittaker é o presidente da Fundação de Tecnologia de Signal sem fins lucrativos que administra o aplicativo de sinal criptografado de ponta a ponta conhecido por sua segurança digital.
Um agente de IA é comercializado como um “Bot Genie Magic” que pode pensar em vários passos à frente e concluir tarefas para os usuários, para que “seu cérebro possa sentar -se em uma jarra, e você não está fazendo nada disso”, disse Whittaker.
Como exemplo, ela disse que a Agentic AI pode realizar tarefas como encontrar um concerto, reservar ingressos e abrir um aplicativo como o Signal para enviar uma mensagem para amigos com detalhes do ingresso. Mas a cada passo desse processo, o agente da IA acessa os dados que o usuário pode querer manter em privado, disse ela.
“Ele precisaria de acesso ao nosso navegador, a capacidade de impulsionar isso. Precisaria de informações sobre o cartão de crédito para pagar pelos ingressos. Precisaria de acesso ao nosso calendário, tudo o que estamos fazendo, todos que estamos encontrando. Precisaria acessar sinalizar para abrir e enviar essa mensagem para nossos amigos”, disse ela. “Ele precisaria conduzir isso em todo o sistema com algo que se parece com a permissão de raiz, acessando cada um desses bancos de dados, provavelmente claro porque não há modelo para fazer isso criptografado”.
Whittaker acrescentou que um agente de IA é poderoso o suficiente para fazer isso “quase certamente” processos de dados fora do dispositivo, enviando-os para um servidor em nuvem e voltam.
“Portanto, há uma questão profunda com a segurança e a privacidade que está assombrando esse tipo de hype em torno dos agentes, e que está ameaçando quebrar a barreira hematoencefálica entre a camada de aplicação e o sistema operacional Camada, conjuntando todos esses serviços separados, enlouquecendo seus dados e fazendo coisas como minar a privacidade de suas mensagens de sinal “, disse ela.
Whittaker não é o único preocupado com os riscos representados pela IA Agentic.
Yoshua Bengio, o cientista de pesquisa canadense considerado como um dos padrinhos da IA, emitiu um aviso semelhante enquanto falava ao Business Insider no Fórum Econômico Mundial de Davos em janeiro.
“Todos os cenários catastróficos com AGI ou superinteligência acontecem se tivermos agentes”, disse Bengio, referindo -se a Inteligência Geral Artificialo limiar no qual as máquinas podem raciocinar, assim como os humanos.
“Poderíamos avançar nossa ciência da IA segura e capaz, mas precisamos reconhecer os riscos, entender cientificamente de onde ela vem e depois fazer o investimento tecnológico para que isso aconteça antes que seja tarde demais, e construímos coisas que podem nos destruir”, disse Bengio.
