novo Google Recurso destinado a alertar as pessoas sobre Truques Isso gerou preocupações por parte dos ativistas da privacidade.
A ferramenta usa inteligência artificial para espionar as ligações das pessoas e tentar detectar se elas parecem ser uma fraude. Se o fizerem, um pop-up aparecerá alertando as pessoas sobre um “potencial golpe”.
O recurso foi anunciado no Google I/O esta semana, durante o qual anunciou uma série de novas ferramentas de IA. Como muitos desses recursos, o Google não disse quando eles realmente chegarão.
Ele também forneceu poucas informações sobre como o recurso realmente funciona, como que tipo de conversa pode levar a IA a indicar que uma chamada pode ser uma fraude. Mas disse que depende do Gemini Nano, uma versão muito menor da IA que foi lançada recentemente e foi projetada para funcionar em telefones.
O Google ressaltou que toda a escuta e análise das ligações ocorrerá no próprio telefone, para que as conversas privadas não sejam enviadas para seus servidores. “Essa proteção é feita no dispositivo, para que sua conversa permaneça privada para você”, disse ela em seu anúncio.
No entanto, especialistas em segurança apontaram que ouvir chamadas desta forma é “extremamente perigoso” e “aterrorizante”. Eles observaram que, mesmo que as chamadas permanecessem no dispositivo, permitir que a IA espionasse as chamadas poderia levar a outros problemas.
“As chamadas telefônicas que fazemos em nossos dispositivos podem ser uma das coisas mais privadas que fazemos”, disse Albert Fox-Kahn, diretor executivo do Projeto de Tecnologia de Vigilância. Notícias da NBC. “É muito fácil para os anunciantes extrair cada pesquisa que fazemos, cada URL em que clicamos, mas o que realmente dizemos em nossos dispositivos, no microfone, historicamente não tem sido monitorado.”
“Isso é muito perigoso”, disse Meredith Whittaker, chefe do aplicativo de mensagens Signal. “Isso abre caminho para uma verificação centralizada do lado do cliente no nível do dispositivo.”
Whittaker, que trabalhou no Google durante 13 anos e ajudou a organizar protestos internos contra suas políticas, disse que o uso da tecnologia poderia se expandir rapidamente.
Desde a detecção de “fraudes” é um pequeno passo até a “detecção de padrões comumente associados a esquemas fraudulentos”.[ith] Procurando cuidados reprodutivos” ou “comumente associado a[ith] “Fornecer recursos LGBTQ” ou “geralmente associado a denúncias de trabalhadores de tecnologia”, disse ela.