Liz Read, chefe de busca do Google, admitiu que o mecanismo de busca da empresa retornou algumas “visões gerais estranhas, imprecisas ou inúteis da IA” depois de ter sido lançado publicamente nos EUA. O executivo postou uma explicação das respostas mais bizarras geradas por IA do Google em um arquivo Postagem no blogTambém anunciou que a empresa implementou salvaguardas que ajudarão o novo recurso a retornar resultados mais precisos e menos dignos de meme.

Reid defendeu o Google e apontou que algumas das respostas mais flagrantes à visão geral da IA ​​​​em circulação, como afirmações de que é seguro deixar cães nos carros, são falsas. Captura de tela viral mostrando a resposta à pergunta “Quantas pedras devo comer?” É verdade, mas ela disse que o Google encontrou uma resposta porque um site publicou conteúdo satírico sobre o assunto. “Antes dessas capturas de tela se tornarem virais, praticamente ninguém fazia essa pergunta ao Google”, explicou ela, então a IA da empresa estava vinculada a este site.

O vice-presidente do Google também confirmou que o AI Overview pediu às pessoas que usassem cola para fazer o queijo grudar na pizza com base no conteúdo retirado de um fórum. Ela disse que os fóruns normalmente fornecem “informações genuínas e diretas”, mas também podem levar a “conselhos nada úteis”. O CEO não mencionou as outras respostas que circulam na visão geral da IA, no entanto Washington Post Segundo relatos, a tecnologia também dizia aos usuários que Barack Obama era muçulmano e que as pessoas deveriam beber muita urina para ajudá-los a se livrar das pedras nos rins.

Reed disse que a empresa testou extensivamente o recurso antes do lançamento, mas “não há nada como milhões de pessoas usando esse recurso para tantas novas pesquisas”. Parece que o Google conseguiu identificar padrões em que sua tecnologia de IA não conseguia acertar, observando exemplos de suas respostas nas últimas duas semanas. Em seguida, ele implementou proteções com base em seu feedback, começando com ajustes em sua IA para ser capaz de detectar melhor humor e conteúdo satírico. Também atualizou os seus sistemas para limitar a adição de respostas geradas pelos utilizadores em Visões Gerais, como publicações em redes sociais e fóruns, que podem dar às pessoas conselhos enganosos ou mesmo prejudiciais. Além disso, “também adicionou restrições de gatilho para consultas onde as visões gerais de IA não se mostraram úteis” e parou de exibir respostas geradas por IA para alguns tópicos de saúde.

A Anthropic está lançando um novo recurso para seu chatbot Claude que permitirá a qualquer pessoa criar um assistente de e-mail, um bot de compra de sapatos ou outras soluções personalizadas. É chamado de “uso de ferramentas” (ou mais inteligente “Função de chamada”) e se conecta a qualquer API externa de sua escolha.

Embora eu não seja um grande fã do termo “agentes de IA”, esse é basicamente o plano de jogo aqui. Por exemplo, a ferramenta pode analisar dados para criar recomendações personalizadas de produtos com base no histórico de compras de um usuário ou fornecer respostas rápidas às dúvidas dos clientes, como rastrear o status do pedido ou fornecer suporte técnico em tempo real. Para criar um assistente, basta ter acesso a uma interface de programação de aplicativos (API) e alguém que saiba codificar.

Esta ferramenta também pode trabalhar com imagens, permitindo que os aplicativos analisem dados visuais. Um exemplo fornecido pela Anthropic é que um consultor virtual de design de interiores pode usar esta ferramenta para processar imagens de uma sala e fornecer sugestões de decoração personalizadas.

Este assistente de IA estará disponível por meio da API de mensagens da Anthropic, Amazon Bedrock e Google Vertex AI. O preço é baseado no volume de transações Cloud Text, que são medidas em “tokens”. geralmente, 1000 caracteres equivalem a cerca de 750 palavras. Durante a fase beta, a maioria dos usuários escolheu a opção mais rápida e menos dispendiosa da Anthropic, o Haiku, que custa cerca de 25 centavos por milhão de tokens de entrada e US$ 1,25 por milhão de tokens de saída.

De acordo com Dianne Penn, líder de projeto da Anthropic, a equipe está testando a versão beta da ferramenta de Claude desde abril com alguns milhares de clientes. Ela prevê algumas ótimas soluções para startups: Um cliente em destaque é o Study Fetch, que usou para criar um tutor de IA personalizado chamado Spark.E.

Assistentes ou agentes de IA (ou como você os chama) parecem ser o destino dessa tecnologia. No Google I/O, o gigante das buscas revelou todos os tipos de maneiras de permitir que o Google faça suas compras e procure por você usando inteligência artificial. Na OpenAI, a empresa está trabalhando em Ha-Como um assistente de voz que pode responder em tempo real e monitorar o mundo ao seu redor (na demonstração, Sugira uma muda de roupa Antes de uma importante entrevista de emprego.

O lançamento desta nova ferramenta pela Anthropic permite que as pessoas criem diversos assistentes para atender às suas necessidades, com ou sem Google e OpenAI.