Alguns clientes do agente de IA dizem que a realidade não corresponde ao hype

Olá e bem -vindo ao olho na IA. Na edição de hoje … empresas experimentando agentes de IA dizem que a tecnologia fica aquém das expectativas; A Nvidia anuncia suas novas fichas e se posiciona para a paisagem pós-profunda; Elon Musk e Nvidia se juntam ao Microsoft-Blackrock AI Fund; Os spammers da AI são “forçando” a Internet; E Foxconn surge como um participante importante na corrida global da IA.

Dificilmente se passa um dia sem uma empresa de tecnologia anunciando um novo “agente” da IA, diz que revolucionará os fluxos de trabalho e desbloqueará eficiências sem precedentes. Mas enquanto os fabricantes desses agentes – compõe -se SalesforceAssim, AmazonAssim, OráculoE toneladas de startups – estão expedindo -as, alguns de seus clientes estão crescendo céticos de que essas ferramentas possam oferecer, pelo menos agora.

“Muitos clientes relatam uma lacuna entre marketing e realidade”, lê um novo Relatório da CB Insightsque analisa os principais pontos problemáticos ao redor desses produtos.

Ao longo de março, a CB Insights pesquisou mais de 40 clientes de agentes de IA e descobriram que estão enfrentando problemas com confiabilidade, integração e segurança. Outros eventos recentes de manchete destacaram alguns dos mesmos problemas. Por exemplo, houve uma onda de emoção sobre Manus, que foi anunciada como o primeiro “agente geral” totalmente autônomo e elogiado por alguns como outro momento profundo para a China – até os testes de usuário revelaram desempenho não confiável e saídas questionáveis.

A idéia de uma ferramenta de IA que pode orquestrar e completar tarefas complexas de maneira autônoma e precisão faz sentido como objetivo, e é possível que possa ser alcançado. Mas a realidade atual é que os clientes estão atravessando águas incertas, e o ciclo do hype e o uso confuso do termo “agente” estão causando confusão sobre o que os usuários podem realmente esperar.

(Un) A confiabilidade é de primeira linha

DeepMind O fundador e CEO Demis Hassabis ofereceu recentemente uma descrição perspicaz dos problemas de confiabilidade em torno dos agentes da IA, comparando -o a interesses compostos.

“Se o seu modelo de IA tiver uma taxa de erro de 1% e você planeja mais de 5.000 etapas, esses compostos de 1% como juros compostos”, disse ele nesta semana em um Google evento, de acordo com Computador semanalmente. Ele continuou descrevendo como, quando essas 5.000 etapas foram trabalhadas com a possibilidade de a resposta estar correta é “aleatória”.

Para as empresas que precisam fornecer informações precisas e atender seus próprios clientes, uma possibilidade aleatória de precisão geralmente não é aceitável. O CB Insights relatou confiabilidade como a principal preocupação entre os clientes que usam agentes de IA, com quase metade citando -a como um problema. Um cliente descreveu obter informações e alucinações parcialmente processadas de um agente de IA que implantou, por exemplo.

Os clientes também estão enfrentando problemas com a integração de agentes de IA em seus sistemas existentes. A falta de interoperabilidade tem causado dores de cabeça há muito tempo no mundo do software corporativo, mas com os agentes da IA, a integração é um tipo de ponto. “Foi um pouco de aposta que estávamos nos inscrevendo em um produto onde eles não tinham todas as integrações que queríamos”, disse um cliente ao CB Insights.

Uma nova faixa de riscos de segurança

A segurança também está no topo da lista de preocupações com os clientes e por boas razões. Ter uma tecnologia se conectar a vários sistemas que contêm informações confidenciais e agem de maneira autônoma abre riscos enormes. Gartner prevê Em 2028, 25% das violações corporativas serão rastreadas até o abuso de agentes de IA de atores internos e externos e maliciosos.

“Sem governança adequada, os agentes da IA ​​podem e inadvertidamente exporão dados confidenciais, tomarem decisões não autorizadas ou criar pontos cegos de conformidade”, disse Dimitri Sirota, CEO da empresa de inteligência e conformidade de dados, Big Id, à Eye on Ai.

Ele disse que a melhor maneira de as empresas podem experimentar agentes de IA com segurança, evitando produtos que não são transparentes sobre como o agente da IA ​​toma decisões. As empresas também devem pilotar agentes de IA em ambientes controlados para que possam descobrir riscos e ajustar conforme necessário antes da escala.

O que é mesmo um “agente” da IA?

O mercado para agentes de IA está ficando saturado, especialmente em nichos específicos, como suporte ao cliente e codificação. Ao mesmo tempo, “ninguém sabe o que diabos é um agente de IA”, como TechCrunch Coloque sem rodeios em uma história publicada na sexta -feira passada, argumentando que o termo se tornou “diluído ao ponto de falta de sentido”.

Toda empresa está definindo o “agente da IA” de maneira um pouco diferente. Alguns geralmente usam o termo para se referir a sistemas de IA totalmente autônomos que podem executar tarefas de forma independente, enquanto outros o usam para se referir a sistemas que seguem fluxos de trabalho predefinidos. Alguns oferecem outras definições. E alguns – como o Openai – visualizam frequentemente e contradizem suas próprias definições anteriores. Muitas ferramentas anteriormente chamadas de “assistentes de IA” agora também estão sendo chamadas de “agentes”.

Para os líderes de TI, esse caos de definição cria dor de cabeça e dores de cabeça de confusão. Não é apenas difícil entender o que os produtos fazem e como eles funcionam, mas também é impossível comparar os benchmarks e as métricas de desempenho.

Nada disso é dizer que as empresas não estão começando a ver alguns benefícios dos agentes da IA. Mas é um lembrete de que estes ainda são muito Os primeiros dias para essa tecnologia, e o hype está bem à frente da realidade.

E com isso, aqui estão mais notícias da IA.

Sábio Lazzaro
sage.lazzaro@consultant.fortune.com
sagelazzaro.com

Esta história foi originalmente apresentada em Fortune.com