O CEO da Palantir, Alex Karp, está errado quanto à ameaça que a Anthropic e a OpenAI representam para a maioria das empresas. Isso não significa que ele não tenha algo a perder.

Olá e bem-vindo ao Eye on AI. Nesta edição:

• Por que o CEO da Palantir, Alex Karp, está errado sobre os laboratórios de IA de ponta.
• O ransomware autónomo chegou, afirma uma empresa de cibersegurança.
• A China considera restringir o acesso estrangeiro aos principais modelos de IA.
• A Anthropic descobre que parte das funções dos LLMs se assemelha a um aspeto da consciência humana.
• As normas de segurança da IA estão a enfraquecer, diz relatório.

Esta semana, temos algumas notícias emocionantes aqui na Fortune. Estamos a lançar um novo vodcast chamado Fortune AI Weekly, que coapresento com Bea Nolan. Pode pensar nele como uma extensão do que fazemos aqui no Eye on AI — trazendo-lhe as nossas reflexões sobre as maiores notícias de IA da semana, destacando algumas das excelentes reportagens de IA da Fortune e, por vezes, trazendo-lhe entrevistas exclusivas com construtores, pensadores, fundadores, investidores e líderes chave da IA. Pode ver o vodcast no nosso canal do YouTube aqui.
***
Entre as notícias de IA que fizeram manchete na semana passada esteve a diatribe de Alex Karp contra as empresas de modelos de fundação. O CEO da Palantir apareceu na CNBC na quarta-feira, ostensivamente para discutir uma nova parceria entre a Palantir e a Nvidia para fornecer uma “infraestrutura de IA soberana” ao governo dos EUA e a indústrias críticas. A colaboração envolve o uso dos modelos de código aberto Nemotron da Nvidia juntamente com a Plataforma de Inteligência Artificial (AIP) da Palantir, que é uma camada de aplicação que conecta esses modelos aos dados, oferecendo também segurança e governança de dados. Mas não foi isso que acabou por fazer manchete. Em vez disso, depois de prefaciar as suas observações dizendo que “não estava a lançar farpas” à OpenAI e à Anthropic, Karp procedeu a lançar sombras de nível Mordor sobre os laboratórios de IA de ponta.
“Algo correu completamente mal”, disse ele. “A visão básica entre as empresas neste país é ‘Vou relaxar e perder o meu tempo com tokens, não vou obter valor nenhum e eles vão ficar com a minha PI.’” Ele disse então que isto não era lançar farpas, mas sim “reportagem”. Reforçou estes pontos várias vezes, afirmando que as empresas não estavam a obter valor dos tokens que compravam aos laboratórios de ponta e que estavam a arriscar transferir a sua crucial propriedade intelectual empresarial para estes fornecedores de IA.
Então, Karp tem razão? Bem, mais ou menos. Mas apenas se fizer um esforço. E muito do que Karp disse era ou interesseiro, impreciso ou contraditório — ou as três coisas.

O ROI está atrasado, mas ninguém está a ‘relaxar’ quanto a isso

É verdade que muitas grandes empresas estão preocupadas por ainda não estarem a ver retorno suficiente do investimento na implementação da IA e estão angustiadas com o custo dos tokens, particularmente quando utilizam os modelos de IA mais avançados em casos de uso agentivos. (O facto de muitas grandes empresas estarem preocupadas com isto contradiz a afirmação de Karp de que elas estão simplesmente a “relaxar”.) Mas certamente algumas empresas estão a reportar valor — particularmente no desenvolvimento de software e no atendimento ao cliente. E, para aquelas que não o estão, é frequentemente porque não priorizaram os casos de uso estrategicamente mais essenciais ou não descobriram como reengenharia os seus fluxos de trabalho em toda a empresa para tirar o melhor proveito da tecnologia.
Num determinado momento da entrevista à CNBC, Karp perguntou “por que é que cobram por tokens, se são tão valiosos?” Ele sugeriu que, se os modelos de fundação funcionassem tão bem quanto os fornecedores de modelos de IA afirmam, seria melhor oferecer-se para concluir uma tarefa inteira para o cliente e cobrar uma percentagem do valor derivado. Isto, de facto, é como a Palantir precifica as suas ofertas (aí está a parte interesseira). E é o que muitas empresas de consultoria que vendem serviços de IA estão agora a começar a fazer. Mas certamente não é assim que o software tem sido tradicionalmente precificado. Também faz pouco sentido para uma tecnologia de propósito geral usar um modelo de negócio baseado em valor. Afinal, a companhia elétrica cobra-lhe por cada unidade de eletricidade que utiliza, não pelo valor do que faz com esses eletrões. A Microsoft, aliás, cobra-lhe um valor fixo para usar o Microsoft Word e o Excel — não tenta cobrar-lhe uma percentagem do negócio que ganhou porque a sua apresentação em PowerPoint impressionou na reunião de pitch.
Além disso, se Karp diz que uma das principais queixas das empresas sobre os laboratórios de IA de ponta é que eles estão a “roubar alpha” (ou seja, roubar o know-how que dá a uma empresa a sua vantagem competitiva), isso seria ainda mais preocupante num modelo de negócio em que as empresas de IA realizam tarefas para os clientes em vez de lhes vender tokens. (Esta é outra das coisas contraditórias que ele disse.) Algumas empresas de consultoria e alguns fornecedores de nuvem oferecem serviços geridos para os clientes — mas os clientes geralmente só estão dispostos a terceirizar tarefas que consideram não essenciais para o seu negócio.

Poucas evidências de que os laboratórios de IA estão a ‘roubar alpha’

Quanto ao argumento de Karp de que os laboratórios de ponta estão a roubar PI dos clientes, não há provas de que isto seja literalmente verdade, pelo menos não da maneira que Karp parecia sugerir. Os principais fornecedores de IA têm todas políticas que afirmam não ter acesso direto aos prompts, saídas ou dados dos clientes empresariais e que não usam essas interações para treinar modelos futuros, a menos que esses clientes optem especificamente por permitir que o fornecedor o faça. (Mais sobre esse caso especial daqui a pouco.)

Tanto a OpenAI como a Anthropic falam sobre o uso de dados de clientes anonimizados e desidentificados para realizar pesquisas económicas sobre como os seus modelos estão a ser usados, mas mesmo isso só é feito para o tráfego de mensagens que entra nos seus serviços voltados para o consumidor ou nas suas APIs diretas, e não para clientes que acedem aos modelos através de serviços de nuvem seguros, como o Microsoft Azure, Amazon Bedrock ou Google Vertex — que é a forma como a maioria das grandes empresas acede a estes modelos.
Assim, para a maioria das grandes empresas, especialmente a maioria das grandes empresas que não estão no setor de tecnologia, o que Karp afirma é absurdo. Se for a Archer-Daniels-Midland ou a Boeing, há poucas probabilidades de a Anthropic roubar a sua PI e começar a produzir milho ou a fabricar aviões jumbo.

Ainda assim, algumas empresas têm motivos para se preocupar — a Palantir é uma delas

Mas existe uma categoria de empresas para a qual Karp pode ter razão. A Anthropic, a OpenAI e a Google DeepMind têm todas “parceiros de design” em várias indústrias, e estes parceiros obtêm frequentemente acesso antecipado para ajudar a testar os mais recentes modelos em que estes laboratórios de IA estão a trabalhar. E como parte dessas parcerias, os laboratórios têm frequentemente muito mais acesso a informações sobre como essas empresas estão a usar os modelos.
Houve pelo menos um caso em que esse acesso pode ter sido usado por um dos laboratórios de IA para construir um produto concorrente. Esse caso envolve a Anthropic e a Figma. Como The Information relatou pela primeira vez no mês passado, a Anthropic tinha estado a colaborar tanto com a Figma como com a Canva no desenvolvimento de uma ferramenta Claude for Design. Mike Kreiger, diretor de produtos da Anthropic, tinha até um lugar no conselho de administração da Figma. Mas depois a Figma retirou-se do lançamento e Kreiger demitiu-se repentinamente do conselho depois de a Figma descobrir que o produto que a Anthropic estava a construir competia muito mais diretamente com as suas próprias funcionalidades de produto do que a Anthropic tinha, pelo menos na visão da Figma, deixado transparecer. De acordo com o relato da Information, o CEO da Figma, Dylan Field, disse aos participantes num evento privado organizado pela Sequoia Capital que a Anthropic não era “consistentemente franca nas suas comunicações” com a Figma sobre o alcance da ferramenta de design Claude.

Outros supostos exemplos de fornecedores de IA a usar o acesso aos dados dos clientes para depois competir com esses clientes provêm de fontes com contas a ajustar — muitos deles investidores na Palantir. O capitalista de risco Jason Calacanis, um antigo apoiante da Palantir, alegou que a Anthropic usou dados do Cursor, um assistente de codificação de IA que era um grande utilizador dos modelos Claude da Anthropic, para ajudar a desenvolver o Claude Code, o produto viral da Anthropic que depois eclipsou largamente o Cursor em popularidade. O capitalista de risco Chamath Palihapitiya apontou que a Anthropic fez parcerias com a Eli Lilly e outras empresas farmacêuticas, antes de dizer recentemente que pretendia iniciar o seu próprio programa de desenvolvimento de medicamentos. (A Anthropic caracterizou isto como uma forma de aprimorar as suas próprias ferramentas Claude of Science e não é claro se a Anthropic tentaria comercializar quaisquer candidatos a medicamentos por si própria ou se faria parceria com uma empresa farmacêutica para essa parte do processo.) Além de ser um dos primeiros investidores da Palantir, Palihapitiya é coapresentador do podcast “All In” com David Sacks, que também não tem grande estima pela Anthropic.
Ainda assim, a acusação de que a Anthropic pretende entrar diretamente em todos estes verticais, em vez de simplesmente construir ferramentas que tornarão os seus modelos mais fáceis de implementar nestes verticais — o que dificilmente é a mesma coisa — parece exagerada. Mais uma vez, se for a maioria das empresas da Fortune 500, a Anthropic ou a OpenAI não vão começar a competir diretamente consigo.
Na verdade, o melhor exemplo de laboratórios de IA de ponta a roubar dados para construir um produto concorrente vem da minha própria indústria, o negócio dos media. Aqui, os laboratórios de IA de ponta definitivamente absorveram vastos conjuntos de material protegido por direitos de autor para treinar modelos de IA que frequentemente competem diretamente com as publicações como fontes de informação factual. (O mesmo poderia ser dito sobre editoração, música e belas-artes.) Mas de alguma forma não acho que fosse isso que Karp tinha em mente.
Um amigo do setor financeiro sugeriu que o que realmente irritou Karp — bem como irritou alguns executivos normalmente mais sóbrios, como Satya Nadella da Microsoft, que curiosamente tem feito algumas alegações semelhantes ultimamente sobre a natureza rapace dos laboratórios de IA de ponta — não são os modelos de negócio da Anthropic e da OpenAI, mas os seus prováveis IPOs. Esses IPOs estarão sem dúvida em alta procura. E para angariar a liquidez necessária para comprar ações da OpenAI ou da Anthropic, os investidores institucionais podem procurar vender outros nomes tecnológicos — nomes tecnológicos como, bem, a Palantir. Lembre-se: só porque está paranoico, não significa que não estejam atrás de si.
Dito isto, eis mais notícias de IA.
Jeremy Kahn
jeremy.kahn@fortune.com
@jeremyakahn

Esta história foi originalmente publicada na Fortune.com