Le PDG de Palantir, Alex Karp, se trompe sur la menace que représentent Anthropic et OpenAI pour la plupart des entreprises. Cela ne signifie pas qu’il n’a rien à perdre.

Bonjour et bienvenue dans Eye on AI. Dans cette édition :

• Pourquoi le PDG de Palantir, Alex Karp, a tort au sujet des laboratoires d'IA de pointe.
• Les ransomwares autonomes sont là, affirme une entreprise de cybersécurité.
• La Chine envisage de restreindre l'accès des étrangers aux principaux modèles d'IA.
• Anthropic découvre qu'une partie du fonctionnement des LLM ressemble à un aspect de la conscience humaine.
• Les normes de sécurité de l'IA se relâchent, selon un rapport.

Cette semaine, nous avons des nouvelles excitantes ici même chez Fortune. Nous lançons un tout nouveau vodcast appelé Fortune AI Weekly, que je co-anime avec Bea Nolan. Vous pouvez le voir comme une extension de ce que nous faisons ici chez Eye on AI—vous apportant nos réflexions sur les plus grandes actualités de l'IA de la semaine, mettant en lumière certains des excellents reportages sur l'IA de Fortune, et parfois vous proposant des interviews exclusives avec des bâtisseurs, penseurs, fondateurs, investisseurs et leaders clés de l'IA. Vous pouvez regarder le vod sur notre chaîne YouTube ici.
***
Parmi les actualités de l'IA qui ont fait la une la semaine dernière figurait la diatribe d'Alex Karp contre les entreprises de modèles de fondation. Le PDG de Palantir est intervenu sur CNBC mercredi ostensiblement pour discuter d'un nouveau partenariat entre Palantir et Nvidia afin de fournir une « infrastructure d'IA souveraine » au gouvernement américain et aux industries critiques. La collaboration implique l'utilisation des modèles open source Nemotron de Nvidia ainsi que de la Plateforme d'Intelligence Artificielle (AIP) de Palantir, qui est une couche applicative connectant ces modèles aux données, tout en offrant sécurité et gouvernance des données. Mais ce n'est pas ce qui a fini par faire la une. Au contraire, après avoir préfacé ses remarques en disant « Je ne jette pas l'opprobre » sur OpenAI et Anthropic, Karp a procédé à lancer des ombres dignes du Mordor sur les laboratoires d'IA de pointe.
« Quelque chose a complètement mal tourné », a-t-il déclaré. « La vision de base parmi les entreprises dans ce pays est : 'Je vais me détendre et perdre mon temps avec des tokens, je n'obtiendrai aucune valeur, et ils vont obtenir ma PI.' » Il a ensuite dit que ce n'était pas de l'opprobre mais du « reporting ». Il a renforcé ces points à plusieurs reprises, affirmant que les entreprises n'obtenaient aucune valeur des tokens qu'elles achetaient aux laboratoires de pointe et qu'elles risquaient de transférer leur PI commerciale cruciale à ces fournisseurs d'IA.
Alors, Karp a-t-il raison ? Eh bien, en quelque sorte. Mais seulement si vous plissez les yeux. Et beaucoup de ce que Karp a dit était soit intéressé, inexact, ou contradictoire—ou les trois.

Le ROI est à la traîne, mais personne ne se « détend » à ce sujet

Il est vrai que de nombreuses grandes entreprises s'inquiètent de ne pas encore voir suffisamment de retour sur investissement lors du déploiement de l'IA et s'interrogent sur le coût des tokens, en particulier lors de l'utilisation des modèles d'IA les plus avancés dans des cas d'utilisation agentiques. (Le fait que de nombreuses grandes entreprises s'en préoccupent contredit l'affirmation de Karp selon laquelle elles se « détendent » simplement.) Mais certaines entreprises signalent certainement de la valeur—en particulier dans le développement logiciel et le service clientèle. Et, pour celles qui ne le font pas, c'est souvent parce qu'elles n'ont pas priorisé les cas d'utilisation stratégiquement essentiels ou n'ont pas compris comment réingénierier leurs flux de travail à travers l'entreprise pour tirer le meilleur parti de la technologie.
À un moment donné lors de l'interview sur CNBC, Karp a demandé « pourquoi facturent-ils des tokens, si c'est si précieux ? » Il a suggéré que si les modèles de fondation fonctionnaient aussi bien que le prétendent les vendeurs de modèles d'IA, il serait préférable d'offrir d'accomplir une tâche entière pour le client et de facturer un pourcentage de la valeur dérivée. C'est, en fait, ainsi que Palantir tarifie ses offres (voilà donc la part intéressée). Et c'est ce que de nombreuses sociétés de conseil vendant des services d'IA commencent maintenant à faire. Mais ce n'est certainement pas ainsi que le logiciel a traditionnellement été tarifié. Il est également peu logique qu'une technologie à usage général utilise un modèle commercial basé sur la valeur. Après tout, la compagnie d'électricité vous facture chaque unité d'électricité que vous utilisez, pas la valeur de ce que vous faites avec ces électrons. Microsoft, quant à lui, vous facture un montant fixe pour utiliser Microsoft Word et Excel—il n'essaie pas de vous facturer un pourcentage de l'affaire que vous avez gagnée parce que votre présentation PowerPoint a impressionné lors de la réunion de pitch.
De plus, si Karp dit que l'une des principales plaintes des entreprises concernant les laboratoires d'IA de pointe est qu'ils « volent l'alpha » (c'est-à-dire volent le savoir-faire qui donne à une entreprise son avantage concurrentiel), ce serait encore plus préoccupant avec un modèle commercial dans lequel les entreprises d'IA effectuaient des tâches pour les clients plutôt que de leur vendre des tokens. (C'est une autre des choses contradictoires qu'il a dites.) Certaines cabinets de conseil et certains fournisseurs de cloud offrent des services gérés pour les clients—mais les clients ne sont généralement disposés à externaliser que les tâches qu'ils considèrent comme non essentielles à leur activité.

Peu de preuves que les laboratoires d'IA « volent l'alpha »

Quant à l'argument de Karp selon lequel les laboratoires de pointe volent la PI des clients, il n'y a aucune preuve que cela soit littéralement vrai, du moins pas de la manière que Karp semblait suggérer. Les principaux fournisseurs d'IA ont tous des politiques indiquant qu'ils n'ont pas d'accès direct aux prompts, sorties ou données des clients entreprise et qu'ils n'utilisent pas ces interactions pour former de futurs modèles, à moins que ces clients ne choisissent spécifiquement de permettre au fournisseur de le faire. (Plus de détails sur ce cas particulier dans un instant.)

OpenAI et Anthropic parlent tous deux d'utiliser des données clients anonymisées et désidentifiées pour mener des recherches économiques sur la façon dont leurs modèles sont utilisés, mais même cela n'est fait que pour le trafic de messagerie entrant dans leurs services grand public ou leurs API directes, et non pour les clients qui accèdent aux modèles via des services cloud sécurisés, tels que Microsoft Azure, Amazon Bedrock ou Google Vertex—ce qui est la manière dont la plupart des grandes entreprises accèdent à ces modèles.
Ainsi, pour la plupart des grandes entreprises, en particulier la plupart des grandes entreprises qui ne sont pas elles-mêmes dans le secteur technologique, ce que Karp affirme est absurde. Si vous êtes Archer-Daniels-Midland ou Boeing, il y a peu de chances qu'Anthropic vole votre PI et commence à produire du maïs ou à fabriquer des avions gros porteurs.

Pourtant, quelques entreprises ont raison de s'inquiéter—Palantir en fait partie

Mais il existe une catégorie d'entreprises pour laquelle Karp a peut-être raison. Anthropic, OpenAI et Google DeepMind ont tous des « partenaires de conception » dans diverses industries, et ces partenaires obtiennent souvent un accès anticipé pour aider à tester les derniers modèles sur lesquels travaillent ces laboratoires d'IA. Et dans le cadre de ces partenariats, les laboratoires ont souvent beaucoup plus accès aux informations sur la façon dont ces entreprises utilisent les modèles.
Il y a eu au moins un cas où cet accès aurait pu être utilisé par l'un des laboratoires d'IA pour construire un produit concurrent. Ce cas implique Anthropic et Figma. Comme The Information l'a rapporté le mois dernier, Anthropic collaborait avec Figma et Canva sur le développement d'un outil Claude for Design. Mike Kreiger, directeur des produits chez Anthropic, avait même un siège au conseil d'administration de Figma. Mais ensuite, Figma s'est retirée du lancement et Kreiger a soudainement démissionné du conseil après que Figma a découvert que le produit qu'Anthropic construisait concurrençait beaucoup plus directement ses propres fonctionnalités produit qu'Anthropic ne l'avait, du moins aux yeux de Figma, laissé entendre. Selon les rapports de The Information, le PDG de Figma, Dylan Field, a déclaré aux participants à un événement privé organisé par Sequoia Capital qu'Anthropic n'était « pas toujours candide dans ses communications » avec Figma concernant la portée de l'outil de conception Claude.

D'autres exemples supposés de fournisseurs d'IA utilisant l'accès aux données clients pour ensuite concurrencer ces clients proviennent de sources ayant des comptes à régler—beaucoup d'entre eux sont des investisseurs dans Palantir. Le capital-risqueur Jason Calacanis, un ancien soutien de Palantir, a allégué qu'Anthropic avait utilisé des données de Cursor, un assistant de codage IA qui était un grand utilisateur des modèles Claude d'Anthropic, pour aider à développer Claude Code, le produit viral d'Anthropic qui a ensuite largement éclipsé Cursor en popularité. Le capital-risqueur Chamath Palihapitiya a souligné qu'Anthropic s'était associé à Eli Lilly et à d'autres sociétés pharmaceutiques, avant de déclarer récemment qu'il avait l'intention de lancer son propre programme de développement de médicaments. (Anthropic a caractérisé cela comme un moyen d'affiner ses propres outils Claude of Science et il n'est pas clair si Anthropic essaierait de commercialiser elle-même des candidats médicaments ou s'associerait à une société pharmaceutique pour cette partie du processus.) En plus d'être un investisseur précoce dans Palantir, Palihapitiya est co-animateur du podcast « All In » avec David Sacks, qui n'a pas non plus d'affection particulière pour Anthropic.
Malgré cela, l'accusation selon laquelle Anthropic a l'intention d'entrer réellement directement dans tous ces secteurs verticaux, plutôt que de simplement construire des outils qui rendront leurs modèles plus faciles à déployer dans ces secteurs—ce qui n'est guère la même chose—semble tirée par les cheveux. Encore une fois, si vous êtes la plupart des entreprises du Fortune 500, Anthropic ou OpenAI ne vont pas commencer à vous concurrencer frontalement.
En fait, le meilleur exemple de laboratoires d'IA de pointe volant des données pour construire un produit concurrent vient de ma propre industrie, le secteur des médias. Ici, les laboratoires d'IA de pointe ont certainement aspiré de vastes quantités de matériel protégé par le droit d'auteur afin de former des modèles d'IA qui concurrencent souvent directement les publications en tant que sources d'informations factuelles. (On pourrait en dire autant de l'édition, de la musique et des beaux-arts.) Mais d'une certaine manière, je ne pense pas que c'est ce que Karp avait en tête.
Un ami dans la finance a suggéré que ce qui a vraiment irrité Karp—ainsi que certains dirigeants normalement plus sobres, comme Satya Nadella de Microsoft, qui a intéressant fait des affirmations similaires récemment sur la nature rapace des laboratoires d'IA de pointe—ne sont pas les modèles commerciaux d'Anthropic et d'OpenAI, mais leurs introductions en bourse probables. Ces IPO seront sans aucun doute très demandées. Et pour lever la liquidité nécessaire pour acheter des actions OpenAI ou Anthropic, les investisseurs institutionnels pourraient chercher à vendre d'autres valeurs technologiques—des valeurs technologiques telles que, eh bien, Palantir. Rappelez-vous, juste parce que vous êtes paranoïaque, cela ne signifie pas qu'ils ne cherchent pas à vous avoir.
Sur ce, voici plus d'actualités sur l'IA.
Jeremy Kahn
jeremy.kahn@fortune.com
@jeremyakahn

Cette histoire a été initialement publiée sur Fortune.com