Pourquoi les Startups d’Infrastructure AI Sont Incroyablement Difficiles à Construire

Récemment, une annonce a renforcé une opinion controversée que j’ai depuis un moment - que les startups d’infra AI sont une idée de marécage, surtout en tant qu’entreprise à grande échelle. Le terme “idée de marécage” fait référence à des idées de startup qui semblent raisonnables en surface, mais qui, une fois confrontées à la réalité ou à une réflexion rigoureuse, ne tiennent pas. La plupart des startups d’infra AI tomberont également dans cette catégorie, où l’infra AI se réfère aux entreprises “entre la couche cloud et la couche d’application” - services RAG, infrastructure de finetuning, services de traitement de texte, APIs TTS, bases de données vectorielles, etc. Je crois que de nombreux fondateurs sont d’accord avec ce point de vue, ce qui explique la vente d’Adept (à Amazon), d’InflectionAI (à Microsoft), ainsi que les acquisitions à venir de Stability, etc. Chaque acteur établi cherche des acquisitions pour raconter une histoire de “plateforme AI de bout en bout”. Seuls quelques chanceux seront achetés. Vendre l’infrastructure AI en tant que startup est une idée de marécage. En résumé, les nouvelles startups d’infra AI auront du mal à réussir car elles manquent de différenciation significative et de capital pour percer le segment entreprise. Les startups luttent pour maintenir un avantage durable sur les acteurs établis pour leur laisser le temps de remporter des contrats d’entreprise. Les clients entreprise sont incités à “attendre” avant d’intégrer de nouveaux fournisseurs, car les produits des fournisseurs perdent rapidement de la valeur en raison des changements constants du paysage AI. Cela allonge les cycles de vente, augmente le taux de rotation, ce qui nuit davantage aux startups qu’aux acteurs établis. Il y a également d’autres dynamiques en jeu - mais essentiellement, l’espace de l’infrastructure AI devient une lutte qui favorise les acteurs avec les plus longues pistes de décollage. Mon intention ici n’est pas de prédire un échec, mais de mettre en lumière certains défis réels, sur lesquels je serais heureux d’avoir tort. Je terminerai en offrant quelques conseils aux startups d’infra AI. Pour clarifier, par “startup d’infra AI”, je fais référence aux startups d’infrastructure AI à grande échelle. Je suis sûr que les fondateurs peuvent créer essentiellement des agences d’intégration système ciblant les PME ou le marché intermédiaire, et se qualifier d’entreprise d’infra AI. Mais c’est une entreprise complètement différente avec un potentiel de gain beaucoup plus limité. Il y a trois autres forces majeures qui aggravent l’environnement concurrentiel : les constructeurs sont désormais conditionnés à exiger la composabilité, c’est-à-dire rendre facile le remplacement de votre produit par d’autres. La chute continue des coûts d’inférence joue également un rôle. Les coûts de COGS diminuent rapidement, donc les acteurs de l’infra AI doivent constamment s’aligner sur les acteurs établis qui ont les plus grandes économies d’échelle. Les acteurs établis semblent tous avoir la même stratégie commerciale de créer une “plateforme AI de bout en bout”. Databricks se lance dans la formation de modèles AI et l’intelligence d’affaires, en concurrence avec AWS Sagemaker et Tableau. Github Workspaces se lance dans les examens de sécurité alimentés par l’IA, etc. La stratégie produit par défaut de tout le monde est de posséder tous les flux de travail amont et aval de leur produit principal, ce qui rend involontairement la vie des startups plus difficile, car il devient difficile de rivaliser avec une solution ponctuelle. Pivoter vers un logiciel vertical ou la couche d’application n’est pas la solution miracle. Avec tous ces défis, certaines startups d’infra AI ont choisi de devenir verticales ou de passer à la couche d’application. Par exemple, j’ai suivi une startup de “Business Intelligence avec Langage Naturel” depuis fin 2022 qui a déjà pivoté trois fois, de : une plateforme “chat avec des données” à une plateforme “chat avec des données d’intelligence d’affaires”, à une plateforme “chat avec des données financières”. Les chouchous de l’infra AI, LlamaIndex et Langchain, ont également emprunté cette voie de la focalisation en ce qui concerne leurs produits orientés entreprise. LlamaIndex se concentre sur l’analyse de documents gérée / OCR, tandis que Langchain se concentre sur LLMOps et les solutions de construction d’agents. Je suppose que les deux travaillent à resserrer davantage leur focus, car même vendre un service d’analyse de documents géré est un énorme défi pour une startup en phase de démarrage, étant donné que Google et AWS proposent déjà des services d’extraction de texte verticaux existants. Ce n’est pas facile. Réduire la portée et se concentrer verticalement est une réponse typique pour les startups d’infra AI - mais je soutiens que ces pivots fonctionnent rarement et entraînent de nouveaux problèmes. Surtout, ces pivots verticaux sous-estiment l’importance de l’expertise métier approfondie une fois que vous devenez vertical, que de nombreux fondateurs d’infra AI manquent. Accumuler des connaissances métier prend du temps. De plus, votre produit peut nécessiter une personnalisation importante pour répondre aux besoins uniques de la verticale, ce qui signifie des marges plus faibles. En outre, ces écosystèmes de la couche d’application ont une concurrence encore plus féroce. Il n’y a pas seulement la concurrence d’autres startups AI, mais aussi la concurrence des entreprises de logiciels hérités. Pivoter vers une verticale ne se débarrasse pas soudainement de vos concurrents - vous aurez simplement de nouveaux concurrents dans cette verticale qui étaient là avant vous. Par exemple, l’industrie de la LegalTech existe depuis des siècles, et de nombreuses entreprises Legal AI concurrencent maintenant les fournisseurs de LegalTech hérités plus les intégrateurs de systèmes. Alors quelle est la solution pour les startups d’infra AI ? Devrions-nous tous espérer être acquis, ou est-il possible pour les startups de rester indépendantes plus longtemps et de trouver un ajustement produit-marché ? La solution pour les startups revient aux fondamentaux : réfléchissez profondément à la manière d’être différent des acteurs établis. Voici quatre façons d’itérer à partir de là : réduire encore davantage la portée : se concentrer sur un tout petit segment de clients entreprise, au lieu de servir tous les clients. Ne construisez pas toutes les intégrations. Soyez un service RAG géré pour les clients utilisant Salesforce avec VMWare sur site, au lieu d’un service RAG généraliste. Les startups n’ont pas les ressources pour résoudre tous les environnements, du moins initialement. Se concentrer sur un seul flux de travail : les startups ne devraient pas essayer de résoudre trop de flux de travail. Faites une chose vraiment bien. N’essayez pas d’être une plateforme pour le finetuning de n’importe quel LLM - il y en a déjà trop. Essayez plutôt d’être la meilleure plateforme pour le finetuning des modèles Tagalog. Le hic : le TAM pourrait être trop petit. Lever plus d’argent VC que vous ne le pensez nécessaire : les pistes de décollage à long terme sont non négociables. Il peut falloir du temps aux entreprises pour être réceptives à l’achat de solutions d’infra AI de startup, si jamais. Soyez prêt pour le pire des cas. Ou, ne levez pas du tout d’argent VC : lever de l’argent VC vous force un peu à orienter la stratégie commerciale autour de la vente à l’entreprise - ce qui pourrait ne pas être quelque chose que vous pouvez ou voulez faire. Vous voulez la flexibilité de travailler sur des problèmes plus intéressants et prometteurs lorsqu’ils se présentent, étant donné qu’il y a constamment de nouveaux changements dans le paysage AI. Enfin, les startups AI devraient être ouvertes à être acquises par un acteur plus important, même si ce n’est pas une destination prestigieuse comme OpenAI ou Google. Mon avis est que le marché des acquisitions pour le secteur de l’infra AI deviendra pire, pas meilleur, avec le temps. Le marché des acquisitions deviendra plus “efficace” à mesure que les gagnants / perdants émergeront, et que les charges de travail et les besoins des entreprises deviendront plus clairement définis. Ainsi, pour vendre votre startup à une valorisation “attrayante”, elle doit être commercialisée avant que la poussière ne retombe lorsque le marché est moins efficace. N’attendez pas 18 mois de plus pour vendre votre startup, lorsque toutes les startups d’infra AI commencent à manquer de piste de décollage en même temps.

Source de l’article