Quoi de neuf dans la Silicon Valley ?
Retour
L'été 2024 a été marqué par des prises de positions sceptiques voire hostiles à l'IA, une production soutenue de nouveaux LLMs (grand modèles linguistiques) et d'outils innovants d'IAG (intelligence artificielle générative) spécialisés et par des marchés financiers instables et perplexes notamment vis à vis des résultats en demi-teinte des big tech américaines au deuxième trimestre 2024. La condamnation de Google aux USA pour abus de position dominante dans le marché des moteurs de recherche a alourdi le climat avec un marché de l'emploi moins dynamique que prévu. Nvidia est également inquiétée par le ministère de la justice américaine. Le climat électoral de la présidentielle américaine a aussi distrait les investisseurs et les analystes.
Par exemple l’action d’Intel a plongé de 25% après que la société ait annoncé des résultats pour le T2 plus légers que ce que les analystes attendaient. Intel a indiqué avoir dépensé beaucoup pour s’adapter à la vague de l’IA et elle essaye maintenant de maîtriser les choses en réduisant ses coûts de 10 milliards de dollars et en supprimant 15 % de ses effectifs soit environ 15 000 employés.
Mais le thème de l'IA/IAG a encore très largement dominé les médias et les conférences car les autres secteurs de la technologie numérique n'ont pas produit de nouveaux thèmes intéressants et les crypto monnaies et les métavers sont sorties du radar des médias et des investisseurs.
Sur cette question du doute sur la rentabilité des investissements et du risque de la formation d'une bulle spéculative, les titres de presse anglo saxonne sont éloquents:
Big Tech's AI bubble is alive and unwell (Marketwatch)
It’s Time for AI to Start Making Money for Businesses. Can It? (Wall Street Journal)
AI has all the answers. Even the wrong ones (FT)
Big Tech says AI is booming; Wall Street is starting to see a bubble (Washington Post)
Big tech feel the heat over ai concerns (FT)
Why have the big seven tech companies been hit by AI boom doubts? (The Guardian)
Nvidia is in a "bubble" and AI is 'overhyped' (FT)
Even Apple cannot explain why we need AI in our lives (FT)
Wall Street is becoming more skeptical of artificial-intelligence hype (MarketWatch)
Trois analyses sur ce thème ont paru cet été aux USA et ont fait un certain bruit.
Sequoia capital, un grand cabinet de capital risque, a produit sa note :"the AI’s $600B Question " faisant référence aux 600md$ de revenus nécessaires pour justifier les investissements actuels en infrastructure. Au final Sequoia reste relativement optimiste en soulignant que la route de l'IA sera longue avec des hauts et des bas mais que presque 'à coup sûr le jeu en vaudra la chandelle.
Le banquier Goldman Sachs a publié son rapport "GenAI: Too much spend, too little benefit? (trop de dépenses , trop peu de résultats) . Des experts interrogés dans le rapport voient un horizon à 10 ans pour le développement rentable de l'IA alors que d'autres trouvent que "les dépenses d’investissement actuelles en pourcentage des revenus ne semblent pas très différentes de celles des cycles d’investissement technologiques précédents"
Le rapport de Barclays est intitulé "Cloud AI Capex: FOMO or Field-Of-Dreams?"(le capex du cloud pour l'IA: peur de rater quelque chose ou le champ des rêves (avec un jeu de mots sur l'abréviation FOMO: Fear of Missing Out pour Field Of Dreams). "Wall Street s’attend à ce que les dépenses d’investissement supplémentaires pour l’IA soient d’environ 60 milliards de dollars, mais il y aura seulement 20 milliards de dollars de revenus supplémentaires dans le cloud pour 2026." Ça ne tiendra pas la route.
L'émergence d'une "killer application" capable de tirer le marché peut prendre du temps. En attendant, l'espoir se porte sur les futurs gains de productivité grâce à l'IA et à un taux d'adoption favorable et rapide notamment dans la logistique et la finance. Le problème actuel ce sont les couts élevés, les trop lents retours sur investissement.
Il ne fait pas de doute que l'IA constitue une vraie rupture technologique permettant de faire des choses inenvisageables jusque-là. Mais à quelle vitesse les entreprises vont-elles passer de l'époque actuelle des expérimentations à des déploiements en réelle production à grande échelle? La réponse n'est pas encore discernable.
Mais on peut observer aussi qu'il a fallu une dizaine d'années pour que des applications clefs émergent sur internet (un réseau technologiquement imparfait avec son "best effort"), avec les moteurs de recherche, les réseaux sociaux financés par les recettes publicitaires, le commerce électronique, la vidéo et la musique streamées, et leurs extensions sur le mobile. Différents modèles économiques ont été inventés, la publicité numérique, l'abonnement, et le commerce en ligne. Les prix des technologies baissent régulièrement et c'est déjà le cas avec l'IA en peu de temps. Il y a une importante innovation dans le domaine avec notamment la prolifération de logiciels libres. On annonce régulièrement aussi des produits et systèmes permettant d'aller plus vite et faire plus pour moins cher.
Mais certains pessimistes avancent que de nombreuses utilisations supposées de l’IA/IAG ne seront jamais rentables, ne fonctionneront jamais correctement, consommeront trop d’énergie ou ne seront pas dignes de confiance.
Cependant, il y a une école de pensée qui avance que les acteurs de l'IA n'ont pas d'autre choix que la course en avant pour développer toujours plus de nouveautés surtout celles censées pallier les imperfections notoires actuelles de l'IAG. Et que le mouvement n'est pas prêt de s'arrêter.
Coté culture, dans la SV il est connu que les entreprises de tech n'hésitent pas à "pivoter" rapidement vers une autre activité après qu'une première stratégie non concluante économiquement les amène à virer de bord pour continuer à trouver des financements et survivre.
Ou elles essayent de se vendre, poussées en cela par leurs investisseurs qui veulent au moins récupérer leurs mises.
Mais dans la situation actuelle c'est assez différent car en matière d'investissement ce sont surtout de riches Big Tech qui disposent de beaucoup de cash plutôt que le capital-risque qui mènent la danse en prolongement de leurs activités lucratives de cloud computing. Mais elles ne continueront pas à n'importe quel prix. Et s'ils décidaient de ralentir ou d'arrêter leurs investissements, le boum de l'IA serait terminé. Avec notamment des conséquences néfastes voire funestes sur les startups d'IA et les projets d'IA des entreprises et des institutions. C'est un scénario possible mais peu probable.
On voit déjà il est vrai quelques signaux préoccupants. Plusieurs startups de l'IA se vendent (par appartements) à des Big Tech. Par exemple Character. AI a annoncé se rapprocher de Google, Adept AI a fait de même avec Amazon et inflection avec Microsoft. Il s'agit d'arrangements commerciaux bizarres qui ressemblent à des pseudo acquisitions afin d'échapper aux règlementations visant les pratiques anti concurrentielles. Ainsi la commission fédérale du commerce aux USA (FTC) a lancé une enquête sur l’accord d’Amazon avec Adept et sur celui de Microsoft avec Inflection. Et c'est aussi un moyen de financer une partie de leurs énormes investissements dans les infrastructures d'IA. Avec le cash détenu par ces startups souvent financées au moins en partie par leurs "repreneurs".
À cet égard, le titre d'un article récent du Wall Street Journal est éloquent et inquiétant :
"Les startups de l’IA en difficulté cherchent un renflouement de la part des Big Tech" (Struggling AI Startups Look for a Bailout From Big Tech)
Comme les LLMs et leurs itérations fréquentes sont semblables et que leur cout de développement est prohibitif, le focus de beaucoup de startups est sur le développement de nouvelles fonctionnalités pour des cas d'usages restreints et pour des applications spécialisées s'appuyant sur des jeux de données très optimisés des entreprises clientes et introuvables ailleurs. Tout le monde cherche si l'IA pourrait résoudre tel ou tel problème parfois futuriste et souvent concret où l'on espère que la puissance attribuée à l'IA permettra de faire ce que les logiciels et systèmes pré-IA n'ont pas pu faire. Ce qui ressemble à l'époque de l'effervescence autour des Apps de smartphone où "il y avait une app pour cela", mais maintenant ce sera "il y a une IA pour cela". Pour ce qui est des LLMs, leur mise en logiciel libre notamment par certains comme Meta fluidifie le marché et accroit l'innovation communaute.
D’autres percées sont pratiquement garanties. Les plus grandes entreprises du secteur ont des feuilles de route claires pour l'avenir, notamment pour la prochaine génération de modèles d'avant-garde (modèles frontière) avec des nouveaux records établis pratiquement chaque mois.
L’IA générative commence à devenir aussi meilleur marché. Le coût de l’inférence LLM a été divisé par 100 en 2 ans (~50 $ à 0,50 $ par million de jetons) selon G. Apenzeller du capital risqueur Andresseen Horowitz.
Nvidia de son côté a annoncé que sa puce d'IA B100 aura une performance deux fois et demi meilleure pour un surcout de seulement 25%
Les résultats des entreprises de tech et d'IA aux USA pour le deuxième trimestre 2024 n'ont pas enchanté les marchés financiers sauf pour Meta car l'impact de l'iA sur les revenus et les marges à court terme (hors Nvidia) n'est pas facile à identifier. L'annonce du retard de trois mois dans la livraison par Nvidia de ses nouvelles puces IA a jeté un froid, car Nvidia se trouvant en quasi-monopole a une influence importante sur la dynamique actuelle de l'IA dans le monde et la psychologie des marchés financiers.
Un développement inattendu a ouvert une sorte de deuxième source pour les puces IA de Nvidia. En effet les sociétés qui "minent" des "blocs" de bitcoin ont vu leurs revenus réduits par la réduction quadriennale de la moitié (halving) du bitcoin en avril 2024. Le coût élevé de l’énergie a également affecté leur rentabilité. Aussi, elle se sont mises à proposer leurs infrastructures à base de puces GPU/IA de Nvidia à des startups à cours de puissance de calcul pour l'IA.
A l'occasion des récents rapports financiers du deuxième trimestre, il est apparu qu'au cours du premier semestre 2024, Alphabet, Amazon, Meta et Microsoft ont dépensé près de 104 milliards de dollars en dépenses d’investissement, en hausse de 47 % par rapport à l’année précédente, dont plus de la moitié au deuxième trimestre. Microsoft et Alphabet ont connu les plus fortes augmentations d’une année sur l’autre parmi les quatre, entraînant respectivement une augmentation des dépenses d’investissement de 78 % et 91 % pour le premier semestre. (source: Forbes)
Curieusement, encore au début de l'été il semblait qu’il y avait peu d’inquiétude quant au rendement des investissements énormes dans les infrastructures pour l'IA. La seule inquiétude semblait être de ne pas investir suffisamment !
Mais certains investisseurs avaient espéré que "ce serait le trimestre où les Big Tech commenceraient à indiquer qu’ils renonçaient à leurs investissements dans l’infrastructure de l’IA, car "’IA ne fournit pas les rendements qu’ils attendaient". Le contraire s’est produit - Google, Microsoft et Meta ont tous indiqué qu’ils prévoyaient de dépenser encore plus. Rien qu’au cours du dernier trimestre, Apple, Amazon, Meta, Microsoft et Alphabet, ont dépensé 59 milliards de dollars en dépenses d’investissement, soit 63% de plus qu’un an plus tôt et 161% de plus qu’il y a quatre ans. Une grande partie de cette somme a été consacrée à la construction de centres de données et à l'intégration de nouveaux systèmes informatiques pour développer l’intelligence artificielle. (source: NYT)
Meta a déclaré qu’elle s’attendait désormais à ce que les dépenses d’investissement pour l’ensemble de l’année se situent entre 37 et 40 milliards de dollars, augmentant le bas de la fourchette des prévisions de 2 milliards de dollars. L'IA n'y est pas pour rien.
"Pour Meta ce qui est important avec l’IA, c’est qu’elle peut être utilisée pour améliorer tous ses produits de presque toutes les manières à tous les niveaux." Comme Apple, Meta ne commercialise pas de services de son cloud à des entreprises contrairement aux autres Big tech. Ses produits d'IA sont accessibles en logiciel libre ce qui lui permet de bénéficier des innovations apportées par des centaines de développeurs informatiques. M. Zuckerberg a démarré cette année en disant que son entreprise dépenserait plus de 30 milliards de dollars en 2024 pour de nouvelles infrastructures technologiques. En avril, il a porté ce montant à 35 milliards de dollars. Et récemment, il l’a porté à au moins 37 milliards de dollars. Il a déclaré que Meta dépenserait encore plus l’année prochaine et qu’il préférait construire trop vite "plutôt que trop tard" et permettre à ses concurrents d’obtenir une grande avance dans la course à l’IA. (source: NYT)
Microsoft de son côté a investi 19 md$ dans le cloud et l'IA et se préparer à dépenser davantage au cours de l’exercice 2025 que ses 56 md$ de dépenses d’investissement de 2024.
Selon Amy Hood la directrice financière, les dépenses liées à l’IA représentaient "presque toutes nos dépenses d’investissement", avec "environ la moitié" pour les besoins d’infrastructure qui "soutiendront la monétisation au cours des 15 prochaines années et au-delà ".
Microsoft a aussi indiqué que ses services d'IA services ont contribué 8 points de croissance aux revenus de son cloud Azure pour le trimestre se terminant en juin, contre 7 points pour le trimestre précédent. Le PDG, Satya Nadella a dit qu'ils ont "les signaux d'une demande" pour justifier ces investissements dans l'IA. (source: WSJ)
Google a prévu des dépenses d’investissement "égales ou supérieures" à 12 milliards de dollars pour chaque trimestre de cette année pour l'infrastructure technique. (ses dépenses en capital au deuxième trimestre se sont élevées à environ 17 % de ses ventes totales). Sundar Pichai PDG d'Alphabet (Google) de son côté tient un discours analogue à ceux de ses concurrents. "Ces choses prennent du temps et le risque de sous-investir est considérablement plus important que le risque de surinvestir. (source: the economist)
Amazon est prudente, ses dépenses d’investissement de l’année dernière se situant autour de 48,4 milliards de dollars. Elle a dépensé 30,5 milliards de dollars jusqu’à présent en 2024, un montant exorbitant si l’on considère que son bénéfice pour le deuxième trimestre 2024 était de 13,48 milliards de dollars.
Pourtant ils n'ont pas impressionné les investisseurs qui ont fait chuter le cours de l'action. Et ce alors que le chiffre d'affaire de Nvidia de 30md$ a plus que doublé le dernier trimestre soit une hausse de 122% par rapport à la même période il y a un an, et a dépassé les estimations de 28,7 md$ des analystes. Les bénéfices du trimestre ont également plus que doublé pour atteindre 16,6 milliards de dollars, en hausse par rapport aux prévisions de 15 milliards de dollars des analystes.
La société a engrangé près de 26,3 milliards de dollars de chiffre d'affaire pour son activité data center, ce qui représentait 87 % de son chiffre d’affaires total et une croissance de deux fois et demi par rapport à l'an dernier. C'est là que se trouve la croissance due à l'IAG. Les résultats de Nvidia montrent donc que le boom de l’IA se poursuit malgré les craintes récentes d’une bulle spéculative qui angoissent les marchés financiers qui se sont polarisés sur la croissance (de la croissance)
Les technologies de l'IA/IAG sont devenues selon CIO.com la quatrième priorité des PDGs aux USA après la transformation numérique, la cyber sécurité/réduction des risques, le renforcement de la collaboration entre métiers et SI, et avant l'amélioration de l'expérience client et la réduction/rationalisation des dépenses informatiques.
De son côté, Gartner indique dans son rapport (Gartner 2024 CEO Survey) que les PDG mentionnant l’IA comme l’une de leurs deux principales priorités technologiques sont passés de 4 % en 2023 à 24 % en 2024. Et 34 % des PDG disent que la prochaine transformation de leur entreprise après le numérique est l’IA. Les intentions des PDG de poursuivre l’IA comme prochaine transformation de l’entreprise sont près de quatre fois plus importantes que leur intérêt pour l’efficacité et l’agilité des opérations.
59 % pensent que l’IA est la technologie qui aura le plus d’impact sur leur secteur.
NB: L'IA représente ici toutes ses composantes actuelles dont -mais pas seulement -l'IAG.
Même si l'été 2024 aura été celui des critiques de l'IA et du scepticisme des analystes et des marchés financiers quant à sa rentabilité, l'abondance de nouveaux LLMs et de nouveaux produits et outils d'IAG adressant des cas d'usages de plus en plus spécifiques laisse penser que le marché s'organise et continuer de se développer avec une adoption croissante par les entreprises après la période d'expérimentations et de preuves de concept.
La dynamique économique de l'IAG est bel et bien partie.
Sans éclatement de bulle à l'horizon.
Georges Nahon
Septembre 2024
Analyste des technologies numériques et de la Silicon Valley, conférencier et auteur.
Précédemment directeur général d'Orange à San Francisco pendant quinze ans.
Tout ne semble pas au beau fixe pour la tech aux USA
Par exemple l’action d’Intel a plongé de 25% après que la société ait annoncé des résultats pour le T2 plus légers que ce que les analystes attendaient. Intel a indiqué avoir dépensé beaucoup pour s’adapter à la vague de l’IA et elle essaye maintenant de maîtriser les choses en réduisant ses coûts de 10 milliards de dollars et en supprimant 15 % de ses effectifs soit environ 15 000 employés.Mais le thème de l'IA/IAG a encore très largement dominé les médias et les conférences car les autres secteurs de la technologie numérique n'ont pas produit de nouveaux thèmes intéressants et les crypto monnaies et les métavers sont sorties du radar des médias et des investisseurs.
Mauvaise perception par les marchés financiers : les coups de bourse du mois d'août contre l'IA
Selon le Wall Street Journal, les Sept (sociétés) Magnifiques ou Mag 7, Google, Meta, Amazon, Nvidia, Microsoft, Apple, Tesla ont collectivement perdu 653 mds$ en capitalisation boursière le 5 août. Il s’agit de la plus importante perte de capitalisation boursière en une journée pour les Mag 7 depuis qu'ils ont perdu 744 milliards de dollars de valeur de marché le 24 juillet. Nvidia a perdu 167 milliards de dollars. Mais malgré les pertes du lundi 5 août, toutes les actions des Mag 7, à l’exception de Tesla, restent en hausse depuis le début de l’année. Nvidia a à peu près doublé en 2024.Le scepticisme quant aux chances de l'IA de ne jamais attendre la rentabilité
L'attention a porté sur les énormes investissements en capital des Big Tech qui veulent apporter à leurs clouds les performances nécessaires pour l'IA (59 milliards de dollars au deuxième trimestre, 63 pourcent de plus qu'il y a un an et 161 pourcent de plus qu'il y a quatre ans). Et la question est maintenant de savoir si la monétisation va réellement correspondre à ces investissements.Sur cette question du doute sur la rentabilité des investissements et du risque de la formation d'une bulle spéculative, les titres de presse anglo saxonne sont éloquents:
Big Tech's AI bubble is alive and unwell (Marketwatch)
It’s Time for AI to Start Making Money for Businesses. Can It? (Wall Street Journal)
AI has all the answers. Even the wrong ones (FT)
Big Tech says AI is booming; Wall Street is starting to see a bubble (Washington Post)
Big tech feel the heat over ai concerns (FT)
Why have the big seven tech companies been hit by AI boom doubts? (The Guardian)
Nvidia is in a "bubble" and AI is 'overhyped' (FT)
Even Apple cannot explain why we need AI in our lives (FT)
Wall Street is becoming more skeptical of artificial-intelligence hype (MarketWatch)
Les trois analyses pessimistes sur la rentabilité de l'IA pour les Mag 7
On a beaucoup comparé l'effervescence de l'IA à l'éclatement de la bulle spéculative de l'internet et des télécoms en mars 2000.Trois analyses sur ce thème ont paru cet été aux USA et ont fait un certain bruit.
Sequoia capital, un grand cabinet de capital risque, a produit sa note :"the AI’s $600B Question " faisant référence aux 600md$ de revenus nécessaires pour justifier les investissements actuels en infrastructure. Au final Sequoia reste relativement optimiste en soulignant que la route de l'IA sera longue avec des hauts et des bas mais que presque 'à coup sûr le jeu en vaudra la chandelle.
Le banquier Goldman Sachs a publié son rapport "GenAI: Too much spend, too little benefit? (trop de dépenses , trop peu de résultats) . Des experts interrogés dans le rapport voient un horizon à 10 ans pour le développement rentable de l'IA alors que d'autres trouvent que "les dépenses d’investissement actuelles en pourcentage des revenus ne semblent pas très différentes de celles des cycles d’investissement technologiques précédents"
Le rapport de Barclays est intitulé "Cloud AI Capex: FOMO or Field-Of-Dreams?"(le capex du cloud pour l'IA: peur de rater quelque chose ou le champ des rêves (avec un jeu de mots sur l'abréviation FOMO: Fear of Missing Out pour Field Of Dreams). "Wall Street s’attend à ce que les dépenses d’investissement supplémentaires pour l’IA soient d’environ 60 milliards de dollars, mais il y aura seulement 20 milliards de dollars de revenus supplémentaires dans le cloud pour 2026." Ça ne tiendra pas la route.
Peuvent-ils avoir tort tous les trois ?
L'émergence d'une "killer application" capable de tirer le marché peut prendre du temps. En attendant, l'espoir se porte sur les futurs gains de productivité grâce à l'IA et à un taux d'adoption favorable et rapide notamment dans la logistique et la finance. Le problème actuel ce sont les couts élevés, les trop lents retours sur investissement.Il ne fait pas de doute que l'IA constitue une vraie rupture technologique permettant de faire des choses inenvisageables jusque-là. Mais à quelle vitesse les entreprises vont-elles passer de l'époque actuelle des expérimentations à des déploiements en réelle production à grande échelle? La réponse n'est pas encore discernable.
Mais on peut observer aussi qu'il a fallu une dizaine d'années pour que des applications clefs émergent sur internet (un réseau technologiquement imparfait avec son "best effort"), avec les moteurs de recherche, les réseaux sociaux financés par les recettes publicitaires, le commerce électronique, la vidéo et la musique streamées, et leurs extensions sur le mobile. Différents modèles économiques ont été inventés, la publicité numérique, l'abonnement, et le commerce en ligne. Les prix des technologies baissent régulièrement et c'est déjà le cas avec l'IA en peu de temps. Il y a une importante innovation dans le domaine avec notamment la prolifération de logiciels libres. On annonce régulièrement aussi des produits et systèmes permettant d'aller plus vite et faire plus pour moins cher.
Mais certains pessimistes avancent que de nombreuses utilisations supposées de l’IA/IAG ne seront jamais rentables, ne fonctionneront jamais correctement, consommeront trop d’énergie ou ne seront pas dignes de confiance.
Cependant, il y a une école de pensée qui avance que les acteurs de l'IA n'ont pas d'autre choix que la course en avant pour développer toujours plus de nouveautés surtout celles censées pallier les imperfections notoires actuelles de l'IAG. Et que le mouvement n'est pas prêt de s'arrêter.
Et si les Mag 7 arrêtaient leurs investissements dans l'IA ?
Dans le cas pessimiste où le marché ne réponde pas suffisamment rapidement à la poussée de l'IA, notamment les entreprises et les institutions, est-il possible que les Mag 7 changent de direction et leur modèle pour l'IAG sans signe avant-coureur ? Et qu'arrivera –il aux autres entrepreneurs de l'IAG ?Coté culture, dans la SV il est connu que les entreprises de tech n'hésitent pas à "pivoter" rapidement vers une autre activité après qu'une première stratégie non concluante économiquement les amène à virer de bord pour continuer à trouver des financements et survivre.
Ou elles essayent de se vendre, poussées en cela par leurs investisseurs qui veulent au moins récupérer leurs mises.
Mais dans la situation actuelle c'est assez différent car en matière d'investissement ce sont surtout de riches Big Tech qui disposent de beaucoup de cash plutôt que le capital-risque qui mènent la danse en prolongement de leurs activités lucratives de cloud computing. Mais elles ne continueront pas à n'importe quel prix. Et s'ils décidaient de ralentir ou d'arrêter leurs investissements, le boum de l'IA serait terminé. Avec notamment des conséquences néfastes voire funestes sur les startups d'IA et les projets d'IA des entreprises et des institutions. C'est un scénario possible mais peu probable.
On voit déjà il est vrai quelques signaux préoccupants. Plusieurs startups de l'IA se vendent (par appartements) à des Big Tech. Par exemple Character. AI a annoncé se rapprocher de Google, Adept AI a fait de même avec Amazon et inflection avec Microsoft. Il s'agit d'arrangements commerciaux bizarres qui ressemblent à des pseudo acquisitions afin d'échapper aux règlementations visant les pratiques anti concurrentielles. Ainsi la commission fédérale du commerce aux USA (FTC) a lancé une enquête sur l’accord d’Amazon avec Adept et sur celui de Microsoft avec Inflection. Et c'est aussi un moyen de financer une partie de leurs énormes investissements dans les infrastructures d'IA. Avec le cash détenu par ces startups souvent financées au moins en partie par leurs "repreneurs".
À cet égard, le titre d'un article récent du Wall Street Journal est éloquent et inquiétant :
"Les startups de l’IA en difficulté cherchent un renflouement de la part des Big Tech" (Struggling AI Startups Look for a Bailout From Big Tech)
Innovations dans l'IA
Comme les LLMs et leurs itérations fréquentes sont semblables et que leur cout de développement est prohibitif, le focus de beaucoup de startups est sur le développement de nouvelles fonctionnalités pour des cas d'usages restreints et pour des applications spécialisées s'appuyant sur des jeux de données très optimisés des entreprises clientes et introuvables ailleurs. Tout le monde cherche si l'IA pourrait résoudre tel ou tel problème parfois futuriste et souvent concret où l'on espère que la puissance attribuée à l'IA permettra de faire ce que les logiciels et systèmes pré-IA n'ont pas pu faire. Ce qui ressemble à l'époque de l'effervescence autour des Apps de smartphone où "il y avait une app pour cela", mais maintenant ce sera "il y a une IA pour cela". Pour ce qui est des LLMs, leur mise en logiciel libre notamment par certains comme Meta fluidifie le marché et accroit l'innovation communaute.
Doit-on s’attendre à d’autres percées de l’IA au cours des prochains mois ?
D’autres percées sont pratiquement garanties. Les plus grandes entreprises du secteur ont des feuilles de route claires pour l'avenir, notamment pour la prochaine génération de modèles d'avant-garde (modèles frontière) avec des nouveaux records établis pratiquement chaque mois.L’IA générative commence à devenir aussi meilleur marché. Le coût de l’inférence LLM a été divisé par 100 en 2 ans (~50 $ à 0,50 $ par million de jetons) selon G. Apenzeller du capital risqueur Andresseen Horowitz.
Nvidia de son côté a annoncé que sa puce d'IA B100 aura une performance deux fois et demi meilleure pour un surcout de seulement 25%
Résultats financiers du deuxième trimestre 2024
Les résultats des entreprises de tech et d'IA aux USA pour le deuxième trimestre 2024 n'ont pas enchanté les marchés financiers sauf pour Meta car l'impact de l'iA sur les revenus et les marges à court terme (hors Nvidia) n'est pas facile à identifier. L'annonce du retard de trois mois dans la livraison par Nvidia de ses nouvelles puces IA a jeté un froid, car Nvidia se trouvant en quasi-monopole a une influence importante sur la dynamique actuelle de l'IA dans le monde et la psychologie des marchés financiers.Un développement inattendu a ouvert une sorte de deuxième source pour les puces IA de Nvidia. En effet les sociétés qui "minent" des "blocs" de bitcoin ont vu leurs revenus réduits par la réduction quadriennale de la moitié (halving) du bitcoin en avril 2024. Le coût élevé de l’énergie a également affecté leur rentabilité. Aussi, elle se sont mises à proposer leurs infrastructures à base de puces GPU/IA de Nvidia à des startups à cours de puissance de calcul pour l'IA.
A l'occasion des récents rapports financiers du deuxième trimestre, il est apparu qu'au cours du premier semestre 2024, Alphabet, Amazon, Meta et Microsoft ont dépensé près de 104 milliards de dollars en dépenses d’investissement, en hausse de 47 % par rapport à l’année précédente, dont plus de la moitié au deuxième trimestre. Microsoft et Alphabet ont connu les plus fortes augmentations d’une année sur l’autre parmi les quatre, entraînant respectivement une augmentation des dépenses d’investissement de 78 % et 91 % pour le premier semestre. (source: Forbes)
Curieusement, encore au début de l'été il semblait qu’il y avait peu d’inquiétude quant au rendement des investissements énormes dans les infrastructures pour l'IA. La seule inquiétude semblait être de ne pas investir suffisamment !
Mais certains investisseurs avaient espéré que "ce serait le trimestre où les Big Tech commenceraient à indiquer qu’ils renonçaient à leurs investissements dans l’infrastructure de l’IA, car "’IA ne fournit pas les rendements qu’ils attendaient". Le contraire s’est produit - Google, Microsoft et Meta ont tous indiqué qu’ils prévoyaient de dépenser encore plus. Rien qu’au cours du dernier trimestre, Apple, Amazon, Meta, Microsoft et Alphabet, ont dépensé 59 milliards de dollars en dépenses d’investissement, soit 63% de plus qu’un an plus tôt et 161% de plus qu’il y a quatre ans. Une grande partie de cette somme a été consacrée à la construction de centres de données et à l'intégration de nouveaux systèmes informatiques pour développer l’intelligence artificielle. (source: NYT)
Meta a déclaré qu’elle s’attendait désormais à ce que les dépenses d’investissement pour l’ensemble de l’année se situent entre 37 et 40 milliards de dollars, augmentant le bas de la fourchette des prévisions de 2 milliards de dollars. L'IA n'y est pas pour rien.
"Pour Meta ce qui est important avec l’IA, c’est qu’elle peut être utilisée pour améliorer tous ses produits de presque toutes les manières à tous les niveaux." Comme Apple, Meta ne commercialise pas de services de son cloud à des entreprises contrairement aux autres Big tech. Ses produits d'IA sont accessibles en logiciel libre ce qui lui permet de bénéficier des innovations apportées par des centaines de développeurs informatiques. M. Zuckerberg a démarré cette année en disant que son entreprise dépenserait plus de 30 milliards de dollars en 2024 pour de nouvelles infrastructures technologiques. En avril, il a porté ce montant à 35 milliards de dollars. Et récemment, il l’a porté à au moins 37 milliards de dollars. Il a déclaré que Meta dépenserait encore plus l’année prochaine et qu’il préférait construire trop vite "plutôt que trop tard" et permettre à ses concurrents d’obtenir une grande avance dans la course à l’IA. (source: NYT)
Microsoft de son côté a investi 19 md$ dans le cloud et l'IA et se préparer à dépenser davantage au cours de l’exercice 2025 que ses 56 md$ de dépenses d’investissement de 2024.
Selon Amy Hood la directrice financière, les dépenses liées à l’IA représentaient "presque toutes nos dépenses d’investissement", avec "environ la moitié" pour les besoins d’infrastructure qui "soutiendront la monétisation au cours des 15 prochaines années et au-delà ".
Microsoft a aussi indiqué que ses services d'IA services ont contribué 8 points de croissance aux revenus de son cloud Azure pour le trimestre se terminant en juin, contre 7 points pour le trimestre précédent. Le PDG, Satya Nadella a dit qu'ils ont "les signaux d'une demande" pour justifier ces investissements dans l'IA. (source: WSJ)
Google a prévu des dépenses d’investissement "égales ou supérieures" à 12 milliards de dollars pour chaque trimestre de cette année pour l'infrastructure technique. (ses dépenses en capital au deuxième trimestre se sont élevées à environ 17 % de ses ventes totales). Sundar Pichai PDG d'Alphabet (Google) de son côté tient un discours analogue à ceux de ses concurrents. "Ces choses prennent du temps et le risque de sous-investir est considérablement plus important que le risque de surinvestir. (source: the economist)
Amazon est prudente, ses dépenses d’investissement de l’année dernière se situant autour de 48,4 milliards de dollars. Elle a dépensé 30,5 milliards de dollars jusqu’à présent en 2024, un montant exorbitant si l’on considère que son bénéfice pour le deuxième trimestre 2024 était de 13,48 milliards de dollars.
Les résultats de Nvidia en août 2024 montrent que le boom de l’IA se poursuit
Pourtant ils n'ont pas impressionné les investisseurs qui ont fait chuter le cours de l'action. Et ce alors que le chiffre d'affaire de Nvidia de 30md$ a plus que doublé le dernier trimestre soit une hausse de 122% par rapport à la même période il y a un an, et a dépassé les estimations de 28,7 md$ des analystes. Les bénéfices du trimestre ont également plus que doublé pour atteindre 16,6 milliards de dollars, en hausse par rapport aux prévisions de 15 milliards de dollars des analystes. La société a engrangé près de 26,3 milliards de dollars de chiffre d'affaire pour son activité data center, ce qui représentait 87 % de son chiffre d’affaires total et une croissance de deux fois et demi par rapport à l'an dernier. C'est là que se trouve la croissance due à l'IAG. Les résultats de Nvidia montrent donc que le boom de l’IA se poursuit malgré les craintes récentes d’une bulle spéculative qui angoissent les marchés financiers qui se sont polarisés sur la croissance (de la croissance)
Conclusion
Les technologies de l'IA/IAG sont devenues selon CIO.com la quatrième priorité des PDGs aux USA après la transformation numérique, la cyber sécurité/réduction des risques, le renforcement de la collaboration entre métiers et SI, et avant l'amélioration de l'expérience client et la réduction/rationalisation des dépenses informatiques.De son côté, Gartner indique dans son rapport (Gartner 2024 CEO Survey) que les PDG mentionnant l’IA comme l’une de leurs deux principales priorités technologiques sont passés de 4 % en 2023 à 24 % en 2024. Et 34 % des PDG disent que la prochaine transformation de leur entreprise après le numérique est l’IA. Les intentions des PDG de poursuivre l’IA comme prochaine transformation de l’entreprise sont près de quatre fois plus importantes que leur intérêt pour l’efficacité et l’agilité des opérations.
59 % pensent que l’IA est la technologie qui aura le plus d’impact sur leur secteur.
NB: L'IA représente ici toutes ses composantes actuelles dont -mais pas seulement -l'IAG.
Même si l'été 2024 aura été celui des critiques de l'IA et du scepticisme des analystes et des marchés financiers quant à sa rentabilité, l'abondance de nouveaux LLMs et de nouveaux produits et outils d'IAG adressant des cas d'usages de plus en plus spécifiques laisse penser que le marché s'organise et continuer de se développer avec une adoption croissante par les entreprises après la période d'expérimentations et de preuves de concept.
La dynamique économique de l'IAG est bel et bien partie.
Sans éclatement de bulle à l'horizon.
Georges Nahon
Septembre 2024
Analyste des technologies numériques et de la Silicon Valley, conférencier et auteur.
Précédemment directeur général d'Orange à San Francisco pendant quinze ans.
Autres articles sur le même thème
Quoi de neuf dans la Silicon Valley ?
Trump 2.0 et la tech américaine
par Georges Nahon
par Georges Nahon
Mag #19
Lire l'article
Quoi de neuf dans la Silicon Valley ?
Du financement aux innovations, l'IA continue de dominer le secteur du numérique
Mag #18
Lire l'article
