Nouvelle fonctionnalité de recherche Linkedin avec IA

Comment LinkedIn a-t-il surmonté le défi colossal de déployer une IA générative à grande échelle ?Dans cet épisode, nous explorons les coulisses de LinkedIn et leur parcours pour intégrer une IA générative à leur plateforme. Pourquoi un processus qui semble si simple a-t-il été décrit comme lent et brutal par l'équipe de LinkedIn ? La réponse réside dans les défis techniques liés à l'ingénierie à très grande échelle. L'épisode nous guide à travers les étapes cruciales de ce projet, en commençant par la transition d'une recherche par mots-clés à une recherche sémantique, où l'IA comprend le contexte et l'intention derrière les requêtes des utilisateurs.🚀 Déploiement de l’IA générative : un défi colossal LinkedIn a relevé le défi d’intégrer une IA générative à grande échelle pour sa vaste base d’utilisateurs. Ce processus, bien que pragmatique et optimisé, a nécessité de surmonter de nombreux obstacles techniques.🔍 De la recherche par mots-clés à la compréhension sémantique La transition de la recherche par mots-clés à une recherche sémantique a transformé l’interaction des utilisateurs avec la plateforme. L’IA ne se contente plus de chercher des mots spécifiques, mais comprend l’intention et le contexte des requêtes.📈 Échelle exponentielle et défis techniques Le passage de la gestion de millions à des milliards de profils a présenté des défis techniques majeurs. Les solutions adaptées à des millions d’entrées ne fonctionnent pas nécessairement à l’échelle d’un milliard, nécessitant une réévaluation complète.📚 La recette du succès : processus et optimisation Le succès réside dans une méthode éprouvée, analogue à un livre de recettes. Un modèle IA volumineux est utilisé pour générer une vaste base de données, puis optimisé par distillation pour créer un modèle plus petit et rapide, prêt pour la production.✂️ Optimisation : élagage et résumé Pour rendre le modèle IA plus efficace, LinkedIn a réduit sa taille de moitié par élagage, tout en maintenant une précision élevée. De plus, une IA auxiliaire résume les informations, réduisant la taille des données d’entrée par un facteur de 20.⚡ Vitesse de traitement multipliée par 10 Grâce à ces optimisations, la vitesse de traitement a été décuplée, permettant un déploiement réussi de la recherche sémantique à l’ensemble des membres de LinkedIn.🧭 Philosophie pragmatique : améliorer les outils fondamentaux Contrairement à la tendance de l’industrie vers des agents IA autonomes, LinkedIn s’est concentré sur l’amélioration des outils fondamentaux. Un agent IA, aussi intelligent soit-il, est inefficace avec de mauvais outils.🔑 Leçons apprises : pragmatique, codification, optimisation Trois leçons clés se dégagent : être pragmatique en résolvant un problème à la fois, codifier les succès pour les reproduire, et optimiser continuellement chaque étape pour des gains significatifs. Cette approche pourrait résoudre d’autres défis perçus comme impossibles.0:00:00 - Introduction à la recherche sémantique de LinkedIn0:00:22 - Transition de la recherche par mots-clés à la compréhension naturelle0:01:00 - Défi de grande échelle0:01:73 - Le défi du passage à l'échelle de milliards d'utilisateurs0:02:124 - L'échec initial et l'importance de se concentrer0:02:144 - La métaphore du livre de recettes0:03:161 - Méthode de distillation des modèles d'IA0:03:203 - Optimisation et élagage du modèle0:04:242 - Réduction de la taille des données d'entrée0:04:276 - Impact des optimisations : multiplication par 10 de la vitesse de traitement0:04:295 - Philosophie de LinkedIn : amélioration des outils fondamentaux0:05:317 - Trois leçons à retenir et conclusion---Une co-production originale du studio #JNPJ Je Ne Perds Jamais, Patrick DE CARVALHO (voir sur Linkedin) et 72h-podcast.comhttps://jeneperdsjamais.comhttps://patrickdecarvalho.comhttps://72h-podcast.com---Ce Podcast n'appartient pas et n'est pas affilié à LinkedIn Corporation. LinkedIn, le logo LinkedIn, le logo IN et InMail sont des marques déposées par LinkedIn Corporation. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.