Pré-entraînement de la vision et des grands modèles linguistiques en Python : Techniques de bout en bout pour construire et déployer des modèles de base sur AWS

Avis des lecteurs

Résumé:

Le livre « Pretrain Vision and Large Language Models in Python » d'Emily Webber est un guide complet qui aide les lecteurs à comprendre et à déployer des modèles de base à l'aide d'AWS et d'Amazon SageMaker. Il fournit des conseils pratiques, des discussions détaillées et des exemples de code qui s'adressent aussi bien aux débutants qu'aux utilisateurs avancés. Cependant, il y a des problèmes tels que des erreurs d'impression dans certaines copies, et certains lecteurs ont trouvé que le livre manquait de profondeur ou qu'il essayait de couvrir trop de choses sans entrer dans des détails significatifs.

Avantages:

Couverture complète de la formation et du déploiement des modèles fondamentaux, exemples pratiques et échantillons de code, conseils bien structurés, points de vue d'expert de l'auteur, adapté à la fois aux débutants et aux utilisateurs avancés, ressource opportune au vu de l'intérêt croissant pour les modèles de langage de grande taille.

Inconvénients:

Certaines copies présentaient des erreurs d'impression (pages manquantes, pages à l'envers), peut nécessiter des connaissances préalables sur l'apprentissage profond, peut manquer de profondeur dans certains domaines, certains lecteurs ont estimé qu'il était trop vaste et désordonné, et il peut se lire comme un argumentaire de vente pour SageMaker.

(basé sur 15 avis de lecteurs)

Titre original :

Pretrain Vision and Large Language Models in Python: End-to-end techniques for building and deploying foundation models on AWS

Contenu du livre :

Maîtriser l'art de la vision de formation et des grands modèles de langage avec des fondements conceptuels et des conseils d'experts de l'industrie. Apprenez à connaître les services AWS et les modèles de conception, avec des exemples de codage pertinents.

Caractéristiques principales :

⬤ Apprenez à développer, entraîner, régler et appliquer des modèles de base avec des pipelines optimisés de bout en bout.

⬤ Explorer la formation distribuée à grande échelle pour les modèles et les ensembles de données avec des exemples d'AWS et de SageMaker.

⬤ Les modèles d'apprentissage à grande échelle pour les modèles et les ensembles de données avec des exemples d'AWS et de SageMaker.

Description du livre :

Les modèles de fondation ont changé à jamais l'apprentissage automatique. De BERT à ChatGPT, de CLIP à Stable Diffusion, lorsque des milliards de paramètres sont combinés avec de grands ensembles de données et des centaines ou des milliers de GPU, le résultat n'est rien de moins qu'un record. Les recommandations, les conseils et les exemples de code de ce livre vous aideront à pré-entraîner et à affiner vos propres modèles de base à partir de zéro sur AWS et Amazon SageMaker, tout en les appliquant à des centaines de cas d'utilisation dans votre entreprise.

Grâce aux conseils d'Emily Webber, experte chevronnée d'AWS et de l'apprentissage automatique, ce livre vous aide à apprendre tout ce dont vous avez besoin pour passer de l'idéation d'un projet à la préparation d'un ensemble de données, à l'entraînement, à l'évaluation et au déploiement de modèles linguistiques, visuels et multimodaux de grande envergure. Grâce à des explications pas à pas des concepts essentiels et à des exemples pratiques, vous passerez de la maîtrise du concept de pré-entraînement à la préparation de votre jeu de données et de votre modèle, à la configuration de votre environnement, à l'entraînement, au réglage fin, à l'évaluation, au déploiement et à l'optimisation de vos modèles de base.

Vous apprendrez à appliquer les lois de mise à l'échelle pour distribuer votre modèle et votre ensemble de données sur plusieurs GPU, à supprimer les biais, à atteindre un débit élevé et à construire des pipelines de déploiement.

À la fin de ce livre, vous serez bien équipé pour vous lancer dans votre propre projet de pré-entraînement et de mise au point des modèles de base du futur.

Ce que vous apprendrez

⬤ Trouver les bons cas d'utilisation et les bons ensembles de données pour le pré-entraînement et le réglage fin.

⬤ Se préparer à l'entraînement à grande échelle avec des accélérateurs et des GPU personnalisés.

⬤ Configurer les environnements sur AWS et SageMaker pour maximiser les performances.

⬤ Sélectionnez les hyperparamètres en fonction de votre modèle et de vos contraintes.

⬤ Distribuer votre modèle et votre jeu de données en utilisant plusieurs types de parallélisme.

⬤ Évitez les pièges avec les redémarrages de tâches, les contrôles de santé intermittents, etc.

⬤ Évaluez votre modèle avec des informations quantitatives et qualitatives.

⬤ Déployer vos modèles avec des améliorations d'exécution et des pipelines de surveillance.

À qui s'adresse ce livre ?

Si vous êtes un chercheur en apprentissage automatique ou un passionné qui souhaite démarrer un projet de modélisation de base, ce livre est fait pour vous. Les scientifiques appliqués, les scientifiques des données, les ingénieurs en apprentissage automatique, les architectes de solutions, les gestionnaires de produits et les étudiants bénéficieront tous de ce livre. Un niveau intermédiaire en Python est indispensable, ainsi que des notions d'introduction au cloud computing. Une solide compréhension des principes fondamentaux de l'apprentissage profond est nécessaire, tandis que les sujets avancés seront expliqués. Le contenu couvre les techniques avancées d'apprentissage automatique et de cloud computing, en les expliquant d'une manière pratique et facile à comprendre.

Autres informations sur le livre :

• ISBN : 9781804618257
• Auteur : Emily Webber
• Éditeur : Packt Pub
• Langue : anglais
• Reliure : Broché