Préparer vos données pour obtenir des résultats de qualité est la première étape d'un projet analytique ou de ML. AWS Glue est un service d’intégration des données sans serveur qui facilite et accélère la préparation des données, et en réduit les coûts. Vous pouvez découvrir plus de 100 sources de données diverses et vous y connecter, gérer vos données dans un catalogue de données centralisé, et créer, exécuter et surveiller visuellement des pipelines ETL pour charger des données dans vos lacs de données. Grâce aux fonctionnalités d’IA générative intégrées, vous pouvez moderniser les tâches Spark et les développer plus rapidement grâce à une assistance intelligente pour la création d’ETL et le dépannage de Spark.
Présentation d'AWS Glue (01:54)
Les avantages d'AWS Glue
Compatible avec toutes les charges de travail
Prise en charge flexible de l'ETL, de l'ELT, du traitement par lots, du streaming, etc., sans enfermement.
Mise à l'échelle à la demande
Échelle de plusieurs pétaoctets et facturation à l'utilisation quelle que soit la taille des données.
Des outils sur mesure
Accompagne tous les utilisateurs de données, des développeurs aux utilisateurs professionnels.
Assistance de l’IA générative
Bénéficiez d'une aide basée sur l'IA tout au long de votre parcours d'intégration des données, de la génération automatique de code ETL à la modernisation de vos tâches Spark. AWS Glue fournit une génération de code intelligente, des mises à niveau de Spark assistées par l'IA (version préliminaire) et une résolution intégrée des problèmes liés à Spark (version préliminaire).
Tout-en-un
Fonctionnalités complètes d'intégration des données dans un seul service sans serveur.
Fonctionnement
AWS Glue est un service d'intégration des données sans serveur qui facilite la découverte, la préparation, le déplacement et l'intégration des données depuis des sources multiples pour l'analytique, le machine learning (ML) et le développement des applications.
Options des moteurs d'intégration des données
ETL basé sur les événements
Catalogue de données AWS Glue
Tâches ETL sans code
Gérer et contrôler la qualité des données
Préparation des données
Options des moteurs d'intégration des données
Sélectionnez votre moteur d'intégration des données favori dans AWS Glue pour prendre en charge vos utilisateurs et vos charges de travail.
Le diagramme présente la manière dont les utilisateurs d'AWS Glue peuvent choisir parmi les options d'interface pour créer des charges de travail utilisant plusieurs moteurs d'intégration des données. Quatre sections s'affichent : une à gauche, deux au milieu et une à droite.
La première section sur la gauche est appelée « Source de données ». Elle comprend les sources de données suivantes : « Amazon S3 », « Amazon DynamoDB », « Bases de données s'exécutant sur Amazon EC2 », « Bases de données » et « SaaS ».
Depuis la première section, il existe une flèche pointant vers la section du milieu au-dessus du diagramme, appelée « Choix des interfaces ». Trois éléments sont compris dans cette deuxième section : « AWS Glue Studio », « Bloc-notes Amazon SageMaker » et « Bloc-notes et IDE ».
Au-dessous de cette deuxième section, un texte indique « Les interfaces ouvertes prennent en charge les charges de travail interactives. » Ce texte comprend une flèche pointant vers la deuxième section précédemment décrite, située au-dessus, et une flèche pointant vers la troisième section, située au-dessous.
Cette troisième section est appelée « Moteurs d'intégration de données ». Le texte précise : « Choisissez un moteur de traitement de données évolutif sans serveur privilégié, avec une mise à l'échelle automatique et une tarification à l'usage ». Cette section comprend trois noms de moteur : « AWS Glue pour Ray », « AWS Glue pour Python Shell » et « AWS Glue pour Apache Spark ».
La quatrième section apparaît sur la droite de la deuxième section, avec une flèche pointant de la deuxième section vers la quatrième. La quatrième section indique : « Créez et chargez des données dans des lacs de données et des entrepôts de données ». Cette section comprend également trois éléments : « Amazon Redshift », « Lacs de données » et « Entrepôts de données ».
AWS Glue peut exécuter vos tâches d'extraction, de transformation et de chargement (ETL) à mesure que les nouvelles données arrivent. Par exemple, vous pouvez configurer AWS Glue pour que vos tâches ETL s'exécutent dès que de nouvelles données sont disponibles dans Amazon Simple Storage Service (S3).
Catalogue de données AWS Glue
Vous pouvez utiliser le catalogue de données pour la découverte et la recherche rapides sur plusieurs jeux de données AWS sans devoir déplacer les données. Une fois que les données sont cataloguées, elles sont immédiatement disponibles pour la recherche et l'interrogation avec Amazon Athena, Amazon EMR et Amazon Redshift Spectrum.
Tâches ETL sans code
AWS Glue Studio facilite la création, l'exécution et la surveillance visuelles des tâches ETL dans AWS Glue. Vous pouvez créer des tâches ETL qui déplacent et transforment les données à l'aide d'un éditeur glisser-déposer. AWS Glue génère automatiquement le code.
Gérer et contrôler la qualité des données
AWS Glue Data Quality automatise la création, la gestion et la surveillance des règles de qualité des données afin de garantir des données de haute qualité dans vos lacs et pipelines de données.
Le diagramme montre comment AWS Glue Data Quality peut être utilisé pour créer des recommandations de règles, surveiller la qualité des données et envoyer des alertes lorsque la qualité des données se détériore. Trois sections s'affichent de gauche à droite.
La première section présente une illustration du Catalogue de données AWS Glue et de l'ETL AWS Glue. Sous le Catalogue de données AWS Glue, il est indiqué : « Cataloguez tous les jeux de données dans vos lacs de données ». Sous l'ETL AWS Glue, il est indiqué : « Intégrez et transformez les données provenant de sources de données disparates ».
La deuxième section est intitulée : « AWS Glue Data Quality ». Cette section comporte trois icônes. La première est une liste de contrôle. En dessous, il est écrit : « Recommandations de règles de qualité des données. Démarrez rapidement avec les recommandations automatiques de règles de qualité des données ». La deuxième icône est un crayon. En dessous, il est écrit : « Règles de qualité des données préconfigurées. Modifiez ou augmentez les recommandations avec des règles de qualité des données préconfigurées ». La troisième icône est une cloche. En dessous, il est écrit : « Alertes et actions. Ajoutez des alertes et des actions à effectuer lorsque la qualité des données se détériore ».
La troisième icône comprend deux icônes empilées. La première icône est un diagramme en barres. En dessous, il est écrit : « Mesures. Utilisez les mesures de qualité des données pour prendre des décisions commerciales en toute confiance ». La deuxième icône est un signe d'avertissement. En dessous, il est écrit : « Alertes. Utilisez des alertes pour être prévenu lorsque la qualité se détériore et prenez des mesures pour corriger les données ».
AWS Glue DataBrew vous permet d'explorer et d'expérimenter avec des données provenant directement de votre lac de données, de vos entrepôts de données et de vos bases de données, y compris Amazon S3, Amazon Redshift, AWS Lake Formation, Amazon Aurora et Amazon Relational Database Service (RDS). Vous pouvez choisir parmi plus de 250 transformations pré-intégrées dans DataBrew pour automatiser les tâches de préparation des données, telles que le filtrage des anomalies, la normalisation des formats et la correction des valeurs non valides.
En outre, AWS Glue Studio offre un outil de préparation des données. Cet outil vous permet de préparer facilement les données grâce à une interface visuelle interactive de type pointer-cliquer sans écrire de code.
Cas d'utilisation
Identifier efficacement les données
Identifiez rapidement les données sur AWS, sur site et dans d'autres clouds, puis rendez-les instantanément disponibles pour les interroger et les transformer.
Prendre en charge divers cadres de traitement et charges de travail
Prise en charge plus facile de divers cadres de traitement des données, tels que ETL et ELT, et de diverses charges de travail, y compris batch, micro-batch et streaming.
Explorer, expérimenter et traiter les données de manière interactive
Grâce aux sessions interactives AWS Glue, les ingénieurs de données peuvent explorer et préparer les données de manière interactive en utilisant l'environnement de développement intégré (IDE) ou le bloc-notes de leur choix.
Supprimez la gestion de l'infrastructure grâce à l'allocation automatique et à la gestion des travailleurs, et regroupez tous vos besoins en matière d'intégration de données en un seul service.
La prise en charge AWS d'Internet Explorer s'arrête le 07/31/2022. Les navigateurs pris en charge sont Chrome, Firefox, Edge et Safari.
En savoir plus »