Dans ce tutoriel, nous allons utiliser:

• Localisations des stations velib
• Carte des limites administratives françaises
• Arrondissements parisiens

La représentation des données, notamment la cartographie, est présentée plus amplement dans la partie visualiser. Quelques méthodes pour faire rapidement des cartes seront présentées ici mais ce n’est pas l’objet de ce chapitre.

Ce tutoriel s’inspire beaucoup d’un autre tutoriel que j’ai fait pour R disponible dans la documentation utilitr. Il peut servir de pendant à celui-ci pour l’utilisateur de R.

Quelques installations préalables sont nécessaires :

!pip install pandas fiona shapely pyproj rtree # à faire obligatoirement en premier pour utiliser rtree ou pygeos pour les jointures spatiales
!pip install contextily
!pip install geopandas

Pour être en mesure d’exécuter ce tutoriel, les imports suivants seront utiles.

import geopandas as gpd
import contextily as ctx
import matplotlib.pyplot as plt

Données spatiales: quelle différence avec des données traditionnelles ?

Le terme “données spatiales” désigne les données qui portent sur les caractéristiques géographiques des objets (localisation, contours, liens). Les caractéristiques géographiques des objets sont décrites à l’aide d’un système de coordonnées qui permettent une représentation dans un espace euclidien ($(x,y)$). Le passage de l’espace réel (la Terre, qui est une sphère) à l’espace plan se fait grâce à un système de projection. Voici quelques exemples de données spatiales:

• Une table décrivant des bâtiments, avec les coordonnées géographiques de chaque bâtiment;
• Le découpage communal du territoire, avec le contour du territoire de chaque commune;
• Les routes terrestres, avec les coordonnées décrivant leur parcours.

Les données spatiales rassemblent classiquement deux types de données :

1. des données géographiques (ou géométries): objets géométriques tels que des points, des vecteurs, des polygones, ou des maillages (raster). Exemple: la forme de chaque chaque commune, les coordonnées d’un bâtiment;
2. des données attributaires (ou attributs): des mesures et des caractéristiques associés aux objets géométriques. Exemple: la population de chaque commune, le nombre de fenêtres et le nombre d’étages d’un bâtiment.

Les données spatiales sont fréquemment traitées à l’aide d’un système d’information géographique (SIG), c’est-à-dire un système d’information capable de stocker, d’organiser et de présenter des données alphanumériques spatialement référencées par des coordonnées dans un système de référence (CRS). Python dispose de fonctionnalités lui permettant de réaliser les mêmes tâches qu’un SIG (traitement de données spatiales, représentations cartographiques).

Les systèmes de projection font l’objet de standards internationaux et sont souvent désignés par des codes dits codes EPSG. Ce site est un bon aide-mémoire. Les plus fréquents, pour les utilisateurs français, sont les suivants (plus d’infos ici):

• 2154: système de projection Lambert 93. Il s’agit du système de projection officiel. La plupart des données diffusées par l’administration pour la métropole sont disponibles dans ce système de projection.
• 27572: Lambert II étendu. Il s’agit de l’ancien système de projection officiel. Les données spatiales anciennes peuvent être dans ce format.
• 4326: WGS 84 ou système de pseudo-Mercator. Attention, ce n’est en réalité pas un système de projection mais un système de coordonnées (longitude / latitude) qui permet simplement un repérage angulaire sur l’ellipsoïde. Il est utilisé pour les données GPS.

De pandas à geopandas

Le package geopandas est une boîte à outils conçue pour faciliter la manipulation de données spatiales. La grande force de geopandas est qu’il permet de manipuler des données spatiales comme s’il s’agissait de données traditionnelles, car il repose sur le standard ISO 19125 simple feature access défini conjointement par l’Open Geospatial Consortium (OGC) et l’International Organization for Standardization (ISO).

Par rapport à un DataFrame standard, un objet geopandas comporte une colonne supplémentaire: geometry. Elle stocke les coordonnées des objets géographiques (ou ensemble de coordonnées s’agissant de contours). Un objet geopandas hérite des propriétés d’un DataFrame pandas mais propose des méthodes adaptées au traitement des données spatiales.

Ainsi, grâce à geopandas, on pourra effectuer des manipulations sur les attributs des données comme avec pandas mais on pourra également faire des manipulations sur la dimension spatiale des données. En particulier,

• Calculer des distances et des surfaces;
• Agréger rapidement des zonages (regrouper les communes en département par exemple);
• Trouver dans quelle commune se trouve un bâtiment à partir de ses coordonnées géographiques;
• Recalculer des coordonnées dans un autre système de projection.
• Faire une carte, rapidement et simplement

Par rapport à un logiciel spécialisé comme QGIS, python permettra d’automatiser le traitement et la représentation des données. D’ailleurs, QGIS utilise lui-même python…

Importer des données spatiales

Les données spatiales sont plus riches que les données traditionnelles car elles incluent, habituellement, des éléments supplémentaires pour placer dans un espace cartésien les objets. Cette dimension supplémentaire peut être simple (un point comporte deux informations supplémentaire: $x$ et $y$) ou assez complexe (polygones, lignes avec direction, etc.)

Les formats les plus communs de données spatiales sont les suivants:

• shapefile (.shp): format (propriétaire) le plus commun de données géographiques. La table de données (attributs) est stockée dans un fichier séparé des données spatiales. En faisant geopandas.read_file("monfichier.shp"), le package fait lui-même le lien entre les observations et leur représentation spatiale ;
• geojson (.json) : ce format, non préconisé par l’OGC est largement utilisé pour le développement web comme dans la librairie Leaflet. La dimension spatiale est stockée dans le même fichier que les attributs. Ces fichiers sont généralement beaucoup plus légers que les shapefiles mais possèdent des limites s’agissant de gros jeux de données.
• geopackage (.gpkg) : ce (relativement) nouveau format libre en un seul fichier également (lui recommandé par l’OGC) vise progressivement à se substituer au shapefile. Il est par exemple le format par défaut dans QGIS.

Cette page compare plus en détail ces trois types de formats de données géographiques.

L’aide de geopandas propose des bouts de code en fonction des différentes situations dans lesquelles on se trouve.

Exemple: récupérer les découpages territoriaux

L’un des fonds de carte les plus fréquents qu’on utilise est celui des limites administratives. Elles peuvent être trouvées sur le site de l’IGN ou récupérées sur data.gouv (construites par openstreetmap). Il est également possible d’utiliser l’une des API de l’IGN mais ces dernières ne sont pas encore très documentées pour des utilisateurs de Python.

Nous allons utiliser le package pynsee qui propose un module dédié à la récupération de fonds de carte officiels pour valoriser des données d’open data. Une précédente version de ce cours utilisait les données de data.gouv, elle est reportée en annexe

L’inconvénient est que les arrondissements parisiens ne sont pas présents dans le fichier proposé sur data.gouv. Il faut donc utiliser une source complémentaire, issue de l’opendata de la Mairie de Paris.

from pynsee.geodata import get_geodata
shp_communes = gpd.GeoDataFrame(
  get_geodata('ADMINEXPRESS-COG-CARTO.LATEST:commune')
)
shp_communes = shp_communes.rename({"insee_com": 'insee'}, axis = 'columns')
shp_communes = shp_communes.set_crs(3857)

shp_communes.head()

On reconnaît la structure d’un DataFrame pandas. A cette structure s’ajoute une colonne geometry qui enregistre la position des limites des polygones de chaque observation.

Comme vu précédemment, le système de projection est un élément important. Il permet à python d’interpréter les valeurs des points (deux dimensions) en position sur la terre, qui n’est pas un espace plan. Ici, les données ne sont pas projetées puisqu’elles sont dans le système WSG84 (epsg: 4326) ce qui permet de facilement ajouter un fonds de carte openstreetmap ou stamen pour rendre une représentation graphique plus esthétique. En toute rigueur, pour faire une carte statique d’un pays en particulier, il faudrait reprojeter les données dans un système de projection adapté à la zone géographique étudiée (par exemple le Lambert-93 pour la France métropolitaine).

On peut ainsi représenter Paris pour se donner une idée de la nature du shapefile utilisé :

paris = shp_communes.loc[shp_communes['insee'].str.startswith("75")]

fig,ax = plt.subplots(figsize=(10, 10))
paris.plot(ax = ax, alpha=0.5, edgecolor='blue')
ctx.add_basemap(ax, crs = paris.crs.to_string())
ax.set_axis_off()
ax

<AxesSubplot:>

On voit ainsi que les données pour Paris ne comportent pas d’arrondissement, ce qui est limitant pour une analyse focalisée sur Paris. On va donc les récupérer sur le site d’open data de la ville de Paris et les substituer à Paris :

En refaisant la carte ci-dessus, on obtient bien, cette fois, le résultat espéré

paris = communes.loc[communes.insee.str.startswith("75")]

fig,ax = plt.subplots(figsize=(10, 10))

paris.plot(ax = ax, alpha=0.5, edgecolor='k')
ctx.add_basemap(ax, crs = paris.crs.to_string())
ax.set_axis_off()
ax

<AxesSubplot:>

Opérations sur les attributs et les géométries

Import des données velib

Souvent, le découpage communal ne sert qu’en fond de cartes, pour donner des repères. En complément de celui-ci, on peut désirer exploiter un autre jeu de données. On va partir des données de localisation des stations velib, disponibles sur le site d’open data de la ville de Paris et requêtables directement par l’url https://opendata.paris.fr/explore/dataset/velib-emplacement-des-stations/download/?format=geojson&timezone=Europe/Berlin&lang=fr

communes['dep'] = communes.insee.str[:2]

On peut se rassurer en affichant les données sur la carte des communes d’Île-de-France.

fig = ax.get_figure()
fig.savefig("featured.png")

Découvrez ci-dessous par étape les différentes lignes de commandes permettant d’afficher cette carte complète, étape par étape:

1️⃣ Afficher le nuage de points de 200 stations vélibs prises au hasard

fig,ax = plt.subplots(figsize=(10, 10))
stations.sample(200).plot(ax = ax, color = 'red', alpha = 0.4, zorder=2)
#communes[communes['dep'].isin(['75','92','93','94'])].plot(ax = ax, zorder=1, edgecolor = "black", facecolor="none",
#                                                           color = None)
#ctx.add_basemap(ax, crs = stations.crs.to_string(), source = ctx.providers.Stamen.Watercolor)
# ax.set_axis_off()
# ax

<AxesSubplot:>

2️⃣ Ajouter à cette couche, en dessous, les contours des communes

3️⃣ Ajouter un fond de carte de type open street map grâce au package contextily

4️⃣ Ne reste plus qu’à retirer l’axe des coordonnées, qui n’est pas très esthétique. Pour cela:

In fine, on obtient la carte désirée.

Opérations sur les attributs

Toutes les opérations possibles sur un objet pandas le sont également sur un objet geopandas. Pour manipuler les données, et non la géométrie, on parlera d’opérations sur les attributs.

Par exemple, si on désire connaître quelques statistiques sur la taille des stations:

stations.describe()

Pour connaître les plus grands départements, créons d’abord les deux variables en question: le département (deux premiers chiffres du code Insee) et surface (méthode area sur un objet geopandas.GeoDataFrame ramenée en km², attention néamoins au système de projection comme cela est expliqué plus bas):

shp_communes['dep'] = shp_communes.insee.str[:2]
shp_communes['surface'] = shp_communes.area.div(10**6)

Les plus grands départements s’obtiennent par une aggrégation des surfaces communales:

shp_communes.groupby('dep').sum().sort_values('surface', ascending = False)

Si on veut directement les plus grandes communes de France métropolitaine :

shp_communes[shp_communes.dep != "97"].sort_values('surface', ascending = False)

Lors des étapes d’agrégation, groupby ne conserve pas les géométries. Autrement dit, si on effectue, par exemple, une somme en fonction d’une variable de groupe avec le combo groupby(...).sum(...) , on perd la dimension géographique.

Il est néanmoins possible d’aggréger à la fois les géométries et les attribus avec la méthode dissolve:

fig,ax = plt.subplots(figsize=(10, 10))
shp_communes[shp_communes.dep != "97"].dissolve(by='dep', aggfunc='sum').plot(ax = ax, column = "surface")
ax.set_axis_off()
ax

<AxesSubplot:>

Opérations sur les géométries

communes = shp_communes.to_crs(2154)
stations = stations.to_crs(2154)

Outre la représentation graphique simplifiée, sur laquelle nous reviendrons ultérieurement, l’intérêt principal d’utiliser geopandas est l’existence de méthodes efficaces pour manipuler la dimension spatiale. Un certain nombre proviennent du package shapely.

Par exemple, on peut recalculer la taille d’une commune ou d’arrondissement avec la méthode area (et diviser par $10^6$ pour avoir des $km^2$ au lieu des $m^2$):

communes['superficie'] = communes.area.div(10**6)
communes

Une méthode qu’on utilise régulièrement est centroid qui, comme son nom l’indique, recherche le centroïde de chaque polygone et transforme ainsi des données surfaciques en données ponctuelles. Par exemple, pour représenter approximativement les centres des villages de la Haute-Garonne (31), on fera

departement = communes[communes.dep == "31"].copy()
departement['geometry'] = departement['geometry'].centroid


ax = departement.plot(figsize = (10,10), color = 'red', alpha = 0.4, zorder=2)
communes[communes['dep'] == "31"].plot(ax = ax, zorder=1, edgecolor = "black", facecolor="none",
                                                           color = None)
ctx.add_basemap(ax, crs = stations.crs.to_string(), source = ctx.providers.Stamen.Toner)
ax.set_axis_off()
ax

<AxesSubplot:>

<Figure size 432x288 with 0 Axes>

Gérer le système de projection

Précédemment, nous avons appliqué une méthode to_crs pour reprojeter les données dans un système de projection différent de celui du fichier d’origine:

communes = communes.to_crs(2154)
stations = stations.to_crs(2154)

Le système de projection est fondamental pour que la dimension spatiale soit bien interprétée par python. Un mauvais système de représentation fausse l’appréciation visuelle mais peut aussi entraîner des erreurs dans les calculs sur la dimension spatiale. Ce post propose de riches éléments sur le sujet, notamment l’image suivante qui montre bien le principe d’une projection:

La Terre peut ainsi être représentée de multiple manière, ce qui n’est pas neutre sur la manière de se représenter certains continents. En particulier, avec la projection Mercator, l’Afrique apparaît beaucoup moins vaste qu’elle ne l’est en réalité

Les projections sont très nombreuses et certaines peuvent avoir une forme suprenante

Concernant la gestion des projections avec geopandas, la documentation officielle est très bien faite sur le sujet. Elle fournit notamment l’avertissement suivant qu’il est bon d’avoir en tête:

Be aware that most of the time you don’t have to set a projection. Data loaded from a reputable source (using the geopandas.read_file() command) should always include projection information. You can see an objects current CRS through the GeoSeries.crs attribute.

From time to time, however, you may get data that does not include a projection. In this situation, you have to set the CRS so geopandas knows how to interpret the coordinates.

Pour déterminer le système de projection d’une base de données, on peut vérifier l’attribut crs:

communes.crs

<Derived Projected CRS: EPSG:2154>
Name: RGF93 v1 / Lambert-93
Axis Info [cartesian]:
- X[east]: Easting (metre)
- Y[north]: Northing (metre)
Area of Use:
- name: France - onshore and offshore, mainland and Corsica.
- bounds: (-9.86, 41.15, 10.38, 51.56)
Coordinate Operation:
- name: Lambert-93
- method: Lambert Conic Conformal (2SP)
Datum: Reseau Geodesique Francais 1993 v1
- Ellipsoid: GRS 1980
- Prime Meridian: Greenwich

Les deux principales méthodes pour définir le système de projection utilisé sont:

• df.set_crs: cette commande sert à préciser quel est le système de projection utilisé, c’est-à-dire comment les coordonnées (x,y) sont reliées à la surface terrestre. Cette commande ne doit pas être utilisée pour transformer le système de coordonnées, seulement pour le définir.
• df.to_crs: cette commande sert à projeter les points d’une géométrie dans une autre, c’est-à-dire à recalculer les coordonnées selon un autre système de projection.

Dans le cas particulier de production de carte avec un fond openstreetmaps ou une carte dynamique leaflet, il est nécessaire de dé-projeter les données (par exemple à partir du Lambert-93) pour atterrir dans le système non-projeté WGS 84 (code EPSG 4326). Ce site dédié aux projections géographiques peut-être utile pour retrouver le système de projection d’un fichier où il n’est pas indiqué.

La définition du système de projection se fait de la manière suivante (⚠️ avant de le faire, se souvenir de l’avertissement !):

communes = communes.set_crs(2154)

Alors que la reprojection (projection Albers: 5070) s’obtient de la manière suivante:

fig,ax = plt.subplots(figsize=(10, 10))
communes[communes.dep != "97"].dissolve(by='dep', aggfunc='sum').to_crs(5070).plot(ax = ax)
ax

<AxesSubplot:>

<Figure size 432x288 with 0 Axes>

On le voit, cela modifie totalement la représentation de l’objet dans l’espace. Clairement, cette projection n’est pas adaptée aux longitudes et latitudes françaises. C’est normal, il s’agit d’une projection adaptée au continent nord-américain (et encore, pas dans son ensemble !).

world = gpd.read_file(gpd.datasets.get_path('naturalearth_lowres'))

fig,ax = plt.subplots(figsize=(10, 10))
world[world.continent == "North America"].to_crs(5070).plot(alpha = 0.2, edgecolor = "k", ax = ax)
ax

<AxesSubplot:>

<Figure size 432x288 with 0 Axes>

Joindre des données

Joindre des données sur des attributs

Ce type de jointure se fait entre un objet géographique et un deuxième objet, géographique ou non. A l’exception de la question des géométries, il n’y a pas de différence par rapport à pandas.

La seule différence avec pandas est dans la dimension géographique. Si on désire conserver la dimension géographique, il faut faire attention à faire:

geopandas_object.merge(pandas_object)

Si on utilise deux objets géographiques mais ne désire conserver qu’une seule dimension géographique¹, on fera

geopandas_object1.merge(geopandas_object2)

Seule la géométrie de l’objet de gauche sera conservée, même si on fait un right join.

Prolongation possible : joindre données sur dimension géographique

Annexe

Récupération des données depuis datagouv

Les données des limites administratives demandent donc un peu de travail pour être importées car elles sont zippées (mais c’est un bon exercice !). Le code suivant, dont les détails apparaîtront plus clairs après la lecture de la partie webscraping permet de :

1. Télécharger les données avec requests dans un dossier temporaire
2. Les dézipper avec le module zipfile

La fonction suivante automatise un peu le processus :

import requests
import tempfile
import zipfile

url = 'https://www.data.gouv.fr/fr/datasets/r/0e117c06-248f-45e5-8945-0e79d9136165'
temporary_location = tempfile.gettempdir()

def download_unzip(url, dirname = tempfile.gettempdir(), destname = "borders"):
  myfile = requests.get(url)
  open("{}/{}.zip".format(dirname, destname), 'wb').write(myfile.content)
  with zipfile.ZipFile("{}/{}.zip".format(dirname, destname), 'r') as zip_ref:
      zip_ref.extractall(dirname + '/' + destname)

download_unzip(url)
communes = gpd.read_file(temporary_location + "/borders/communes-20190101.json")