La latence, le plus grand ennemi du Cloud Computing

image Nous vous avions déjà alerté sur la nécessité de porter une attention soutenue sur la supervision des services. C’était déjà le cas pour les architectures SOA, et ca reste vrai pour les architectures du Cloud Computing.

Salesforce a bien compris cette nécessité et offre depuis longtemps un tableau de bord très percutant sur leur niveau de disponibilité, consultable par tous, et qui fait envie à beaucoup de DSI.

Comme toute PaaS qui se respecte, Google App Engine se devait de présenter un service similaire. C’est chose faite désormais avec Google Status.

Ce qui est particulièrement intéressant c’est le focus mis sur la supervision de la latence des appels, avec un suivi pour les requêtes entre géants du cloud computing : de GAE vers AWS S3 par exemple.

On se rend alors compte que malgré les infrastructures massives de ces acteurs, la latence globale d’un appel (en comptant le délai du à la charge sur le service qui exécute l’API invoquée, donc pas uniquement de la latence réseau) :

  • est la même si GAE invoque Google Search ou invoque AWS S3 (sur le même continent apparemment)
  • présente un niveau bas vers 65ms mais jusqu’à 350ms en pic.

Dans un tel contexte, une application qui aurait à multiplier les appels vers plusieurs services distants (SaaS) pour une requête utilisateur présente un sérieux risque de problème de performance. J’ai toujours été sceptique sur la notion de mashups agrégeant dans une même vue plusieurs services distants (accédés sur WAN ou internet) et ces mesures viennent confirmer mes doutes. On retrouve ce problème pour les applications mixant les PaaS, ce qu’autorise la mise à disposition des API par ces éditeurs (une partie sur Force.com, une partie sur GAE, une partie sur Facebook, une partie sur S3…)

C’est une contrainte implacable à prendre en compte dès la conception d’une telle application, avec rechargement unitaire et gestion des erreurs de communication pour l’invocation de chaque service distant. La localisation du fournisseur de services sur le même continent que votre SI diminue cette contrainte, mais ne la supprime pas, loin s’en faut.

Un autre problème concerne plus spécifiquement GAE, et la limitation qu’il impose sur la durée d’exécution de chaque requête. Ce point est particulièrement sensible pour les accès à Datastore, leur API pour la persistance non relationnelle. Ces graphes montrent bien que la

imageimage durée totale d’exécution de votre requête peut varier en fonction de la charge instantanée sur les serveurs GAE. Une requête peut donc à un moment donné tomber en time-out alors que “d’habitude elle passe sans problème”. Ce n’est pas un bug mais une conséquence de l’utilisation d’infrastructures mutualisées. Votre application GAE, ou qui consomme un service exposé sur GAE, devra nécessairement prendre en compte cette cause d’échec et la gérer de manière adéquate en fonction de la criticité de votre application.

Un commentaire pour La latence, le plus grand ennemi du Cloud Computing

  1. brice dit :

    Dans le cadre des mes études, je réalise un mémoire de fin d’année de master sur la qualité dans les systèmes de cloud computing.

    Il m’est nécéssaire d’avoir un retour d’expérience de la part d’utilisateurs, d’administrateurs et de DSI sur l’utilisation d’une solution de cloud.

    Dans cette optique, votre aide me serait précieuse en remplissant le formulaire à l’adresse suivante :

    http://tinyurl.com/Questionnaire-Cloud-Computing

    Vous pouvez répondre à ce questionnaire de façon complètement anonyme.

    N’hésitez pas à le faire suivre.

    Je vous en remercie par avance.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s

%d blogueurs aiment cette page :