Jui 23 2010

DxOMark 2010, une référence pour les tests optiques

DxOMark_2010_corner.jpgLe site DxOMark, lancé par DxO Labs également éditeur du logiciel Optics Pro, est rapidement devenu une référence pour la mesure de la qualité des capteurs des reflex numériques (et des meilleurs bridges et compacts). La version DxOMark 2010 lancée ce 22 juin va encore plus loin puisqu'elle propose désormais des mesures très complètes de la qualité optique des objectifs des reflex numériques.

La différence fondamentale avec les sources d'informations de même type est que sur DxOMark, chaque objectif est testé individuellement avec chaque boîtier. La disparité importante des performances mesurées avec des boîtiers différents montre à quel point un couple boîtier/objectif est unique, et invalide au passage l'espoir d'universalité des tests optiques réalisés sur un seul boîtier.
Autre singularité importante de DxOMark : toutes les mesures sont basées sur le RAW, ce qui donne une vraie quantification du potentiel d'un couple boîtier/optique, en s'affranchissant des erreurs et de l'affaiblissement du signal induits par les traitements logiciels.

Pour cette première mise en ligne, pas moins de 540 couples boîtiers/optiques ont été testés (et beaucoup d'autres suivront). Sony est plutôt bien servi avec 15 objectifs Sony/Zeiss (plus un Minolta) évalués sur 12 boîtiers Alpha.
Je vous propose une petite visite guidée de cette nouvelle section de DxOMark dédiée aux optiques.



1. Vue d'ensemble de la nouvelle section optique

L'interface du nouveau site de DxOMark a été fortement modifiée. Il n'est encore disponible qu'en langue anglaise mais devrait bientôt être traduit en français. On accède à la nouvelle section dédiée aux optiques via le menu latéral :

DxOMark_2010_0.jpg


Le menu déroulant donne accès à 3 sous-sections. La visite du site peut commencer par la liste des optiques testées. Voici cette liste, en version réduite aux objectifs en monture A :

DxOMark_2010_2.jpg


Cliquer sur l'intitulé d'une optique donne accès à sa fiche technique et au résumé des performances évaluées pour chaque boîtier testé. Le passage d'un boîtier à l'autre se fait par un menu déroulant (signalé ci-dessous par la flèche rouge) :

DxOMark_2010_16.jpg

On trouve dans l'onglet "Overview" de cette fiche les principales caractéristiques de l'optique ainsi que des indices globaux de performance, qui indiquent plus ce que l'objectif est capable de produire de mieux qu'un bilan moyen. C'est sur cette base, assez discutable, que les optiques peuvent être comparées, selon le même principe que ce qui existe pour les capteurs. DxO Labs propose également un système de notation qui évalue la qualité et la pertinence de l'optique pour les principales pratiques photographiques. Le Zeiss 24-70/2.8, dans l'exemple ci-dessus, est ainsi déclaré "bon à tout faire" à l'exception de la photo sportive. C'est une conclusion logique pour un transtandard de haut niveau.



2. Mesures optiques détaillées

A côté de l'onglet Overview, 5 onglets détaillent très précisément les performances de l'objectif sur chaque boîtier sélectionné. Voici par exemple, pour le Zeiss 24-70/2.8 sur l'Alpha 900, ce que l'on trouve dans l'onglet Résolution, où est évalué le pouvoir séparateur de l'optique.
Dans le sous-onglet Global Map, on trouve une cartographie complète du pouvoir séparateur mesuré en paires de lignes par mm, pour toutes les focales et toutes les ouvertures. Quatre cartes par zones sont disponibles, pour le centre, le tiers, les deux tiers et les angles. On voit ci-dessous le résultat pour le centre :

DxOMark_2010_17.jpg


L'onglet Field Map donne une représentation spatiale du pouvoir séparateur pour une focale et une ouverture donnée. Ci-dessous, le résultat à 35mm et à f/5.6 :

DxOMark_2010_18.jpg


Autres visualisation du même jeu de résultats en terme de profil de résolution limite en fonction de la position dans le champ, toujours pour une focale et une ouverture donnée (sous-onglet Profiles) :

DxOMark_2010_19.jpg


Enfin, dans l'onglet MTF, les classiques représentation MTF, déclinées dans chacune des trois couleurs RVB (ici le rouge) :

DxOMark_2010_20.jpg


On le voit, la grande quantité de mesures disponible peut être visualisée selon différentes projections dans un espace bidimensionnel, afin d'avoir la meilleure vue d'ensemble possible.



3. Les modes de comparaison

Je ne suis pas certain que la comparaison d'optiques sur la base de scores simples, donc parcellaires,  soit très pertinente. DxO Labs met toutefois à la disposition des photographes une batterie de possibilités. Voici par exemple 7 optiques Sony classées selon leur pouvoir séparateur maximal mesuré sur l'Alpha 850 :

DxOMark_2010_10.jpg

Pas sûr qu'il soit très intéressant de classer ainsi des optiques n'ayant pas grand chose à voir entre elles en terme de focales et d'utilisation. Cela donne en revanche une vue d'ensemble en un coup d'oeil.

Autre possibilité de visualisation en mode comparaison, avec l'indication de qualité et de pertinence selon les pratiques photographiques :

DxOMark_2010_11.jpg


On peut également aller dans le détail des résultats en mode comparaison. Voici les Field Maps de trois optiques Alpha, pour des focales et des ouvertures différentes. A manipuler avec précaution car on devine bien le risque de comparer des choux et des carottes, et d'en faire une mauvaise soupe...

DxOMark_2010_14.jpg




4. Classement des optiques

Autant je trouve la batterie de mesures optiques présentée au chapitre 2 infiniment précieuse, autant le classement des couples boîtier/optique sur le seul Peak Score est dangereux car il n'est guère raisonnable de résumer en un seul chiffre l'infinie complexité des résultats en terme de pouvoir séparateur et de défauts optiques. Par ailleurs, comment comparer une focale fixe lumineuse avec un zoom ultra-grand-angle, sachant que ces objectifs ne sont pas destinés au même usage et qu'un zoom est nécessairement le résultat de compromis optiques ?
Là encore, il faut manier ces résultats avec grande précaution et se garder d'en tirer des conclusions qui auraient de bonnes chances d'être erronées.

Voici ce que que l'on obtient quand on réduit la longue liste des 540 couples boîtier/optique au seul matériel Sony Alpha, avec un pointage en fonction du prix total boîtier + optique :

DxOMark_2010_3.jpg


Si le classement n'a pas beaucoup de sens, l'étude du nuage de points est tout de même intéressante. Voici celui obtenu pour l'ensemble des optiques et des boîtiers, toutes marques confondues :

DxOMark_2010_7.jpg

On remarque une certaine corrélation entre le prix et le résultat. Cela est dû au fait que les boîtiers plein format, plus chers, trustent les meilleurs scores. En tirant dans le nuage de points une ligne moyenne, on peut considérer que les points situés au-dessus de cette ligne ont un meilleur rapport qualité/prix que ceux qui se trouvent en dessous. On remarque aussi quelques points extrêmes : l'Alpha 850 avec le 50/1.4 obtient un score de 54 pour un coût global de 2260$ tandis que le D3x avec le Nikkor 17-35/2.8 n'obtient que 44 pour un coût total de 10936$...
Cette anecdote illustre le danger de ce type de comparaison car un 50/1.4 est potentiellement bien meilleur qu'un 17-35/2.8, beaucoup plus difficile à fabriquer. On peut coller le meilleur boîtier derrière le 17-35/2.8, il parviendra difficilement à égaler le résultat global d'une bonne focale fixe lumineuse, surtout s'il s'agit d'un 50mm qui sont parmi les fixes les moins difficiles à porter à un niveau d'excellence, pour un prix souvent très accessible. Il est donc important de ne comparer que des choses comparables : même type d'optique sur des capteurs de formats identiques (ou très proches).



5. Conclusion

On ferait une lourde erreur à ne considérer DxOMark que comme un site de comparaison d'optiques car l'arbre "Peak Score" cache l'immense forêt des mesures de performances pour chaque optique et chaque boîtier. Or c'est cela qui est véritablement unique dans le travail de DxO Labs. Il est presque dommage qu'ils aient ainsi pris le risque que l'anecdotique masque les informations majeures qu'ils mettent ainsi à disposition.
Aucune source d'information ne propose une base de donnée aussi riche et répondant aussi précisément à toutes les questions qu'un photographe peut se poser à propos de la qualité d'un matériel photo. Celui-ci pourra en effet déterminer quelle optique acheter pour le boîtier qu'il possède, sans avoir à tenter une extrapolation hasardeuse de résultats mesurés sur d'autres boîtiers que le sien.
Il ne manquera au final qu'une chose au photographe non habitué à lire ce type de graphes : les commentaires d'un Jean-Marie Sepulchre extrayant avec pertinence, et avec des mots, la substantifique moelle de cette avalanche d'informations...

Commentaires   

# Christophe 25-06-2010 17:17
Le Sony 18-55 serait donc moins bon que le 18-70 ?
# Patrick Moll 25-06-2010 20:34
Christophe, votre réaction est caractéristique de ce que dans l'article je dis redouter. Il ne faut surtout pas s'arrêter à la note globale qui pour moi n'a pas beaucoup de sens. Avez-vous regardé toutes les informations concernant ces deux optiques ?
Prenons juste un exemple et étudions le piqué de ces deux optiques à 18mm sur l'Alpha 550. Que voit-on ? Qu'à pleine ouverture le 18-70 est meilleur, mais qu'à f/5.6 et plus encore à f/8, c'est le 18-55 qui est meilleur. Or 18mm est une focale à paysage, et les paysages se font le plus souvent en fermant le diaphragme à f/8, voire plus encore. Même si le 18-70 semble meilleur en moyennant à 18mm tous les scores de toutes les ouvertures, le gagnant est en fait le 18-55 car il est meilleur aux ouvertures réellement utiles.
Faites une comparaison détaillée en donnant à chaque élément l'importance réelle qu'il a et il est fort possible que le résultat soit inversé...

J'en profite donc pour insister encore sur le danger de s'arrêter au seul score global...
# Christophe 25-06-2010 22:28
Il ne s'agit donc pas d'un outil grand public et les données présentées ne seront donc exploitables que par ceux (une minorité ?) qui sauront les lire :confused: .
Comment justifient ils leurs notes de synthèse si elles ne rendent pas compte des qualités intrinsèques des optiques testées.
Si l'on reste sur les deux zooms précités, vos conclusions concernant la photo de paysage devraient se retrouver dans la rubrique "Lens Use Case Scores". Or, il n'en est rien : pour l'usage "Landscape" le 18-70 obtient une demi étoile de plus que le 18-55 !
Ne s'agit il pas finalement d'un outil plus "dangereux" qu'utile ?
# Patrick Moll 26-06-2010 01:03
C'est bien la question que je me pose, Christophe. Toute note globale est nécessairement réductrice, mais dans le cas de DxOMark, la quantité d'informations est tellement considérable qu'elle l'est nécessairement. Je dis bien réductrice, et non pas fausse, car elle ne peut prendre en compte l'usage que veut en faire le photographe qui lit le test.
Prenons l'exemple d'un zoom 24-70/2.8. S'il est excellent à ses focales les plus courtes mais plus moyen à 70mm, le paysagiste va être ravi et le portraitiste déçu. Autre exemple : le photographe qui ture en très grand format sera très attentif aux aberrations chromatiques alors que celui qui ne dépasse jamais le A4 s'en moquera car elles ne se verront pas sur papier.

Ce que je veux dire, c'est que cette note globale, surtout pour un zoom, ne peut en aucun cas suffire à donner une réponse aux questions que se pose le photographe. S'il s'arrête là, il pourra être induit en erreur pour sa pratique particulière, mais ne pourra pas s'en prendre à DxO car toutes les infos dont il a besoin sont accessibles.
C'est pour cette raison que j'ai écrit cet article, pour montrer ce qu'il y a derrière cette classification que pour ma part je trouve trop simplificatrice s'agissant d'objectifs, alors qu'elle est beaucoup plus solide pour les capteurs...
# Guest 26-06-2010 00:50
je trouve l'article genial ainsi que la nouvelle entreprise de dxo qui sera d'une grande aide pour tous les photographes. Soy Levy
# Patrick Moll 26-06-2010 01:04
Merci... et surtout merci à DxO Labs de mettre ainsi à disposition de tous cette inépuisable mine d'informations ! :-)
# BERTRAND 26-06-2010 19:11
Génial peut-être, mais tellement pointu et abstrus qu'un amateur lambda comme moi n'y comprend rien... sauf peut-être que son 16-80 Zeiss dont il était si content se révèle sur banc d'essai une optique très moyenne. Merci à DxO de m'avoir ouvert les yeux :lol: J'attribuerai désormais à une conjonction de hasards le fait de réussir de temps en temps qq photos pas trop mauvaises (pour moi).

À moins que j'aie manqué qq chose dans leur site-labyrinthe pour experts où il est si facile de se perdre, j'aurais préféré y trouver les améliorations apportées au même 16-80 par mon DxO pro 6, telles que JMS les a fait figurer pour d'autres objos dans le bon bouquin de Maître Moll. Je suis surpris que DxO n'ait pas saisi l'opportunité pour son logiciel de ce genre de publicité.

Bon week-end à tous, J.B.
# Patrick Moll 26-06-2010 19:42
Ah bon, le 16-80 est une optique très moyenne ? Elle est pourtant très bien classée dans sa catégorie des zooms grand-angle sur boîtiers APS-C. Voilà où elle est située sur le graphe :
Sa note globale de 29 ou 30 (selon le boîtier) est très bonne et seul le Sigma 17-70 fait mieux avec un maximum de 33.
Je ne comprends donc pas votre message, sauf si vous avez comparé des choux et des carottes comme j'en ai exprimé la crainte dans l'article.

Ne peuvent être comparées que des optiques testées sur un même type de capteur, sinon la comparaison n'a aucun sens. La note globale la plus élevée pour un objectif sur capteur APS-C est 36. Les meilleures notes sont logiquement trustées par les focales fixes qui ne font pas l'objet de compromis comme les zooms.
Au final, le 16-80 est excellent dans sa catégorie. Je ne pense pas qu'il faille être expert pour s'en rendre compte, juste avoir fait un peu plus que regarder la note globale et, éventuellement, avoir lu l'article à la fin duquel on dépose un commentaire... :wink:

Les commentaires ont été désactivés

Revue de presse

12 mars 2015
competence-photo-n-45-mars-avril-2015Retour de la revue de presse sur Alpha-numérique avec le numéro 45 de Compétence Photo qui vient d'arriver dans les kiosques (en attendant les numéros [...]
14 avril 2014
revue-de-la-presse-photo-hors-serie-mdlp-sur-lightroom-5-et-workflow-n-7Retour de la revue de presse dans Alpha-numérique avec un spécial Monde de la Photo, en attendant la chronique des numéros "normaux" datés de mai d'ici [...]
10 mars 2014
competence-photo-n-39-mars-avril-2014Le numéro 39 de Compétence Photo est arrivé dans les kiosques. À la une, un dossier très intéressant sur la vente de photos. Écrit à quatre mains par [...]
10 janvier 2014
competence-photo-n-38-janvier-fevrier-2014Le 38e opus de Compétence Photo est arrivé dans les kiosques à journaux. Au menu, un grand dossier de 32 pages sur l'exposition, que j'ai eu le plaisir [...]
12 novembre 2013
competence-photo-n-37-novembre-decembre-201330 pages sur GIMP ! Eh oui, c'est bien votre serviteur qui a commis ce forfait, le même qui émet régulièrement des réserves sur l'utilisation des [...]
27 octobre 2013
revue-de-la-presse-photo-novembre-2013Les revues de presse sont passées à la trappe ces derniers mois, victimes de mes indisponibilités à répétition. Je le regrette, car je suis très attaché à [...]
12 septembre 2013
competence-photo-n-36-septembre-octobre-2013Le numéro 36 de Compétence Photo est en kiosque. Au menu, un grand dossier sur la photo de studio. C'est un sujet récurrent dans le magazine, notamment au [...]