The Revenge of Shor : RSA face à l’ordre multiplicatif

Cette note propose une lecture théorique du challenge The Revenge of Shor, classé en cryptographie sur Hackropole. Ce n’est pas une solution officielle ni une copie de write-up : l’objectif est de comprendre le mécanisme intellectuel que ce type d’épreuve cherche à faire manipuler.

L’idée en une image

Au lieu de chercher directement les facteurs, on observe le cycle des puissances d’un nombre modulo n. Une période paire donne souvent une différence de carrés qui se factorise.

Le niveau « hardcore » ne vient généralement pas d’une formule isolée. Il vient de la nécessité de reconnaître quelle structure est exposée, puis d’écarter tout ce qui n’influence pas réellement le secret.

Le modèle mathématique

Si r est l’ordre de a modulo n, alors a^r≡1 mod n. Pour r pair, (a^(r/2)−1)(a^(r/2)+1)≡0 mod n ; les PGCD avec n peuvent révéler des facteurs non triviaux.

La première discipline consiste à écrire les objets avec leur domaine : entiers, classes modulo un nombre, vecteurs sur un corps fini ou octets. Une grande partie des bugs de raisonnement vient d’une opération effectuée dans le mauvais espace.

Ce qu’il faut repérer

• Une période, des échantillons fréquentiels ou des fractions proches
• Un modulo composé et une base a copremière
• Un post-traitement classique après une phase dite quantique

Ces indices ne prouvent pas encore une attaque. Ils servent à former une hypothèse testable : « si ce modèle est le bon, quelle valeur intermédiaire devrais-je pouvoir prédire ? »

Démarche d’analyse

1. Vérifier gcd(a,n) avant tout.
2. Reconstruire des candidats r par fractions continues.
3. Tester que a^r≡1 mod n.
4. Calculer les deux PGCD et rejeter les facteurs triviaux.

À chaque étape, conserver un petit test connu. Un script qui produit un résultat plausible mais non vérifié est plus dangereux qu’une équation incomplète : il donne l’impression d’avancer.

Pourquoi le challenge devient difficile

Une épreuve avancée superpose souvent plusieurs couches : parsing, encodage, protocole et primitive. La bonne stratégie consiste à construire des invariants. Une taille doit rester constante, un point doit satisfaire son équation, une signature doit se vérifier, un état prédit doit reproduire plusieurs sorties jamais utilisées pendant l’analyse.

On peut formaliser ce réflexe ainsi :

1. Observer une relation stable.
2. Modéliser cette relation avec le moins d’hypothèses possible.
3. Prédire une nouvelle valeur.
4. Valider la prédiction sur des données indépendantes.

Fausses pistes classiques

• Croire que toute période paire fonctionne.
• Oublier le cas a^(r/2)≡−1.
• Utiliser une approximation flottante non contrôlée.

La difficulté utile d’un challenge n’est pas de lancer tous les outils disponibles. Elle est de savoir quelle propriété chaque outil teste et ce qu’un échec permet réellement de conclure.

Ce que l’architecte sécurité doit en retenir

La leçon stratégique est la migration vers des primitives post-quantiques, pas un correctif local de RSA.

La crypto échoue rarement parce que l’algorithme central est totalement inconnu. Elle échoue aux frontières : génération d’aléa, réutilisation d’état, encodage, validation, gestion des erreurs et composition avec le protocole.

Pour aller plus loin

Reprendre le challenge en construisant d’abord un modèle miniature avec de petits paramètres. Une fois l’intuition vérifiée, remplacer progressivement les jouets par les vraies tailles. C’est plus lent pendant dix minutes et beaucoup plus rapide pendant les trois heures suivantes.