IA ministre des marchés publics : 5 garde-fous pour garantir transparence et recours

D’assistante e‑gouvernementale à poste ministériel

En janvier 2025, Diella n’était qu’une assistante virtuelle intégrée à la plateforme e‑Albania pour simplifier les démarches administratives. Le 11 septembre 2025, le Premier ministre Edi Rama l’a propulsée au rang de ministre des Marchés publics. Une première mondiale qui bouscule nos repères institutionnels.

Nous passons d’un outil d’appui à un acteur placé au centre de la décision publique.

Objectif affiché : transparence et anticorruption

L’objectif est clair : rendre les appels d’offres plus transparents et réduire la corruption, fléau qui mine l’efficacité de la dépense publique. Une IA peut, en théorie, appliquer des critères homogènes, tracer chaque étape et résister aux pressions politiques. Si elle est bien conçue, elle standardise l’évaluation des offres et limite les marges de manœuvre discrétionnaires.

C’est l’ambition annoncée par Tirana, à la suite d’une modernisation alignée sur les standards européens.

Questions immédiates sur la responsabilité et l’audit

Qui est responsable en cas d’erreur si l’IA n’a pas de personnalité juridique ? Quel est le niveau de supervision humaine, et à quels moments intervient-elle ? L’algorithme est-il auditable par des tiers indépendants ?

Ces interrogations relèvent de l’État de droit : sans réponses solides, la confiance ne suivra pas.

Angles morts à éclairer maintenant

Comment Diella prend les décisions — la chaîne complète

Il faut comprendre la chaîne de décision de bout en bout. Quelles données d’entrée sont utilisées (historiques d’appels d’offres, indicateurs financiers, diligence KYC, antécédents contractuels) ? Quels modèles et règles s’appliquent (pondérations de critères, seuils d’exclusion, gestion des conflits d’intérêts) ?

Enfin, quelles traces laissent les calculs (journaux d’audit, versions des modèles, justification de chaque score) ? Sans cette observabilité, la gouvernance algorithmique devient opaque.

Supervision humaine et responsabilité partagée

Une IA ministre ne peut agir en vase clos. Il faut une instance humaine clairement mandatée pour valider, suspendre ou renvoyer les décisions, avec un registre documenté des interventions. La responsabilité doit être distribuée : développeur et intégrateur pour la conformité technique, administration pour le processus, autorités politiques pour les arbitrages.

À défaut, les recours des entreprises évincées se heurteront à un mur.

Mesurer l’impact : indicateurs indispensables

Dès la prise de fonction, il est essentiel de mettre en place des indicateurs comparables. Exemples à suivre (tableau de bord public, trimestriel) :

• Délais moyens d’attribution
• Taux de participation des PME
• Nombre de contestations et taux d’annulation
• Écarts prix‑qualité réalisés
• Économies budgétaires estimées

Sans métriques, impossible de distinguer progrès réel et effet d’annonce.

Comparaisons internationales et cadre juridique

Ce que proposent Union européenne, OCDE, UNESCO et d’autres

Union européenne avance avec AI Act, qui impose aux systèmes « à haut risque » (dont ceux utilisés dans la sphère publique) des obligations de gestion des risques, de qualité des données, de traçabilité, d’explicabilité et d’oversight humain. OCDE et UNESCO promeuvent des principes de responsabilité et d’auditabilité. Canada a une Directive sur la prise de décision automatisée et un questionnaire d’impact algorithmique, utile pour évaluer le niveau de risque.

Royaume‑Uni et États‑Unis publient aussi des lignes directrices sur la transparence et la sécurité.

Faut‑il donner un rôle décisionnel à l’IA ?

La plupart des cadres actuels considèrent l’IA comme un outil d’aide, pas un détenteur d’autorité. Pour conférer un rôle décisionnel, deux voies existent : définir légalement l’IA comme un système décisionnel assisté, toujours validé par un agent public, ou créer un régime spécial où la décision est juridiquement imputée à l’entité publique responsable de l’IA. Dans les deux cas, il faut ancrer des exigences d’explicabilité et de recours effectif pour les parties prenantes.

Impacts potentiels sur l’adhésion à l’UE

Albanie vise une adhésion autour de 2030. Cette expérience sera scrutée à l’aune de l’acquis communautaire : transparence, concurrence loyale, protection des données, non‑discrimination. Un dispositif robuste, compatible avec AI Act, peut devenir un atout.

À l’inverse, une « boîte noire » placerait le pays en tension avec les exigences européennes. La balle est donc dans le camp de la gouvernance et de la conformité.

Feuille de route pragmatique pour l’Albanie

Gouvernance des données et auditabilité

Actions prioritaires :

• Inventaire des sources de données, évaluation de leur qualité, biais et licéité.
• Mise en place de journaux d’audit horodatés capturant chaque décision, chaque mise à jour de modèle et chaque intervention humaine.
• Exiger des cartes de modèles détaillant entraînement, limites connues et scénarios d’échec.
• ➡️ Mon astuce préférée : des revues indépendantes semestrielles, avec publication d’un résumé accessible.

Transparence active et contrôle citoyen

Publier les critères d’attribution et leurs pondérations, au moins à un niveau agrégé, pour éviter la rétro‑ingénierie abusive tout en garantissant l’équité. Ouvrir un portail de suivi des appels d’offres avec justification standardisée et voies de recours. Mettre en place un comité d’éthique et un comité d’utilisateurs (entreprises, ONG, universitaires) pour challenger en continu le système.

Un canal de signalement sécurisé renforcera la confiance.

Piloter, corriger, itérer — méthode « bêta gouvernée »

Adopter une logique de bêta gouvernée : démarrer par des segments à risque limité, évaluer, ajuster, étendre. Chaque trimestre, publier un rapport d’erreurs types, de corrections apportées et de décisions ré‑examinées. Fixer des garde‑fous chiffrés (p. ex., seuil maximal de litiges) déclenchant automatiquement une revue humaine renforcée.

✅ Objectif : apprendre vite sans sacrifier l’État de droit.

Et si l’expérimentation portait ses fruits ?

Gains possibles et effets d’entraînement

Des marchés plus concurrentiels, des délais raccourcis et une meilleure traçabilité sont à portée si la conception et la supervision tiennent la route. Les économies réalisées pourraient être réinvesties dans les infrastructures et les services publics. Surtout, un standard élevé de transparence enverrait un signal fort aux investisseurs et aux partenaires européens.

Le pays deviendrait un laboratoire crédible de l’administration numérique.

Risques à garder en ligne de mire

Le biais algorithmique peut exclure injustement des soumissionnaires si les données historiques reflètent des pratiques inéquitables. La dépendance à un fournisseur unique fragilise la souveraineté technologique. Enfin, la tentation d’étendre l’automatisation à d’autres domaines sensibles sans débats publics doit être contenue.

Pour le meilleur ou pour le pire ? Tout se jouera dans l’équilibre entre efficacité et garanties démocratiques.

Nommer une IA ministre des Marchés publics est un saut audacieux, à la fois inspirant et déroutant. Si l’Albanie couple cette innovation à un cadre d’audit, de supervision et de responsabilité exigeant, elle pourra prouver qu’une technologie bien gouvernée sert l’intérêt général. À vous maintenant : quelles garanties jugeriez‑vous indispensables pour confier une parcelle de l’action publique à une IA ?

Simone

Simone, rédactrice principale du blog, est une passionnée de l’intelligence artificielle. Originaire de la Silicon Valley, elle est dévouée à partager sa passion pour l’IA à travers ses articles. Sa conviction en l’innovation et son optimisme sur l’impact positif de l’IA l’animent dans sa mission de sensibilisation.