Un nouveau projet open-source compile méthodiquement tous les incidents documentés impliquant des intelligences artificielles génératives. Des hallucinations de ChatGPT aux biais discriminatoires de systèmes de recrutement, cette base de données recense ce qui dysfonctionne vraiment — pas les fantasmes, les faits.
Pourquoi on a besoin de cette liste maintenant
Depuis 2023, les IA génératives sont partout : dans nos emails, nos recherches Google, nos outils de travail. Mais combien de fois ChatGPT a-t-il inventé de fausses références juridiques utilisées par des avocats ? Combien d’outils de génération d’images ont reproduit des stéréotypes sexistes ? Cette base documente précisément ces cas, avec sources et contexte.
Exemple concret : en mars 2025, un système d’IA de recrutement d’une grande banque a systématiquement écarté des candidatures féminines pour des postes techniques. L’incident, révélé puis corrigé, figure désormais dans cette liste avec les détails de ce qui n’a pas fonctionné.
Ce que vous y trouverez vraiment
La base classe les incidents par type : hallucinations (l’IA invente des informations), biais (discriminations reproduites ou amplifiées), fuites de données (informations confidentielles révélées), et contenus problématiques générés (deepfakes, désinformation).
Un système qui corrige automatiquement vos projets de code avec Claude
Chaque entrée indique : l’outil concerné, la date, ce qui s’est passé, et les conséquences réelles. Pas de sensationnalisme, juste les faits vérifiés. Vous pouvez chercher par nom d’outil (ChatGPT, Midjourney, Claude…) ou par secteur (santé, justice, éducation).
À qui ça sert concrètement
Si vous utilisez l’IA au travail : avant d’adopter un outil pour votre entreprise, vérifiez s’il a déjà causé des incidents dans votre secteur. Un système qui a inventé des diagnostics médicaux ne mérite pas la même confiance qu’un générateur de résumés sans historique problématique.
Si vous êtes simplement curieux : cette liste démystifie l’IA. Vous comprendrez rapidement que ces outils ne sont ni magiques ni diaboliques — ils ont des limites précises, documentées, prévisibles.
Pour les décideurs et responsables : la base fournit des arguments factuels pour établir des garde-fous. “L’IA peut se tromper” devient “ChatGPT a inventé 127 références juridiques fictives entre janvier et août 2024”.
Comment y accéder et contribuer
Le projet est accessible gratuitement sur GitHub et maintenu par une communauté de chercheurs, journalistes et professionnels de l’IA. Vous pouvez consulter la base sans compte, et proposer des incidents documentés si vous en identifiez.
L’initiative reste collaborative : chaque ajout nécessite des sources vérifiables (articles de presse, publications scientifiques, rapports d’entreprises). Pas de rumeurs, pas de cas non documentés.
Ce qu’il faut retenir
Cette base ne vise pas à diaboliser l’IA, mais à documenter ses limites réelles. Savoir qu’un outil a déjà produit des erreurs spécifiques dans certains contextes vous aide à l’utiliser intelligemment — avec les bonnes vérifications au bon moment.
Pensez-y comme au rapport de bugs d’un logiciel : connaître les failles ne signifie pas rejeter l’outil, mais l’utiliser en connaissance de cause. Un ChatGPT qui invente parfois des références reste utile pour un premier jet — à condition de systématiquement vérifier les sources citées.
Les incidents documentés reflètent l’état des outils à une date donnée. Les éditeurs corrigent régulièrement ces problèmes, mais de nouveaux peuvent apparaître avec les mises à jour.
