Persefoni a obtenu la certification ISO/IEC 42001, la norme internationale relative aux systèmes de management de l'intelligence artificielle.
L'IA prend déjà en charge un éventail croissant de flux de travail liés à la comptabilité carbone, allant de l'identification de modèles inhabituels dans de grands ensembles de données et l'extraction d'informations à partir de factures d'énergie, jusqu'à la réponse aux questions de comptabilité carbone et l'aide aux utilisateurs pour analyser les données d'émissions.
À mesure que ces capacités s'intègrent aux logiciels métier, les clients doivent comprendre comment l'IA qui les sous-tend est gérée. Cela inclut la manière dont les risques sont évalués, les responsabilités attribuées, l'utilisation des données régie et les systèmes d'IA contrôlés au fil du temps.
La norme ISO/IEC 42001 fournit un cadre reconnu pour gérer ces responsabilités.
Qu'est-ce que la norme ISO/IEC 42001 ?
Publiée en 2023, la norme ISO/IEC 42001 définit les exigences pour établir, mettre en œuvre, maintenir et améliorer continuellement un système de management de l'intelligence artificielle, ou SMIA.
Un système de management de l'IA traite de la manière dont une organisation gère l'IA dans l'ensemble de ses opérations, plutôt que d'évaluer un modèle ou une fonctionnalité isolée. La norme couvre des domaines tels que la gestion des risques, la responsabilité, la transparence, la gouvernance des données, la sécurité, l'évaluation des performances et le contrôle continu.
Pour les organisations qui développent, fournissent ou utilisent des systèmes d'IA, elle crée une approche structurée pour gérer les risques liés à l'IA à mesure que la technologie et ses usages évoluent.
Pourquoi la gouvernance de l'IA est importante pour les clients
Les entreprises qui évaluent des logiciels intégrant l'IA doivent prendre en compte bien plus que les simples fonctionnalités de l'IA.
Elles doivent également comprendre les processus qui l'entourent. Cela inclut la manière dont les risques potentiels sont évalués, qui est responsable du système, comment l'utilisation des données est régie, comment les performances sont surveillées après le déploiement et ce qui se passe lorsque la technologie évolue.
Ces considérations deviennent particulièrement pertinentes lorsque l'IA prend en charge des flux de travail impliquant des données métier ou des informations utilisées pour le reporting et la prise de décision.
La norme ISO/IEC 42001 définit des exigences pour gérer ces enjeux via un système formel, plutôt que de les traiter au cas par cas à chaque nouvelle fonctionnalité d'IA.
Pour les clients, cela constitue une norme reconnue sur laquelle ils peuvent s'appuyer pour évaluer la manière dont un fournisseur technologique aborde la gouvernance de l'IA.
Appliquer l'IA à la comptabilité carbone
L'IA et l'apprentissage automatique peuvent soutenir plusieurs étapes du processus de comptabilité carbone.
Au sein de Persefoni, ces technologies sont utilisées dans divers flux de travail, tels que l'identification d'anomalies potentielles dans les données énergétiques, l'extraction d'informations à partir de factures de services publics, l'assistance au mappage des facteurs d'émission, la réponse aux questions sur la comptabilité carbone et la plateforme, ainsi que l'aide aux utilisateurs pour analyser leurs données d'émissions.
Chaque application a un objectif distinct et peut nécessiter des approches différentes en matière de tests, de supervision et de gestion des risques.
Un système de gestion de l'IA cohérent permet de garantir que ces différences sont prises en compte lors du développement de nouvelles fonctionnalités et de l'évolution des outils existants. Il fournit également un cadre pour déterminer où les contrôles et la supervision humaine sont appropriés pour un cas d'usage spécifique.
Ce que signifie la certification ISO/IEC 42001 chez Persefoni
L'obtention de la certification ISO/IEC 42001 signifie que Persefoni a mis en place un système de gestion de l'IA conforme aux exigences de la norme.
Cela inclut des processus définis pour identifier et évaluer les risques liés à l'IA, attribuer les responsabilités, gérer les contrôles pertinents, surveiller les systèmes d'IA et évaluer l'efficacité du système de gestion au fil du temps.
L'amélioration continue est un élément clé de cette approche. Les systèmes et modèles d'IA évoluent, de nouvelles capacités apparaissent et les attentes réglementaires continuent de se préciser. Un système de gestion de l'IA offre une structure pour examiner ces changements et mettre à jour les processus si nécessaire.
La certification ne signifie pas qu'un système d'IA ne peut jamais produire de résultat incorrect. L'IA nécessite toujours des tests, une surveillance, des contrôles et une supervision humaine appropriés. La norme ISO/IEC 42001 fournit un cadre pour gérer ces responsabilités de manière cohérente.
Pour les clients évaluant des logiciels intégrant l'IA, cette certification offre un point de référence clair pour comprendre comment Persefoni aborde la gouvernance et la gestion de l'IA à mesure que ces capacités se développent.
Pour en savoir plus sur l'approche de Persefoni en matière de sécurité, de confidentialité et de conformité, visitez notre Centre de confiance.
