Exploiter un outil d’intelligence artificielle (IA)

Les déployeurs de solutions d’intelligence artificielle doivent prendre toutes les mesures techniques et organisationnelles appropriées pour garantir que les systèmes d’IA sont utilisés conformément aux instructions du fournisseur, incluant une surveillance humaine compétente et formée des systèmes à haut risque.

Ils doivent assurer la qualité, la pertinence et la représentativité des données d’entrée utilisées par ces systèmes lorsqu’ils en ont la maîtrise, ainsi que conserver les journaux générés par le système pendant au moins six mois. De plus, les déployeurs doivent informer et former les utilisateurs pour garantir une maîtrise suffisante de l’outil selon leur niveau de compétence et le contexte d’utilisation.

Pour certains systèmes à haut risque, par exemple ceux d’identification biométrique, des autorisations spécifiques et des vérifications humaines renforcées sont obligatoires. Les déployeurs doivent aussi signaler sans délai aux fournisseurs et autorités toute détection de risque potentiel et collaborer aux enquêtes.

Enfin, ils doivent respecter les règles de transparence, notamment en informant les personnes lorsqu’elles interagissent avec un système d’IA générant du contenu ou des décisions automatisées. Ces obligations contribuent à garantir une exploitation responsable, sécurisée et conforme aux exigences européennes

Les contrats de fourniture d’IA représentent un enjeu clé pour sécuriser la relation entre fournisseurs et clients, notamment à la lumière des exigences croissantes du Règlement européen sur l’IA (AI Act). Ils doivent inclure des clauses précises sur les garanties de conformité réglementaire, la qualité, la performance et la sécurité des systèmes fournis, ainsi que sur la gouvernance des données utilisées pour l’entraînement et le fonctionnement de l’IA.

Ces contrats doivent aussi encadrer la gestion des risques, la transparence sur les algorithmes et les modalités de contrôle humain, tout en définissant les responsabilités respectives en cas de dysfonctionnements ou de préjudices causés par l’IA. La propriété intellectuelle et la confidentialité des données sont également des points fondamentaux à couvrir pour prévenir les litiges.

La coopération entre parties doit être prévue dans les clauses, notamment pour répondre rapidement aux exigences des autorités en cas de contrôle ou d’incident, ainsi que pour la gestion de la non-conformité. En ce sens, les modèles de clauses contractuelles types publiés par la Commission européenne fournissent un cadre utile pour standardiser ces bonnes pratiques.

Enfin, la rédaction de ces contrats nécessite une adaptation constante au contexte technologique évolutif et à la législation en mutation, exigeant souvent l’expertise juridique spécifique pour anticiper les risques, sécuriser l’exploitation et garantir une collaboration durable