Recul Potentiel Des Assureurs Face Aux Risques Liés À L'IA

Alors que les organisations intègrent à grands pas l'IA générative et agentive dans l'ensemble de leurs opérations, une importante tendance inverse voit le jour: les assureurs envisagent de restreindre, voire d'exclure, les garanties offertes au titre des risques liés à l'IA. Ce changement de cap marquerait un tournant décisif pour la gestion des risques dont bon nombre d'entreprises n'ont peut-être pas encore pleinement saisi la portée.

Comme le mentionne le Financial Times dans son article intitulé Insurers retreat from AI cover as risk of multibillion-dollar claims mounts (en anglais; accès réservé aux abonnés), plusieurs grands assureurs américains ont commencé à déposer des demandes d'approbation réglementaire visant à introduire des exclusions générales liées à l'utilisation d'outils d'IA. Certaines des exclusions envisagées s'appliqueraient à toute utilisation – réelle ou présumée – de l'IA, ainsi qu'à tout produit ou service recourant, de quelque manière que ce soit, à l'IA. Pour les entreprises qui déploient des logiciels modernes, un tel changement pourrait entraîner une réduction importante des garanties offertes.

Or, cette tendance révèle une préoccupation sous-jacente encore plus profonde. Les modèles d'IA sont imprévisibles, difficiles à auditer et souvent opaques, même pour leurs créateurs. Si les choses tournent mal, il peut être particulièrement difficile d'identifier les parties responsables, car la chaîne de responsabilité peut inclure les développeurs, les fournisseurs de modèles, les intégrateurs et les utilisateurs finaux. Les assureurs s'inquiètent également de la survenance de cas de figure rarement envisagés pour la majorité des autres types de garanties: la possibilité qu'une défaillance affectant un seul modèle d'IA entraîne des pertes simultanées chez des milliers d'assurés. Les modèles actuariels traditionnels n'ont pas été conçus pour répondre à ce genre de risque systémique corrélé.

Des incidents récents liés à la désinformation générée par l'IA, aux réponses erronées fournies par les outils automatisés de service à la clientèle, ainsi qu'aux fraudes par usurpation d'identité, n'ont fait qu'exacerber ces préoccupations. Bien qu'il soit possible de les gérer individuellement, ces incidents illustrent bien l'imprévisibilité de l'IA et combien il est ardu pour les assureurs d'anticiper l'origine des réclamations futures.

Pour faire face à cette incertitude, certains assureurs ont commencé à introduire des avenants propres à l'IA. Ces avenants peuvent définir la manière dont les politiques existantes s'appliquent à la nouvelle réglementation sur l'IA ou prévoir des garanties limitées pour des scénarios bien précis. Cela dit, ils imposent fréquemment de nouveaux plafonds ou de nouvelles exclusions qui réduisent la portée des garanties. La tendance générale est sans équivoque: un libellé plus restrictif et une réduction des risques assurables.

Pour les entreprises qui intègrent l'IA dans leurs produits et leurs activités, les conséquences ne sont pas sans importance. La gestion des risques ne saurait reposer uniquement sur l'intervention des assureurs. Les entreprises doivent plutôt revoir le partage des responsabilités contractuelles avec leurs fournisseurs et leurs partenaires, consolider la gouvernance interne des systèmes d'IA et effectuer un suivi rigoureux du déploiement des outils d'IA. Les assureurs examinent désormais de plus en plus ces structures de gouvernance afin de déterminer si – et dans quelle mesure – une entreprise est assurable.

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.