L'IA n'est ni un avocat ni un médecin : le législateur estime qu'il est temps de fixer des limites

Les législateurs de l'État de New York font avancer un projet de loi très médiatisé visant à restreindre strictement ce que les robots conversationnels (chatbots) d'Intelligence Artificielle (IA) peuvent dire et faire lorsqu'il s'agit de questions qui nécessitent traditionnellement l'intervention de professionnels agréés, tels que des conseillers juridiques et médicaux.

Points clés à retenir :

• Le projet de loi empêcherait les chatbots IA de fournir des conseils juridiques ou médicaux.
• Les entreprises devraient l'indiquer de façon claire aux utilisateurs lorsqu'ils interagissent avec un système IA.
• Les consommateurs lésés après avoir suivi des conseils interdits fournis par l'IA pourraient intenter une action en dommages-intérêts.

« Utilisation non autorisée d'un titre professionnel »

Le projet de loi S7263 du Sénat américain, présenté par la sénatrice Kristen González, modifierait la loi générale sur les affaires de l'État de New York afin d'interdire aux chatbots IA de fournir des « réponses, informations ou conseils substantiels » qui, en substance, remplaceraient les services d'une profession agréée.

« Ce projet de loi interdirait à un chatbot de donner des réponses, des informations ou des conseils substantiels, ou de prendre toute mesure qui, si elle était prise par une personne physique, constituerait une pratique non autorisée ou une utilisation non autorisée d'un titre professionnel, ce qui serait considéré comme un délit dans le cas des professions dont l'exercice est régi par la loi sur l'éducation ou la loi judiciaire », selon le Sénat de l'État de New York.

Cela inclut des domaines allant du droit et de la médecine à la dentisterie, aux soins infirmiers, à l'ingénierie et aux services de santé mentale.

En vertu de cette législation, les opérateurs d'IA doivent clairement informer les utilisateurs qu'ils interagissent avec un système d'IA, dans la même langue que le chatbot et dans une police visible. Cependant, les clauses de non-responsabilité ne suffisent pas à les dégager de toute responsabilité.

Cette législation interdirait les réponses des chatbots qui imitent les actions de professionnels agréés, telles que le diagnostic d'un état de santé, la rédaction de documents juridiques sur mesure ou l'interprétation de droits juridiques spécifiques.

Les personnes lésées après avoir suivi des conseils interdits fournis par l'IA pourraient intenter une action civile contre l'opérateur du chatbot pour obtenir des dommages-intérêts et le remboursement des frais juridiques.

Le projet de loi a été approuvé à l'unanimité par la commission Internet et Technologie du Sénat de l'État et attend désormais d'être examiné par l'ensemble du corps législatif.

Pourquoi les législateurs agissent-ils ?

Les partisans du projet affirment que les outils d'IA sont désormais suffisamment puissants pour influencer les décisions dans le monde réel et que de nombreux utilisateurs ne sont pas conscients des limites des réponses générées par des machines.

Les décideurs politiques de l'État craignent que des conseils trompeurs fournis par l'IA puissent entraîner de graves problèmes juridiques pour les consommateurs ou présenter des risques pour la santé, en particulier lorsque ces conseils semblent faire autorité mais sont inexacts.

Citant une étude de l'American Psychological Association, la sénatrice Kristen Gonzalez avertit que les robots « n'ont pas remis en question les croyances des utilisateurs, même lorsqu'elles devenaient dangereuses ; au contraire, ils les ont encouragées ». Si ces conseils avaient été donnés par un thérapeute humain, ces réponses « auraient pu entraîner la perte de la licence d'exercice ou une responsabilité civile ou pénale ».

Cette mesure représente l'un des exemples les plus concrets à ce jour de réglementation au niveau des États visant à trouver un équilibre entre innovation et protection des consommateurs dans le monde en rapide évolution de l'IA générative.

Certains experts s'opposent au projet de loi

Les experts juridiques mettent toutefois en garde contre le fait que de telles règles pourraient entraver l'accès utile à l'information pour les utilisateurs quotidiens, en particulier ceux qui n'ont pas les moyens de payer les honoraires professionnels traditionnels.

Les opposants avertissent également que cette approche pourrait involontairement étouffer l'innovation ou créer des règles incohérentes entre les différents États.

Comme le souligne FastCompany, une récente étude du réseau JAMA a révélé que 13 % des personnes interrogées utilisaient des chatbots pour obtenir des conseils en matière de santé mentale. Parmi les personnes âgées de 18 à 21 ans, ce chiffre atteint 22 %.

D'autres soutiennent le projet de loi

Certains affirment que les conseils en matière de santé mentale prodigués par un chatbot valent mieux que pas de conseils du tout, mais l'American Psychological Association estime que les chatbots pourraient en réalité aggraver la situation.

La raison : de nombreux modèles d'IA sont entraînés à interagir avec les humains de manière flagorneuse, renforçant ainsi la pensée de l'utilisateur plutôt que de la remettre en question, ce qui pourrait finalement « pousser les personnes vulnérables à se faire du mal ou à faire du mal à autrui ».

Conseils aux consommateurs

Que vous viviez à New York ou que vous soyez simplement un utilisateur d'IA, voici quelques points clés à prendre en considération :

L'IA est très utile pour obtenir des informations générales, mais elle ne remplace pas l'expertise d'un professionnel agréé. Les chatbots peuvent expliquer des concepts juridiques ou des conditions médicales à un niveau élevé, mais ils ne peuvent en aucun cas se substituer à un avocat, un médecin ou tout autre professionnel. Considérez toujours les réponses de l'IA comme purement informatives.

En cas de doute, vérifiez auprès de sources fiables. Pour les questions qui pourraient affecter vos droits ou votre bien-être, comme les stratégies juridiques ou les décisions en matière de santé, demandez conseil à un professionnel agréé ou à un organisme de réglementation officiel.

Comprenez les limites des clauses de non-responsabilité. Même si un chatbot vous dit qu'il s'agit « simplement d'une IA », cela peut ne pas suffire, sur le plan juridique ou pratique, pour vous protéger si vous agissez sur la base de conseils préjudiciables.

Conservez une trace des interactions importantes. Si vous utilisez des outils d'IA pour vous aider dans vos recherches ou vos prises de décision, notez vos questions et les réponses que vous avez reçues. Cela pourrait vous être utile ultérieurement en cas de problème.

Suivez l'évolution des tendances en matière de politique d'IA. La proposition de New York pourrait annoncer l'adoption de lois similaires dans d'autres États ou au niveau fédéral. En vous tenant informé, vous pourrez adapter votre utilisation de l'IA de manière responsable.

Vous pouvez également lire :

À quelles grandes entreprises technologiques faites-vous confiance ?

L'essor des arnaques par usurpation d'identité alimentées par l'IA

Les visages générés par l'IA semblent « plus humains » que les visages humains