• 12 octobre 2024

L’intelligence artificielle est encore bien loin d’être « transparente », selon une étude

intelligence artificielle
Share This !

Les modèles d’intelligence artificielle, qui se sont multipliés depuis le lancement de ChatGPT, manquent de transparence dans leur conception, posant un risque pour les applications qui les utilisent comme socle technique, selon une étude de l’université de Stanford.

D’après un nouvel indice imaginé et calculé par les chercheurs de cette université californienne, le modèle le plus transparent parmi la dizaine évalués est Llama 2, système d’intelligence artificielle lancé par Meta en juillet et réutilisable librement.

Mais il n’obtient qu’un score de 54%, encore largement insuffisant selon les auteurs de l’étude.

GPT-4, le produit phare d’Open AI, l’entreprise financée par Microsoft derrière le fameux robot ChatGPT, n’obtient pour sa part qu’un score de transparence de 48%.

Et les autres modèles en vogue, comme Palm-2 de Google ou Claude 2 de la société Anthropic (financée par Amazon), apparaissent encore plus bas dans le classement.

Tous les modèles devraient essayer d’atteindre 80% à 100% de transparence, estime dans un communiqué Rishi Bommasani, directeur de la recherche à Stanford sur les modèles dits de « fondation ».

Le manque de transparence rend plus difficile pour les entreprises « de savoir si elles peuvent créer en toute sécurité des applications reposant » sur ces modèles commerciaux, et « pour les universitaires de s’appuyer sur ces modèles pour leurs recherches », expliquent les auteurs de l’étude.

Cela complique aussi la tâche des consommateurs qui souhaiteraient « comprendre les limites des modèles ou demander réparation pour les préjudices subis ».

Concrètement, « la plupart des entreprises ne révèlent pas l’étendue des contenus protégés par des droits d’auteurs utilisés pour entraîner leur modèle. Et les entreprises ne divulguent pas non plus l’utilisation de travail humain pour corriger les données d’entraînement, ce qui peut s’avérer très problématique », détaille l’étude.

« Aucune entreprise ne fournit d’informations sur le nombre d’utilisateurs qui dépendent de leur modèles, ni de statistiques sur les pays ou marchés qui l’utilisent », déplore aussi Rishi Bommasani.

Selon les auteurs, cet indice de transparence pourrait à l’avenir être utilisé par les décideurs politiques et les régulateurs. L’Union européenne, les États-Unis, la Chine, le Royaume-Uni ou le Canada ont annoncé souhaiter l’émergence d’une IA plus transparente.

« L’intelligence artificielle constitue une énorme, énorme promesse d’incroyables opportunités, mais elle présente aussi des risques pour notre société, notre économie et notre sécurité nationale », déclarait ainsi le président américain Joe Biden en juillet devant les responsables des entreprises du secteur.

Le sujet était au premier plan lors du G7 au Japon en mai, et la Grande-Bretagne s’apprête à organiser en novembre un sommet international sur l’IA. (AFP)

» Connectez-vous à Facebook pour pouvoir commenter

Articles qui pourraient vous intéresser:

Les populations de faune sauvage ont décliné de 73% en moyenne en 50 ans, selon l'indice de référenc...

Les différentes populations d'animaux sauvages ont perdu en moyenne 73% de leurs individus en 50 a...

Le transfert de migrants hors de l'UE, au menu des ministres européens

Les questions migratoires reviennent en force dans l'agenda européen. Les ministres de l'Intérieur d...

Ursula von der Leyen à Kiev pour préparer le soutien de l'UE à l'approche de l'hiver

La présidente de la Commission européenne, Ursula von der Leyen, s'est rendue à Kiev pour évoquer le...

Immigration : Allemagne rétablit des contrôles à toutes ses frontières

L'Allemagne a rétabli, pour six mois, des contrôles à l'ensemble de ses frontières pour lutter contr...

Le pape François affirme que le Vatican savait pour les agressions sexuelles commises par le prêtre ...

Le Vatican était informé des accusations de violences sexuelles visant l'Abbé Pierre, au moins "aprè...

Données personnelles et IA : Google récolte et l'Europe enquête

Nouvel acte dans la bataille continue entre régulateurs européens et géants de la tech: l'autorité i...

Immobilier : la baisse des prix dans l'ancien se poursuit -4,9% sur un an

En France, les prix de l'immobilier ancien ont poursuivi leur baisse au deuxième trimestre 2024, m...

La première jambe robotique avec des "muscles artificiels"

Des chercheurs ont annoncé avoir conçu la première jambe robotique avec des "muscles artificiels", d...

Climat : l'été 2024 poursuit une interminable série de records de températures mondiales

L'été 2024 a été le plus chaud jamais mesuré sur la planète, où les records des températures s'encha...

Michel Barnier est nommé Premier ministre par Emmanuel Macron

Près de deux mois après les élections législatives et la démission de Gabriel Attal, le président de...

La dérive des dépenses publiques est très inquiétante

François Ecalle: Ancien magistrat de la Cour des comptes, le fondateur de Fipeco réagit à l’annonce ...

Pour garder vos articulations en bonne santé, faites ces exercices simples

Rachel MacPherson est une « entraîneuse personnelle » et a révélé un entraînement qui peut être très...

PUB google