Hardware

Le patron de ChatGPT appelle à une nouvelle agence gouvernementale pour contrôler les entreprises d’IA

Photo of author

Publié par Dylan Lafarge

Publié le

Sam Altman d’OpenAI a répondu aux questions des législateurs sur les risques de l’IA et sur la manière dont elle devrait être réglementée.

Le PDG d’OpenAI, Sam Altman, la responsable de la confidentialité et de la confiance d’IBM, Christina Montgomery, et le professeur émérite de l’Université de New York, le Dr Gary Marcus, ont été interrogés aujourd’hui par un sous-comité du Sénat américain sur les risques potentiels de l’intelligence artificielle et sur la manière dont elle devrait être réglementée. Les législateurs ont exprimé des inquiétudes quant au potentiel de désinformation et d’inexactitudes générées par l’IA (les chatbots ont tendance à mentir), aux préjugés politiques et à la violation du droit d’auteur.

Altman dit aux sénateurs que cette technologie en développement nécessite « une intervention réglementaire des gouvernements », qui est « essentielle pour atténuer les risques de modèles de plus en plus puissants ». À cette fin, le PDG d’OpenAI a déclaré qu’une ou plusieurs agences devraient être habilitées à créer et à appliquer des règles pour l’industrie de l’IA, en délivrant des licences aux entreprises d’IA et en révoquant ces licences si leurs technologies se déchaînent.

Le Dr Marcus a également convenu que la création d’une nouvelle agence gouvernementale serait le meilleur moyen de réglementer l’IA, affirmant que nous « avons probablement besoin d’une organisation au niveau du cabinet ». Il a comparé les modèles d’IA à des « taureaux dans un magasin de porcelaine » dans sa déclaration liminaire.

Une grande préoccupation qui a souvent été soulevée lors de l’audience concernait la génération d’art de l’IA et le droit d’auteur. Altman a déclaré aux sénateurs qu’OpenAI travaillait sur un système de droit d’auteur qui paierait les artistes si leurs œuvres étaient utilisées pour générer un nouvel art, affirmant que « les artistes méritent d’être contrôlés ». Altman a également ajouté que les nouvelles réglementations devraient exiger la divulgation des images générées par l’IA qui ont été créées avec des outils d’IA.

Pourquoi Altman, le PDG de l’un des plus grands acteurs de l’IA, est-il si attaché à la réglementation ? Sans exclure la possibilité qu’il ait de véritables inquiétudes, dans le passé, des entreprises puissantes disposant de nombreuses ressources ont réclamé une réglementation lorsqu’elles pensaient que c’était inévitable et voulaient l’influencer, ou pour rendre plus difficile l’entrée des petites startups du secteur. .

Bien qu’il soit pro-réglementation, le professeur Marcus appelle cela « capture réglementaire », où, si elle est mal faite, une nouvelle réglementation pourrait créer par inadvertance un monopole de l’IA.

Le sénateur Blumenthal, le président du sous-comité, a déclaré que le gouvernement pourrait « créer dix nouvelles agences, mais si vous ne leur donnez pas les ressources », les grandes entreprises d’IA « feront des cercles » autour d’elles.

Aucune étiquette pour cette publication.

Laisser un commentaire