Le créateur de ChatGPT lance l’alerte au Congrès américain concernant l’intelligence artificielle et son application vedette
Sam Altman, PDG de OpenAI, la société qui a créé l’application d’agent conversationnel (chatbot) était entendu le 16 mai au Congrès américain. Pour lui, les risques que la technologie soit mal exploitée sont importants. Mais qui a lâché un outil prématurément dans l’arène mondiale ?
Dans son édition du jour, le Wall Street Journal rapporte l’intervention de Sam Altman au Congrès la veille, où il témoignait sous serment lors d’une audition au Sénat des États-Unis. Dans la même mouvance, nous vous rapportions hier les inquiétudes de l’OMS quant au développement de l’intelligence artificielle et notamment les outils de type ChatGPT dans le domaine de la santé.
Besoin de régulation
Sam Altman a donné le ton, intervenant en final de toutes les auditions sur le sujet et après avoir rencontré en entretiens privés par moins de 60 députés des deux bords politiques, en déclarant au Sénat : »Nous comprenons que les personnes soient inquiètes de la façon dont cela [ChatGPT] peut
changer notre mode de vie. Nous le sommes aussi« . Il s’est montré visiblement inquiet d’une dérive potentielle, expliquant que si les choses s’engageaient mal avec ChatGPT, cela pouvait faire de gros dégâts.
Aussi a-t-il appelé à « une nouvelle agence qui octroit une licence d’utilisation au-delà d’une certaine échelle de capacités et pourrait retirer cette licence
et assurer le respect de normes de sécurité ».
Deep learning
Dans le même temps, le danger de la disponibilité précoce et très large offerte au public – on estime qu’il y aujourd’hui 100 millions d’utilisateurs après 2 mois de mise à disposition – de ChatGPT est selon Sam Altman malgré les dangers également un avantage puisque cela permet à sa société de surveiller l’usage et de mettre à jour en permanence l’outil et de minimiser au final les risques selon lui.
On peut se demander d’ailleurs si la voie du deep learning (à savoir l’apprentissage profond des systèmes d’intelligence artificielle par boucle d’auto-apprentissage sur l’expérience) en immersion précoce dans le monde réel, n’a pas été lorgné par OpenAI de façon tout à fait intentionnelle pour développer à vitesse grand V son outil, en le mettant à disposition mondiale et sans restriction, afin de le faire évoluer au plus vite.
Mais encore faut-il en assumer les conséquences…
De fait, les préoccupations sont nombreuses et c’est le constat des auditions d’hier au Sénat américain, et cette situation est bien en lien avec l’adoption précoce de ChatGPT mis dans les mains de qui le désire.
Dangers identifiés
Le présent sous-titre « dangers identifiés » est également dans l’article que nous avons publié hier sur les inquiétudes de l’OMS concernant les agents conversationnels dans le domaine de la santé. Le problème de ChatGPT fait à vrai dire boule de neige.
Au Sénat américain, il a été question de l’impact que pourrait avoir ChatGPT sur les élections, le vol de propriété intellectuelle, la couverture des informations journalistiques, les opérations militaires mais aussi les initiatives d’inclusion, rapportele Wall Street Journal.
Sam Altman a rétorqué que ChatGPT n’était pas une créature, mais un outil, et que les personnes qui l’utilisent peuvent le contrôler. Il a mis en avant les bénéfices évidents de l’intelligence artificielle en ce qui concerne l’automatisation des tâches.
Le risque de diffusion de fausses informations à l’aide de ChatGPT s’est avéré être une inquiétude majeure très pragmatique des députés, en particulier dans un l’objectif de manipuler les votes électoraux.
Image d’en-tête : Sam Altman (souce Wikipédia) et les logos ChatGPT et OpenAI
Pour aller plus loin
Pour aller plus loin
Science infuse est un service de presse en ligne agréé (n° 0324 x 94873) piloté par Citizen4Science, association à but non lucratif d’information et de médiation scientifique doté d’une Rédaction avec journalistes professionnels. Nous défendons farouchement notre indépendance. Nous existons grâce à vous, lecteurs. Pour nous soutenir, faites un don ponctuel ou mensuel.
