C’est en effet la question que j’ai posé à ChatGPT de la manière suivante, après avoir appris par les médias que M. Donald Trump venait d’annuler un décret de M. Biden règlementant l’IA :
« Bonjour, faut-il avoir peur de l’intelligence artificielle ? quels sont les risques possibles pour le genre humain ? »
Vous remarquerez que je salue la machine.
Pour rappel, Donald Trump a abrogé le décret exécutif 14110 d’octobre 2023 sur le développement et l’implantation de normes/exigences de confiance de l’intelligence artificielle promulgué par son prédécesseur, Joe Biden. Ce texte, perçu par beaucoup comme un frein pour l’innovation, imposait aux entreprises de transmettre au gouvernement fédéral des données et résultats de tests relatifs à leurs modèles d’IA lorsqu’ils présentaient « un risque sérieux en termes de sécurité nationale, de sécurité économique nationale, ou de sécurité de la vie privée et des libertés individuelles ». Le texte imposait également au NIST (National Institute of Standards and Technology) de définir des normes ainsi que d’autres agences fédérales d’évaluer les risques biologiques, radiologiques, nucléaires, de cybersécurité ou d’infrastructure critique que l’IA pourrait poser. (https://www.linformaticien.com/magazine/tendances/941-ia/62953-trump-abroge-un-decret-de-biden-sur-la-securite-de-l-ia.html )
Voici un des éléments de réponse de ChatGPT :
Perte de contrôle
- Une IA « superintelligente » pourrait agir de manière imprévisible ou poursuivre des objectifs contraires à ceux des humains. Cela soulève la question du contrôle humain sur des systèmes qui deviennent trop complexes.
- Le scénario hypothétique du « papier-clips » : Une IA, si mal programmée, pourrait maximiser la fabrication de trombones au détriment de toute autre considération, détruisant les ressources nécessaires à la vie humaine.
Ce scénario hypothétique du « papier-clips », c’est justement ce que je souhaitais vous partager à travers une vidéo de 28 minutes réalisée par EGO, intitulé « l’horreur existentielle de l’usine à trombone », vue plus de 3 millions de fois :
Pour finir ce petit billet, je reviens à ma question posée à ChatGPT et vous fait part de sa conclusion que vous pourrez mettre en abime avec la vidéo :
« En résumé, il est important de ne pas céder à une peur irrationnelle, mais de rester vigilant face aux risques. L’IA est un outil puissant qui, s’il est bien encadré, peut contribuer au progrès humain. Cependant, cela nécessite une gestion proactive pour éviter les dérives potentielles.
Qu’en pensez-vous ? Avez-vous une crainte spécifique ou une question particulière sur l’IA ? »
