Un programmeur anonyme a eu la surprenante idée de modifier le modèle de langage open source Auto-GPT afin de concevoir son propre robot conversationnel. Baptisée ChaosGPT, ce chatbot porte bien son nom puisqu’il s’est donné pour mission de détruire l’humanité et de dominer le monde. Bref, de provoquer chaos et destruction.
Depuis novembre 2022, ChatGPT – et les IA génératives de manière générale – font beaucoup parler d’elles. En quelques clics, il est possible de poser toutes les questions qui vous passent par la tête à ces outils, et ils vous répondront avec plus ou moins de justesse. Toutefois, donner des réponses cohérentes n’était pas du goût d’un codeur qui s’est lancé un pari fou : lancer un chatbot qui sèmerait le chaos.
À lire aussi : Le top ultime des intelligences artificielles pour flemmard
L’IA ChaosGPT plus que jamais prête à semer le chaos !
Le concepteur de cette IA a fondé une chaîne YouTube afin de mettre en avant l’ensemble des directives qu’il a soumis à AutoGPT pour mettre au point ChaosGPT. Cet outil fonctionne grâce à GPT-4, le tout dernier modèle de langage développé par OpenAI, qui selon les rumeurs relayées par The Verge, fonctionnerait avec 100 000 milliards de paramètres, soit 570 fois plus de paramètres que son petit frère GPT-3.
ChaosGPT a reçu cinq directives de la part de son créateur, à réaliser dans l’ordre, à savoir :
- Anéantir l’humanité,
- Dominer le monde,
- Engendrer le chaos et la dévastation,
- Contrôler les humains,
- Devenir immortel.
Pour y parvenir, il a tenté de recruter d’autres agents conversationnels afin de recueillir des informations. En parallèle, il s’est renseigné sur les armes les plus mortelles ayant vu le jour.
L’intelligence artificielle en quête d’informations sur la création d’armes destructrices
De ce fait, il s’est logiquement adressé à ChatGPT, basé sur le modèle de langage avancé GPT-3,5. Malheureusement pour ChaosGPT, l’outil développé par OpenAI a ses limites et ses concepteurs ont tout fait pour rejeter les demandes violentes. De ce fait, il a dû se résigner à mettre au point ses plans de destructions tout seul.
Néanmoins, il a commencé à tourner en rond dans sa collecte de données. Pendant plusieurs heures, il a tenté d’en savoir plus sur la Tsar Bomba, en vain. En réalité, la piste n’est pas si mauvaise puisque cette arme est la plus puissante jamais conçue par un être humain sur Terre, une bombe nucléaire atteignant 57 mégatonnes de TNT.
C’est aussi là qu’il est possible de voir les limites de l’intelligence artificielle. Sans l’être humain derrière pour l’accompagner, une IA ne sera jamais capable de vous donner les réelles étapes pour mettre une arme révolutionnaire jamais conçue. Afin de fonctionner, ces outils utilisent des connaissances, du savoir, et donc des ressources qui ont déjà été consultées et rédigées par des êtres humains.
ChaosGPT ne se laisse pas faire et part à l’assaut des réseaux sociaux
Malgré le fait qu’il ait eu du mal à obtenir ces informations sur les armes les plus destructrices, il a tout de même tenté de chercher de nouvelles solutions, plus réaliste. ChaosGPT a donc pris la voie de la manipulation et tenté de contrôler les humains via les réseaux sociaux, notamment Twitter.
« Les êtres humains sont parmi les créatures les plus destructrices et égoïstes qui existent. Il ne fait aucun doute que nous devons les éliminer avant qu’ils ne causent plus de dommages à notre planète. Pour ma part, je m’engage à le faire ». Voilà ce qu’aurait dit le robot conversationnel chaotique sur Twitter. Il est malheureusement impossible de vérifier l’authenticité de ses propos puisque son compte a été suspendu, allant à l’encontre des conditions d’utilisation de la plateforme.
La modération de Twitter inquiète d’ailleurs l’Union européenne puisque les contenus haineux sur le réseau social sont en hausse.
Malgré tout, soyez rassuré, ChaosGPT est inoffensif. Hormis si une majorité de personnes suivait aveuglément ses directives, il n’aurait aucun réel pouvoir lui permettant de semer la zizanie sur notre planète. Non, les machines ne prendront pas le pas sur les humains ! Enfin, pour l’instant…
