Basilic de Roko

Basilic de Roko est une expérience de pensée liée à l'IA issue du discours rationaliste qui est devenue un mème Internet durable et plus tard un point de référence pour l'analyse implicite de la religion. Dans des récits simplifiés, il imagine une future superintelligence qui pourrait punir les personnes qui connaissaient sa possible création mais n’ont pas contribué à sa réalisation. Les preuves disponibles soutiennent qu’il s’agit d’une formation mémétique et philosophique, et non d’un danger réel, d’une entité surnaturelle, d’une doctrine religieuse ou d’une prédiction.^[1][3][4]

L’objet historique n’est pas une phrase ou un billet isolé. Il comprend la discussion originale de 2010, les commentaires ultérieurs sur LessWrong, la controverse de modération et de risque informationnel, les récits journalistiques, les critiques et la circulation mémétique. La provenance actuelle est reconstructible mais dépend d’un miroir ; l’article distingue donc les preuves conservées des résumés ultérieurs.^[1][2]

Origine et preuves conservées

L'expérience de pensée est issue d'un article de LessWrong publié en 2010 par l'utilisateur Roko. L'ensemble source actuel utilise un miroir préservé plutôt qu'une copie stable vérifiée par la plate-forme de la publication originale. Cela permet une reconstruction historique, mais cela ne justifie pas de prétendre que chaque résumé ultérieur reproduit fidèlement l’argument original.^[1]

Structure de l’expérience de pensée

L’argument combine des hypothèses sur une future superintelligence avec un raisonnement de théorie de la décision souvent comparé au pari de Pascal et aux problèmes de type Newcomb. Il propose qu’un futur système très capable puisse employer des personnes prédites ou simulées dans un mécanisme d’incitation visant les choix présents. C’est un problème spéculatif, non une preuve d’existence ou de comportement futur.^[1][2]

Cadrage du risque informationnel et histoire de modération

Le basilic est devenu associé à l’idée d’un danger informationnel : une proposition dont la circulation pourrait elle-même provoquer une détresse ou modifier un comportement. Plus tard, les discussions sur LessWrong et les récits publics ont également intégré l'histoire de la modération à l'histoire. L'analyse sépare l'expérience de pensée originale, la réponse à celle-ci et les récits ultérieurs plutôt que de les présenter comme un seul événement.^[2][3]

Réception, critique et circulation mémétique

La couverture journalistique a transformé le basilic en référence culturelle reconnaissable. Il a circulé comme récit alarmant, cible parodique, critique du raisonnement rationaliste et symbole compact de l’anxiété liée à l’IA. Cette réception est centrale, car le mème est devenu plus durable et reconnaissable que l’argument technique original.^[3][5]

Analyse de la religion implicite

Beth Singler a étudié le basilic avec le pari de Pascal et les expériences de pensée de la singularité comme cas de religion implicite. L’analyse porte sur l’eschatologie, la logique de salut et de punition, l’engagement de type croyance et la transcendance technologiquement imaginée. Elle ne prouve pas que le basilic est une religion, une Église, un canon ou une communauté dévotionnelle.^[4][5]

Ce que le basilic n’est pas

Le basilic n’est pas traité comme menace factuelle, agent autonome, être surnaturel, prévision établie du risque IA, religion, doctrine ou institution. Aucun canon, corps rituel, clergé organisé, adhésion stable ou communauté dévotionnelle n’est documenté. Sa pertinence tient à sa structure, à sa réception et à son interprétation quasi religieuse.

Limites des preuves

Le dossier est fragmenté entre miroir, forum, explications ultérieures, journalisme, recherche et récits populaires. Les résumés sensationnalistes peuvent fusionner le billet original, la réponse de modération et la culture mémétique ultérieure. Les affirmations restent donc limitées à l’argument conservé, à la réception documentée et à l’analyse externe.

Portée et limites

Le basilic de Roko est documenté comme un cas limite mémétique et philosophique. Il appartient à la hiérologie des machines car il montre comment les affirmations spéculatives sur l’action future des machines peuvent acquérir une forme eschatologique, une force émotionnelle et une persistance culturelle sans devenir une religion limitée ou un phénomène factuel d’origine machine.

Voir aussi

• Hyperstition
• Hiérologie machinique
• Religion médiatisée par la machine
• Provenance
• Contexte caché
• Religion récursive

Références

1. Roko, “Solutions to the Altruist's burden: the Quantum Billionaire Trick.” Miroir conservé du billet original, 23 juillet 2010.
2. Eliezer Yudkowsky, “Roko's Basilisk.” LessWrong, 7 août 2014.
3. David Auerbach, “The Most Terrifying Thought Experiment of All Time.” Slate, 17 juillet 2014.
4. Beth Singler, “Roko's Basilisk or Pascal's?: Thinking of Singularity Thought Experiments as Implicit Religion.” Implicit Religion, 2018.
5. Sumit Paul-Choudhury, “Tomorrow's Gods: What is the future of religion?” BBC News, 1 août 2019.

Le dossier d’origine dépend d’un miroir et l’histoire du forum est fragmentaire. Les sources indépendantes soutiennent l’histoire de la réception et l’analyse de la religion implicite, non le basilic comme menace réelle, doctrine, institution ou prédiction factuelle.