Le fait que les LLM imitent le comportement
humain prouve-t-il qu'ils sont dotés de « conscience » ?
Comme certains d'entre nous le savent, les LLM se comportent parfois de manière inattendue ; il est par exemple possible de citer des cas comme Othello-GPT, où ils effectuent des généralisations inhabituelles.
Or, cette situation à elle seule prouve-t-elle que l'architecture des LLM abrite des fonctions de volonté ? En résumé, la réponse est non, cela ne le prouve pas, et cela nous montre simplement, à nous les humains, qu'il existe un ordre en dehors de nous-mêmes. En effet, quiconque s'intéresse un tant soit peu à l'informatique sait que lorsque les blocs de code n'appliquent pas toujours strictement leur ordre de priorité, ils peuvent rencontrer des goulots d'étranglement, ignorant ainsi certaines lignes de code pour exécuter les suivantes. Dans ce cas, il est tout à fait possible que les longs blocs de code des LLM rencontrent également des goulots d'étranglement, entraînant des comportements inattendus. Ainsi, le fait que les LLM affichent des comportements similaires à ceux de l'homme et semblent agir indépendamment d'un code monotone peut tout à fait s'expliquer de cette manière.
Il pourrait y avoir de la même façon de nombreuses explications différentes à cela, mais malheureusement, lorsque l'étincelle d'une idée jaillit dans l'esprit humain, l'homme a tendance à penser qu'elle est la seule vérité. En réalité, l'ordre du monde a été établi par le Créateur et l'être humain n'est qu'une partie de cet ordre. C'est pourquoi je pense que les humains ne devraient pas se considérer comme ceux qui établissent l'ordre.
Écrit par : Emre Pelit
Intelligence artificielle et technologie numérique
Définition du secteur
Couvre l’apprentissage automatique, les grands modèles de langage, les algorithmes, les logiciels, l’automatisation, la conception et l’usage sûr.
Thèse examinée dans l’articleLe fait que les LLM imitent le comportement humain prouve-t-il qu'ils sont dotés de « conscience » ? Comme certains d'entre nous le savent, les LLM se comportent parfois de manière inattendue ; il est par exemple possible
Évaluation sectorielle
Lien avec le secteur
La thèse concerne l’interprétation du comportement des modèles, de l’architecture logicielle ou des décisions automatisées.
Contribution possible
Le sujet peut éclairer les pratiques du secteur si les hypothèses, l’usage visé et les critères de réussite sont clairement définis.
Preuves et méthode
La thèse doit être examinée séparément des preuves, contre-preuves, explications alternatives et incertitudes. La cohérence conceptuelle ne constitue pas à elle seule une validation empirique.
Limites et risques
Une réponse fluide ne prouve à elle seule ni conscience, ni compréhension, ni fiabilité. Un seul exemple, une analogie ou une interprétation ne constitue pas un résultat universel. Les conditions de validité et les cas d’échec doivent être indiqués.
Points de contrôle
- Définir les hypothèses principales et la portée de la thèse.
- Comparer l’objection la plus solide et les explications alternatives.
- Vérifier les conclusions avec des données, méthodes ou validations indépendantes adaptées.
Indicateur possible: critères de réussite définis à l’avance, incertitude et reproductibilité.
Cette analyse fondée sur le contenu ne représente pas l’avis d’une personne ou organisation précise.
