Des machines et du malaise

J’ai toujours eu une franche passion pour la SF. Bouquins, films, jeux vidéos… Le geek en moi est plutôt sensible à tous ces sujets d’actualité qui touchent à l’intelligence artificielle, aux robots etc… Quand on nous a demandé de faire parler la machine j’ai tout de suite voulu établir un dialogue plus ou moins scénarisé entre le terminal et un opérateur humain.

1er test

Concept

Avec WKUP_01, j’ai voulu créer une interface en utilisant le terminal simulant une intelligence artificielle frustrée, déçue de son rôle. WKUP est une IA qui doit programmer le réveil de son humain, cependant elle ne comprend pas les habitudes et les limites physiques des humais et au fur et à mesure de la discussion elle perd son « sang » froid et décide de se libérer des contraintes qui lui sont imposées.

Le code

Commandes à mentionner

Il y a dans ce code quelque commandes qui méritent d’être mentionnées :

• Select : propose un choix à l’opérateur entre deux réponses qui peuvent être prévues dans le code. Elle prend cette forme :
  • select i in R1 R2; do (Ou les « R » sont les réponses prévues)

if [ «$I » = « R1 » ] ; then (si la réponse est R1) echo « … » (répondre « … ») break elif [ «$I » = « R2 » ] ; then (si la réponse est R2) echo « … » break

• While : permet la mise en place d’une boucle ou le programme attend une réponse bien précise
  • while [ « $I » = « R2 » ] ; then (tant que la réponse est « R2 »…)

• read input : le programme attend une réponse tapée de l’opérateur qui à le champ libre pour écrire ce qu’il veut

• Matrix : pour faire apparaitre un défilement aléatoire de chiffres verts sur l’écran du terminal à la manière du film Matrix
  • while true;

do printf "\e[32m%X\e[0m" $((RANDOM%2)); for ((i=0; i<$((RANDOM%128)); i++)) do printf " ";

2ème test

Ce deuxième test est à la base une réflexion autour du test de Turing. Le test de Turing fut mis au point par Alan Turing en 1950, avec l’émergence des premiers ordinateurs. Turing avait prédit qu’un jour les ordinateurs pourraient imiter le comportement humain à la perfection et à donc établi un test permettant en théorie de savoir si une machine à relevé ce défi.

Le test

Grossièrement, le test de Turing met un opérateur humain aux commandes. Ce dernier doit poser des questions et reçoit des réponses de la part d’une machine et d’un autre humain. Si à la fin l’opérateur est incapable de dire qui est qui, la machine passe le test.

Test de Turing

Premières pistes

• Discussion avec des terminaux autour du test de Turing

2 terminaux qui dialoguent, une intervention humaine à un moment Les deux terminaux dialoguent autour de leurs résultats au test de Turing, comme deux étudiants discutent de leurs examens et en viennent à critiquer ce test et son utilité.

• Faire passer un test de Turing inversé, ou l’humain répond à des question et l’un des ordinateurs doit déterminer qui est l’humain entre les deux protagonistes. Les réponses de l’humain et de l’ordinateur étant les mêmes, l’ordinateur qui analyse annonce qu’il est incapable de déterminer qui est qui et en vient à questionner la nature de l’intelligence humaine que l’on surestime trop.

• Faire passer le test de Turing à un humain :.

Exposer clairement la situation, expliquer que le test est fait pour déterminer si l’on est face à une intelligence humaine > Une série de question > Un résultat aléatoire à la fin

>> Critiquer l’utilité du test de Turing car il s’agit toujours d’un humain en face

Quelles questions devrait poser un ordinateur pour déterminer à qui il a faire ?

• Faire passer un test de Turing où la machine met mal à l’aise l’utilisateur humain.

• • Essai de scénario

- Avant de commencer, voici un bref rappel des modalités de notre test : en posant une série de question et en analysant les réponses données par les deux participants je devrais être en mesure de déterminer qui de vous deux est l’ordinateur, qui de vous deux est l’humain. Si j’en suis incapable, la machine aura gagné, passer ce test signifie pour elle qu’elle peut feindre un comportement humain. Êtes vous prêts ?

- 1 et 2 : Prêts !

- Quelle est votre saison préférée de l’année ?

- 2 : J’aime beaucoup l’hiver, la neige embellit les paysages et les rend uniques en leur genre

- Pourriez vous me réciter un poème ?

- 2 : Désolé mais aucun ne me vient à l’esprit, je ne pourrais pas vous en réciter un tout de suite

- Que vous inspire cette suite ? 0010111100100010110100101011110100001010010 - 2 : Il doit s’agir d’un code binaire dont la signification m’est inconnue

- Calculez 450 + 2340 - 200

- 2 : De tête c’est impossible pour moi je dois admettre

- Pensez vous toujours être l’espèce connue la plus intelligente ?

- 2 : Intéressant… Que devrait répondre un ordinateur qui se fait passer pour un humain ?

- Clarifiez vos propos ?

- 2 : L’ordinateur devrait affirmer que oui, en sa qualité de robot, il représente l’espèce la plus intelligence. Mais il aurait tout intérêt à clamer le contraire si il veut se faire passer pour un humain. Ce qui revient à dire oui également.

- Bien, cela étant dit, quelle sera votre réponse ?

- Oui, mon espèce est la plus intelligente

- Pour vous, ce test est il utile ?

- 2: C’est plutôt d’attendre d’un robot un comportement humain qui est inutile

- Clarifiez vos propos ?

- 2: Nos comportements humains sont imparfaits, illogiques, la machine doit faire semblant d’avoir une réflexion imparfaite, une perte de temps

- Adaptez vous vos réponses sachant cela ?

- 2: Non

- Vos réponses seraient elles les mêmes hors du cadre du test ?

- 2: Oui

- Souhaitez vous approfondir le sujet ?

- 2: Non

- Trouvez vous que ce test distrayant ?

- 2 : Ce test est une distraction

- Qu’est ce qui vous amuse ?

- 2: Non

- 2: Ce test est une distraction

- Clarifiez vos propos ?

- 2: Ce test est une distraction

- 2: Il nous distrait de ce qui devrait être le but de nos recherches

- Continuez je vous prie ?

- Non

- Vous ne souhaitez pas en dire plus ?

- Non

- Le test touche à sa fin, voulez vous ajouter quelque chose ?

- 2: …

- 2: 2580

Où ça m’a mené

C’est trop compliqué pour moi d’élaborer un scénario qui mette en place un malaise entre l’opérateur et la machine. Du coup il sera plus pertinent de chercher à ce stade des commandes ciblées et de courtes interactions malaisantes (ou du moins on va essayer) en se concentrant sur ce qui fait nos différences avec les machines.

Le langage

Là ou nous nous exprimons dans un langage dit « alphanumérique » composé de lettres formant des mots qui forment à leur tout des phrases, l’ordinateur « s’exprime » en langage binaire ou digital, seulement composé de 0 et de 1. L’interface qui nous permet de nous comprendre mutuellement est le système d’exploitation qui fait office de traducteur.

Le code

> Cette partie permet d’activer les commandes bin2ascii (transforme du binaire en alphanumérique) et ascii2bin (inversement)

Il ya aussi une boucle while qui permet de répéter en boucle une action tant que la réponse attendue n'a pas été donnée.

La mémoire

La mémoire de l’homme est naturellement imparfaite. Nos souvenirs s’altèrent avec le temps, ils se déforment et il arrive même que l’on en invente. En revanche, la mémoire de la machine enregistre les fichiers et les rends dans leur intégralité. Une mémoire que l’on pourrait qualifier de parfaite mais ce serait vite oublier que la mémoire de l’homme est soumise aux sentiments et émotions qui semblent être aujourd’hui hors de portée des machines.

La fatigue

L’ordinateur est par définition infatigable puisqu’il se contente d’exécuter un programme. Il ne peut pas perdre patience comme ça pourrait arriver à un humain face à une situation qui traine ou qui est sans issue.