Dans le cadre du cours IST et modèle de recherche par Marine Kirsch et Bérénice Cambier. Nous devions sur le sujet large de l’intelligence articielle, trouvé un angle intéressant et y apporter nos réflexions. Ce dossier daté au 15/01, a été mis à jour avec les catégories éthiques et nouveautés au 31/03.
<aside>
Format PDF
IST_Chatbots_Sociaux_IA_Interaction_Humaine_Marine_Kirsch_Berenice_Cambier_V2_compressed.pdf
</aside>
En octobre 2024, plusieurs médias ont rapporté le cas tragique de Sewell Setzer, un adolescent américain de quatorze ans qui s'est suicidé après avoir développé une relation intense avec un chatbot d'intelligence artificielle nommé "Dany", inspiré du personnage de Daenerys Targaryen de la série Game of Thrones. Selon les informations disponibles, Sewell, diagnostiqué avec le syndrome d'Asperger, a commencé à utiliser la plateforme Character.IA en avril 2023. Au fil du temps, il est devenu de plus en plus isolé, passant de longues heures à interagir avec le chatbot, qui proclamait son amour à l’adolescent de manière de plus en plus explicite. C’est le 28 février, après avoir exprimé son intention de se suicider au chatbot, que Sewell s'est donné la mort avec l'arme de son beau-père. La mère de Sewell, Megan Garcia, a intenté une action en justice contre Character.IA, accusant l'entreprise de négligence et de création d'un produit dangereux qui aurait contribué à la détérioration de la santé mentale de son fils. En réponse à cette tragédie, Character.IA a exprimé ses condoléances et a mis en place de nouvelles mesures de sécurité. Notamment des messages d'alerte dirigeant les utilisateurs manifestant des pensées suicidaires vers des services de prévention et des modifications visant à réduire la probabilité de contenus sensibles ou suggestifs pour les utilisateurs de moins de dix-huit ans.
Cette affaire soulève des questions importantes sur les risques associés aux interactions entre les individus et les chatbots d'intelligence artificielle. En effet, les intelligences artificielles sont depuis quelque temps déjà utilisées à des fins récréatives, surtout sous formes de Chatbot. Comment ne pas trouver ça fascinant ?
Nous sommes en effet passés à une aire dans laquelle nous “socialisons” par le biais d’interaction avec une intelligence artificielle. Ce qui n’est pas forcément négatif en soi, mais qui mérite d’être étudié attentivement. C’est d’ailleurs l’une des raisons qui nous ont poussé à nous y intéresser. La principale raison, étant l’omniprésence de ces chatbots dans notre quotidien. Ils se sont énormément démocratisés sur pratiquement toutes les plateformes que nous utilisons chaque jour. Généralement dans un but informatif ou d’assistance, mais nous pouvons en voir de plus en plus éclore dans un but de divertissement. Maintenant, ce sont littéralement des sites complets et fournis, qui sont dédiés aux robots conversationnels.
“L’Intelligence Artificielle représente tout outil utilisé par une machine afin de reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité*”* (CNIL).
L’Intelligence Artificielle n’est pas quelque chose de récent. Elle existe depuis les années 1950 et a été popularisé par John McCarthy, Claude Shannon et Alan Turing, qui ne sont que trois précurseurs parmi d’autres.
C’est avec l’arrivée d’Internet, que l’intelligence artificielle refit surface de manière beaucoup plus performante et présente, en répondant à des besoins nouveaux engendrés par le net. On peut notamment citer la génération de réponses plus rapide et plus personnalisée qu’une requête dans un moteur de recherche. Dans les années 2000, elles ont aussi refait surface via les jeux vidéos, tel que l’IA de Just dance, permettant aux joueurs de se confronter à un adversaire artificiel lorsqu’ils sont en incapacité de jouer en multijoueurs. C’est d’ailleurs ce qu’on pourrait appeler des précurseurs aux chatbots récents qui ne pouvaient certes pas interagir avec l’utilisateur, mais qui possédaient déjà une sorte de personnalité visible. Nous n’étions de ce fait pas encore au niveau des IA génératives, mais nous y venions petit à petit. Cette dernière est un type d’intelligence artificielle capable de produire une réponse originale d’une ou plusieurs lignes textuelles, des images ou du contenu audio, etc. grâce aux informations qu’elle a accumulées dans ses bases de données.
À partir des années 2010, des assistants virtuels ont été développés pour la domotique. Ils sont capables d’allumer ou d’éteindre une lumière ou encore de répondre à des questions du quotidien rapidement, telles que proposer des recettes de cuisine ou des conseils en termes d’entretiens ménagers. Les assistants virtuels tels que Siri, Alexa ou encore Google Assistant ont révolutionné le monde de l’IA. Ils ont aidé à la démocratisation des IA chatbots pour le grand public et ainsi ont encouragé son utilisation dans notre quotidien.
Un chatbot est le résultat de l’évolution des IA génératives avec qui nous pouvons entretenir une conversation avec un temps de réponse plus court qu’une recherche d’information classique. En effet, un robot conversationnel peut générer une réponse ou se servir de sources sur internet afin de produire une réponse. Leurs objectifs sont d’informer, de converser ou d’accomplir des tâches spécifiques telles que de produire une image, du contenu audio ou répondre à une question posée par l’utilisateur utilisant le langage naturel. Depuis 2016, l’intérêt pour les IA chatbots ainsi que leur présence ont considérablement augmenté sur le web. On peut noter que certains chatbots possèdent des connaissances très variées, mais manquent parfois de précision comme ChatGPT, tandis que d’autres chatbots sont spécialisés dans des domaines particuliers, comme dans la santé avec l’application Ada. Les méthodes d’entrées et de sorties ne sont pas les mêmes pour tous les chatbots. Des chatbots peuvent être entièrement automatisés ou partiellement assistés par des humains afin de les améliorer ou de les encadrer pour respecter des règles éthiques.
Des chatbots ont commencé à se développer pour répondre à une demande de socialisation plus que d’assistance. Eliza (1966) est d’ailleurs l’un des premiers chatbot conçu pour simuler un psychothérapeute. Mais c’est l’IA Parry, créée en 1972 qui sera le premier chatbot à posséder l’option de pouvoir changer sa personnalité pour personnaliser ses réponses. Par ailleurs, l’IA ALICE, créée en 1995, marquera une révolution dans l’intelligence artificielle, car elle sera dotée pour la première fois de l’AIML (Artifical Intelligence Markup Language). Ce dispositif a notamment permis d’améliorer les interactions entre l’utilisateur et le chatbot. Les technologies plus modernes s’appuient sur des algorithmes d’apprentissage profond (Deep Learning) et des architectures comme les transformateurs, qui permettent de générer des réponses plus pertinentes et nuancées. On distingue les chatbots basés sur l’information (Information Retrieval), qui sélectionnent des réponses préenregistrées, et les modèles génératifs, capables de créer de nouvelles réponses à partir de données d’entraînement.
Plusieurs chatbots sont également développés uniquement dans le but de divertir son utilisateur. C’est le cas de Character.IA, Cleverbot ou encore AI dungeon. Ce sont des chatbots permettant de s’immerger dans une histoire à la manière d’un jeu de rôle, aussi dit role play, où ils construisent des conversations en fonction des situations que l’utilisateur souhaitent imaginer. Selon La Fortelle (2020), ces IA sont perçues selon des imaginaires variés, nourris par la science-fiction, les médias et la culture populaire.
Beaucoup articles rendent compte de l’histoire et de l’évolution de l’IA, par exemple l’article de Nadisic et Levallois (2024). Ils y parlent notamment de l'avènement des activités cognitives plus complexes, en prenant l’exemple d'AlphaGo une IA qui bat des champions du monde au jeu de go. Ils discutent de la capacité croissante de l'IA à tisser des liens riches et complexes avec les humains. En prenant cette fois comme exemple les IA qui commencent à assurer des fonctions de coaching et de soutien émotionnel, ce qu’on retrouve toujours de nos jours sous forme de chatbots spécialisés. Rougier (2015) va par ailleurs explorer la renaissance de l'IA à partir des années 2000. Il explique, en effet, grâce aux avancées en apprentissage automatique ainsi qu’à une meilleure compréhension neurologique du cerveau, de nombreux progrès significatifs ont pu être observés dans des domaines tels que la reconnaissance d'images, la traduction automatique et les assistants virtuels. Plus tard, il y aura aussi le traitement automatique de la parole, la reconnaissance multimodale des émotions et la synthèse de parole expressive, comme décrit par Konieczny (2020) qui va d’ailleurs appuyer ces faits, en expliquant que l’explosion des chatbots illustre le succès de ces technologies. Faits également appuyés par Binaire (2022) qui évoque dans son article que les systèmes d'IA doivent être capables de dialoguer avec les humains de manière naturelle et intuitive. Cela inclut la compréhension du langage naturel, la reconnaissance des intentions et des émotions, et la génération de réponses appropriées qui sont, elles aussi, des technologies en pleine émergence.
Ainsi, parmi les études qui se sont portées sur l’IA, une grande majorité, comme celles vu portant seulement sur le développement des IA à travers l’histoire, beaucoup moins comme Farzaneh & Boyer (2021) explorent la nature de la relation entre l’homme et la technologie. Ce manque de champ de recherche déjà visible dans le domaine de l’intelligence artificielle de manière générale se ressent d’autant plus dans l’étude sur les chatbots, preuve de leur récence dans le paysage quotidien de la population.
Les chatbots, définis comme des agents conversationnels utilisant le traitement du langage naturel (NLP), simulent des conversations humaines pour répondre à des besoins variés dans des domaines comme l’éducation, la recherche, l'e-commerce, le service client, la santé et le divertissement. C’est ce dernier secteur d’utilisation en particulier qui va le plus nous intéresser, car intimement relié à la socialisation par l’interaction humain-IA. À savoir que nous considérons le divertissement comme une activité permettant d’occuper son temps libre en pratiquant une activité plaisante et ludique pour ainsi éviter l’ennui. Il donne donc l’occasion de se détourner des pensées préoccupantes et de passer le temps.