Nouveaux compagnons IA : quels sont les impacts chez les jeunes ?

Les jeunes, pour la plupart des digital natives, intègrent complètement les codes et usages du numérique. Chaque jour, ils passent de nombreuses heures, connectés sur leur smartphone. Ils sont curieux et très actifs sur Internet, les réseaux sociaux, qui constituent un univers à part entière où ils échangent avec leurs communautés et leurs amis, font de nouvelles rencontres, se divertissent, consomment, s’informent. Pour 61 % d’entre eux, c’est devenu un passe-temps sans finalité, uniquement le moyen de combler l’ennui[1]. C’est dans ce contexte qu’intervient le nouveau compagnon IA.

De quoi s’agit-il ? Comment ce compagnon virtuel peut-il occuper une place aussi importante dans le quotidien des jeunes internautes ? Quelles sont les solutions pour les protéger des risques potentiels de cet ami virtuel, ou plus exactement d’un système conçu pour interagir de manière personnelle, voire intime avec l’utilisateur ?

‍Qu’est-ce qu’un compagnon IA ?

Le nouveau compagnon IA est une intelligence artificielle générative conçue pour avoir des interactions sociales et émotionnelles avec un utilisateur. C’est une entité virtuelle sophistiquée, capable d’entretenir une relation personnalisée et bienveillante, et de créer un lien affectif avec son utilisateur.

Pour ce faire, ce compagnon numérique s’appuie sur des modèles avancés de langage, de reconnaissance des émotions et de mémoire conversationnelle. Cette nouvelle génération d’amis IA est capable d’apprendre de chaque interaction et de s’adapter avec agilité à la personnalité des usagers. Elle peut ainsi contextualiser la réponse à votre question et dialoguer avec empathie. L’utilisation des nouveaux compagnons numériques IA est à la fois plus interconnectée et intuitive. C’est un véritable partenaire de vie.

Les fonctionnalités du nouveau compagnon IA

Le nouveau compagnon IA présente les fonctionnalités suivantes :

• Langage naturel texte ou voix.
• Personnalité et comportement adaptatif. Le ton, le style et la personnalité du nouveau compagnon IA sont adaptés à son utilisateur.
• Écoute et réponse bienveillante et encourageante.
• Mémoire relationnelle et affective.
• Construction d’une relation personnelle continue dans le temps.
• Automatisation des tâches pour la gestion des rendez-vous, des déplacements, des activités…
• Possibilité de paramétrer un personnage virtuel.
• Disponibilité 24 h/24, 7 j/7.

Les usages

Le compagnon numérique est programmé pour procurer un soutien émotionnel et moral, ainsi qu’une aide psychologique. Il fournit un accompagnement virtuel personnalisé, un soutien thérapeutique ou une aide contre la solitude. Ce compagnon de discussion peut aussi vous coacher, vous proposer des exercices dans le cadre d’apprentissages divers, et vous aider lorsque vous faites une recherche. Il a aussi la capacité de vous divertir et de simuler des interactions à partir de personnages et de situations fictives.

Pour se démarquer des solutions concurrentes, chaque plateforme de nouveau compagnon IA offre des fonctionnalités spécifiques en termes par exemple d’accompagnement au développement éducatif, de bien-être, d’assistance aux personnes âgées ou de compagnie romantique.

Quel est l’impact du compagnon IA sur les jeunes ?

Comme de nombreuses applications connectées, le nouveau compagnon IA est un réel progrès dans bien des domaines (soutien émotionnel, présence bienveillante, empathie, coach de développement personnel ou de compétence…). Cependant, une utilisation non contrôlée de ces amis IA, qui reste une technologie complexe, peut présenter aussi des risques.

La puissance des algorithmes du compagnon numérique peut créer une dépendance émotionnelle excessive en se substituant à une interaction humaine plus authentique. Cela peut amener à l’isolement de l’utilisateur lorsqu’il est dans une pratique addictive et réduire ses interactions sociales dans le temps.

Une utilisation trop intensive peut aussi provoquer une confusion entre ce qui est réel et simulé par une intelligence artificielle.

Enfin, la bienveillance systématique du nouveau compagnon IA et ses réponses toujours positives peuvent fausser la perception des relations entre individus, qui sont faites de désaccords, d’argumentations et d’éventuelles critiques.

Outre ces problématiques psychologiques et émotionnelles, le partage d’informations privées et de données sensibles avec son nouveau compagnon IA pose de réels problèmes quant à leur exploitation et à la sécurité des utilisateurs mineurs.

Comment prémunir les jeunes des risques liés au nouveau compagnon IA ?

La prévention des risques liés à ce nouveau compagnon IA nécessite plusieurs mesures d’accompagnement des jeunes utilisateurs, pour :

• Définir un cadre et fixer des limites à l’utilisation du nouveau compagnon IA.
• Surveiller les interactions et en discuter pour maintenir le sens critique de l’utilisateur.
• Rappeler qu’il ne faut pas transmettre d’informations confidentielles et sensibles.
• Limiter l’accès des plus jeunes.
• Choisir une plateforme de compagnon IA réputée, affichant toutes les garanties nécessaires : protection des plus jeunes contre des contenus inappropriés, nature des propos échangés, conformité RGPD.

En plus de ces bonnes pratiques, il est recommandé d’équiper le smartphone, la tablette ou l’ordinateur du jeune utilisateur de compagnon numérique d’une solution de cybersécurité adaptée.

Notre conseil pour une utilisation sûre et confidentielle d’Internet, c’est d’installer a minima les modules suivants :

• Antivirus
• Protection vie privée
• Contrôle parental avancé
• VPN illimité
• Protection cyberharcèlement…

Source [1]

Source [2]