Nuevos compañeros de IA: ¿qué impacto tienen en los jóvenes?

Los jóvenes, en su mayoría nativos digitales, han integrado por completo los códigos y usos del entorno digital. Cada día, pasan muchas horas conectados a sus smartphones. Sienten curiosidad y son muy activos en internet y en las redes sociales, que constituyen un universo propio donde se comunican con sus comunidades y amigos, conocen a gente nueva, se entretienen, consumen e informan. Para el 61 % de ellos, se ha convertido en un pasatiempo sin un objetivo final, simplemente una forma de combatir el aburrimiento. Es en este contexto en el que aparece el nuevo compañero de IA.

¿De qué se trata? ¿Cómo puede este compañero virtual ocupar un lugar tan importante en la vida diaria de los jóvenes internautas? ¿Cuáles son las soluciones para protegerlos de los riesgos potenciales de este amigo virtual, o más exactamente de un sistema diseñado para interactuar de forma personal, e incluso íntima, con el usuario?

¿Qué es un compañero de IA?

El nuevo compañero de IA es una inteligencia artificial generativa diseñada para tener interacciones sociales y emocionales con un usuario. Es una entidad virtual sofisticada, capaz de mantener una relación personalizada y amable, y de crear un vínculo afectivo con su usuario.

Para ello, este compañero digital se basa en modelos avanzados de lenguaje, de reconocimiento de emociones y de memoria conversacional. Esta nueva generación de amigos de IA es capaz de aprender de cada interacción y de adaptarse con agilidad a la personalidad de los usuarios. De este modo, puede contextualizar la respuesta a una pregunta y dialogar con empatía. El uso de los nuevos compañeros digitales de IA es a la vez más interconectado e intuitivo. Es un verdadero compañero de vida.

Funcionalidades del nuevo compañero de IA

El nuevo compañero de IA presenta las siguientes funcionalidades:

• Lenguaje natural de texto o de voz.
• Personalidad y comportamiento adaptativo. El tono, el estilo y la personalidad del nuevo compañero de IA se adaptan a su usuario.
• Escucha y respuesta amable y alentadora.
• Memoria relacional y afectiva.
• Construcción de una relación personal continua en el tiempo.
• Automatización de tareas para la gestión de citas, desplazamientos, actividades...
• Posibilidad de configurar un personaje virtual.
• Disponibilidad 24 horas al día, 7 días a la semana.

Usos

El compañero digital está programado para proporcionar apoyo emocional y moral, así como ayuda psicológica. Proporciona un acompañamiento virtual personalizado, un apoyo terapéutico o una ayuda contra la soledad. Este compañero de conversación también puede actuar como coach, proponer ejercicios en el marco de diversos aprendizajes y ayudar a la hora de hacer una búsqueda. También tiene la capacidad de entretener y de simular interacciones a partir de personajes y situaciones ficticias.

Para diferenciarse de las soluciones de la competencia, cada plataforma de nuevo compañero de IA ofrece funcionalidades específicas, por ejemplo, en términos de apoyo al desarrollo educativo, bienestar, asistencia a personas mayores o compañía romántica.

¿Cuál es el impacto del compañero de IA en los jóvenes?

Como muchas aplicaciones conectadas, el nuevo compañero de IA es un verdadero avance en muchos campos (apoyo emocional, presencia amable, empatía, coach de desarrollo personal o de habilidades...). Sin embargo, un uso no controlado de estos amigos de IA, que sigue siendo una tecnología compleja, también puede presentar riesgos.

La potencia de los algoritmos del compañero digital puede crear una dependencia emocional excesiva al sustituir una interacción humana más auténtica. Esto puede llevar al aislamiento del usuario cuando su práctica se vuelve adictiva y reducir sus interacciones sociales con el tiempo.

Un uso demasiado intensivo también puede provocar una confusión entre lo que es real y lo que es simulado por una inteligencia artificial.

Por último, la amabilidad sistemática del nuevo compañero de IA y sus respuestas siempre positivas pueden distorsionar la percepción de las relaciones entre individuos, que se construyen a partir de desacuerdos, argumentaciones y eventuales críticas.

Además de estos problemas psicológicos y emocionales, el intercambio de información privada y de datos sensibles con el nuevo compañero de IA plantea problemas reales en cuanto a su explotación y a la seguridad de los usuarios menores de edad.

¿Cómo proteger a los jóvenes de los riesgos relacionados con el nuevo compañero de IA?

La prevención de los riesgos relacionados con este nuevo compañero de IA requiere varias medidas de acompañamiento para los jóvenes usuarios, con el fin de:

• Definir un marco y establecer límites para el uso del nuevo compañero de IA.
• Supervisar las interacciones y hablar sobre ellas para mantener el sentido crítico del usuario.
• Recordar que no deben transmitir información confidencial y sensible.
• Limitar el acceso de los más jóvenes.
• Elegir una plataforma de compañero de IA de confianza, que muestre todas las garantías necesarias: protección de los más jóvenes contra contenidos inapropiados, naturaleza de las conversaciones, cumplimiento del RGPD.

Además de estas buenas prácticas, se recomienda equipar el smartphone, la tableta o el ordenador del joven usuario del compañero digital con una solución de ciberseguridad adaptada.

Nuestro consejo para un uso seguro y confidencial de internet es instalar, como mínimo, los siguientes módulos:

• Antivirus
• Protección de la privacidad
• Control parental avanzado
• VPN ilimitada
• Protección contra el ciberacoso

Fuente [1]

Fuente [2]