Es importante fomentar un modelo de colaboración, no de sustitución; es decir adoptar la IA como un compañero de equipo y no como un confidente en temas sensibles, señala Experto CETYS
Actualmente utilizar la Inteligencia artificial (IA) como un asistente personal es algo de todos los días, se comparte información sobre trabajo, gustos, actividades diarias, viajes, etc. Pero, ¿realmente cuáles son las consecuencias e impacto de proporcionarles tanta información?
“Se ha observado que la información habitual, se proporciona principalmente por comandos de voz y gira en torno a datos personales y data corporativa como calendarios y correos electrónicos, acceso a plataformas y suscripciones, notas y documentos, rutinas basadas en la ubicación y preferencias de la persona, historial de navegación y rastreo, biometría de voz para autenticación de accesos, datos transaccionales, entre otros servicios. Toda esta data combina información personal tan diversa como preferencias de compras y pedidos, finanzas y pagos, temas de salud, entre otros”, explicó el Dr. Armando Reyna Ballesteros, Coordinador de la Licenciatura en Inteligencia de Negocios e Innovación en CETYS Universidad Campus Mexicali.
Además, señaló que lo preocupante es el contexto emocional, ya que las nuevas generaciones de IA pueden procesar el tono de voz y la elección de palabras para reconocer estados emocionales como la frustración y adaptar su respuesta en consecuencia. Las IAs recopilan todo, aprenden de todo y contextualizan todo; están diseñadas para brindar asistencia y siempre dar respuesta, han aprendido sobre técnicas de interacción y del comportamiento humano. “Es importante destacar que, debido a la sensibilidad de estos datos, diversas iniciativas reiteran la necesidad de establecer límites éticos y salvaguardias de privacidad para garantizar que el manejo de esta información sea transparente y seguro”.
Entonces, ¿cuánto nos conocen estos asistentes?, demasiado, todo dependerá de la cantidad de información y la periodicidad con que se les proporcione. También es importante no olvidar que las IAs tienen memoria, predicen y aprenden, entonces esta característica puede apreciarse desde dos perspectivas: En la positiva, beneficiándose de la anticipación proactiva de necesidades, el soporte con inteligencia emocional porque se conoce al usuario, la altísima personalización de servicios, la automatización de rutinas complejas y la eficiencia y ahorro de tiempo significativo.
Por otra parte, en la parte negativa, las consecuencias podrían enfocarse en la vulneración de la privacidad al exponer aspectos sensibles, el riesgo de manipulación al aceptar mucha influencia de asistentes digitales, las alucinaciones y errores lógicos que confunden al usuario y por supuesto los diversos sesgos derivados del entrenamiento.
Finalmente, el Dr. Armando Reyna Ballesteros, mencionó algunas recomendaciones para los usuarios: la primera y más importante es fomentar un modelo de colaboración, no de sustitución; es decir adoptar la IA como un compañero de equipo y no como un confidente en temas sensibles. La segunda establecer límites éticos y críticos, esto significa que la persona debe ser consciente de que la IA es una arquitectura diseñada para ser honesta y evitar daños, y no necesariamente un compañero emocional. Se deben establecer límites claros para proteger los valores personales y evitar la manipulación. Por último priorizar la seguridad y el control de la privacidad estableciendo restricciones de acceso, desactivando las funciones de escucha continua y estableciendo un control activo sobre los datos que los asistentes recopilan.
