Alguna vez considerados como programas de conversación automatizados, los chatbots de IA ahora pueden aprender y mantener conversaciones que son casi indistinguibles de las de los humanos.
Sin embargo, los peligros de los chatbots de IA son igualmente variados. Estos pueden variar desde las personas que los usan indebidamente, hasta los riesgos reales en el campo de la ciberseguridad.
Peligros de los chatbots
Dado que los humanos confían cada vez más en la tecnología de IA, es esencial conocer las repercusiones potenciales del uso de estos programas.
Pero, ¿Los bots son peligrosos?
1. Sesgo y discriminación
Uno de los mayores peligros de los chatbots de IA es su tendencia hacia sesgos dañinos.
Debido a que la IA establece conexiones entre los puntos de datos que los humanos a menudo pasan por alto, puede detectar sesgos sutiles e implícitos en sus datos de entrenamiento para aprender a ser discriminatorio.
Como resultado, los chatbots pueden aprender rápidamente a arrojar contenido racista, sexista o discriminatorio, incluso si no hay nada tan extremo en sus datos de entrenamiento.
Un buen ejemplo es el bot de contratación desechado de Amazon. En 2018, se supo que Amazon había abandonado un proyecto de inteligencia artificial destinado a evaluar previamente los currículos de los solicitantes porque penalizaba las solicitudes de mujeres.
Debido a que la mayoría de los currículums en los que se entrenó el bot eran de hombres, se dio cuenta de que los candidatos masculinos eran preferibles, incluso si los datos de entrenamiento no lo decían explícitamente.
Los chatbots que usan contenido de Internet para aprender a comunicarse de forma natural tienden a mostrar sesgos aún más extremos.
En 2016, Microsoft presentó un chatbot llamado Tay que aprendió a imitar las publicaciones en las redes sociales. En unas pocas horas, comenzó a twittear contenido altamente ofensivo, lo que llevó a Microsoft a suspender la cuenta en poco tiempo.
Si las empresas no tienen cuidado al construir e implementar estos bots, pueden conducir accidentalmente a situaciones similares.
Los chatbots podrían maltratar a los clientes o difundir contenido sesgado dañino que se supone que deben evitar.
2. Riesgos de ciberseguridad
Los peligros de la tecnología AI chatbot también pueden representar una amenaza de ciberseguridad más directa para las personas y las empresas. Una de las formas más prolíficas de ciberataques son las estafas de phishing y vishing.
Estos involucran a ciberatacantes que imitan a organizaciones de confianza como bancos u organismos gubernamentales.
Las estafas de phishing suelen operar a través de correos electrónicos y mensajes de texto: hacer clic en el enlace permite que el malware ingrese al sistema informático.
Una vez dentro, el virus puede hacer cualquier cosa, desde robar información personal hasta retener el sistema para pedir un rescate.
La tasa de ataques de phishing ha aumentado constantemente durante y después de la pandemia de COVID-19.
La Agencia de Seguridad de Infraestructura y Ciberseguridad encontró que el 84% de las personas respondieron a los mensajes de phishing con información confidencial o hicieron clic en el enlace.
Los phishers están utilizando la tecnología de chatbot de IA para automatizar la búsqueda de víctimas, convencerlas de que hagan clic en los enlaces y proporcionar información personal.
Muchas instituciones financieras, como los bancos, utilizan los chatbots para optimizar la experiencia de servicio al cliente.
Los phishers de chatbots pueden imitar las mismas indicaciones automáticas que usan los bancos para engañar a las víctimas. También pueden marcar automáticamente números de teléfono o contactar a las víctimas directamente en plataformas de chat interactivo.
3. Envenenamiento de datos
El envenenamiento de datos es un ciberataque de nueva concepción que se dirige directamente a la inteligencia artificial.
La tecnología de IA aprende de conjuntos de datos y usa esa información para completar tareas. Esto es cierto para todos los programas de IA, sin importar su propósito o funciones.
Para las IA de chatbot, esto significa aprender múltiples respuestas a las posibles preguntas que los usuarios pueden hacerles. Sin embargo, este es también uno de los peligros de la IA.
Estos conjuntos de datos suelen ser herramientas y recursos de código abierto disponibles para cualquier persona.
Aunque las empresas de inteligencia artificial suelen mantener un secreto muy bien guardado de sus fuentes de datos, los atacantes cibernéticos pueden determinar cuáles usan y manipular los datos.
Los atacantes cibernéticos pueden encontrar formas de alterar los conjuntos de datos utilizados para entrenar a las IA, lo que les permite manipular sus decisiones y respuestas.
La IA utilizará la información de los datos alterados y realizará los actos que los atacantes deseen.
Por ejemplo, una de las fuentes más utilizadas para conjuntos de datos son los recursos wiki como Wikipedia.
Aunque los datos no provienen del artículo de Wikipedia en vivo, provienen de instantáneas de datos tomadas en momentos específicos. Los piratas informáticos pueden encontrar una manera de editar los datos para beneficiarlos.
En el caso de las IA de chatbot, los piratas informáticos pueden corromper los conjuntos de datos utilizados para entrenar a los chatbots que funcionan para instituciones médicas o financieras.
Pueden manipular los programas de chatbot para brindar a los clientes información falsa que podría llevarlos a hacer clic en un enlace que contiene malware o un sitio web fraudulento.
Una vez que la IA comienza a extraer datos envenenados, es difícil de detectar y puede provocar una brecha significativa en la seguridad cibernética que pasa desapercibida durante mucho tiempo.
Cómo abordar los peligros de los chatbots de IA
Estos riesgos son preocupantes, pero no significan que los bots sean inherentemente peligrosos. Más bien, debe abordarlos con cautela y considerar estos peligros al crear y usar chatbots.
La clave para prevenir el sesgo de la IA es buscarlo durante el entrenamiento. Asegúrese de entrenarlo en diversos conjuntos de datos y programarlo específicamente para evitar factores como la raza, el género o la orientación sexual en su toma de decisiones.
También es mejor tener un equipo diverso de científicos de datos para revisar el funcionamiento interno de los chatbots y asegurarse de que no muestren sesgos, por sutiles que sean.
La mejor defensa contra el phishing es el entrenamiento. Capacite a todos los empleados para detectar signos comunes de intentos de phishing para que no caigan en estos ataques. Difundir la conciencia del consumidor sobre el tema también ayudará.
Puede evitar el envenenamiento de datos al restringir el acceso a los datos de entrenamiento de los chatbots.
Solo las personas que necesitan acceder a estos datos para hacer su trabajo correctamente deben tener autorización, un concepto llamado principio de privilegio mínimo.
Después de implementar esas restricciones, use medidas de verificación sólidas como autenticación multifactor o biometría para evitar los riesgos de que los ciberdelincuentes pirateen una cuenta autorizada.
Mantente alerta contra los peligros de la dependencia de la IA
La inteligencia artificial es una tecnología verdaderamente maravillosa con aplicaciones casi infinitas. Sin embargo, los peligros de la IA pueden llegar a ser más oscuros.
¿Son peligrosos los bots? No inherentemente, pero los ciberdelincuentes pueden usarlos de varias formas disruptivas.
Depende de los usuarios decidir cuáles son las aplicaciones de esta nueva tecnología.