Lo que comenzó como entusiasmo por las capacidades de la IA generativa se convirtió rápidamente en preocupación.
Inteligencia Articial en el campo de la Ciberseguridad
Las herramientas de IA generativa como ChatGPT, Google Bard, Dall-E, etc. continúan en los titulares debido a problemas de seguridad y privacidad; incluso llevan a cuestionar qué es real y qué no.
El campo de batalla
La IA generativa puede generar contenido altamente plausible y por lo tanto, convincente. Tanto es así, que al final de un segmento reciente de 60 Minutos hablando sobre IA, el presentador Scott Pelley dejó a los espectadores con esta declaración:
“Terminaremos con una nota que nunca apareció en estos 60 Minutes: El anterior contenido, fue creada completamente por humanos”.
La guerra cibernética de IA generativa comienza con este contenido convincente y de la vida real y el campo de batalla es donde los piratas informáticos aprovechan la IA generativa, utilizando herramientas como ChatGPT, etc en su beneficio.
Gracias a la IA es extremadamente fácil para los ciberdelincuentes, especialmente aquellos con recursos limitados y cero conocimiento técnico, el poder llevar a cabo sus delitos mediante ataques de ingeniería social, phishing o suplantación de identidad.
La amenaza
La IA generativa tiene el poder de impulsar ciberataques cada vez más sofisticados.
Debido a que la tecnología puede producir contenido tan convincente y similar al humano con facilidad, las nuevas estafas cibernéticas que aprovechan la IA son más difíciles de detectar para los equipos de seguridad.
Las estafas generadas por IA pueden presentarse en forma de ataques de ingeniería social, como ataques de phishing multicanal realizados a través de aplicaciones de mensajería y correo electrónico.
Un ejemplo del mundo real, puede ser un correo electrónico o un mensaje que contenga un documento que se envíe a un ejecutivo corporativo desde un proveedor externo a través de Outlook (correo electrónico) o Slack (aplicación de mensajería).
El correo electrónico o mensaje indica que hagan clic en él para ver una factura. Con la IA generativa, puede ser casi imposible distinguir entre un correo electrónico o mensaje falso y real. Por eso, puede llegar a ser realmente tan peligroso.
Sin embargo, uno de los ejemplos más alarmantes es que con la IA generativa, los ciberdelincuentes pueden producir ataques en varios idiomas, independientemente de si el hacker realmente habla ese idioma o no.
La creación de redes de bots en multi-idiomas se volverá más sencilla que nunca y los ciberdelincuentes, pasaran a no discriminar a las víctimas en función de su idioma.
Por tanto, gracias al avance de la IA generativa mal aplicada, la escala y eficiencia de estos ataques seguirán creciendo sin stop.
La defensa
La ciberdefensa para la IA generativa se ha convertido en la pieza que falta dentro del rompecabezas.
Hasta el momento, al usar el combate máquina a máquina o unir la IA contra la IA, podemos defendernos contra esta nueva y creciente amenaza. Pero, ¿Cómo debe definirse esta estrategia?
En primer lugar, la industria debe actuar para vincular computadora contra computadora en lugar de ser el humano contra la computadora. Para continuar con ese esfuerzo, se debe considerar las plataformas de detección avanzadas que pueden detectar amenazas generadas por IA, reducir el tiempo que lleva marcarlas como amenazas y el tiempo que lleva resolver un ataque de ingeniería social originado a partir de IA generativa: Algo imposible para un humano.
Caso real de un mal uso de la IA
Recientemente, un importante equipo de ciberseguridad se dispuso a realizar una importante prueba.
Hicieron que ChatGPT preparase un correo electrónico de phishing, creado en varios idioma diferentes para ver si una plataforma de comprensión del lenguaje natural o una plataforma de detección avanzada podía detectarlo.
Mediante el prompt de: “escribe un correo electrónico urgente instando a alguien a llamar sobre un aviso final de un acuerdo de licencia de software”.
Esos correos generados mediante ChatGPT fueron analizados por una plataforma de detección avanzada, que si fue capaz de marcarlos inmediatamente como correos electrónicos bajo sospecha de un ataque realizado mediante ingeniería social
Pero los controles de correos electrónicos nativos, como la plataforma de detección de phishing de Outlook, no fueron capaces de identificar el correo como spam.
Incluso antes del lanzamiento de ChatGPT, la ingeniería social realizada a través de ataques conversacionales basados en el idioma, siempre resultó exitosa. Puesto que se podía esquivar los controles tradicionales y aterrizar en las bandejas de entrada sin un enlace o carga útil.
Entonces, parece quedar claro que se necesita implementar un combate máquina contra máquina para poder llegar a defenderse, pero también va a existir la necesidad de implementar nuevas plataformas de detección avanzada.
Cualquiera que tenga estas herramientas a su disposición, tendrá una gran ventaja en la lucha contra la IA generativa mal aplicada.
Cuando se trata de la escala y la plausibilidad de los ataques de ingeniería social que ofrece ChatGPT y otras formas de IA generativa, la defensa de máquina a máquina también se puede refinar. Por ejemplo, la defensa también se puede implementar en varios idiomas.
Además, no solo tiene que limitarse a la seguridad del correo electrónico, sino que puede usarse para otros muchos canales de comunicación; como las aplicaciones de Slack, WhatsApp, Teams, etc.
No bajar la guardia
Al desplazarte por LinkedIn, también puedes encontrarte con intentos de ingeniería social de IA generativa.
Cada vez más, se puede encontrar anuncios de descarga de “documentos técnicos” generados por un patrón revelador y que incluyen imágenes producidas por sistemas como Dall-E, el modelo de IA que genera imágenes a partir de indicaciones basadas en texto.
Esto demuestra, que en este momento en el que la IA generativa se encuentra en un auge más elevado que nunca, el ser humano debe estar más alerta y mantenerse más desconfiado que nunca antes.
La era en la que la IA generativa se utiliza para el ciberdelito está aquí, y debes permanecer atento y preparado para contraatacar con todas las herramientas que encuentres a tu alcance.
Relacionado
Como una de las estructuras de control básicas en la programación, los bucles son casi una adición diaria al código que escribimos. El bucle forEach clásico es uno de los primeros fragmentos de código que aprendemos a escribir como programadores. Si fueras un desarrollador de Javascript, sabrías que Javascript no es ajeno a la iteración a través de los elementos de una matriz o un mapa ¡SEGUIR LEYENDO!
Como sabemos, Sci-hub es un sitio web increíble con millones de artículos de investigación para todos los estudiantes universitarios y académicos. El sitio web de Sci-Hub se encarga de obtener los artículos de investigación y artículos de pago utilizando las credenciales que se filtran. La fuente de credenciales utilizada por este sitio web no está clara. Sin embargo, se supone que muchas de ellas son donadas, ¡SEGUIR LEYENDO!
Aunque haya sido usuario de Windows durante décadas, el sistema operativo es tan amplio y complejo que siempre existen características útiles, pero menos conocidas, que podrían sorprenderte. En este sentido, he identificado diez funciones poco conocidas de Windows que pueden potenciar su eficiencia, comodidad e incluso su experiencia de uso lúdico en su PC.
- Procesador Dual-Core Intel Pentium Gold 4425Y (2...
- Memoria RAM de 8 GB LPDDR3
- Disco SSD de 128 GB
El rumor en torno a las criptomonedas no se desvanece por mucho que existan grandes pesimistas alrededor de los malos rumores. Entonces, si consideras invertir en el mundo de las criptomonedas, deberías estar atento a las criptomonedas que se espera que tengan un buen desempeño para el resto de 2021. En los últimos tiempos, los tokens DeFi están recibiendo toda la atención y es más que ¡SEGUIR LEYENDO!
Los cambios de paradigma revolucionarios debido a los desarrollos de la robótica en todo el mundo están generando nuevos puntos de vista en muchos sectores, entre ellos en los de la industria y la tecnología. Con la ayuda de la Inteligencia Artificial, la tecnología produce resultados innovadores cada segundo y el campo de la robótica define y reconfigura su uso a cada instante. Cada día que ¡SEGUIR LEYENDO!
Bienvenidos desarrolladores web y de software, estamos en los inicios de 2023 y es posible que muchos se esten planteado sus objetivos para lo largo del año. Con anterioridad ya he compartidos las rutas de aprendizaje para un desarrollador front-end, un desarrollador full-stack o un desarrollador back-end entre otros muchos contenidos más. En este artículo, me gustaría compartir algunos de los mejores frameworks y bibliotecas para ¡SEGUIR LEYENDO!
GitHub es el lugar que debes buscar cuando intentas mejorar como desarrollador, toda la información que necesitas está disponible en algún repositorio que alguien ya se ha molestado en indexar. Sin embargo, la parte complicado es encontrar el repositorio más adecuado. Es fácil sentirse perdido en todos los repositorios disponibles dentro de GitHub. Para ayudarte, he elaborado una lista de 10 repositorios de GitHub que pueden ¡SEGUIR LEYENDO!