Los chatbots de inteligencia artificial (IA) han conquistado el mundo, y 2023 se perfila como el año con más enfoque en esta tecnología. El lanzamiento de ChatGPT de OpenAI en el último trimestre de 2022 impulsó a muchas empresas, organizaciones e individuos a ingresar a la arena. También un técnico Elon Musk Uniéndose al debate sobre los chatbots de IA, destacando los posibles beneficios y riesgos de esta tecnología, Google ha anunciado su propio chatbot de IA, Bart.
Los chatbots de IA como ChatGPT están siendo aclamados por su capacidad para revolucionar el acceso a la información en la web. Sin embargo, existe una creciente preocupación por su posible uso en ciberataques. Los investigadores han demostrado que los chatbots de IA pueden ser explotados códigoanote programa malicioso, Y crea un phishing convincente Fascinante. Aunque ChatGPT tiene medidas de seguridad para evitar la creación de herramientas de ciberataque, puede crear contenido que puede actuar como un señuelo para los phishers. Esto es especialmente preocupante ya que más del 80 % de las infracciones de ciberseguridad del año pasado involucraron Ingeniería social.
A pesar de las limitaciones de los chatbots de IA como ChatGPT para proporcionar información precisa y el potencial de generar alucinaciones (datos falsos basados en patrones), los atacantes pueden abusar de ellos. Esto es especialmente cierto para aquellos con menos conocimientos técnicos que utilizan esta y otras herramientas similares para realizar un reconocimiento rápido y obtener los elementos y técnicas básicos necesarios para sus ataques. Por supuesto, los piratas informáticos deben tomar medidas adicionales para llevar a cabo sus actividades planificadas, como la compra de infraestructura, el envío de señuelos y la gestión de ventas ilegales.
Chatbots y dominios homográficos
Otra preocupación es que las empresas utilizan cada vez más chatbots de IA como ChatGPT para ayudar a los usuarios a encontrar nombres de dominio adecuados. Esto ha generado preocupaciones acerca de los ciberdelincuentes que usan herramientas y servicios similares para obtener listas de dominios atractivas para generar tráfico, lo que lleva a resultados dañinos como señuelos de phishing exitosos y más usuarios infectados. Además, los atacantes pueden usar ChatGPT para generar dinámicamente nombres de dominio que pueden registrar fácilmente para controlar las máquinas infectadas. Aunque actualmente existen límites a lo que las empresas pueden hacer para evitar esta actividad, algunos registros de dominio, como Identity Digital, cuentan con medidas de seguridad para evitar el registro de «dominios homográficos», que suelen ser dominios que parecen muy auténticos..
A medida que los chatbots de IA como ChatGPT continúan integrándose en aplicaciones como motores de búsqueda, aumenta el conjunto de datos potenciales para que los atacantes exploten. Por ejemplo, pueden recibir plantillas de contacto basadas en información pública. Sin embargo, existe la esperanza de protegerse contra estos ataques. Espere un aumento en las herramientas, aplicaciones y servicios que detectan si ChatGPT o herramientas similares están generando contenido específico. Además, una de esas versiones de OpenAI instrumento, incluyendo otros gp cero, Surgió uno altamente reconocido.
Además, los chatbots de IA como ChatGPT y herramientas similares pueden fortalecer la seguridad empresarial al permitir que los equipos de seguridad rojos y azules desarrollen scripts para probar y abordar vulnerabilidades, incluso con miembros del equipo menos experimentados. Puede ayudar a las organizaciones a detectar y bloquear contenido malicioso generado por chatbots de IA y reducir sus riesgos de ciberseguridad.
Los chatbots de IA ofrecen muchos beneficios, pero también tienen riesgos inherentes. Las organizaciones y empresas deben estar atentas y proactivas para detectar y prevenir el contenido malicioso generado por los chatbots de IA. Al equilibrar las oportunidades y los riesgos asociados con los chatbots de IA y aprovecharlos para fortalecer sus defensas de ciberseguridad, las organizaciones pueden aprovechar todo el potencial de esta tecnología transformadora.
«Aficionado a la comida. Defensor del tocino. Emprendedor autónomo. Nerd zombi incondicional. Explorador. Aficionado a las redes sociales. Pensador amigable con los hipster».
