Logo Revista Mercado
[stock_market_widget type="ticker-quotes" template="background" color="blue" assets="AAPL,GOOG,FB,TSLA,PYPL,MSFT,AMZN,INTC,CMCSA" speed="50" direction="left" pause="true" api="yf" style="background: #000100;font-size:13px;padding-bottom: 0;"]
  • Rankings
  • Mercado Women
  • Economía
  • Salud
  • Tecnología
  • Mercado Interview
  • Suscríbete
No Result
View All Result
  • Rankings
  • Mercado Women
  • Economía
  • Salud
  • Tecnología
  • Mercado Interview
  • Suscríbete
Revista Mercado
No Result
View All Result
Home Tecnología

El lado B de los chats que utilizan Inteligencia Artificial

Los chats con Inteligencia Artificial cuentan con bondades y ventajas que, en las manos incorrectas, puede ser peligroso

by Gabriel Rico
24 febrero, 2023
in Tecnología
0
24 febrero 2023
chats inteligencia artificial

El mundo mira y explora son asombro las capacidades de los chats que emplean Inteligencia Artificial y sus múltiples aplicaciones.

Sin embargo, esta tecnología trae consigo una serie de riesgos para la ciberseguridad, si se emplean para la creación de estafas o la construcción de programas malignos para ciberataques.

Por ahora, los dos chats más populares que usan Inteligencia Artificial son ChatGPT, de OpenAI; la misma tecnología es la que emplea Microsoft a través de su buscador, Bing y la competencia, Google Bard.

Recomendamos: Las 7 empresas con más patentes de inteligencia artificial

Los alcances negativos de los chats con IA

Satnam Narang, ingeniero senior de investigación en la firma de ciberseguridad Tenable, cuenta a la agencia de noticias EFE que los estafadores pueden ser unos de los grandes beneficiados por este tipo de tecnología.

Los chatbots permiten crear textos en cualquier idioma en cuestión de segundos y con una gramática perfecta.

chats inteligencia artificial 1
Foto: EFE/Sascha Steinbach

Según Narang, una de las maneras de identificar a estos estafadores es a través de las faltas gramaticales que cometen en los mensajes que envían a sus víctimas y que, si usan IA, podrán pasar más desapercibidos.

«ChatGPT puede ayudar (a los estafadores) a crear plantillas muy bien diseñadas para correos electrónicos o crear perfiles de citas cuando intentan estafar a los usuarios en aplicaciones de citas. Y cuando tengan una conversación (con la víctima) en tiempo real, los estafadores pueden pedirle a ChatGPT que les ayude a generar la respuesta que daría la persona por la que se intentan hacer pasar», anota Narang.

El experto señala que existen otros tipos de herramientas de inteligencia artificial como DALL·E 2 -también de OpenAI- en la que los estafadores pueden crear fotografías de personas que no existen.

Creación de ‘malware’

La agencia de noticias EFE señala que, otra de las cualidades de ChatGPT es que puede ayudar a piratas informáticos a crear programas malignos (o ‘malware’).

«Este malware no va a ser el más sofisticado ni el mejor diseñado, pero les da una comprensión básica de cómo pueden escribir software maliciosos basados en lenguajes específicos. Así que les da una ventaja en su proceso, ya que hasta ahora quien quisiera desarrollar software maliciosos tenía que aprender a programar, pero ahora el ChatGPT puede ayudarlos a acortar ese tiempo», detalla Narang.

Recomendamos: Las ciberamenazas contra los Ecosistemas OT están incrementando. ¿Estás realmente preparado?

chatsinteligencia artificial 2
Fuente: EFE/Jeroen Jumlet

DAN, una versión modificada de ChatGPT

Los chatbots ChatGPT y Bard están diseñados cuidadosamente para evitar pronunciarse sobre una amplia gama de temas delicados, como racismo o seguridad y respuestas ofensivas.

No obstante, Narang explica que ya existe una versión ‘jailbreak‘ (liberada o modificada) de ChatGPT que se llama DAN, siglas de “Do Anything Now” («Haz cualquier cosa ahora») en la que no existen este tipo de barreras.

«Esto es más preocupante, porque ahora (un usuario) podría pedirle al ChatGPT (sin límites) que lo ayude a escribir ransomware (programa que toma el control del sistema o dispositivo que infecta y pide un rescate para devolver el control a su dueño). Aunque aún no se sabe lo eficaz que podría llegar a ser ese ransomware«, explica Narang.

El experto ve difícil que se puedan implantar reglas a nivel nacional o institucional para poner límites a estas nuevas tecnologías o hacer que la gente no las use.

«Una vez que abres la caja de Pandora, no puedes volver a meter nada dentro. ChatGPT ya está aquí, y no va a desaparecer. Porque fuera de este uso malicioso hay muchos casos de usos genuinos que son valiosos para empresas, organizaciones e individuos», concluye Narang.

Gabriel Rico Albarrán

Recomendamos: Ranking internacional de ciberseguridad: RD, a la cabeza de América Latina

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.


Related Posts

Bill Gates Inteligencia Artificial
Tecnología

La era de la Inteligencia Artificial. Esto opina Bill Gates

22 marzo, 2023
amazon y starlink competiran por el negocio del internet satelital
Tecnología

Bezos vs Musk, duelo en el espacio exterior

15 marzo, 2023
ChatGPT4
Tecnología

GPT-4. Estas son las novedades de la actualización del chat de Inteligencia Artificial

15 marzo, 2023
los usuarios de apple music podran disfrutrar desde el 28 de marzo de la nueva aplicacion de musica clasica
Tecnología

El mayor catálogo de música clásica, en sonido de alta calidad; lo nuevo de Apple

9 marzo, 2023
estas son las tendencias tecnologicas que se extraen del tech trends 2023 de deloitte
Tecnología

«Tech Trends»: Las 6 tendencias tecnológicas para 2023 de Deloitte

7 marzo, 2023
el informe sobre investigacion en tecnologia del futuro refleja el dominio de china sobre estaods unidos en la materia
Tecnología

China vs EE.UU: ¿quién lidera la investigación en tecnología del futuro?

3 marzo, 2023
Load More
Next Post
thierry koskas sera ceo de citoren desde el 1 de marzo

Citroën mueve ficha en el negocio eléctrico: Thierry Koskas, nuevo CEO

guerra en Ucrania

Guerra en Ucrania. El gasto militar a un año del conflicto

este es el camino de grandes compañias hasta los mil millones de usuarios

La senda hacia el 'one billion users'

Contacto

Newsletters

Suscripciones

Eventos

Portada Marzo revista Mercado 2023
MARKET BRIEF MARZO 2023-1_page-0001
Portada TECHNOLOGY JULIO-AGOSTO 2020-1-min

Copyright 2021 - MERCADO MEDIA NETWORK SRL - Todos los derechos reservados.

No Result
View All Result
  • Rankings
  • Mercado Women
  • Suscríbete
  • Economía
  • Perfiles
  • Tecnología
  • Mercado Events
  • Newsletters
  • Podcast
  • Videos

© 2020 Revista Mercado.

Ver carrito Finalizar compra Seguir comprando