Lunes, 15 Abril 2024

Lo que debe saber de la Inteligencia Artificial Generativa
Fuente: Freepik
0
(0)

Es el futuro y negarlo es algo que raya en lo necio. También es cierto que es un horizonte prometedor para cada uno de los campos donde puede ser aplicada. Pero como todo, la inteligencia artificial generativa trae sus desafíos.


Y es que en el auge de la inteligencia artificial se creó una nueva categoría llamada generativa, que tiene el potencial de reconstruir o reproducir contenido proveniente de algún texto, imagen, video, audio o código fuente, tan verosímil como el usuario lo permita.


Los modelos generativos pueden producir nuevos datos (artificiales) usando datos reales (alimentados por el usuario) y crear información nueva.


Pero como la IA Generativa reside en el ciberespacio, existen riesgos asociados que pueden afectar tanto a personas como empresas o gobiernos. Hoy, con la ayuda de la compañía de ciberseguridad ESET, identificamos los cinco más evidentes.

Desinformación

Aprovechando este tipo de IA, la viralización de contenidos engañosos generados llega a perjudicar la imagen de alguna persona, comunidad, país, empresa y hasta gobierno.


“Estos riesgos incluyen desde la moderación del contenido que suben los usuarios, hasta aquel engañoso, sesgado o perjudicial”, menciona David González, Investigador de Seguridad Informática de ESET Latinoamérica.

Hasta delitos

Algunos usuarios se aprovechan de la escasa o nula legislación en los países sobre IA para fines nada éticos como la suplantación de identidad (voz, imagen o video) para crear perfiles falsos que usan para cometer fraude/extorsión a través de alguna plataforma, o también lanzar campañas de phishing sofisticadas o estafas del tipo.

¿Y la privacidad?

Para funcionar, los modelos de IA Generativa necesitan de grandes volúmenes de datos, pero ¿qué sucede cuando los datos se obtienen de fuentes como videos, audios, imágenes o textos sin consentimiento? Las plataformas, aplicaciones y redes sociales debieran apegarse al marco normativo sobre la privacidad de datos de cada país o apoyarse en leyes ya existentes en regiones como Europa.

Ojo al contenido

Algunas redes, sitios web o aplicaciones no son legalmente responsables, o son muy ambiguos en lo que se refiere a los contenidos subidos por sus usuarios, ni el contenido generado por IA. Según ESET, hay una especie de vacío legal que sirve de blindaje para los proveedores ante una violación de derechos de autor.

Derechos de autor

El año pasado en Estados Unidos una Huelga del Sindicato de Guionistas comenzó una serie de conflictos, al que se le unió el Sindicato de Actores. Uno de los motivos fue el abuso de la IA Generativa para producir contenido sin consentimiento del actor o actriz de usar su rostro y voz para fines comerciales.

La originalidad de algún contenido, independientemente de la fuente, con la llegada de la IA Generativa cada vez parece ser más difusa y como consecuencia de esto Estados Unidos optó por implementar recursos legales que protegieran a ambas partes.

Lo que debe saber de la Inteligencia Artificial Generativa Es el futuro y negarlo es algo que raya en lo necio. También es cierto que es un horizonte prometedor para cada uno de los campos donde puede ser aplicada. Pero como todo, la inteligencia artificial generativa trae sus desafíos.
Foto: Freepik

¿Qué hacer?

  • Filtrado y moderación.
  • Evaluación continua de la ética y la calidad.
  • Transparencia en la regulación del contenido.
  • Educación y conciencia pública.
    Son algunas de las recomendaciones que hace ESET ante el avance de esta Inteligencia Artificial.

Elija a Q’HUBO Bogotá como su fuente de información preferida en Google Noticias aquí

¿Qué tal le pareció este contenido?

¡Haga clic en una estrella para puntuar!

Promedio de puntuación 0 / 5. Recuento de votos: 0

Hasta ahora, ¡no hay votos!. Sea el primero en puntuar este contenido.

Temas relacionados

RECIENTES
WEB STORIES

Acceder

Registro

Restablecer la contraseña

Por favor, introduce tu nombre de usuario o dirección de correo electrónico y recibirás por correo electrónico un enlace para crear una nueva contraseña.

Abrir chat
Q'hubo veci
Q'hubo veci
El Bogotazo 10 camisetas de Colombia que marcaron su historia. #ZonaRosa Los amantes de la serie animada #DragonBallZ están de luto, tras conocerse la muerte de su creador, Akira Toriyama. Le contamos algunos datos curiosos de su carrera y del programa de ánime que alegró la infancia de varias generaciones. LA LUCHA DE LAS MUJERES Datos curiosos de Gabriel García Márquez Los criollos también jugamos rugby 20 DE FEBRERO DÍA DEL GATO Miércoles de ceniza Murieron de hambre para ‘conocer a Jesús’ DÍA DEL PERIODISTA EN COLOMBIA