Es el futuro y negarlo es algo que raya en lo necio. También es cierto que es un horizonte prometedor para cada uno de los campos donde puede ser aplicada. Pero como todo, la inteligencia artificial generativa trae sus desafíos.
Y es que en el auge de la inteligencia artificial se creó una nueva categoría llamada generativa, que tiene el potencial de reconstruir o reproducir contenido proveniente de algún texto, imagen, video, audio o código fuente, tan verosímil como el usuario lo permita.
Los modelos generativos pueden producir nuevos datos (artificiales) usando datos reales (alimentados por el usuario) y crear información nueva.
Pero como la IA Generativa reside en el ciberespacio, existen riesgos asociados que pueden afectar tanto a personas como empresas o gobiernos. Hoy, con la ayuda de la compañía de ciberseguridad ESET, identificamos los cinco más evidentes.
Desinformación
Aprovechando este tipo de IA, la viralización de contenidos engañosos generados llega a perjudicar la imagen de alguna persona, comunidad, país, empresa y hasta gobierno.
- Le puede interesar: Desterrar el dolor es sano para el alma
“Estos riesgos incluyen desde la moderación del contenido que suben los usuarios, hasta aquel engañoso, sesgado o perjudicial”, menciona David González, Investigador de Seguridad Informática de ESET Latinoamérica.
Hasta delitos
Algunos usuarios se aprovechan de la escasa o nula legislación en los países sobre IA para fines nada éticos como la suplantación de identidad (voz, imagen o video) para crear perfiles falsos que usan para cometer fraude/extorsión a través de alguna plataforma, o también lanzar campañas de phishing sofisticadas o estafas del tipo.
¿Y la privacidad?
Para funcionar, los modelos de IA Generativa necesitan de grandes volúmenes de datos, pero ¿qué sucede cuando los datos se obtienen de fuentes como videos, audios, imágenes o textos sin consentimiento? Las plataformas, aplicaciones y redes sociales debieran apegarse al marco normativo sobre la privacidad de datos de cada país o apoyarse en leyes ya existentes en regiones como Europa.
Ojo al contenido
Algunas redes, sitios web o aplicaciones no son legalmente responsables, o son muy ambiguos en lo que se refiere a los contenidos subidos por sus usuarios, ni el contenido generado por IA. Según ESET, hay una especie de vacío legal que sirve de blindaje para los proveedores ante una violación de derechos de autor.
Derechos de autor
El año pasado en Estados Unidos una Huelga del Sindicato de Guionistas comenzó una serie de conflictos, al que se le unió el Sindicato de Actores. Uno de los motivos fue el abuso de la IA Generativa para producir contenido sin consentimiento del actor o actriz de usar su rostro y voz para fines comerciales.
La originalidad de algún contenido, independientemente de la fuente, con la llegada de la IA Generativa cada vez parece ser más difusa y como consecuencia de esto Estados Unidos optó por implementar recursos legales que protegieran a ambas partes.
¿Qué hacer?
- Filtrado y moderación.
- Evaluación continua de la ética y la calidad.
- Transparencia en la regulación del contenido.
- Educación y conciencia pública.
Son algunas de las recomendaciones que hace ESET ante el avance de esta Inteligencia Artificial.
Elija a Q’HUBO Bogotá como su fuente de información preferida en Google Noticias aquí
