5 desafíos para la Inteligencia Artificial generativa
Si bien la GenIA aumentará su impacto y optimizará diversas industrias, todavía quedan algunos obstáculos por superar.
En los últimos años, las empresas han invertido fuertemente en la Inteligencia Artificial generativa con el objetivo de impulsar sus negocios y alcanzara una mayor cantidad de objetivos. Por ello, el futuro de la industria resulta prometedor.
En la actualidad, la GenIA es capaz de (re)construir o (re)producir diferentes contenidos basándose en texto, imágenes, video, audio o código fuente. Al procesar la información original, el software puede crear nueva data, superando límites que hasta hace poco sólo existían en la imaginación.
A pesar de lo maravilloso que esto suene, también es necesario tomar en cuenta algunos riesgos por superar, los cuales afectarían tanto a personas, como a corporaciones y gobiernos, según información de compañía líder en detección proactiva de amenazas. Sigue leyendo para saber más. Pero antes, dale un vistazo a nuestras promos en telecomunicaciones del mes:
5 desafíos que implica la IA Generativa
Moderación de contenidos
Imagen vía Freepik
Tristemente, no todos los sitios web o redes sociales son responsables de las cosas que en ellas se sube o se producen mediante IA: ideas, imágenes, textos o videos no son moderados y son potencialmente ofensivos para la comunidad.
Aunque bien existen términos de uso, normas de comunidad y políticas de privacidad cuyo objetivo es respaldar los derechos de autor, es posible que existan vacíos legales que vulneren la autoría de ciertos contenidos.
Por ende, resulta vital revisar aquellas herramientas de Inteligencia Artificial Generativa con lineamientos ambiguos e incluso contradictorios.
Infracción de los derechos de autor e imagen
Seguramente recuerdas la huelga de guionistas y actores de Hollywood sucedida en 2023. Además del reparto proporcional de las ganancias debido al aumento en la demanda de series y películas, también se hizo eco del abuso de la IA Generativa para realizar producciones con la imagen y voz de las estrellas sin su autorización.
Y es que, tras la llegada de la GenIA, la originalidad de un contenido sin importar su fuente parece ser cada vez más difusa. Como consecuencia de las demandas generadas, Estados Unidos optó por implementar recursos legales que tomaran cartas en el asunto.
Privacidad
Imagen vía Freepik
Todos los modelos deben ser entrenados con grandes volúmenes de data para su correcto funcionamiento. Sin embargo, esto puede convertirse en un problema cuando dicha información se obtiene sin el consentimiento del autor.
A fin de evitar lo antes mencionado, ESET recomiendo a las plataformas y aplicaciones apegarse al marco normativo sobre la privacidad de datos de cada país en caso de que exista.
Cuestiones éticas
No en todas las naciones está regulado el uso de la Inteligencia Artificial Generativa. De este modo, surgen situaciones desagradables que implican la suplantación de identidad de algunas personas, la creación de perfiles falsos con fines de extorsión, campañas de psihing e inclusive la producción de imágenes NSFW que comprometen la integridad de las personas.
Desinformación
Imagen vía Freepik
Noticias falsas, presuntos presentadores de cadenas importantes divulgando información errónea y más cuestiones de este tipo están cada vez más presentes en la red. Esto perjudica la imagen de la persona suplantada, a la comunidad, al país, al gobierno o a la empresa implicada.
“La IA Generativa presenta riesgos particulares que deben abordarse de manera cuidadosa para garantizar su uso ético y seguro. Estos riesgos incluyen desde la moderación del contenido que suben los usuarios, hasta aquel engañoso, sesgado o perjudicial para evitar la manipulación de información”, menciona David González Cuautle, Investigador de Seguridad Informática de ESET Latinoamérica.
Estrategias preventivas para el correcto empleo de la IA Generativa
Imagen vía Freepik
Una vez considerados los riesgos arriba repasados, ESET señala que es de suma importancia implementar medidas correctivas entre las que destacan:
- Filtrado y moderación efectiva: permitirá identificar y eliminar contenido inapropiado, engañoso o sesgado. Así, se ofrecerá únicamente información fidedigna y se evitarán repercusiones negativas.
- Entrenamiento con datos éticos y diversificados: la diversificación de la data ayuda a reducir sesgos y a mejorar la capacidad del modelo para producir resultados más equitativos y precisos. Igualmente, dichos datos deben ser imparciales y representativos.
- Transparencia en la regulación del contenido: este punto le posibilitará al usuario entender cómo se genera el contenido, el tratamiento que recibe la data y las sanciones que puede recibir en caso de no cumplir con las normas establecidas.
- Evaluación continua de la ética y la calidad: a través de mecanismos que realicen inspecciones regulares, pruebas de robustez y colaboración con la comunidad para identificar y abordar posibles problemas éticos.
- Educación y conciencia pública: es necesario difundir cómo funcionan los modelos de IA y puntualizar los riesgos implicados en su mala utilización.
