El uso de la inteligencia artificial sigue siendo un misterio, una incógnita que revela un estudio de  la Universidad de Standford. (Foto: pexels.com)
El uso de la inteligencia artificial sigue siendo un misterio, una incógnita que revela un estudio de la Universidad de Standford. (Foto: pexels.com)
Agencia AFP

Los modelos de , que se multiplican desde el lanzamiento de , carecen de transparencia en su diseño, planteando un riesgo para las aplicaciones que los utilizan como base técnica, según un estudio de la universidad de Stanford publicado el miércoles.

Según un nuevo índice diseñado y calculado por los investigadores de esta universidad californiana, el modelo más transparente entre los diez evaluados es Llama 2, sistema de inteligencia artificial lanzado por Meta en julio y reutilizable libremente.

LEE TAMBIÉN: Inteligencia artificial: advierten que puede llegar a consumir tanta electricidad como un país

Pero solo obtuvo una puntuación del 54%, aún muy insuficiente según los autores del estudio.

GPT-4, el modelo de lenguaje creado por Open AI -empresa financiada por Microsoft detrás del famoso robot ChatGPT-, solo obtuvo 48% de transparencia.

Los otros modelos de moda, como Palm-2 de Google o Claude 2 de la sociedad Anthropic (financiada por Amazon), aparecen aún más abajo en la clasificación.

Todos los modelos deben tratar de alcanzar entre 80% y 100% de transparencia, estima en un comunicado Rishi Bommasani, director de investigación en Stanford sobre los modelos llamados de “fundación”.

Cada vez hay más empresas que desarrollan la inteligencia artificial, aunque con poca confiabilidad. (Foto: AFP)
Cada vez hay más empresas que desarrollan la inteligencia artificial, aunque con poca confiabilidad. (Foto: AFP)
/ LIONEL BONAVENTURE

La falta de transparencia hace que sea más difícil para las empresas “saber si pueden crear aplicaciones seguras basadas en estos modelos empresariales”, y “para los académicos confiar en estos modelos para sus investigaciones”, explica el estudio.

Esto también complica la tarea de los consumidores que desean “comprender los límites de los modelos o reclamar reparación por los perjuicios sufridos”, detalla.

Concretamente, “la mayoría de las empresas no revelan el alcance de los contenidos protegidos por derechos de autor utilizados para entrenar su modelo. Tampoco divulgan el uso de trabajo humano para corregir los datos de entrenamiento, lo que puede ser muy problemático”, subraya.

“Ninguna empresa proporciona información sobre el número de usuarios que dependen de su modelo, ni brinda estadísticas sobre los países o mercados que lo utilizan”, resalta Bommasani.

Según los autores, este índice de transparencia podría ser utilizado en el futuro por los responsables políticos y los reguladores.

LEE TAMBIÉN: WhatsApp ahora permitirá que tengas dos cuentas iniciadas en el mismo dispositivo

La Unión Europea, Estados Unidos, China, Reino Unido y Canadá anunciaron su deseo de una IA más transparente.

“La inteligencia artificial es una gran promesa de oportunidades increíbles, pero también presenta riesgos para nuestra sociedad, nuestra economía y nuestra seguridad nacional”, destacó el presidente de Estados Unidos, Joe Biden, en julio, a los responsables de las empresas del sector.


El tema estuvo en primer plano durante el G7 en Japón en mayo, y Gran Bretaña se prepara para organizar una cumbre internacional sobre la IA en noviembre.

Contenido sugerido

Contenido GEC