Amazon y la transparencia en la Inteligencia Artificial
Amazon está analizando detenidamente el índice de transparencia en la Inteligencia Artificial (IA), según ha afirmado Nathan Strauss, portavoz de la compañía. No obstante, Strauss sostiene que es demasiado pronto para evaluar la transparencia de un modelo que aún se encuentra en desarrollo. Por su parte, Meta, la empresa matriz de Facebook, ha optado por no hacer comentarios sobre el reciente informe de Stanford y OpenAI no ha respondido a las solicitudes de declaraciones.
El secretismo en la IA: un obstáculo para el avance científico
La IA está adquiriendo un carácter cada vez más opaco a medida que su influencia crece. Rishi Bommasani, estudiante de doctorado en Stanford, destaca que la transparencia en la investigación fue un factor determinante para los progresos en el reconocimiento de voz e imagen. Bommasani contrasta este hecho con la tendencia actual hacia el secretismo en el campo de la IA.
El informe de Stanford plantea que los modelos no necesitan ser tan secretos por razones competitivas. Kevin Klyman, investigador de políticas en Stanford, sostiene que todos los modelos podrían ser más abiertos sin perder competitividad frente a sus rivales.
OLMo: un modelo de IA transparente
Algunos expertos temen que este secretismo convierta a la IA más en una disciplina impulsada por el beneficio que por la ciencia. Jesse Dodge, científico investigador del Allen Institute for AI (AI2), critica la falta de transparencia en los sistemas generativos actuales de IA.
AI2 está trabajando en un modelo de lenguaje AI más transparente llamado OLMo. Este modelo se entrena con datos provenientes de la web, publicaciones académicas, código, libros y enciclopedias. El conjunto de datos Dolma ha sido liberado bajo la licencia ImpACT de AI2. Cuando OLMo esté listo, AI2 tiene previsto liberar el sistema de IA y el código que lo sustenta.
Dodge subraya la importancia del acceso a los datos que alimentan los modelos de IA. Sin un acceso directo, es prácticamente imposible entender por qué o cómo un modelo puede realizar determinadas acciones. Dodge sostiene que la ciencia requiere reproducibilidad y critica la situación actual de secretismo.
Con la amplia implementación de los modelos de IA, un poco más de apertura podría ser muy beneficiosa. La transparencia en la IA no solo permitiría una mayor comprensión y confianza en estos sistemas, sino que también podría impulsar la innovación y el desarrollo en este campo tan crucial.
Sandra es especialista en marketing digital y experta en redes sociales. Ha completado un posgrado en Comunicación y RRPP de marcas de moda en Idep Barcelona, así como otro en Marketing y reputación online: comunidades virtuales. Sandra está al tanto de las últimas tendencias y mejores prácticas en redes sociales, y eso se refleja en su trabajo diario generando un impacto positivo en el mundo digital.
