El Instituto de Innovación Tecnológica de los Emiratos Árabes Unidos presenta el modelo de lenguaje de gran tamaño "Falcon 40B" con código abierto para aplicaciones en investigación y ámbitos comerciales

El Instituto de Innovación Tecnológica (Technology Innovation Institute, TII), un centro de investigación científica líder a nivel mundial y pilar de la investigación aplicada del Consejo de Investigación Tecnológica Avanzada (Advanced Technology Research Council, ATRC) de Abu Dhabi, consolidó hoy su influencia internacional creciente en el campo de la inteligencia artificial, con el anuncio de que "Falcon 40B", el primer modelo de IA a gran escala de los EAU, ahora pasa a ser de código abierto en aplicaciones de investigación y uso comercial. Este paso es un avance pionero y ratifica el compromiso de Abu Dhabi de promover la colaboración entre sectores e impulsar los avances en IA generativa.

Falcon, un modelo de lenguaje de gran tamaño (LLM) fundacional que tiene 40.000 millones de parámetros, entrenado con un billón de tokens, ofrece un acceso sin precedentes tanto a los investigadores como a los innovadores de las pequeñas y medianas empresas (PYME). El TII ofrecerá acceso a las ponderaciones del modelo como paquete de código abierto más completo, con el objetivo de facilitar el aprovechamiento de las capacidades de LLM más potentes, promover la transparencia y la responsabilidad y sustentar la innovación y la investigación de campo.

En el ecosistema actual de la IA, a los desarrolladores les parecen más atractivos los LLM que facilitan el acceso a las ponderaciones de los modelos debido a las mayores capacidades de sintonía fina que ofrecen, en comparación con los que no lo tienen. Si bien la mayoría de los LLM han concedido licencias exclusivas únicamente a usuarios no comerciales, TII ha dado un paso clave al ofrecerles el acceso al Falcon 40B LLM a los investigadores y usuarios comerciales.

En simultáneo con el lanzamiento del Falcon 40B como modelo de código abierto, TII ha lanzado una convocatoria de propuestas, en la cual invita a los científicos, investigadores y visionarios entusiastas a aprovechar el potencial del modelo fundacional. Se sugiere que aporten sus ideas innovadoras y aprovechen el modelo para concebir aplicaciones inspiradoras o explorar otras posibilidades de su aplicación que abarquen diversas áreas como la ingeniería, la sanidad, la sostenibilidad, la codificación y mucho más.

Como incentivo a las propuestas de investigación excepcionales, los proyectos seleccionados recibirán "potencia de cálculo de entrenamiento" en forma de inversión, gracias a la cual los innovadores podrán aprovechar una serie de recursos informáticos sólidos para agilizar el análisis de datos, la modelización compleja y los nuevos descubrimientos. Este apoyo sustentará y acelerará el desarrollo de ideas novedosas, al ofrecer los recursos necesarios para convertirlas en soluciones de IA que tengan amplia repercusión y viabilidad comercial, además de beneficios sociales.

VentureOne, la rama de comercialización de la ATRC, facilitará la potencia informática para producir las soluciones más innovadoras.

"Hacer que Falcon 40B sea de código abierto representa un hito fundamental en la trayectoria de nuestro compromiso con la innovación en la IA", declaró S.E. Faisal Al Bannai, Secretario General del Consejo de Investigación Tecnológica Avanzada (ATRC). "Estamos alterando el acceso a la IA y queremos que los investigadores y empresarios presenten las aplicaciones más innovadoras. Seguiremos apoyando estas propuestas con potencia informática en forma de financiación a través de VentureOne, contribuyendo así al avance y la prosperidad del ecosistema de investigación".

Falcon, presentado por primera vez en marzo de 2023, demostró un rendimiento excepcional y ratificó el compromiso de los EAU con el progreso tecnológico. Basándose en la herramienta de evaluación comparativa HELM LLM de la Universidad de Stanford, Falcon 40B superó a sus homólogos más reconocidos al utilizar una potencia de cálculo de entrenamiento sustancialmente menor. Con apenas el 75 por ciento del cálculo de entrenamiento del GPT-3 de OpenAI, el 40 por ciento de la IA Chinchilla de DeepMind y el 80 por ciento del cálculo de entrenamiento del PaLM-62B de Google, la herramienta corroboró el compromiso de TII con la promoción del progreso de la IA generativa.

Al respecto, el Dr. Ray O. Johnson, director general de TII, señaló: "La potencia de cálculo cumple una función fundamental a la hora de agilizar el entrenamiento de los sistemas de IA y agilizar la implementación de sus diversas aplicaciones. A modo de nuevo combustible que impulsa la innovación tecnológica, el paso de ofrecer este apoyo cambiará las reglas del juego a la hora de mejorar las capacidades de los innovadores y ayudarlos a ampliar los límites de sus proyectos para lograr avances notorios".

Falcon 40B es un avance liderado por el Centro de Investigación en Inteligencia Artificial y Ciencia Digital (AIDRC) de TII. El mismo equipo presentó el año pasado NOOR, el modelo de PNL árabe más grande del mundo y está desarrollando Falcon 180B, el cual será presentado en breve.

Por su parte, Dr. Ebtesam Almazrouei, Director de la Unidad de Centro Interdisciplinario de IA del TII, comentó: "La publicación de código abierto de los modelos de IA de parámetros Falcon 40B, 7,5B y 1,3B y de nuestro conjunto de datos REFINEDWEB de calidad superior, ejemplifica las contribuciones científicas tan profundas que ha hecho los EAU. Con cada progreso, desafiamos las limitaciones, remodelamos el reino de las posibilidades y allanamos el camino para facilitar las iniciativas de esfuerzos de colaboración que tengan repercusiones transformadoras".

Los EAU acaban de subir cinco puestos y ahora son el primer país árabe y el 37.^o de 166 países en el Índice de Preparación para las Tecnologías de Frontera 2023 de la ONU. Este modelo de IA generativa de código abierto corona una larga lista de hitos tecnológicos progresivos y está llamado a impulsar las credenciales de los EAU como actor principal en el campo de la IA.

Se invita a los interesados en conocer los modelos de IA de Falcon o presentarse a la convocatoria de propuestas de aplicaciones a visitar FalconLLM.TII.ae. Los modelos Falcon LLM de código abierto hasta la fecha se podrán utilizar con una licencia que aplica los principios del software de código abierto Apache 2.0, que permite una amplia gama de usos libres.

El texto original en el idioma fuente de este comunicado es la versión oficial autorizada. Las traducciones solo se suministran como adaptación y deben cotejarse con el texto en el idioma fuente, que es la única versión del texto que tendrá un efecto legal.