Technology Innovation Institute in VAE lanceert open source "Falcon 40B" groot taalmodel voor onderzoek en commercieel gebruik

Het Technology Innovation Institute (TII), een toonaangevend wereldwijd wetenschappelijk onderzoekscentrum en de basis voor toegepast onderzoek van de Advanced Technology Research Council (ATRC) van Abu Dhabi, kondigt vandaag aan dat "Falcon 40B", het eerste grootschalige AI-model van de VAE, nu open source is voor onderzoek en commercieel gebruik. Hiermee versterkt het onderzoeksinstituut vandaag zijn groeiende internationale invloed op het gebied van kunstmatige intelligentie. Deze baanbrekende stap toont de inzet van Abu Dhabi voor het bevorderen van samenwerking in de branche en het stimuleren van vooruitgang in generatieve AI.

Falcon, een fundamenteel groot taalmodel (LLM) met 40 miljard parameters, getraind op een biljoen tokens, verleent ongekende toegang aan onderzoekers en vernieuwers in het midden- en kleinbedrijf (mkb). TII biedt toegang tot modelgewichten als een uitgebreider open-source pakket, met als doel toegang te verschaffen tot krachtige LLM-capaciteiten om de transparantie en verantwoording te bevorderen en innovatie en onderzoek op dit gebied te ondersteunen.

In het huidige AI-ecosysteem vinden ontwikkelaars LLM's die toegang bieden tot modelgewichten aantrekkelijker vanwege de verbeterde mogelijkheden voor fijnafstemming in vergelijking met wanneer die toegang niet wordt geboden. Terwijl de meeste LLM's uitsluitend exclusieve licenties aan niet-commerciële gebruikers verlenen, heeft TII een belangrijke stap gezet door onderzoekers en commerciële gebruikers toegang te bieden tot de Falcon 40B LLM.

In verband met de release van Falcon 40B als open-source model, lanceert TII een call for proposals, waarvoor enthousiaste wetenschappers, onderzoekers en visionairs die het potentieel van het funderingsmodel optimaal benutten worden uitgenodigd. Zij worden aangemoedigd om hun innovatieve ideeën in te brengen en het model te gebruiken om inspirerende use cases te bouwen of verdere mogelijkheden te verkennen voor de toepassing ervan in sectoren als engineering, gezondheidszorg, duurzaamheid, codering en nog veel meer.

Als stimulans voor uitzonderlijke onderzoeksvoorstellen zullen de geselecteerde projecten "training compute power" ontvangen in de vorm van investeringen. Hierdoor kunnen innovatoren gebruikmaken van robuuste computermiddelen voor versnelde gegevensanalyse, complexe modellering en nieuwe ontdekkingen. Met deze steun kunnen nieuwe ideeën worden gecreëerd en sneller de nodige middelen worden verschaft om deze ideeën te vertalen in doeltreffende AI-oplossingen met commerciële levensvatbaarheid en maatschappelijke voordelen.

VentureOne, de commercialiseringstak van ATRC, zal rekenkracht faciliteren om de meest innovatieve oplossingen verkoopbaar te maken.

"Nu Falcon 40B open source is, wordt een belangrijke mijlpaal gezet in ons streven om AI-innovatie te bevorderen", aldus Z.E. Faisal Al Bannai, secretaris-generaal van de Advanced Technology Research Council (ATRC). "We doorbreken de toegang tot LLM en stellen onderzoekers en ondernemers in staat om de meest innovatieve use cases aan te leveren. We zullen deze inzendingen verder ondersteunen met rekenkracht in de vorm van financiering via VentureOne om een bloeiend onderzoeksecosysteem te ontwikkelen."

Falcon, die in maart 2023 voor het eerst werd onthuld, toonde uitzonderlijke prestaties en onderstreepte het streven naar technologische ontwikkeling van de VAE. Op basis van Stanford University's HELM LLM benchmarking tool, presteerde Falcon 40B beter dan zijn gerenommeerde tegenhangers door aanzienlijk minder rekenkracht voor training te gebruiken. Met slechts 75 procent van de rekenkracht van OpenAI's GPT-3, 40 procent van DeepMind's Chinchilla AI en 80 procent van de rekenkracht voor trainen van Google's PaLM-62B, bevestigde de tool TII's engagement om ontwikkelingen in generatieve AI te bevorderen.

Dr. Ray O. Johnson, CEO van TII, zei: "Rekenkracht speelt een cruciale rol bij het versnellen van de training van AI-modellen en het sneller implementeren van use cases. Als de nieuwe brandstof voor technologische innovatie zal het aanbieden van dergelijke ondersteuning de mogelijkheden van innovatoren aanzienlijk vergroten en hen in staat stellen de grenzen van hun projecten te verleggen om opmerkelijke vooruitgang te boeken."

Falcon 40B is een baanbrekende ontwikkeling onder leiding van TII's AI en Digital Science Research Center (AIDRC). Hetzelfde team lanceerde vorig jaar ook NOOR, 's werelds grootste Arabische NLP-model, en ligt op schema om binnenkort Falcon 180B te ontwikkelen en aan te kondigen.

Dr. Ebtesam Almazrouei, directeur, AI Cross-Center Unit, TII, zei: "De open-source release van Falcon AI-modellen met 40 miljard, 7,5 miljard en 1,3 miljard parameters en onze hoogwaardige REFINEDWEB-dataset, illustreren de diepgaande wetenschappelijke bijdragen van de VAE. Met elke doorbraak trotseren we beperkingen, geven we de mogelijkheden een nieuwe vorm en banen we de weg voor samenwerking met transformerende resultaten."

De VAE zijn onlangs vijf plaatsen gestegen en staan nu bovenaan de Arabische ranglijst en op de 37^e plaats van de 166 landen in de UN Frontier Technologies Readiness Index 2023. Als aanvulling op een lange lijst van vooruitstrevende technologische mijlpalen zal het open-source generatieve AI-model de kwalificaties van de VAE als mainstream AI-speler een boost geven.

Als u geïnteresseerd bent in toegang tot de Falcon AI-modellen of in het indienen van voorstellen van use cases, kunt u terecht op FalconLLM.TII.ae. De huidige open-source Falcon LLM's zullen beschikbaar worden gesteld onder een licentie die gebaseerd is op de principes van open source Apache 2.0 software, die een breed scala aan gratis gebruik mogelijk maakt.

Deze bekendmaking is officieel geldend in de originele brontaal. Vertalingen zijn slechts als leeshulp bedoeld en moeten worden vergeleken met de tekst in de brontaal, die als enige rechtsgeldig is.