Technology Innovation Institute der VAE startet Open-Source „Falcon 40B“ - ein groß angelegtes Sprachmodell für Forschungs- und kommerzielle Zwecke in den VAE

Das Technology Innovation Institute (TII), ein führendes, globales, wissenschaftliches Forschungszentrum und der Stützpfeiler der angewandten Forschung des Advanced Technology Research Council (ATRC) von Abu Dhabi, verstärkte heute seinen zunehmenden internationalen Einfluss im Bereich der künstlichen Intelligenz mit der Mitteilung, dass „Falcon 40B“, das erste groß angelegte KI-Modell der VAE, jetzt quelloffen für Forschungs- und kommerzielle Zwecke verfügbar ist. Dieser bahnbrechende Schritt verdeutlicht das Engagement von Abu Dhabi für die Förderung sektorübergreifender Zusammenarbeit im Interesse von Fortschritten im Bereich generativer künstlicher Intelligenz.

Falcon, ein grundlegendes großes Sprachmodell (LLM) mit 40 Milliarden Parametern, das mit einer Billion Tokens trainiert wurde, verschafft Forschern und Innovatoren in kleinen und mittelständischen Unternehmen (KMU) beispiellosen Zugang. Das TII gibt Zugang zu den Gewichten des Modells als umfassenderes Open-Source-Paket mit dem Ziel, Zugriff auf leistungsstarke LLM-Fähigkeiten zu gewähren, Transparenz und Rechenschaft zu fördern und Innovation und Forschung in diesem Bereich zu unterstützen.

In dem aktuellen KI-Umfeld bevorzugen Entwickler LLMs, die Zugang zu Modellgewichten geben, da diese bessere Ausreifungsmöglichkeiten bieten als andere. Bei der Mehrzahl der LLM sind exklusive Lizenzen nicht-kommerziellen Nutzern vorbehalten. Das TII hat jetzt einen wichtigen Schritt unternommen, indem es auch Forschern und kommerziellen Nutzern Zugang zum Falcon 40B LLM bietet.

In Verbindung mit der Freigabe von Falcon 40B als Open-Source-Modell startete das TII auch einen Aufruf zu Beiträgen von Wissenschaftlern, Forschern und Visionären, die das Potenzial des Gründungsmodell erschließen wollen. Interessenten wurden aufgefordert, innovative Ideen vorzulegen und das Modell zum Aufbau inspirierender Nutzungsfälle einzusetzen oder weitere Möglichkeiten seiner Anwendung in Bereichen wie Ingenieurwesen, Gesundheit, Nachhaltigkeit, Codierung und anderen mehr zu erkunden.

Als Anreiz für außergewöhnliche Forschungsvorschläge erhalten ausgewählte Projekte „Training Compute Power“ in Form von Investitionen, die Innovatoren die Nutzung robuster Rechnerressourcen für beschleunigte Datenanalysen, komplexe Modellierung und neue Entdeckungen ermöglichen. Mit dieser Unterstützung soll die Entwicklung neuer Ideen gepflegt und beschleunigt werden, indem sie mithilfe der notwendigen Ressourcen in wirkungsvolle, markttaugliche und gesellschaftlich wertvolle KI-Lösungen verwandelt werden.

VentureOne, der Kommerzialisierungsarm von ATRC, wird die Rechnerkraft vermitteln, um die innovativsten Lösungen in Produkte umzusetzen.

„Die Bereitstellung von Falcon 40B als Open-Source ist ein erfolgskritischer Meilenstein in unserem Bestreben, KI-Innovation zu fördern“, erklärte Seine Exzellenz Faisal Al Bannai, Generalsekretär des Advanced Technology Research Council (ATRC). „Wir bringen den Zugang zu LLM voran und versetzen Forscher und Unternehmer in die Lage, die innovativsten Nutzungsfälle auszuarbeiten. Wir werden die Beiträge dann auch durch Rechnerkraft weiter unterstützen als Finanzierung durch VentureOne, um zu einem florierenden Forschungsumfeld beizutragen.“

Das erstmals im März 2023 vorgestellte Falcon zeigte eine außergewöhnliche Leistung und unterstreicht das Engagement der VAE für den technologischen Fortschritt. Basierend auf dem HELM LLM-Benchmarking-Tool der Stanford University zeigte Falcon 40B höhere Leistungen als seine bekannten Konkurrenten, indem es erheblich weniger Training-Compute-Leistung erforderte. Mit nur 75 Prozent der Training-Compute-Leistung von OpenAI GPT-3, 40 Prozent von DeepMind Chinchilla AI und 80 Prozent der Training-Compute von Google PaLM-62B verkörperte das Tool das Engagement des TII für die Weiterentwicklung von generativer KI.

Dr. Ray O. Johnson, CEO des TII, sagte dazu: „Rechnerleistung spielt eine entscheidende Rolle bei der Förderung des Trainings von KI-Systemen und bei einer schnelleren Umsetzung von Nutzungsfällen. Als neuer Treibstoff der technologischen Innovation wird sich die Bereitstellung einer derartigen Unterstützung als spielverändernd erweisen, indem die Fähigkeiten von Innovatoren verbessert werden, so dass diese die Grenzen ihrer Projekte weiter ausdehnen und bemerkenswerte Ergebnisse erzielen können.“

Falcon 40B ist ein vom AI and Digital Science Research Center (AIDRC) des TII geleiteter Durchbruch. Dasselbe Team brachte im vergangenen Jahr auch NOOR hervor, das weltweit größte arabische NLP-Modell, und liegt auf Kurs, in Kürze Falcon 180B zu entwickeln und vorzustellen.

Dr. Ebtesam Almazrouei, Director, AI Cross-Center Unit, TII, sagte dazu: „Die Open-Source-Freigabe von Falcon 40B, 7.5B und 1.3B Parameter KI-Modellen und unserem hochwertigen Datensatz REFINEDWEB verdeutlicht die profunden wissenschaftlichen Beiträge der VAE. Mit jedem Durchbruch werden die Grenzen weiter ausgedehnt, die Möglichkeiten neu gestaltet und neue Wege für eine Zusammenarbeit mit transformativer Wirkung geebnet.“

Die VAE rückten unlängst fünf Plätze auf und nehmen damit nun den Spitzenplatz der arabischen Länder und den 37. Platz von 166 Ländern im Frontier Technologies Readiness Index 2023 der Vereinten Nationen ein. Zusammen mit einer langen Liste progressiver Technologiemeilensteine wird das quelloffene generative KI-Modell die Referenzen der VAE als wichtiger Akteur auf dem KI-Spielfeld verstärken.

Wenn Sie am Zugriff auf die Falcon KI-Modelle interessiert sind oder einen Nutzungsfall im Rahmen der Ausschreibung einreichen möchten, dann besuchen Sie bitte: FalconLLM.TII.ae. Die bisher quelloffenen Falcon LLMs werden unter einer Lizenz zur Verfügung gestellt, die auf den Grundsätzen der quelloffenen Apache 2.0 Softwere aufbaut und eine breite Palette kostenloser Nutzung gestattet.

Die Ausgangssprache, in der der Originaltext veröffentlicht wird, ist die offizielle und autorisierte Version. Übersetzungen werden zur besseren Verständigung mitgeliefert. Nur die Sprachversion, die im Original veröffentlicht wurde, ist rechtsgültig. Gleichen Sie deshalb Übersetzungen mit der originalen Sprachversion der Veröffentlichung ab.