Was ist Eleuther AI?
Geschichte
EleutherAI wurde im Juli 2020 von Connor Leahy, Sid Black und Leo Gao gegründet. Ursprünglich als Discord-Server ins Leben gerufen, diente er dem Austausch über OpenAI’s GPT-3, ein grosses Sprachmodell. Seitdem hat sich EleutherAI zu einem führenden gemeinnützigen Forschungsinstitut entwickelt, das sich auf gross angelegte künstliche Intelligenz (KI) spezialisiert hat. Ihre Mission besteht darin, den Zugang zu fortschrittlichen KI-Technologien zu demokratisieren und offene Wissenschaftsnormen in der natürlichen Sprachverarbeitung zu fördern. Im Jahr 2023 wurde EleutherAI offiziell als gemeinnützige Stiftung eingetragen (EleutherAI) (Wikipedia).
Gründer
Die Gründer von EleutherAI sind:
- Connor Leahy: CEO von Conjecture und einer der treibenden Kräfte hinter der Organisation.
- Sid Black: Mitbegründer und aktiver Forscher bei EleutherAI.
- Leo Gao: Mitbegründer und Forscher, der massgeblich an der Entwicklung der Modelle beteiligt ist.
Was kann man damit machen?
EleutherAI hat eine Reihe bedeutender Projekte und Modelle entwickelt, die weltweit genutzt werden:
- GPT-Neo: Eine Serie von Sprachmodellen, die OpenAI’s GPT-3 replizieren. Die Modelle haben bis zu 20 Milliarden Parameter und wurden im März 2021 veröffentlicht.
- GPT-J: Ein 6-Milliarden-Parameter-Modell, das ebenfalls im März 2021 veröffentlicht wurde und zu seiner Zeit das grösste öffentlich verfügbare GPT-3-ähnliche Sprachmodell war.
- GPT-NeoX: Mit 20 Milliarden Parametern das grösste offene Sprachmodell zum Zeitpunkt seiner Veröffentlichung im Februar 2022.
- Pythia: Eine Suite von Modellen, die zur Erforschung der Lernprozesse und Fähigkeiten grosser Sprachmodelle entwickelt wurde (Wikipedia) (EleutherAI).
Neben der Entwicklung von Sprachmodellen hat EleutherAI auch bedeutende Fortschritte im Bereich der Bild- und Text-zu-Bild-Synthese gemacht, insbesondere mit Projekten wie VQGAN-CLIP. Diese Technologie ermöglicht es, aus Textbeschreibungen Bilder zu generieren und hat die Entwicklung weiterer generativer KI-Modelle inspiriert (Wikipedia).
Kostenlos?
EleutherAI setzt stark auf Open-Source-Prinzipien. Viele ihrer Modelle und Datensätze sind frei zugänglich und können von Forschern und Entwicklern weltweit genutzt werden. Dies umfasst die Bereitstellung von Code und Modellen auf Plattformen wie GitHub, sowie die Veröffentlichung wissenschaftlicher Arbeiten und Dokumentationen, die frei zugänglich sind. Diese Offenheit fördert die Transparenz und ermöglicht es einer breiteren Gemeinschaft, an der Weiterentwicklung und Verbesserung der KI-Technologien mitzuwirken (EleutherAI) (Eleuther AI) (EleutherAI).
Quellen
- EleutherAI Webseite
- Wikipedia über EleutherAI
- EleutherAI Forschung
- Einführung zu EleutherAI