GoTo Release Modell 27 Milliarden Parameter, Sprache

GoTo hat ein neues Modell der künstlichen Intelligenz mit 27 Milliarden Parametern veröffentlicht, das die indonesische Sprache und eine Reihe lokaler Sprachen, darunter Java, Sunda, Bali und Batak, verstehen kann.

Das KI-Modell steht Startups, Unternehmen, Universitäten, Forschern und öffentlichen Institutionen kostenlos zur Verfügung. Sie können diese Technologien nutzen und entwickeln, um KI-Dienste zu schaffen, die den Bedürfnissen der indonesischen Gesellschaft besser entsprechen.

Dieses Hauptsprachenmodell oder Großsprachenmodell wurde unter Verwendung der Gemma 3-Architektur erstellt. Basierend auf Dokumentation auf Hugging Face, unterstützt es sechs Sprachen, die Englisch, Indonesien, Java, Sunda, Bali und Babak Toba sind.

Der CEO der GoTo Hans Patuwo Group sagt, Indonesien müsse seine eigene KI-Technologie entwickeln, um nicht nur auf ausländische Produkte angewiesen zu sein.

"Indonesien hat die Technologie der globalen KI gut genutzt." Wir müssen jedoch auch unsere eigene KI aufbauen, um typische Probleme für uns zu lösen, sagte Hans in der offiziellen Erklärung von GoTo.

Laut Hans ist die für globale Bedürfnisse entwickelte KI nicht unbedingt in der Lage, die indonesische Sprache und Gewohnheiten optimal zu verstehen, insbesondere den Einsatz von Regionalsprache im Alltag.

Daher möchte GoTo die Grundlage für KI schaffen, die den lokalen Kontext versteht und indonesischen Entwicklern die Möglichkeit eröffnet, verschiedene auf künstlicher Intelligenz basierende Dienste zu erstellen.

In seiner Entwicklung wurde das KI-Modell geschult, um indonesischen Text von mehreren Medienpartnern und Websites des öffentlichen Sektors zu verwenden. GoTo nahm auch die University of Northern Sumatra (USU) mit, um Daten von Batak zu sammeln, die den Gebrauch dieser Sprache heute widerspiegeln.

Technisch gesehen hat dieses Modell eine Kontextkapazität von bis zu 128.000 Token, so dass KI lange Dokumente oder Gespräche mit vielen Informationen in einer Anfrage verarbeiten kann.

Mit 27 Milliarden Parametern fällt dieses Modell in die mittlere Kategorie. Parameter sind ein Wert, den KI während des Trainings gelernt hat, um Muster zu erkennen und Antworten zu generieren, auch wenn die Anzahl der Parameter nicht automatisch die Genauigkeit bestimmt.

GoTo nannte dieses Modell, um durch die Infrastrukturserver, Startups und öffentlichen Institutionen der Universität laufen zu können, ohne große Rechenzentren bauen zu müssen.

Trotzdem sind die Computeranforderungen ziemlich hoch. Die Modelldokumentation enthält einen GPU-Speicher, der etwa 54-60 GB benötigt, um ihn mit der Präzision von FP16 oder BF16 auszuführen, wobei Nvidia A100 80 GB als eine empfohlene Konfiguration gilt.

GoTos neuestes AI-Modell ist hier über die Hugging Face-Plattform zugänglich.

GoTo nannte diese Technologie ein Open-Source-Modell. Die Dokumentation enthält jedoch die Lizenz von Gemma, so dass die Entwickler immer noch auf die Bedingungen ihrer Verwendung und Verteilung achten müssen.

Wie jedes andere KI-generative Modell hat auch diese Technologie potenzielle falsche Antworten oder Halluzinationen. Daher müssen Entwickler einen Test durchführen, bevor sie ihn in den öffentlichen Dienst integrieren.

Die Einführung dieses 27-Milliarden-Parameters setzte die Entwicklung einer offenen KI fort, die GoTo seit 2024 gestartet hat. Das Unternehmen bezieht auch Praktikanten von sieben Universitäten in Indonesien in die Datenerfassung, Schulungen und Testmodelle von Al ein.