Auf der Veranstaltung „Tag der Künstlichen Intelligenz 2023“ mit dem Thema „KI – die Rekonstruktion der Realität“, die am 5. und 6. Dezember stattfand, kündigte die VinAI Artificial Intelligence Research and Application Company ( Vingroup Corporation) ein Open-Source-Forschungsprojekt zu einem großen Sprachmodell für Vietnamesisch, PhoGPT, an.
PhoGPT ist ein Open-Source-Projekt und keine proprietäre Software wie ChatGPT von OpenAI. Da es Open Source ist, gibt es keine kommerziellen Einschränkungen. Jeder kann PhoGPT zur Entwicklung eigener Anwendungen nutzen, auch für kommerzielle Zwecke. Es dient somit als Plattform für die KI-Entwicklungsgemeinschaft im Land.
Laut Dr. Bui Hai Hung, Generaldirektor des KI-Forschungs- und Anwendungsunternehmens VinAI, zeigen die Einschränkungen vietnamesischer Sprachmodelle, dass diese Modelle keine optimale Leistung erzielen und kein Open-Source-Code verfügbar ist. Daher ist eine der dringenden Aufgaben der KI-Community im Allgemeinen und der NLP-Community (Natural Language Processing) im Besonderen die Entwicklung eines neuen, leistungsfähigeren Modells, das die vietnamesische Sprache mit hoher Genauigkeit und Leistung verarbeiten kann.
KI-Experten geben an, dass dieses Big-Data-Sprachmodell mit 7,5 Milliarden Parametern, das auf der Transformer-Dekodierungsplattform basiert, von Grund auf mit modernsten verfügbaren Techniken wie dem Flash-Attention-Mechanismus und der AliBi-Kontextlängenextrapolation trainiert wurde.
Diese Techniken helfen dem Modell nicht nur, den Kontext besser zu verstehen, sondern verbessern auch die natürlichen Dialog- und Interaktionsfähigkeiten von PhoGPT. Dadurch wird das Modell zu einem vielseitigen und flexiblen Werkzeug, das den unterschiedlichsten sprachlichen Bedürfnissen der Nutzer gerecht wird.
Dr. Bui Hai Hung fügte hinzu, dass PhoGPT von Anfang an unabhängig von allen anderen Modellen weltweit vom Unternehmen entwickelt wurde. Dank des Open-Source-Modells kann die vietnamesische Community es besser nutzen und weiterentwickeln. Die Veröffentlichung des PhoGPT-Quellcodes und dessen Verfügbarkeit für die Nutzer trägt dazu bei, ein Umfeld zu schaffen, in dem die Nutzergemeinschaft individuelle und einzigartige Anwendungen entwickeln kann.
Eines der Ziele von Open Source ist es, eine Grundlage zu schaffen, damit Entwickler keine Zeit mit der erneuten Entwicklung von Sprachmodellen verschwenden müssen. So können Einheiten größere Sprachmodelle wie PhoGPT entwickeln. Dies trägt zu einer qualitativ hochwertigen Open-Source-Community für große vietnamesische Sprachmodelle bei und ermöglicht es Unternehmen, sich zu beteiligen und diese in bestimmten Bereichen anzuwenden. Mit PhoGPT plant das KI-Forschungs- und Anwendungsunternehmen VinAI die Entwicklung von Anwendungen für Einzelnutzer sowie die Bereitstellung spezialisierter Supportlösungen für vietnamesische Unternehmen in Bereichen wie Gesundheitswesen und Bildung.
PhoGPT hat die ersten Grundlagen für die Entwicklung leistungsstarker vietnamesischer Sprachmodelle gelegt, als Basis für die Entwicklung praktischer, effektiver Anwendungen im Einklang mit der KI-Entwicklungsstrategie der Regierung bis 2030.
BA TAN
Quelle






Kommentar (0)