Zhipu AI пусна GLM-5.1-highspeed, високоскоростен API вариант на своя голям езиков модел GLM-5.1, доставящ 400 токена в секунда и според съобщенията определящ нов глобален бенчмарк за скорост на извод сред основните доставчици на LLM.
Компанията първоначално предлага GLM-5.1-високоскоростния API за избрани корпоративни клиенти, като го позиционира за случаи на използване, изискващи мащабно генериране на текст в реално време или почти в реално време.
При 400 жетона в секунда, моделът може да произведе приблизително еквивалента на човешко писане за цял ден за приблизително една минута, според описанието на продукта на компанията. Компанията казва, че същата способност може да изпълнява задачи за разработка, които обикновено изискват три дни работа на софтуерния инженер в рамките на една пауза за кафе.
API е насочен към корпоративни приложения, включително автоматизирано генериране на съдържание, асистенти за кодиране и системи за взаимодействие с клиенти в реално време, където латентността е критичен показател за ефективност.
Zhipu AI, която оперира под международната марка Z.ai, е една от най-големите китайски компании за модели на изкуствен интелект и се счита за третия по големина играч на китайския LLM пазар, според анализ на International Data Corporation.
Source link
Like this:
Like Loading…
Нашия източник е Българо-Китайска Търговско-промишлена палaта