ITNEWS.pro
…
3 часа назад
Подписаться
Revolut урезала расходы на ИИ-кодинг на 90%. Помогла китайская модель GLM с открытыми весами

Revolut сократила расходы на ИИ-кодинг примерно на 90%, заменив платные сервисы Anthropic и OpenAI китайской нейросетью GLM. Ее создала компания Z.ai, а британский финтех запустил готовые веса у себя на серверах. Об этом рассказал Дэвид Абитбол (руководитель направления ИИ и инфраструктуры в Revolut) на конференции AI Engineer, а издание The Register пересказало его слова.

Z.ai (за пределами Китая ее чаще называют Zhipu AI) попала в Entity List, список организаций, которым США запрещают продавать свои технологии без специального разрешения, еще в январе 2025 года. Это не помешало ей в апреле выпустить GLM-5.1. У модели 754 млрд параметров (так называют настраиваемые числа, в которых хранятся знания нейросети), веса открыты, а лицензия MIT позволяет любому скачать их и запускать у себя. На тесте SWE-Bench Pro, где ИИ исправляет ошибки в реальных программах, разработчики насчитали GLM-5.1 58,4% против 57,3% у Claude Opus 4.6 и 57,7% у GPT-5.4. По информации экспертов, предыдущую версию GLM-5 обучали на чипах Huawei Ascend, то есть американские ускорители для этого не понадобились. Сам финтех модель не дообучал, он занимался только настройкой запуска.

Около 2000 инженеров банка работают с GLM, которую он размещает у себя на 56 графических ускорителях Nvidia B200. Обработка стоит примерно $0,30 за миллион токенов, то есть кусочков текста в несколько символов, по которым считают оплату. По оценке компании, это в десять раз дешевле, чем через Codex от OpenAI или Claude Code от Anthropic.

До перехода эффект был скромным. В начале 2025 года Gemini ускорял доставку задач до релиза примерно на 10%, а написание кода на 20%, тогда как ранний Claude Code при жестких лимитах бюджета почти ничего не менял. После апрельского перехода на открытую GLM выборка из 2000 инженеров показала другой масштаб: программы пишутся быстрее на 60%, а путь от постановки до выпуска короче на 70%.

Часть второго выигрыша пришлась на работу без кода. Когда лимиты сняли, инженеры стали поручать агентам разбор почты и подготовку к встречам. Сам Абитбол признавался, что вначале компания очень скептически относилась к стоимости ИИ, и подытожил так: «Когда токенов хватает без ограничений, можно делать и такое».

Работало все не сразу. Исходная настройка выдавала скорость хуже ожидаемой, и команда подбирала длину контекста, сжатие чисел в модели (квантование) и распараллеливание. Производительность выросла на 88% при росте спроса на 76%, а ускорителей не прибавилось. Чтобы выжать больше из тех же карт, банк перешел на NVFP4, новый формат Nvidia для чипов Blackwell. В прежнем FP8 каждое число занимает 8 бит, в NVFP4 всего 4, а точность удерживает общий масштаб, который выдают группе из 16 значений. В среднем вместе с масштабом выходит около 4,5 на число, почти вдвое компактнее. Видеокарт после этого понадобилось примерно на 40% меньше, при этом по собственным тестам Nvidia потеря точности составляет около 1% или ниже. Время до первого слова ответа упало с 10 секунд до 1,6.

Безопасность построена на человеке и изоляции. Каждый запуск агента одобряет сотрудник, а сама программа находится в песочнице (изолированной среде) со списком разрешенных действий. Добавить файл в git можно, широкие разрушающие приказы заблокированы. Данные обрабатывают в США, ЕС, Великобритании и Израиле, у поставщиков ускорителей, которые по умолчанию ничего не хранят. Это касается инструмента кодинга для сотрудников, банковское ядро клиентов в него не входит.

Скептики найдут в расчете оговорки, и главная записана в самом отчете: $0,30 не включают облако, зарплаты и мониторинг. Схема держится на 56 ускорителях и постоянной настройке, поэтому маленькой команде она, скорее всего, обойдется дороже, а ответ будет приходить медленнее.

Отказаться от Anthropic и OpenAI полностью тоже не вышло. Модель GLM, которую использует Revolut, понимает только текст, и задачи с изображениями маршрутизатор по-прежнему отправляет в Gemini или GPT.

Подписывайся на наш Telegram и не пропусти главные новости!