Amazon бросает вызов Nvidia: новые ускорители Trainium 2 на горизонте

Amazon Web Services ускоряет развитие своих облачных технологий, представив ИИ-ускорители Trainium 2. Новые разработки обещают сделать работу с большими языковыми моделями эффективнее, конкурируя с решениями Nvidia и снижая затраты на 40%.

Американская корпорация Amazon, посредством своего подразделения Amazon Web Services (AWS), активно расширяет собственные мощности в области облачных технологий, стремясь снизить зависимость от компонентов и программного обеспечения компании Nvidia.

В следующем месяце Amazon планирует презентовать новые ИИ-ускорители Trainium 2, которые способны эффективно обучать крупные языковые модели, а именно нейросети. Данную информацию опубликовало издание Financial Times.

На текущий момент ускорители из линейки Amazon Inferentia уже показывают экономию в 40% по сравнению с решениями Nvidia в контексте генерации ответов для ИИ-сервисов. Это может сыграть ключевую роль при выборе вычислительной платформы, особенно учитывая прогноз, что капиталовложения Amazon в этом сегменте могут достигнуть 75 миллиардов долларов в текущем году.

Специалисты указывают на то, что ведущие провайдеры облачных услуг стремятся разрабатывать макеты собственных чипов в единой вертикально интегрированной структуре, что позволяет снизить затраты, увеличить прибыль и укрепить контроль над доступностью микрочипов и развитием бизнеса. Эта стратегия также предоставляет Amazon возможность уменьшить потребление энергии и повысить эффективность центров обработки данных.

Аналитики из TechInsights проводят аналогию между чипами Nvidia и универсалами в автомобильном мире, в то время как разработки Amazon можно сравнить с более компактными хэтчбеками, оптимизированными для выполнения узкого спектра задач. Amazon пока не делится результатами тестирования производительности своих ускорителей, однако, ожидается, что Trainium 2 превзойдет предыдущие версии в четыре раза по быстродействию.

Появление альтернатив Nvidia может быть особо благосклонно воспринято клиентами AWS, среди которых такие компании, как стартапы Anthropic, Databricks, Deutsche Telekom, а также Ricoh и Stockmark.