Корпорация Meta✴, как сообщает The Register, анонсировала углубление партнёрства с облачной платформой AWS. Речь идёт о задействовании Arm-чипов Graviton5 для обеспечения работы отдельных ИИ-задач, в первую очередь агентных систем. Сама AWS указывает на огромный интерес к своим фирменным процессорам. Одним из ключевых заказчиков выступает, в частности, Uber.
Чипы Graviton5 были представлены AWS в конце минувшего года. Эти решения оснащены 192 ядрами Neoverse V3 (Poseidon), каждое из которых располагает 2 Мбайт кэша второго уровня. Суммарный объём кэша L3 достигает 192 Мбайт. Предусмотрено 12 каналов памяти стандарта DDR5-8800. Заявлено, что прирост производительности составляет до 25 % в сравнении с процессорами Graviton предыдущего поколения.
Meta✴ планирует задействовать для собственных нужд «десятки миллионов» ядер Graviton5. Таким образом, компания войдёт в число крупнейших потребителей, использующих чипы, созданные AWS. Глава инфраструктурного подразделения Meta✴ отметил, что сотрудничество с AWS нацелено на диверсификацию вычислительных мощностей. По его словам, этот шаг необходим в условиях реализации масштабных инициатив в сфере искусственного интеллекта.
Источник изображения: AWS
Ранее Meta✴ заявила о стратегическом альянсе с компанией Arm Holdings, нацеленном на «повышение эффективности ИИ на всех уровнях вычислений, включая программное обеспечение и дата-центры». В частности, Meta✴ собирается применять чипы Arm AGI, специально адаптированные для агентного ИИ. Однако, как уточняет The Register, эти решения появятся в дата-центрах Meta✴ не раньше конца нынешнего года, поэтому пока компания будет развёртывать соответствующие нагрузки на базе Graviton5 в облаке AWS.
Согласно прогнозам аналитиков Counterpoint Research, к 2029 году доля Arm-решений на рынке серверных ASIC-изделий, ориентированных на искусственный интеллект, может достичь 90 %. При этом компания Meta✴ разрабатывает собственные ИИ-ускорители MTIA, которые в различных модификациях могут использоваться как для обучения моделей, так и для инференса и других задач.
Источник: