На рынке микросхем для искусственного интеллекта, где конкуренция становится всё более жесткой, появился ещё один стартап, запустивший серийное производство и заявляющий о своём преимуществе перед Nvidia — самой дорогой компанией в мире.

Компания D-Matrix, расположенная в трех милях от штаб-квартиры Nvidia в Кремниевой долине, заявляет, что ее чипы могут обрабатывать задачи инференции в 10 раз быстрее и с пятикратным снижением энергопотребления по сравнению с автономным графическим процессором от лидера рынка — при условии, что рабочие нагрузки невелики.

Новый чип для инференции, получивший название Corsair, использует новый подход к памяти, схожий с подходом Cerebras и Groq. Поскольку технологические гиганты требуют всех вычислительных ресурсов, которые только могут заполучить, становится ясно, что у более мелких игроков появляется реальная возможность найти свою нишу.

Компания Cerebras, основанная в 2015 году, провела в прошлом месяце масштабное IPO, привлекая более 5,5 миллиардов долларов, и теперь её стоимость превышает 50 миллиардов долларов. В декабре активы Groq были приобретены Nvidia за 20 миллиардов долларов, что стало крупнейшей покупкой гиганта в сфере ИИ на сегодняшний день. Затем в марте, Nvidia представила на GTC новый чип Groq, называемый блоком обработки естественного языка.

«Это рынок объемом в 1 триллион долларов, который находится в стадии формирования», — заявил соучредитель и генеральный директор D-Matrix, Сид Шет, в интервью CNBC, добавив, что он не намерен продавать компанию. «Сможет ли рынок поддержать еще одну публичную компанию? Безусловно».

Компания D-Matrix, основанная в 2019 году, привлекла около 500 миллионов долларов инвестиций, что оценивает ее примерно в 2 миллиарда долларов. Microsoft был одним из инвесторов через свое венчурное подразделение M12. Это примечательно, учитывая собственные амбиции Microsoft в области чипов, включая чип Maia 200 для обработки данных ИИ, новые процессоры для ПК, разработанные совместно с Nvidia, и собственный чип для квантовых вычислений, анонсированный на прошлой неделе.

Шет пока не называет имена клиентов Corsair, но сказал, что у него есть договоренности с крупными гипермасштабными компаниями, неооблачными платформами и передовыми лабораториями ИИ, стремящимися получить как можно больше вычислительных ресурсов. Поставки D-Matrix этим клиентам начнутся в этом месяце. Около 90% из них находятся в США, а зарубежные клиенты — на Ближнем Востоке и в Юго-Восточной Азии, сказал Шет.

«Довольно часто они продают клиентам продукцию для использования в сочетании с Nvidia», — сказала аналитик по полупроводникам Стейси Расгон из Bernstein Research, добавив, что разные чипы лучше подходят для разных задач. «Похоже, у него есть немало реальных контрактов с клиентами».

Чип Corsair от D-Matrix обеспечивает инференцию с низкой задержкой при низком энергопотреблении за счет тесной интеграции памяти и вычислительных ресурсов на одном чипе.

Подобно Groq и Cerebras, D-Matrix использует SRAM — тип памяти, который можно производить на заводах по выпуску микросхем, таких как Taiwan Semiconductor Manufacturing Company, и интегрировать в один чип. Графические процессоры (GPU) же требуют больших объемов другого типа памяти, называемого DRAM, которая размещается в виде стеков памяти с высокой пропускной способностью вокруг логического чипа.

Именно этой DRAM не хватает у Micron, Samsung и SK Hynix.

«Мы не сталкиваемся с проблемой дефицита DRAM в отношении нашего продукта, потому что ему для успеха не нужна DRAM», — сказал Шет.

По словам Рика Бара, адъюнкт-профессора электротехники Стэнфордского университета, главный недостаток подхода D-Matrix заключается в том, что SRAM не способна обрабатывать огромные модели логического вывода.

Хотя встроенная SRAM обеспечивает «впечатляющую скорость вывода», поскольку данные проходят очень короткие расстояния, эта память не способна обрабатывать триллионы параметров, из которых сейчас состоят крупные модели от таких лидеров, как OpenAI и Anthropic.

«Такое количество параметров просто невозможно разместить в конструкции на базе SRAM», — сказал Бар. «В этом и заключается главная проблема».

Шет говорит, что Corsair разработан для вывода данных в области ИИ, где «оптимизация осуществляется по интерактивности или скорости», а не по размеру языка. Речь идёт о чат-ботах, голосовых агентах и ​​агентных инструментах, таких как Claude Code и OpenClaw.

По словам D-Matrix, который ссылается на исследования Gimlet Labs, в сочетании с графическим процессором Nvidia Blackwell, Corsair может выполнять вычисления в 10 раз быстрее, в три раза дешевле и до пяти раз энергоэффективнее, чем автономный графический процессор.

Генеральный директор Nvidia, Дженсен Хуанг, заявил на прошлой неделе, что его компания остается лидером в области недорогих вычислений благодаря своей передовой системе Vera Rubin, поскольку дело не только в скорости.

На выставке Computex в Тайване, Хуанг сказал: «Причина в том, что мы интегрируем все компоненты, проектируем все с нуля, моделируем всю систему и используем экстремальный подход к совместному проектированию».

По словам Шета, D-Matrix продает четыре чипа Corsair, объединенных в карту, которая устанавливается в слоты серверной стойки центра обработки данных и стоит десятки тысяч долларов.

По словам Шета, именно подход «подключи и работай» отличает D-Matrix от Cerebras и Groq. Он назвал Corsair «самым плотным решением SRAM на рынке сегодня», обеспечивающим до 128 гигабайт памяти SRAM в одном сервере.

Компания D-Matrix также объединилась с Arista, Broadcom и Super Micro для создания полнофункциональной стоечной системы SquadRack для развертывания своих чипов в центрах обработки данных, использующих искусственный интеллект.

Чип производится на Тайване по 6-нанометровому технологическому процессу TSMC. Следующий чип D-Matrix, Raptor, планируется выпустить в следующем году по 4-нанометровому технологическому процессу TSMC, который, по словам Шета, может производиться на заводе тайваньской компании в Аризоне.

«Создание вычислительного решения для инференции ИИ станет главным призом», — сказал Шет.