Стартап TYLsemi привлёк $43 млн на упрощение разработки чиплетов для ИИ-процессоров
Использование чиплетов вместо монолитных чипов может снизить совокупную стоимость владения на 57% — с $350 млн до $150 млн на 100 000 устройств
Первые образцы чиплетов TYLsemi появятся во второй половине 2027 года, а готовые процессоры клиентов ожидаются к 2029-2030 годам
Компания предлагает готовые чиплеты для ввода-вывода и питания, сокращая срок разработки кастомного процессора до 6-9 месяцев
Новая компания в сфере полупроводников TYLsemi (произносится как «Тайл Семи») вышла из режима стелс, одновременно объявив о привлечении $43 млн в рамках стартового раунда финансирования. Раунд, оказавшийся переподписанным, возглавил фонд Matter Venture Partners, а участие в нём приняли Viola Ventures, GHOVC, Egis Technology и ряд стратегических инвесторов из полупроводниковой индустрии. Штаб-квартира компании расположена в Сан-Хосе, штат Калифорния. TYLsemi заявила об амбициозном плане по упрощению разработки заказных процессоров для ИИ-инфраструктуры.
Источник изображения — tomshardware.com
Кто стоит за TYLsemi
Сооснователями TYLsemi выступили Мохит Гупта (Mohit Gupta) и Сунил Бхардвадж (Sunil Bhardwaj) — ветераны полупроводниковой индустрии. До запуска собственного проекта оба руководили инженерными, операционными и бизнес-командами в Alphawave — компании, разрабатывавшей специализированные межсоединения для объединения нескольких вычислительных модулей в единую систему на кристалле и купленной Qualcomm менее чем за год до основания TYLsemi. Ранее Гупта и Бхардвадж также занимали инженерные должности в SiFive, Cadence и Rambus. Именно этот опыт, по словам Гупты, главного исполнительного директора TYLsemi, и позволил увидеть, что сейчас — идеальное время для запуска компании, специализирующейся на предварительно одобренных чиплетах и разработке заказных ASIC.
На рынке существуют десятки контрактных проектировщиков микросхем, способных создавать заказные процессоры различной сложности. Однако лишь немногие компании могут предложить услуги по дизайну кастомного кремния с использованием стандартных чиплетов для ускорения и снижения рисков цикла разработки. TYLsemi намерена присоединиться к их числу.
Вместо того чтобы конкурировать исключительно как очередной разработчик заказных ASIC, TYLsemi намерена предлагать многоразовые стандартизированные чиплеты для обеспечения connectivity, подачи питания, а в перспективе и памяти. Клиенты смогут комбинировать их с собственными вычислительными чиплетами для создания уникальной системы в корпусе (SiP). Для компаний, не желающих самостоятельно заниматься полупроводниками, TYLsemi также предоставит полный спектр услуг — от дизайна и реализации отличительного чиплета до упаковки, квалификации и крупносерийного производства. Это позволит даже тем, кто не имеет опыта в разработке кремния, предлагать собственные многокристальные процессоры.
Источник изображения — tomshardware.com
Почему момент для чиплетов настал именно сейчас
«Чиплеты обсуждаются уже семь или восемь лет, но за последние три-четыре года многое изменилось, — рассказал Гупта. — Во-первых, передовая упаковка (advanced packaging) значительно созрела. Сейчас существует множество вариантов 2.5D и 3D-интеграции, находящихся в серийном производстве. Клиенты не ограничены одной технологией упаковки или одним поставщиком; есть варианты от фаундри и OSAT, включая TSMC, Intel, ASE и Amkor. Во-вторых, появились стандарты соединения «кристалл-к-кристаллу» (die-to-die). В прошлом большинство реализаций чиплетов полагались на проприетарные интерфейсы. UCIe сейчас переходит в стадию промышленного развертывания, в том числе у гиперскейлеров, что делает гетерогенную интеграцию гораздо более практичной. В-третьих, устойчивость цепочек поставок стала критически важной. Клиенты все чаще хотят иметь модульные и потенциально мульти-источные стратегии, а не единую точку отказа. Эти факторы создали среду, которой не существовало четыре-пять лет назад.»
Ускорители ИИ станут одними из основных приложений, которые выиграют от многокристального дизайна, как мы уже знаем на примере AMD и Nvidia.
«Рынок ИИ-ускорителей, по прогнозам, достигнет $604 млрд к 2033 году, и кастомный кремний XPU, созданный для конкретных задач гиперскейлеров, является самым быстрорастущим сегментом, — сказал Гупта. — При таких масштабах дизайн на основе чиплетов перестает быть опцией, однако на этом рынке нет ни одной компании, специализирующейся исключительно на чиплетах и предлагающей полный портфель решений. TYLsemi закрывает этот пробел, предлагая стандартизированные чиплеты в сочетании с UCIe-соединениями «кристалл-к-кристаллу», проектированием с учетом XPU, упаковкой и интеграцией, предоставляя клиентам быстрый и проверенный путь к кремнию для эпохи ИИ.»
Экономика чиплетов: откуда берётся экономия
Подавляющее большинство современных ускорителей ИИ и HPC имеют большие размеры кристаллов, во многих случаях приближающиеся к размеру ретикла. Однако с усложнением современных техпроцессов фаундри повышают цены на новые узлы. Около пяти лет назад стоимость обработки пластины на передовом узле составляла около $15 000, сегодня эта цена — около $30 000. В результате большие чипы размером, близким к лимиту ретикла, реализованные на передовом техпроцессе, становятся доступны лишь избранным разработчикам, которые могут себе это позволить. Для новичков многокристальные проекты на базе передовой упаковки и стандартизированных межсоединений, таких как UCIe, начинают иметь гораздо больше смысла.
«Когда кристаллы достигают размера 500–600 мм², кривая выхода годных становится все более сложной. Достижение временного замыкания (timing closure) на кристалле размером с ретикл также является сложной задачей, — объяснил Гупта. — Я работал над ускорителем размером с ретикл, и переход от 99% к финальному 1% может потребовать непропорционально больших инженерных усилий.»
TYLsemi оценивает, что ее подход с использованием чиплетов может снизить совокупную стоимость владения на 57% при объеме 100 000 устройств: с $350 млн для монолитного 700 мм² чипа на 3-нм классе до $150 млн для конструкции, объединяющей 500 мм² вычислительный кристалл на 3-нм классе с четырьмя 100 мм² чиплетами ввода/вывода, изготовленными по техпроцессу N-1. В TYLsemi считают, что цена единицы монолитного чипа составит $3 000, тогда как стоимость SiP будет около $600. Компания объясняет экономию более высоким выходом годных, многоразовым кремнием для ввода/вывода, снижением затрат на лицензирование IP и проектирование, а также существенно более низкой стоимостью кремния на единицу. Однако компания подчеркивает, что эти цифры являются иллюстративными оценками, а не фактическими производственными затратами. Кроме того, многокристальные конструкции могут обеспечить более быстрое обновление продуктов по сравнению с большими монолитными кристаллами, так как они быстрее в разработке и имеют лучший выход годных.
«Вычисления могут перейти на 2-нм или A14, в то время как высокоскоростной ввод/вывод может остаться на 3-нм, поскольку I/O не масштабируется так же, как логика, — сказал Гупта. — Наши чиплеты для подачи питания могут использовать еще менее совершенный техпроцесс. Таким образом, заказчикам не обязательно использовать самую дорогую кремниевую площадь для каждой функции. [...] Не существует единого ответа для каждого проекта. Вы должны определить правильные точки декомпозиции, исходя из архитектуры, тепловых требований, корпуса и того, как несколько ускорителей взаимодействуют друг с другом. [...] Точное разделение будет варьироваться в зависимости от приложения, но вы все равно получите лучшую совокупную стоимость владения.»
TYLsemi нацелена в первую очередь на ИИ-инфраструктуру, поэтому она в целом предполагает использование многокристальных конструкций для ИИ-ускорителей, дата-центровых CPU, высокопроизводительных вычислений, сетевого и телекоммуникационного кремния, а также гетерогенных SoC. Однако компания также отмечает, что многокристальные конструкции уже широко используются и в потребительских CPU и GPU.
Источник изображения — tomshardware.com
Линейка фундаментальных чиплетов
Основой предложения TYLsemi являются ее фундаментальные чиплеты (foundation chiplets) — многоразовые строительные блоки, предназначенные для обработки общих невычислительных функций в заказных ИИ- и инфраструктурных процессорах. Они реализованы с использованием различных техпроцессов TSMC. В первую линейку продуктов входят:
- TYL.IO — семейство чиплетов для связи (connectivity), обеспечивающее высокоскоростной обмен данными по стандартам PCIe, ESUN и UALink, с дальнейшей дорожной картой на со-упакованную оптику (CPO) для межстоечных фабрик следующего поколения;
- TYL.Power — интегрированный регулятор напряжения (IVR), обеспечивающий эффективное и «умное» управление питанием внутри корпуса XPU;
- TYL.Mem — чиплет для подключения памяти, который пока находится на более раннем этапе дорожной карты; его технические характеристики и сроки выхода образцов компания пока не раскрывает;
- дорожная карта EIC — кремниевая фотоника с ко-пакетированием для будущих поколений продуктов.
Не все эти чиплеты будут доступны немедленно, так как у компании есть определенные приоритеты в условиях ограниченных ресурсов.
«Первый продукт TYL.IO декомпозирует функциональность PCIe, которая обычно находится на большом серверном процессоре; это 32-линейный чиплет PCIe Gen7/CXL, связанный с основным вычислительным кристаллом через UCIe, — объяснил Гупта. — Идея в том, что ядра CPU могут перейти на 2-нм, A14 или другой передовой техпроцесс, в то время как I/O чиплет остается на 3-нм. Следующий продукт в этом семействе будет решать задачу межсоединений (scale-up connectivity) между XPU внутри стойки с использованием высокоскоростных SerDes. Это будет значительно более крупное устройство, с примерно 72 линиями и пропускной способностью около 14 ТБ/с. У нас также есть дорожная карта EIC для кремниевой фотоники с ко-пакетированием. Мы ожидаем образцы нашего первого I/O продукта во второй половине 2027 года.»
Эти чиплеты могут использоваться как самостоятельные компоненты или интегрироваться с вычислительными кристаллами клиента, разработанными для TYLsemi через TYL.Forge — комплексную платформу заказного кремния от TYLsemi.
Источник изображения — tomshardware.com
TYL.Forge: платформа для тех, кто не хочет строить всё сам
TYL.Forge, пожалуй, один из ключевых факторов успеха бизнеса TYLsemi, поскольку программа нацелена на компании, у которых есть собственная вычислительная архитектура или даже вычислительный кристалл, но они не могут самостоятельно построить SiP или управлять всей цепочкой поставок полупроводников.
«На рынке есть более крупные компании по производству заказного кремния, но многие из них ориентируются на относительно небольшое количество клиентов, способных генерировать миллиарды долларов ежегодной выручки, — объяснил Гупта. — Мы видим возможность среди новых ИИ-компаний и системных интеграторов, которым нужен передовой кастомный кремний, но также нужен партнер, способный взять на себя ответственность за всю реализацию и цепочку поставок.»
Такие клиенты могут предоставить свой собственный вычислительный RTL, в то время как TYLsemi берет на себя физическую реализацию и интегрирует полученный вычислительный кристалл со своими предварительно проверенными чиплетами connectivity, питания и, в перспективе, памяти. Затем компания управляет процессом tape-out, упаковкой, сборкой, тестированием, квалификацией и крупносерийным производством.
«Например, клиент, создающий большой ускоритель, может принести нам свой движок умножения матриц, — сказал Гупта. — Мы можем реализовать заказной вычислительный кристалл и интегрировать его с нашими чиплетами, так что клиенту не придется изобретать заново I/O и другие общие функции. Это снижает риск и время выхода на рынок.»
Фактически, TYL.Forge выглядит гибким в отношении того, на каком этапе разработки клиент присоединяется к процессу. В TYLsemi описывают платформу как охватывающую все: от архитектуры и front-end дизайна до реализации, tape-out, сборки, квалификации и производства. Таким образом, вместо RTL клиенты могут прийти в TYLsemi с архитектурой или концепцией, и компания поможет разработать и реализовать кремний. Тем не менее, TYLsemi не намерена изобретать базовую вычислительную архитектуру клиента. Кроме того, клиенты могут принести уже существующий вычислительный кристалл, который TYLsemi объединит со своими чиплетами, упакует, протестирует и доведет до производства.
«Мы также ведем переговоры с компаниями, разрабатывающими серверные процессоры на базе Arm и RISC-V, — сказал Гупта. — Они могут разработать архитектуру, в то время как мы реализуем остальную часть кремния и доведем продукт до производства. Это дает клиентам экономическое и инженерное преимущество, потому что им не нужно создавать команды для каждой части чипа.»
Ключевое преимущество TYL.Forge — это повторное использование предварительно проверенных компонентов. Вместо разработки общих функций, таких как PCIe-соединение и подача питания, для каждого нового процессора, клиенты могут использовать предварительно проверенные фундаментальные чиплеты TYLsemi и сосредоточить инженерные ресурсы на дифференцирующих вычислительных архитектурах, программном обеспечении и системном дизайне. Теоретически TYLsemi может интегрировать сторонние чиплеты — не от клиента, а от стороннего поставщика. Тем не менее, основное внимание компании остается на предложении собственных предварительно проверенных чиплетов и заказного кремния с SiP, которые она строит.
«Потенциально мы могли бы интегрировать сторонние UCIe-чиплеты в систему на базе TYLsemi, UCIe проделал очень хорошую работу по определению электрического интерфейса,
