Google выбрала Intel EMIB-T вместо TSMC CoWoS для TPU

Google выбрала упаковку Intel EMIB-T вместо TSMC CoWoS для TPU девятого поколения

По данным аналитической компании SemiAnalysis, специализирующейся на полупроводниковой отрасли, Google планирует использовать упаковку EMIB-T от Intel для своего TPU следующего поколения под кодовым названием Humufish. Портфолио технологий chip-on-wafer-on-substrate (CoWoS) от TSMC давно стало фактическим отраслевым стандартом для большинства AI- и HPC-процессоров. Альтернативные решения обычно рассматривались как запасной вариант на случай дефицита CoWoS, но ситуация начинает меняться.

Источник изображения - Google

Google — давний клиент CoWoS для линейки TPU: эта упаковка использовалась начиная с третьего поколения вплоть до восьмого. Если данные SemiAnalysis о переходе Google на EMIB-T для TPU девятого поколения подтвердятся, это станет действительно значимым решением: смена одной технологии продвинутой упаковки на другую — сложный процесс, сопряжённый с множеством изменений и неопределённостей. Понимание причин такого перехода способно многое сказать о перспективах упаковочных технологий Intel и TSMC, которые в ближайшие годы будут определять выбор ведущих разработчиков чипов и гиперскейлеров.

Технологии упаковки: коротко о главном

Долгое время Google применяла упаковку CoWoS-S от TSMC, а затем перешла на CoWoS-L. Изначально компания использовала CoWoS-S на кремниевом интерпозере размером до 3,3× ретикла, но начиная с седьмого и восьмого поколений TPU перешла на CoWoS-L. Эта технология опирается на интерпозер со слоем перераспределения (RDL) со встроенными локальными кремниевыми мостами (LSI), которые обеспечивают высокопроизводительные соединения «чип-к-чипу» и позволяют масштабировать пакет до 5,5× размера ретикла уже сегодня. TSMC обещает довести возможности CoWoS-L до масштабирования более чем в 14 раз к концу десятилетия.

Источник изображения - Intel

В отличие от CoWoS, технология Intel Embedded Multi-die Interconnect Bridge (EMIB) вовсе обходится без интерпозеров. Вместо этого она полагается на миниатюрные встроенные кремниевые мосты внутри подложки, которые обеспечивают высокоплотные межкристальные соединения, а всё остальное маршрутизируется через сравнительно недорогую органическую подложку.

EMIB-T добавляет к мосту сквозные кремниевые переходы (TSV), благодаря которым электричество передаётся вертикально, а не через органическую подложку. Кроме того, EMIB-T интегрирует в мост сложные конденсаторы металл-изолятор-металл (MIM) и выделенную плоскость заземления — это улучшает целостность питания. Для AI-ускорителей нового поколения, которым требуется больше энергии повышенной чистоты, эта особенность особенно важна: подача питания становится не менее сложной задачей, чем маршрутизация сигналов.

реклама кормит Уточку 🦆

Главное преимущество EMIB (и EMIB-T) в том, что технология не ограничена пределами ретикла интерпозера, поскольку небольшие кремниевые мосты размещаются только там, где действительно нужны высокоплотные соединения «чип-к-чипу». Строго говоря, CoWoS-L тоже не имеет такого ограничения, поскольку тоже использует локальные LSI-мосты. Разница в том, что у CoWoS-L эти мосты встроены в интерпозер RDL, который покрывает весь пакет целиком и обеспечивает плотные межсоединения по всей его площади.

Поскольку CoWoS-L и EMIB-T решают одни и те же задачи и во многом похожи по реализации, выбор между ними, вероятно, определяется совокупностью факторов, а не одним решающим преимуществом или недостатком. С технической стороны это производительность и плотность межсоединений, качество подачи питания, возможность масштабирования за пределы очень крупных пакетов и механическая жёсткость. С деловой — стоимость, доступность производственных мощностей и диверсификация цепочки поставок.

Ключевые различия

Источник изображения - Tom's Hardware

SemiAnalysis называет отсутствие ограничения по ретиклу главным преимуществом EMIB/EMIB-T перед CoWoS, но этот аргумент не вполне справедлив в отношении CoWoS-L: эта технология и создавалась специально для того, чтобы обойти ограничение ретикла — за счёт замены монолитного кремниевого интерпозера локализованными LSI-мостами.

Когда речь заходит о плотной маршрутизации по всей площади пакета, RDL-интерпозер CoWoS-L принципиально превосходит обычную органическую подложку EMIB-T. Проводники органической подложки имеют более грубый шаг линий и зазоров и более крупные переходные отверстия, поэтому такая же плотность маршрутизации, как у мелкошагового RDL в CoWoS-L, для неё недостижима. Там, где мост EMIB соединяет соседние кристаллы, Intel способна добиться очень высокой плотности межсоединений. Но всё, что должно передаваться за пределы этих мостов, вынуждено идти через подложку пакета либо через топологию с дополнительными мостами.

CoWoS-L, напротив, даёт разработчику сразу два уровня связности: LSI-мосты обеспечивают предельно плотные локальные соединения «чип-к-чипу», а глобальный RDL-интерпозер — сравнительно плотную и гибкую маршрутизацию по всему пакету. Благодаря этому RDL способен передавать более протяжённые связи с меньшей плотностью, не расходуя ценный ресурс LSI-мостов, и при этом предлагает куда более тонкую маршрутизацию, чем базовая подложка пакета.

реклама кормит Уточку 🦆

Один из вероятных сценариев: Google могла хотеть более качественной подачи питания, чем способна дать CoWoS-L. EMIB-T встраивает в свои кремниевые мосты TSV для вертикальной подачи питания, сложные MIM-конденсаторы для локальной развязки и выделенную плоскость заземления. Сочетание этих решений заметно снижает импеданс цепи питания и улучшает переходную характеристику и целостность энергоснабжения — это даёт EMIB-T существенное преимущество перед обычным EMIB для энергоёмких AI-ускорителей. Но как именно EMIB-T соотносится с CoWoS-L конкретно в случае Humufish от Google, пока не известно.

Разумеется, чем крупнее становится RDL-интерпозер, тем выше могут быть его паразитные параметры, что потенциально ограничивает масштабирование, если TSMC не найдёт способ их скомпенсировать. Однако и EMIB не избавляет от необходимости в протяжённых линиях связи: если два удалённых кристалла должны обмениваться данными, сигналам всё равно нужно куда-то передаваться, а маршрутизация через органическую подложку не обладает принципиальным электрическим превосходством над маршрутизацией через специально спроектированный RDL-интерпозер. Поэтому сложно утверждать, что Google выбрала EMIB-T вместо CoWoS-L просто потому, что EMIB-T обеспечивает лучшие электрические характеристики по всему пакету.

После того как Nvidia столкнулась с потерями выхода годных в дата-центровых GPU Blackwell из-за предполагаемого несовпадения коэффициента теплового расширения (CTE) между чиплетами GPU, LSI-мостами, RDL-интерпозером и подложкой материнской платы — что приводило к короблению и отказам системы, — резонно задаться вопросом о механической жёсткости пакетов CoWoS-L. Nvidia нашла решение для своих пакетов Blackwell с двумя вычислительными чиплетами, как и другие разработчики AI-ускорителей. Но по мере роста размеров пакета его поведение может меняться, а значит — приводить к новым потерям выхода годных.

EMIB/EMIB-T, напротив, обходится без крупного RDL-интерпозера и встраивает небольшие кремниевые мосты прямо в органическую подложку, так что основной объём пакета приходится на саму подложку. Это не делает пакеты EMIB/EMIB-T невосприимчивыми к механическим отказам — крупные пакеты всё равно могут коробиться и изгибаться, вызывая самые разные проблемы. Но поскольку в таких пакетах отсутствует сам источник глобальных термомеханических напряжений, потенциально они могут оказаться более надёжными механически. При этом EMIB-T способен усложнить ситуацию: TSV, дополнительные металлические структуры, MIM-конденсаторы и плоскость заземления делают мост сложнее. Поэтому Intel предстоит управлять одновременно и глобальным короблением всего пакета, и локальными напряжениями вокруг каждого встроенного моста, чтобы обеспечить механическую жёсткость.

По иронии судьбы, там, где CoWoS-L способен предложить более плотную маршрутизацию по всему пакету — что лучше подходит для сверхбольших процессоров, — EMIB-T потенциально обеспечивает как раз ту механическую жёсткость, которая нужна таким устройствам. Тем не менее ни EMIB-T, ни его органическая подложка не устраняют риск изгиба или растрескивания пакета полностью.

реклама кормит Уточку 🦆

Экономика решения

Если Google действительно переведёт свой TPU Humufish на EMIB-T, это решение может оказаться одновременно и техническим, и стратегическим. У компании достаточно инженерных ресурсов, чтобы выбрать принципиально новую технологию упаковки в попытке снизить издержки и избавиться от зависимости от ограниченных мощностей CoWoS у TSMC. Nvidia, как правило, резервирует квоты на продвинутую упаковку на годы вперёд, так что вполне возможно, что Google просто не смогла получить достаточно пластин CoWoS-L для своего TPU девятого поколения.

Вдобавок Google получает возможность выстроить отношения с Intel Foundry, даже не используя производственные технологии компании напрямую. Учитывая, что Intel и Google уже связаны стратегическим соглашением по процессорам Intel Xeon, не было бы ничего удивительного в том, что облачный гигант присматривается и к Intel Foundry.

И у Intel EMIB-T, и у TSMC CoWoS-L есть свои технологические и экономические сильные и слабые стороны. Пожалуй, главное преимущество CoWoS-L — предсказуемость: у Google уже есть опыт работы именно с этой технологией. Но если компания решила пожертвовать этой предсказуемостью ради принципиально нового метода упаковки, у неё, скорее всего, была для этого целая комбинация технологических и стратегических причин.

реклама кормит Уточку 🦆

Контекст: дефицит CoWoS и первые подтверждения

Сама по себе гипотеза SemiAnalysis не отменяет того факта, что дефицит мощностей CoWoS у TSMC — это не домысел, а признанная проблема всей отрасли. На годовом собрании акционеров в Синьчжу в начале июня генеральный директор TSMC Си Си Вэй (C.C. Wei) прямо заявил, что компании потребуется ещё немало времени, чтобы полностью удовлетворить спрос клиентов, а осенью прошлого года он же говорил о нехватке мощностей продвинутых узлов примерно в три раза относительно спроса. Основная часть очереди на CoWoS сосредоточена у нескольких крупных заказчиков: на Nvidia приходится порядка 60% мирового спроса, ещё около 26% делят между собой Broadcom и AMD — на разработчиков заказных ускорителей и менее крупных производителей AI-чипов остаётся совсем немного места.

Экономика тоже играет свою роль. По оценке аналитиков Bernstein, упаковка EMIB обходится всего в несколько сотен долларов на чип — против $900–1000 за CoWoS для процессора класса Rubin. Впрочем, сама Bernstein оговаривается, что за EMIB-T пока нет длительной истории серийного производства у внешних заказчиков, поэтому эту оценку стоит воспринимать с определённой осторожностью.

Есть и более конкретное подтверждение тенденции. По данным издания The Information со ссылкой на источники, знакомые с ситуацией, Google уже разместила у Intel заказ на упаковку свыше 3 миллионов TPU на 2028 год. В том же материале утверждается, что Nvidia рассматривает Intel как площадку для будущего процессора, объединяющего четыре кристалла GPU в одном корпусе — в рамках архитектуры Feynman, ожидаемой в 2028 году, — а SK hynix тестирует, насколько надёжно её память HBM работает в паре с упаковкой Intel. Собственный AI-ускоритель Intel под кодовым именем Jaguar Shores — преемник закрытого проекта Falcon Shores — должен стать первым продуктом, использующим именно EMIB-T.

Есть и повод для осторожности. По оценке аналитика Мин-Чи Куо (Ming-Chi Kuo), достигнутый на сегодня выход годных для EMIB-T держится в районе 90%, тогда как ориентир по отраслевому стандарту FCBGA — свыше 98%; для сравнения, у упаковки CoWoS от TSMC под 5,5-ретикловые пакеты цель на 2026 год тоже начинается от 98%. По его оценке, путь от 90 до 98% гораздо сложнее, чем путь от нуля до 90%, — а часть параметров Humufish пока не финализирована, что добавляет неопределённости. Иными словами, техническая привлекательность EMIB-T не отменяет главного открытого вопроса: сможет ли Intel довести эту технологию до зрелости серийного производства в нужные Google сроки.