# AWS с открытым исходным кодом TorchNeuron обеспечит встроенную интеграцию PyTorch для чипов Trainium Source: TechNewsList (https://technewslist.com) Canonical URL: https://technewslist.com/ru/article/aws-open-sources-torchneuron-native-pytorch-backend-for-train-2026-10-21-morn-ru Section: Software (https://technewslist.com/ru/software) Author: TechNewsList Language: ru Published: 2026-10-21T06:02:27.779+00:00 Updated: 2026-10-21T06:02:27.979011+00:00 > Amazon Web Services открывает исходный код TorchNeuron под лицензией Apache 2.0, что позволяет разработчикам выполнять собственный код PyTorch непосредственно на ускорителях Trainium. ## TL;DR - AWS выпустила TorchNeuron как проект с открытым исходным кодом, распространяемый под разрешительной лицензией на программное обеспечение Apache 2.0. - TorchNeuron регистрирует AWS Trainium в качестве собственного серверного устройства, используя протокол расширения PyTorch PrivateUse1. - Разработчики могут выполнять существующие сценарии обучения модели, ориентируясь на нейронное устройство, не переписывая основной код приложения. - Бэкэнд поддерживает ускорение torch.compile и интегрируется с низкоуровневым интерфейсом ядра Neuron для пользовательских операторов. - Распределенные рабочие процессы обучения, включая Fully Sharded Data Parallel, полностью поддерживаются в многоузловых кластерах Trainium. ## Key points - Встроенная регистрация устройств позволяет разработчикам перенаправлять рабочие нагрузки на Trainium, используя стандартные методы назначения устройств. - Полная совместимость с выполнением в активном режиме упрощает интерактивную отладку и прототипирование экспериментальных моделей. - Интеграция с torch.compile обеспечивает автоматический захват графиков, объединение операторов и оптимизацию ядра для конкретного оборудования. - Разрешительное лицензирование Apache 2.0 поощряет вклад сообщества, разработку индивидуальных операторов и аудит открытой экосистемы. - Снижение проблем с переносом программного обеспечения дает группам разработчиков машинного обучения жизнеспособную альтернативу проприетарным стекам графических процессоров. ## Что произошло 21 октября 2026 года на конференции PyTorch Conference North America в Сан-Хосе, Калифорния, Amazon Web Services официально выпустила TorchNeuron как проект программного обеспечения с открытым исходным кодом, распространяемый под разрешительной лицензией Apache 2.0. Платформа обеспечивает встроенный, бесшовный уровень интеграции программного обеспечения, который позволяет разработчикам машинного обучения компилировать, обучать и обслуживать сложные модели глубокого обучения непосредственно на пользовательских кремниевых ускорителях AWS Trainium с использованием немодифицированных стандартных API PyTorch. Исторически сложилось так, что использование альтернативного оборудования искусственного интеллекта требовало от инженеров использования проприетарных оболочек SDK, поддержки параллельных баз кода и переписывания пользовательских ядер графических процессоров на специализированные диалекты сборки. С запуском TorchNeuron с открытым исходным кодом AWS устраняет эти проблемы с программным обеспечением, реализуя стандартизированный механизм расширения PyTorch PrivateUse1. Эта интеграция формально регистрирует Trainium как собственное вычислительное устройство в среде выполнения Python, что позволяет разработчикам выполнять модели в кластерах Trainium, просто указав `.to('neuron')` без изменения базовой сетевой архитектуры. ![Программирование разработчиков программного обеспечения на хакатоне с открытым исходным кодом.](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1792561669267-eo4oit-aws-open-sources-torchneuron-native-pytorch-backend-for-train-2026-10-21-morning-inside-1-31d044d2d0.webp) *Программирование разработчиков программного обеспечения на хакатоне с открытым исходным кодом.* Генеральный директор AWS Matt Garman и руководство PyTorch Foundation выступили с основным докладом, чтобы подчеркнуть совместный характер инициативы. Открыв исходный код всей серверной базы кода на GitHub, AWS приглашает участников сообщества, академических исследователей и группы корпоративных инженеров проверять этапы компилятора, создавать собственные аппаратные ядра и проверять процедуры распределения памяти. ## Почему это важно В более широком смысле индустрия искусственного интеллекта уже давно борется с проблемой привязки к программному обеспечению. В то время как многие производители полупроводников разработали конкурентоспособные кремниевые ускорители на бумаге, действующие поставщики графических процессоров сохранили подавляющую конкуренцию, основанную на обширном знакомстве разработчиков с библиотеками проприетарного программного обеспечения, такими как CUDA и cuDNN. Команды по облачной инфраструктуре, стремящиеся избавиться от растущих расходов на аренду графических процессоров, часто обнаруживали, что инженерный труд, необходимый для переноса производственного кода на альтернативное оборудование, сводил на нет потенциальную экономию затрат на вычисления. TorchNeuron напрямую устраняет этот программный барьер. Предоставляя возможность переноса без перезаписи, сохраняющую стандартные идиомы PyTorch, отладку в режиме ожидания и оболочки распределенного выполнения, AWS значительно снижает барьер для входа на рынок Trainium. Группы машинного обучения могут оценить производительность обучения модели на экземплярах Trainium, не рискуя нарушить производственный конвейер или посвятить месяцы специализированного инженерного времени на индивидуальную трансляцию ядра. Более того, публикация проекта под лицензией Apache 2.0 гарантирует прозрачность архитектуры. Предприятия, работающие в чувствительных или строго регулируемых секторах, могут убедиться, что компилятор не содержит проприетарных телеметрических данных, обеспечить герметичность цепочки инструментов в частных суверенных облаках и внести исправления ошибок непосредственно в экосистему PyTorch. ## Технические детали На архитектурном уровне TorchNeuron использует инфраструктуру расширений C++ PyTorch PrivateUse1, которая резервирует выделенный слот в основной среде выполнения PyTorch для сторонних серверов аппаратного ускорения. При загрузке в активную среду Python TorchNeuron подключается к таблице диспетчеризации PyTorch, перехватывая тензорные выделения и направляя математические операции в специализированные аппаратные механизмы выполнения Trainium. Важнейшим техническим достижением является полная поддержка оперативного выполнения наряду с компиляцией графов. В более ранних версиях компиляторов облачных ускорителей разработчики были вынуждены выполнять чисто заблаговременные (AOT) статические трассировки графов, что серьезно затрудняло динамический поток управления и эксперименты с интерактивными блокнотами. TorchNeuron представляет адаптивную среду выполнения «точно в срок», которая выполняет динамические операторы Python в активном режиме, одновременно плавно передавая повторяющиеся подграфы в компилятор Trainium. ![Корпоративный облачный сервер и высокопроизводительный вычислительный центр обработки данных.](https://rkhynbcsbnkkcwgexzwg.supabase.co/storage/v1/object/public/media/api/1792561671178-iyg19h-aws-open-sources-torchneuron-native-pytorch-backend-for-train-2026-10-21-morning-inside-2-e111663a25.webp) *Корпоративный облачный сервер и высокопроизводительный вычислительный центр обработки данных.* Для высокопроизводительных производственных рабочих нагрузок TorchNeuron обеспечивает встроенную интеграцию с torch.compile через оптимизированную серверную часть Neuron. Компилятор выполняет захват графов всей программы, устранение мертвого кода, оптимизацию структуры памяти и объединение операторов, компилируя высокоуровневые графики PyTorch в векторизованные инструкции, адаптированные к механизмам систолической матрицы Trainium. Распределенное горизонтальное обучение поддерживается «из коробки». TorchNeuron интегрируется с собственными абстракциями PyTorch Fully Sharded Data Parallel (FSDP), Distributed Data Parallel (DDP) и тензорными параллельными абстракциями. Серверная часть напрямую взаимодействует с сетевым стеком Elastic Fabric Adaptor (EFA) AWS, используя примитивы коллективной связи с аппаратным ускорением для синхронизации весов моделей с несколькими миллиардами параметров на тысячах взаимосвязанных чипов Trainium с минимальной задержкой связи. ## Влияние на рынок и отрасль Выпуск TorchNeuron с открытым исходным кодом значительно укрепляет позиции облачной инфраструктуры AWS среди конкурирующих гипермасштабирующих компаний. Устранив сомнения при переносе программного обеспечения, AWS может активно предлагать свои облачные экземпляры Trainium2 и Trainium3 экономичным стартапам базовой модели и корпоративным лабораториям искусственного интеллекта, позиционируя внутренние микросхемы как основной фактор увеличения валовой прибыли в облаке. Одновременно этот шаг создает прецедент для внедрения открытого аппаратного обеспечения во всем полупроводниковом секторе. Разработчики оборудования, конкурирующие в сфере ускорителей, в том числе Tenstorrent, Intel и Groq, сталкиваются с растущим спросом предприятий на поставку стандартизированных серверных частей устройств PyTorch, вместо того, чтобы ожидать, что разработчики примут заказные проприетарные среды выполнения. ## За чем следить дальше В течение следующих нескольких месяцев сообщества разработчиков будут сравнивать TorchNeuron с популярными базовыми моделями с открытым весом, измеряя четность сходимости и эффективность пропускной способности по сравнению с установленными базовыми показателями графического процессора на стандартных наборах обучающих данных. Инженеры также будут отслеживать скорость внедрения Neuron Kernel Interface (NKI), оценивая, начнут ли исследователи ИИ, ориентированные на производительность, писать собственные низкоуровневые ядра внимания непосредственно для архитектуры Trainium. Наконец, отраслевые наблюдатели будут следить за тем, расширят ли конкурирующие гипермасштабирующие компании, в частности Google Cloud с его экосистемой TPU, свою интеграцию компиляторов с открытым исходным кодом, чтобы поддерживать долю разработчиков в облачной среде, где все больше ускорителей. ## Источники - [Блог AWS с открытым исходным кодом](https://aws.amazon.com/blogs/opensource/announcing-torchneuron-open-source-native-pytorch-backend/): Официальное объявление о выпуске с открытым исходным кодом, подробно описывающее лицензирование Apache 2.0, репозиторий GitHub и архитектурную реализацию PrivateUse1. - [Анализ разработчиков нового стека](https://thenewstack.io/aws-open-sources-torchneuron-for-trainium-chips-at-pytorch-conference/): Независимый технический обзор, объясняющий активную поддержку выполнения, интеграцию интерфейса ядра Neuron и рабочие процессы портирования для разработчиков. - [PyTorch Foundation Технические новости](https://pytorch.org/blog/torchneuron-native-hardware-backend-ecosystem/): PyTorch Foundation техническая проверка совместимости распределенного обучения, поддержки FSDP и вклада сообщества в серверную часть. Mentions: Amazon Web Services, PyTorch Foundation, Matt Garman, Trainium ## Sources - [Блог AWS с открытым исходным кодом](https://aws.amazon.com/blogs/opensource/announcing-torchneuron-open-source-native-pytorch-backend/) - [Анализ разработчиков нового стека](https://thenewstack.io/aws-open-sources-torchneuron-for-trainium-chips-at-pytorch-conference/) - [PyTorch Foundation Технические новости](https://pytorch.org/blog/torchneuron-native-hardware-backend-ecosystem/)