MWC 2018
2018
Computex
IFA 2018
Американский стартап Normal Computing объявил о разработке первого в мире термодинамического вычислительного чипа. Процессор CN101 сможет обрабатывать векторные и матричные операции, делая это в 1000 раз эффективнее классических процессоров. По большому счёту, его вычисления — это просто ожидание, когда законы термодинамики естественным образом приведут чип в состояние считывания выходных данных. Это изменит мир ИИ, уверены разработчики, и намерены это доказать.
Источник изображений: Normal Computing
За организацией стартапа стоят выходцы из Google, которые занимались в компании квантовыми вычислениями и ИИ. Они не увидели внятных перспектив для классических платформ и, тем более, квантовых, которые всё ещё топчутся на линии старта. Для ИИ, считают в Normal Computing, случайность — это норма, и эта норма естественна для обычных физических процессов, таких как рассеяние, флуктуации и другие стохастические явления. Зачем нагружать классические процессоры имитацией случайности, если физика сделает это сама и с минимальным для себя напряжением (с минимумом энергозатрат)? В идеале это могли бы быть квантовые процессоры, но когда они появятся — неизвестно.
Идея термодинамического процессора заключается в том, что он состоит из множества одинаковых колебательных контуров с конденсаторами. Весовые коэффициенты задаются величиной заряда конденсаторов. Затем процессор просто остывает — например, для ускорения вычислений его могут погрузить в воду. После установления термодинамического равновесия в среде заряды конденсаторов считываются, что даёт результат вычисления весовых коэффициентов без непосредственного расхода энергии на проведение операций. Метод доказал работоспособность для вычисления матричных операций и для линейной алгебры в целом. Чип CN101 будет работать именно в этой сфере. Для других задач компания создаст свои термодинамические чипы.
Если точнее, CN101 специально разработан для вычислений в области линейной алгебры и матричных операций, обеспечивая эффективное решение для крупномасштабных линейных систем, лежащих в основе инженерных задач, научных вычислений и оптимизации. Также чип оптимизирован для вычислений методом стохастической выборки с помощью решёточного случайного блуждания (LRW), что значительно ускоряет вероятностные вычисления, необходимые для научного моделирования и методов байесовского вывода.
Предложенное для рынка решение в лице CN101 — это первый шаг на пути к реализации концепции Normal Computing, направленной на коммерциализацию масштабных термодинамических вычислений, которые обеспечивают значительно более высокую производительность ИИ на ватт, стойку и доллар, максимально увеличивая производительность ИИ в рамках существующего энергобюджета.
В планах компании представить в 2026 году процессоры CN201 — диффузионные модели высокого разрешения и расширенные возможности ИИ, а в конце 2027 года или в начале 2028 года — разработать CN301, что станет переходом к усовершенствованным моделям видеодиффузии.
«В последние месяцы мы наблюдаем, что при нынешних энергозатратах и архитектуре возможности ИИ приближаются к пределу, даже несмотря на то, что в ближайшие 5 лет отрасль планирует увеличить количество обучающих циклов ещё в 10 000 раз. Термодинамические вычисления могут установить [новые] законы масштабирования на ближайшие десятилетия за счёт физической реализации алгоритмов ИИ, включая пост-авторегрессионные архитектуры. Достижение первого успеха [CN101] в области кремниевых технологий — это исторический момент для зарождающейся парадигмы, реализованной крайне малочисленной командой разработчиков», — заявил Фарис Сбахи (Faris Sbahi), генеральный директор Normal Computing
Теперь, после завершения разработки цифрового проекта CN101, компания Normal Computing переходит непосредственно к описанию характеристик, выпуску и тестированию. Полученные результаты будут использованы при разработке будущих чипов CN201 и CN301, которые расширят возможности термодинамических вычислений Normal для масштабирования рабочих нагрузок ИИ.
«Наша цель — масштабировать диффузионные модели с помощью нашего стохастического оборудования. В этом году мы продемонстрируем ключевые приложения на CN101, в следующем году достигнем высочайшей производительности при решении задач среднего масштаба с помощью GenAI на CN201 и, наконец, через два года добьёмся многократного повышения производительности при решении задач большого масштаба с помощью GenAI на CN301», — утверждает Патрик Коулз (Patrick Coles), главный научный сотрудник Normal Computing.
«CN101 представляет собой первую кремниевую демонстрацию нашей термодинамической архитектуры, которая использует случайность, метастабильность и шум для выполнения задач выборки. Изучив CN101, мы сможем заложить основу для понимания того, как эти случайные процессы ведут себя на реальном кремнии, и наметить чёткий путь к масштабированию нашей архитектуры для поддержки современных диффузионных моделей», — уверен Зак Белатеш (Zach Belateche), руководитель отдела разработки кремниевых технологий в Normal Computing.
Источник:
