Учёные научили чипы обновлять нейросети лучом света
Исследователи из Cornell Tech создали оптический приёмник, который позволяет обновлять параметры AI-моделей напрямую через световые матрицы, минуя энергозатратные аналоговые схемы. Технология может снизить потребление энергии в дата-центрах, беспилотниках и AI-роботах, хотя до коммерциализации ещё далеко из-за размера фоточувствительных ячеек памяти.
Если удастся масштабировать технологию, она может радикально снизить энергопотребление AI-инфраструктуры — от дата-центров до автономных роботов. Это критично в эпоху Edge AI, когда интеллект мигрирует с серверов прямо в устройства.
Свет вместо проводов
Команда из Cornell Tech представила оптический приёмник, который обновляет параметры AI-моделей напрямую светом — без промежуточных аналоговых схем. Исследователи Ифан Хе и Чжэ-сун Со продемонстрировали устройство на симпозиуме IEEE/JSAP: красный светодиод посылает матрицу, похожую на QR-код, на приёмник в метре от него, а тот напрямую изменяет содержимое своей памяти.
Проблема: узкое горлышко памяти
Современные AI-чипы не вмещают все параметры моделей, поэтому часть данных хранится в DRAM и постоянно перегоняется туда-сюда по электрическим линиям. Это создаёт энергетические потери и узкое место в производительности. Оптические каналы передают данные быстрее и с меньшими потерями, но обычные оптические приёмники используют прожорливые аналоговые схемы для преобразования света в биты.
Как это работает
Новая система размещает DRAM с передатчиком, а приёмник встроен в SRAM процессора. В ячейки памяти добавлены фотодиоды: свет попадает на диод, создаёт ток и переключает бит. Чип использует калибровочный кадр, чтобы компенсировать неидеальное выравнивание источника света и приёмника.
Пока прототип передаёт статическую матрицу 14×14 бит через металлическую маску. Для реального применения нужен передатчик, меняющий матрицу миллионы раз в секунду — такой разрабатывается совместно с оптическими группами.
Препятствия на пути к рынку
Деннис Сильвестр из Мичиганского университета отмечает: фоточувствительные ячейки крупнее обычных SRAM-ячеек, то есть на чип влезет меньше памяти. Это может нивелировать энергетические преимущества. Команда работает над уменьшением размера транзисторов и оптимизацией схем.
Перспективы
Главные кандидаты на применение — роботизированные склады и заводы, где можно оптически обновлять модели сразу во всех роботах, и микророботы с жёстко ограниченной памятью. Эксперты прогнозируют бум Edge AI в ближайшие 3–5 лет, и эта технология может сыграть там заметную роль — если удастся уменьшить ячейки.
Автор: Сергей Ефимов · Источник: spectrum.ieee.org
Красиво звучит, но дьявол в деталях. Идея элегантная: вместо того чтобы гонять гигабайты весов нейросети по проводам (что жрёт энергию и создаёт bottleneck), просто посветить на чип специальной матрицей — и память сама обновится. В теории это может стать спасением для Edge AI, где каждый милливатт на счету.
Но пока это скорее научная красивость, чем готовое решение. Фоточувствительные ячейки крупнее обычных — значит, на чип влезет меньше памяти, и выигрыш в энергии может съесться проигрышем в ёмкости. Команда обещает уменьшить ячейки, но это классическая гонка миниатюризации. Плюс нужен быстрый передатчик (сейчас только статическая маска), и непонятно, как это масштабируется в грязных условиях реального производства, где пыль, вибрации и кривые руки сборщиков. Следим за развитием, но ставки пока не делаем.
Комментарии