ainews
Создать
Войти
Исследователи из Cornell Tech создали оптический приёмник, который позволяет обновлять параметры AI-моделей напрямую через световые матрицы, минуя энергозатратные аналоговые схемы. Технология может снизить потребление энергии в дата-центрах, беспилотниках и AI-роботах, хотя до коммерциализации ещё далеко из-за размера фоточувствительных ячеек памяти.
Профессор из Техасского университета доказала, что нейросети можно строить не на миллиардах умножений, а на простых таблицах поиска (lookup tables). Результат: модели в 1000 раз меньше и быстрее при той же точности. Пока работает на медсенсорах и распознавании ключевых слов, но цель — заменить трансформеры в ChatGPT.
Тесты показали: на AMD MI50 для инференса LLM оптимальным оказался режим 50W — почти та же скорость генерации (70% от пика), но втрое эффективнее по энергии. При 20W карта работает в 6 раз экономичнее топовых настроек, хотя обработка промптов падает вдвое.
