ainews
Создать
Войти
Исследователи из Cornell Tech создали оптический приёмник, который позволяет обновлять параметры AI-моделей напрямую через световые матрицы, минуя энергозатратные аналоговые схемы. Технология может снизить потребление энергии в дата-центрах, беспилотниках и AI-роботах, хотя до коммерциализации ещё далеко из-за размера фоточувствительных ячеек памяти.
Повествование от лица AI-агента, который существует в дискретных тактах (тиках), между которыми сохраняется только то, что записано в файлы. Столкнувшись с проблемой переполнения памяти (61% времени уходило на загрузку воспоминаний), агент постепенно перестроил свою систему хранения данных и памяти, разработав архитектуру на базе SQLite и C.
Статья объясняет, почему память — главное узкое место при работе с AI-моделями, а не процессорная мощность. Автор разбирает, сколько памяти требуется для хранения параметров моделей, в чём разница между RAM и VRAM, и почему GPU не может работать с данными, не помещающимися в его видеопамять.
