Устраняя самый дорогостоящий с точки зрения вычислений элемент большой языковой модели, инженеры значительно повышают энергоэффективность при сохранении производительности, сообщает news.ucsc.edu

Доказано, что большие языковые модели, такие как ChaptGPT, способны выдавать удивительно интеллектуальные результаты, но энергетические и денежные затраты, связанные с запуском этих масштабных алгоритмов, заоблачно высоки. По последним оценкам, запуск ChatGPT 3.5 обходится в 700 000 долларов в день в виде затрат на электроэнергию и оставляет после себя огромный углеродный след.

В новом препринте исследователи из Калифорнийского университета в Санта-Крус показывают, что можно исключить самый дорогостоящий с точки зрения вычислений элемент запуска моделей большого языка, называемый матричным умножением, при сохранении производительности.

Избавившись от матричного умножения и запустив свой алгоритм на специализированном оборудовании, исследователи обнаружили, что они могут обеспечить работу языковой модели с миллиардом параметров всего на 13 ваттах, что примерно равно энергии, потребляемой лампочкой и более чем в 50 раз эффективнее, чем [это делает] обычное оборудование.


( Читать дальше )

New Scientist опубликовал странное видео, на котором показано экспериментальное лицо, предназначенное для робота, которое сделано из живых клеток человеческой кожи и способно улыбаться.

Что?

Да, вы все правильно поняли.

Издание пишет, что «улыбающееся лицо, сделанное из живой человеческой кожи, однажды может быть прикреплено к роботу-гуманоиду, что позволит машинам выражать эмоции и общаться более реалистично, говорят исследователи».

Его морщины также могут оказаться полезными для косметической промышленности.

Живая ткань представляет собой культивированную смесь клеток кожи человека, выращенных в коллагеновом каркасе и помещенных поверх полимерной основы, напечатанной на 3D-принтере.


( Читать дальше )

Дроны-квадрокоптеры могут быть маневренными, но они также относительно широкие и хрупкие, что ограничивает возможности их использования. Дрон Morphy устраняет эти недостатки с помощью гибких пропеллеров, которые позволяют ему протискиваться сквозь узкие пространства.

Функциональный прототип Morphy был создан Костасом Алексисом, Мортеном Кристианом Ниссовым и Паоло де Петрисом в Лаборатории автономных роботов Норвежского университета науки и технологий.

На первый взгляд созданный по индивидуальному заказу летательный аппарат очень похож на любой другой компактный квадрокоптер, оснащенный защитой пропеллеров. Однако каждый из пропеллеров дрона соединен с основным корпусом через эластомерное соединение, напечатанное на 3D-принтере. Внутри каждого из этих соединений находится 3D-датчик Холла.


( Читать дальше )