Инженеры из американской технологической компании BitEnergy AI разработали алгоритм, позволяющий сократить потребление энергии приложениями, использующими искусственный интеллект (ИИ), почти вдвое (на 95%). Соответствующая статья опубликована на портале arXiv, где размещаются нерецензированные научные работы.
С ростом популярности ИИ резко увеличилась потребность в энергии. Например, одна из популярных ИИ-моделей, ChatGPT, ежедневно использует примерно 564 мегаватт-часов энергии, которой будет достаточно для обеспечения электричеством 18 тысяч домов.
Инженеры из BitEnergy AI отметили, что благодаря их разработке удалось значительно уменьшить объем вычислений, необходимых для запуска приложений, использующих ИИ, без потери производительности.
Метод, предложенный специалистами, называется «умножение линейной сложности» (Linear-Complexity Multiplication) и основывается на использовании целочисленных операций вместо более затратного умножения с плавающей точкой.
Исследователи подчеркнули, что такой подход несовместим с существующим оборудованием, однако они уже создали и протестировали устройства для реализации своего решения.
Фото: freepik.com