Посттренировочное квантование больших языковых моделей для периферийных вычислений

Standard

Посттренировочное квантование больших языковых моделей для периферийных вычислений. / Ерофеевский, Даниил Владимирович ; Митько, Арсений Валерьевич.

в: Деловой журнал «Neftegaz.RU», № 3(172), 03.2026, стр. 32-37.

Результаты исследований: Прочие публикации в периодических изданиях › статья › научно-популярная

BibTeX

@misc{d6f67c610f314cc8aad279c632bee43a,

title = "Посттренировочное квантование больших языковых моделей для периферийных вычислений",

abstract = "Технологии искусственного интеллекта и интернета вещей широко применяются в нефтегазовой отрасли для анализа потоковых данных SCADA и телеметрии, мониторинга состояния оборудования и поддержки управленческих решений. Появление больших языковых моделей расширяет возможности таких систем за счет обработки текстовых отчетов, интеграции знаний технической документации и интеллектуального взаимодействия с операторами. Однако высокие вычислительные затраты и требования к памяти препятствуют их внедрению в системах управления нефтегазовыми объектами, работающими в реальном времени с ограниченными ресурсами. В статье рассматривается посттренировочное квантование как ключевой метод адаптации больших языковых моделей к ресурсно ограниченной инфраструктуре нефтегазовых объектов. Показано, что перевод весов и активаций моделей в низкоразрядные представления позволяет существенно сократить объем памяти и ускорить инференс при минимальной потере точности.",

author = "Ерофеевский, {Даниил Владимирович} and Митько, {Арсений Валерьевич}",

year = "2026",

month = mar,

language = "русский",

pages = "32--37",

journal = "Деловой журнал «Neftegaz.RU»",

issn = "2410-3837",

publisher = "Коммуникационное агентство Neftegaz.RU",

}

RIS

TY - GEN

T1 - Посттренировочное квантование больших языковых моделей для периферийных вычислений

AU - Ерофеевский, Даниил Владимирович

AU - Митько, Арсений Валерьевич

PY - 2026/3

Y1 - 2026/3

N2 - Технологии искусственного интеллекта и интернета вещей широко применяются в нефтегазовой отрасли для анализа потоковых данных SCADA и телеметрии, мониторинга состояния оборудования и поддержки управленческих решений. Появление больших языковых моделей расширяет возможности таких систем за счет обработки текстовых отчетов, интеграции знаний технической документации и интеллектуального взаимодействия с операторами. Однако высокие вычислительные затраты и требования к памяти препятствуют их внедрению в системах управления нефтегазовыми объектами, работающими в реальном времени с ограниченными ресурсами. В статье рассматривается посттренировочное квантование как ключевой метод адаптации больших языковых моделей к ресурсно ограниченной инфраструктуре нефтегазовых объектов. Показано, что перевод весов и активаций моделей в низкоразрядные представления позволяет существенно сократить объем памяти и ускорить инференс при минимальной потере точности.

AB - Технологии искусственного интеллекта и интернета вещей широко применяются в нефтегазовой отрасли для анализа потоковых данных SCADA и телеметрии, мониторинга состояния оборудования и поддержки управленческих решений. Появление больших языковых моделей расширяет возможности таких систем за счет обработки текстовых отчетов, интеграции знаний технической документации и интеллектуального взаимодействия с операторами. Однако высокие вычислительные затраты и требования к памяти препятствуют их внедрению в системах управления нефтегазовыми объектами, работающими в реальном времени с ограниченными ресурсами. В статье рассматривается посттренировочное квантование как ключевой метод адаптации больших языковых моделей к ресурсно ограниченной инфраструктуре нефтегазовых объектов. Показано, что перевод весов и активаций моделей в низкоразрядные представления позволяет существенно сократить объем памяти и ускорить инференс при минимальной потере точности.

UR - https://magazine.neftegaz.ru/articles/tsifrovizatsiya/918787-posttrenirovochnoe-kvantovanie-bolshikh-yazykovykh-modeley-dlya-periferiynykh-vychisleniy/

M3 - статья

SP - 32

EP - 37

JO - Деловой журнал «Neftegaz.RU»

JF - Деловой журнал «Neftegaz.RU»

SN - 2410-3837

ER -

ID: 150934247