ProtoLLM
| license |  |
|---|---|
| support | 
|
| languages | 
|
| mirror |  |
| funding | 
|
Proto-LLM - это фреймворк с открытым исходным кодом для быстрого протипирования приложений, основанных на больших языковых моделях (БЯМ). Он позволяет создавать ИИ-ассистентов, основанных на применения агентных БЯМ, вызова функции, RAG и методов ансамблирования.
- Быстрое создание прототипов информационно-поисковых систем на основе БЯМ с использованием технологии retrieval-augmented generation (RAG).
- Разработка и интеграция многофункциональных приложений с БЯМ, включая возможность подключения внешних сервисов и моделей через систему плагинов.
- Оптимизация производительности БЯМ путем реализации ансамблевых методов и мультиагентных подходов.
- Генерация сложных синтетических данных для дальнейшего обучения и улучшения БЯМ.
- Ускорение процесса разработки и внедрения систем, основанных на БЯМ, в различных прикладных областях.
- Установщик пакетов для Python pip
Самый простой способ установить ProtoLLM - это использовать pip:
$ pip install protollm
Модули с инструментами могут быть установлены отдельно:
$ pip install protollm-worker $ pip install protollm-api $ pip install protollm-sdk
Последний стабильный релиз ProtoLLM находится в ветке master.
Репозиторий включает следующие директории:
- Пакет protollm содержит основные модули. Это ядро фреймворка ProtoLLM;
- Пакет protollm_tools содержит дополнительные инструменты с тдельными зависимостями;
- Пакет examples содержит несколько примеров, с помощью которых вы можете начать знакомство с работой ProtoLLM;
- Все модульные и интеграционные тесты можно посмотреть в директории test;
- Исходники документации находятся в директории docs.
- Руководство по внесению вклада доступно в этом файле.
Мы выражаем благодарность разработчикам фреймворка, а также участникам научных конференций и семинаров за ценные советы и предложения.
Исследование проводится при поддержке Исследовательского центра сильного искусственного интеллекта в промышленности Университета ИТМО в рамках мероприятия программы центра: "Разработка фреймворка быстрого прототипирования приложений на основе больших языковых моделей "
- Kalyuzhnaya A. et al. LLM Agents for Smart City Management: Enhancing Decision Support Through Multi-Agent AI Systems //Smart Cities. – 2025. – Т. 8. – №. 1. – С. 19.
- Zakharov K. et al. Forecasting Population Migration in Small Settlements Using Generative Models under Conditions of Data Scarcity //Smart Cities. – 2024. – Т. 7. – №. 5. – С. 2495-2513.
- Kovalchuk M. A. et al. SemConvTree: Semantic Convolutional Quadtrees for Multi-Scale Event Detection in Smart City //Smart Cities. – 2024. – Т. 7. – №. 5. – С. 2763-2780.