Логотип
ИЭА СТР
УДК 004.04:004.9 • EDN: MULBEQ • e-Library ID: 83017069

МУЛЬТИАГЕНТНАЯ СИСТЕМА УПРАВЛЕНИЯ ЗНАНИЯМИ: МОДЕЛЬ ДОВЕРИЯ К ДЕЙСТВИЯМ ИНТЕЛЛЕКТУАЛЬНЫХ АГЕНТОВ

• С. 83-91
Скачать JATS XML Скачать PDF
🇷🇺 На русском

Для цитирования

Бурый А.С., Лопатин И.Н., Митрофанов А.Д., Папруга А.А. Мультиагентная система управления знаниями: модель доверия к действиям интеллектуальных агентов // Информационно-экономические аспекты стандартизации и технического регулирования. 2025. № 5 (86). С. 83–91.

Аннотация

Целью исследования является разработка архитектуры мультиагентной системы управления корпоративными знаниями (СУЗ) с механизмом динамического назначения уровня доверия интеллектуальным агентам (ИА) и источникам, обеспечивающей достоверность и управляемость корпоративной базы знаний в условиях распределенных источников данных. Методы: аналитический обзор и синтез практик Data Governance, архитектурное проектирование мультиагентных систем, формализация метрик качества данных, разработка скоринговых функций и правил верификации знаний. Результаты: предложена архитектура СУЗ с разделением на технический и бизнес-контуры. Определен состав и роли ИА (поставщик знаний, валидатор, суммаризатор, ассистент по знаниям). Сформулирована динамическая модель доверия и матрица прав для действий ИА в базе знаний. Описан двухступенчатый процесс валидации знаний и установлены требования к непрерывному мониторингу метрик качества и пересчету уровня доверия.

Ключевые слова

мультиагентная система система управления знаниями система доверия интеллектуальный агент (ИА) мониторинг качества данных уровень доверия к ИА

Об авторах

Бурый Алексей Сергеевич

Бурый Алексей Сергеевич — Доктор технических наук, ФГБУ «Институт стандартизации», ( Москва, Россия )

Лопатин И. Н.

Лопатин И. Н. — Российский институт стандартизации, ПАО «Сбербанк», ( Москва, Россия )

Митрофанов А. Д.

Митрофанов А. Д. — ПАО «Сбербанк», ( Москва, Россия )

Папруга А. А.

Папруга А. А. — ПАО «Сбербанк», ( Москва, Россия )

Список литературы

  1. 1. Тузовский А.Ф. Формирование семантических метаданных для объектов системы управления знаниями // Известия Томского политехнического университета. 2007. Т. 310, № 3. С. 108–112.
  2. 2. Зайцев Е.И., Нурматова Е.В. О подходе к управлению знаниями и разработке мультиагентной системы представления и обработки знаний // Russian Technological Journal. 2023. Т. 11, № 4. С. 16−25. https://doi.org/10.32362/2500- 316X-2023-11-4-16-25
  3. 3. Бурый А.С., Фролов В.А., Куляница А.Л. Эволюция агентного моделирования. Часть 1. Архитектура интеллектуального агента // Информационно-экономические аспекты стандартизации и технического регулирования. 2023. № 5 (74). С. 38–47.
  4. 4. Бурый А.С., Погодин И.М. Оценка качества больших данных. Часть 1. Основные понятия и метрики // Информационно-экономические аспекты стандартизации и технического регулирования. 2024. № 3 (78). С. 49–58.
  5. 5. Суслов Д.С. Управление знаниями в организации: основные модели // Креативная экономика. 2012. № 10 (70). С. 89– 97.
  6. 6. Бурый А.С. Информационно-поисковые социотехнические системы: термины и определения. – М.: «Горячая линия-Телеком», 2018. – 166 с.
  7. 7. Лопатин И.Н. Многоуровневые системы качественных данных на основе моделей искусственного интеллекта: проблемы и решения // Информационно-экономические аспекты стандартизации и технического регулирования. 2025. № 1 (82). С. 70–75.
  8. 8. Aryal S., Do T., Heyojoo B., et al. Leveraging multi-AI agents for cross-domain knowledge discovery. arXiv preprint arXiv. 2024; 2404.08511.
  9. 9. Kostka A., Chudziak J.A. Synergizing logical reasoning, knowledge management and collaboration in multi-agent LLM system. arXiv preprint arXiv. 2025; 2507.02170.
  10. 10. Бурый А.С., Цаплина О.С. Генеративный искусственный интеллект цифрового университета // Информационноэкономические аспекты стандартизации и технического регулирования. 2024. № 5 (80). С. 85–91.
  11. 11. Днепровская Н.В. Система управления знаниями как основа смарт-обучения // Открытое образование. 2018. Т. 22, № 4. С. 42–52. https://doi.org/10.21686/1818-4243-2018-4-42-52
  12. 12. Лахин О.И., Юрыгина Ю.С., Анисимов А.С. Принципы построения системы управления знаниями предприятий ракетно-космической промышленности // Онтология проектирования. 2017. Т. 7, № 3 (25). С. 270–283. https://doi. org/10.18287/2223-9537-2017-7-3-270-283
  13. 13. Гарбук С.В. Особенности применения понятия «доверие» в области искусственного интеллекта // Искусственный интеллект и принятие решений. 2020. № 3. С. 15–21.
  14. 14. Shi T., He J., Wang Z., et al. Progent: Programmable privilege control for LLM agents. arXiv preprint arXiv. 2025; 2504.11703. https://doi.org/10.18287/2223-9537-2017-7-3-270-283
  15. 15. Лопатин И.Н. Методика скоринга источников и инцидентов в многоуровневых системах качества данных // Информационно-экономические аспекты стандартизации и технического регулирования. 2025. № 1 (84). С. 101–107.
  16. 16. Al-Shamaileh M., Anthony P., Charters S. Agent-Based Trust and Reputation Model in Smart IoT Environments. Technologies. 2024; 12 (11): 208.
  17. 17. Бурый А.С., Фролов В.А., Куляница А.Л. Эволюция агентного моделирования. Часть 2. Имитационное моделирование // Информационно-экономические аспекты стандартизации и технического регулирования. 2023. № 6 (75). С. 46–52.
  18. 18. DAMA-DMBOK: свод знаний по управлению данными / DAMA International; перевод с английского Г. Агафонов. – 2-е изд.. – М.: Олимп-Бизнес, 2023. – 828 с.
🇬🇧 In English

MULTI-AGENT KNOWLEDGE MANAGEMENT SYSTEM: A MODEL OF TRUST IN THE ACTIONS OF INTELLIGENT AGENTS

For citation

Buryi A.S., Lopatin I.N., Mitrofanov A.D., Papruga A.A. Multi-agent knowledge management system: a model of trust in the actions of intelligent agents. Information and Economic Aspects of Standardization and Technical Regulation. 2025; 5 (86): 83–91. (In Russ.).

Abstract

The purpose of the research is to develop an architecture for a multi-agent corporate knowledge management system (KMS) with a mechanism for dynamically assigning a level of trust to intelligent agents (IA) and sources, ensuring the reliability and manageability of the corporate knowledge base in a distributed data source environment. Methods: analytical review and synthesis of Data Governance practices, architectural design of multi-agent systems, formalization of data quality metrics, development of scoring functions and knowledge veri cation rules. Results: an architecture KMS is proposed with a division into technical and business contours. The composition and roles of the IA (knowledge provider, validator, summarizer, knowledge assistant) are de ned. A dynamic model of trust and a matrix of rights for IA actions in the knowledge base are formulated. A two-stage knowledge validation process is described and the requirements for continuous monitoring of quality metrics and recalculation of the level of trust are established.

Keywords

multi-agent system knowledge management system trust system intelligent agent (IA); data quality monitoring; level of trust in IA

About the authors

Buryi A. S.

Buryi A. S. — Doctor of Science in Technology, Russian Standardization Institute, ( Moscow, Russia )

Lopatin I. N.

Lopatin I. N. — Russian Standardization Institute, Moscow, Russia, Sberbank of Russia, ( Moscow, Russia )

Mitrofanov A. D.

Mitrofanov A. D. — Sberbank of Russia, ( Moscow, Russia )

Papruga A. A.

Papruga A. A. — Sberbank of Russia, ( Moscow, Russia )

References

  1. 1. Tuzovsky A.F. Formirovanie semanticheskih metadannyh dlya obektov sistemy upravleniya znaniyami. Izvestiya Tomskogo politekhnicheskogo universiteta. 2007; 310(3): 108–112. (In Russ.).
  2. 2. Zajtsev E.I., Nurmatova E.V. O podhode k upravleniyu znaniyami i razrabotke mul’tia-gentnoj sistemy predstavleniya i obrabotki znanij. Russian Technological Journal. 2023; 11(4):16–25. (In Russ.).
  3. 3. Buryi A.S., Frolov V.A., Kulyanitsa A.L. The evolution of agent-based modeling. Information and Economic Aspects of Standardization and Technical Regulation. 2023; 5 (74): 38–47. (In Russ.).
  4. 4. Buryi A.S., Pogodin I.M. Ocenka kachestva bol’shih dannyh. Part 1. Osnovnye ponyatiya i metriki. Information and Economic Aspects of Standardization and Technical Regulation. 2024; 3(78): 49–58. (In Russ.).
  5. 5. Suslov D.S. Upravlenie znaniyami v organizacii: osnovnye modeli. Kreativnaya ekonomika. 2012; 10(70): 89–97. (In Russ.).
  6. 6. Buryi A.S. Informacionno-poiskovye sociotekhnicheskie sistemy: terminy i opredeleniya. Moscow: “Goryachaya liniya-Telekom”, Publ., 2018, 166 p. (In Russ.).
  7. 7. Lopatin I. N. Multi-level data-quality systems based on artificial intelligence models: problems and solutions. Information and Economic Aspects of Standardization and Technical Regulation. 2025; 1 (82): 70–75. (In Russ.).
  8. 8. Aryal S., Do T., Heyojoo B., et al. Leveraging multi-AI agents for cross-domain knowledge discovery. arXiv preprint arXiv. 2024; 2404.08511.
  9. 9. Kostka A., Chudziak J.A. Synergizing logical reasoning, knowledge management and collaboration in multi-agent LLM system. arXiv preprint arXiv. 2025; 2507.02170.
  10. 10. Buryi A.S., Tsaplina O.S. Generativnyj iskusstvennyj intellekt cifrovogo universiteta. Information and Economic Aspects of Standardization and Technical Regulation. 2024; 5(80): 85–91. (In Russ.).
  11. 11. Dneprovskaya N.V. Sistema upravleniya znaniyami kak osnova smart-obucheniya. Otkrytoe obrazovanie. 2018; 22 (4): 42–52. (In Russ.).
  12. 12. Lakhin O.I., Yurygina Y.S., Anisimov A.S. Principy postroeniya sistemy upravleniya znaniyami predpriyatij raketno-kosmicheskoj promyshlennosti. Ontologiya proektirovaniya. 2017; 7 (3): 270–283. (In Russ.).
  13. 13. Garbuk S.V. Osobennosti primeneniya ponyatiya “doverie” v oblasti iskusstvennogo intellekta. Iskusstvennyj intellekt i prinyatie reshenij. 2020; 3: 15–21. (In Russ.).
  14. 14. Shi T., He J., Wang Z., et al. Progent: Programmable privilege control for LLM agents. arXiv preprint arXiv. 2025; 2504.11703. https://doi.org/10.18287/2223-9537-2017-7-3-270-283
  15. 15. Lopatin I.N. Scoring methodology for sources and incidents in multi-level data-quality systems. Information and Economic Aspects of Standardization and Technical Regulationю. 2025; 1 (84): 101–107. (In Russ.).
  16. 16. Al-Shamaileh M., Anthony P., Charters S. Agent-Based Trust and Reputation Model in Smart IoT Environments. Technologies. 2024; 12 (11): 208.
  17. 17. Buryi A.S., Frolov V.A., Kulyanitsa A.L. Evolyuciya agentnogo modelirovaniya. Part 2. Imitacionnoe modelirovanie. Information and Economic Aspects of Standardization and Technical Regulation. 2023; 6 (75): 46–52. (In Russ.).
  18. 18. DAMA International. DAMA-DMBOK: Data Management Body of Knowledge. 2nd ed. Technics Publications. Moscow: Olimp-Biznes Publ., 2023, 828 p. (In Russ.).