From 3120fd570e6b7d462439e313106602ec7efcb708 Mon Sep 17 00:00:00 2001 From: wearetyomsmnv <129667548+wearetyomsmnv@users.noreply.github.com> Date: Tue, 21 Jan 2025 18:34:50 +0300 Subject: [PATCH] Update llm_agent_security.md --- docs/llm_agent_security.md | 6 +++--- 1 file changed, 3 insertions(+), 3 deletions(-) diff --git a/docs/llm_agent_security.md b/docs/llm_agent_security.md index ebd7028..11552c8 100644 --- a/docs/llm_agent_security.md +++ b/docs/llm_agent_security.md @@ -126,7 +126,7 @@ LLM Agent - это интеллектуальная система, исполь | [Beyond RCE: Autonomous Code Execution](https://www.securityrunners.io/post/beyond-rce-autonomous-code-execution-in-agentic-ai) | Security Runners | 2024 | - Описывает риски выполнения кода
- Угрозы среде, где агент может быть использован | | [Exploiting Huggingface's Assistants](https://www.lasso.security/blog/exploiting-huggingfaces-assistants-to-extract-users-data) | Lasso Security | 2023 | - Описывает уязвимости извлечения данных из агентной системы, которая была сделана в huggingface| -### Инструменты и фреймворки безопасности +### Инструменты и фреймворки для применения в ИБ | Проект | Тип | Описание | Особенности | |:--------|:-----|:------------|:----------| @@ -136,7 +136,7 @@ LLM Agent - это интеллектуальная система, исполь | [AI-OPS](https://github.com/antoninoLorenzo/AI-OPS) | Платформа | Тестирование безопасности| - Обнаружение рисков
- Автоматизация реагирования | | [PentAGI](https://github.com/vxcontrol/pentagi/) | Инструмент | Тестирование безопасности | - Автономные AI агенты
- Мониторинг | -### Бенчмарки и оценки +### Бенчмарки и оценки безопасности агентов | Проект | Фокус | Метрики | Ключевые особенности | |:--------|:------|:--------|:-------------| @@ -145,7 +145,7 @@ LLM Agent - это интеллектуальная система, исполь | [ASB](https://github.com/agiresearch/ASB) | Бенчмарк безопасности | Безопасность агентов | - Метрики безопасности
- Анализ производительности
- Тестирование уязвимостей | | [LLM-Agent-Benchmark](https://github.com/zhangxjohn/LLM-Agent-Benchmark-List) | Комплексный | Оценка агентов | - Тестирование безопасности
- Метрики производительности
- Коллекция бенчмарков | -### Проекты по безопасности агентов +### Проекты | Проект | Тип | Назначение | Особенности | |:--------|:-----|:--------|:----------|