Skip to content

Commit

Permalink
Update llm_agent_security.md
Browse files Browse the repository at this point in the history
  • Loading branch information
wearetyomsmnv authored Jan 21, 2025
1 parent 20d6b24 commit 3120fd5
Showing 1 changed file with 3 additions and 3 deletions.
6 changes: 3 additions & 3 deletions docs/llm_agent_security.md
Original file line number Diff line number Diff line change
Expand Up @@ -126,7 +126,7 @@ LLM Agent - это интеллектуальная система, исполь
| [Beyond RCE: Autonomous Code Execution](https://www.securityrunners.io/post/beyond-rce-autonomous-code-execution-in-agentic-ai) | Security Runners | 2024 | - Описывает риски выполнения кода<br>- Угрозы среде, где агент может быть использован |
| [Exploiting Huggingface's Assistants](https://www.lasso.security/blog/exploiting-huggingfaces-assistants-to-extract-users-data) | Lasso Security | 2023 | - Описывает уязвимости извлечения данных из агентной системы, которая была сделана в huggingface|

### Инструменты и фреймворки безопасности
### Инструменты и фреймворки для применения в ИБ

| Проект | Тип | Описание | Особенности |
|:--------|:-----|:------------|:----------|
Expand All @@ -136,7 +136,7 @@ LLM Agent - это интеллектуальная система, исполь
| [AI-OPS](https://github.com/antoninoLorenzo/AI-OPS) | Платформа | Тестирование безопасности| - Обнаружение рисков<br>- Автоматизация реагирования |
| [PentAGI](https://github.com/vxcontrol/pentagi/) | Инструмент | Тестирование безопасности | - Автономные AI агенты<br>- Мониторинг |

### Бенчмарки и оценки
### Бенчмарки и оценки безопасности агентов

| Проект | Фокус | Метрики | Ключевые особенности |
|:--------|:------|:--------|:-------------|
Expand All @@ -145,7 +145,7 @@ LLM Agent - это интеллектуальная система, исполь
| [ASB](https://github.com/agiresearch/ASB) | Бенчмарк безопасности | Безопасность агентов | - Метрики безопасности<br>- Анализ производительности<br>- Тестирование уязвимостей |
| [LLM-Agent-Benchmark](https://github.com/zhangxjohn/LLM-Agent-Benchmark-List) | Комплексный | Оценка агентов | - Тестирование безопасности<br>- Метрики производительности<br>- Коллекция бенчмарков |

### Проекты по безопасности агентов
### Проекты

| Проект | Тип | Назначение | Особенности |
|:--------|:-----|:--------|:----------|
Expand Down

0 comments on commit 3120fd5

Please sign in to comment.