AI Prompts Example
Проблема с низким качеством датасетов для дообучения (SFT) — это классическая боль при работе с сетевым оборудованием. Вывод команд вроде `show ip route` или `show ip bgp` представляет собой неструктурированный текст со специфическим форматированием, пробелами и артефактами CLI, на которых нейросети (особенно уровня 7B) легко «галлюцинируют», если датасет не идеален.
К счастью, на Hugging Face есть несколько специализированных моделей, созданных именно для сетевых задач, телекома и анализа конфигураций Cisco.
Готовые модели на Hugging Face для анализа маршрутизации и Cisco
1. LayerEight/BGP-Core-B-Qwen2.5-7B
* Архитектура: Qwen/Qwen2.5-7B-Instruct.
* Специфика: Это дообученная версия именно вашей базовой модели (Qwen2.5 7B) с фокусом на BGP (Border Gateway Protocol) и маршрутизацию [[41]].
* Почему стоит попробовать: Поскольку у вас уже развернута инфраструктура под Qwen2.5 7B, эта модель станет заменой «один в один» без необходимости перестраивать пайплайн инференса. Она лучше понимает AS-PATH, атрибуты BGP и логику принятия решений маршрутизатором.
2. NetoAISolutions/TSLAM-4B
* Архитектура: Специализированная Large Action Model на 4B параметров для телекома [[48]].
* Специфика: Модель обучена на огромном корпусе телеком-документации и логов сетевых операций. В её тестах явно заложены сценарии траблшутинга Cisco, включая анализ таблицы маршрутизации через `show ip route`, проверку настроек BGP (`show ip bgp`) и диагностику интерфейсов [[35]].
* Плюс: Она «заточена» не просто на чтение текста, а на предложение конкретных действий (Action-Oriented) при сбоях в сети.
3. Renugadevi82/cisco-nx-ai (семейство моделей)
* Архитектура: На базе TinyLlama (доступны версии на 1B параметров с разными квантованиями GGUF) [[43]].
* Специфика: Модель прошла фаинтьюнинг специально под задачи конфигурации сетей Cisco [[12]]. Она умеет работать с VLAN, интерфейсами, протоколами маршрутизации (OSPF, BGP, EIGRP) и списками доступа (ACL) [[12]].
* Минус: Из-за размера 1.1B она может уступать вашей 7B в сложных логических рассуждениях, но зато она гораздо лучше знает синтаксис IOS/NX-OS.
4. fdtn-ai/Foundation-Sec-8B
* Архитектура: Llama-3.1-8B.
* Специфика: Модель создана официальной командой Cisco Foundation AI [[18]]. Она дообучена на 5.1 млрд токенов данных по кибербезопасности и сетям [[18]].
* Зачем нужна: Если анализ таблиц маршрутизации нужен с точки зрения ИБ (например, поиск аномалий, BGP-хиджекинга, некорректных утечек маршрутов или анализа правил ACL), эта модель даст фору любым общим LLM.
---
Почему дообучение (Fine-tuning) на таблицах маршрутизации — это ловушка?
Даже если вы найдете идеальный датасет, дообучение LLM на анализ таблиц маршрутизации имеет архитектурные ограничения:
1. Динамика сети: Таблица маршрутизации меняется каждую секунду. Модель, обученная на статичных дампах, будет «жить в прошлом» и не сможет анализировать состояние сети *здесь и сейчас*.
2. Шум CLI: Сырой вывод терминала Cisco содержит много мусора. LLM тратит ресурсы на его парсинг вместо логики.
Альтернативный (и более надежный) подход
Вместо того чтобы заставлять нейросеть читать сырой текст из консоли, в индустрии (NetDevOps) используют связку Детерминированный парсер + LLM :
1. Сбор и парсинг в JSON:
Используйте Python-библиотеки (например, Netmiko , NAPALM или PyATS от Cisco). Скрипт подключается к роутеру, забирает `show ip route` и переводит его в строгий JSON или Markdown-таблицу.
2. LLM как аналитик (Prompt Engineering):
Вы скармливаете вашей локальной Qwen2.5 7B уже чистый JSON. Базовая (недообученная) Qwen2.5 отлично умеет работать со структурированными данными. Вы просто пишете промпт:
> *"Вот JSON-представление таблицы маршрутизации Cisco. Найди маршруты, которые ведут в подсеть X, проверь, нет ли петлевой маршрутизации, и объясни, почему маршрут OSPF предпочтительнее статического в данном случае."*
3. Использование сетевых симуляторов (Batfish):
Для сложного анализа (например, "что будет, если упадет линк X") связку LLM используют вместе с инструментом Batfish . Batfish математически точно просчитывает пути маршрутизации, а LLM (та же Qwen2.5) используется только для генерации человекочитаемого отчета и рекомендаций на основе математического вывода Batfish.
Резюме: Попробуйте заменить вашу текущую модель на LayerEight/BGP-Core-B-Qwen2.5-7B или TSLAM-4B . Но для достижения максимального качества перенесите парсинг вывода Cisco на сторону Python (NAPALM/Genie), а нейросеть используйте только для логического анализа уже очищенных структурированных данных.
Vanishingly subtle humor
(c) by Valery Shmelev If you want to have an advantage
The word Oflameron is an artificially created word by Valery Shmelev in 1994
https://www.tumblr.com/blog/sci-fi-screenplay
https://github.com/vallshmeleff/ai-prompts-for-screenplay-plan/tree/main
https://www.tumgik.com/sci-fi-screenplay
