1. Резюме на предизвикателството
Предизвикателството цели да проектира, реализира и оцени система за въпроси/отговори (QA), работеща изключително на CPU, базирана на изцяло символична архитектура (лексикон, граматики, граф на знанията, формална логика). Цялото разработване на системата е управлявано от квантизирани LLM с отворени тегла, изпълними на потребителски хардуер (i9 CPU, RTX 3090).
Този проект попада в движението Green AI (Schwartz et al., 2020) и Frugal AI, в противовес на надпреварата за все по-големи модели, чийто въглероден отпечатък е станал тревожен (Kim et al., 2026; Hasan et al., 2025). Той също така отговаря на нарастващите изисквания за прозрачност, обяснимост и регулаторно съответствие, наложени от GDPR и Европейския AI Act (Wagner et al., 2025; Juliussen, 2025).
- Изцяло символична QA система (без невронна мрежа при извод)
- CPU-only по време на изпълнение (не се изисква GPU)
- Автоматично изграждане на KG от документи на естествен език
- Разработка, изцяло ръководена от квантизирани LLM с отворени тегла
- Вградено съответствие с GDPR / AI Act по проект (присъща интерпретируемост)
- Етичен лиценз (Hippocratic 3.0)
2. Контекст и научно позициониране
2.1. Формулиране на проблема
Текущите QA системи разчитат до голяма степен на LLM (GPT, LLaMA и др.), които изискват скъпи GPU за извод и пораждат проблеми с халюцинации, възпроизводимост, обяснимост и суверенитет на данните. Те функционират като черни кутии и трудно се привеждат в съответствие с изискванията на Европейския AI Act (член 13) относно прозрачността на високорисковите системи (Wagner, 2025; Boshnjakovski, 2025).
2.2. Обзор на състоянието на изследванията
Невро-символични подходи и KG-QA
Последната литература клони към интеграция на графове на знанията (KG) и символично разсъждение, за да се преодолеят ограниченията на чисто невронните подходи:
- Cheng et al. (2025), "Neural-symbolic methods for knowledge graph reasoning" (ACM TKDD) — разграничават подходи за допълване на KG, отговаряне на сложни заявки и учене на логически правила; идентифицират потенциала на чисто символични методи за интерпретируемост.
- Niu et al. (2026), "A Comprehensive Survey of Knowledge Graph Reasoning" (IEEE Trans. Big Data) — обхващат многостъпково разсъждение върху KG, включително подходи на Inductive Logic Programming (ILP).
- Linders & Tomczak (2025), "Knowledge graph-extended RAG for QA" (Applied Intelligence) — демонстрират, че KG позволяват символично разсъждение и проверими отговори.
- Chudasama et al. (2025), "Toward interpretable hybrid AI" (IEEE Access) — предлагат TrustKG, съчетаващ символична интерпретируемост с KG.
- Agarwal & Bedathur (2025), "A Zero-Shot Neuro-Symbolic Approach for Complex KGQA" (EMNLP Findings 2025).
- Liu et al. (2025), "SymAgent" (TheWebConf 2025) — самообучаващ се символичен агент за KGQA.
Автоматично изграждане на графове на знанията
- Zavarella (2026), "Methods for KG Construction from Text Collections" (arXiv) — рамка, съчетаваща NLP, ML и Semantic Web.
- Salman et al. (2024), "Doc-KG" (Expert Systems) — изграждане на KG от неструктурирани документи.
- Chen et al. (2025), "Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs" (TheWebConf 2025).
Ефективност на CPU и олекотени подходи
- Sidhu et al. (2025), "Neurosymbolic AI for Enhanced Reasoning in Small Language Models" (IEEE).
- Corradini et al. (2025), "State of the art and future directions of small language models" (Big Data and Cognitive Computing).
- Chaudhary et al. (2025) потвърждават, че „spaCy осигурява олекотена и високоточна екстракция, ефективна на стандартен CPU".
- Okechukwu et al. (2025) потвърждават, че „spaCy и NLTK работят ефективно на стандартни CPU".
Екологично въздействие на ИИ
- Kim & Yoo (2026), "Toward Sustainable AI" (IEEE Access) — въглеродният отпечатък на центровете за данни с ИИ се утрои между 2024 и 2025 г.
- Hasan et al. (2025), "Carbon emission quantification of ML" (IEEE Trans.).
- Tunzina et al. (2026), "GreenAI: Environmental Efficiency in LLM-Generated Code" (IEEE Access).
Съответствие с GDPR и AI Act
- Wagner et al. (2025), "A Critical Look at the EU AI Act's Requirements" (IEEE RE).
- Juliussen (2025), "The Right to an Explanation Under the GDPR and the AI Act" (Springer).
- Goncalves & Correia (2026), "XAI-Compliance-by-Design" (MDPI).
- Sovrano et al. (2025), "Legal XAI: Systematic Review" (ResearchGate).
3. Цели
Основна цел
Да се демонстрира осъществимостта и да се оцени производителността на изцяло символична QA система, работеща само на CPU, чийто граф на знанията се изгражда автоматично от документи на естествен език.
Второстепенни цели
- Постигане на конкурентна производителност на признати KGQA бенчмаркове.
- Измерване и сравнение на енергийния отпечатък (CPU срещу GPU) за демонстриране на екологичната полза.
- Демонстриране на присъщата интерпретируемост на системата (проследимост на всеки отговор).
- Предоставяне на възпроизводим, документиран софтуер под етичен лиценз.
4. Архитектура и технически спецификации
4.1. Обща архитектура
Системата е разделена на две различни фази:
Фаза 1 — Изграждане на графа на знанията (офлайн, GPU разрешен)
Документи ЕЕ → Предобработка → NER → Екстракция на релации → Резолюция на кореференции
→ Изграждане на KG (RDF/OWL тройки) → Съхранение на графа
Фаза 2 — Въпроси/Отговори (по време на изпълнение, строго CPU-only)
Въпрос ЕЕ → Синтактико-семантичен анализ → Трансформация във формална заявка
→ Обхождане на KG → Логическо разсъждение → Генериране на отговор
→ Следа на обяснението
4.2. Хардуерни спецификации
| Компонент | Фаза 1 (Изграждане на KG) | Фаза 2 (Runtime QA) |
|---|---|---|
| CPU | Intel Core i9 (макс.) | Intel Core i9 (макс.) |
| GPU | NVIDIA RTX 3090 (24 GB VRAM) | Няма (строго CPU-only) |
| RAM | 32 GB (макс.) | 32 GB (достатъчно) |
| Съхранение | NVMe SSD | NVMe SSD |
Обосновка: Фаза 1 може да използва GPU за стартиране на квантизираните LLM с отворени тегла, които управляват изграждането на конвейера. Фаза 2, която представлява системата за внедряване, трябва да бъде строго CPU-only, за да гарантира достъпност, суверенитет и пестеливост.
4.3. Среда за разработка
- Sandbox: разработка в изолирана среда за сигурност и възпроизводимост.
- Целева ОС: Linux (основна цел), с желана преносимост към Windows/macOS.
- Език/ци: свободен избор, при условие че зависимостите отговарят на лицензионните ограничения (раздел 6).
4.4. LLM надзор
Разработването на системата е изцяло управлявано от един или повече LLM с отворени тегла, изпълними локално на посочения хардуер (Фаза 1). Изборът на модели, квантизация и рамка за извод е оставен на участника.
5. Предложена архитектура на конвейера
Следното разделение е предоставено като ориентир. Участниците са свободни да предложат различна архитектура, при условие че спазват функционалните ограничения (раздели 3, 4 и 12) и изискванията за лиценз (раздел 6).
5.1. Предобработка на текста
- Сегментация на изречения
- Токенизация
- Лематизация
- Маркиране на части на речта
- Анализ на зависимости
5.2. Разпознаване на именувани обекти (NER)
- Откриване на обекти (лица, местоположения, организации, дати, понятия)
- Типизиране на обекти според доменна онтология
- Резолюция на кореференции
5.3. Екстракция на релации (RE)
- Екстракция на тройки (субект, предикат, обект) от текст
- Отворена или управлявана от шаблони екстракция
5.4. Изграждане на графа на знанията
- Нормализация и сливане на обекти (entity linking)
- Изграждане и съхранение на графа (тройки)
- Обогатяване чрез извличане на неявни релации
- Валидация и почистване на графа
5.5. Разбиране на въпроси
- Синтактичен анализ на въпроса на естествен език
- Идентификация на типа въпрос (кой, какво, къде, кога…)
- Екстракция на споменатите обекти и релации
- Трансформация във формална заявка към графа
5.6. Разсъждение и търсене на отговори
- Обхождане на графа на знанията (многостъпково разсъждение)
- Логическо разрешаване и класиране на кандидат-отговори
5.7. Генериране на отговори и обяснения
- Формулиране на отговор на естествен език
- Пълна следа на обяснението: път в KG, приложени правила, участващи обекти и релации, достоверност/пълнота
6. Лицензионни ограничения
6.1. Hippocratic License 3.0 (HL3)
Крайният софтуер ще бъде публикуван под лиценза Hippocratic License 3.0 (firstdonoharm.dev). Този лиценз:
- Не се счита за отворен код в смисъла на OSI (етични ограничения за използване).
- Е лиценз copyleft (раздел 8.3).
- Налага етични стандарти, базирани на основните права на човека (UDHR, ICESCR, ICCPR, ILO).
6.2. Съвместимост на зависимостите
| Лиценз | Съвместим с HL3 | Примери |
|---|---|---|
| MIT | ✅ Да | — |
| BSD (2/3-clause) | ✅ Да | — |
| Apache 2.0 | ✅ Да | — |
| ISC / CC0 | ✅ Да | — |
| GPL v2/v3 | ⚠️ Потенциално несъвместим | — |
| AGPL | ❌ Вероятно несъвместим | — |
6.3. Препоръчителни незадължителни модули HL3
- HL3-ECO (Екоцид) — в съответствие с целта за намаляване на екологичното въздействие.
- HL3-MEDIA — забрана за използване за насърчаване на насилие.
- HL3-SV (Масово наблюдение) — в съответствие със суверенитета и поверителността.
7. Регулаторно съответствие
7.1. GDPR
| Принцип на GDPR | Реализация |
|---|---|
| Минимизиране на данните (чл. 5.1.в) | KG съхранява само релевантни извлечени тройки, не сурови лични данни. |
| Право на обяснение (чл. 22 + съображение 71) | Пълна следа на обяснението за всеки отговор. |
| Право на изтриване (чл. 17) | Възможност за изтриване на обекти/тройки от KG. |
| Поверителност по проект (чл. 25) | Никакви чувствителни данни в KG, освен при документирана необходимост. |
| Без автоматично профилиране (чл. 22) | Системата не взема автоматизирани решения за отделни лица. |
7.2. Европейски AI Act
| Изискване на AI Act | Съответствие |
|---|---|
| Прозрачност (чл. 13) | Присъщо интерпретируема символична архитектура — всяка стъпка от разсъждението е проследима. |
| Обяснимост (чл. 13.1) | Пълна следа: въпрос → формална заявка → път в KG → отговор. |
| Техническа документация (чл. 11) | Напълно документируем символичен конвейер (граматики, правила, онтология). |
| Устойчивост и точност (чл. 15) | Без халюцинации — отговорите идват изключително от KG. |
| Човешки надзор (чл. 14) | KG е инспектируем и модифицируем от човек. |
| Управление на риска (чл. 9) | Нисък риск: без непрозрачен модел, без възникваща предвзетост. |
8. Екологично въздействие
8.1. Проблемът
- Обучението на GPT-3 е консумирало приблизително 1 287 MWh, т.е. ~552 тона CO₂.
- Центровете за данни с ИИ са регистрирали утрояване на въглеродния отпечатък между 2024 и 2025 г. (Awab, 2026).
- Една заявка към LLM консумира приблизително 10 пъти повече енергия от стандартно уеб търсене (Kim & Yoo, 2026).
8.2. Предимство на символичния подход CPU-only
| Метрика | LLM система (GPU) | Предизвикателство ИИ (CPU-only) | Прогнозна печалба |
|---|---|---|---|
| Моментна мощност | 300-400 W (GPU) | 65-125 W (CPU) | ~3-5× |
| Латентност на заявка | 0,5-5 s | < 100 ms (цел) | ~5-50× |
| Енергия на заявка | ~0,001-0,01 kWh | ~0,000001-0,00001 kWh | ~100-1000× |
| Необходим хардуер | GPU ≥ 6 000 € | Потребителски CPU < 500 € | ~12× |
8.3. Задължително измерване
Проектът трябва да измери и докладва:
- Потребление на енергия (kWh) за изграждане на KG.
- Потребление на енергия за QA заявка.
- Съответстващ CO₂ отпечатък.
- Сравнение с базова GPU система.
9. Възпроизводимост
- Пълен изходен код: публикуван в публично хранилище, под лиценз HL3.
- Инструкции за инсталиране: автоматизиран скрипт или контейнеризация.
- Тестови данни: изключително използване на публични бенчмаркове.
- Случайни семена: фиксирани и документирани за всеки стохастичен компонент.
- Версиониране на зависимостите: файл с фиксирани зависимости.
- Контейнеризация: пълната система трябва да бъде възпроизводимо изпълнима.
- Документиран минимален хардуер: изрични минимални спецификации.
Максималният необходим хардуер (i9 + RTX 3090) е достъпен за широка аудитория. Фаза 2 (runtime QA) не изисква никакъв GPU, което позволява изпълнение на обикновен лаптоп.
10. Суверенитет, сигурност и поверителност
Цифров суверенитет
- Без зависимост от облака — изцяло локална работа.
- Без външни API извиквания — никакви данни не напускат машината.
- LLM с отворени тегла — за изтегляне и локално изпълнение.
- Без зависимост от доставчик.
Сигурност
- Изпълнение в sandbox (изолирана среда).
- Без произволно изпълнение на код.
- Без prompt injection (без LLM при извод).
- Валидиране на входа чрез формална граматика.
Поверителност
- Изключително локална обработка — документите никога не напускат машината.
- Без телеметрия.
- KG с възможност за изтриване при поискване.
- Възможност за създаване на отделни KG за потребител или за домейн.
11. Бенчмаркове и оценка
11.1. Признати KGQA бенчмаркове
Системата трябва да бъде оценена на поне два от следните бенчмаркове:
| Бенчмарк | Описание | Размер | Източник |
|---|---|---|---|
| SimpleQuestions | Прости фактологични въпроси за Freebase | ~100K въпроса | ACL |
| WebQuestionsSP | Уеб въпроси с SPARQL анотации | ~4 737 въпроса | ACL |
| LC-QuAD 2.0 | Сложни въпроси за DBpedia/Wikidata | ~30K въпроса | ISWC |
| ComplexWebQuestions | Многостъпкови въпроси за Freebase | ~34K въпроса | NAACL |
| QALD | Многоезично предизвикателство, малък размер | ~400-500 въпроса | CLEF/ESWC |
| MINTQA | Нов бенчмарк за LLM+KG върху редки обекти | Променлив | EMNLP 2025 |
| SQuAD 2.0 | Екстрактивен QA върху параграфи | ~150K въпроса | ACL |
| Natural Questions | Реални въпроси от Google | ~307K въпроса | TACL |
| TriviaQA | QA с тривия въпроси с подкрепящи документи | ~95K въпроса | ACL |
Препоръка: приоритизирайте LC-QuAD 2.0 и QALD, допълнени с SQuAD или Natural Questions за сравнение с невронните подходи.
11.2. Метрики за оценка
| Категория | Метрика | Описание |
|---|---|---|
| Производителност QA | F1 score, Exact Match (EM) | Точност на отговорите |
| Производителност QA | Hits@1, Hits@5 | Процент верни отговори в top-k |
| Производителност QA | MRR | Среден ранг на верния отговор |
| Латентност | Средно/p95 време за отговор (ms) | Измерено само на CPU |
| Пропускателна способност | Въпроси/секунда | Пропускателна способност |
| Екология | kWh/заявка, gCO₂/заявка | Чрез codecarbon/carbontracker |
| Обяснимост | Степен на проследимост | % отговори с пълна следа (цел: 100%) |
| Покритие на KG | Тройки, обекти, релации | Описателна статистика |
11.3. Базови линии за сравнение
- RAG + LLM (GPU): невронна базова линия на GPU.
- KG-RAG (GPU): хибридна базова линия KG + LLM.
- Direct SPARQL: чисто символична базова линия (ръчни заявки към същия KG).
12. Спецификации за производителност
| Критерий | Цел | Обосновка |
|---|---|---|
| Латентност QA | < 100 ms (p95) | Приемлива интерактивност за потребителя |
| Изграждане на KG | < 1 мин / 1 000 кратки документа | Практичност |
| Отпечатък на паметта QA | < 4 GB RAM | Изпълнимо на скромен PC |
| Размер на KG | Мащабируемо до 10M+ тройки | Достатъчно покритие за бенчмаркове |
| Точност на QA | ≥ 50% F1 на прости бенчмаркове | Интерпретируемост и пестеливост като основни аргументи |
| Проследимост | 100% от отговорите обяснени | Ключово предимство на символичния подход |
13. Рискове и мерки за смекчаване
| Риск | Вероятност | Въздействие | Смекчаване |
|---|---|---|---|
| Недостатъчна производителност на QA срещу LLM | Висока | Средно | Акцент върху интерпретируемост/пестеливост |
| Недостатъчно качество на автоматичния KG | Средна | Високо | Итериране на правила, LLM надзор |
| Сложност на многостъпковите въпроси | Висока | Средно | Ограничение до ≤ 3 стъпки, документиране на ограниченията |
| Лицензионна несъвместимост на зависимостите | Ниска | Високо | Систематичен одит на лицензи |
| LLM с отворени тегла недостатъчен за надзор | Средна | Средно | Тестване и комбиниране на множество модели |
| Ограничено покритие на KG в мащаб | Средна | Средно | Начало с QALD, след това мащабиране |
14. Критерии за успех
- QA системата работи изцяло на CPU без GPU при извод.
- KG се изгражда автоматично от документи на естествен език.
- Производителността се измерва на ≥ 2 признати публични бенчмаркове.
- 100% от отговорите са придружени от следа на обяснение.
- Потреблението на енергия е измерено и сравнено с базова GPU система.
- Кодът е публикуван под лиценз Hippocratic 3.0 със съвместими зависимости.
- Системата е възпроизводима чрез Docker на посочения хардуер.
- Разработката е изцяло осъществена от LLM с отворени тегла в sandbox.
15. Библиографски справки
- Agarwal, P. & Bedathur, S. (2025). A Zero-Shot Neuro-Symbolic Approach for Complex Knowledge Graph Question Answering. EMNLP 2025 Findings.
- Ansar, W., Goswami, S. & Chakrabarti, A. (2024). From Transformers to LLMs: A Systematic Survey of Efficiency Considerations in NLP. arXiv:2406.16893.
- Awab, S. (2026). AI's Resource Gluttony and Sustainable Development. SSRN 6301563.
- Boshnjakovski, V. (2025). Balancing Compliance and Innovation: Addressing Explainability in AI Systems under the EU AI Act. MBA Thesis.
- Chaudhary, V. et al. (2025). Fusing Knowledge and Language: A Comparative Study of KG-Based QA with LLMs. arXiv:2509.09272.
- Chen, H. et al. (2025). Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs. TheWebConf 2025.
- Cheng, K. et al. (2025). Neural-symbolic methods for knowledge graph reasoning: A survey. ACM Trans. Knowl. Discov. Data.
- Chudasama, Y. et al. (2025). Toward interpretable hybrid AI: integrating knowledge graphs and symbolic reasoning. IEEE Access.
- Corradini, F. et al. (2025). State of the art and future directions of small language models. Big Data and Cognitive Computing.
- Goncalves, A. & Correia, A. (2026). XAI-Compliance-by-Design: A Modular Framework for GDPR- and AI Act-Aligned Decision Transparency. MDPI J. Cybersecurity and Privacy.
- Hasan, S.M. et al. (2025). Carbon emission quantification of ML: A review. IEEE Trans. Sustainable Computing.
- Juliussen, B.A. (2025). The Right to an Explanation Under the GDPR and the AI Act. Springer, Int. Conf. Multimedia Modeling.
- Kim, M.K. & Yoo, T.A. (2026). Toward Sustainable AI: A Scoping Review of Carbon Footprint. IEEE Access.
- Linders, J. & Tomczak, J.M. (2025). Knowledge graph-extended RAG for QA. Applied Intelligence.
- Liu, B. et al. (2025). SymAgent: A neural-symbolic self-learning agent framework for complex reasoning over KGs. TheWebConf 2025.
- Ma, C. et al. (2025). Large language models meet knowledge graphs for question answering. EMNLP 2025.
- Niu, G. et al. (2026). A Comprehensive Survey of Knowledge Graph Reasoning. IEEE Trans. Big Data.
- Perevalov, A. et al. (2024). Multilingual question answering systems for knowledge graphs — a survey. Semantic Web.
- Salman, M. et al. (2024). Doc-KG: Unstructured documents to KG construction. Expert Systems.
- Schwartz, R. et al. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
- Sidhu, M.K. et al. (2025). Neurosymbolic AI for Enhanced Reasoning in Small Language Models. IEEE.
- Sovrano, F. et al. (2025). Legal XAI: Systematic Review and Interdisciplinary Mapping of XAI and EU Law. ResearchGate.
- Tunzina, T. et al. (2026). GreenAI: Environmental Efficiency in LLM-Generated Code. IEEE Access.
- Wagner, M. et al. (2025). A Critical Look at the EU AI Act's Requirements — Who Must Explain What? IEEE Int. Requirements Eng. Conf.
- Zavarella, V. (2026). Methods for KG Construction from Text Collections. arXiv:2603.25862.