1. Iššūkio santrauka
Iššūkio tikslas — suprojektuoti, įgyvendinti ir įvertinti klausimų/atsakymų (QA) sistemą, veikiančią tik su CPU, paremtą grynai simboline architektūra (žodynas, gramatikos, žinių grafas, formalioji logika). Visa sistemos kūrimo eiga vadovaujama kvantuotų atviro svorio LLM, vykdomų vartotojinėje aparatinėje įrangoje (i9 CPU, RTX 3090).
Šis projektas priklauso Green AI judėjimui (Schwartz et al., 2020) ir Frugal AI, priešingai lenktynėms dėl vis didesnių modelių, kurių anglies pėdsakas tapo nerimą keliantis (Kim et al., 2026; Hasan et al., 2025). Jis taip pat atsiliepia į augančius skaidrumo, paaiškinamumo ir reguliacinės atitikties reikalavimus, keliamus GDPR ir Europos DI akto (Wagner et al., 2025; Juliussen, 2025).
- Grynai simbolinė QA sistema (be neuroninio tinklo vykdymo metu)
- CPU-only vykdymo metu (GPU nereikalingas)
- Automatinis KG kūrimas iš natūralios kalbos dokumentų
- Kūrimas visiškai prižiūrimas kvantuotų atviro svorio LLM
- Natūrali GDPR/AI Act atitiktis projektavimo stadijoje (vidinė interpretavimumo savybė)
- Etinė licencija (Hippocratic 3.0)
2. Kontekstas ir mokslinis pozicionavimas
2.1. Problemos formulavimas
Dabartinės QA sistemos labai priklauso nuo LLM (GPT, LLaMA ir kt.), kuriems reikia brangių GPU išvedimui, ir kelia haliucinacijų, atkuriamumo, paaiškinamumo ir duomenų suvereniteto problemas. Jos veikia kaip juodosios dėžės ir jas sunku suderinti su Europos DI akto (13 straipsnis) reikalavimais dėl didelės rizikos sistemų skaidrumo (Wagner, 2025; Boshnjakovski, 2025).
2.2. Dabartinė padėtis
Neurosimboliniai metodai ir KG-QA
Naujausia literatūra konverguoja link žinių grafų (KG) ir simbolinio samprotavimo integravimo, siekiant įveikti grynai neuroninių metodų apribojimus:
- Cheng et al. (2025), "Neural-symbolic methods for knowledge graph reasoning" (ACM TKDD) — skiria KG papildymo, sudėtingų užklausų atsakymo ir loginių taisyklių mokymosi metodus; identifikuoja grynai simbolinių metodų potencialą interpretavimumo srityje.
- Niu et al. (2026), "A Comprehensive Survey of Knowledge Graph Reasoning" (IEEE Trans. Big Data) — apima daugiašuolį samprotavimą KG, įskaitant Inductive Logic Programming (ILP) metodus.
- Linders & Tomczak (2025), "Knowledge graph-extended RAG for QA" (Applied Intelligence) — parodo, kad KG įgalina simbolinį samprotavimą ir patikrinamus atsakymus.
- Chudasama et al. (2025), "Toward interpretable hybrid AI" (IEEE Access) — siūlo TrustKG, derinantį simbolinį interpretavimumo su KG.
- Agarwal & Bedathur (2025), "A Zero-Shot Neuro-Symbolic Approach for Complex KGQA" (EMNLP Findings 2025).
- Liu et al. (2025), "SymAgent" (TheWebConf 2025) — savimokantis simbolinis agentas KGQA.
Automatinis žinių grafo kūrimas
- Zavarella (2026), "Methods for KG Construction from Text Collections" (arXiv) — karkasas, jungiantis NLP, ML ir semantinį tinklą.
- Salman et al. (2024), "Doc-KG" (Expert Systems) — KG kūrimas iš nestruktūruotų dokumentų.
- Chen et al. (2025), "Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs" (TheWebConf 2025).
CPU efektyvumas ir lengvi metodai
- Sidhu et al. (2025), "Neurosymbolic AI for Enhanced Reasoning in Small Language Models" (IEEE).
- Corradini et al. (2025), "State of the art and future directions of small language models" (Big Data and Cognitive Computing).
- Chaudhary et al. (2025) patvirtina, kad „spaCy teikia lengvą, didelio tikslumo ekstrakciją, efektyvią standartiniame CPU".
- Okechukwu et al. (2025) patvirtina, kad „spaCy ir NLTK efektyviai veikia standartiniuose CPU".
DI ekologinis poveikis
- Kim & Yoo (2026), "Toward Sustainable AI" (IEEE Access) — DI duomenų centrų anglies pėdsakas trigubai padidėjo tarp 2024 ir 2025.
- Hasan et al. (2025), "Carbon emission quantification of ML" (IEEE Trans.).
- Tunzina et al. (2026), "GreenAI: Environmental Efficiency in LLM-Generated Code" (IEEE Access).
GDPR ir DI akto atitiktis
- Wagner et al. (2025), "A Critical Look at the EU AI Act's Requirements" (IEEE RE).
- Juliussen (2025), "The Right to an Explanation Under the GDPR and the AI Act" (Springer).
- Goncalves & Correia (2026), "XAI-Compliance-by-Design" (MDPI).
- Sovrano et al. (2025), "Legal XAI: Systematic Review" (ResearchGate).
3. Tikslai
Pagrindinis tikslas
Įrodyti įgyvendinamumą ir įvertinti tik CPU, grynai simbolinės QA sistemos veikimą, kurios žinių grafas kuriamas automatiškai iš natūralios kalbos dokumentų.
Antriniai tikslai
- Pasiekti konkurencingą veikimą pripažintuose KGQA etaloniniuose testuose.
- Išmatuoti ir palyginti energijos pėdsaką (CPU prieš GPU), kad būtų pademonstruota ekologinė nauda.
- Pademonstruoti vidinį sistemos interpretavimumo (kiekvieno atsakymo atsekamumą).
- Pateikti atkuriamą, dokumentuotą programinę įrangą su etine licencija.
4. Architektūra & techninės specifikacijos
4.1. Bendra architektūra
Sistema suskirstyta į dvi atskiras fazes:
1 fazė — Žinių grafo kūrimas (neprisijungus, GPU leidžiamas)
NK dokumentai → Išankstinis apdorojimas → NER → Ryšių ekstrakcija → Koreferensijos sprendimas
→ KG kūrimas (RDF/OWL tripletai) → Grafo saugojimas
2 fazė — Klausimai/atsakymai (vykdymo laikas, griežtai CPU-only)
NK klausimas → Sintaksinė/semantinė analizė → Transformacija į formalią užklausą
→ KG apėjimas → Loginis samprotavimas → Atsakymo generavimas
→ Paaiškinimo pėdsakas
4.2. Aparatinės įrangos specifikacijos
| Komponentas | 1 fazė (KG kūrimas) | 2 fazė (QA vykdymas) |
|---|---|---|
| CPU | Intel Core i9 (maks.) | Intel Core i9 (maks.) |
| GPU | NVIDIA RTX 3090 (24 GB VRAM) | Nėra (griežtai CPU-only) |
| RAM | 32 GB (maks.) | 32 GB (pakankama) |
| Saugykla | NVMe SSD | NVMe SSD |
Pagrindimas: 1 fazė gali naudoti GPU kvantuotiems atviro svorio LLM, prižiūrintiems pipeline kūrimą, vykdyti. 2 fazė, kuri sudaro diegiamą sistemą, turi būti griežtai CPU-only, siekiant užtikrinti prieinamumą, suverenitetą ir taupumą.
4.3. Kūrimo aplinka
- Sandbox: kūrimas izoliuotoje aplinkoje saugumui ir atkuriamumui.
- Tikslinė OS: Linux (pagrindinis tikslas), su pageidaujamu Windows/macOS perkeliamumu.
- Kalba(-os): laisvas pasirinkimas, jei priklausomybės atitinka licencijavimo apribojimus (6 skyrius).
4.4. LLM priežiūra
Sistemos kūrimą visiškai valdo vienas ar keli atviro svorio LLM, vykdomi lokaliai nurodytoje aparatinėje įrangoje (1 fazė). Modelių, kvantavimo ir vykdymo sistemos pasirinkimas paliekamas dalyviui.
5. Siūloma pipeline architektūra
Toliau pateiktas suskirstymas yra orientacinis. Dalyviai gali laisvai siūlyti kitokią architektūrą, jei tenkina funkcinius apribojimus (3, 4 ir 12 skyriai) ir licencijavimo reikalavimus (6 skyrius).
5.1. Teksto išankstinis apdorojimas
- Sakinių segmentavimas
- Tokenizacija
- Lemmatizacija
- Kalbos dalių žymėjimas (Part-of-Speech)
- Priklausomybių parsavimas
5.2. Vardų objektų atpažinimas (NER)
- Objektų aptikimas (asmenys, vietos, organizacijos, datos, konceptai)
- Objektų tipizavimas pagal srities ontologiją
- Koreferensijos sprendimas
5.3. Ryšių ekstrakcija (RE)
- Tripletų ekstrakcija (subjektas, predikatas, objektas) iš teksto
- Atvira arba šablonais vadovaujama ekstrakcija
5.4. Žinių grafo kūrimas
- Objektų normalizavimas ir sujungimas (entity linking)
- Grafo kūrimas ir saugojimas (tripletai)
- Praturtinimas per netiesioginių ryšių išvedimą
- Grafo validavimas ir valymas
5.5. Klausimo supratimas
- Natūralios kalbos klausimo sintaksinė analizė
- Klausimo tipo identifikavimas (kas, ką, kur, kada…)
- Paminėtų objektų ir ryšių ekstrakcija
- Transformacija į formalią užklausą grafe
5.6. Samprotavimas & atsakymo paieška
- Žinių grafo apėjimas (daugiašuolis samprotavimas)
- Loginė rezoliucija ir kandidato atsakymų reitingavimas
5.7. Atsakymo generavimas & paaiškinimai
- Atsakymo formulavimas natūralia kalba
- Pilnas paaiškinimo pėdsakas: kelias KG, pritaikytos taisyklės, susiję objektai ir ryšiai, pasitikėjimas/pilnumas
6. Licencijavimo apribojimai
6.1. Hippocratic License 3.0 (HL3)
Galutinė programinė įranga bus publikuota pagal Hippocratic License 3.0 (firstdonoharm.dev). Ši licencija:
- Nelaikoma atvirojo kodo licencija OSI prasme (etiniai naudojimo apribojimai).
- Yra copyleft licencija (8.3 skyrius).
- Nustato etinius standartus, paremtus pagrindinėmis žmogaus teisėmis (UDHR, ICESCR, ICCPR, ILO).
6.2. Priklausomybių suderinamumas
| Licencija | Suderinama su HL3 | Pavyzdžiai |
|---|---|---|
| MIT | ✅ Taip | — |
| BSD (2/3-clause) | ✅ Taip | — |
| Apache 2.0 | ✅ Taip | — |
| ISC / CC0 | ✅ Taip | — |
| GPL v2/v3 | ⚠️ Galimai nesuderinama | — |
| AGPL | ❌ Greičiausiai nesuderinama | — |
6.3. Rekomenduojami pasirenkamieji HL3 moduliai
- HL3-ECO (Ekocidas) — suderinamas su tikslu mažinti ekologinį poveikį.
- HL3-MEDIA — draudimas naudoti smurto skatinimui.
- HL3-SV (Masinis sekimas) — suderinamas su suverenitetu ir privatumu.
7. Reguliacinė atitiktis
7.1. GDPR
| GDPR principas | Įgyvendinimas |
|---|---|
| Duomenų mažinimas (5.1.c str.) | KG saugo tik aktualius ekstrahuotus tripletus, ne neapdorotus asmens duomenis. |
| Teisė į paaiškinimą (22 str. + 71 konstatuojamoji dalis) | Pilnas paaiškinimo pėdsakas kiekvienam atsakymui. |
| Teisė į trynimą (17 str.) | Galimybė ištrinti objektus/tripletus iš KG. |
| Privatumas pagal dizainą (25 str.) | Jokių jautrių duomenų KG be dokumentuoto būtinumo. |
| Jokio automatizuoto profiliavimo (22 str.) | Sistema nepriima automatizuotų sprendimų apie asmenis. |
7.2. Europos DI aktas
| DI akto reikalavimas | Atitiktis |
|---|---|
| Skaidrumas (13 str.) | Imanentiškai interpretuojama simbolinė architektūra — kiekvienas samprotavimo žingsnis atsekamas. |
| Paaiškinamumas (13.1 str.) | Pilnas pėdsakas: klausimas → formali užklausa → KG kelias → atsakymas. |
| Techninė dokumentacija (11 str.) | Visiškai dokumentuojamas simbolinis pipeline (gramatikos, taisyklės, ontologija). |
| Patvarumas ir tikslumas (15 str.) | Jokių haliucinacijų — atsakymai ateina tik iš KG. |
| Žmogaus priežiūra (14 str.) | KG yra tikrinamas ir modifikuojamas žmogaus. |
| Rizikos valdymas (9 str.) | Maža rizika: jokio neskaidraus modelio, jokio atsirandančio šališkumo. |
8. Ekologinis poveikis
8.1. Problema
- GPT-3 mokymas sunaudojo apie 1 287 MWh, t.y., ~552 tonas CO₂.
- DI duomenų centrų anglies pėdsakas trigubai padidėjo tarp 2024 ir 2025 (Awab, 2026).
- LLM užklausa sunaudoja apie 10× daugiau energijos nei standartinė interneto paieška (Kim & Yoo, 2026).
8.2. Simbolinio CPU-only privalumas
| Metrika | LLM sistema (GPU) | DI iššūkis (CPU-only) | Numatomas privalumas |
|---|---|---|---|
| Momentinė galia | 300-400 W (GPU) | 65-125 W (CPU) | ~3-5× |
| Latencija vienam klausimui | 0,5-5 s | < 100 ms (tikslas) | ~5-50× |
| Energija vienam klausimui | ~0,001-0,01 kWh | ~0,000001-0,00001 kWh | ~100-1000× |
| Reikalinga aparatinė įranga | GPU ≥ 6 000 € | Vartotojinis CPU < 500 € | ~12× |
8.3. Privalomas matavimas
Projektas turi išmatuoti ir pranešti:
- Energijos suvartojimą (kWh) KG kūrimui.
- Energijos suvartojimą vienam QA klausimui.
- Atitinkamą CO₂ pėdsaką.
- Palyginimą su GPU bazine sistema.
9. Atkuriamumas
- Pilnas išeitinis kodas: publikuotas viešoje saugykloje, su HL3 licencija.
- Diegimo instrukcijos: automatizuotas skriptas arba konteinerizacija.
- Testiniai duomenys: tik viešų etaloninių testų naudojimas.
- Atsitiktinės sėklos: fiksuotos ir dokumentuotos kiekvienam stochastiniam komponentui.
- Priklausomybių versijų fiksavimas: pritvirtintas priklausomybių failas.
- Konteinerizacija: visa sistema turi būti atkuriamai vykdoma.
- Dokumentuota minimali aparatinė įranga: aiškios minimalios specifikacijos.
Maksimali reikalinga aparatinė įranga (i9 + RTX 3090) yra prieinama plačiai auditorijai. 2 fazei (QA vykdymas) GPU nereikalingas, leidžiant vykdymą paprastame nešiojamajame kompiuteryje.
10. Suverenitetas, saugumas & privatumas
Skaitmeninis suverenitetas
- Jokios debesijos priklausomybės — visiškai vietinis veikimas.
- Jokie išoriniai API kreipiniai — duomenys nepalieka įrenginio.
- Atviro svorio LLM atsisiunčiami ir vykdomi lokaliai.
- Jokio tiekėjo pririšimo.
Saugumas
- Sandbox vykdymas (izoliuota aplinka).
- Joks savavališkas kodo vykdymas.
- Joks prompt injection (joks LLM vykdymo metu).
- Įvesties validavimas per formalią gramatiką.
Privatumas
- Tik vietinis apdorojimas — dokumentai niekada nepalieka įrenginio.
- Jokios telemetrijos.
- KG ištrinamas pagal pareikalavimą.
- Galimybė kurti atskirus KG kiekvienam vartotojui ar sričiai.
11. Etaloniniai testai & vertinimas
11.1. Pripažinti KGQA etaloniniai testai
Sistema turi būti įvertinta bent dviejuose iš šių etaloninių testų:
| Etaloninis testas | Aprašymas | Dydis | Nuoroda |
|---|---|---|---|
| SimpleQuestions | Paprasti faktiniai klausimai Freebase | ~100K klausimų | ACL |
| WebQuestionsSP | Interneto klausimai su SPARQL anotacijomis | ~4 737 klausimų | ACL |
| LC-QuAD 2.0 | Sudėtingi klausimai apie DBpedia/Wikidata | ~30K klausimų | ISWC |
| ComplexWebQuestions | Daugiašuoliai klausimai Freebase | ~34K klausimų | NAACL |
| QALD | Daugiakalbis iššūkis, mažas dydis | ~400-500 klausimų | CLEF/ESWC |
| MINTQA | Naujas etaloninis testas LLM+KG retiems objektams | Kintamas | EMNLP 2025 |
| SQuAD 2.0 | Ekstrakcinis QA pastraipose | ~150K klausimų | ACL |
| Natural Questions | Tikri Google klausimai | ~307K klausimų | TACL |
| TriviaQA | Erudicijos QA su palaikančiais dokumentais | ~95K klausimų | ACL |
Rekomendacija: pirmenybę teikite LC-QuAD 2.0 ir QALD, papildant SQuAD arba Natural Questions palyginimui su neuroniniais metodais.
11.2. Vertinimo metrikos
| Kategorija | Metrika | Aprašymas |
|---|---|---|
| QA veikimas | F1 score, Exact Match (EM) | Atsakymo tikslumas |
| QA veikimas | Hits@1, Hits@5 | Teisingo atsakymo dažnis top-k |
| QA veikimas | MRR | Vidutinė teisingo atsakymo pozicija |
| Latencija | Vidutinis/p95 atsako laikas (ms) | Matuojama tik su CPU |
| Pralaidumas | Klausimai/sekundę | Pralaidumas |
| Ekologija | kWh/klausimas, gCO₂/klausimas | Per codecarbon/carbontracker |
| Paaiškinamumas | Atsekimo dažnis | % atsakymų su pilnu pėdsaku (tikslas: 100%) |
| KG padengimas | Tripletai, objektai, ryšiai | Aprašomoji statistika |
11.3. Palyginimo bazinės linijos
- RAG + LLM (GPU): neuroninė bazinė linija su GPU.
- KG-RAG (GPU): hibridinė KG + LLM bazinė linija.
- Tiesioginis SPARQL: grynai simbolinė bazinė linija (rankiniai klausimais tame pačiame KG).
12. Veikimo specifikacijos
| Kriterijus | Tikslas | Pagrindimas |
|---|---|---|
| QA latencija | < 100 ms (p95) | Priimtinas vartotojo interaktyvumas |
| KG kūrimas | < 1 min / 1 000 trumpų dokumentų | Praktiškumas |
| QA atminties pėdsakas | < 4 GB RAM | Vykdomas kuklame PC |
| KG dydis | Masteliuojamas iki 10M+ tripletų | Pakankamas padengimas etaloniniams testams |
| QA tikslumas | ≥ 50% F1 paprastuose etaloniniuose testuose | Paaiškinamumas ir taupumas kaip pagrindiniai argumentai |
| Atsekamumas | 100% atsakymų paaiškinta | Pagrindinis simbolinio metodo privalumas |
13. Rizikos & jų mažinimas
| Rizika | Tikimybė | Poveikis | Mažinimas |
|---|---|---|---|
| Nepakankamas QA veikimas lyginant su LLM | Aukšta | Vidutinis | Sutelkti dėmesį į paaiškinamumą/taupumą |
| Nepakankama automatinio KG kokybė | Vidutinė | Aukštas | Iteruoti taisykles, LLM priežiūra |
| Daugiašuolių klausimų sudėtingumas | Aukšta | Vidutinis | Limitas ≤ 3 šuoliai, dokumentuoti apribojimus |
| Priklausomybių licencijų nesuderinamumas | Žema | Aukštas | Sistemingas licencijų auditas |
| Atviro svorio LLM nepakankamas priežiūrai | Vidutinė | Vidutinis | Testuoti ir derinti kelis modelius |
| Ribotas KG padengimas dideliu mastu | Vidutinė | Vidutinis | Pradėti nuo QALD, vėliau masteliuoti |
14. Sėkmės kriterijai
- QA sistema veikia visiškai su CPU be GPU vykdymo metu.
- KG kuriamas automatiškai iš natūralios kalbos dokumentų.
- Veikimas matuojamas ≥ 2 pripažintuose viešuose etaloniniuose testuose.
- 100% atsakymų turi paaiškinimo pėdsaką.
- Energijos suvartojimas matuojamas ir palyginamas su GPU bazine linija.
- Kodas publikuotas pagal Hippocratic 3.0 licenciją su suderinamomis priklausomybėmis.
- Sistema yra atkuriama per Docker nurodytoje aparatinėje įrangoje.
- Kūrimą visiškai atlieka atviro svorio LLM sandbox aplinkoje.
15. Bibliografinės nuorodos
- Agarwal, P. & Bedathur, S. (2025). A Zero-Shot Neuro-Symbolic Approach for Complex Knowledge Graph Question Answering. EMNLP 2025 Findings.
- Ansar, W., Goswami, S. & Chakrabarti, A. (2024). From Transformers to LLMs: A Systematic Survey of Efficiency Considerations in NLP. arXiv:2406.16893.
- Awab, S. (2026). AI's Resource Gluttony and Sustainable Development. SSRN 6301563.
- Boshnjakovski, V. (2025). Balancing Compliance and Innovation: Addressing Explainability in AI Systems under the EU AI Act. MBA Thesis.
- Chaudhary, V. et al. (2025). Fusing Knowledge and Language: A Comparative Study of KG-Based QA with LLMs. arXiv:2509.09272.
- Chen, H. et al. (2025). Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs. TheWebConf 2025.
- Cheng, K. et al. (2025). Neural-symbolic methods for knowledge graph reasoning: A survey. ACM Trans. Knowl. Discov. Data.
- Chudasama, Y. et al. (2025). Toward interpretable hybrid AI: integrating knowledge graphs and symbolic reasoning. IEEE Access.
- Corradini, F. et al. (2025). State of the art and future directions of small language models. Big Data and Cognitive Computing.
- Goncalves, A. & Correia, A. (2026). XAI-Compliance-by-Design: A Modular Framework for GDPR- and AI Act-Aligned Decision Transparency. MDPI J. Cybersecurity and Privacy.
- Hasan, S.M. et al. (2025). Carbon emission quantification of ML: A review. IEEE Trans. Sustainable Computing.
- Juliussen, B.A. (2025). The Right to an Explanation Under the GDPR and the AI Act. Springer, Int. Conf. Multimedia Modeling.
- Kim, M.K. & Yoo, T.A. (2026). Toward Sustainable AI: A Scoping Review of Carbon Footprint. IEEE Access.
- Linders, J. & Tomczak, J.M. (2025). Knowledge graph-extended RAG for QA. Applied Intelligence.
- Liu, B. et al. (2025). SymAgent: A neural-symbolic self-learning agent framework for complex reasoning over KGs. TheWebConf 2025.
- Ma, C. et al. (2025). Large language models meet knowledge graphs for question answering. EMNLP 2025.
- Niu, G. et al. (2026). A Comprehensive Survey of Knowledge Graph Reasoning. IEEE Trans. Big Data.
- Perevalov, A. et al. (2024). Multilingual question answering systems for knowledge graphs — a survey. Semantic Web.
- Salman, M. et al. (2024). Doc-KG: Unstructured documents to KG construction. Expert Systems.
- Schwartz, R. et al. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
- Sidhu, M.K. et al. (2025). Neurosymbolic AI for Enhanced Reasoning in Small Language Models. IEEE.
- Sovrano, F. et al. (2025). Legal XAI: Systematic Review and Interdisciplinary Mapping of XAI and EU Law. ResearchGate.
- Tunzina, T. et al. (2026). GreenAI: Environmental Efficiency in LLM-Generated Code. IEEE Access.
- Wagner, M. et al. (2025). A Critical Look at the EU AI Act's Requirements — Who Must Explain What? IEEE Int. Requirements Eng. Conf.
- Zavarella, V. (2026). Methods for KG Construction from Text Collections. arXiv:2603.25862.