1. Povzetek izziva
Izziv si zastavlja zasnovo, implementacijo in vrednotenje sistema vprašanj in odgovorov (QA), ki deluje izključno na CPU, temelječega na čisto simbolični arhitekturi (leksikon, gramatike, graf znanja, formalna logika). Celoten razvoj sistema je voden s kvantiziranimi LLM z odprtimi utežmi, izvedljivimi na potrošniški strojni opremi (i9 CPU, RTX 3090).
Ta projekt spada v gibanje Green AI (Schwartz et al., 2020) in Frugal AI, v nasprotju z dirko za vedno večjimi modeli, katerih ogljični odtis je postal zaskrbljujoč (Kim et al., 2026; Hasan et al., 2025). Prav tako naslavlja naraščajoče zahteve po transparentnosti, razložljivosti in regulativni skladnosti, ki jih nalagata GDPR in evropski AI Act (Wagner et al., 2025; Juliussen, 2025).
- Čisto simbolični QA sistem (brez nevronske mreže pri sklepanju)
- Samo CPU med delovanjem (brez GPU)
- Samodejna gradnja KG iz dokumentov v naravnem jeziku
- Razvoj v celoti voden s kvantiziranimi LLM z odprtimi utežmi
- Izvorna skladnost z GDPR/AI Act že od zasnove (intrinzična interpretabilnost)
- Etična licenca (Hippocratic 3.0)
2. Kontekst in znanstveno umeščanje
2.1. Opredelitev problema
Trenutni QA sistemi se močno zanašajo na LLM (GPT, LLaMA itd.), ki zahtevajo drage GPU za sklepanje ter odpirajo vprašanja halucinacij, ponovljivosti, razložljivosti in podatkovne suverenosti. Delujejo kot črne škatle in jih je težko uskladiti z zahtevami evropskega AI Act (člen 13) glede transparentnosti visokotveganih sistemov (Wagner, 2025; Boshnjakovski, 2025).
2.2. Pregled stanja
Nevro-simbolični pristopi in KG-QA
Nedavna literatura konvergira k integraciji grafov znanja (KG) in simboličnega sklepanja za reševanje omejitev čisto nevronskih pristopov:
- Cheng et al. (2025), "Neural-symbolic methods for knowledge graph reasoning" (ACM TKDD) — razlikujejo pristope k dopolnjevanju KG, odgovarjanju na kompleksne poizvedbe in učenju logičnih pravil; prepoznavajo potencial čisto simboličnih metod za interpretabilnost.
- Niu et al. (2026), "A Comprehensive Survey of Knowledge Graph Reasoning" (IEEE Trans. Big Data) — pokrivajo večkoračno sklepanje na KG, vključno s pristopi induktivnega logičnega programiranja (ILP).
- Linders & Tomczak (2025), "Knowledge graph-extended RAG for QA" (Applied Intelligence) — dokazujejo, da KG omogočajo simbolično sklepanje in preverljive odgovore.
- Chudasama et al. (2025), "Toward interpretable hybrid AI" (IEEE Access) — predlagajo TrustKG, ki združuje simbolično interpretabilnost s KG.
- Agarwal & Bedathur (2025), "A Zero-Shot Neuro-Symbolic Approach for Complex KGQA" (EMNLP Findings 2025).
- Liu et al. (2025), "SymAgent" (TheWebConf 2025) — samoučeči se simbolični agent za KGQA.
Samodejna gradnja grafov znanja
- Zavarella (2026), "Methods for KG Construction from Text Collections" (arXiv) — ogrodje, ki združuje NLP, ML in semantični splet.
- Salman et al. (2024), "Doc-KG" (Expert Systems) — gradnja KG iz nestrukturiranih dokumentov.
- Chen et al. (2025), "Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs" (TheWebConf 2025).
Učinkovitost na CPU in lahki pristopi
- Sidhu et al. (2025), "Neurosymbolic AI for Enhanced Reasoning in Small Language Models" (IEEE).
- Corradini et al. (2025), "State of the art and future directions of small language models" (Big Data and Cognitive Computing).
- Chaudhary et al. (2025) potrjujejo, da „spaCy zagotavlja lahkotno, visoko natančno ekstrakcijo, učinkovito na standardnem CPU".
- Okechukwu et al. (2025) potrjujejo, da „spaCy in NLTK delujeta učinkovito na standardnih CPU".
Ekološki vpliv UI
- Kim & Yoo (2026), "Toward Sustainable AI" (IEEE Access) — ogljični odtis podatkovnih centrov za UI se je med letoma 2024 in 2025 potrojil.
- Hasan et al. (2025), "Carbon emission quantification of ML" (IEEE Trans.).
- Tunzina et al. (2026), "GreenAI: Environmental Efficiency in LLM-Generated Code" (IEEE Access).
Skladnost z GDPR in AI Act
- Wagner et al. (2025), "A Critical Look at the EU AI Act's Requirements" (IEEE RE).
- Juliussen (2025), "The Right to an Explanation Under the GDPR and the AI Act" (Springer).
- Goncalves & Correia (2026), "XAI-Compliance-by-Design" (MDPI).
- Sovrano et al. (2025), "Legal XAI: Systematic Review" (ResearchGate).
3. Cilji
Glavni cilj
Dokazati izvedljivost in ovrednotiti zmogljivost čisto simboličnega QA sistema, ki deluje samo na CPU, katerega graf znanja je samodejno zgrajen iz dokumentov v naravnem jeziku.
Sekundarni cilji
- Doseči konkurenčno zmogljivost na priznanih primerjalnih testih KGQA.
- Izmeriti in primerjati energijski odtis (CPU proti GPU) za dokazovanje ekološke koristi.
- Dokazati intrinzično interpretabilnost sistema (sledljivost vsakega odgovora).
- Zagotoviti ponovljivo, dokumentirano programsko opremo pod etično licenco.
4. Arhitektura in tehnične specifikacije
4.1. Celotna arhitektura
Sistem je razdeljen na dve ločeni fazi:
Faza 1 — Gradnja grafa znanja (brez povezave, GPU dovoljen)
Dokumenti v naravnem jeziku → Predprocesiranje → NER → Ekstrakcija relacij → Razrešitev koreferenc
→ Gradnja KG (RDF/OWL trojice) → Shranjevanje grafa
Faza 2 — Vprašanja in odgovori (med delovanjem, strogo samo CPU)
Vprašanje v naravnem jeziku → Sintaktična/semantična analiza → Pretvorba v formalno poizvedbo
→ Prehod KG → Logično sklepanje → Generiranje odgovora
→ Sled razlage
4.2. Strojne specifikacije
| Komponenta | Faza 1 (Gradnja KG) | Faza 2 (QA med delovanjem) |
|---|---|---|
| CPU | Intel Core i9 (maks.) | Intel Core i9 (maks.) |
| GPU | NVIDIA RTX 3090 (24 GB VRAM) | Brez (strogo samo CPU) |
| RAM | 32 GB (maks.) | 32 GB (zadostno) |
| Shramba | NVMe SSD | NVMe SSD |
Utemeljitev: Faza 1 lahko uporablja GPU za poganjanje kvantiziranih LLM z odprtimi utežmi, ki vodijo gradnjo cevovoda. Faza 2, ki predstavlja namestitveni sistem, mora biti strogo samo CPU, da se zagotovi dostopnost, suverenost in varčnost.
4.3. Razvojno okolje
- Peskovnik: razvoj v izoliranem okolju za varnost in ponovljivost.
- Ciljni OS: Linux (primarni cilj), z želeno prenosljivostjo na Windows/macOS.
- Jezik(i): prosta izbira, pod pogojem, da so odvisnosti skladne z licenčnimi omejitvami (poglavje 6).
4.4. Nadzor LLM
Razvoj sistema je v celoti voden z enim ali več LLM z odprtimi utežmi, izvedljivimi lokalno na navedeni strojni opremi (Faza 1). Izbira modelov, kvantizacije in inferenčnega ogrodja je prepuščena udeležencu.
5. Predlagana arhitektura cevovoda
Naslednja razčlenitev je podana kot smernica. Udeleženci lahko predlagajo drugačno arhitekturo, pod pogojem, da izpolnjujejo funkcionalne zahteve (poglavja 3, 4 in 12) in licenčne pogoje (poglavje 6).
5.1. Predprocesiranje besedila
- Segmentacija stavkov
- Tokenizacija
- Lematizacija
- Označevanje besednih vrst
- Odvisnostno razčlenjevanje
5.2. Prepoznavanje imenskih entitet (NER)
- Zaznavanje entitet (osebe, lokacije, organizacije, datumi, koncepti)
- Tipizacija entitet po domenski ontologiji
- Razrešitev koreferenc
5.3. Ekstrakcija relacij (RE)
- Ekstrakcija trojic (subjekt, predikat, objekt) iz besedila
- Odprta ali z vzorci vodena ekstrakcija
5.4. Gradnja grafa znanja
- Normalizacija in združevanje entitet (entity linking)
- Gradnja in shranjevanje grafa (trojice)
- Obogatitev z izpeljevanjem implicitnih relacij
- Validacija in čiščenje grafa
5.5. Razumevanje vprašanj
- Sintaktična analiza vprašanja v naravnem jeziku
- Prepoznavanje tipa vprašanja (kdo, kaj, kje, kdaj…)
- Ekstrakcija omenjenih entitet in relacij
- Pretvorba v formalno poizvedbo nad grafom
5.6. Sklepanje in iskanje odgovorov
- Prehod grafa znanja (večkoračno sklepanje)
- Logična rezolucija in razvrščanje kandidatnih odgovorov
5.7. Generiranje odgovorov in razlage
- Oblikovanje odgovora v naravnem jeziku
- Popoln sled razlage: pot v KG, uporabljena pravila, vključene entitete in relacije, zaupanje/popolnost
6. Licenčne omejitve
6.1. Hippocratic License 3.0 (HL3)
Končna programska oprema bo objavljena pod licenco Hippocratic License 3.0 (firstdonoharm.dev). Ta licenca:
- Ni priznana kot odprta koda v smislu OSI (etične omejitve uporabe).
- Je licenca tipa copyleft (poglavje 8.3).
- Nalaga etične standarde, temelječe na temeljnih človekovih pravicah (UDHR, ICESCR, ICCPR, ILO).
6.2. Združljivost odvisnosti
| Licenca | Združljiva s HL3 | Primeri |
|---|---|---|
| MIT | ✅ Da | — |
| BSD (2/3-clause) | ✅ Da | — |
| Apache 2.0 | ✅ Da | — |
| ISC / CC0 | ✅ Da | — |
| GPL v2/v3 | ⚠️ Potencialno nezdružljiva | — |
| AGPL | ❌ Verjetno nezdružljiva | — |
6.3. Priporočeni izbirni moduli HL3
- HL3-ECO (Ekocid) — skladno s ciljem zmanjšanja ekološkega vpliva.
- HL3-MEDIA — prepoved uporabe za spodbujanje nasilja.
- HL3-SV (Množični nadzor) — skladno s suverenostjo in zasebnostjo.
7. Regulativna skladnost
7.1. GDPR
| Načelo GDPR | Implementacija |
|---|---|
| Minimizacija podatkov (čl. 5.1.c) | KG hrani samo relevantne ekstrahirane trojice, ne surovih osebnih podatkov. |
| Pravica do razlage (čl. 22 + uvodna izjava 71) | Popoln sled razlage za vsak odgovor. |
| Pravica do izbrisa (čl. 17) | Možnost brisanja entitet/trojic iz KG. |
| Zasebnost od zasnove (čl. 25) | Brez občutljivih podatkov v KG brez dokumentirane nujnosti. |
| Brez avtomatiziranega profiliranja (čl. 22) | Sistem ne sprejema avtomatiziranih odločitev o posameznikih. |
7.2. Evropski AI Act
| Zahteva AI Act | Skladnost |
|---|---|
| Transparentnost (čl. 13) | Intrinzično interpretabilna simbolična arhitektura — vsak korak sklepanja je sledljiv. |
| Razložljivost (čl. 13.1) | Popoln sled: vprašanje → formalna poizvedba → pot v KG → odgovor. |
| Tehnična dokumentacija (čl. 11) | Polno dokumentiran simbolični cevovod (gramatike, pravila, ontologija). |
| Robustnost in natančnost (čl. 15) | Brez halucinacij — odgovori izvirajo izključno iz KG. |
| Človeški nadzor (čl. 14) | KG je pregleden in spremenljiv s strani človeka. |
| Upravljanje tveganj (čl. 9) | Nizko tveganje: brez nepreglednega modela, brez emergentne pristranskosti. |
8. Ekološki vpliv
8.1. Problem
- Učenje GPT-3 je porabilo približno 1.287 MWh, tj. ~552 ton CO₂.
- Ogljični odtis podatkovnih centrov za UI se je med letoma 2024 in 2025 potrojil (Awab, 2026).
- Poizvedba na LLM porabi približno 10× več energije kot standardno spletno iskanje (Kim & Yoo, 2026).
8.2. Prednost simboličnega pristopa samo na CPU
| Metrika | Sistem LLM (GPU) | Izziv UI (CPU-only) | Ocenjen dobiček |
|---|---|---|---|
| Trenutna moč | 300–400 W (GPU) | 65–125 W (CPU) | ~3–5× |
| Zakasnitev na poizvedbo | 0,5–5 s | < 100 ms (cilj) | ~5–50× |
| Energija na poizvedbo | ~0,001–0,01 kWh | ~0,000001–0,00001 kWh | ~100–1000× |
| Potrebna strojna oprema | GPU ≥ 6.000 € | Potrošniški CPU < 500 € | ~12× |
8.3. Obvezno merjenje
Projekt mora izmeriti in poročati:
- Porabo energije (kWh) za gradnjo KG.
- Porabo energije na QA poizvedbo.
- Ustrezni ogljični odtis CO₂.
- Primerjavo z referenčnim sistemom na GPU.
9. Ponovljivost
- Popolna izvorna koda: objavljena v javnem repozitoriju pod licenco HL3.
- Navodila za namestitev: avtomatizirani skript ali kontejnerizacija.
- Testni podatki: izključna uporaba javnih primerjalnih testov.
- Naključna semena: fiksna in dokumentirana za vsako stohastično komponento.
- Verzioniranje odvisnosti: datoteka s fiksnimi različicami odvisnosti.
- Kontejnerizacija: celoten sistem mora biti ponovljivo izvedljiv.
- Dokumentirana minimalna strojna oprema: izrecne minimalne specifikacije.
Največja zahtevana strojna oprema (i9 + RTX 3090) je dostopna široki javnosti. Faza 2 (QA med delovanjem) ne zahteva GPU, kar omogoča izvajanje na preprostem prenosniku.
10. Suverenost, varnost in zasebnost
Digitalna suverenost
- Brez odvisnosti od oblaka — popolnoma lokalno delovanje.
- Brez klicev zunanjih API — nobeni podatki ne zapustijo naprave.
- LLM z odprtimi utežmi za prenos in lokalno izvajanje.
- Brez vezave na ponudnika.
Varnost
- Izvajanje v peskovniku (izolirano okolje).
- Brez izvajanja poljubne kode.
- Brez prompt injection (brez LLM pri sklepanju).
- Preverjanje vnosa s formalno gramatiko.
Zasebnost
- Izključno lokalno procesiranje — dokumenti nikoli ne zapustijo naprave.
- Brez telemetrije.
- KG izbrisljiv na zahtevo.
- Možnost instanciranja ločenih KG na uporabnika ali domeno.
11. Primerjalna testiranja in vrednotenje
11.1. Priznavana primerjalna testiranja KGQA
Sistem mora biti ovrednoten na vsaj dveh od naslednjih primerjalnih testov:
| Primerjalni test | Opis | Velikost | Referenca |
|---|---|---|---|
| SimpleQuestions | Preprosta dejstvena vprašanja na Freebase | ~100K vprašanj | ACL |
| WebQuestionsSP | Spletna vprašanja z anotacijami SPARQL | ~4.737 vprašanj | ACL |
| LC-QuAD 2.0 | Kompleksna vprašanja na DBpedia/Wikidata | ~30K vprašanj | ISWC |
| ComplexWebQuestions | Večkoračna vprašanja na Freebase | ~34K vprašanj | NAACL |
| QALD | Večjezični izziv, majhen obseg | ~400–500 vprašanj | CLEF/ESWC |
| MINTQA | Nedavni primerjalni test za LLM+KG na redkih entitetah | Spremenljiva | EMNLP 2025 |
| SQuAD 2.0 | Ekstrakcijski QA na odstavkih | ~150K vprašanj | ACL |
| Natural Questions | Resnična vprašanja iz Google | ~307K vprašanj | TACL |
| TriviaQA | Kviz QA s podpornimi dokumenti | ~95K vprašanj | ACL |
Priporočilo: prednostno obravnavati LC-QuAD 2.0 in QALD, dopolnjena s SQuAD ali Natural Questions za primerjavo z nevronskimi pristopi.
11.2. Metrike vrednotenja
| Kategorija | Metrika | Opis |
|---|---|---|
| Zmogljivost QA | F1 ocena, Exact Match (EM) | Natančnost odgovorov |
| Zmogljivost QA | Hits@1, Hits@5 | Delež pravilnih odgovorov v prvih k |
| Zmogljivost QA | MRR | Srednji rang pravilnega odgovora |
| Zakasnitev | Povprečni/p95 odzivni čas (ms) | Merjeno samo na CPU |
| Prepustnost | Vprašanj/sekundo | Prepustnost |
| Ekologija | kWh/poizvedba, gCO₂/poizvedba | Prek codecarbon/carbontracker |
| Razložljivost | Stopnja sledljivosti | % odgovorov s popolnim sledom (cilj: 100 %) |
| Pokritost KG | Trojice, entitete, relacije | Opisna statistika |
11.3. Primerjalne osnove
- RAG + LLM (GPU): nevronska osnova na GPU.
- KG-RAG (GPU): hibridna osnova KG + LLM.
- Neposredni SPARQL: čisto simbolična osnova (ročne poizvedbe na istem KG).
12. Zmogljivostne specifikacije
| Merilo | Cilj | Utemeljitev |
|---|---|---|
| Zakasnitev QA | < 100 ms (p95) | Sprejemljiva uporabniška interaktivnost |
| Gradnja KG | < 1 min / 1.000 kratkih dokumentov | Praktičnost |
| Pomnilniški odtis QA | < 4 GB RAM | Izvedljivo na skromnem PC |
| Velikost KG | Skalabilno na 10M+ trojic | Zadostna pokritost za primerjalne teste |
| Natančnost QA | ≥ 50 % F1 na preprostih primerjalnih testih | Interpretabilnost in varčnost kot glavna argumenta |
| Sledljivost | 100 % odgovorov razloženih | Ključna prednost simboličnega pristopa |
13. Tveganja in ukrepi
| Tveganje | Verjetnost | Vpliv | Ukrep |
|---|---|---|---|
| Nezadostna zmogljivost QA v primerjavi z LLM | Visoka | Srednji | Osredotočenje na interpretabilnost/varčnost |
| Nezadostna kakovost samodejnega KG | Srednja | Visok | Iteracija pravil, nadzor LLM |
| Kompleksnost večkoračnih vprašanj | Visoka | Srednji | Omejitev na ≤ 3 korake, dokumentacija omejitev |
| Nezdružljivost licenc odvisnosti | Nizka | Visok | Sistematičen licenčni pregled |
| LLM z odprtimi utežmi nezadosten za nadzor | Srednja | Srednji | Testiranje in kombiniranje več modelov |
| Omejena pokritost KG v velikem obsegu | Srednja | Srednji | Začetek s QALD, nato skaliranje |
14. Merila uspešnosti
- QA sistem deluje v celoti na CPU brez GPU pri sklepanju.
- KG je zgrajen samodejno iz dokumentov v naravnem jeziku.
- Zmogljivost je izmerjena na ≥ 2 priznanih javnih primerjalnih testih.
- 100 % odgovorov je opremljenih s sledom razlage.
- Poraba energije je izmerjena in primerjana z referenčnim sistemom na GPU.
- Koda je objavljena pod licenco Hippocratic 3.0 z združljivimi odvisnostmi.
- Sistem je ponovljiv prek Docker na navedeni strojni opremi.
- Razvoj je v celoti izveden z LLM z odprtimi utežmi v peskovniku.
15. Bibliografske reference
- Agarwal, P. & Bedathur, S. (2025). A Zero-Shot Neuro-Symbolic Approach for Complex Knowledge Graph Question Answering. EMNLP 2025 Findings.
- Ansar, W., Goswami, S. & Chakrabarti, A. (2024). From Transformers to LLMs: A Systematic Survey of Efficiency Considerations in NLP. arXiv:2406.16893.
- Awab, S. (2026). AI's Resource Gluttony and Sustainable Development. SSRN 6301563.
- Boshnjakovski, V. (2025). Balancing Compliance and Innovation: Addressing Explainability in AI Systems under the EU AI Act. MBA Thesis.
- Chaudhary, V. et al. (2025). Fusing Knowledge and Language: A Comparative Study of KG-Based QA with LLMs. arXiv:2509.09272.
- Chen, H. et al. (2025). Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs. TheWebConf 2025.
- Cheng, K. et al. (2025). Neural-symbolic methods for knowledge graph reasoning: A survey. ACM Trans. Knowl. Discov. Data.
- Chudasama, Y. et al. (2025). Toward interpretable hybrid AI: integrating knowledge graphs and symbolic reasoning. IEEE Access.
- Corradini, F. et al. (2025). State of the art and future directions of small language models. Big Data and Cognitive Computing.
- Goncalves, A. & Correia, A. (2026). XAI-Compliance-by-Design: A Modular Framework for GDPR- and AI Act-Aligned Decision Transparency. MDPI J. Cybersecurity and Privacy.
- Hasan, S.M. et al. (2025). Carbon emission quantification of ML: A review. IEEE Trans. Sustainable Computing.
- Juliussen, B.A. (2025). The Right to an Explanation Under the GDPR and the AI Act. Springer, Int. Conf. Multimedia Modeling.
- Kim, M.K. & Yoo, T.A. (2026). Toward Sustainable AI: A Scoping Review of Carbon Footprint. IEEE Access.
- Linders, J. & Tomczak, J.M. (2025). Knowledge graph-extended RAG for QA. Applied Intelligence.
- Liu, B. et al. (2025). SymAgent: A neural-symbolic self-learning agent framework for complex reasoning over KGs. TheWebConf 2025.
- Ma, C. et al. (2025). Large language models meet knowledge graphs for question answering. EMNLP 2025.
- Niu, G. et al. (2026). A Comprehensive Survey of Knowledge Graph Reasoning. IEEE Trans. Big Data.
- Perevalov, A. et al. (2024). Multilingual question answering systems for knowledge graphs — a survey. Semantic Web.
- Salman, M. et al. (2024). Doc-KG: Unstructured documents to KG construction. Expert Systems.
- Schwartz, R. et al. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
- Sidhu, M.K. et al. (2025). Neurosymbolic AI for Enhanced Reasoning in Small Language Models. IEEE.
- Sovrano, F. et al. (2025). Legal XAI: Systematic Review and Interdisciplinary Mapping of XAI and EU Law. ResearchGate.
- Tunzina, T. et al. (2026). GreenAI: Environmental Efficiency in LLM-Generated Code. IEEE Access.
- Wagner, M. et al. (2025). A Critical Look at the EU AI Act's Requirements — Who Must Explain What? IEEE Int. Requirements Eng. Conf.
- Zavarella, V. (2026). Methods for KG Construction from Text Collections. arXiv:2603.25862.