1. Sažetak izazova
Izazov ima za cilj dizajniranje, implementaciju i evaluaciju sustava za pitanja/odgovore (QA) koji radi isključivo na CPU-u, temeljenog na potpuno simboličkoj arhitekturi (leksikon, gramatike, graf znanja, formalna logika). Cjelokupni razvoj sustava vođen je kvantiziranim LLM-ovima s otvorenim težinama, izvršivima na potrošačkom hardveru (i9 CPU, RTX 3090).
Ovaj projekt pripada pokretu Green AI (Schwartz et al., 2020) i Frugal AI, u suprotnosti s utrkivanjem prema sve većim modelima čiji je ugljični otisak postao alarmantan (Kim et al., 2026; Hasan et al., 2025). Također odgovara na rastuće zahtjeve za transparentnošću, objašnjivošću i regulatornom usklađenošću koje nameću GDPR i Europski AI Act (Wagner et al., 2025; Juliussen, 2025).
- Potpuno simbolički QA sustav (bez neuronske mreže pri zaključivanju)
- CPU-only u vrijeme izvršavanja (nije potreban GPU)
- Automatska izgradnja KG iz dokumenata na prirodnom jeziku
- Razvoj u potpunosti nadziran kvantiziranim LLM-ovima s otvorenim težinama
- Nativna usklađenost s GDPR / AI Act po dizajnu (intrinzična interpretabilnost)
- Etička licenca (Hippocratic 3.0)
2. Kontekst i znanstveno pozicioniranje
2.1. Formulacija problema
Trenutni QA sustavi uvelike se oslanjaju na LLM-ove (GPT, LLaMA itd.) koji zahtijevaju skupe GPU-ove za zaključivanje i postavljaju pitanja o halucinacijama, reproducibilnosti, objašnjivosti i suverenitetu podataka. Funkcioniraju kao crne kutije i teško ih je uskladiti sa zahtjevima Europskog AI Acta (članak 13) u pogledu transparentnosti visokorizičnih sustava (Wagner, 2025; Boshnjakovski, 2025).
2.2. Stanje istraživanja
Neuro-simbolički pristupi i KG-QA
Najnovija literatura konvergira prema integraciji grafova znanja (KG) i simboličkog zaključivanja kako bi se prevladala ograničenja čisto neuronskih pristupa:
- Cheng et al. (2025), "Neural-symbolic methods for knowledge graph reasoning" (ACM TKDD) — razlikuju pristupe za dopunjavanje KG, odgovaranje na složene upite i učenje logičkih pravila; identificiraju potencijal čistih simboličkih metoda za interpretabilnost.
- Niu et al. (2026), "A Comprehensive Survey of Knowledge Graph Reasoning" (IEEE Trans. Big Data) — pokrivaju višekoračno zaključivanje na KG, uključujući pristupe Inductive Logic Programming (ILP).
- Linders & Tomczak (2025), "Knowledge graph-extended RAG for QA" (Applied Intelligence) — demonstriraju da KG-ovi omogućuju simboličko zaključivanje i provjerljive odgovore.
- Chudasama et al. (2025), "Toward interpretable hybrid AI" (IEEE Access) — predlažu TrustKG koji kombinira simboličku interpretabilnost s KG.
- Agarwal & Bedathur (2025), "A Zero-Shot Neuro-Symbolic Approach for Complex KGQA" (EMNLP Findings 2025).
- Liu et al. (2025), "SymAgent" (TheWebConf 2025) — samoučeći simbolički agent za KGQA.
Automatska izgradnja grafova znanja
- Zavarella (2026), "Methods for KG Construction from Text Collections" (arXiv) — okvir koji kombinira NLP, ML i Semantic Web.
- Salman et al. (2024), "Doc-KG" (Expert Systems) — izgradnja KG iz nestrukturiranih dokumenata.
- Chen et al. (2025), "Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs" (TheWebConf 2025).
Učinkovitost CPU-a i lagani pristupi
- Sidhu et al. (2025), "Neurosymbolic AI for Enhanced Reasoning in Small Language Models" (IEEE).
- Corradini et al. (2025), "State of the art and future directions of small language models" (Big Data and Cognitive Computing).
- Chaudhary et al. (2025) potvrđuju da „spaCy pruža laganu ekstrakciju visoke preciznosti, učinkovitu na standardnom CPU-u".
- Okechukwu et al. (2025) potvrđuju da „spaCy i NLTK učinkovito rade na standardnim CPU-ovima".
Ekološki utjecaj AI-ja
- Kim & Yoo (2026), "Toward Sustainable AI" (IEEE Access) — ugljični otisak AI podatkovnih centara utrostručio se između 2024. i 2025.
- Hasan et al. (2025), "Carbon emission quantification of ML" (IEEE Trans.).
- Tunzina et al. (2026), "GreenAI: Environmental Efficiency in LLM-Generated Code" (IEEE Access).
Usklađenost s GDPR-om i AI Actom
- Wagner et al. (2025), "A Critical Look at the EU AI Act's Requirements" (IEEE RE).
- Juliussen (2025), "The Right to an Explanation Under the GDPR and the AI Act" (Springer).
- Goncalves & Correia (2026), "XAI-Compliance-by-Design" (MDPI).
- Sovrano et al. (2025), "Legal XAI: Systematic Review" (ResearchGate).
3. Ciljevi
Glavni cilj
Demonstrirati izvedivost i evaluirati performanse potpuno simboličkog QA sustava koji radi isključivo na CPU-u, čiji se graf znanja automatski gradi iz dokumenata na prirodnom jeziku.
Sekundarni ciljevi
- Postići konkurentne performanse na priznatim KGQA referentnim mjerilima.
- Izmjeriti i usporediti energetski otisak (CPU vs GPU) za demonstraciju ekološke koristi.
- Demonstrirati intrinzičnu interpretabilnost sustava (sljedivost svakog odgovora).
- Pružiti reproducibilan, dokumentiran softver pod etičkom licencom.
4. Arhitektura i tehničke specifikacije
4.1. Opća arhitektura
Sustav je podijeljen u dvije različite faze:
Faza 1 — Izgradnja grafa znanja (offline, GPU dopušten)
Dokumenti PJ → Predobrada → NER → Ekstrakcija relacija → Razrješavanje koreferencija
→ Izgradnja KG (RDF/OWL trojke) → Pohrana grafa
Faza 2 — Pitanja/Odgovori (runtime, strogo CPU-only)
Pitanje PJ → Sintaktičko-semantička analiza → Transformacija u formalni upit
→ Obilazak KG → Logičko zaključivanje → Generiranje odgovora
→ Trag objašnjenja
4.2. Hardverske specifikacije
| Komponenta | Faza 1 (Izgradnja KG) | Faza 2 (Runtime QA) |
|---|---|---|
| CPU | Intel Core i9 (maks.) | Intel Core i9 (maks.) |
| GPU | NVIDIA RTX 3090 (24 GB VRAM) | Nijedan (strogo CPU-only) |
| RAM | 32 GB (maks.) | 32 GB (dovoljno) |
| Pohrana | NVMe SSD | NVMe SSD |
Obrazloženje: Faza 1 može koristiti GPU za pokretanje kvantiziranih LLM-ova s otvorenim težinama koji nadziru izgradnju cjevovoda. Faza 2, koja čini sustav za implementaciju, mora biti strogo CPU-only kako bi se zajamčila pristupačnost, suverenitet i štedljivost.
4.3. Razvojno okruženje
- Sandbox: razvoj u izoliranom okruženju radi sigurnosti i reproducibilnosti.
- Ciljni OS: Linux (primarni cilj), s poželjnom prenosivošću na Windows/macOS.
- Jezik/ci: slobodan odabir, pod uvjetom da ovisnosti zadovoljavaju licencna ograničenja (odjeljak 6).
4.4. LLM nadzor
Razvoj sustava u potpunosti je vođen jednim ili više LLM-ova s otvorenim težinama, izvršivima lokalno na navedenom hardveru (Faza 1). Odabir modela, kvantizacije i okvira za zaključivanje prepušten je sudioniku.
5. Predložena arhitektura cjevovoda
Sljedeća razrada je pružena kao smjernica. Sudionici su slobodni predložiti drugačiju arhitekturu, pod uvjetom da ispunjavaju funkcionalna ograničenja (odjeljci 3, 4 i 12) i zahtjeve licence (odjeljak 6).
5.1. Predobrada teksta
- Segmentacija rečenica
- Tokenizacija
- Lematizacija
- Označavanje vrsta riječi
- Analiza ovisnosti
5.2. Prepoznavanje imenovanih entiteta (NER)
- Otkrivanje entiteta (osobe, lokacije, organizacije, datumi, koncepti)
- Tipiziranje entiteta prema domenskoj ontologiji
- Razrješavanje koreferencija
5.3. Ekstrakcija relacija (RE)
- Ekstrakcija trojki (subjekt, predikat, objekt) iz teksta
- Otvorena ili uzorcima vođena ekstrakcija
5.4. Izgradnja grafa znanja
- Normalizacija i spajanje entiteta (entity linking)
- Izgradnja i pohrana grafa (trojke)
- Obogaćivanje putem zaključivanja implicitnih relacija
- Validacija i čišćenje grafa
5.5. Razumijevanje pitanja
- Sintaktička analiza pitanja na prirodnom jeziku
- Identifikacija tipa pitanja (tko, što, gdje, kada…)
- Ekstrakcija navedenih entiteta i relacija
- Transformacija u formalni upit na grafu
5.6. Zaključivanje i traženje odgovora
- Obilazak grafa znanja (višekoračno zaključivanje)
- Logičko razrješavanje i rangiranje kandidatskih odgovora
5.7. Generiranje odgovora i objašnjenja
- Formulacija odgovora na prirodnom jeziku
- Potpuni trag objašnjenja: put u KG-u, primijenjena pravila, uključeni entiteti i relacije, pouzdanost/potpunost
6. Licencna ograničenja
6.1. Hippocratic License 3.0 (HL3)
Konačni softver bit će objavljen pod licencom Hippocratic License 3.0 (firstdonoharm.dev). Ova licenca:
- Ne smatra se open source u smislu OSI-ja (etička ograničenja korištenja).
- Je copyleft licenca (odjeljak 8.3).
- Nameće etičke standarde temeljene na temeljnim ljudskim pravima (UDHR, ICESCR, ICCPR, ILO).
6.2. Kompatibilnost ovisnosti
| Licenca | Kompatibilna s HL3 | Primjeri |
|---|---|---|
| MIT | ✅ Da | — |
| BSD (2/3-clause) | ✅ Da | — |
| Apache 2.0 | ✅ Da | — |
| ISC / CC0 | ✅ Da | — |
| GPL v2/v3 | ⚠️ Potencijalno nekompatibilna | — |
| AGPL | ❌ Vjerojatno nekompatibilna | — |
6.3. Preporučeni neobavezni HL3 moduli
- HL3-ECO (Ekocid) — u skladu s ciljem smanjenja ekološkog utjecaja.
- HL3-MEDIA — zabrana korištenja za promicanje nasilja.
- HL3-SV (Masovni nadzor) — u skladu sa suverenitetom i privatnošću.
7. Regulatorna usklađenost
7.1. GDPR
| Načelo GDPR-a | Provedba |
|---|---|
| Minimalizacija podataka (čl. 5.1.c) | KG pohranjuje samo relevantne ekstrahirane trojke, ne neobrađene osobne podatke. |
| Pravo na objašnjenje (čl. 22 + uvodna izjava 71) | Potpuni trag objašnjenja za svaki odgovor. |
| Pravo na brisanje (čl. 17) | Mogućnost brisanja entiteta/trojki iz KG-a. |
| Privatnost po dizajnu (čl. 25) | Nema osjetljivih podataka u KG-u bez dokumentirane nužnosti. |
| Bez automatiziranog profiliranja (čl. 22) | Sustav ne donosi automatizirane odluke o pojedincima. |
7.2. Europski AI Act
| Zahtjev AI Acta | Usklađenost |
|---|---|
| Transparentnost (čl. 13) | Intrinzično interpretabilna simbolička arhitektura — svaki korak zaključivanja je sljediv. |
| Objašnjivost (čl. 13.1) | Potpuni trag: pitanje → formalni upit → put u KG-u → odgovor. |
| Tehnička dokumentacija (čl. 11) | Potpuno dokumentabilan simbolički cjevovod (gramatike, pravila, ontologija). |
| Robusnost i točnost (čl. 15) | Bez halucinacija — odgovori dolaze isključivo iz KG-a. |
| Ljudski nadzor (čl. 14) | KG je pregledljiv i izmjenjiv od strane čovjeka. |
| Upravljanje rizicima (čl. 9) | Nizak rizik: bez neprozirnog modela, bez emergentne pristranosti. |
8. Ekološki utjecaj
8.1. Problem
- Treniranje GPT-3 potrošilo je otprilike 1 287 MWh, tj. ~552 tone CO₂.
- AI podatkovni centri zabilježili su utrostručenje ugljičnog otiska između 2024. i 2025. (Awab, 2026).
- Jedan LLM upit troši otprilike 10× više energije od standardnog web pretraživanja (Kim & Yoo, 2026).
8.2. Prednost simboličkog pristupa CPU-only
| Metrika | LLM sustav (GPU) | AI izazov (CPU-only) | Procijenjeni dobitak |
|---|---|---|---|
| Trenutačna snaga | 300-400 W (GPU) | 65-125 W (CPU) | ~3-5× |
| Latencija po upitu | 0,5-5 s | < 100 ms (cilj) | ~5-50× |
| Energija po upitu | ~0,001-0,01 kWh | ~0,000001-0,00001 kWh | ~100-1000× |
| Potreban hardver | GPU ≥ 6 000 € | Potrošački CPU < 500 € | ~12× |
8.3. Obavezno mjerenje
Projekt mora izmjeriti i izvijestiti:
- Potrošnju energije (kWh) za izgradnju KG-a.
- Potrošnju energije po QA upitu.
- Odgovarajući CO₂ otisak.
- Usporedbu s referentnim GPU sustavom.
9. Reproducibilnost
- Potpuni izvorni kod: objavljen u javnom repozitoriju, pod licencom HL3.
- Upute za instalaciju: automatizirani skript ili kontejnerizacija.
- Testni podaci: isključivo korištenje javnih referentnih mjerila.
- Nasumična sjemena: fiksirana i dokumentirana za svaku stohastičku komponentu.
- Verzioniranje ovisnosti: datoteka s fiksiranim ovisnostima.
- Kontejnerizacija: potpuni sustav mora biti reproducibilno izvršiv.
- Dokumentiran minimalni hardver: izričite minimalne specifikacije.
Maksimalni potrebni hardver (i9 + RTX 3090) je dostupan širokoj publici. Faza 2 (runtime QA) ne zahtijeva nikakav GPU, što omogućuje izvršavanje na jednostavnom prijenosnom računalu.
10. Suverenitet, sigurnost i privatnost
Digitalni suverenitet
- Nema ovisnosti o oblaku — potpuno lokalni rad.
- Nema poziva vanjskim API-jima — nikakvi podaci ne napuštaju stroj.
- LLM-ovi s otvorenim težinama za preuzimanje i lokalno izvršavanje.
- Bez ovisnosti o dobavljaču.
Sigurnost
- Izvršavanje u sandboxu (izolirano okruženje).
- Bez proizvoljnog izvršavanja koda.
- Bez prompt injection (nema LLM-a pri zaključivanju).
- Validacija ulaznih podataka putem formalne gramatike.
Privatnost
- Isključivo lokalna obrada — dokumenti nikada ne napuštaju stroj.
- Bez telemetrije.
- KG izbrisiv na zahtjev.
- Mogućnost instanciranja zasebnih KG-ova po korisniku ili po domeni.
11. Referentna mjerila i evaluacija
11.1. Priznata KGQA referentna mjerila
Sustav mora biti evaluiran na najmanje dva od sljedećih referentnih mjerila:
| Referentno mjerilo | Opis | Veličina | Izvor |
|---|---|---|---|
| SimpleQuestions | Jednostavna činjenična pitanja o Freebaseu | ~100K pitanja | ACL |
| WebQuestionsSP | Web pitanja s SPARQL anotacijama | ~4 737 pitanja | ACL |
| LC-QuAD 2.0 | Složena pitanja o DBpediji/Wikidati | ~30K pitanja | ISWC |
| ComplexWebQuestions | Višekoračna pitanja o Freebaseu | ~34K pitanja | NAACL |
| QALD | Višejezični izazov, mala veličina | ~400-500 pitanja | CLEF/ESWC |
| MINTQA | Novo referentno mjerilo za LLM+KG na rijetkim entitetima | Varijabilno | EMNLP 2025 |
| SQuAD 2.0 | Ekstraktivni QA na odlomcima | ~150K pitanja | ACL |
| Natural Questions | Stvarna pitanja s Googlea | ~307K pitanja | TACL |
| TriviaQA | QA s trivija pitanjima s popratnim dokumentima | ~95K pitanja | ACL |
Preporuka: prioritizirajte LC-QuAD 2.0 i QALD, dopunjene s SQuAD ili Natural Questions za usporedbu s neuronskim pristupima.
11.2. Metrike evaluacije
| Kategorija | Metrika | Opis |
|---|---|---|
| Performanse QA | F1 score, Exact Match (EM) | Preciznost odgovora |
| Performanse QA | Hits@1, Hits@5 | Stopa točnih odgovora u top-k |
| Performanse QA | MRR | Prosječni rang točnog odgovora |
| Latencija | Prosječno/p95 vrijeme odgovora (ms) | Mjereno isključivo na CPU-u |
| Propusnost | Pitanja/sekundi | Propusnost |
| Ekologija | kWh/upit, gCO₂/upit | Putem codecarbon/carbontracker |
| Objašnjivost | Stopa sljedivosti | % odgovora s potpunim tragom (cilj: 100%) |
| Pokrivenost KG | Trojke, entiteti, relacije | Opisna statistika |
11.3. Referentne baze za usporedbu
- RAG + LLM (GPU): neuronska referentna baza na GPU-u.
- KG-RAG (GPU): hibridna referentna baza KG + LLM.
- Direct SPARQL: čisto simbolička referentna baza (ručni upiti na istom KG-u).
12. Specifikacije performansi
| Kriterij | Cilj | Obrazloženje |
|---|---|---|
| Latencija QA | < 100 ms (p95) | Prihvatljiva interaktivnost za korisnika |
| Izgradnja KG | < 1 min / 1 000 kratkih dokumenata | Praktičnost |
| Memorijski otisak QA | < 4 GB RAM | Izvršivo na skromnom PC-u |
| Veličina KG | Skalabilno na 10M+ trojki | Dovoljna pokrivenost za referentna mjerila |
| Preciznost QA | ≥ 50% F1 na jednostavnim referentnim mjerilima | Interpretabilnost i štedljivost kao glavni argumenti |
| Sljedivost | 100% odgovora s objašnjenjem | Ključna prednost simboličkog pristupa |
13. Rizici i mjere ublažavanja
| Rizik | Vjerojatnost | Utjecaj | Ublažavanje |
|---|---|---|---|
| Nedovoljna QA performansa vs LLM | Visoka | Srednji | Naglasak na interpretabilnost/štedljivost |
| Nedovoljna kvaliteta automatskog KG-a | Srednja | Visoki | Iteriranje pravila, LLM nadzor |
| Složenost višekoračnih pitanja | Visoka | Srednji | Ograničenje na ≤ 3 koraka, dokumentiranje ograničenja |
| Licencna nekompatibilnost ovisnosti | Niska | Visoki | Sustavna revizija licenci |
| LLM s otvorenim težinama nedovoljan za nadzor | Srednja | Srednji | Testiranje i kombiniranje više modela |
| Ograničena pokrivenost KG-a u velikom mjerilu | Srednja | Srednji | Početak s QALD-om, zatim skaliranje |
14. Kriteriji uspjeha
- QA sustav radi u potpunosti na CPU-u bez GPU-a pri zaključivanju.
- KG se gradi automatski iz dokumenata na prirodnom jeziku.
- Performanse se mjere na ≥ 2 priznatih javnih referentnih mjerila.
- 100% odgovora popraćeno je tragom objašnjenja.
- Potrošnja energije je izmjerena i uspoređena s referentnim GPU sustavom.
- Kod je objavljen pod licencom Hippocratic 3.0 s kompatibilnim ovisnostima.
- Sustav je reproducibilan putem Dockera na navedenom hardveru.
- Razvoj je u potpunosti proveden LLM-ovima s otvorenim težinama u sandboxu.
15. Bibliografske reference
- Agarwal, P. & Bedathur, S. (2025). A Zero-Shot Neuro-Symbolic Approach for Complex Knowledge Graph Question Answering. EMNLP 2025 Findings.
- Ansar, W., Goswami, S. & Chakrabarti, A. (2024). From Transformers to LLMs: A Systematic Survey of Efficiency Considerations in NLP. arXiv:2406.16893.
- Awab, S. (2026). AI's Resource Gluttony and Sustainable Development. SSRN 6301563.
- Boshnjakovski, V. (2025). Balancing Compliance and Innovation: Addressing Explainability in AI Systems under the EU AI Act. MBA Thesis.
- Chaudhary, V. et al. (2025). Fusing Knowledge and Language: A Comparative Study of KG-Based QA with LLMs. arXiv:2509.09272.
- Chen, H. et al. (2025). Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs. TheWebConf 2025.
- Cheng, K. et al. (2025). Neural-symbolic methods for knowledge graph reasoning: A survey. ACM Trans. Knowl. Discov. Data.
- Chudasama, Y. et al. (2025). Toward interpretable hybrid AI: integrating knowledge graphs and symbolic reasoning. IEEE Access.
- Corradini, F. et al. (2025). State of the art and future directions of small language models. Big Data and Cognitive Computing.
- Goncalves, A. & Correia, A. (2026). XAI-Compliance-by-Design: A Modular Framework for GDPR- and AI Act-Aligned Decision Transparency. MDPI J. Cybersecurity and Privacy.
- Hasan, S.M. et al. (2025). Carbon emission quantification of ML: A review. IEEE Trans. Sustainable Computing.
- Juliussen, B.A. (2025). The Right to an Explanation Under the GDPR and the AI Act. Springer, Int. Conf. Multimedia Modeling.
- Kim, M.K. & Yoo, T.A. (2026). Toward Sustainable AI: A Scoping Review of Carbon Footprint. IEEE Access.
- Linders, J. & Tomczak, J.M. (2025). Knowledge graph-extended RAG for QA. Applied Intelligence.
- Liu, B. et al. (2025). SymAgent: A neural-symbolic self-learning agent framework for complex reasoning over KGs. TheWebConf 2025.
- Ma, C. et al. (2025). Large language models meet knowledge graphs for question answering. EMNLP 2025.
- Niu, G. et al. (2026). A Comprehensive Survey of Knowledge Graph Reasoning. IEEE Trans. Big Data.
- Perevalov, A. et al. (2024). Multilingual question answering systems for knowledge graphs — a survey. Semantic Web.
- Salman, M. et al. (2024). Doc-KG: Unstructured documents to KG construction. Expert Systems.
- Schwartz, R. et al. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
- Sidhu, M.K. et al. (2025). Neurosymbolic AI for Enhanced Reasoning in Small Language Models. IEEE.
- Sovrano, F. et al. (2025). Legal XAI: Systematic Review and Interdisciplinary Mapping of XAI and EU Law. ResearchGate.
- Tunzina, T. et al. (2026). GreenAI: Environmental Efficiency in LLM-Generated Code. IEEE Access.
- Wagner, M. et al. (2025). A Critical Look at the EU AI Act's Requirements — Who Must Explain What? IEEE Int. Requirements Eng. Conf.
- Zavarella, V. (2026). Methods for KG Construction from Text Collections. arXiv:2603.25862.