1. Väljakutse kokkuvõte
Väljakutse eesmärk on kavandada, rakendada ja hinnata küsimuste/vastuste (QA) süsteemi, mis töötab ainult CPU-l, põhinedes puhtalt sümboolsel arhitektuuril (sõnastik, grammatikad, teadmusgraaf, formaalne loogika). Kogu süsteemi arendust juhivad kvantiseeritud open-weights LLM-idega, mis on käivitatavad tarbija riistvaral (i9 CPU, RTX 3090).
See projekt kuulub Green AI liikumiste (Schwartz et al., 2020) ja Frugal AI hulka, vastandudes üha suuremate mudelite võidujooksule, mille süsiniku jalajälg on muutunud murettekitavaks (Kim et al., 2026; Hasan et al., 2025). Samuti käsitleb see kasvavaid nõudmisi läbipaistvuse, seletatavuse ja regulatiivse vastavuse osas, mida kehtestavad GDPR ja Euroopa AI Act (Wagner et al., 2025; Juliussen, 2025).
- Puhtalt sümboolne QA-süsteem (järeldamisel puudub närvivõrk)
- CPU-only käitamisel (GPU pole vajalik)
- Automaatne KG ehitamine loomuliku keele dokumentidest
- Arendus täielikult kvantiseeritud open-weights LLM-ide juhitud
- Natiivne GDPR/AI Act vastavus disainilt (olemuslik tõlgendatavus)
- Eetiline litsents (Hippocratic 3.0)
2. Kontekst ja teaduslik positsioneerimine
2.1. Probleemi kirjeldus
Praegused QA-süsteemid tuginevad suurel määral LLM-idele (GPT, LLaMA jne.), mis nõuavad kalleid GPU-sid järeldamiseks ja tõstavad küsimusi hallutsinatsioonidest, reprodutseeritavusest, seletatavusest ja andmesuveräänsusest. Need toimivad mustade kastidena ja neid on raske muuta vastavaks Euroopa AI Act-i (artikkel 13) nõuetele kõrge riskiga süsteemide läbipaistvuse osas (Wagner, 2025; Boshnjakovski, 2025).
2.2. State of the Art
Neurosümboolsed lähenemised ja KG-QA
Hiljutine kirjandus konvergeerub teadmusgraafide (KG) ja sümboolse arutluse integreerimise suunas, et käsitleda puhtalt neuraalsete lähenemiste piiranguid:
- Cheng et al. (2025), "Neural-symbolic methods for knowledge graph reasoning" (ACM TKDD) — eristavad KG täiendamise, keeruka päringuvastamise ja loogilise reegli õppimise lähenemisi; tuvastavad puhtalt sümboolsete meetodite potentsiaali tõlgendatavuse jaoks.
- Niu et al. (2026), "A Comprehensive Survey of Knowledge Graph Reasoning" (IEEE Trans. Big Data) — katavad multi-hop arutluse KG-l, sealhulgas Inductive Logic Programming (ILP) lähenemised.
- Linders & Tomczak (2025), "Knowledge graph-extended RAG for QA" (Applied Intelligence) — näitavad, et KG-d võimaldavad sümboolset arutlust ja kontrollitavaid vastuseid.
- Chudasama et al. (2025), "Toward interpretable hybrid AI" (IEEE Access) — pakuvad välja TrustKG, mis kombineerib sümboolset tõlgendatavust KG-ga.
- Agarwal & Bedathur (2025), "A Zero-Shot Neuro-Symbolic Approach for Complex KGQA" (EMNLP Findings 2025).
- Liu et al. (2025), "SymAgent" (TheWebConf 2025) — iseõppiv sümboolne agent KGQA jaoks.
Automaatne teadmusgraafi ehitamine
- Zavarella (2026), "Methods for KG Construction from Text Collections" (arXiv) — raamistik, mis kombineerib NLP-d, ML-i ja Semantic Web-i.
- Salman et al. (2024), "Doc-KG" (Expert Systems) — KG ehitamine struktureerimata dokumentidest.
- Chen et al. (2025), "Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs" (TheWebConf 2025).
CPU tõhusus ja kerged lähenemised
- Sidhu et al. (2025), "Neurosymbolic AI for Enhanced Reasoning in Small Language Models" (IEEE).
- Corradini et al. (2025), "State of the art and future directions of small language models" (Big Data and Cognitive Computing).
- Chaudhary et al. (2025) kinnitavad, et "spaCy provides lightweight, high-precision extraction, efficient on standard CPU".
- Okechukwu et al. (2025) kinnitavad, et "spaCy and NLTK operate efficiently on standard CPUs".
Tehisintellekti ökoloogiline mõju
- Kim & Yoo (2026), "Toward Sustainable AI" (IEEE Access) — tehisintellekti andmekeskuste süsiniku jalajälg kolmekordistus aastatel 2024–2025.
- Hasan et al. (2025), "Carbon emission quantification of ML" (IEEE Trans.).
- Tunzina et al. (2026), "GreenAI: Environmental Efficiency in LLM-Generated Code" (IEEE Access).
GDPR ja AI Act vastavus
- Wagner et al. (2025), "A Critical Look at the EU AI Act's Requirements" (IEEE RE).
- Juliussen (2025), "The Right to an Explanation Under the GDPR and the AI Act" (Springer).
- Goncalves & Correia (2026), "XAI-Compliance-by-Design" (MDPI).
- Sovrano et al. (2025), "Legal XAI: Systematic Review" (ResearchGate).
3. Eesmärgid
Peamine eesmärk
Näidata teostatavust ja hinnata jõudlust CPU-only, puhtalt sümboolsel QA-süsteemil, mille teadmusgraaf ehitatakse automaatselt loomuliku keele dokumentidest.
Sekundaarsed eesmärgid
- Saavutada konkurentsivõimeline jõudlus tunnustatud KGQA võrdlustestidel.
- Mõõta ja võrrelda energia jalajälge (CPU vs GPU) ökoloogilise kasu näitamiseks.
- Näidata süsteemi olemuslikku tõlgendatavust (iga vastuse jälgitavus).
- Pakkuda reprodutseeritavat, dokumenteeritud tarkvara eetilise litsentsi all.
4. Arhitektuur & tehnilised spetsifikatsioonid
4.1. Üldine arhitektuur
Süsteem on jagatud kaheks eraldi faasiks:
Faas 1 — Teadmusgraafi ehitamine (offline, GPU lubatud)
LK-dokumendid → Eeltöötlus → NER → Suhete ekstraheerimine → Koreferentsi lahendamine
→ KG ehitamine (RDF/OWL triplid) → Graafi salvestamine
Faas 2 — Küsimused/vastused (käitamine, rangelt CPU-only)
LK-küsimus → Süntaktiline/semantiline analüüs → Teisendamine formaalseks päringiks
→ KG läbimine → Loogiline arutlus → Vastuse genereerimine
→ Selgituse jälg
4.2. Riistvara spetsifikatsioonid
| Komponent | Faas 1 (KG ehitamine) | Faas 2 (QA käitamine) |
|---|---|---|
| CPU | Intel Core i9 (maks.) | Intel Core i9 (maks.) |
| GPU | NVIDIA RTX 3090 (24 GB VRAM) | Puudub (rangelt CPU-only) |
| RAM | 32 GB (maks.) | 32 GB (piisav) |
| Salvestusruum | NVMe SSD | NVMe SSD |
Põhjendus: Faas 1 võib kasutada GPU-d kvantiseeritud open-weights LLM-ide käitamiseks, mis juhivad pipeline'i ehitamist. Faas 2, mis moodustab juurutatava süsteemi, peab olema rangelt CPU-only, et tagada kättesaadavus, suveräänsus ja kokkuhoidlikkus.
4.3. Arenduskeskkond
- Liivakast: arendus isoleeritud keskkonnas turvalisuse ja reprodutseeritavuse tagamiseks.
- Siht-OS: Linux (esmane sihtmärk), Windows/macOS-i teisaldatavus soovitav.
- Keel(ed): vaba valik, eeldusel et sõltuvused vastavad litsentsipiirangutele (jaotis 6).
4.4. LLM-i järelevalve
Süsteemi arendust juhib täielikult üks või mitu open-weights LLM-i, mis on käivitatavad kohapeal määratud riistvaral (Faas 1). Mudelite, kvantiseerimise ja järeldamisraamistiku valik jäetakse osalejale.
5. Soovituslik pipeline-arhitektuur
Järgnev jaotus on esitatud juhisena. Osalejad võivad vabalt pakkuda erinevat arhitektuuri, tingimusel et funktsionaalsed piirangud (jaotised 3, 4 ja 12) ja litsentsinõuded (jaotis 6) on täidetud.
5.1. Teksti eeltöötlus
- Lausete segmenteerimine
- Tokeniseerimine
- Lemmatiseerimine
- Sõnaliigi märgendamine
- Sõltuvusanalüüs
5.2. Nimega olemite tuvastamine (NER)
- Olemite tuvastamine (isikud, kohad, organisatsioonid, kuupäevad, mõisted)
- Olemite tüpiseerimine domeeniontoloogia järgi
- Koreferentsi lahendamine
5.3. Suhete ekstraheerimine (RE)
- Triplite ekstraheerimine (subjekt, predikaat, objekt) tekstist
- Avatud või malli juhitud ekstraheerimine
5.4. Teadmusgraafi ehitamine
- Olemite normaliseerimine ja ühendamine (entity linking)
- Graafi ehitamine ja salvestamine (triplid)
- Rikastamine kaudsete suhete järeldamise kaudu
- Graafi valideerimine ja puhastamine
5.5. Küsimuse mõistmine
- Loomuliku keele küsimuse süntaktiline analüüs
- Küsimuse tüübi tuvastamine (kes, mis, kus, millal…)
- Mainitud olemite ja suhete ekstraheerimine
- Teisendamine formaalseks päringiks graafil
5.6. Arutlus & vastuse otsing
- Teadmusgraafi läbimine (multi-hop arutlus)
- Loogiline lahendamine ja kandidaatvastuste järjestamine
5.7. Vastuse genereerimine & selgitused
- Vastuse sõnastamine loomulikus keeles
- Täielik selgituse jälg: tee KG-s, rakendatud reeglid, kaasatud olemid ja suhted, usaldusväärsus/täielikkus
6. Litsentsi piirangud
6.1. Hippocratic License 3.0 (HL3)
Lõplik tarkvara avaldatakse Hippocratic License 3.0 all (firstdonoharm.dev). See litsents:
- Ei ole avatud lähtekoodiga litsents OSI mõttes (eetilised kasutuspiirangud).
- On copyleft litsents (jaotis 8.3).
- Kehtestab eetilised standardid põhiinimõiguste alusel (UDHR, ICESCR, ICCPR, ILO).
6.2. Sõltuvuste ühilduvus
| Litsents | HL3-ga ühilduv | Näited |
|---|---|---|
| MIT | ✅ Jah | — |
| BSD (2/3-clause) | ✅ Jah | — |
| Apache 2.0 | ✅ Jah | — |
| ISC / CC0 | ✅ Jah | — |
| GPL v2/v3 | ⚠️ Potentsiaalselt mitteühilduv | — |
| AGPL | ❌ Tõenäoliselt mitteühilduv | — |
6.3. Soovituslikud valikulised HL3 moodulid
- HL3-ECO (Ökotsiiid) — kooskõlas ökoloogilise mõju vähendamise eesmärgiga.
- HL3-MEDIA — vägivalla propageerimiseks kasutamise keeld.
- HL3-SV (Massjälgimine) — kooskõlas suveräänsuse ja privaatsusega.
7. Regulatiivne vastavus
7.1. GDPR
| GDPR põhimõte | Rakendamine |
|---|---|
| Andmete minimeerimine (Art. 5.1.c) | KG salvestab ainult asjakohased ekstraheeritud triplid, mitte toores isikuandmeid. |
| Õigus selgitusele (Art. 22 + preambul 71) | Täielik selgituse jälg iga vastuse jaoks. |
| Õigus kustutamisele (Art. 17) | Võimalus kustutada olemeid/tripleid KG-st. |
| Lõimitud andmekaitse (Art. 25) | KG-s puuduvad tundlikud andmed, välja arvatud dokumenteeritud vajaduse korral. |
| Automaatse profiilimise puudumine (Art. 22) | Süsteem ei tee automatiseeritud otsuseid üksikisikute kohta. |
7.2. Euroopa AI Act
| AI Act nõue | Vastavus |
|---|---|
| Läbipaistvus (Art. 13) | Olemuslikult tõlgendatav sümboolne arhitektuur — iga arutlussamm on jälgitav. |
| Seletatavus (Art. 13.1) | Täielik jälg: küsimus → formaalne päring → KG tee → vastus. |
| Tehniline dokumentatsioon (Art. 11) | Täielikult dokumenteeritav sümboolne pipeline (grammatikad, reeglid, ontoloogia). |
| Robustsus ja täpsus (Art. 15) | Hallutsinatsioonid puuduvad — vastused tulevad ainult KG-st. |
| Inimjärelevalve (Art. 14) | KG on inimese poolt kontrollitav ja muudetav. |
| Riskijuhtimine (Art. 9) | Madal risk: läbipaistmatu mudel puudub, emergentne kallutatus puudub. |
8. Ökoloogiline mõju
8.1. Probleem
- GPT-3 treenimine tarbis ligikaudu 1 287 MWh, s.o ~552 tonni CO₂.
- Tehisintellekti andmekeskuste süsiniku jalajälg kolmekordistus aastatel 2024–2025 (Awab, 2026).
- LLM päring tarbib ligikaudu 10× rohkem energiat kui tavaline veebiotsing (Kim & Yoo, 2026).
8.2. Sümboolse CPU-only süsteemi eelis
| Mõõdik | LLM-süsteem (GPU) | TI väljakutse (CPU-only) | Hinnanguline kasu |
|---|---|---|---|
| Hetkeline võimsus | 300–400 W (GPU) | 65–125 W (CPU) | ~3–5× |
| Latentsus päringu kohta | 0,5–5 s | < 100 ms (eesmärk) | ~5–50× |
| Energia päringu kohta | ~0,001–0,01 kWh | ~0,000001–0,00001 kWh | ~100–1000× |
| Nõutav riistvara | GPU ≥ 6 000 € | Tarbija CPU < 500 € | ~12× |
8.3. Kohustuslik mõõtmine
Projekt peab mõõtma ja raporteerima:
- Energiatarbimine (kWh) KG ehitamiseks.
- Energiatarbimine QA päringu kohta.
- Vastav CO₂ jalanjälg.
- Võrdlus GPU baassüsteemiga.
9. Reprodutseeritavus
- Täielik lähtekood: avaldatud avalikus hoidlas HL3 litsentsi all.
- Paigaldusjuhised: automatiseeritud skript või konteineriseerimine.
- Testiandmed: ainult avalike võrdlustestide kasutamine.
- Juhuslikud algväärtused: fikseeritud ja dokumenteeritud iga stohhastilise komponendi jaoks.
- Sõltuvuste versioonihaldus: lukustatud sõltuvusfail.
- Konteineriseerimine: kogu süsteem peab olema reprodutseeritavalt käivitatav.
- Dokumenteeritud miinimumriistvara: selgesõnalised miinimumspetsifikatsioonid.
Maksimaalselt nõutav riistvara (i9 + RTX 3090) on kättesaadav laiale publikule. Faas 2 (QA käitamine) ei nõua GPU-d, mis võimaldab käitamist lihtsal sülearvutil.
10. Suveräänsus, turvalisus & privaatsus
Digitaalne suveräänsus
- Pilvesoltuuseta — täielikult kohalik töö.
- Välised API kutsed puuduvad — andmed ei lahku masinast.
- Open-weights LLM-id allalaaditavad ja kohalikult käivitatavad.
- Hankijalukk puudub.
Turvalisus
- Liivakastis käitamine (isoleeritud keskkond).
- Suvaline koodi käivitamine puudub.
- Prompt injection puudub (järeldamisel LLM puudub).
- Sisendi valideerimine formaalse grammatika kaudu.
Privaatsus
- Ainult kohalik töötlemine — dokumendid ei lahku kunagi masinast.
- Telemeetria puudub.
- KG kustutatav nõudmisel.
- Võimalus luua eraldi KG-d kasutaja või domeeni kohta.
11. Võrdlustestid & hindamine
11.1. Tunnustatud KGQA võrdlustestid
Süsteem tuleb hinnata vähemalt kahel järgmistest võrdlustestidest:
| Võrdlustest | Kirjeldus | Maht | Viide |
|---|---|---|---|
| SimpleQuestions | Lihtsad faktilised küsimused Freebase'i kohta | ~100K küsimust | ACL |
| WebQuestionsSP | Veebiküsimused SPARQL annotatsioonidega | ~4 737 küsimust | ACL |
| LC-QuAD 2.0 | Keerukad küsimused DBpedia/Wikidata kohta | ~30K küsimust | ISWC |
| ComplexWebQuestions | Multi-hop küsimused Freebase'i kohta | ~34K küsimust | NAACL |
| QALD | Mitmekeelne väljakutse, väike maht | ~400–500 küsimust | CLEF/ESWC |
| MINTQA | Uuem võrdlustest LLM+KG jaoks haruldaste olemite kohta | Muutuv | EMNLP 2025 |
| SQuAD 2.0 | Ekstraktiivne QA lõikude kohta | ~150K küsimust | ACL |
| Natural Questions | Päris Google'i küsimused | ~307K küsimust | TACL |
| TriviaQA | Trivia QA toetavate dokumentidega | ~95K küsimust | ACL |
Soovitus: prioriseerige LC-QuAD 2.0 ja QALD, täiendatuna SQuAD-i või Natural Questions-iga võrdluseks neuraalsete lähenemistega.
11.2. Hindamismõõdikud
| Kategooria | Mõõdik | Kirjeldus |
|---|---|---|
| QA jõudlus | F1 skoor, Exact Match (EM) | Vastuse täpsus |
| QA jõudlus | Hits@1, Hits@5 | Õige vastuse määr top-k-s |
| QA jõudlus | MRR | Õige vastuse keskmine koht |
| Latentsus | Keskmine/p95 vastamisaeg (ms) | Mõõdetud ainult CPU-l |
| Läbilaskevõime | Küsimusi/sekundis | Läbilaskevõime |
| Ökoloogia | kWh/päring, gCO₂/päring | codecarbon/carbontracker kaudu |
| Seletatavus | Jälgitavuse määr | % vastustest täieliku jäljega (eesmärk: 100%) |
| KG katvus | Triplid, olemid, suhted | Kirjeldav statistika |
11.3. Võrdlusbaastasemed
- RAG + LLM (GPU): neuraalne baastase GPU-l.
- KG-RAG (GPU): hübriid KG + LLM baastase.
- Otsene SPARQL: puhtalt sümboolne baastase (käsitsi päringud samal KG-l).
12. Jõudlusspetsifikatsioonid
| Kriteerium | Eesmärk | Põhjendus |
|---|---|---|
| QA latentsus | < 100 ms (p95) | Vastuvõetav kasutaja interaktiivsus |
| KG ehitamine | < 1 min / 1 000 lühikest dokumenti | Praktilisus |
| QA mälujälg | < 4 GB RAM | Käivitatav tagasihoidlikul PC-l |
| KG maht | Skaleeritav 10M+ triplini | Piisav katvus võrdlustestide jaoks |
| QA täpsus | ≥ 50% F1 lihtsatel võrdlustestidel | Tõlgendatavus ja kokkuhoidlikkus peamiste argumentidena |
| Jälgitavus | 100% vastustest selgitatud | Sümboolse lähenemise peamine eelis |
13. Riskid & leevendamised
| Risk | Tõenäosus | Mõju | Leevendamine |
|---|---|---|---|
| Ebapiisav QA jõudlus vs LLM | Kõrge | Keskmine | Keskendu tõlgendatavusele/kokkuhoidlikkusele |
| Automaatse KG ebapiisav kvaliteet | Keskmine | Kõrge | Korda reegleid, LLM järelevalve |
| Multi-hop küsimuste keerukus | Kõrge | Keskmine | Piira ≤ 3 hüppeni, dokumenteeri piirangud |
| Sõltuvuste litsentsi mitteühilduvus | Madal | Kõrge | Süstemaatiline litsentsiaudit |
| Open-weights LLM ebapiisav järelevalveks | Keskmine | Keskmine | Testi ja kombineeri mitut mudelit |
| KG piiratud katvus suurel skaalal | Keskmine | Keskmine | Alusta QALD-ga, seejärel skaleeri üles |
14. Edukriteeriumid
- QA-süsteem töötab täielikult CPU-l ilma GPU-ta järeldamisel.
- KG ehitatakse automaatselt loomuliku keele dokumentidest.
- Jõudlust mõõdetakse ≥ 2 tunnustatud avalikul võrdlustestil.
- 100% vastustest on varustatud selgituse jäljega.
- Energiatarbimist on mõõdetud ja võrreldud GPU baastasemega.
- Kood avaldatakse Hippocratic 3.0 litsentsi all ühilduvate sõltuvustega.
- Süsteem on reprodutseeritav Dockeri kaudu määratud riistvaral.
- Arendus viiakse täielikult läbi open-weights LLM-ide poolt liivakastis.
15. Bibliograafilised viited
- Agarwal, P. & Bedathur, S. (2025). A Zero-Shot Neuro-Symbolic Approach for Complex Knowledge Graph Question Answering. EMNLP 2025 Findings.
- Ansar, W., Goswami, S. & Chakrabarti, A. (2024). From Transformers to LLMs: A Systematic Survey of Efficiency Considerations in NLP. arXiv:2406.16893.
- Awab, S. (2026). AI's Resource Gluttony and Sustainable Development. SSRN 6301563.
- Boshnjakovski, V. (2025). Balancing Compliance and Innovation: Addressing Explainability in AI Systems under the EU AI Act. MBA Thesis.
- Chaudhary, V. et al. (2025). Fusing Knowledge and Language: A Comparative Study of KG-Based QA with LLMs. arXiv:2509.09272.
- Chen, H. et al. (2025). Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs. TheWebConf 2025.
- Cheng, K. et al. (2025). Neural-symbolic methods for knowledge graph reasoning: A survey. ACM Trans. Knowl. Discov. Data.
- Chudasama, Y. et al. (2025). Toward interpretable hybrid AI: integrating knowledge graphs and symbolic reasoning. IEEE Access.
- Corradini, F. et al. (2025). State of the art and future directions of small language models. Big Data and Cognitive Computing.
- Goncalves, A. & Correia, A. (2026). XAI-Compliance-by-Design: A Modular Framework for GDPR- and AI Act-Aligned Decision Transparency. MDPI J. Cybersecurity and Privacy.
- Hasan, S.M. et al. (2025). Carbon emission quantification of ML: A review. IEEE Trans. Sustainable Computing.
- Juliussen, B.A. (2025). The Right to an Explanation Under the GDPR and the AI Act. Springer, Int. Conf. Multimedia Modeling.
- Kim, M.K. & Yoo, T.A. (2026). Toward Sustainable AI: A Scoping Review of Carbon Footprint. IEEE Access.
- Linders, J. & Tomczak, J.M. (2025). Knowledge graph-extended RAG for QA. Applied Intelligence.
- Liu, B. et al. (2025). SymAgent: A neural-symbolic self-learning agent framework for complex reasoning over KGs. TheWebConf 2025.
- Ma, C. et al. (2025). Large language models meet knowledge graphs for question answering. EMNLP 2025.
- Niu, G. et al. (2026). A Comprehensive Survey of Knowledge Graph Reasoning. IEEE Trans. Big Data.
- Perevalov, A. et al. (2024). Multilingual question answering systems for knowledge graphs — a survey. Semantic Web.
- Salman, M. et al. (2024). Doc-KG: Unstructured documents to KG construction. Expert Systems.
- Schwartz, R. et al. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
- Sidhu, M.K. et al. (2025). Neurosymbolic AI for Enhanced Reasoning in Small Language Models. IEEE.
- Sovrano, F. et al. (2025). Legal XAI: Systematic Review and Interdisciplinary Mapping of XAI and EU Law. ResearchGate.
- Tunzina, T. et al. (2026). GreenAI: Environmental Efficiency in LLM-Generated Code. IEEE Access.
- Wagner, M. et al. (2025). A Critical Look at the EU AI Act's Requirements — Who Must Explain What? IEEE Int. Requirements Eng. Conf.
- Zavarella, V. (2026). Methods for KG Construction from Text Collections. arXiv:2603.25862.