1. Samenvatting van de uitdaging
De uitdaging beoogt het ontwerpen, implementeren en evalueren van een vraag/antwoord-systeem (QA) dat uitsluitend op CPU draait, gebaseerd op een zuiver symbolische architectuur (lexicon, grammatica's, kennisgraaf, formele logica). De volledige systeemontwikkeling wordt aangestuurd door gekwantiseerde open-weights LLMs, uitvoerbaar op consumenten-hardware (i9 CPU, RTX 3090).
Dit project past binnen de Green AI-beweging (Schwartz et al., 2020) en Frugal AI, in tegenstelling tot de race naar steeds grotere modellen waarvan de koolstofvoetafdruk alarmerend is geworden (Kim et al., 2026; Hasan et al., 2025). Het beantwoordt ook de groeiende eisen aan transparantie, verklaarbaarheid en wettelijke conformiteit opgelegd door de AVG en de Europese AI Act (Wagner et al., 2025; Juliussen, 2025).
- Zuiver symbolisch QA-systeem (geen neuraal netwerk bij inferentie)
- CPU-only tijdens runtime (geen GPU vereist)
- Automatische KG-constructie uit natuurlijke-taaldocumenten
- Ontwikkeling volledig begeleid door gekwantiseerde open-weights LLMs
- Native AVG/AI-Act-conformiteit by design (intrinsieke interpreteerbaarheid)
- Ethische licentie (Hippocratic 3.0)
2. Context en wetenschappelijke positionering
2.1. Probleemstelling
Huidige QA-systemen leunen sterk op LLMs (GPT, LLaMA, enz.) die dure GPU's vereisen voor inferentie en problemen oproepen van hallucinatie, reproduceerbaarheid, verklaarbaarheid en datasoevereiniteit. Ze werken als zwarte dozen en zijn moeilijk in overeenstemming te brengen met de eisen van de Europese AI Act (Artikel 13) betreffende transparantie van hoog-risicosystemen (Wagner, 2025; Boshnjakovski, 2025).
2.2. Stand van de techniek
Neuro-symbolische benaderingen en KG-QA
De recente literatuur convergeert naar de integratie van kennisgrafen (KG) en symbolisch redeneren om de beperkingen van zuiver neurale benaderingen te adresseren:
- Cheng et al. (2025), "Neural-symbolic methods for knowledge graph reasoning" (ACM TKDD) — onderscheiden KG-aanvulling, complexe vraagbeantwoording en logisch regellernen; identificeren het potentieel van zuiver symbolische methoden voor interpreteerbaarheid.
- Niu et al. (2026), "A Comprehensive Survey of Knowledge Graph Reasoning" (IEEE Trans. Big Data) — behandelen multi-hop redeneren op KG, inclusief Inductive Logic Programming (ILP)-benaderingen.
- Linders & Tomczak (2025), "Knowledge graph-extended RAG for QA" (Applied Intelligence) — tonen aan dat KG's symbolisch redeneren en verifieerbare antwoorden mogelijk maken.
- Chudasama et al. (2025), "Toward interpretable hybrid AI" (IEEE Access) — stellen TrustKG voor dat symbolische interpreteerbaarheid met KG combineert.
- Agarwal & Bedathur (2025), "A Zero-Shot Neuro-Symbolic Approach for Complex KGQA" (EMNLP Findings 2025).
- Liu et al. (2025), "SymAgent" (TheWebConf 2025) — zelflerende symbolische agent voor KGQA.
Automatische kennisgraaf-constructie
- Zavarella (2026), "Methods for KG Construction from Text Collections" (arXiv) — framework dat NLP, ML en Semantic Web combineert.
- Salman et al. (2024), "Doc-KG" (Expert Systems) — KG-constructie uit ongestructureerde documenten.
- Chen et al. (2025), "Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs" (TheWebConf 2025).
CPU-efficiëntie en lichtgewicht benaderingen
- Sidhu et al. (2025), "Neurosymbolic AI for Enhanced Reasoning in Small Language Models" (IEEE).
- Corradini et al. (2025), "State of the art and future directions of small language models" (Big Data and Cognitive Computing).
- Chaudhary et al. (2025) bevestigen dat "spaCy lichtgewicht extractie met hoge precisie biedt, efficiënt op standaard-CPU's".
- Okechukwu et al. (2025) bevestigen dat "spaCy en NLTK efficiënt werken op standaard-CPU's".
Ecologische impact van AI
- Kim & Yoo (2026), "Toward Sustainable AI" (IEEE Access) — de koolstofvoetafdruk van AI-datacenters is verdrievoudigd tussen 2024 en 2025.
- Hasan et al. (2025), "Carbon emission quantification of ML" (IEEE Trans.).
- Tunzina et al. (2026), "GreenAI: Environmental Efficiency in LLM-Generated Code" (IEEE Access).
AVG- en AI-Act-conformiteit
- Wagner et al. (2025), "A Critical Look at the EU AI Act's Requirements" (IEEE RE).
- Juliussen (2025), "The Right to an Explanation Under the GDPR and the AI Act" (Springer).
- Goncalves & Correia (2026), "XAI-Compliance-by-Design" (MDPI).
- Sovrano et al. (2025), "Legal XAI: Systematic Review" (ResearchGate).
3. Doelstellingen
Hoofddoelstelling
De haalbaarheid aantonen en de prestaties evalueren van een CPU-only, zuiver symbolisch QA-systeem waarvan de kennisgraaf automatisch wordt opgebouwd uit natuurlijke-taaldocumenten.
Secundaire doelstellingen
- Competitieve prestaties behalen op erkende KGQA-benchmarks.
- De energievoetafdruk (CPU vs. GPU) meten en vergelijken om het ecologische voordeel aan te tonen.
- De intrinsieke interpreteerbaarheid van het systeem demonstreren (traceerbaarheid van elk antwoord).
- Reproduceerbare, gedocumenteerde software onder een ethische licentie leveren.
4. Architectuur & technische specificaties
4.1. Algemene architectuur
Het systeem is verdeeld in twee afzonderlijke fasen:
Fase 1 — Kennisgraaf-constructie (offline, GPU toegestaan)
NL-documenten → Voorverwerking → NER → Relatie-extractie → Coreferentieresolutie
→ KG-constructie (RDF/OWL-triples) → Graaf-opslag
Fase 2 — Vraag/Antwoord (runtime, strikt CPU-only)
NL-vraag → Syntactische/Semantische analyse → Transformatie naar formele query
→ KG-traversatie → Logisch redeneren → Antwoordgeneratie
→ Verklaringsspoor
4.2. Hardwarespecificaties
| Component | Fase 1 (KG-constructie) | Fase 2 (QA-runtime) |
|---|---|---|
| CPU | Intel Core i9 (max) | Intel Core i9 (max) |
| GPU | NVIDIA RTX 3090 (24 GB VRAM) | Geen (strikt CPU-only) |
| RAM | 32 GB (max) | 32 GB (voldoende) |
| Opslag | NVMe SSD | NVMe SSD |
Rechtvaardiging: Fase 1 mag de GPU gebruiken om de gekwantiseerde open-weights LLMs uit te voeren die de pipeline-constructie begeleiden. Fase 2, die het implementeerbare systeem vormt, moet strikt CPU-only zijn om toegankelijkheid, soevereiniteit en zuinigheid te garanderen.
4.3. Ontwikkelomgeving
- Sandbox: ontwikkeling in een geïsoleerde omgeving voor veiligheid en reproduceerbaarheid.
- Doel-OS: Linux (primair doel), met gewenste portabiliteit naar Windows/macOS.
- Taal/talen: vrije keuze, mits afhankelijkheden voldoen aan licentiebeperkingen (sectie 6).
4.4. LLM-begeleiding
De systeemontwikkeling wordt volledig aangestuurd door een of meer open-weights LLMs, lokaal uitvoerbaar op de gespecificeerde hardware (Fase 1). De keuze van modellen, kwantisering en inferentie-framework wordt aan de deelnemer overgelaten.
5. Voorgestelde pipeline-architectuur
De volgende opsplitsing wordt gegeven als richtlijn. Deelnemers zijn vrij om een andere architectuur voor te stellen, mits zij voldoen aan de functionele beperkingen (secties 3, 4 en 12) en licentie-eisen (sectie 6).
5.1. Tekstvoorverwerking
- Zinssegmentatie
- Tokenisatie
- Lemmatisering
- Part-of-speech-tagging
- Dependency parsing
5.2. Herkenning van benoemde entiteiten (NER)
- Detectie van entiteiten (personen, locaties, organisaties, datums, concepten)
- Entiteitstypering volgens een domeinontologie
- Coreferentieresolutie
5.3. Relatie-extractie (RE)
- Triple-extractie (subject, predicaat, object) uit tekst
- Open of patroongeleide extractie
5.4. Kennisgraaf-constructie
- Entiteitsnormalisatie en -samenvoeging (entity linking)
- Graaf-constructie en -opslag (triples)
- Verrijking door inferentie van impliciete relaties
- Graaf-validatie en -opschoning
5.5. Vraagbegrip
- Syntactische analyse van de natuurlijke-taalvraag
- Identificatie van het vraagtype (wie, wat, waar, wanneer…)
- Extractie van genoemde entiteiten en relaties
- Transformatie naar een formele query op de graaf
5.6. Redeneren & antwoordzoeken
- Kennisgraaf-traversatie (multi-hop redeneren)
- Logische resolutie en rangschikking van kandidaat-antwoorden
5.7. Antwoordgeneratie & verklaringen
- Antwoordformulering in natuurlijke taal
- Volledig verklaringsspoor: pad in de KG, toegepaste regels, betrokken entiteiten en relaties, betrouwbaarheid/volledigheid
6. Licentiebeperkingen
6.1. Hippocratic License 3.0 (HL3)
De uiteindelijke software wordt gepubliceerd onder de Hippocratic License 3.0 (firstdonoharm.dev). Deze licentie:
- Wordt niet beschouwd als open source in de OSI-zin (ethische gebruiksbeperkingen).
- Is een copyleft-licentie (Sectie 8.3).
- Legt ethische normen op gebaseerd op fundamentele mensenrechten (UVRM, IVESCR, IVBPR, IAO).
6.2. Afhankelijkheidscompatibiliteit
| Licentie | HL3-compatibel | Voorbeelden |
|---|---|---|
| MIT | ✅ Ja | — |
| BSD (2/3-clausule) | ✅ Ja | — |
| Apache 2.0 | ✅ Ja | — |
| ISC / CC0 | ✅ Ja | — |
| GPL v2/v3 | ⚠️ Potentieel incompatibel | — |
| AGPL | ❌ Waarschijnlijk incompatibel | — |
6.3. Aanbevolen optionele HL3-modules
- HL3-ECO (Ecocide) — in lijn met het doel de ecologische impact te verminderen.
- HL3-MEDIA — verbod op gebruik voor het bevorderen van geweld.
- HL3-SV (Massasurveillance) — in lijn met soevereiniteit en privacy.
7. Wettelijke conformiteit
7.1. AVG
| AVG-beginsel | Implementatie |
|---|---|
| Dataminimalisatie (Art. 5.1.c) | De KG slaat alleen relevante geëxtraheerde triples op, geen ruwe persoonsgegevens. |
| Recht op uitleg (Art. 22 + overweging 71) | Volledig verklaringsspoor voor elk antwoord. |
| Recht op wissing (Art. 17) | Mogelijkheid om entiteiten/triples uit de KG te verwijderen. |
| Privacy by design (Art. 25) | Geen gevoelige gegevens in de KG tenzij gedocumenteerde noodzaak. |
| Geen geautomatiseerde profilering (Art. 22) | Het systeem neemt geen geautomatiseerde beslissingen over individuen. |
7.2. Europese AI Act
| AI-Act-vereiste | Conformiteit |
|---|---|
| Transparantie (Art. 13) | Intrinsiek interpreteerbare symbolische architectuur — elke redeneerstap is traceerbaar. |
| Verklaarbaarheid (Art. 13.1) | Volledig spoor: vraag → formele query → KG-pad → antwoord. |
| Technische documentatie (Art. 11) | Volledig documenteerbare symbolische pipeline (grammatica's, regels, ontologie). |
| Robuustheid en nauwkeurigheid (Art. 15) | Geen hallucinatie — antwoorden komen uitsluitend uit de KG. |
| Menselijk toezicht (Art. 14) | De KG is inspecteerbaar en aanpasbaar door een mens. |
| Risicobeheer (Art. 9) | Laag risico: geen opaak model, geen emergente bias. |
8. Ecologische impact
8.1. Het probleem
- Het trainen van GPT-3 verbruikte ongeveer 1.287 MWh, d.w.z. ~552 ton CO₂.
- AI-datacenters zagen hun koolstofvoetafdruk verdrievoudigen tussen 2024 en 2025 (Awab, 2026).
- Een LLM-query verbruikt ongeveer 10× meer energie dan een standaard webzoekopdracht (Kim & Yoo, 2026).
8.2. Voordeel van symbolisch CPU-only
| Metriek | LLM-systeem (GPU) | AI-uitdaging (CPU-only) | Geschatte winst |
|---|---|---|---|
| Momentaan vermogen | 300-400 W (GPU) | 65-125 W (CPU) | ~3-5× |
| Latentie per query | 0,5-5 s | < 100 ms (doel) | ~5-50× |
| Energie per query | ~0,001-0,01 kWh | ~0,000001-0,00001 kWh | ~100-1000× |
| Vereiste hardware | GPU ≥ € 6.000 | Consumenten-CPU < € 500 | ~12× |
8.3. Verplichte meting
Het project moet meten en rapporteren:
- Energieverbruik (kWh) voor de KG-constructie.
- Energieverbruik per QA-query.
- Bijbehorende CO₂-voetafdruk.
- Vergelijking met een GPU-baselinesysteem.
9. Reproduceerbaarheid
- Volledige broncode: gepubliceerd op een openbare repository, onder HL3-licentie.
- Installatie-instructies: geautomatiseerd script of containerisatie.
- Testgegevens: uitsluitend gebruik van openbare benchmarks.
- Willekeurige seeds: vastgelegd en gedocumenteerd voor elke stochastische component.
- Afhankelijkheidsversiebeheer: vastgezet afhankelijkheidsbestand.
- Containerisatie: het volledige systeem moet reproduceerbaar uitvoerbaar zijn.
- Gedocumenteerde minimale hardware: expliciete minimumspecificaties.
De maximaal vereiste hardware (i9 + RTX 3090) is toegankelijk voor een breed publiek. Fase 2 (QA-runtime) vereist geen GPU, waardoor uitvoering op een eenvoudige laptop mogelijk is.
10. Soevereiniteit, veiligheid & privacy
Digitale soevereiniteit
- Geen cloud-afhankelijkheid — volledig lokale werking.
- Geen externe API-aanroepen — geen gegevens verlaten de machine.
- Open-weights LLMs lokaal downloadbaar en uitvoerbaar.
- Geen vendor lock-in.
Veiligheid
- Sandbox-uitvoering (geïsoleerde omgeving).
- Geen willekeurige code-uitvoering.
- Geen prompt injection (geen LLM bij inferentie).
- Invoervalidatie via formele grammatica.
Privacy
- Uitsluitend lokale verwerking — documenten verlaten nooit de machine.
- Geen telemetrie.
- KG op verzoek wisbaar.
- Mogelijkheid om afzonderlijke KG's per gebruiker of per domein te instantiëren.
11. Benchmarks & evaluatie
11.1. Erkende KGQA-benchmarks
Het systeem moet worden geëvalueerd op ten minste twee van de volgende benchmarks:
| Benchmark | Beschrijving | Omvang | Referentie |
|---|---|---|---|
| SimpleQuestions | Eenvoudige feitelijke vragen op Freebase | ~100K vragen | ACL |
| WebQuestionsSP | Webvragen met SPARQL-annotaties | ~4.737 vragen | ACL |
| LC-QuAD 2.0 | Complexe vragen op DBpedia/Wikidata | ~30K vragen | ISWC |
| ComplexWebQuestions | Multi-hop-vragen op Freebase | ~34K vragen | NAACL |
| QALD | Meertalige uitdaging, kleine omvang | ~400-500 vragen | CLEF/ESWC |
| MINTQA | Recente benchmark voor LLM+KG op zeldzame entiteiten | Variabel | EMNLP 2025 |
| SQuAD 2.0 | Extractieve QA op paragrafen | ~150K vragen | ACL |
| Natural Questions | Echte Google-vragen | ~307K vragen | TACL |
| TriviaQA | Trivia-QA met ondersteunende documenten | ~95K vragen | ACL |
Aanbeveling: prioriteer LC-QuAD 2.0 en QALD, aangevuld met SQuAD of Natural Questions voor vergelijking met neurale benaderingen.
11.2. Evaluatiemetrieken
| Categorie | Metriek | Beschrijving |
|---|---|---|
| QA-prestatie | F1-score, Exact Match (EM) | Antwoordprecisie |
| QA-prestatie | Hits@1, Hits@5 | Percentage juiste antwoorden in top-k |
| QA-prestatie | MRR | Gemiddelde rang van het juiste antwoord |
| Latentie | Gemiddelde/p95-responstijd (ms) | Alleen op CPU gemeten |
| Doorvoer | Vragen/seconde | Doorvoer |
| Ecologie | kWh/query, gCO₂/query | Via codecarbon/carbontracker |
| Verklaarbaarheid | Traceerbaarheidspercentage | % antwoorden met volledig spoor (doel: 100%) |
| KG-dekking | Triples, entiteiten, relaties | Beschrijvende statistieken |
11.3. Vergelijkingsbaselines
- RAG + LLM (GPU): neurale baseline op GPU.
- KG-RAG (GPU): hybride KG + LLM baseline.
- Direct SPARQL: zuiver symbolische baseline (handmatige queries op dezelfde KG).
12. Prestatiespecificaties
| Criterium | Doel | Rechtvaardiging |
|---|---|---|
| QA-latentie | < 100 ms (p95) | Acceptabele gebruikersinteractiviteit |
| KG-constructie | < 1 min / 1.000 korte documenten | Bruikbaarheid |
| QA-geheugenvoetafdruk | < 4 GB RAM | Uitvoerbaar op bescheiden PC |
| KG-omvang | Schaalbaar naar 10M+ triples | Voldoende dekking voor benchmarks |
| QA-precisie | ≥ 50% F1 op eenvoudige benchmarks | Interpreteerbaarheid en zuinigheid als belangrijkste argumenten |
| Traceerbaarheid | 100% van de antwoorden verklaard | Belangrijkste voordeel van de symbolische aanpak |
13. Risico's & mitigaties
| Risico | Waarschijnlijkheid | Impact | Mitigatie |
|---|---|---|---|
| Onvoldoende QA-prestatie vs. LLM | Hoog | Gemiddeld | Focus op interpreteerbaarheid/zuinigheid |
| Onvoldoende kwaliteit van automatische KG | Gemiddeld | Hoog | Regels itereren, LLM-begeleiding |
| Complexiteit van multi-hop-vragen | Hoog | Gemiddeld | Beperken tot ≤ 3 hops, beperkingen documenteren |
| Licentie-incompatibiliteit van afhankelijkheden | Laag | Hoog | Systematische licentie-audit |
| Open-weights LLM onvoldoende voor begeleiding | Gemiddeld | Gemiddeld | Meerdere modellen testen en combineren |
| Beperkte KG-dekking op schaal | Gemiddeld | Gemiddeld | Beginnen met QALD, dan opschalen |
14. Succescriteria
- Het QA-systeem werkt volledig op CPU zonder GPU bij inferentie.
- De KG wordt automatisch opgebouwd uit natuurlijke-taaldocumenten.
- De prestaties worden gemeten op ≥ 2 erkende openbare benchmarks.
- 100% van de antwoorden gaat vergezeld van een verklaringsspoor.
- Het energieverbruik wordt gemeten en vergeleken met een GPU-baseline.
- De code wordt gepubliceerd onder Hippocratic 3.0 licentie met compatibele afhankelijkheden.
- Het systeem is reproduceerbaar via Docker op de gespecificeerde hardware.
- De ontwikkeling wordt volledig uitgevoerd door open-weights LLMs in een sandbox.
15. Bibliografische referenties
- Agarwal, P. & Bedathur, S. (2025). A Zero-Shot Neuro-Symbolic Approach for Complex Knowledge Graph Question Answering. EMNLP 2025 Findings.
- Ansar, W., Goswami, S. & Chakrabarti, A. (2024). From Transformers to LLMs: A Systematic Survey of Efficiency Considerations in NLP. arXiv:2406.16893.
- Awab, S. (2026). AI's Resource Gluttony and Sustainable Development. SSRN 6301563.
- Boshnjakovski, V. (2025). Balancing Compliance and Innovation: Addressing Explainability in AI Systems under the EU AI Act. MBA Thesis.
- Chaudhary, V. et al. (2025). Fusing Knowledge and Language: A Comparative Study of KG-Based QA with LLMs. arXiv:2509.09272.
- Chen, H. et al. (2025). Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs. TheWebConf 2025.
- Cheng, K. et al. (2025). Neural-symbolic methods for knowledge graph reasoning: A survey. ACM Trans. Knowl. Discov. Data.
- Chudasama, Y. et al. (2025). Toward interpretable hybrid AI: integrating knowledge graphs and symbolic reasoning. IEEE Access.
- Corradini, F. et al. (2025). State of the art and future directions of small language models. Big Data and Cognitive Computing.
- Goncalves, A. & Correia, A. (2026). XAI-Compliance-by-Design: A Modular Framework for GDPR- and AI Act-Aligned Decision Transparency. MDPI J. Cybersecurity and Privacy.
- Hasan, S.M. et al. (2025). Carbon emission quantification of ML: A review. IEEE Trans. Sustainable Computing.
- Juliussen, B.A. (2025). The Right to an Explanation Under the GDPR and the AI Act. Springer, Int. Conf. Multimedia Modeling.
- Kim, M.K. & Yoo, T.A. (2026). Toward Sustainable AI: A Scoping Review of Carbon Footprint. IEEE Access.
- Linders, J. & Tomczak, J.M. (2025). Knowledge graph-extended RAG for QA. Applied Intelligence.
- Liu, B. et al. (2025). SymAgent: A neural-symbolic self-learning agent framework for complex reasoning over KGs. TheWebConf 2025.
- Ma, C. et al. (2025). Large language models meet knowledge graphs for question answering. EMNLP 2025.
- Niu, G. et al. (2026). A Comprehensive Survey of Knowledge Graph Reasoning. IEEE Trans. Big Data.
- Perevalov, A. et al. (2024). Multilingual question answering systems for knowledge graphs — a survey. Semantic Web.
- Salman, M. et al. (2024). Doc-KG: Unstructured documents to KG construction. Expert Systems.
- Schwartz, R. et al. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
- Sidhu, M.K. et al. (2025). Neurosymbolic AI for Enhanced Reasoning in Small Language Models. IEEE.
- Sovrano, F. et al. (2025). Legal XAI: Systematic Review and Interdisciplinary Mapping of XAI and EU Law. ResearchGate.
- Tunzina, T. et al. (2026). GreenAI: Environmental Efficiency in LLM-Generated Code. IEEE Access.
- Wagner, M. et al. (2025). A Critical Look at the EU AI Act's Requirements — Who Must Explain What? IEEE Int. Requirements Eng. Conf.
- Zavarella, V. (2026). Methods for KG Construction from Text Collections. arXiv:2603.25862.