1. Sammanfattning av utmaningen
Utmaningen syftar till att designa, implementera och utvärdera ett fråge-/svarssystem (QA) som körs uteslutande på CPU, baserat på en rent symbolisk arkitektur (lexikon, grammatiker, kunskapsgraf, formell logik). Hela systemutvecklingen drivs av kvantiserade open-weights LLM:er, körbara på konsumenthårdvara (i9 CPU, RTX 3090).
Detta projekt faller inom rörelsen Green AI (Schwartz et al., 2020) och Frugal AI, i motsats till kapplöpningen mot allt större modeller vars koldioxidavtryck har blivit alarmerande (Kim et al., 2026; Hasan et al., 2025). Det adresserar också de växande kraven på transparens, förklarbarhet och regelefterlevnad som ställs av GDPR och den europeiska AI Act (Wagner et al., 2025; Juliussen, 2025).
- Rent symboliskt QA-system (inget neuralt nätverk vid inferens)
- CPU-only vid körning (ingen GPU krävs)
- Automatisk KG-konstruktion från naturliga språkdokument
- Utveckling helt styrd av kvantiserade open-weights LLM:er
- Inbyggd GDPR/AI Act-efterlevnad genom design (inneboende tolkningsbarhet)
- Etisk licens (Hippocratic 3.0)
2. Kontext och vetenskaplig positionering
2.1. Problemformulering
Nuvarande QA-system förlitar sig starkt på LLM:er (GPT, LLaMA etc.) som kräver dyra GPU:er för inferens, och ger upphov till problem med hallucination, reproducerbarhet, förklarbarhet och datasuveränitet. De fungerar som svarta lådor och är svåra att göra kompatibla med kraven i den europeiska AI Act (artikel 13) gällande transparens i högrisk-system (Wagner, 2025; Boshnjakovski, 2025).
2.2. State of the Art
Neuro-symboliska ansatser och KG-QA
Nyare litteratur konvergerar mot integration av kunskapsgrafer (KG) och symboliskt resonemang för att adressera begränsningarna hos rent neurala ansatser:
- Cheng et al. (2025), "Neural-symbolic methods for knowledge graph reasoning" (ACM TKDD) — skiljer mellan KG-komplettering, komplex frågebesvarande och logisk regelinlärning; identifierar potentialen hos rent symboliska metoder för tolkningsbarhet.
- Niu et al. (2026), "A Comprehensive Survey of Knowledge Graph Reasoning" (IEEE Trans. Big Data) — täcker multi-hop-resonemang på KG, inklusive Inductive Logic Programming (ILP)-ansatser.
- Linders & Tomczak (2025), "Knowledge graph-extended RAG for QA" (Applied Intelligence) — demonstrerar att KG:er möjliggör symboliskt resonemang och verifierbara svar.
- Chudasama et al. (2025), "Toward interpretable hybrid AI" (IEEE Access) — föreslår TrustKG som kombinerar symbolisk tolkningsbarhet med KG.
- Agarwal & Bedathur (2025), "A Zero-Shot Neuro-Symbolic Approach for Complex KGQA" (EMNLP Findings 2025).
- Liu et al. (2025), "SymAgent" (TheWebConf 2025) — självlärande symbolisk agent för KGQA.
Automatisk kunskapsgrafkonstruktion
- Zavarella (2026), "Methods for KG Construction from Text Collections" (arXiv) — ramverk som kombinerar NLP, ML och Semantic Web.
- Salman et al. (2024), "Doc-KG" (Expert Systems) — KG-konstruktion från ostrukturerade dokument.
- Chen et al. (2025), "Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs" (TheWebConf 2025).
CPU-effektivitet och lättviktsansatser
- Sidhu et al. (2025), "Neurosymbolic AI for Enhanced Reasoning in Small Language Models" (IEEE).
- Corradini et al. (2025), "State of the art and future directions of small language models" (Big Data and Cognitive Computing).
- Chaudhary et al. (2025) bekräftar att "spaCy provides lightweight, high-precision extraction, efficient on standard CPU".
- Okechukwu et al. (2025) bekräftar att "spaCy and NLTK operate efficiently on standard CPUs".
AI:s ekologiska påverkan
- Kim & Yoo (2026), "Toward Sustainable AI" (IEEE Access) — koldioxidavtrycket från AI-datacenter tredubblades mellan 2024 och 2025.
- Hasan et al. (2025), "Carbon emission quantification of ML" (IEEE Trans.).
- Tunzina et al. (2026), "GreenAI: Environmental Efficiency in LLM-Generated Code" (IEEE Access).
GDPR- och AI Act-efterlevnad
- Wagner et al. (2025), "A Critical Look at the EU AI Act's Requirements" (IEEE RE).
- Juliussen (2025), "The Right to an Explanation Under the GDPR and the AI Act" (Springer).
- Goncalves & Correia (2026), "XAI-Compliance-by-Design" (MDPI).
- Sovrano et al. (2025), "Legal XAI: Systematic Review" (ResearchGate).
3. Mål
Huvudmål
Demonstrera genomförbarheten och utvärdera prestandan hos ett CPU-only, rent symboliskt QA-system vars kunskapsgraf byggs automatiskt från naturliga språkdokument.
Sekundära mål
- Uppnå konkurrenskraftig prestanda på erkända KGQA-benchmarks.
- Mäta och jämföra energiavtrycket (CPU vs GPU) för att demonstrera den ekologiska fördelen.
- Demonstrera systemets inneboende tolkningsbarhet (spårbarhet för varje svar).
- Tillhandahålla reproducerbar, dokumenterad programvara under etisk licens.
4. Arkitektur & tekniska specifikationer
4.1. Övergripande arkitektur
Systemet är uppdelat i två distinkta faser:
Fas 1 — Kunskapsgrafkonstruktion (offline, GPU tillåten)
NL-dokument → Förbehandling → NER → Relationsextraktion → Koreferensresolution
→ KG-konstruktion (RDF/OWL-tripplar) → Graflagring
Fas 2 — Fråga/svar (körning, strikt CPU-only)
NL-fråga → Syntaktisk/semantisk analys → Transformation till formell fråga
→ KG-traversering → Logiskt resonemang → Svarsgenerering
→ Förklaringsspår
4.2. Hårdvaruspecifikationer
| Komponent | Fas 1 (KG-konstruktion) | Fas 2 (QA-körning) |
|---|---|---|
| CPU | Intel Core i9 (max) | Intel Core i9 (max) |
| GPU | NVIDIA RTX 3090 (24 GB VRAM) | Ingen (strikt CPU-only) |
| RAM | 32 GB (max) | 32 GB (tillräckligt) |
| Lagring | NVMe SSD | NVMe SSD |
Motivering: Fas 1 kan använda GPU:n för att köra de kvantiserade open-weights LLM:er som styr pipeline-konstruktionen. Fas 2, som utgör det driftsättningsbara systemet, måste vara strikt CPU-only för att garantera tillgänglighet, suveränitet och sparsamhet.
4.3. Utvecklingsmiljö
- Sandbox: utveckling i en isolerad miljö för säkerhet och reproducerbarhet.
- Mål-OS: Linux (primärt mål), med Windows/macOS-portabilitet önskvärd.
- Språk: fritt val, förutsatt att beroenden uppfyller licenskraven (avsnitt 6).
4.4. LLM-handledning
Systemutvecklingen drivs helt av en eller flera open-weights LLM:er, körbara lokalt på angiven hårdvara (Fas 1). Valet av modeller, kvantisering och inferensramverk överlåts till deltagaren.
5. Föreslagen pipeline-arkitektur
Följande uppdelning ges som en riktlinje. Deltagare är fria att föreslå en annan arkitektur, förutsatt att de uppfyller de funktionella begränsningarna (avsnitt 3, 4 och 12) och licenskraven (avsnitt 6).
5.1. Textförbehandling
- Meningssegmentering
- Tokenisering
- Lemmatisering
- Ordklasstaggning
- Beroendeanalys
5.2. Namngiven entitetsigenkänning (NER)
- Entitetsdetektering (personer, platser, organisationer, datum, begrepp)
- Entitetstypning enligt en domänontologi
- Koreferensresolution
5.3. Relationsextraktion (RE)
- Trippelextraktion (subjekt, predikat, objekt) från text
- Öppen eller mönsterstyrd extraktion
5.4. Kunskapsgrafkonstruktion
- Entitetsnormalisering och sammanslagning (entity linking)
- Grafkonstruktion och lagring (tripplar)
- Anrikning genom implicit relationsinferens
- Grafvalidering och rensning
5.5. Frågeförståelse
- Syntaktisk analys av den naturliga språkfrågan
- Identifiering av frågetyp (vem, vad, var, när…)
- Extraktion av nämnda entiteter och relationer
- Transformation till en formell fråga på grafen
5.6. Resonemang & svarssökning
- Kunskapsgraftraversering (multi-hop-resonemang)
- Logisk resolution och rangordning av kandidatsvar
5.7. Svarsgenerering & förklaringar
- Svarsformulering på naturligt språk
- Komplett förklaringsspår: väg i KG:n, tillämpade regler, involverade entiteter och relationer, konfidens/fullständighet
6. Licensbegränsningar
6.1. Hippocratic License 3.0 (HL3)
Den slutgiltiga programvaran kommer att publiceras under Hippocratic License 3.0 (firstdonoharm.dev). Denna licens:
- Betraktas inte som öppen källkod i OSI-bemärkelse (etiska begränsningar för användning).
- Är en copyleft-licens (avsnitt 8.3).
- Ställer etiska krav baserade på grundläggande mänskliga rättigheter (UDHR, ICESCR, ICCPR, ILO).
6.2. Beroendekompatibilitet
| Licens | HL3-kompatibel | Exempel |
|---|---|---|
| MIT | ✅ Ja | — |
| BSD (2/3-clause) | ✅ Ja | — |
| Apache 2.0 | ✅ Ja | — |
| ISC / CC0 | ✅ Ja | — |
| GPL v2/v3 | ⚠️ Potentiellt inkompatibel | — |
| AGPL | ❌ Troligen inkompatibel | — |
6.3. Rekommenderade valfria HL3-moduler
- HL3-ECO (Ekocid) — förenligt med målet att minska ekologisk påverkan.
- HL3-MEDIA — förbud mot användning för att främja våld.
- HL3-SV (Massövervakning) — förenligt med suveränitet och integritet.
7. Regelefterlevnad
7.1. GDPR
| GDPR-princip | Implementering |
|---|---|
| Dataminimering (Art. 5.1.c) | KG:n lagrar endast relevanta extraherade tripplar, inte rå persondata. |
| Rätt till förklaring (Art. 22 + skäl 71) | Komplett förklaringsspår för varje svar. |
| Rätt till radering (Art. 17) | Möjlighet att radera entiteter/tripplar från KG:n. |
| Inbyggt dataskydd (Art. 25) | Inga känsliga data i KG:n om inte dokumenterat nödvändigt. |
| Ingen automatiserad profilering (Art. 22) | Systemet fattar inga automatiserade beslut om enskilda personer. |
7.2. Europeiska AI Act
| AI Act-krav | Efterlevnad |
|---|---|
| Transparens (Art. 13) | Inneboende tolkningsbar symbolisk arkitektur — varje resonemangssteg kan spåras. |
| Förklarbarhet (Art. 13.1) | Komplett spår: fråga → formell fråga → KG-väg → svar. |
| Teknisk dokumentation (Art. 11) | Fullt dokumenterbar symbolisk pipeline (grammatiker, regler, ontologi). |
| Robusthet och noggrannhet (Art. 15) | Ingen hallucination — svar kommer uteslutande från KG:n. |
| Mänsklig tillsyn (Art. 14) | KG:n kan inspekteras och modifieras av en människa. |
| Riskhantering (Art. 9) | Låg risk: ingen ogenomskinlig modell, ingen emergent bias. |
8. Ekologisk påverkan
8.1. Problemet
- Träning av GPT-3 förbrukade ungefär 1 287 MWh, dvs. ~552 ton CO₂.
- AI-datacenters koldioxidavtryck tredubblades mellan 2024 och 2025 (Awab, 2026).
- En LLM-fråga förbrukar ungefär 10× mer energi än en vanlig webbsökning (Kim & Yoo, 2026).
8.2. Fördel med symbolisk CPU-only
| Mätvärde | LLM-system (GPU) | AI-utmaning (CPU-only) | Uppskattad vinst |
|---|---|---|---|
| Momentan effekt | 300–400 W (GPU) | 65–125 W (CPU) | ~3–5× |
| Latens per fråga | 0,5–5 s | < 100 ms (mål) | ~5–50× |
| Energi per fråga | ~0,001–0,01 kWh | ~0,000001–0,00001 kWh | ~100–1000× |
| Krävd hårdvara | GPU ≥ 6 000 € | Konsument-CPU < 500 € | ~12× |
8.3. Obligatorisk mätning
Projektet måste mäta och rapportera:
- Energiförbrukning (kWh) för KG-konstruktion.
- Energiförbrukning per QA-fråga.
- Motsvarande CO₂-avtryck.
- Jämförelse med ett GPU-baslinje-system.
9. Reproducerbarhet
- Komplett källkod: publicerad på ett offentligt repository under HL3-licens.
- Installationsinstruktioner: automatiserat skript eller containerisering.
- Testdata: uteslutande användning av offentliga benchmarks.
- Slumpfrön: fasta och dokumenterade för alla stokastiska komponenter.
- Beroendeversionering: låst beroendelist.
- Containerisering: det kompletta systemet måste vara reproducerbart körbart.
- Dokumenterad minimihårdvara: explicita minimispecifikationer.
Den maximalt krävda hårdvaran (i9 + RTX 3090) är tillgänglig för en bred publik. Fas 2 (QA-körning) kräver ingen GPU, vilket möjliggör körning på en enkel bärbar dator.
10. Suveränitet, säkerhet & integritet
Digital suveränitet
- Inget molnberoende — helt lokal drift.
- Inga externa API-anrop — ingen data lämnar maskinen.
- Open-weights LLM:er nedladdningsbara och körbara lokalt.
- Inget leverantörslåsning.
Säkerhet
- Sandboxad körning (isolerad miljö).
- Ingen godtycklig kodkörning.
- Ingen prompt injection (ingen LLM vid inferens).
- Inputvalidering via formell grammatik.
Integritet
- Uteslutande lokal bearbetning — dokument lämnar aldrig maskinen.
- Ingen telemetri.
- KG raderbar på begäran.
- Möjlighet att skapa separata KG:er per användare eller per domän.
11. Benchmarks & utvärdering
11.1. Erkända KGQA-benchmarks
Systemet måste utvärderas på minst två av följande benchmarks:
| Benchmark | Beskrivning | Storlek | Referens |
|---|---|---|---|
| SimpleQuestions | Enkla faktafrågor om Freebase | ~100K frågor | ACL |
| WebQuestionsSP | Webbfrågor med SPARQL-annotationer | ~4 737 frågor | ACL |
| LC-QuAD 2.0 | Komplexa frågor om DBpedia/Wikidata | ~30K frågor | ISWC |
| ComplexWebQuestions | Multi-hop-frågor om Freebase | ~34K frågor | NAACL |
| QALD | Flerspråkig utmaning, liten storlek | ~400–500 frågor | CLEF/ESWC |
| MINTQA | Nyare benchmark för LLM+KG på ovanliga entiteter | Variabel | EMNLP 2025 |
| SQuAD 2.0 | Extraktiv QA på stycken | ~150K frågor | ACL |
| Natural Questions | Riktiga Google-frågor | ~307K frågor | TACL |
| TriviaQA | Trivia QA med stödjande dokument | ~95K frågor | ACL |
Rekommendation: prioritera LC-QuAD 2.0 och QALD, kompletterat med SQuAD eller Natural Questions för jämförelse med neurala ansatser.
11.2. Utvärderingsmätvärden
| Kategori | Mätvärde | Beskrivning |
|---|---|---|
| QA-prestanda | F1-poäng, Exact Match (EM) | Svarsprecision |
| QA-prestanda | Hits@1, Hits@5 | Korrekt svarsfrekvens i topp-k |
| QA-prestanda | MRR | Genomsnittlig rang för korrekt svar |
| Latens | Genomsnittlig/p95 svarstid (ms) | Mätt enbart på CPU |
| Genomströmning | Frågor/sekund | Genomströmning |
| Ekologi | kWh/fråga, gCO₂/fråga | Via codecarbon/carbontracker |
| Förklarbarhet | Spårbarhetsgrad | % av svar med komplett spår (mål: 100%) |
| KG-täckning | Tripplar, entiteter, relationer | Deskriptiv statistik |
11.3. Jämförelsebaslinjer
- RAG + LLM (GPU): neural baslinje på GPU.
- KG-RAG (GPU): hybrid KG + LLM-baslinje.
- Direkt SPARQL: rent symbolisk baslinje (manuella frågor på samma KG).
12. Prestandaspecifikationer
| Kriterium | Mål | Motivering |
|---|---|---|
| QA-latens | < 100 ms (p95) | Acceptabel användarinteraktivitet |
| KG-konstruktion | < 1 min / 1 000 korta dokument | Praktiskt |
| QA-minnesavtryck | < 4 GB RAM | Körbart på enkel PC |
| KG-storlek | Skalbar till 10M+ tripplar | Tillräcklig täckning för benchmarks |
| QA-precision | ≥ 50% F1 på enkla benchmarks | Tolkningsbarhet och sparsamhet som huvudargument |
| Spårbarhet | 100% av svar förklarade | Nyckelfördel med symbolisk ansats |
13. Risker & åtgärder
| Risk | Sannolikhet | Påverkan | Åtgärd |
|---|---|---|---|
| Otillräcklig QA-prestanda vs LLM | Hög | Medium | Fokus på tolkningsbarhet/sparsamhet |
| Otillräcklig kvalitet på automatisk KG | Medium | Hög | Iterera regler, LLM-handledning |
| Komplexitet hos multi-hop-frågor | Hög | Medium | Begränsa till ≤ 3 hopp, dokumentera begränsningar |
| Beroendelicensinkompatibilitet | Låg | Hög | Systematisk licensgranskning |
| Open-weights LLM otillräcklig för handledning | Medium | Medium | Testa och kombinera flera modeller |
| Begränsad KG-täckning i stor skala | Medium | Medium | Börja med QALD, skala sedan upp |
14. Framgångskriterier
- QA-systemet körs helt på CPU utan GPU vid inferens.
- KG:n byggs automatiskt från naturliga språkdokument.
- Prestanda mäts på ≥ 2 erkända offentliga benchmarks.
- 100% av svaren åtföljs av ett förklaringsspår.
- Energiförbrukning är mätt och jämförd med en GPU-baslinje.
- Koden publiceras under Hippocratic 3.0-licens med kompatibla beroenden.
- Systemet är reproducerbart via Docker på angiven hårdvara.
- Utvecklingen utförs helt av open-weights LLM:er i en sandbox.
15. Bibliografiska referenser
- Agarwal, P. & Bedathur, S. (2025). A Zero-Shot Neuro-Symbolic Approach for Complex Knowledge Graph Question Answering. EMNLP 2025 Findings.
- Ansar, W., Goswami, S. & Chakrabarti, A. (2024). From Transformers to LLMs: A Systematic Survey of Efficiency Considerations in NLP. arXiv:2406.16893.
- Awab, S. (2026). AI's Resource Gluttony and Sustainable Development. SSRN 6301563.
- Boshnjakovski, V. (2025). Balancing Compliance and Innovation: Addressing Explainability in AI Systems under the EU AI Act. MBA Thesis.
- Chaudhary, V. et al. (2025). Fusing Knowledge and Language: A Comparative Study of KG-Based QA with LLMs. arXiv:2509.09272.
- Chen, H. et al. (2025). Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs. TheWebConf 2025.
- Cheng, K. et al. (2025). Neural-symbolic methods for knowledge graph reasoning: A survey. ACM Trans. Knowl. Discov. Data.
- Chudasama, Y. et al. (2025). Toward interpretable hybrid AI: integrating knowledge graphs and symbolic reasoning. IEEE Access.
- Corradini, F. et al. (2025). State of the art and future directions of small language models. Big Data and Cognitive Computing.
- Goncalves, A. & Correia, A. (2026). XAI-Compliance-by-Design: A Modular Framework for GDPR- and AI Act-Aligned Decision Transparency. MDPI J. Cybersecurity and Privacy.
- Hasan, S.M. et al. (2025). Carbon emission quantification of ML: A review. IEEE Trans. Sustainable Computing.
- Juliussen, B.A. (2025). The Right to an Explanation Under the GDPR and the AI Act. Springer, Int. Conf. Multimedia Modeling.
- Kim, M.K. & Yoo, T.A. (2026). Toward Sustainable AI: A Scoping Review of Carbon Footprint. IEEE Access.
- Linders, J. & Tomczak, J.M. (2025). Knowledge graph-extended RAG for QA. Applied Intelligence.
- Liu, B. et al. (2025). SymAgent: A neural-symbolic self-learning agent framework for complex reasoning over KGs. TheWebConf 2025.
- Ma, C. et al. (2025). Large language models meet knowledge graphs for question answering. EMNLP 2025.
- Niu, G. et al. (2026). A Comprehensive Survey of Knowledge Graph Reasoning. IEEE Trans. Big Data.
- Perevalov, A. et al. (2024). Multilingual question answering systems for knowledge graphs — a survey. Semantic Web.
- Salman, M. et al. (2024). Doc-KG: Unstructured documents to KG construction. Expert Systems.
- Schwartz, R. et al. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
- Sidhu, M.K. et al. (2025). Neurosymbolic AI for Enhanced Reasoning in Small Language Models. IEEE.
- Sovrano, F. et al. (2025). Legal XAI: Systematic Review and Interdisciplinary Mapping of XAI and EU Law. ResearchGate.
- Tunzina, T. et al. (2026). GreenAI: Environmental Efficiency in LLM-Generated Code. IEEE Access.
- Wagner, M. et al. (2025). A Critical Look at the EU AI Act's Requirements — Who Must Explain What? IEEE Int. Requirements Eng. Conf.
- Zavarella, V. (2026). Methods for KG Construction from Text Collections. arXiv:2603.25862.