1. Zusammenfassung der Herausforderung
Die Herausforderung besteht darin, ein ausschließlich auf CPU laufendes Frage/Antwort-System (QA) zu entwerfen, zu implementieren und zu evaluieren, das auf einer rein symbolischen Architektur basiert (Lexikon, Grammatiken, Wissensgraph, formale Logik). Die gesamte Systementwicklung wird durch quantisierte Open-Weights-LLMs gesteuert, die auf Verbraucherhardware ausführbar sind (i9 CPU, RTX 3090).
Dieses Projekt ordnet sich in die Bewegung der Green AI (Schwartz et al., 2020) und Frugal AI ein, in Abgrenzung zum Wettlauf nach immer größeren Modellen, deren CO₂-Fußabdruck alarmierend geworden ist (Kim et al., 2026; Hasan et al., 2025). Es adressiert auch die wachsenden Anforderungen an Transparenz, Erklärbarkeit und regulatorische Konformität, die durch die DSGVO und den europäischen AI Act auferlegt werden (Wagner et al., 2025; Juliussen, 2025).
- Rein symbolisches QA-System (kein neuronales Netz bei der Inferenz)
- CPU-only zur Laufzeit (keine GPU erforderlich)
- Automatischer KG-Aufbau aus natürlichsprachlichen Dokumenten
- Entwicklung vollständig überwacht durch quantisierte Open-Weights-LLMs
- Native DSGVO/AI-Act-Konformität durch Design (intrinsische Interpretierbarkeit)
- Ethische Lizenz (Hippocratic 3.0)
2. Kontext und wissenschaftliche Einordnung
2.1. Problemstellung
Aktuelle QA-Systeme stützen sich stark auf LLMs (GPT, LLaMA usw.), die teure GPUs für die Inferenz benötigen, und werfen Probleme der Halluzination, Reproduzierbarkeit, Erklärbarkeit und Datensouveränität auf. Sie funktionieren als Black Boxes und sind schwer mit den Anforderungen des europäischen AI Act (Artikel 13) bezüglich der Transparenz von Hochrisikosystemen in Einklang zu bringen (Wagner, 2025; Boshnjakovski, 2025).
2.2. Stand der Technik
Neuro-symbolische Ansätze und KG-QA
Die aktuelle Literatur konvergiert in Richtung Integration von Wissensgraphen (KG) und symbolischem Schlussfolgern, um die Grenzen rein neuronaler Ansätze zu überwinden:
- Cheng et al. (2025), "Neural-symbolic methods for knowledge graph reasoning" (ACM TKDD) — unterscheiden KG-Vervollständigung, komplexe Fragenbeantwortung und logisches Regellernen; identifizieren das Potenzial rein symbolischer Methoden für Interpretierbarkeit.
- Niu et al. (2026), "A Comprehensive Survey of Knowledge Graph Reasoning" (IEEE Trans. Big Data) — behandeln Multi-Hop-Reasoning auf KG, einschließlich Inductive Logic Programming (ILP)-Ansätzen.
- Linders & Tomczak (2025), "Knowledge graph-extended RAG for QA" (Applied Intelligence) — zeigen, dass KGs symbolisches Schlussfolgern und überprüfbare Antworten ermöglichen.
- Chudasama et al. (2025), "Toward interpretable hybrid AI" (IEEE Access) — schlagen TrustKG vor, das symbolische Interpretierbarkeit mit KG kombiniert.
- Agarwal & Bedathur (2025), "A Zero-Shot Neuro-Symbolic Approach for Complex KGQA" (EMNLP Findings 2025).
- Liu et al. (2025), "SymAgent" (TheWebConf 2025) — selbstlernender symbolischer Agent für KGQA.
Automatische Wissensgraph-Konstruktion
- Zavarella (2026), "Methods for KG Construction from Text Collections" (arXiv) — Framework, das NLP, ML und Semantic Web kombiniert.
- Salman et al. (2024), "Doc-KG" (Expert Systems) — KG-Konstruktion aus unstrukturierten Dokumenten.
- Chen et al. (2025), "Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs" (TheWebConf 2025).
CPU-Effizienz und leichtgewichtige Ansätze
- Sidhu et al. (2025), "Neurosymbolic AI for Enhanced Reasoning in Small Language Models" (IEEE).
- Corradini et al. (2025), "State of the art and future directions of small language models" (Big Data and Cognitive Computing).
- Chaudhary et al. (2025) bestätigen, dass „spaCy leichtgewichtige, hochpräzise Extraktion bietet, effizient auf Standard-CPUs".
- Okechukwu et al. (2025) bestätigen, dass „spaCy und NLTK effizient auf Standard-CPUs arbeiten".
Ökologische Auswirkungen der KI
- Kim & Yoo (2026), "Toward Sustainable AI" (IEEE Access) — der CO₂-Fußabdruck von KI-Rechenzentren hat sich zwischen 2024 und 2025 verdreifacht.
- Hasan et al. (2025), "Carbon emission quantification of ML" (IEEE Trans.).
- Tunzina et al. (2026), "GreenAI: Environmental Efficiency in LLM-Generated Code" (IEEE Access).
DSGVO- und AI-Act-Konformität
- Wagner et al. (2025), "A Critical Look at the EU AI Act's Requirements" (IEEE RE).
- Juliussen (2025), "The Right to an Explanation Under the GDPR and the AI Act" (Springer).
- Goncalves & Correia (2026), "XAI-Compliance-by-Design" (MDPI).
- Sovrano et al. (2025), "Legal XAI: Systematic Review" (ResearchGate).
3. Ziele
Hauptziel
Die Machbarkeit und Leistungsfähigkeit eines CPU-only, rein symbolischen QA-Systems nachweisen und evaluieren, dessen Wissensgraph automatisch aus natürlichsprachlichen Dokumenten aufgebaut wird.
Sekundäre Ziele
- Wettbewerbsfähige Leistung auf anerkannten KGQA-Benchmarks erzielen.
- Den Energieverbrauch (CPU vs. GPU) messen und vergleichen, um den ökologischen Vorteil nachzuweisen.
- Die intrinsische Interpretierbarkeit des Systems demonstrieren (Rückverfolgbarkeit jeder Antwort).
- Reproduzierbare, dokumentierte Software unter einer ethischen Lizenz bereitstellen.
4. Architektur & technische Spezifikationen
4.1. Gesamtarchitektur
Das System ist in zwei getrennte Phasen unterteilt:
Phase 1 — Wissensgraph-Konstruktion (offline, GPU erlaubt)
NL-Dokumente → Vorverarbeitung → NER → Relationsextraktion → Koreferenzauflösung
→ KG-Konstruktion (RDF/OWL-Tripel) → Graph-Speicherung
Phase 2 — Frage/Antwort (Laufzeit, strikt CPU-only)
NL-Frage → Syntaktische/Semantische Analyse → Transformation in formale Anfrage
→ KG-Traversierung → Logisches Schlussfolgern → Antwortgenerierung
→ Erklärungsspur
4.2. Hardware-Spezifikationen
| Komponente | Phase 1 (KG-Konstruktion) | Phase 2 (QA-Laufzeit) |
|---|---|---|
| CPU | Intel Core i9 (max.) | Intel Core i9 (max.) |
| GPU | NVIDIA RTX 3090 (24 GB VRAM) | Keine (strikt CPU-only) |
| RAM | 32 GB (max.) | 32 GB (ausreichend) |
| Speicher | NVMe SSD | NVMe SSD |
Begründung: Phase 1 darf die GPU nutzen, um die quantisierten Open-Weights-LLMs auszuführen, die den Pipeline-Aufbau überwachen. Phase 2, die das einsatzfähige System darstellt, muss strikt CPU-only sein, um Zugänglichkeit, Souveränität und Sparsamkeit zu garantieren.
4.3. Entwicklungsumgebung
- Sandbox: Entwicklung in einer isolierten Umgebung für Sicherheit und Reproduzierbarkeit.
- Ziel-OS: Linux (primäres Ziel), Portabilität auf Windows/macOS wünschenswert.
- Sprache(n): Freie Wahl, sofern Abhängigkeiten den Lizenzbedingungen entsprechen (Abschnitt 6).
4.4. LLM-Überwachung
Die Systementwicklung wird vollständig durch ein oder mehrere Open-Weights-LLMs gesteuert, die lokal auf der angegebenen Hardware ausführbar sind (Phase 1). Die Wahl der Modelle, Quantisierung und des Inferenz-Frameworks bleibt dem Teilnehmer überlassen.
5. Vorgeschlagene Pipeline-Architektur
Die folgende Aufgliederung dient als Richtlinie. Die Teilnehmer können eine andere Architektur vorschlagen, sofern sie die funktionalen Anforderungen (Abschnitte 3, 4 und 12) und Lizenzbedingungen (Abschnitt 6) einhalten.
5.1. Textvorverarbeitung
- Satzsegmentierung
- Tokenisierung
- Lemmatisierung
- Part-of-Speech-Tagging
- Dependenz-Parsing
5.2. Erkennung benannter Entitäten (NER)
- Erkennung von Entitäten (Personen, Orte, Organisationen, Daten, Konzepte)
- Entitätstypisierung gemäß einer Domänenontologie
- Koreferenzauflösung
5.3. Relationsextraktion (RE)
- Tripelextraktion (Subjekt, Prädikat, Objekt) aus Text
- Offene oder mustergesteuerte Extraktion
5.4. Wissensgraph-Konstruktion
- Entitätsnormalisierung und -zusammenführung (Entity Linking)
- Graphkonstruktion und -speicherung (Tripel)
- Anreicherung durch Inferenz impliziter Relationen
- Graphvalidierung und -bereinigung
5.5. Frageverständnis
- Syntaktische Analyse der natürlichsprachlichen Frage
- Identifikation des Fragetyps (wer, was, wo, wann…)
- Extraktion der genannten Entitäten und Relationen
- Transformation in eine formale Anfrage an den Graphen
5.6. Schlussfolgern & Antwortsuche
- Wissensgraph-Traversierung (Multi-Hop-Reasoning)
- Logische Auflösung und Rangfolge der Kandidatenantworten
5.7. Antwortgenerierung & Erklärungen
- Antwortformulierung in natürlicher Sprache
- Vollständige Erklärungsspur: Pfad im KG, angewandte Regeln, beteiligte Entitäten und Relationen, Konfidenz/Vollständigkeit
6. Lizenzbedingungen
6.1. Hippocratic License 3.0 (HL3)
Die fertige Software wird unter der Hippocratic License 3.0 (firstdonoharm.dev) veröffentlicht. Diese Lizenz:
- Gilt nicht als Open Source im OSI-Sinne (ethische Nutzungsbeschränkungen).
- Ist eine Copyleft-Lizenz (Abschnitt 8.3).
- Legt ethische Standards auf Basis grundlegender Menschenrechte fest (AEMR, IPWSKR, IPBPR, ILO).
6.2. Abhängigkeitskompatibilität
| Lizenz | HL3-kompatibel | Beispiele |
|---|---|---|
| MIT | ✅ Ja | — |
| BSD (2/3-Klausel) | ✅ Ja | — |
| Apache 2.0 | ✅ Ja | — |
| ISC / CC0 | ✅ Ja | — |
| GPL v2/v3 | ⚠️ Potenziell inkompatibel | — |
| AGPL | ❌ Wahrscheinlich inkompatibel | — |
6.3. Empfohlene optionale HL3-Module
- HL3-ECO (Ökozid) — im Einklang mit dem Ziel der Reduzierung ökologischer Auswirkungen.
- HL3-MEDIA — Verbot der Nutzung zur Förderung von Gewalt.
- HL3-SV (Massenüberwachung) — im Einklang mit Souveränität und Datenschutz.
7. Regulatorische Konformität
7.1. DSGVO
| DSGVO-Grundsatz | Umsetzung |
|---|---|
| Datenminimierung (Art. 5.1.c) | Der KG speichert nur relevante extrahierte Tripel, keine rohen personenbezogenen Daten. |
| Recht auf Erklärung (Art. 22 + Erwägungsgrund 71) | Vollständige Erklärungsspur für jede Antwort. |
| Recht auf Löschung (Art. 17) | Möglichkeit zur Löschung von Entitäten/Tripeln aus dem KG. |
| Datenschutz durch Design (Art. 25) | Keine sensiblen Daten im KG ohne dokumentierte Notwendigkeit. |
| Kein automatisiertes Profiling (Art. 22) | Das System trifft keine automatisierten Entscheidungen über Personen. |
7.2. Europäischer AI Act
| AI-Act-Anforderung | Konformität |
|---|---|
| Transparenz (Art. 13) | Intrinsisch interpretierbare symbolische Architektur — jeder Reasoning-Schritt ist nachvollziehbar. |
| Erklärbarkeit (Art. 13.1) | Vollständige Spur: Frage → formale Anfrage → KG-Pfad → Antwort. |
| Technische Dokumentation (Art. 11) | Vollständig dokumentierbare symbolische Pipeline (Grammatiken, Regeln, Ontologie). |
| Robustheit und Genauigkeit (Art. 15) | Keine Halluzination — Antworten stammen ausschließlich aus dem KG. |
| Menschliche Aufsicht (Art. 14) | Der KG ist von einem Menschen einsehbar und veränderbar. |
| Risikomanagement (Art. 9) | Geringes Risiko: kein opakes Modell, keine emergente Verzerrung. |
8. Ökologische Auswirkungen
8.1. Das Problem
- Das Training von GPT-3 verbrauchte ca. 1.287 MWh, d.h. ~552 Tonnen CO₂.
- KI-Rechenzentren haben ihren CO₂-Fußabdruck zwischen 2024 und 2025 verdreifacht (Awab, 2026).
- Eine LLM-Anfrage verbraucht etwa 10× mehr Energie als eine Standard-Websuche (Kim & Yoo, 2026).
8.2. Vorteil des symbolischen CPU-only-Ansatzes
| Metrik | LLM-System (GPU) | KI-Herausforderung (CPU-only) | Geschätzter Gewinn |
|---|---|---|---|
| Momentanleistung | 300-400 W (GPU) | 65-125 W (CPU) | ~3-5× |
| Latenz pro Anfrage | 0,5-5 s | < 100 ms (Ziel) | ~5-50× |
| Energie pro Anfrage | ~0,001-0,01 kWh | ~0,000001-0,00001 kWh | ~100-1000× |
| Benötigte Hardware | GPU ≥ 6.000 € | Verbraucher-CPU < 500 € | ~12× |
8.3. Pflichtmessung
Das Projekt muss messen und berichten:
- Energieverbrauch (kWh) für die KG-Konstruktion.
- Energieverbrauch pro QA-Anfrage.
- Entsprechender CO₂-Fußabdruck.
- Vergleich mit einem GPU-Baselinesystem.
9. Reproduzierbarkeit
- Vollständiger Quellcode: veröffentlicht in einem öffentlichen Repository unter HL3-Lizenz.
- Installationsanleitung: automatisiertes Skript oder Containerisierung.
- Testdaten: ausschließliche Nutzung öffentlicher Benchmarks.
- Zufallskeime: festgelegt und dokumentiert für jede stochastische Komponente.
- Versionierung der Abhängigkeiten: fixierte Abhängigkeitsdatei.
- Containerisierung: das vollständige System muss reproduzierbar ausführbar sein.
- Dokumentierte Mindesthardware: explizite Mindestspezifikationen.
Die maximal erforderliche Hardware (i9 + RTX 3090) ist für ein breites Publikum zugänglich. Phase 2 (QA-Laufzeit) erfordert keine GPU und ermöglicht die Ausführung auf einem einfachen Laptop.
10. Souveränität, Sicherheit & Datenschutz
Digitale Souveränität
- Keine Cloud-Abhängigkeit — vollständig lokaler Betrieb.
- Keine externen API-Aufrufe — keine Daten verlassen die Maschine.
- Open-Weights-LLMs lokal herunterladbar und ausführbar.
- Kein Vendor Lock-in.
Sicherheit
- Sandbox-Ausführung (isolierte Umgebung).
- Keine willkürliche Codeausführung.
- Keine Prompt Injection (kein LLM bei der Inferenz).
- Eingabevalidierung über formale Grammatik.
Datenschutz
- Ausschließlich lokale Verarbeitung — Dokumente verlassen nie die Maschine.
- Keine Telemetrie.
- KG auf Anfrage löschbar.
- Möglichkeit, separate KGs pro Benutzer oder pro Domäne zu instanziieren.
11. Benchmarks & Evaluierung
11.1. Anerkannte KGQA-Benchmarks
Das System muss auf mindestens zwei der folgenden Benchmarks evaluiert werden:
| Benchmark | Beschreibung | Größe | Referenz |
|---|---|---|---|
| SimpleQuestions | Einfache Faktenfragen auf Freebase | ~100K Fragen | ACL |
| WebQuestionsSP | Webfragen mit SPARQL-Annotationen | ~4.737 Fragen | ACL |
| LC-QuAD 2.0 | Komplexe Fragen auf DBpedia/Wikidata | ~30K Fragen | ISWC |
| ComplexWebQuestions | Multi-Hop-Fragen auf Freebase | ~34K Fragen | NAACL |
| QALD | Mehrsprachige Herausforderung, kleine Größe | ~400-500 Fragen | CLEF/ESWC |
| MINTQA | Aktueller Benchmark für LLM+KG bei seltenen Entitäten | Variabel | EMNLP 2025 |
| SQuAD 2.0 | Extraktive QA auf Absätzen | ~150K Fragen | ACL |
| Natural Questions | Echte Google-Fragen | ~307K Fragen | TACL |
| TriviaQA | Trivia-QA mit unterstützenden Dokumenten | ~95K Fragen | ACL |
Empfehlung: Priorisierung von LC-QuAD 2.0 und QALD, ergänzt durch SQuAD oder Natural Questions für den Vergleich mit neuronalen Ansätzen.
11.2. Evaluierungsmetriken
| Kategorie | Metrik | Beschreibung |
|---|---|---|
| QA-Leistung | F1-Score, Exact Match (EM) | Antwortpräzision |
| QA-Leistung | Hits@1, Hits@5 | Rate korrekter Antworten in Top-k |
| QA-Leistung | MRR | Mittlerer Rang der korrekten Antwort |
| Latenz | Durchschnittliche/p95-Antwortzeit (ms) | Nur auf CPU gemessen |
| Durchsatz | Fragen/Sekunde | Durchsatz |
| Ökologie | kWh/Anfrage, gCO₂/Anfrage | Via codecarbon/carbontracker |
| Erklärbarkeit | Rückverfolgbarkeitsrate | % der Antworten mit vollständiger Spur (Ziel: 100%) |
| KG-Abdeckung | Tripel, Entitäten, Relationen | Deskriptive Statistiken |
11.3. Vergleichs-Baselines
- RAG + LLM (GPU): neuronale Baseline auf GPU.
- KG-RAG (GPU): hybride KG + LLM Baseline.
- Direktes SPARQL: rein symbolische Baseline (manuelle Anfragen auf demselben KG).
12. Leistungsspezifikationen
| Kriterium | Ziel | Begründung |
|---|---|---|
| QA-Latenz | < 100 ms (p95) | Akzeptable Benutzerinteraktivität |
| KG-Konstruktion | < 1 Min. / 1.000 kurze Dokumente | Praktikabilität |
| QA-Speicherbedarf | < 4 GB RAM | Ausführbar auf bescheidenem PC |
| KG-Größe | Skalierbar auf 10M+ Tripel | Ausreichende Abdeckung für Benchmarks |
| QA-Präzision | ≥ 50% F1 auf einfachen Benchmarks | Interpretierbarkeit und Sparsamkeit als Hauptargumente |
| Rückverfolgbarkeit | 100% der Antworten erklärt | Hauptvorteil des symbolischen Ansatzes |
13. Risiken & Gegenmaßnahmen
| Risiko | Wahrscheinlichkeit | Auswirkung | Gegenmaßnahme |
|---|---|---|---|
| Unzureichende QA-Leistung vs. LLM | Hoch | Mittel | Fokus auf Interpretierbarkeit/Sparsamkeit |
| Unzureichende Qualität des automatischen KG | Mittel | Hoch | Regeln iterieren, LLM-Überwachung |
| Komplexität von Multi-Hop-Fragen | Hoch | Mittel | Auf ≤ 3 Hops beschränken, Einschränkungen dokumentieren |
| Lizenzinkompatibilität von Abhängigkeiten | Niedrig | Hoch | Systematische Lizenzprüfung |
| Open-Weights-LLM unzureichend für Überwachung | Mittel | Mittel | Mehrere Modelle testen und kombinieren |
| Begrenzte KG-Abdeckung im Maßstab | Mittel | Mittel | Mit QALD beginnen, dann skalieren |
14. Erfolgskriterien
- Das QA-System arbeitet vollständig auf CPU ohne GPU bei der Inferenz.
- Der KG wird automatisch aus natürlichsprachlichen Dokumenten aufgebaut.
- Die Leistung wird auf ≥ 2 anerkannten öffentlichen Benchmarks gemessen.
- 100% der Antworten werden von einer Erklärungsspur begleitet.
- Der Energieverbrauch wird gemessen und verglichen mit einer GPU-Baseline.
- Der Code wird unter Hippocratic 3.0 Lizenz mit kompatiblen Abhängigkeiten veröffentlicht.
- Das System ist reproduzierbar via Docker auf der angegebenen Hardware.
- Die Entwicklung wird vollständig durch Open-Weights-LLMs in einer Sandbox durchgeführt.
15. Bibliographische Referenzen
- Agarwal, P. & Bedathur, S. (2025). A Zero-Shot Neuro-Symbolic Approach for Complex Knowledge Graph Question Answering. EMNLP 2025 Findings.
- Ansar, W., Goswami, S. & Chakrabarti, A. (2024). From Transformers to LLMs: A Systematic Survey of Efficiency Considerations in NLP. arXiv:2406.16893.
- Awab, S. (2026). AI's Resource Gluttony and Sustainable Development. SSRN 6301563.
- Boshnjakovski, V. (2025). Balancing Compliance and Innovation: Addressing Explainability in AI Systems under the EU AI Act. MBA Thesis.
- Chaudhary, V. et al. (2025). Fusing Knowledge and Language: A Comparative Study of KG-Based QA with LLMs. arXiv:2509.09272.
- Chen, H. et al. (2025). Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs. TheWebConf 2025.
- Cheng, K. et al. (2025). Neural-symbolic methods for knowledge graph reasoning: A survey. ACM Trans. Knowl. Discov. Data.
- Chudasama, Y. et al. (2025). Toward interpretable hybrid AI: integrating knowledge graphs and symbolic reasoning. IEEE Access.
- Corradini, F. et al. (2025). State of the art and future directions of small language models. Big Data and Cognitive Computing.
- Goncalves, A. & Correia, A. (2026). XAI-Compliance-by-Design: A Modular Framework for GDPR- and AI Act-Aligned Decision Transparency. MDPI J. Cybersecurity and Privacy.
- Hasan, S.M. et al. (2025). Carbon emission quantification of ML: A review. IEEE Trans. Sustainable Computing.
- Juliussen, B.A. (2025). The Right to an Explanation Under the GDPR and the AI Act. Springer, Int. Conf. Multimedia Modeling.
- Kim, M.K. & Yoo, T.A. (2026). Toward Sustainable AI: A Scoping Review of Carbon Footprint. IEEE Access.
- Linders, J. & Tomczak, J.M. (2025). Knowledge graph-extended RAG for QA. Applied Intelligence.
- Liu, B. et al. (2025). SymAgent: A neural-symbolic self-learning agent framework for complex reasoning over KGs. TheWebConf 2025.
- Ma, C. et al. (2025). Large language models meet knowledge graphs for question answering. EMNLP 2025.
- Niu, G. et al. (2026). A Comprehensive Survey of Knowledge Graph Reasoning. IEEE Trans. Big Data.
- Perevalov, A. et al. (2024). Multilingual question answering systems for knowledge graphs — a survey. Semantic Web.
- Salman, M. et al. (2024). Doc-KG: Unstructured documents to KG construction. Expert Systems.
- Schwartz, R. et al. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
- Sidhu, M.K. et al. (2025). Neurosymbolic AI for Enhanced Reasoning in Small Language Models. IEEE.
- Sovrano, F. et al. (2025). Legal XAI: Systematic Review and Interdisciplinary Mapping of XAI and EU Law. ResearchGate.
- Tunzina, T. et al. (2026). GreenAI: Environmental Efficiency in LLM-Generated Code. IEEE Access.
- Wagner, M. et al. (2025). A Critical Look at the EU AI Act's Requirements — Who Must Explain What? IEEE Int. Requirements Eng. Conf.
- Zavarella, V. (2026). Methods for KG Construction from Text Collections. arXiv:2603.25862.