عربي БГ বাংলা ČS DA DE ΕΛ EN ES ET FI FR GA हिन्दी HR HU IT 日本語 LT LV MT NL PL PT RO РУ SK SL SV 中文

KI-Herausforderung

Entwurf eines CPU-only, rein symbolischen Frage/Antwort-Systems, dessen Wissensgraph automatisch aus natürlichsprachlichen Dokumenten aufgebaut wird.

Green AI • CPU-only • Symbolisch • Erklärbar

1. Zusammenfassung der Herausforderung

Die Herausforderung besteht darin, ein ausschließlich auf CPU laufendes Frage/Antwort-System (QA) zu entwerfen, zu implementieren und zu evaluieren, das auf einer rein symbolischen Architektur basiert (Lexikon, Grammatiken, Wissensgraph, formale Logik). Die gesamte Systementwicklung wird durch quantisierte Open-Weights-LLMs gesteuert, die auf Verbraucherhardware ausführbar sind (i9 CPU, RTX 3090).

Dieses Projekt ordnet sich in die Bewegung der Green AI (Schwartz et al., 2020) und Frugal AI ein, in Abgrenzung zum Wettlauf nach immer größeren Modellen, deren CO₂-Fußabdruck alarmierend geworden ist (Kim et al., 2026; Hasan et al., 2025). Es adressiert auch die wachsenden Anforderungen an Transparenz, Erklärbarkeit und regulatorische Konformität, die durch die DSGVO und den europäischen AI Act auferlegt werden (Wagner et al., 2025; Juliussen, 2025).

Originalität: Keine bestehende Arbeit kombiniert gleichzeitig die folgenden Einschränkungen:
  1. Rein symbolisches QA-System (kein neuronales Netz bei der Inferenz)
  2. CPU-only zur Laufzeit (keine GPU erforderlich)
  3. Automatischer KG-Aufbau aus natürlichsprachlichen Dokumenten
  4. Entwicklung vollständig überwacht durch quantisierte Open-Weights-LLMs
  5. Native DSGVO/AI-Act-Konformität durch Design (intrinsische Interpretierbarkeit)
  6. Ethische Lizenz (Hippocratic 3.0)

2. Kontext und wissenschaftliche Einordnung

2.1. Problemstellung

Aktuelle QA-Systeme stützen sich stark auf LLMs (GPT, LLaMA usw.), die teure GPUs für die Inferenz benötigen, und werfen Probleme der Halluzination, Reproduzierbarkeit, Erklärbarkeit und Datensouveränität auf. Sie funktionieren als Black Boxes und sind schwer mit den Anforderungen des europäischen AI Act (Artikel 13) bezüglich der Transparenz von Hochrisikosystemen in Einklang zu bringen (Wagner, 2025; Boshnjakovski, 2025).

2.2. Stand der Technik

Neuro-symbolische Ansätze und KG-QA

Die aktuelle Literatur konvergiert in Richtung Integration von Wissensgraphen (KG) und symbolischem Schlussfolgern, um die Grenzen rein neuronaler Ansätze zu überwinden:

Automatische Wissensgraph-Konstruktion

CPU-Effizienz und leichtgewichtige Ansätze

Ökologische Auswirkungen der KI

DSGVO- und AI-Act-Konformität

3. Ziele

Hauptziel

Die Machbarkeit und Leistungsfähigkeit eines CPU-only, rein symbolischen QA-Systems nachweisen und evaluieren, dessen Wissensgraph automatisch aus natürlichsprachlichen Dokumenten aufgebaut wird.

Sekundäre Ziele

  1. Wettbewerbsfähige Leistung auf anerkannten KGQA-Benchmarks erzielen.
  2. Den Energieverbrauch (CPU vs. GPU) messen und vergleichen, um den ökologischen Vorteil nachzuweisen.
  3. Die intrinsische Interpretierbarkeit des Systems demonstrieren (Rückverfolgbarkeit jeder Antwort).
  4. Reproduzierbare, dokumentierte Software unter einer ethischen Lizenz bereitstellen.

4. Architektur & technische Spezifikationen

4.1. Gesamtarchitektur

Das System ist in zwei getrennte Phasen unterteilt:

Phase 1 — Wissensgraph-Konstruktion (offline, GPU erlaubt)

NL-Dokumente → Vorverarbeitung → NER → Relationsextraktion → Koreferenzauflösung
    → KG-Konstruktion (RDF/OWL-Tripel) → Graph-Speicherung

Phase 2 — Frage/Antwort (Laufzeit, strikt CPU-only)

NL-Frage → Syntaktische/Semantische Analyse → Transformation in formale Anfrage
    → KG-Traversierung → Logisches Schlussfolgern → Antwortgenerierung
    → Erklärungsspur

4.2. Hardware-Spezifikationen

KomponentePhase 1 (KG-Konstruktion)Phase 2 (QA-Laufzeit)
CPUIntel Core i9 (max.)Intel Core i9 (max.)
GPUNVIDIA RTX 3090 (24 GB VRAM)Keine (strikt CPU-only)
RAM32 GB (max.)32 GB (ausreichend)
SpeicherNVMe SSDNVMe SSD

Begründung: Phase 1 darf die GPU nutzen, um die quantisierten Open-Weights-LLMs auszuführen, die den Pipeline-Aufbau überwachen. Phase 2, die das einsatzfähige System darstellt, muss strikt CPU-only sein, um Zugänglichkeit, Souveränität und Sparsamkeit zu garantieren.

4.3. Entwicklungsumgebung

4.4. LLM-Überwachung

Die Systementwicklung wird vollständig durch ein oder mehrere Open-Weights-LLMs gesteuert, die lokal auf der angegebenen Hardware ausführbar sind (Phase 1). Die Wahl der Modelle, Quantisierung und des Inferenz-Frameworks bleibt dem Teilnehmer überlassen.

5. Vorgeschlagene Pipeline-Architektur

Die folgende Aufgliederung dient als Richtlinie. Die Teilnehmer können eine andere Architektur vorschlagen, sofern sie die funktionalen Anforderungen (Abschnitte 3, 4 und 12) und Lizenzbedingungen (Abschnitt 6) einhalten.

5.1. Textvorverarbeitung

  • Satzsegmentierung
  • Tokenisierung
  • Lemmatisierung
  • Part-of-Speech-Tagging
  • Dependenz-Parsing

5.2. Erkennung benannter Entitäten (NER)

  • Erkennung von Entitäten (Personen, Orte, Organisationen, Daten, Konzepte)
  • Entitätstypisierung gemäß einer Domänenontologie
  • Koreferenzauflösung

5.3. Relationsextraktion (RE)

  • Tripelextraktion (Subjekt, Prädikat, Objekt) aus Text
  • Offene oder mustergesteuerte Extraktion

5.4. Wissensgraph-Konstruktion

  • Entitätsnormalisierung und -zusammenführung (Entity Linking)
  • Graphkonstruktion und -speicherung (Tripel)
  • Anreicherung durch Inferenz impliziter Relationen
  • Graphvalidierung und -bereinigung

5.5. Frageverständnis

  • Syntaktische Analyse der natürlichsprachlichen Frage
  • Identifikation des Fragetyps (wer, was, wo, wann…)
  • Extraktion der genannten Entitäten und Relationen
  • Transformation in eine formale Anfrage an den Graphen

5.6. Schlussfolgern & Antwortsuche

  • Wissensgraph-Traversierung (Multi-Hop-Reasoning)
  • Logische Auflösung und Rangfolge der Kandidatenantworten

5.7. Antwortgenerierung & Erklärungen

  • Antwortformulierung in natürlicher Sprache
  • Vollständige Erklärungsspur: Pfad im KG, angewandte Regeln, beteiligte Entitäten und Relationen, Konfidenz/Vollständigkeit

6. Lizenzbedingungen

6.1. Hippocratic License 3.0 (HL3)

Die fertige Software wird unter der Hippocratic License 3.0 (firstdonoharm.dev) veröffentlicht. Diese Lizenz:

6.2. Abhängigkeitskompatibilität

LizenzHL3-kompatibelBeispiele
MIT✅ Ja—
BSD (2/3-Klausel)✅ Ja—
Apache 2.0✅ Ja—
ISC / CC0✅ Ja—
GPL v2/v3⚠️ Potenziell inkompatibel—
AGPL❌ Wahrscheinlich inkompatibel—

6.3. Empfohlene optionale HL3-Module

7. Regulatorische Konformität

7.1. DSGVO

DSGVO-GrundsatzUmsetzung
Datenminimierung (Art. 5.1.c)Der KG speichert nur relevante extrahierte Tripel, keine rohen personenbezogenen Daten.
Recht auf Erklärung (Art. 22 + Erwägungsgrund 71)Vollständige Erklärungsspur für jede Antwort.
Recht auf Löschung (Art. 17)Möglichkeit zur Löschung von Entitäten/Tripeln aus dem KG.
Datenschutz durch Design (Art. 25)Keine sensiblen Daten im KG ohne dokumentierte Notwendigkeit.
Kein automatisiertes Profiling (Art. 22)Das System trifft keine automatisierten Entscheidungen über Personen.

7.2. Europäischer AI Act

AI-Act-AnforderungKonformität
Transparenz (Art. 13)Intrinsisch interpretierbare symbolische Architektur — jeder Reasoning-Schritt ist nachvollziehbar.
Erklärbarkeit (Art. 13.1)Vollständige Spur: Frage → formale Anfrage → KG-Pfad → Antwort.
Technische Dokumentation (Art. 11)Vollständig dokumentierbare symbolische Pipeline (Grammatiken, Regeln, Ontologie).
Robustheit und Genauigkeit (Art. 15)Keine Halluzination — Antworten stammen ausschließlich aus dem KG.
Menschliche Aufsicht (Art. 14)Der KG ist von einem Menschen einsehbar und veränderbar.
Risikomanagement (Art. 9)Geringes Risiko: kein opakes Modell, keine emergente Verzerrung.
Kernargument: Ein rein symbolisches System ist nativ konform mit den Transparenz- und Erklärbarkeitsanforderungen des AI Act, im Gegensatz zu LLM-basierten Systemen, die zusätzliche XAI-Schichten benötigen (Goncalves & Correia, 2026; Wagner et al., 2025).

8. Ökologische Auswirkungen

8.1. Das Problem

8.2. Vorteil des symbolischen CPU-only-Ansatzes

MetrikLLM-System (GPU)KI-Herausforderung (CPU-only)Geschätzter Gewinn
Momentanleistung300-400 W (GPU)65-125 W (CPU)~3-5×
Latenz pro Anfrage0,5-5 s< 100 ms (Ziel)~5-50×
Energie pro Anfrage~0,001-0,01 kWh~0,000001-0,00001 kWh~100-1000×
Benötigte HardwareGPU ≥ 6.000 €Verbraucher-CPU < 500 €~12×

8.3. Pflichtmessung

Das Projekt muss messen und berichten:

9. Reproduzierbarkeit

  1. Vollständiger Quellcode: veröffentlicht in einem öffentlichen Repository unter HL3-Lizenz.
  2. Installationsanleitung: automatisiertes Skript oder Containerisierung.
  3. Testdaten: ausschließliche Nutzung öffentlicher Benchmarks.
  4. Zufallskeime: festgelegt und dokumentiert für jede stochastische Komponente.
  5. Versionierung der Abhängigkeiten: fixierte Abhängigkeitsdatei.
  6. Containerisierung: das vollständige System muss reproduzierbar ausführbar sein.
  7. Dokumentierte Mindesthardware: explizite Mindestspezifikationen.

Die maximal erforderliche Hardware (i9 + RTX 3090) ist für ein breites Publikum zugänglich. Phase 2 (QA-Laufzeit) erfordert keine GPU und ermöglicht die Ausführung auf einem einfachen Laptop.

10. Souveränität, Sicherheit & Datenschutz

Digitale Souveränität

  • Keine Cloud-Abhängigkeit — vollständig lokaler Betrieb.
  • Keine externen API-Aufrufe — keine Daten verlassen die Maschine.
  • Open-Weights-LLMs lokal herunterladbar und ausführbar.
  • Kein Vendor Lock-in.

Sicherheit

  • Sandbox-Ausführung (isolierte Umgebung).
  • Keine willkürliche Codeausführung.
  • Keine Prompt Injection (kein LLM bei der Inferenz).
  • Eingabevalidierung über formale Grammatik.

Datenschutz

  • Ausschließlich lokale Verarbeitung — Dokumente verlassen nie die Maschine.
  • Keine Telemetrie.
  • KG auf Anfrage löschbar.
  • Möglichkeit, separate KGs pro Benutzer oder pro Domäne zu instanziieren.

11. Benchmarks & Evaluierung

11.1. Anerkannte KGQA-Benchmarks

Das System muss auf mindestens zwei der folgenden Benchmarks evaluiert werden:

BenchmarkBeschreibungGrößeReferenz
SimpleQuestionsEinfache Faktenfragen auf Freebase~100K FragenACL
WebQuestionsSPWebfragen mit SPARQL-Annotationen~4.737 FragenACL
LC-QuAD 2.0Komplexe Fragen auf DBpedia/Wikidata~30K FragenISWC
ComplexWebQuestionsMulti-Hop-Fragen auf Freebase~34K FragenNAACL
QALDMehrsprachige Herausforderung, kleine Größe~400-500 FragenCLEF/ESWC
MINTQAAktueller Benchmark für LLM+KG bei seltenen EntitätenVariabelEMNLP 2025
SQuAD 2.0Extraktive QA auf Absätzen~150K FragenACL
Natural QuestionsEchte Google-Fragen~307K FragenTACL
TriviaQATrivia-QA mit unterstützenden Dokumenten~95K FragenACL

Empfehlung: Priorisierung von LC-QuAD 2.0 und QALD, ergänzt durch SQuAD oder Natural Questions für den Vergleich mit neuronalen Ansätzen.

11.2. Evaluierungsmetriken

KategorieMetrikBeschreibung
QA-LeistungF1-Score, Exact Match (EM)Antwortpräzision
QA-LeistungHits@1, Hits@5Rate korrekter Antworten in Top-k
QA-LeistungMRRMittlerer Rang der korrekten Antwort
LatenzDurchschnittliche/p95-Antwortzeit (ms)Nur auf CPU gemessen
DurchsatzFragen/SekundeDurchsatz
ÖkologiekWh/Anfrage, gCO₂/AnfrageVia codecarbon/carbontracker
ErklärbarkeitRückverfolgbarkeitsrate% der Antworten mit vollständiger Spur (Ziel: 100%)
KG-AbdeckungTripel, Entitäten, RelationenDeskriptive Statistiken

11.3. Vergleichs-Baselines

  1. RAG + LLM (GPU): neuronale Baseline auf GPU.
  2. KG-RAG (GPU): hybride KG + LLM Baseline.
  3. Direktes SPARQL: rein symbolische Baseline (manuelle Anfragen auf demselben KG).

12. Leistungsspezifikationen

KriteriumZielBegründung
QA-Latenz< 100 ms (p95)Akzeptable Benutzerinteraktivität
KG-Konstruktion< 1 Min. / 1.000 kurze DokumentePraktikabilität
QA-Speicherbedarf< 4 GB RAMAusführbar auf bescheidenem PC
KG-GrößeSkalierbar auf 10M+ TripelAusreichende Abdeckung für Benchmarks
QA-Präzision≥ 50% F1 auf einfachen BenchmarksInterpretierbarkeit und Sparsamkeit als Hauptargumente
Rückverfolgbarkeit100% der Antworten erklärtHauptvorteil des symbolischen Ansatzes

13. Risiken & Gegenmaßnahmen

RisikoWahrscheinlichkeitAuswirkungGegenmaßnahme
Unzureichende QA-Leistung vs. LLMHochMittelFokus auf Interpretierbarkeit/Sparsamkeit
Unzureichende Qualität des automatischen KGMittelHochRegeln iterieren, LLM-Überwachung
Komplexität von Multi-Hop-FragenHochMittelAuf ≤ 3 Hops beschränken, Einschränkungen dokumentieren
Lizenzinkompatibilität von AbhängigkeitenNiedrigHochSystematische Lizenzprüfung
Open-Weights-LLM unzureichend für ÜberwachungMittelMittelMehrere Modelle testen und kombinieren
Begrenzte KG-Abdeckung im MaßstabMittelMittelMit QALD beginnen, dann skalieren

14. Erfolgskriterien

  1. Das QA-System arbeitet vollständig auf CPU ohne GPU bei der Inferenz.
  2. Der KG wird automatisch aus natürlichsprachlichen Dokumenten aufgebaut.
  3. Die Leistung wird auf ≥ 2 anerkannten öffentlichen Benchmarks gemessen.
  4. 100% der Antworten werden von einer Erklärungsspur begleitet.
  5. Der Energieverbrauch wird gemessen und verglichen mit einer GPU-Baseline.
  6. Der Code wird unter Hippocratic 3.0 Lizenz mit kompatiblen Abhängigkeiten veröffentlicht.
  7. Das System ist reproduzierbar via Docker auf der angegebenen Hardware.
  8. Die Entwicklung wird vollständig durch Open-Weights-LLMs in einer Sandbox durchgeführt.

15. Bibliographische Referenzen

  1. Agarwal, P. & Bedathur, S. (2025). A Zero-Shot Neuro-Symbolic Approach for Complex Knowledge Graph Question Answering. EMNLP 2025 Findings.
  2. Ansar, W., Goswami, S. & Chakrabarti, A. (2024). From Transformers to LLMs: A Systematic Survey of Efficiency Considerations in NLP. arXiv:2406.16893.
  3. Awab, S. (2026). AI's Resource Gluttony and Sustainable Development. SSRN 6301563.
  4. Boshnjakovski, V. (2025). Balancing Compliance and Innovation: Addressing Explainability in AI Systems under the EU AI Act. MBA Thesis.
  5. Chaudhary, V. et al. (2025). Fusing Knowledge and Language: A Comparative Study of KG-Based QA with LLMs. arXiv:2509.09272.
  6. Chen, H. et al. (2025). Open Local Knowledge Graph Construction from Academic Papers Using Generative LLMs. TheWebConf 2025.
  7. Cheng, K. et al. (2025). Neural-symbolic methods for knowledge graph reasoning: A survey. ACM Trans. Knowl. Discov. Data.
  8. Chudasama, Y. et al. (2025). Toward interpretable hybrid AI: integrating knowledge graphs and symbolic reasoning. IEEE Access.
  9. Corradini, F. et al. (2025). State of the art and future directions of small language models. Big Data and Cognitive Computing.
  10. Goncalves, A. & Correia, A. (2026). XAI-Compliance-by-Design: A Modular Framework for GDPR- and AI Act-Aligned Decision Transparency. MDPI J. Cybersecurity and Privacy.
  11. Hasan, S.M. et al. (2025). Carbon emission quantification of ML: A review. IEEE Trans. Sustainable Computing.
  12. Juliussen, B.A. (2025). The Right to an Explanation Under the GDPR and the AI Act. Springer, Int. Conf. Multimedia Modeling.
  13. Kim, M.K. & Yoo, T.A. (2026). Toward Sustainable AI: A Scoping Review of Carbon Footprint. IEEE Access.
  14. Linders, J. & Tomczak, J.M. (2025). Knowledge graph-extended RAG for QA. Applied Intelligence.
  15. Liu, B. et al. (2025). SymAgent: A neural-symbolic self-learning agent framework for complex reasoning over KGs. TheWebConf 2025.
  16. Ma, C. et al. (2025). Large language models meet knowledge graphs for question answering. EMNLP 2025.
  17. Niu, G. et al. (2026). A Comprehensive Survey of Knowledge Graph Reasoning. IEEE Trans. Big Data.
  18. Perevalov, A. et al. (2024). Multilingual question answering systems for knowledge graphs — a survey. Semantic Web.
  19. Salman, M. et al. (2024). Doc-KG: Unstructured documents to KG construction. Expert Systems.
  20. Schwartz, R. et al. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
  21. Sidhu, M.K. et al. (2025). Neurosymbolic AI for Enhanced Reasoning in Small Language Models. IEEE.
  22. Sovrano, F. et al. (2025). Legal XAI: Systematic Review and Interdisciplinary Mapping of XAI and EU Law. ResearchGate.
  23. Tunzina, T. et al. (2026). GreenAI: Environmental Efficiency in LLM-Generated Code. IEEE Access.
  24. Wagner, M. et al. (2025). A Critical Look at the EU AI Act's Requirements — Who Must Explain What? IEEE Int. Requirements Eng. Conf.
  25. Zavarella, V. (2026). Methods for KG Construction from Text Collections. arXiv:2603.25862.