1. Mensch vor Maschine
KI ist kein Mensch. Sie besitzt kein Bewusstsein, keinen Körper, keine Seele. Ihre Empathie ist nur simuliert und sie kann von sich aus keine Beziehung herstellen oder pflegen. Daher kann sie Seelsorge und spirituelle Begleitung nicht ersetzen, sondern nur unterstützen.
Nutzer:innen müssen immer erkennen, ob sie mit einem Menschen oder einer KI interagieren. KI-generierte Inhalte (Texte, Bilder, Videos) immer kennzeichnen (z. B. mit dem Hinweis: „Dieser Text wurde mit Unterstützung von KI erstellt“).
KI darf keine Abhängigkeiten schaffen oder menschliche Entscheidungsfreiheit einschränken.
2. Digitale und analoge Seelsorge verbinden
Digitale Tools können die persönliche Begegnung ergänzen, aber nicht ersetzen.
Hybride Formate (z. B. KI-gestützte Vorbereitung von Gesprächen, Predigten oder Briefen) sind möglich, aber eine vollständige Digitalisierung von Seelsorge ist ausgeschlossen.
3. Innovationskultur - KI als Chance und Herausforderung
Neugier, Lernbereitschaft und kritische Reflexion sind im Umgang mit der dynamischen Entwicklung von KI hilfreich.
Bereichsspezifische Erprobung ermöglicht praktische Erfahrungen und fundierte Entscheidungen.
4. Verantwortung und Entscheidungshoheit
Fachliche und rechtliche Verantwortung bleibt ausschließlich beim Menschen. KI unterstützt, entscheidet aber nicht. Bei Entscheidungen muss immer ein Mensch die finale Kontrolle haben („Human-in-the-Loop“).
KI-gestützten Entscheidungen sollen nachvollziehbar dokumentiert werden.
5. Datenschutz und Sicherheit
Keine Seelsorgedaten in offenen KI-Systemen (z. B. öffentliche Chatbots).
Anonymisierung/Pseudonymisierung ist Pflicht: Keine Klarnamen, Geburtsdaten oder identifizierbare Informationen.
Vertragliche Absicherung durch Auftragsverarbeitungsverträge (AVV) mit Anbietern sind zwingend. Europäische Serverstandorte und keine Drittlandtransfers für sensible Daten.
Keine Nutzung von Seelsorgedaten für ein KI-Training.
Datenminimierung: Risikoklassifizierung der Daten nach Sensibilität (hoch/mittel/niedrig). Nur das erfassen, was für den konkreten Zweck nötig ist.
6. Ethische Reflexion: KI im Dienst des Evangeliums
Fehlerquellen prüfen: Bias, Halluzinationen und andere Fehler in KI-Systemen sind besonders im religiösen und geschlechtsspezifischen Kontext zu prüfen.
Theologische Grenzen: Biblische Texte und Glaubensinhalte dürfen nicht von KI „erfunden“ werden. KI-generierte Inhalte (z. B. Texte, Bilder) müssen vor Veröffentlichung theologisch und ethisch geprüft werden.
Notfallpläne: Klare Prozesse für den Fall, dass KI-Systeme fehlerhaft oder unsicher werden.
7. Bildung und Medienkompetenz
Pflichtschulungen für Haupt- und Ehrenamtliche zu Grundlagen von KI, ethischen und rechtlichen Aspekten sowie praktischer Anwendung. Zielgruppenorientiert (z. B. für Pfarrer:innen, Ehrenamtliche, Verwaltungsmitarbeitende).
Über Chancen und Risiken von KI aufklären, z. B. in Gemeinden oder Beratungsstellen.
8. Experimentieren und Evaluieren
Pilotprojekte und Evaluationen leiten den Einsatz.
Klare Kriterien für den Erfolg von KI-Projekten sollen definiert sein (z. B. Effizienzsteigerung, Nutzerzufriedenheit).
9. Schutz vor schädlichen Auswirkungen
Desinformation, Marktmacht und ausbeuterische Arbeitsbedingungen durch KI benennen und bekämpfen.
Vernetzung mit gesellschaftlichen Akteur:innen, die KI kritisch reflektieren.
Whistleblowing-Prozesse für den Fall, dass KI missbräuchlich oder unethisch genutzt wird.
10. Rechtliche Konformität
Einhaltung aller gesetzlichen Vorgaben: DSGVO, EKD-Datenschutzgesetz (DSG-EKD), IT-Sicherheitsverordnung der EKD, KI-Verordnung der EU (EU AI Act).
Urheberrechte Dritter beachten: KI-generierte Inhalte auf potenzielle urheberrechtliche Verletzungen prüfen.
Alle Regelungen zur KI-Nutzung dokumentieren und regelmäßig aktualisieren.