KI-Transparenz

JusProg e.V. setzt auf verschiedene Weise Künstliche Intelligenz und Maschinelles Lernen ein. Wir informieren hier transparent über unsere KI-Nutzung

Wir verwenden KI ausschließlich „intern“ bei der Optimierung  und dem Betrieb unserer Dienste, nicht jedoch bei der direkten Nutzung der JusProg-Jugendschutzprogramme. Weder Kinder und Jugendliche noch Eltern oder Schulen agieren bei JusProg direkt mit der KI.

Website-Rating

Bei der Altersklassifizierung von Webseiten, dem sogenannten Rating, setzen wir unter anderem auch künstliche Intelligenz ein. Eine eigenentwickelte Anwendung nutzt verschiedene KI-Modelle zur automatisierten Ermittlung von Altersstufen und ergänzenden Informationen  zu Domains (FQDN), dies erfolgt über den Vertex-Dienst der Google Cloud Console. Derzeit verwenden wir Claude Haiku, DeepSeek (eine Installation in den Niederlanden) und Gemini, testen jedoch auch mit anderen KI-Modellen und verwenden zudem selbstgehostete KI-Anwendungen aus dem Open Source-Bereich.

Die Nutzung von KI für das Website-Rating erfolgt ohne jegliche Übermittlung von persönlichen Daten von unseren eigens dafür eingesetzten Servern, auf die die Nutzenden unserer Jugendschutzprogramme keinen Zugriff haben. Die KI-Modelle erhalten über technische Schnittstellen (API) lediglich Domain-Bezeichnungen (FQDN) sowie Prompts und ergänzende Informationen (MD etc.).

Die durch KI ermittelten Altersstufen unterstützen unser menschliches Rating-Team (Netagents) bei ihrer Arbeit und werden als Default-Altersklassifizierung für Websites genutzt, die noch nicht durch das Rating-Team mit menschlicher Kompetenz altersklassifiziert wurden oder zu der großen Masse von Domains gehören, die relativ geringe Klickzahlen haben und deshalb nicht mit vertretbarem Aufwand durch JusProg-Mitarbeitende gecheckt werden können. Parallel setzen wir, bereits seit Jahren, weiterhin unsere eigenentwickelten Systeme zur automatisierten Default-Altersklassifizierung auf Basis von Keywords ein. In allen Fällen gilt: Menschliches Rating hat immer Vorrang vor der Maschine.

Technische Systeme

Unsere Anwendungen und technischen Systeme sind hochkomplexe Programmierungen in großen Server-Clustern in zwei deutschen Rechenzentren, die von menschlichen Entwicklern erstellt wurden und laufend betreut werden. Im Rahmen ihrer täglichen Arbeit verwenden die Entwickler jedoch für einfachere Programmierelemente und technische Fleißaufgaben sowie für Tests und Evaluationen sowie das Monitoring der Systeme auch verschiedene KI-Tools. Es werden dabei keine persönliche Daten der Nutzenden oder Surfprotokolle von Einzelnen (diese erstellen wir ohnehin nicht) an die KI übermittelt.

Websites und Texte sowie Bilder und Videos

Die deutschsprachigen Texte auf unseren Websites und weiteren Informationsangeboten sowie bei LinkedIn und auf anderen Kanälen wurden größtenteils durch menschliche Redakteurinnen und Redakteure erstellt. Wenn Texte mit KI erstellt oder verbessert wurden, dann wurden und werden diese ausschließlich nach menschlicher Prüfung publiziert. Dies gilt ebenso für Bilder, Grafiken und Videos, die mit Hilfe von KI erstellt wurden. Unsere interne KI-Policy verbietet es, Fake-Content mit KI zu erstellen, der die Nutzenden glauben macht, die Inhalte seien real – sollte dies jedoch in speziellen Ausnahmefällen sinnvoll sein, ist eine klare Kennzeichnung Pflicht.

Die Übersetzungen u.a. in die englische Sprache erfolgen in der Regel mit dem KI-Übersetzungsdienst von Deepl, teilweise auch mit Google Übersetzer. Die Erstellung der Text-Versionen in Leichter Sprache wird ebenfalls von KI-Tools unterstützt.

Support

Unser JusProg-Support-Team besteht aus menschlichen Mitarbeitenden, es gibt keine KI-generierten automatisierten Antworten. Die Supporter können jedoch KI zur Recherche und zur Unterstützung bei der Erstellung ihrer Antworten einsetzen, sofern diese vor Übermittlung an die Anfragenden zuvor menschlich geprüft und ggfls. angepasst und korrigiert werden. Die Nutzung von KI-Tools hat ausschließlich anonymisiert ohne persönliche Daten der Anfragenden zu erfolgen.

Arbeit des Vereins und der Geschäftsstelle

Im Rahmen der üblichen Büro- und Buchhaltungstätigkeit von JusProg setzen wir auch KI-Dienste z.B. für die Recherche, die Erstellung von Excel-Formeln und Präsentationen, für die Optimierung von Abläufen und die Erledigung wiederkehrender Tätigkeiten sowie auf in modernem Bürobetrieb übliche andere Weise ein. Der Einsatz erfolgt nach den Regeln der DSGVO, des Artificial Intelligence Act (AI Act der EU) und weiterer gesetzlicher Vorgaben nach den in unseren internen TOMs (Technische und organisatorische Maßnahmen) festgelegten Regeln.