Richtlinie zur Förderung von Künstlicher Intelligenz für das Gemeinwohl

Das Bundesministerium für Familie, Senioren, Frauen und Jugend beabsichtigte Forschungs-, Umsetzungs- und Modellprojekte zur Stärkung der Nutzung von Daten und Technologien unter Anwendung von Künstlicher Intelligenz (KI) für das Gemeinwohl zu fördern und hat in diesem Zusammenhang die gleichnamige Förderrichtlinie als zentrales Förderinstrument erlassen.  

KI ist im digitalen Zeitalter eine Schlüsseltechnologie. Sie hat großes Potenzial, den gesellschaftlichen Fortschritt voranzutreiben, wenn sie in den Dienst des Gemeinwohls gestellt wird. Das Bundesministerium für Familie, Senioren, Frauen und Jugend hat sich das Ziel gesetzt, bei der Entwicklung gemeinwohlorientierter KI eine Vorreiterrolle einzunehmen und die notwendigen Rahmenbedingungen zu schaffen - gemeinsam mit der Zivilgesellschaft und den Zielgruppen des Bundesministeriums für Familie, Senioren, Frauen und Jugend. Vor diesem Hintergrund setzt sich das Bundesministerium für Familie, Senioren, Frauen und Jugend im Rahmen der KI-Strategie sowie der Datenstrategie der Bundesregierung dafür ein, die Potenziale von KI für das Gemeinwohl zu heben.

Im Kern ging es darum, die Entwicklung konkreter Anwendungen und Tools unter Einsatz gemeinwohlorientierter KI voranzutreiben - und zwar mit dem Fokus, den Alltag der Menschen in unterschiedlichen Lebensbereichen und Lebenslagen einfacher, sicherer, selbstbestimmt und sozialer zu machen. Die Anwendungen sollen Lösungen für konkrete Herausforderungen im Zusammenleben der Bürgerinnen und Bürger oder in organisationalen Abläufen und Prozessen sein.

Zwei Förderschwerpunkte waren vorgesehen:

• Grundlagen für gemeinwohlorientierte "Künstliche Intelligenz" schaffen.
• Gemeinwohlorientierte "Künstliche Intelligenz" entwickeln und erproben.

Zuwendungsempfänger vernetzen

Um gesellschaftlichen Fortschritt unter Einsatz gemeinwohlorientierter KI zu erreichen, ist ein starkes Bündnis zwischen den relevanten Akteurinnen und Akteuren aus Zivilgesellschaft, Wirtschaft und Staat notwendig. Deshalb sollte ein Begleitprogramm zur Unterstützung und Vernetzung der zuwendungsempfangenden Organisationen aufgesetzt werden. Der Fokus hierbei liegt auf der Befähigung der Organisationen zur Selbstorganisation und Selbsthilfe mittels Kompetenzaufbau sowie Stärkung von Vernetzung, Kooperation und Wissenstransfer. So sollen durch verschiedene Qualifizierungs- und Vernetzungsangebote perspektivisch die Potenziale, die in Form von Synergien im gemeinwohlorientierten Sektor liegen, gehoben und die zuwendungsempfangenden Organisationen nachhaltig in ihrer Arbeit unterstützt werden.

Förderprojekte des Bundesfamilienministeriums

Das Bundesfamilienministerium fördert derzeit 14 Vorhaben im Rahmen der hauseigenen KI-Förderrichtlinie. Sie untersuchen das Potenzial der Technologie, das gesellschaftliche Wohlergehen zu fördern sowie Voraussetzungen für einen gemeinwohlorientierten Einsatz zu schaffen. Die derzeit durch das Bundesfamilienministerium geförderten KI-Vorhaben werden hier anhand von vier Handlungsfeldern vorgestellt.

Kompetenzaufbau

Künstliche Intelligenz (KI) prägt schon heute große Teile der digitalen Welt. Sie kuratiert algorithmisch Medieninhalte im Internet und wird vermehrt auch zu deren Generierung (Videos, Artikel und Bilder) eingesetzt. Insbesondere jüngere Menschen, die Social Media Apps nutzen, sind dadurch häufig mit KI in Kontakt, ohne dies notwendigerweise zu wissen. Ältere Menschen begegnen KI im Smart Home oder in Form von Pflegeassistenzsystemen. Aber auch in der gemeinnützigen Arbeit wird sie vermehrt eingesetzt. Kompetenzaufbau in Bezug auf KI ist der notwendige Ausgangspunkt um zu verstehen, welche Auswirkungen KI auf diese Zielgruppen hat, welche Bedarfe und Bedenken innerhalb der Zielgruppen bestehen und welche Konsequenzen hieraus zu ziehen sind. Die Vorhaben im Bereich Kompetenzaufbau entwickeln innovative Konzepte, um dieser Aufgabe zu begegnen und arbeiten mit zielgruppengerechten Methoden.

IKIDO - Interaktive KI Erfahrungsräume für die Digitale Souveränität Jugendlicher

• Hochschule Stralsund; EIPCM (Weiterleitung); meredo e.V. (Weiterleitung)
• Laufzeit: 01/2023-06/2025
• https://www.ikido.info/
• Das Projekt iKIDO entwickelt eine neue Lösung zum Erwerb von KI-Kompetenzen für Jugendliche. Durch Realisierung interaktiver "KI-Erfahrungsräume" soll es Jugendlichen ermöglicht werden, KI-Methoden in konkreten Anwendungsbeispielen transparent zu erleben und ihre Mechanismen zu erkunden, sowie die Potentiale einer verantwortlichen und Risiken einer unreflektierten KI-Nutzung zu erkennen. Die entstehenden Lehrmaterialien stehen kostenfrei zur Nutzung bereit.

KI für ein gutes Altern       

• BAGSO - Bundesarbeitsgemeinschaft der Seniorenorganisationen e.V.
• Laufzeit: 01/2023-12/2025
• https://ki-und-alter.de/
• Das Projekt "KI für ein gutes Altern" vermittelt älteren Menschen und Seniorenorganisationen KI-Kompetenzen. Es möchte dazu beitragen, dass ältere Menschen sich in aktuellen Diskussionen über ChatGPT, Mustererkennung oder selbstlernende Algorithmen aktiv einbringen können und dafür sorgen, dass sie in Forschung und Entwicklung von KI-Systemen stärker wahrgenommen und berücksichtigt werden. Das Vorhaben nutzt dabei die bundesweiten Verbindungen zu Seniorenorganisationen.

DRK Data Science Hub. Mit Daten mehr bewegen       

• Deutsches Rotes Kreuz Generalsekretariat e.V. 
• Laufzeit: 01/2023-12/2025
• https://drk-wohlfahrt.de/unsere-themen/data-science-hub.html
• Das DRK baut einen Data Science Hub auf, um das Potenzial datenwissenschaftlicher Verfahren für den sozialen Sektor zu erkunden. Das Projekt konzentriert sich auf den Aufbau eines Netzwerks für gemeinsame Datenpilotprojekte, die Stärkung von Kompetenzen im Umgang mit Daten und den Ausbau der technischen Infrastruktur innerhalb des Verbandes.

Wegweiser.UX-für-KI

• Universität zu Lübeck 
• Laufzeit: 01/2023-12/2025
• https://ux-fuer-ki.de/
• Das Projekt "Wegweiser.UX-für-KI" soll den Stand der Forschung und Technik des User-Experience-Design für KI-Anwendungen erfassen und diesen in Form einer UX-Lehrplattform an gemeinwohlorientierte KI-Projekte mittels Selbstlernmedien vermitteln. Zielgruppen dieser Lehrinhalte sind UX-Quereinsteigerinnen und -einsteiger, Programmierinnen und Programmierer, Product Owner, etc. aus dem gemeinwohlorientierten Sektor mit wenig UX-für-KI-Erfahrung, denen die Lehrplattform als Wegweiser dienen soll.

Inklusion und Teilhabe

Künstliche Intelligenz bietet Potenziale für mehr Inklusion und Teilhabe in verschiedenen Bereichen. Durch die Entwicklung und Implementierung intelligenter Prozesse, assistiver Technologien und barrierefreier Software können Menschen mit Behinderungen oder funktionalen Einschränkungen neue Zugänge zu Bildung, Arbeit, sozialer Interaktion und Kommunikation erhalten. Insofern die resultierenden Anwendungen auf vulnerable Gruppen ausgelegt sind, kommt der Wahrung von Datenschutz, Diskriminierungsfreiheit und Transparenz besondere Bedeutung zu. Kommerzielle Angebote sind aus diesem Grund nicht immer einsetzbar, weshalb die Vorhaben in diesem Bereich notwendige Alternativen schaffen. Um den Ansprüchen gerecht zu werden, wird intensiv mit Beteiligungsverfahren gearbeitet und auf technischer Ebene auf Open Source Alternativen gesetzt. 

KIsu -Kinderleicht KI-basiert suchen und finden - inklusiv und selbstbestimmt

• Universität des Saarlandes (UdS); fragFINN e.V. (Weiterleitungsempfänger)
• Laufzeit: 07/2024-12/2025
• https://kisu.cs.uni-saarland.de    
• Gemeinsam mit verschiedenen Gruppen aus der Zivilgesellschaft entwickeln und erproben wir ko-kreativ Weiterbildungsangebote und erforschen spezifische Bedürfnisse bei der Nutzung von Suchmaschinen und KI-Chatbots. Für die Gestaltung von barrierearmen, sicheren KI-Frontends für eine gemeinwohlorientierte, transparente Internetsuche leiten wir daraus Designprinzipien für die Anpassung eines bedürfnisgerechten KI-Sprachmodells ab.

KISS - KI-unterstützte Steigerung der Mobilität und gesellschaftlichen Teilhabe von Senior:innen

• Ruhr-Universität Bochum; Hochschule Ruhr-West (Weiterleitungsempfänger)
• Laufzeit: 01/2023-12/2025
• https://sski.ruhr-uni-bochum.de/kiss-ki-unterstuetzte-steigerung-der-mobilitaet-und-gesellschaftlichen-teilhabe-von-senioren/
• Im Rahmen des Projekts KISS wird ein KI-basiertes, adaptives Unterstützungssystem zur Mobilitätsgestaltung und -förderung von älteren Menschen partizipativ gestaltet und erforscht. Durch die Verarbeitung vielfältiger Informationen und einer kontextsensitiven Anpassung werden Handlungsempfehlungen generiert und Hilfestellungen geboten, welche die soziale Teilhabe steigern und der häufig sinkenden Mobilität älterer Menschen entgegenwirken sollen. Dabei werden mehrere Datenquellen (u.a. zu ÖPNV, geographischen Gegebenheiten und dem Bewegungsverhalten) mit KI-Algorithmen kombiniert, um ein individuell auf die Bedarfe älterer Menschen abgestimmtes Angebot zu schaffen. 

Erstellung und Analyse Leichter Sprache durch Künstliche Intelligenz (ErLesen)

• FH Aachen
• Laufzeit: 01/2023-01/2025
• https://www.fh-aachen.de/en/forschung/forschungsfoerderung/forschungsprojekte/projekte/projekt-1-1-1-1-1-1-1-1-2
• Die Zielgruppe der "Leichten Sprache" ist auf vereinfachte deutsche Texte angewiesen. Das Angebot an Leichter Sprache ist aufgrund des hohen Erstellungsaufwands jedoch begrenzt. Im Projekt entstehen offene KI-Modelle und Datensätze, die in einem Erstellungstool münden und das Gebiet zugänglicher für die KI-Forschung machen.

Beratung

Mithilfe von KI-Lösungen können im Kontext von (bspw. psychosozialen) Beratungsgesprächen Routineaufgaben wie bspw. Die Protokollerstellung automatisiert, Fälle nach Priorität eingestuft und die Bewertung der Ergebnisse unterstützt werden. Wie bei dem Handlungsfeld Inklusion ist der Einsatz von KI im Beratungskontext an besonders hohe Anforderungen an den Datenschutz gekoppelt und gesetzliche Bestimmungen sowie ethische Richtlinien für verantwortungsvolle KI-Praktiken müssen zwingend eingehalten werden. 

Digitaler Erstkontakt - mit KI Beratungsanliegen auf den richtigen Weg bringen 

• pro familia Bundesverband e.V.
• Laufzeit: 01/2023-12/2025
• https://www.profamilia.de/ueber-pro-familia/projekte-und-kampagnen/projekt-digitaler-erstkontakt        
• Um den Zugang zu passenden Beratungsangeboten zu verbessern, wird im Projekt ein automatisiertes Dialogsystem entwickelt und evaluiert. Es ermöglicht als ständig verfügbare Kontaktmöglichkeit, Ratsuchende direkt an eine Beratungseinrichtung zu vermitteln, die den inhaltlichen wie strukturellen Anforderungen des Anliegens entspricht. Dabei kommen Werkzeuge zur Verarbeitung natürlicher Sprache zum Einsatz.

KITE II

• Hochschule Heilbronn
• Laufzeit: 01/2023-12/2025
• https://www.kite-bga.de/home/
• In KITE II wird eine KI-gestützte, gamifizierte Anwendung entwickelt, die Gründerinnen dabei unterstützt, Resilienz im Umgang mit diskriminierenden Erfahrungen aufzubauen. In einer Visual Novel werden schwierige Gesprächssituationen in der Gründungsphase generiert und können interaktiv hin zu mehr Fairness gestaltet werden. Spieler und Spielerinnen erkennen dabei Ausgrenzungsmuster, teilen Erfahrungen und entwickeln neue Herangehensweisen. 

KIA - KI gestützte Assistenz für psychosoziale, digitale psychosoziale Berater*innen  

• Technische Hochschule Nürnberg Georg Simon Ohm
• Laufzeit: 01/2023-12/2025
• https://www.e-beratungsinstitut.de/projekte/kia/
• Das Projekt entwickelt ein Kl-gestützten Assistenzsystems für die digitale, psychosoziale Beratung in Kooperation mit der Onlineberatung der Bundeskonferenz für Erziehungsberatung (bke). Es soll Beratungsanfragen in Echtzeit analysieren und für Beraterinnen und Berater spezifische Unterstützungshinweise bereitstellen. Auf Basis der Projektergebnisse entstehen ein Leitfaden sowie ein Ethikmanual zum gemeinwohlorientierten Einsatz von KI-Systemen.

LICHT-BOT - Licht im Zuständigkeits-Dschungel: KI-Chatbot-Lotse für entkoppelte Jugendliche 

• Off Road Kids Jugendhilfe gGmbH 
• https://offroadkids.de/ 
• Die Off Road Kids Stiftung will mit dem Projekt LICHT-BOT die Hilfe für obdachlose Jugendliche verbessern, indem ein KI-basierter Chatbot entwickelt wird. Der Chatbot soll als Dialog- und Lotsensystem schneller und gezielter Hilfe ermöglichen, zur Bekämpfung der Jugendobdachlosigkeit beitragen sowie die Beratungskapazität verdoppeln.

Demokratie und Zivilgesellschaft

Der dritte Sektor ist in seiner Arbeit auf digitale Tools angewiesen, um Overheadkosten gering zu halten und oftmals begrenzte Mittel möglichst effizient zu nutzen. KI kann hier zwar für Entlastung sorgen, oftmals sind aber notwendige Voraussetzungen (bspw. Kompetenzen, technische Infrastruktur) nicht ausreichend vorhanden. Gleichzeitig wird KI auch mit schädlichen Absichten eingesetzt und kann dadurch manipulativ oder demokratieschädigend wirken: Fake News oder maschinell erstellte, subversive Kommentare können die Arbeit gemeinnütziger Organisationen behindern. KI kann aber auch als Werkzeug zur Bekämpfung dieser strukturellen Herausforderungen eingesetzt werden. Die untenstehenden Vorhaben erforschen und analysieren die Rolle von KI entlang der hier dargestellten Fragen.

Chancen von KI zur Stärkung unser deliberativen Kultur (KIDEKU)

• Karlsruher Institut für Technologie
• 07/2024-12/2025
• https://compphil2mmae.github.io/research/kideku/
• Welche Chancen bieten Large Language Models (LLMs), wie beispielsweise ChatGPT, um unsere deliberative Kultur zu stärken? Im Projekt KIdeKu werden in Zusammenarbeit mit zivilgesellschaftlichen Akteur:innen vielversprechende Einsatzszenarien identifizieret. Darauf aufbauend werden LLM-basierte Prototypen entwickelt, um politische Teilhabe zu stärken und demokratische Beteiligung zu verbessern.  

Künstliche Intelligenz für Nichtregierungsorganisationen (KINiRO) 

• Ostbayerische Technische Hochschule (OTH) Regensburg
• Laufzeit: 01/2023-12/2025
• https://sozial-gesundheitswissenschaften.oth-regensburg.de/forschung/ist-institut-fuer-technikfolgenabschaetzung/projekte/projekte-im-bereich-mensch-technik-interaktion/kiniro  
• Mit KINiro soll das Potenzial der KI-Nutzung durch Nichtregierungs- und Non-Profit-Organisationen, deren Bedarfe, Know-how und andere vorhandene Ressourcen eruiert werden. Außerdem sollen aus dem Projekt empirisch gestützte Aussagen zu Akzeptanz von KI bei NROs und NPOs sowie zu Umsetzungsmöglichkeiten hervorgehen. Die Erkenntnisse des Projekts werden allen Stakeholder*innen zur Verfügung gestellt.    

CCDKI - Code of Conduct Demokratische KI        

• D64 -Zentrum für Digitalen Fortschritt e. V.
• 06/2024-12/2025
• https://d-64.org/demokratische-ki/        
• Der verantwortungsvolle Einsatz von künstlicher Intelligenz in der Zivilgesellschaft braucht klare Leitlinien. D64 -Zentrum für digitalen Fortschritt erarbeitet gemeinsam mit über 30 gemeinwohlorientierten Organisationen eine Selbstverpflichtung für den Einsatz von KI im Einklang mit den Grundwerten Freiheit, Gerechtigkeit und Solidarität. Der Code of Conduct fördert ein gemeinsames Verständnis, stärkt die Vernetzung und das Engagement in der Zivilgesellschaft.

 

Hintergrund

Mit dem Ziel, die verantwortungsvolle und gemeinwohlorientierte Entwicklung und Nutzung Künstlicher Intelligenz (KI) zu ermöglichen, hat das Bundesfamilienministerium am 22. Januar 2022 eine neue Förderrichtlinie erlassen. Es werden Projekte gefördert, die zur Stärkung der Gesellschaft beitragen und insbesondere den Zielgruppen des Bundesfamilienministeriums zugutekommen. Weitere Einreichungsrunden sind derzeit nicht geplant.