Digitales Sozialwesen

Sprachmodelle sind Algorithmen, die die Struktur der menschlichen Sprache lernen und nutzen. Sie können verwendet werden, um Text zu generieren oder um die Bedeutung von Text zu verstehen. Sprachmodelle sind ein zentraler Bestandteil vieler KI-Anwendungen, darunter maschinelle Übersetzung, Spracherkennung und Chatbots.

Da im Sozialwesen große Mengen an Text erzeugt und verarbeitet werden und eine sehr große Menge an Daten in Form natürlicher Sprache vorliegt, erscheint GPT äußerst relevant. Aufgrund der zunehmenden Rechenleistung und dadurch sinkende Kosten bei der Berechnung, treten die Anwendungen aktuell stärker in den Vordergrund und werden auch für Endanwender interessant.

Es gibt verschiedene Arten von Sprachmodellen, die auf unterschiedlichen Techniken basieren.

• N-Gramm-Modelle: Diese Modelle verwenden die Statistik von N-Grammen (Sequenzen von N Wörtern) in einem Text, um die Wahrscheinlichkeit des nächsten Wortes in einer Sequenz zu schätzen. (bspw. Rechtschreibkorrektur, Übersetzer etc.)
• Neuronale Netzwerkmodelle: Diese Modelle verwenden neuronale Netzwerke, um die Beziehungen zwischen Wörtern in einem Text zu lernen. Sie können komplexe Muster erkennen und sind in der Lage, kohärenten und grammatikalisch korrekten Text zu generieren. (bspw. Chatbots)
• Transformatorbasierte Modelle und Largelanguagemodelle (LLMs): Diese Modelle, wie GPT-4 und BERT, verwenden eine Architektur namens Transformer, die auf selbstbeachtenden Mechanismen basiert. Sie sind sehr leistungsfähig und können eine breite Palette von Sprachaufgaben bewältigen.

Vor- und Nachteile von Sprachmodellen

Sprachmodelle haben sowohl Vor- als auch Nachteile, die bei ihrer Anwendung berücksichtigt werden müssen.

Vorteile von Sprachmodellen:

• Verständnis und Generierung von Sprache: Sprachmodelle können menschliche Sprache verstehen und generieren, was sie für viele Anwendungen nützlich macht, wie z.B. maschinelle Übersetzung, Spracherkennung und Chatbots.
• Automatisierung: Sie können Aufgaben automatisieren, die normalerweise menschliche Eingriffe erfordern, wie z.B. Kundendienst oder Content-Erstellung.
• Skalierbarkeit: Sprachmodelle können auf eine große Menge von Daten angewendet werden und bieten so eine skalierbare Lösung für die Verarbeitung von Sprachdaten.

Nachteile von Sprachmodellen:

• Datenabhängigkeit: Die Qualität hängt stark von der Qualität der Daten ab, mit denen sie trainiert wurden. Wenn das Modell mit voreingenommenen oder ungenauen Daten trainiert wurde, kann dies zu ungenauen oder voreingenommenen Ausgaben führen. Es gibt eine Reihe von Initiativen zur Verbesserung der Fairness von KI-Modellen.
• Mangel an Kontextverständnis: Obwohl Sprachmodelle menschliche Sprache imitieren können, fehlt ihnen oft das tiefere Verständnis des Kontexts. Das kann zu Ausgaben führen, die in bestimmten Situationen unpassend oder ungenau sind.
• Ethische Bedenken: Die Verwendung von Sprachmodellen wirft auch ethische Fragen auf, wie z.B. die potenzielle Verbreitung von Fehlinformationen oder die Verletzung der Privatsphäre.

Es gibt dabei verschiedene Ansätze, die Entwickler*innen verfolgen können, um ihre KI-Modelle fairer zu gestalten:

• Datenqualität: Die Qualität und Vielfalt der Trainingsdaten sind entscheidend. Die Daten sollten ausgewogen und repräsentativ für die verschiedenen Gruppen sein, die das Modell verwenden werden.
• Bias-Erkennung: Es gibt Tools und Techniken zur Erkennung und Minderung von Bias in KI-Modellen. Durch die Anwendung dieser Tools können Entwickler*innen Bias in ihren Modellen identifizieren und Maßnahmen zur Minderung ergreifen.
• Transparenz: Die Transparenz des Modells ist wichtig für die Fairness. Das bedeutet, dass die Entscheidungen des Modells nachvollziehbar und erklärbar sein sollten.
• Regelmäßige Überprüfung: KI-Modelle sollten regelmäßig überprüft und aktualisiert werden, um sicherzustellen, dass sie weiterhin fair und genau sind.
• Ethikrichtlinien: Die Einhaltung von Ethikrichtlinien und Standards kann dazu beitragen, die Fairness von KI-Modellen zu gewährleisten.
• Beteiligung der Stakeholder: Die Einbeziehung verschiedener Stakeholder bei der Entwicklung und Überprüfung von KI-Modellen kann dazu beitragen, verschiedene Perspektiven zu berücksichtigen und die Fairness zu verbessern.

Indem sie diese Praktiken befolgen, können Entwickler*innen dazu beitragen, die Fairness ihrer KI-Modelle zu verbessern und sicherzustellen, dass sie auf eine Weise eingesetzt werden, die ethisch und gerecht ist.

Sicht des Klienten

Die Nutzung kann gleichwohl für Klient*innen attraktiv erscheinen: Neben dem Wegfall einer möglichen Bewertung durch ein menschliches Gegenüber sind NLP-Systeme stets verfügbar, niederschwellig erreichbar, und die Verengung auf einen Problemaspekt oder einen Lösungsansatz ist möglicherweise sogar gewünscht. Auch wenn eine Interaktion mit einem solchen System als quasisoziale Interaktion wahrgenommen werden kann, fehlt die professionelle Reflexion und der Rückbezug auf die von Staub-Bernasconi benannten vier Komponenten von Sozialarbeit. Dazu zählen wissenschaftliches Wissen, ethische Basis, Menschenrechte und -würde sowie Haltung.

Der Einsatz von Chatbots in der psychosozialen Beratung

Chatbots können etwa für den Erstkontakt mit Ratsuchenden, denen Informationen zur Verfügung gestellt werden oder die richtige Ansprechperson empfohlen wird. Woebot wurde von Mediziner*innen, Psycholog*innen und Techniker*innen entwickelt und bietet Unterstützung durch Gespräche, in denen er nach dem aktuellen Befinden fragt, zuhört und Ratschläge gibt. Aufgrund von Datenschutzbestimmungen ist Woebot in Deutschland nicht verfügbar.

Aber wie funktioniert Woebot?

• Interaktion über eine App: Woebot interagiert mit Benutzer*innen über eine bereitgestelle APP. Die Benutzer*innen können einfach eine Nachricht an Woebot senden, um die Konversation zu beginnen.
• Verwendung von kognitiver Verhaltenstherapie: Woebot nutzt Daten der kognitiven Verhaltenstherapie, um Benutzer*innen dabei zu helfen, ihre mentalen und emotionalen Herausforderungen zu bewältigen.
• Automatisierte Antworten: Da Woebot ein automatisiertes Chatprogramm ist, erscheinen seine Antworten in Sekundenschnelle.
• Tägliche Stimmungsabfragen: Woebot fragt regelmäßig nach der Stimmung der Benutzer*innen, um langfristig deren Entwicklung zu visualisieren.

Ein Vorteil eines solchen Bots ist die ständige Verfügbarkeit. Es gibt keine Wartezeit. Bots stellen oft nur Ideen zum Umgang mit der eigenen Situation zur Verfügung. Mögliche Vorteile können aber Interaktivität und erlebte Selbstwirksamkeit sein. Nutzer*innen erhalten eine direkte Reaktion.

Es ist wichtig zu beachten, dass Chatbots kein Ersatz für professionelle medizinische oder psychologische Beratung sind. Sie sollen eher als ergänzendes Tool gesehen werden, das rund um die Uhr verfügbar ist. Chatbots sollten nur einen Erstkontakt herstellen und dann an Fachpersonal weiterleiten. Der Fokus der Therapieleistungen sollte beim Fachpersonal bleiben. Andernfalls besteht die Gefahr einer einseitigen Betrachtungsweise der Situation durch die ratsuchende Person selbst, anstelle einer ganzheitlichen Beratung unter Einbezug von Umfeld, Gesellschaft und weiteren Faktoren.

Der Einsatz von Bots muss für Ratsuchende transparent gemacht werden. Sie sollen zu jeder Zeit darüber bewusst sein, dass ein Algorithmus und kein Mensch auf ihre Anfragen antwortet.

Sprachmodelle im Wissensmanagement

Im Sozialwesen verarbeiten die Fachkräfte immer wieder eine Menge von Daten. Diese liegen mittlerweile häufig auch schon digital vor, leider fehlt es häufig noch an der Verknüpfung dieser Daten. Im Bereich der Teilhabe nach SGB IX arbeiten die Fachkräfte auf Basis des ICF. Diese Vorgaben zur Bedarfsermittlung, Zielplanung, Maßnahmenplanung und auch Berichtwesen gelten bundesweit. Hier ergeben sich perspektivisch spannende Möglichkeiten der Verknüpfung der vorliegenden Dokumentation und ICF.

• Das Projekt MAEWIN verfolgt das Ziel, die Chancen und Risiken automatisierter Text- und Datenanalyse für evidenz-gestützte Handlungsempfehlungen im Feld des Sozialwesens zu prüfen.
• Das Projekt zu computergestützter Analyse sozialwissenschaftlicher Texte mit Hilfe maschineller Lernverfahren kurz CASoTex. Inhaltlich sollte in diesem Projekt untersucht werden, in wie weit Qualitätsmerkmale professioneller psychosozialer Beratung und insbesondere der Variante der Onlineberatung im Handeln der Berater*innen im Beratungsforum nachweisbar sind. Auch wenn das Projekt im Verlauf auf einige Hürden stieß, hat sich gezeigt, dass maschinelle Lernverfahren wichtige Erkenntnisse zur sprachlichen Gestaltung von Beratungstexten liefern können. Systematische Analysen mit diesen Methoden können wertvolle Hinweise zur methodischen Gestaltung von Beratungshandeln liefern.

Sprachmodelle im Qualitätsmanagement

Grundlage der Erbringung von Leistungen sind stets juristische Eckpfeiler. Dabei beziehen sich die Fachkräfte häufig auch nicht nur auf ein Gesetz. Aus der Arbeit in der Eingliederungshilfe in einer besonderen Wohnform kann ich beispielhaft das SGBIX, WBVG, NuWG, NuWGPersVO und NuWGBauVo aufführen. Dazu ergänzend noch der Landesrahmenvertrag zur Ausführung des SGB IX und die dazugehörigen Rahmenleistungsvereinbarungen. Die Vereinbarungen mit den Nutzenden haben dabei stets die aktuellen Rahmenbedingungen zu erfüllen. LLMs können dabei helfen, die eigenen Verträge auf Aktualität zu überprüfen und Widersprüche in der Vertragsgestaltung aufzudecken.

Gleichzeitig können auf Basis einer vorliegenden Anamnese Rechtsansprüche identifiziert werden.

Erste Ansätze liefert unter anderem das Tool Jura Pro auf Basis von GPT-4.

In vielen Arbeitsfeldern muss Dokumentation zeitnah erfolgen. Dabei passiert es im Pflegealltag häufig, dass Fachkräfte sich während des Tages Notizen machen und dann am PC ihres Arbeitsplatzes die gesammelten Daten eingeben. Dadurch entstehen zum Teil doppelte Arbeitsprozesse, die die Zeit mit dem zu unterstützenden Menschen fehlen. Eine Unterstützung bei der zeitnahen Dokumentation kann der Sprachassistenz voize bieten. Dabei können Fachkräfte die Dokumentation frei am Smartphone einsprechen. Das Tool voize erstellt automatisch die richtigen Pflegeberichte, Vitaleinträge und Bewegungsprotokolle und überträgt diese per Schnittstelle in Ihr Dokumentationssystem (bspw. Vivendi PD der Firma Connext) . Ein weiterer Vorteil ist die Steigerung der Qualität in der Dokumentation. Für die Verwendung der APP wird ein Auftragsdaten- verarbeitungsvertrag geschlossen. Dieser ist DSGVO, KDG (Gesetz über den kirchlichen Datenschutz) und DSG-EKD (Datenschutzgesetz der Evangelischen Kirche in Deutschland) konform.

Die medizinische Dokumentation können LLMs durch Übernahme von standardisierten Routineaufgaben erleichtern und effizienter gestalten. Sie können beispielsweise ärztliche Dokumentationen in leicht verständlicher Sprache generieren, was möglicherweise zu einer Erhöhung der Gesundheitskompetenz von Patient*innen und damit auch zu einer gesteigerten Therapieadhärenz beitragen kann. Hier zu nennen sei das Tool Corti. Das selbst lernende System generiert Lösungspotenziale für strukturierte Diagnostik und Befunden. Die KI von Corti analysiert klinische Notizen und identifiziert automatisch die am besten geeigneten Codierungen. Probleme im manuellen Codierungsprozess, wie Unter- und Überkodierung, können so erkannt werden.

Sprachmodelle in der Arbeit mit älteren Menschen

Der Anteil an älteren Menschen in unserer Gesellschaft wird immer größer. In der Regel äußern die Menschen den Wunsch, möglichste lange in der eigenen Häuslichkeit leben zu können. Unterschiedliche Dienstleistungen durch Pflegedienste und andere Unterstützungsleistungen helfen dabei. Aber auch moderne Techniken können einen wichtigen Beitrag zum Wohnen in der eigenen Häuslichkeit liefern.

Im Bereich der intelligenten Assistenz wird Sprachassistenz u. a. zur Steuerung von Smarthome-Funktionen, für Erinnerungen (Trink- und Medikamentenerinnerung) und zum Aufbau von Kommunikation (Anrufe zu Angehörigen und Kontakten starten, aber auch Hilferufe weiterleiten) eingesetzt. Bei den benötigten Daten um Informationen aus dem höchstpersönlichen Lebensbereich. Es müssen daher sehr hohe Standards bezüglich des Datenschutzes bei der Anwendung erfüllt werden.

Einsatz spezifischer Sprachmodelle in der Kinder- und Jugendhilfe

In Deutschland gibt es dazu bisher noch wenige Daten. Ein Hauptgrund ist sicherlich der Datenschutz und die hohe Sensibilität der Daten. Zwei mögliche Einsatzfelder seien hier dennoch zu benennen. Zum einen geht es um die Gefährdungseinschätzung und zum anderen um die Unterstützung im Erziehungssetting

Einschätzung von Kindeswohlgefährdung: In den USA werden dazu unterschiedliche Systeme (bspw. Kalifornien und Pennsylvania) erprobt. Mit dem Verfahren der „Predictive Analytics“ werden historische Daten mit statistischer Modellierung, Data-Mining-Techniken und maschinellem Lernen kombiniert und auf Muster hin untersucht. Ziel ist es Vorhersagen über zukünftige Ereignisse zu treffen. Internationale Studien haben gezeigt, dass die auf Statistik basierten Einschätzungen zur Kindeswohlgefährdung sehr genau und sogar klinischen Verfahren überlegen sind. Statistik wird in diesen Szenarien als wesentlicher Entscheidungsfaktor identifiziert und kann den Prozess der Urteilsbildung in der Profession der Sozialen Arbeit nachhaltig verändern. Plötzlich konkurriert die Urteilskompetenz der Fachkräfte mit computergestützten Programmen hinsichtlich ihrer Treffsicherheit. Nicht ohne Grund werden solche statistischen Verfahren international allerdings höchst umstritten. Der stärkste Einwand in der Debatte ist, dass sie zu einer Deprofessionalisierung der Sozialen Arbeit sowie einer gleichzeitigen Entmündigung ihrer Adressat*innen und der Gefahr falscher Vorverurteilung führen. Wenn es jedoch darum geht, anstelle eines First-come-first-serve-Ansatzes Priorisierungen in die Fallbearbeitung zu integrieren, kann dies durchaus zu einer erhöhten Wirksamkeit der eigenen Arbeit führen, da die Ressourcen besser eingesetzt werden. Die Verantwortung und Entscheidungskraft müssen jedoch bei den Mitarbeitenden bleiben.

Unterstützungswerkzeuge für die pädagogische Arbeit: Im Forschungsprojekt KiJu Assistenz werden digitale Unterstützungs­werkzeuge für die pädagogische Arbeit entwickelt. Dabei soll die Software Fachkräfte bei der gezielten Auswahl individueller pädagogischer Methoden unterstützen. Grundlage ist die in den Einrichtungen geführte Dokumentation. Diese wird zur Entwicklung der Kinder analysiert und bewertet. Die pädagogische Arbeit wird transparenter und effektiver, da Arbeitsprozesse der Fachkräfte klarer strukturiert und besser abgestimmt werden.

Fazit

Der Einsatz unterschiedlicher Sprachmodelle ist schon heute sehr vielfältig und in diesem Beitrag noch längst nicht umfassend erfasst. Bewusst habe ich dabei den Bereich der Teilhabe von Menschen mit Beeinträchtigungen nicht beleuchtet. Dieses Feld wird in einem der nächsten Beiträge vorgestellt. Vor den beleuchteten Perspektiven des Einsatzes von Sprachmodellen ergeben sich sowohl Risiken (u. a. die Gefahr einer modularisierten Herauslösung sozialarbeiterischer Tätigkeit) als auch Chancen (u. a. mehr Teilhabe, niederschwelliger Zugang). Das Sozialwesen wird bei dieser Debatte einen wichtigen Beitrag leisten müssen. Mit dem gezielten Einsatz von digitalen Unterstützungssystemen kann jedoch die Qualität der Arbeit gesteigert werden. Die letzte Instanz bei der Festlegung von Maßnahmen und Entscheidungen muss jedoch der Mensch sein.

Aktuelle Fachbeiträge und Quellen

Jan Clusmann, Fiona R. Kolbinger, Hannah Sophie Muti, Zunamys I. Carrero, Jan-Niklas Eckardt, Narmin Ghaffari Laleh, Chiara Maria Lavinia Loffler, Sophie-Caroline Schwarzkopf, Michaela Unger, Gregory P. Veldhuizen, Sophia J. Wagner, Jakob Nikolas Kather; Die kommende Entwicklung großer Sprachmodelle in der Medizin. Kompass Onkol 1 March 2024; 11 (1): 3–10. https://doi.org/10.1159/000536600

Linnemann, G.A., Löhe, J. & Rottkemper, B. Bedeutung von Künstlicher Intelligenz in der Sozialen Arbeit. Soz Passagen 15, 197–211 (2023). https://doi.org/10.1007/s12592-023-00455-7

Weinhardt, Marc. (2022). Algorithmen und professionelles Handeln in der Sozialpädagogik: Das Beispiel Kinderschutz. In: H. Diebel-Fischer, L. Hellmig & M. Tischler: Technik und Verantwortung im Zeitalter der Digitalisierung. (S. 103-122). Rostock: Universität Rostock. 10.18453/rosdok_id00003985.

Zernikow, J., Grassow, L., Gröschel, J. et al. Anwendung von „large language models“ in der Klinik. Innere Medizin 64, 1058–1064 (2023). https://doi.org/10.1007/s00108-023-01600-3