Este texto ha sido redactado por Miguel Ángel Manzano y Manuel Aguilar Hendrickson, y ha sido previamente publicado en catalán en el blog Llei d’Engel
Un fantasma recorre los servicios sociales y las conversaciones de sus profesionales: el fantasma de la automatización y su sustitución por R2D2.
Como hace algo más de un siglo, cuando el taylorismo empezó a descomponer el trabajo artesanal del obrero de oficio, o como hace más de dos, cuando el telar mecánico transformó la industria textil, los afectados parecen dividirse en dos grandes grupos. Por un lado, y tomando prestadas a Umberto Eco las etiquetas, los “apocalípticos” que añoran un pasado de autonomía profesional y calidez en el trato a las personas atendidas, pasado sobre cuya existencia caben serias dudas. Por otro, los “integrados”, creyentes convencidos de la bondad absoluta de una nueva forma de organizar el trabajo en el que las formas abstractas y mecánicas nos protegerán contra la torpe subjetividad humana.
Como en otras etapas de transformación profunda, nos encontramos con acciones e impulsos contradictorios. Mientras se critica la burocratización de la intervención social vinculada a su condición de puerta de acceso a algunas prestaciones, se reivindica un papel más decisivo de los profesionales en su concesión. Lo hemos visto en iniciativas recientes, desde la regulación del bono social eléctrico hasta el acceso a los alimentos del FEAD, pasando por la función municipal “recuperada” en servicios sociales (evaluar e informar de situaciones de necesidad) o la proposición de ley de emergencia social de la legislatura más breve de nuestra historia. Mientras se reclama, con razón, el desarrollo de sistemas de información en los servicios sociales, se producen resistencias muy fuertes a la formalización y modelización de las intervenciones que son condición para su desarrollo.
En el caso de los servicios sociales es casi imposible discutir esta cuestión sin diferenciar las dos principales funciones que asumen. No analizaremos aquí esta cuestión que está siendo objeto de un largo debate. Por un lado, los servicios administran el acceso a ayudas “materiales” (en dinero y en especie) para cubrir necesidades básicas no bien cubiertas por los sistemas generales de garantía de ingresos. Por otra, tienen que prestar cuidados y apoyos a personas que los necesitan para criar bien a sus hijos menores y garantizar su bienestar, para salir de aislamientos, tropiezos y rupturas de su ciclo de vida o para hacer frente a su falta de autonomía en las actividades diarias. Esta distinción se corresponde aproximadamente con la que la ley de servicios sociales de Cataluña establece entre necesidades “básicas” y “sociales”, y más en general, con la que diferencia “asistencia social” de “servicios sociales”.
Para la primera función, la automatización ofrece casi exclusivamente ventajas. Su principal problema es decidir de forma ecuánime quién debe (y quién no) tener acceso a prestaciones de asistencia social, preferiblemente en dinero. Es cierto que hay una larga tradición de la asistencia social “continental” europea de utilizar como criterio de asignación el juicio de alguien (inicialmente notables locales, posteriormente profesionales sociales) sobre el merecimiento, la veracidad de las circunstancias y el buen comportamiento del peticionario. Pero parece claro que la creciente capacidad de reunir y cruzar datos personales debería permitir un acceso a la asistencia social similar al que en algunos países permite graduar las multas de tráfico en función del nivel de riqueza del infractor. Dicho en términos más “económicos”, el valor añadido del trabajo profesional en este tipo de tareas es bajo y decreciente. En este terreno, cuanta menos discrecionalidad profesional, mejor.
La segunda función, que algunos empiezan a considerar la función “propia” de los servicios sociales, se ocupa de situaciones de mucha mayor complejidad, que incluyen procesos y dinámicas de relaciones interpersonales (familiares, de red social, comunitarias) y de desarrollo de las personas en entornos complejos y cambiantes. En este tipo de acción, el criterio profesional y la capacidad de diagnosticar situaciones ambiguas son componentes “subjetivos” de la máxima importancia. También lo es la “subjetividad” de las personas atendidas, que incluye sus preferencias, deseos y elecciones, por la cual oímos menos lamentos nostálgicos. Sin embargo, es un grave error pensar que esta “subjetividad” profesional (o la “intersubjetividad” cuando nos acordamos de las personas atendidas) puede darse fuera de un marco normativo y “modelizador”. Eso es así por dos razones principales.
En primer lugar, parece razonable sostener que un cierto marco normativo es condición para el ejercicio de la discreción profesional. La discreción profesional médica, un ejemplo de discreción “fuerte”, está sometida a normas y criterios que delimitan lo que es aceptable y lo que no lo es en la práctica profesional. Un profesional de la medicina que diagnosticase una patología grave sin recurrir a ninguna de las muchas herramientas diagnósticas disponibles (o ignorando sus resultados) no ejercería su criterio y discreción profesional, sino que cometería una irresponsabilidad. Pero, al mismo tiempo, no hay herramienta diagnóstica (ni sistema de herramientas) que permita automatizar un diagnóstico sin intervención humana (profesional).
En segundo lugar, una práctica profesional que pretenda fundarse en el conocimiento y la reflexión crítica necesita un cierto nivel de estandarización y modelización. Tal vez nos estemos encontrando con algunas pretensiones infundadas de práctica “basada en la evidencia” que se presentan como soluciones mágicas llave en mano a determinadas soluciones. Pero la intervención social necesita un mecanismo de acumulación y difusión del conocimiento que permita predecir que en una determinada situación identificable (tipificable), cierto tipo de intervenciones tienen una probabilidad elevada de dar lugar a ciertos resultados.
Podríamos añadir que esta acumulación de conocimiento nos debe permitir identificar segmentos de población con necesidades relativamente homogéneas que permitan ordenar y planificar la atención, como ya hemos desarrollado aquí. Si somos capaces de identificar las variables discriminantes, tal vez podamos “automatizar” esa segmentación.
Por tanto, no parece tan descabellado que los servicios sociales puedan incorporar robots, como R2D2, o simplemente aplicaciones informáticas avanzadas para informar y valorar prestaciones económicas, predecir riesgos o segmentar la población a atender a niveles que hoy por hoy no están al alcance de los profesionales. Veamos cómo.
Modelos predictivos y automatización en los servicios de atención a las personas
La predicción se está abriendo camino en los servicios de atención a las personas. En el caso de la salud, lo hacen midiendo la probabilidad de muerte en una enfermedad determinada, la de suicidio o para apoyar el diagnóstico médico. Pero la aplicación que podría resultar más interesante como fuente de inspiración para los servicios sociales es el uso del Big Data en una herramienta de agrupación predictiva del grado de complejidad clínica desarrollada por el CatSalut en Cataluña y que va camino de tomarse como referencia en el Sistema Nacional. Se trata de los grupos de morbilidad ajustada (GMA) que han sido validados para la toma de decisiones clínicas. Un algoritmo y la explotación de los datos asistenciales permite determinar cuál es el grado de complejidad que presenta la atención de cada uno de nosotros.
En el campo de los servicios de empleo sirve de ejemplo la propuesta de perfilado estadístico para el diseño de políticas activas de Felgueroso, García-Pérez y Jiménez Martín que permite diferenciar niveles de empleabilidad de los demandantes de empleo. En el campo de la educación se pueden citar los trabajos de Kleinberg, Ludwig, Mullainathan y Rambachan, que en un artículo titulado Algorithmic Fairness presentan un algoritmo para guiar la admisión en las universidades estadounidenses. También hay un amplio desarrollo de modelos predictivos en los campos de la justicia y la seguridad.
Hay algunas experiencias sólidas en el campo de los servicios sociales. Una de gran interés es el Allegheny Family Screening Tool (AFST) que pone en manos de los profesionales de los servicios sociales de Pittsburgh (Pennsylvania) recomendaciones de segmentación de las situaciones de menores en riesgo de desamparo, analizando un gran número de datos almacenados en el data warehouse del departamento de servicios sociales del condado.
Están apareciendo también iniciativas que ponen la automatización al servicio de la toma de decisiones por parte de los propios ciudadanos a partir de un análisis masivo de datos de comportamientos. Un ejemplo son algunas iniciativas orientadas a los beneficiarios de los programas de ayuda alimentaria del gobierno estadounidense (SNAP), a quienes se ofrece una sencilla app que permite gestionar el saldo disponible y ayuda a la gestión de la economía doméstica.
Algunos proyectos recientes, como el PACT en Castilla y León han empezado a adentrarse por esta senda. En Cataluña empiezan a desarrollarse algunas iniciativas. La Administració Oberta de Catalunya (AOC) ha introducido en el debate la posibilidad de que se pueda facilitar el acceso a los servicios sociales mediante datos. Así, su proyecto Mygov Social es un servicio innovador de recomendaciones personalizadas y proactivas a los ciudadanos en relación con los servicios sociales. Está basado en el análisis de datos personales y de comportamiento de usuarios anonimizados con un perfilado sociodemográfico. Es un proyecto piloto con ánimo divulgativo y basado en datos imperfectos, pero que demuestra la utilidad de la automatización.
En una línea parecida, el Ayuntamiento de Barcelona está trabajando para personalizar y hacer más autónomo el acceso de la ciudadanía a las ayudas económicas. Hace poco se ha puesto en marcha el portal Les meves ajudes que automatiza la información sobre los derechos a prestaciones económicas de carácter social. En el campo de apoyo a las decisiones de los profesionales está experimentando con el procesamiento de lenguaje natural y las herramientas de inteligencia colectiva que permiten determinar cuáles son los problemas y demandas de recursos expresadas por los ciudadanos.
Así pues, parece que, en campos como la planificación de recursos, la segmentación de poblaciones, la predicción de comportamientos y riesgos y el apoyo a la toma de decisiones hay espacio para la entrada de los robots en los servicios sociales.
R2D2 no debe pasarse al lado oscuro de la fuerza
Como decíamos al principio, la robotización y la automatización despiertan las, a veces justificadas, preocupaciones ludditas entre los profesionales y cada vez más en la sociedad. El paso al lado oscuro de la fuerza puede ser tentador para algunos y es motivo de preocupación, como lo muestran informes como este de la Cámara de los Comunes del Reino Unido. Las preocupaciones pueden agruparse en dos grandes grupos: el riesgo de que los modelos, algoritmos y herramientas reproduzcan o generen sesgos que comprometan la efectividad y la justicia de la predicción; y cómo se gobiernan los datos y los algoritmos.
Chouldechova y otros señalan, en su estudio sobre el caso de la mencionada Allegheny family Screening Tool que es muy importante entender cómo afectan los sesgos al tratamiento de los datos por medio de estas herramientas. Las ideologías hegemónicas y los sesgos “humanos” pueden afectar al diseño de los algoritmos, y la disponibilidad o no de datos puede añadir sesgos (cuando hay más información sobre determinados grupos sociales). Los algoritmos pueden reproducir la estigmatización preexixtente, pero eso hace pensar que la decisión profesional no tiene por qué estar menos afectada por los sesgos. Queda abierta la cuestión de si la acumulación de decisiones tomadas con la ayuda del algoritmo puede disminuir con el tiempo los sesgos.
Otra forma de tratar el sesgo es gobernarlo, como proponen Kleinberg y otros en Algorithmic Fairness. La ponderación de los datos en el algoritmo no debería ser “neutra”, sino responder a objetivos acordados e incorporar una cierta discriminación positiva. Por lo que respecta a como se gobiernan los datos, citemos a Mario Martínez Zauner en un reciente post en Agenda Pública: “hacen falta políticas públicas de control y gestión de los datos masivos, así como una democratización global de su uso y conocimiento. La ciudadanía debe tener a su alcance el uso y disfrute de ese saber, mientras que los estados y corporaciones han de trabajar en una transparencia progresiva para que el algoritmo no se convierta en la justificación de políticas autoritarias y regresivas.”
La valoración del rendimiento predictivo del modelo que hagan profesionales y usuarios es esencial. En el contexto de situaciones conflictivas o de acceso limitado a recursos, la percepción de equidad de las decisiones depende, en un grado muy alto, del rendimiento del modelo.
Los modelos predictivos pueden funcionar bien en los servicios de atención a las personas, para ofrecer recomendaciones a los profesionales, no para determinar automáticamente, y por sí solos, el nivel de riesgo o necesidad de una persona. Las decisiones de retirada de la custodia, de aceptación en un centro educativo o de concesión de una ayuda no pueden ser tomadas por una máquina.
Es aquí donde se juega el futuro de las profesiones sociales. Atrincheradas en la función de acreditar la necesidad y el merecimiento, probablemente serán sustituidas por máquinas; en cambio, la interpretación de los resultados de las herramientas, hecha conjuntamente con las personas interesadas, y la provisión de apoyo personal es un campo en el que la automatización resulta mucho más dudosa.
La princesa Leia no ha dado los planos de la Estrella de la Muerte a los servicios sociales
Para guiar a Luke Skywalker en su misión para destruir la Estrella de la Muerte, R2D2 utilizó los planos escondidos en su interior por la princesa Leia Organa. Para que la automatización llegue a los servicios sociales, habrá que dotar a los automatismos con un plano detallado de coordenadas, modelos y relaciones. El recordatorio de algunos males endémicos del sector debería estar escrito en grandes caracteres en todos los despachos de quienes tiene alguna responsabilidad en los servicios sociales.
El primero es que sin datos no hay ni modelos, ni algoritmos, ni predicción posible. Datos sólidos no tenemos hoy por hoy. Solemos achacarlo a la falta de sistemas de información dignos de ese nombre en los servicios sociales, y es cierto. Pero no hay forma de tener un sistema útil, por mucho que se diseñe una aplicación, si no se mejora la definición de los datos que deben nutrirlo. El asunto tiene muchos aspectos, pero nos permitiremos apuntar algunos de ellos que nos parecen prioritarios.
El sistema de servicios sociales debe establecer, como se hace en el sanitario, un conjunto mínimo básico de datos (CMBD) a recoger de cada una de las atenciones que realiza. Eso requiere empezar por algo tan elemental como fijar de forma igual para todo el sistema, en todos los territorios, un conjunto básico de variables de identificación (números o códigos como DNI/NIE, de tarjeta sanitaria, fecha de nacimiento, etc.) que garantice la interoperabilidad interna y externa del sistema de información. Hoy los registros de diferentes programas de diferentes administraciones de los servicios sociales ni siquiera recogen de forma homogénea esos datos. Sin esa base poblacional, los datos de los servicios sociales son hoy un agujero negro de datos poco útiles sobre actividades y prestaciones. A título de ejemplo, hoy no podemos saber cómo se interrelacionan el conjunto de personas dependientes con atención domiciliaria financiada por el SAAD y el de personas usuarias de los SAD locales.
Hay dos tipos de datos que necesitaría mayor robustez y estandarización. La actividad asistencial (las “intervenciones”) debería avanzar en su tipificación y en la determinación de sus atributos de valor. Deberíamos avanzar desde los actuales catálogos o carteras de servicios o prestaciones y del Catálogo de Referencia de Servicios Sociales acordado por el Consejo Territorial de Servicios Sociales y del SAAD para superar su carácter descriptivo y dotarlos de estándares de atención que permitan analizar y valorar la acción del sistema. Para empezar, se debería clarificar la confusión de prestaciones, establecimientos, equipos y programas que abunda en los catálogos y carteras existentes.
Por su parte, la categorización diagnóstica de los problemas a atender necesita dar un salto adelante. Sin un lenguaje común y estandarizado que permita la codificación no podemos pedirle maravillas a un sistema de información. No será fácil que los servicios sociales lleguen a disponer del equivalente del CIE-10, pero hay muchas cosas que se pueden hacer a partir de la experiencia del sistema y de iniciativas como el Projecte Intersocial. Hay muchos campos en los que es necesario avanzar, como el de la interoperabilidad o en la investigación y registro de impactos del sistema en aspectos relevantes para la ciudadanía.
Si queremos que un R2D2 sea un nuevo compañero en los centros de servicios sociales que permita a los profesionales dedicarse más plenamente a tareas con valor añadido, estos asuntos deberían entrar en la agenda de todas las administraciones competentes. En nuestro país, la diversidad de las mismas obliga a un esfuerzo adicional. En un campo que de hecho es “federal” y descentralizado, el ministerio responsable en el gobierno central podría desempeñar un papel de liderazgo importante, siempre que sepa reunir a los gobiernos implicados y favorecer el trabajo colaborativo entre ellos, en lugar de tratar de fijar modelos desde arriba que luego nadie sigue.