Simple Science

Ciencia de vanguardia explicada de forma sencilla

# Informática# Interacción Persona-Ordenador# Inteligencia artificial

Apoyo emocional en los sistemas de reporte de seguridad

Un estudio revela tendencias de apoyo emocional en informes de incidentes basados en texto.

Yiren Liu, Yerong Li, Ryan Mayfield, Yun Huang

― 10 minilectura


Apoyo emocional en laApoyo emocional en ladenunciaseguridad.apoyo emocional en la reportación deUn estudio muestra la necesidad de
Tabla de contenidos

El Apoyo Emocional es esencial cuando la gente reporta Incidentes a organizaciones de seguridad. Este estudio analiza cómo se brinda apoyo emocional en sistemas de reporte basados en texto, especialmente en situaciones que no son de emergencia. Analizamos registros de chat de un sistema de reporte de seguridad utilizado por universidades. Al examinar más de 57,000 mensajes de más de 8,200 incidentes, encontramos que el nivel de apoyo emocional brindado por los Despachadores variaba mucho según el tipo de incidente, la hora del día, y tendía a disminuir con el tiempo a medida que las organizaciones usaban el sistema por más tiempo.

Sistemas de Reporte de Seguridad Basados en Texto

Con el auge de la tecnología, muchas organizaciones ahora utilizan sistemas basados en texto para reportar problemas de seguridad. Esto incluye aplicaciones móviles que permiten a los miembros de la comunidad reportar riesgos o actividades sospechosas. Sin embargo, es crucial asegurar que junto con respuestas rápidas, se brinde apoyo emocional a los Usuarios que pueden estar en crisis. La investigación muestra que una comunicación efectiva es necesaria para desarrollar confianza y facilitar un intercambio de información más rápido y preciso.

La Necesidad de Apoyo Emocional

Cuando la gente reporta incidentes, a menudo experimenta dolor emocional, especialmente en situaciones traumáticas. Brindar apoyo emocional puede ayudar a recopilar información de manera efectiva y fomentar la cooperación entre las personas que reportan incidentes y los despachadores que responden. Sin este apoyo, la frustración puede aumentar, lo que lleva a la reticencia a cooperar con los despachadores.

Hallazgos de la Investigación sobre la Entrega de Apoyo Emocional

Hicimos un análisis profundo de un sistema de reporte basado en texto llamado LiveSafe, que es utilizado por muchas instituciones de educación superior. Descubrimos patrones en cómo se expresa y entrega el apoyo emocional. Curiosamente, notamos una disminución en el apoyo emocional con el tiempo. Esta disminución no se limitó a ciertos tipos de incidentes, sino que fue generalizada, afectando incluso a los casos urgentes.

Comprendiendo las Emociones de los Usuarios

Encontramos que los usuarios expresaban diferentes emociones al reportar varios tipos de incidentes. Por ejemplo, los incidentes relacionados con desafíos de salud tendían a evocar respuestas emocionales más negativas en comparación con problemas no urgentes. Los usuarios a menudo comenzaban las conversaciones expresando emociones negativas, pero mostraban mejoría en su estado emocional a medida que interactuaban con los despachadores.

Factores que Influyen en la Entrega de Apoyo Emocional

Los despachadores brindaban apoyo emocional según varios factores, incluyendo la naturaleza del incidente, la hora del día y cuánto tiempo había estado utilizando la organización el sistema. Sorprendentemente, las organizaciones que habían estado usando el sistema por más tiempo tendían a ofrecer menos apoyo emocional. Esto puede atribuirse a un enfoque en la eficiencia en lugar del compromiso emocional.

Desarrollando un Modelo de Lenguaje para Mejorar el Apoyo

Para abordar estos problemas, desarrollamos un modelo de lenguaje especializado, llamado dispatcherLLM, que fue entrenado para proporcionar apoyo emocional de manera más consistente. Comparamos las respuestas generadas por este modelo con las de despachadores humanos y encontramos mejoras significativas en términos de apoyo emocional.

Experiencias y Percepciones de los Usuarios

Para evaluar cómo los usuarios percibían las respuestas generadas por nuestro modelo, encuestamos a miembros de la comunidad y recopilamos sus comentarios. Los participantes generalmente preferían las respuestas de nuestro modelo, encontrándolas más humanas y útiles en varias situaciones.

Implicaciones para los Futuros Sistemas de Reporte

Nuestros hallazgos sugieren que integrar sistemas de IA puede mejorar el apoyo emocional brindado en escenarios de reporte de seguridad. Las organizaciones deberían considerar ajustar sus sistemas para asegurar que el apoyo emocional siga siendo una prioridad, junto con la resolución eficiente de incidentes. Entrenar a los despachadores para reconocer y responder a los estados emocionales de los usuarios también es vital.

Conclusión

Asegurar apoyo emocional durante el reporte de incidentes de seguridad puede mejorar enormemente las experiencias de los usuarios y aumentar la efectividad de las organizaciones de seguridad. Al emplear modelos de IA como dispatcherLLM, las organizaciones pueden optimizar sus sistemas de respuesta y proporcionar un apoyo emocional más consistente, ayudando a los usuarios a navegar su angustia durante situaciones difíciles.

El Papel del Apoyo Emocional en el Reporte de Incidentes de Seguridad

El apoyo emocional juega un papel crucial en cómo se reportan y manejan los incidentes. Cuando las personas enfrentan situaciones perturbadoras, la forma en que son tratadas por los despachadores puede influir significativamente en su experiencia y disposición a compartir información. Una respuesta solidaria puede ayudar a aliviar los miedos de los usuarios y hacer que se sientan comprendidos, lo cual es vital en situaciones de emergencia.

Explorando la Tecnología en la Gestión de Riesgos

La tecnología ha cambiado cómo reportamos problemas de seguridad. Muchas universidades han adoptado aplicaciones móviles que permiten la fácil presentación de datos sobre preocupaciones de seguridad. Estos sistemas buscan hacer que la denuncia sea más accesible mientras proporcionan un camino para la asistencia inmediata. El desafío radica en asegurar que, mientras la tecnología mejora la eficiencia, no se pasen por alto los aspectos emocionales de la comunicación.

Investigaciones Previas sobre Apoyo Emocional

Investigaciones anteriores han enfatizado la importancia del apoyo emocional en servicios de emergencia basados en voz. Sin embargo, la dinámica de la expresión emocional en sistemas basados en texto es menos comprendida. Nuestro estudio llena este vacío al examinar cómo se entrega el apoyo emocional en registros de chat del mundo real de un sistema de reporte de seguridad.

Patrones de Apoyo Emocional en Incidentes

Al analizar un conjunto de datos grande de LiveSafe, identificamos patrones clave en cómo varió el apoyo emocional según el tipo de incidente. Los resultados mostraron diferencias significativas en cómo respondían los despachadores en diferentes categorías de incidentes. Por ejemplo, los incidentes que involucraban salud mental a menudo resultaban en respuestas emocionales más robustas por parte de los despachadores.

Importancia del Contexto en el Apoyo Emocional

El contexto que rodea cada incidente influenció enormemente la dinámica emocional en juego. Factores como la naturaleza del problema reportado y la anonimidad del usuario contribuyeron al paisaje emocional de las conversaciones. Los usuarios que reportaban de manera anónima tendían a expresar emociones más negativas desde el principio, indicando que la anonimidad podría permitir una divulgación más honesta.

Tendencias a lo Largo del Tiempo en la Entrega de Apoyo Emocional

A medida que las organizaciones se acostumbraban al uso del Sistema de Reportes, notamos una disminución en el nivel de apoyo emocional brindado por los despachadores. Esto podría deberse a varias razones, incluyendo el posible agotamiento y un cambio en prioridades a medida que los despachadores se enfocaban más en resolver incidentes en lugar de involucrarse emocionalmente con los usuarios.

El Papel del Tiempo en la Entrega de Apoyo Emocional

La hora del día en la que se reportaron los incidentes también jugó un papel en el apoyo emocional brindado. Los despachadores tendían a dar menos apoyo emocional durante las horas ocupadas, lo que podría estar relacionado con niveles de estrés y carga de trabajo aumentados. Por el contrario, durante los turnos nocturnos, se encontró que los despachadores brindaban mejor apoyo emocional, probablemente debido a un menor volumen de reportes.

Entrenando Modelos de Lenguaje para un Mejor Apoyo

Para abordar las inconsistencias en la entrega de apoyo emocional, desarrollamos el modelo dispatcherLLM. Al entrenar este modelo de lenguaje con registros de chat reales, nuestro objetivo era crear un sistema que pudiera generar respuestas similares a las de los despachadores humanos, pero con mayor consistencia en el apoyo emocional.

Evaluando el Desempeño del Modelo

Al evaluar el desempeño de nuestro modelo, comparamos sus respuestas con las de despachadores humanos. Los resultados indicaron que dispatcherLLM podía proporcionar mejor apoyo emocional en varios tipos de incidentes, particularmente en casos que requerían un manejo sensible.

Recopilando Comentarios de Usuarios sobre Respuestas de IA

Los miembros de la comunidad proporcionaron comentarios valiosos sobre las respuestas generadas por dispatcherLLM. Los participantes de la encuesta percibieron estas respuestas como más directas y efectivas para abordar sus necesidades emocionales, particularmente en situaciones sensibles. Los comentarios indicaron una recepción positiva del apoyo emocional generado por IA.

Asegurando la Supervisión Humana en el Reporte Asistido por IA

Si bien la IA puede mejorar la entrega de apoyo emocional, es esencial asegurar que los despachadores humanos sigan siendo parte integral del proceso. Los modelos de IA no deben reemplazar la interacción humana, sino complementarla al proporcionar sugerencias y apoyo, permitiendo a los despachadores enfocarse en interacciones emocionales más complejas.

Recomendaciones para Futuros Sistemas

Basado en nuestros hallazgos de investigación, recomendamos que las organizaciones inviertan en la capacitación tanto de modelos de IA como de despachadores humanos para reconocer y responder efectivamente a los estados emocionales de los usuarios. Este enfoque dual puede ayudar a mantener un alto estándar de apoyo emocional mientras se navega por las complejidades de la denuncia de incidentes.

Involucrando a los Usuarios en la Denuncia de Seguridad

Crear un entorno donde los usuarios se sientan cómodos reportando incidentes es vital. Asegurar que el apoyo emocional se priorice en el diseño de sistemas de reporte puede alentar a más personas a presentar sus preocupaciones, llevando a comunidades más seguras.

Abordando el Agotamiento de los Despachadores

Uno de los desafíos destacados en nuestros hallazgos es el agotamiento de los despachadores. Las organizaciones deben tomar medidas para gestionar las cargas de trabajo de manera efectiva, asegurando que los despachadores no se sientan abrumados, lo que podría obstaculizar su capacidad para brindar apoyo emocional.

Conclusión sobre la Importancia del Apoyo Emocional

En resumen, el apoyo emocional es un aspecto fundamental de un reporte de incidentes efectivo. La implementación de tecnología no debería hacerse a expensas de entender las necesidades emocionales de los usuarios. Al emplear modelos avanzados como dispatcherLLM mientras se mantiene supervisión humana, las organizaciones de seguridad pueden mejorar su prestación de servicios y aumentar la seguridad general de la comunidad.

Direcciones Futuras para la Investigación

Se necesita más investigación para explorar los efectos a largo plazo de la IA en el apoyo emocional en el reporte de incidentes. Entender cómo estos sistemas evolucionan y se adaptan con el tiempo será clave para asegurar que tanto los usuarios como los despachadores se sientan apoyados.

Reflexiones Finales

El apoyo emocional en los sistemas de reporte es esencial para fomentar la confianza y asegurar una comunicación efectiva. A medida que la tecnología continúa evolucionando, es importante que las organizaciones permanezcan atentas a los aspectos emocionales de las interacciones de los usuarios, asegurando un enfoque equilibrado que priorice tanto la recolección de información como el compromiso emocional.

Fuente original

Título: Improving Emotional Support Delivery in Text-Based Community Safety Reporting Using Large Language Models

Resumen: Emotional support is a crucial aspect of communication between community members and police dispatchers during incident reporting. However, there is a lack of understanding about how emotional support is delivered through text-based systems, especially in various non-emergency contexts. In this study, we analyzed two years of chat logs comprising 57,114 messages across 8,239 incidents from 130 higher education institutions. Our empirical findings revealed significant variations in emotional support provided by dispatchers, influenced by the type of incident, service time, and a noticeable decline in support over time across multiple organizations. To improve the consistency and quality of emotional support, we developed and implemented a fine-tuned Large Language Model (LLM), named dispatcherLLM. We evaluated dispatcherLLM by comparing its generated responses to those of human dispatchers and other off-the-shelf models using real chat messages. Additionally, we conducted a human evaluation to assess the perceived effectiveness of the support provided by dispatcherLLM. This study not only contributes new empirical understandings of emotional support in text-based dispatch systems but also demonstrates the significant potential of generative AI in improving service delivery.

Autores: Yiren Liu, Yerong Li, Ryan Mayfield, Yun Huang

Última actualización: 2024-09-23 00:00:00

Idioma: English

Fuente URL: https://arxiv.org/abs/2409.15706

Fuente PDF: https://arxiv.org/pdf/2409.15706

Licencia: https://creativecommons.org/licenses/by/4.0/

Cambios: Este resumen se ha elaborado con la ayuda de AI y puede contener imprecisiones. Para obtener información precisa, consulte los documentos originales enlazados aquí.

Gracias a arxiv por el uso de su interoperabilidad de acceso abierto.

Más de autores

Artículos similares