Cómo funcionó realmente una herramienta de inteligencia artificial para combatir las muertes en hospitales en el mundo real


A primera vista, este es un ejemplo de una gran victoria técnica. Mediante un desarrollo y pruebas cuidadosos, un modelo de inteligencia artificial aumentó con éxito la capacidad de los médicos para diagnosticar enfermedades. Pero un nuevo reporte del instituto de investigación Data & Society dice que esto es solo la mitad de la historia. La otra mitad es la cantidad de mano de obra social calificada que los médicos que lideran el proyecto necesitaban realizar para integrar la herramienta en sus flujos de trabajo diarios. Esto incluyó no solo diseñar nuevos protocolos de comunicación y crear nuevos materiales de capacitación, sino también navegar por la política del lugar de trabajo y la dinámica de poder.

El estudio de caso es un reflejo honesto de lo que realmente se necesita para que las herramientas de IA tengan éxito en el mundo real. “Fue realmente complejo”, dice la coautora Madeleine Clare Elish, antropóloga cultural que examina el impacto de la IA.

Reparando la innovación

Se supone que la innovación es disruptiva. Sacude las viejas formas de hacer las cosas para lograr mejores resultados. Pero rara vez en las conversaciones sobre disrupción tecnológica se reconoce que la disrupción también es una forma de “ruptura”. Los protocolos existentes se vuelven obsoletos; las jerarquías sociales se mezclan. Hacer que las innovaciones funcionen dentro de los sistemas existentes requiere lo que Elish y su coautora Elizabeth Anne Watkins llaman “trabajo de reparación”.

Durante el estudio de dos años de los investigadores sobre Sepsis Watch en Duke Health, documentaron numerosos ejemplos de esta interrupción y reparación. Un problema importante fue la forma en que la herramienta desafió la dinámica de poder profundamente arraigada del mundo médico entre médicos y enfermeras.

En las primeras etapas del diseño de herramientas, quedó claro que las enfermeras del equipo de respuesta rápida (ERR) tendrían que ser los usuarios principales. Aunque los médicos tratantes suelen estar a cargo de evaluar a los pacientes y hacer diagnósticos de sepsis, no tienen tiempo para monitorear continuamente otra aplicación además de sus funciones existentes en el departamento de emergencias. Por el contrario, la principal responsabilidad de una enfermera de RRT es para monitorear continuamente el bienestar del paciente y brindar asistencia adicional cuando sea necesario. Verificar la aplicación Sepsis Watch encajaba naturalmente en su flujo de trabajo.

Pero aquí vino el desafío. Una vez que la aplicación marcó a un paciente como de alto riesgo, una enfermera tendría que llamar al médico tratante (conocido en lenguaje médico como “asistentes al servicio de urgencias”). No solo estas enfermeras y asistentes a menudo no tenían una relación previa porque pasaban sus días en secciones completamente diferentes del hospital, sino que el protocolo representaba una inversión completa de la cadena de mando típica en cualquier hospital. “¿Me estás tomando el pelo?” una enfermera recordó haber pensado después de saber cómo funcionarían las cosas. “Vamos a llamar Asistencias al ED? “

Pero esta fue de hecho la mejor solución. Así que el equipo del proyecto se dedicó a reparar la “interrupción” de varias formas, grandes y pequeñas. Las enfermeras jefes organizaron fiestas informales de pizza para generar entusiasmo y confianza sobre Sepsis Watch entre sus compañeras enfermeras. También desarrollaron tácticas de comunicación para suavizar sus llamadas con los asistentes. Por ejemplo, decidieron hacer solo una llamada por día para hablar sobre múltiples pacientes de alto riesgo a la vez, programado para cuando los médicos estaban menos ocupados.

Además de eso, los líderes del proyecto comenzaron a informar regularmente sobre el impacto de Sepsis Watch al liderazgo clínico. El equipo del proyecto descubrió que no todos los empleados del hospital creían que la muerte inducida por sepsis fuera un problema en Duke Health. Los médicos, especialmente, que no tenían una visión general de las estadísticas del hospital, estaban mucho más ocupados con las emergencias que enfrentaban día a día, como huesos rotos y enfermedades mentales graves. Como resultado, algunos consideraron que Sepsis Watch era una molestia. Pero para el liderazgo clínico, la sepsis era una gran prioridad, y cuanto más veían trabajar a Sepsis Watch, más ayudaban a engrasar los engranajes de la operación.

Normas cambiantes

Elish identifica dos factores principales que finalmente ayudaron a que Sepsis Watch tuviera éxito. Primero, la herramienta se adaptó a un contexto hiperlocal e hiperespecífico: se desarrolló para el departamento de emergencias de Duke Health y en ningún otro lugar. “Este desarrollo realmente a medida fue clave para el éxito”, dice. Esto va en contra de las normas típicas de la IA.

En segundo lugar, a lo largo del proceso de desarrollo, el equipo buscó regularmente comentarios de enfermeras, médicos y otro personal de arriba y abajo de la jerarquía del hospital. Esto no solo hizo que la herramienta fuera más fácil de usar, sino que también cultivó un pequeño grupo de miembros del personal comprometidos para ayudar a defender su éxito. También marcó la diferencia que el proyecto fue dirigido por los propios médicos de Duke Health, dice Elish, en lugar de por tecnólogos que se habían lanzado en paracaídas desde una empresa de software. “Si no tiene un algoritmo explicable”, dice, “necesita generar confianza de otras formas”.

Estas lecciones son muy familiares para Marzyeh Ghassemi, profesora asistente entrante en el MIT que estudia aplicaciones de aprendizaje automático para el cuidado de la salud. “Todos los sistemas de aprendizaje automático que alguna vez estén destinados a ser evaluados o utilizados por humanos deben tener limitaciones socio-técnicas en primer plano”, dice. Especialmente en entornos clínicos, que están dirigidos por tomadores de decisiones humanos e implican el cuidado de los seres humanos en su estado más vulnerable, “las limitaciones que las personas deben conocer son realmente limitaciones humanas y logísticas”, añade.

Elish espera que su estudio de caso de Sepsis Watch convenza a los investigadores de repensar cómo abordar la investigación de la IA médica y el desarrollo de la IA en general. Gran parte del trabajo que se está realizando en este momento se centra en “lo que la IA podría ser o podría hacer En teoria,” ella dice. “Hay muy poca información sobre lo que realmente sucede en el terreno”. Pero para que la IA esté a la altura de su promesa, la gente debe pensar tanto en la integración social como en el desarrollo técnico.

Su trabajo también plantea serias preguntas. “La IA responsable debe requerir atención al contexto local y específico”, dice. “Mi lectura y entrenamiento me enseñan que no se puede desarrollar una cosa en un lugar y luego implementarla en otro”.

“Así que el desafío consiste en averiguar cómo mantenemos esa especificidad local mientras tratamos de trabajar a escala”, agrega. Esa es la próxima frontera para la investigación de la IA.

Latest articles

¿El seguro para inquilinos cubre las mordeduras de perro?

Un tercio de los inquilinos vive con perros, que muestra cuántos de nosotros amamos a nuestros amigos de cuatro patas. También significa...

Disminuyó la cantidad de propietarios en planes de indulgencia relacionados con COVID-19

por Riesgo calculado en 15/1/2021 02:20:00 p.m. Nota: Tanto Black Knight como la MBA (Asociación de Banqueros Hipotecarios) están publicando estimaciones semanales de hipotecas...

¡Se informa que Charlie Cox de Daredevil fue visto en el set de Spider-Man 3!

¡Se informa que Charlie Cox de Daredevil fue visto en el set de Spider-Man 3!Después de que la noticia se rompió por primera...

Related articles

Leave a reply

Please enter your comment!
Please enter your name here

Translate »