El software ha sido causa de grandes desastres, en este sentido, la tragedia del Therac-25 representa un hito crucial en la historia de la informática médica y la ingeniería de software. Esta máquina de radioterapia, concebida para salvar vidas, se convirtió en un peligroso instrumento que causó daños irreparables e incluso la muerte a varios pacientes debido a errores en su diseño y programación. En Alveritmos, exploramos el panorama general del caso, detallando los incidentes ocurridos, analizando los errores que llevaron a consecuencias devastadoras.
¿Qué es Therac-25?
Therac-25 era un avanzado acelerador lineal de radioterapia utilizado para tratar pacientes con cáncer. Desarrollado por AECL y CGR, destacaba por su sofisticación al permitir seleccionar diferentes posiciones de tratamiento y tipos de energía mediante una computadora integrada. Sin embargo, errores de software causaron sobredosis letales de radiación, revelando graves deficiencias en su diseño y seguridad.
¿Cómo funcionaba?
Esta máquina jugó un papel fundamental en el tratamiento del cáncer con radiación. Imaginemos un dispositivo ingenioso capaz de cambiar su función con solo girar una plataforma, como si fuera un escenario que se prepara para diferentes actos de una obra.
Para iniciar el Therac-25 se prepara para el primer acto: el modo de «luz de campo». Aquí, como si usara una linterna, ilumina el lugar que va a tratar. Esta luz no es para el tratamiento; es para asegurarse de que todo esté en su lugar correcto, como cuando ajustas el foco de un proyector antes de que empiece el espectáculo.
Luego, entra en escena el segundo acto, la terapia directa con haz de electrones. En este punto, el Therac-25 se convierte en un artista que pinta con un pincel muy especial, un haz de electrones. Pero no es un pincel cualquiera; es uno que puede cambiar su grosor y su energía, pintando solo sobre el área que necesita tratamiento y evitando las zonas sanas.
El tercer acto es el más poderoso, la terapia de rayos X de megavoltios. Aquí, el Therac-25 realiza su acto más impresionante. Transforma el haz de electrones en un potente rayo de rayos X al hacerlo chocar contra un blanco de tungsteno. Estos rayos X, como magos, tienen la habilidad de penetrar profundamente en el cuerpo y tratar las zonas afectadas por el cáncer.
La plataforma giratoria del Therac-25 es el corazón de la máquina, permitiendo que cambie entre estos actos. Esta plataforma es como un escenario giratorio que lleva al protagonista adecuado al frente en el momento justo.
Pero, ¿cómo sabe el Therac-25 cuándo está listo para actuar? Utiliza una serie de microinterruptores, como señales entre bastidores que le dicen cuál es su próxima escena. Y para asegurarse de que todo esté seguro antes de levantar el telón, un sistema de bloqueo mantiene todo en su lugar. Antes, esto se hacía con mecanismos físicos, pero en el Therac-25, esta responsabilidad recae en sofisticados programas de computadora.
Historia del Therac-25
Este equipo fue desarrollado por AECL en colaboración con CGR como una evolución tecnológica de sus predecesores, Therac-6 y Therac-20. A diferencia de estos últimos, el modelo 25 incorporaba un control por software más avanzado y dependía en gran medida de este para garantizar la seguridad durante los tratamientos de radioterapia. Sin embargo, una serie de errores en el diseño y la programación del software llevaron a múltiples incidentes entre 1985 y 1987, donde varios de los pacientes recibieron sobredosis de radiación que resultaron fatales.
Las terribles consecuencias de los accidentes del Therac-25
Los accidentes del Therac-25 dejaron una huella fuerte en la historia de la medicina. Desde el caso de una mujer de 61 años en Marietta, Georgia, que experimentó quemaduras severas después de recibir una dosis masiva de radiación, hasta el trágico fallecimiento de un paciente en East Texas Cancer Center debido a una sobredosis de radiación en la cara, estos incidentes pusieron en entredicho la seguridad de los aceleradores lineales controlados por software.
Una metáfora para comprender el error del software de Therac-25
Durante el tiempo en que estuvo en funcionamiento, ocurrieron seis accidentes graves debido a errores no de un actor humano, sino de la tecnología misma, específicamente de su software.
Imaginemos que el Therac-25, en su intento de cambiar entre los diferentes actos de su repertorio, se confundió. Un error ocurrió cuando, en un cambio rápido de escena, el operario intentó pasar del acto de rayos X al de electrones, pero la máquina no movió correctamente su escenario. El resultado fue que el potente haz de rayos X, preparado para una función grandiosa, se entregó sin la protección necesaria, como si se hubiera olvidado de bajar el telón.
El segundo error fue aún más sorprendente: durante el acto de “luz de campo”, donde se suponía que solo debía iluminar sin causar efecto alguno, el Therac-25 activó por error su haz de electrones, como si confundiera una prueba de sonido con la actuación principal. Los anteriores modelos de esta máquina tenían candados físicos para evitar precisamente estos errores, pero el Therac-25 confiaba en su inteligencia artificial, que resultó no ser tan infalible.
La consecuencia de estos errores fue devastadora. El haz de electrones, en vez de ser un pincel que delicadamente tratara las áreas afectadas, se convirtió en un cañón que disparó radiación con una fuerza 100 veces mayor de lo previsto, afectando de manera intensa y concentrada a los pacientes. Esta radiación no solo era excesiva, sino también potencialmente mortal.
Uno de los pacientes, Ray Cox, comparó la experiencia a recibir «una intensa descarga eléctrica», una reacción física inmediata a una dosis de radiación que nunca debería haber experimentado. Días después, las señales de daño se hicieron visibles en forma de quemaduras por radiación, y los síntomas de envenenamiento por radiación comenzaron a manifestarse. Tristemente, tres personas no sobrevivieron a estas sobredosis de radiación.
Cómo los errores de software en el Therac-25 causaron daños graves
La investigación reveló una serie de errores críticos que contribuyeron a los accidentes del Therac-25. Desde malas prácticas en el desarrollo de software hasta deficiencias en la gestión de riesgos, pasando por problemas de diseño que permitían la ejecución de dosis letales de radiación cuando se introducían secuencias específicas de comandos, los fallos en el sistema fueron múltiples y complejos. Estos errores tuvieron consecuencias devastadoras, causando la muerte de varios pacientes, lesiones graves e impactos legales y regulatorios significativos para AECL y la industria de dispositivos médicos en su conjunto.
Aprendiendo de las tragedias
Este caso destaca la importancia crítica de la seguridad en el diseño y desarrollo de software para dispositivos médicos. Las lecciones aprendidas de este desafortunado episodio han sido fundamentales para impulsar avances en la ética de la ingeniería de software y las prácticas de seguridad en la industria médica. Desde una mayor atención a la revisión independiente del código hasta la implementación de mecanismos de seguridad redundantes y una mejor comunicación entre fabricantes, reguladores y usuarios finales, el legado del Therac-25 ha sido un catalizador para mejorar la seguridad y la calidad en la tecnología médica.
En conclusión, el caso Therac-25 es un recordatorio sombrío de los peligros inherentes a la dependencia excesiva de la tecnología y la falta de escrutinio riguroso en su diseño y desarrollo. Sin embargo, también representa una oportunidad para aprender de los errores del pasado y avanzar hacia un futuro donde la seguridad y la fiabilidad sean prioridades indiscutibles en la innovación médica.
Referencias
- An investigation of the Therac-25 accidents. (n.d.). IEEE Journals & Magazine | IEEE Xplore. https://ieeexplore.ieee.org/abstract/document/274940
- Israelski, E. W., & Muto, W. H. (2004). Human factors risk management as a way to improve medical device safety: A case study of the TheRAC 25 radiation therapy system. The Joint Commission Journal on Quality and Patient Safety, 30(12), 689–695. https://doi.org/10.1016/s1549-3741(04)30082-1
- The Therac-25: 30 years later. (n.d.). IEEE Journals & Magazine | IEEE Xplore. https://ieeexplore.ieee.org/abstract/document/8102762
- Leveson, Nancy & Turner, Clark, “An Investigation of the Therac-25 Accidents,” Computer 26:7, p. 18 (July 19993), https://web.stanford.edu/class/cs240/old/sp2014/readings/therac-25.pdf
- Leveson, Nancy, Medical Devices: The Therac—25 (1995), http://sunnyday.mit.edu/papers/therac.pdf.
- Lynch, Jamie, “Therac-25 Causes Radiation Overdoses,” Bugsnag Blog (2017) https://www.bugsnag.com/blog/bug-day-race-condition-therac-25
