Martin Trycz
El conflicto en Gaza cosechó hasta hoy más de 45 mil víctimas, mientras continúan los ataques, expropiaciones y discriminaciones en el resto de Palestina. Es la ofensiva más sanguinaria que Israel llevó a cabo en las últimas décadas. Este trágico resultado se debe también a la introducción del sistema de inteligencia artificial Lavender en el arsenal de las fuerzas de seguridad israelíes (LFD). Antes, los agentes del servicio secreto lograban identificar anualmente a un centenar de activistas de Hamas y ahora están en condiciones de encontrar cada día a varias decenas de objetivos probables.
El sistema está dividido en dos fases: la primera es la vigilancia masiva de los celulares y de otros dispositivos personales con la que construyen perfiles; la segunda compara estos perfiles con los de un “miliciano tipo”: si la similitud es suficiente, entonces una persona es probablemente un miembro de Hamas o de alguna otra milicia y es señalada como objetivo.
Cuando esa persona, que es geolocalizada a través del celular, se encuentra en el lugar que probablemente es su casa y al mismo tiempo en las casas vecinas hay probablemente no más de cinco personas civiles, el sistema produce una orden de ataque que es sometida a la consideración de un operador humano, que tiene solo algunas decenas de segundos para revisar los detalles y confirmarlo. La intervención humana es algo menos que una formalidad; de hecho los operadores deben justificar su decisión frente a los superiores solo en caso de que no den comienzo al ataque.
Si el objetivo fuese verdaderamente el de atacar a los milicianos, los objetivos deberían ser bombardeados en los lugares de reunión y no en sus casas. En realidad, la naturaleza probabilística del sistema devela la terrible verdad: desde su creación, las víctimas civiles son contempladas y aceptadas. Además, para el algoritmo, quien no tiene un celular y, por lo tanto, no es localizable en las cercanías, es como si no existiese: esto explica también el alto número de niñas y niños asesinados. La intención del ejército israelí es inequívoca: en vez de reducir al mínimo las víctimas civiles, el sistema produce el mayor número que se logra justificar, incluso frente a la opinión pública, mientras Gaza es destruida.
Lavender es el arma de inteligencia artificial más mortífera concebida hasta ahora. Un verdadero asesino serial mecánico que fue pensado para remover el factor humano frente a la fría objetividad del algoritmo. Pero si prestamos atención, esto no es así: crearlo, usarlo y cómo usarlo, es de todas maneras una elección humana, un paso adelante en la voluntaria deshumanización autoalienante que estos instrumentos representan. Sin quitarle la responsabilidad individual a oficiales de bajo rango que operan este sistema y autorizan los ataques, debemos pedirle cuentas de este deshumano instrumento, en primer lugar, a la furia homicida de quien ideó esta eficiente máquina de muerte.
Publicado originalmente en La Comune (Italia) 462