NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
BORRADOR DE TRADICCIÓN
Perfil automatizado: Racismo preventivo en el desarrollo de tecnologías predictivas
contra “comunidades malas”
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
Chloé S. Georas
Introducción
Richard Berk, un profesor de la Universidad de Pensilvania, ha desarrollado un software
predictivo pre-‐crimen que sostiene puede atender la preocupación de un oficial de libertad
condicional sobre cómo determinar el “nivel de supervisión […] que se provee” cuando una
persona sale en libertad condicional o libertad provisional.1 El software de Berk presume
eliminar la necesidad de discernimiento humano al “remplazar esos cálculos instintivos.”2
Específicamente,
Los investigadores ensamblaron una base de datos de más de 60,000 crímenes, incluyendo homicidios. Usando un algoritmo que desarrollaron, encontraron un subgrupo de personas con más probabilidades de cometer homicidios durante libertad condicional. En lugar de encontrar un asesino en 100, los investigadores de la Universidad de Pensilvania pudieron identificar ocho de cien futuros asesinos.3
Mientras que las versiones previas del programa de computación, usadas en Baltimore y
Filadelfia, se enfocaron en dichas “predicciones de asesinatos cometidos por y entre reos en
libertad provisional e infractores en libertad condicional,” la nueva encarnación de la
tecnología, desplegada en Washington D.C., también asegura ampliar el alcance predictivo a
1 Steve Watson, Tecnologia Pre-‐-‐-‐Crimen a Ser Usada en Washington D.C, PRISON PLANET (Agosto 24, 2010), http://www.prisonplanet.com/pre-‐crime-‐technology-‐to-‐be-‐used-‐in-‐washington-‐d-‐c.html. Ver también, Eric Bland, Software Predice Comportamiento Criminal: El Programa Ayuda a la Aplicación de ley a Determinar Quién es más Probable que cometa Crimen, ABC NEWS (Agosto 22, 2010), http://abcnews.go.com/Technology/software-‐predicts-‐criminal-‐behavior/story?id=11448231#.UA6lMY5MYWo. 2 Bland, supra nota 1. 3 Bland, supra nota 1.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
otros crímenes de menor intensidad.4 Mediante el uso de algoritmos anticipativos que
incluyen “una base de datos con miles de crímenes […] y diferentes variables como: ubicación
geográfica, archivos criminales y edad de los delincuentes,” La tecnología de Berk puede
supuestamente predecir “dónde, cuándo, y cómo un crimen podría posiblemente ser cometido
y por quién” antes de que sea cometido.5 Además, Berk sugiere que el uso del programa de
computación podría afectar la duración de las penas y el monto de las fianzas.6
Las tecnologías predictivas, como el software de Berk, recuerdan claramente la clásica
historia corta de ciencia ficción de Philip Dick, convertida en película de Hollywood, El
informe de la minoría7. La historia presenta un sistema de justicia penal basado en el castigo
prematuro de actos que no han aún ocurrido.
Aunque las premisas del sistema de justicia Anglo-‐americano continúan aun sobre la
criminalización de actos cometidos en el pasado, nuevas tecnologías predictivas presentan
crecientes desafíos a la “santidad” de esos principios, así como también otros principios
fundamentales como la presunción de inocencia y el debido proceso. Para empeorar las cosas,
el incremento espectacular en las décadas pasadas de las tasas de encarcelación, y las
4 Watson, supra nota 1. 5 Watson, supra nota 1. 6 Otras tecnologías predictivas usadas por agencias de aplicación de ley incluyen, por ejemplo: 1-‐Operation Blue CRUSH, desarrollada por IBM, la cual despliega una tecnología que crea un análisis multi-‐capas de crímenes en “puntos calientes” basados en información de crimen; 2-‐ PredPol, usado en Santa Cruz, California, el cual predice donde los crímenes tiene más posibilidades de ocurrir basados en patrones de crímenes previos y suposiciones sociológicas sobre comportamiento criminal; y, 3-‐ El programa de tecnología futura de filtrado de atributos (FAST), examinado por el departamento Homeland Security de los Estados Unidos, evalúa la probabilidad de un individuo a cometer un crimen por medio del uso de cámaras y sensores el sistema “pre-‐crimen” mide y sigue cambios en los movimientos de una persona, el tono de su voz, el ritmo del discurso, los patrones al respirar, movimientos de los ojos, tasa de parpadeo y alteraciones en el calor corporal. Watson, supra nota 1; Heather Kelly, La Policía Adopta Tecnología que Predice Crímenes, CNN (julio 19, 2012), http://edition.cnn.com/2012/07/09/tech/innovation/police-‐tech/index.html; Nick Allen, Pruebas de Tecnología Predictiva de Crimen en los Estados Unidos atraen reporte de comparación entre minorías, El Telégrafo (octubre 10, 2011), http://www.telegraph.co.uk/news/worldnews/northamerica/usa/8818716/US-‐crime-‐predicting-‐technology-‐tests-‐draw-‐Minority-‐Report-‐comparisons.html 7 Philip Dick, El informe de las minorías, LA COLECCION DE HISTORIAS DE PHILIP K. DICK (Citadel 2002).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
presiones sobre el control de presos en la libertad condicional8, agravan los problemas
planteados por el uso de las tecnologías preventivas predictivas.
Las personas en libertad condicional y libertad provisional representan un interesante
caso de prueba en la encrucijada entre las doctrinas establecidas, los discursos emergentes y
las practicas permitidas por la tecno-‐axiología de las tecnologías predictivas emergentes,
centradas en anticipar riesgos futuros. Mi artículo se dirige hacia el uso, por parte del sector
público, de predicciones preventivas “para evaluar las posibles consecuencias de permitir (o
no) a una persona comportarse de cierta manera”9 en el contexto de individuos sujetos al
sistema de libertad condicional o provisional en el sistema de justicia penal de los Estados
Unidos. En consecuencia, el trabajo se divide de la siguiente manera: en primer lugar, se
provee un marco general de las disposiciones legales de los Estados Unidos, los precedentes
jurisprudenciales y los principios constitucionales estadounidenses, particularmente el
debido proceso, que regula las formas de libertad supervisada y los cambios importantes que
han conducido a un mayor poder de discreción por parte de los jueces en la determinación de
las penas. En segundo lugar, se destaca el potencial de una doble delegación del poder judicial
al examinar la creciente transmisión de dicho poder a oficiales de libertad condicional, que
pueden tomar decisiones que afecten negativamente la vida de personas en libertad
condicional/provisional y su relación analógica a la potencial delegación de poder basada en
software preventivo predictivo. En tercer lugar, se revisa la literatura principal y los debates
relacionados a los desafíos legales, sociales y éticos que plantean las tecnologías preventivas y
8 En los 90s Feeley y Simon ya notaban que “[n]o hay otro hecho que parezca tan definitiva actualmente como el masivo incremento en el nivel de encarcelación dado en la última década y media, durante la cual las tasas de crimen reportados ha subido solo modestamente y las tasas de victimización han declinado.” Malcolm Feeley y Jonathan Simon, La Nueva Penología: Notas sobre la Estrategia Emergente Correccional y sus Implicaciones, 30 CRIMINOLOGIA 449, 450 (1992). Más estadísticas están disponibles en la Sección VI de este documento. 9 Ian Kerr, Predicción, Prevención, Presunción: El camino de ley después de la Vuelta Computacional 98, en MIREILLE HILDEBRANDT & KATJA DE VRIES, PRIVACIAD, DEBIDO PROCESO Y LA VULETA COMPUTACIONAL: LA FILOSOFIA DE LA LEY SE ENCUENTRA CON LA FILOSOFIA DE LA TECNOLOGIA (2013).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
la necesidad de hacer que los valores que ahí se codifiquen sean visibles y que haya rendición
de cuentas. En cuarto lugar, se examina cómo el modelo de justicia actuarial se ha vuelto
predominante en el sistema de justicia penal y cómo esto ha marcado un cambio de la
preocupación por la rehabilitación individual hacia la gestión de grupos de alto riesgo. En
quinto lugar, a través de debates postcoloniales y la teoría relacionada a la colonialidad del
poder, se referencia como las continuidades del imaginario colonial sustentan la tecno-‐
axiología-‐social de las tecnologías de predicción preventiva. En sexto lugar, se exponen
algunas reflexiones finales.
I-‐ La libertad supervisada: directrices, discreción y el debido proceso
La ley de Reforma Penal de 1984 en los Estados Unidos fue diseñada “para acabar con las
sentencias indeterminadas, pues creaban disparidades infundadas al momento de
sentenciar.”10 Las sentencias de libertad condicional y los términos de libertad supervisada, o
libertad provisional, fueron regulados por dicha ley, 11 donde el congreso declaró que la
libertad condicional es una sentencia en sí misma.12 Aunque la libertad condicional y la
libertad provisional permanecen como dos formas alternativas de castigo, concretamente,
libertad supervisada o provisional es una sentencia independiente mientras que libertad
condicional es solo impuesta después del encarcelamiento,13 hay términos similares al
establecer las condiciones de ambas.14
10 Jonathan Chiu, Estados Unidos v. Booker: La Desaparición de las Directrices Federales Mandatarias para Condenas, 39 U. Rich. L. Rev. 1311, 1343 (2005). 11 Libertad Condicional, 37 Geo. L.J. Ann. Rev. Crim. Proc. 734, 737 (2008). 12 La Legalidad de Sanciones Innovativas Alternativas para Crímenes no Violentos, 111 Harv. L. Rev. 1944, 1950 (1998). 13 § 547 Libertad Condicional, 3 Fed. Prac. & Proc. Crim. Sección 547 (4ta ed.). 14 Dado su similitudes y debido a consideraciones de espacio, la mayor parte de la discusión en esta sección estará concentrada en las dimensiones legales de libertad condicional.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
La Corte Suprema ha caracterizado la libertad supervisada teniendo “dos objetivos
primarios, rehabilitación y protección social de futuras violaciones criminales.”15 De acuerdo a
la ley de reforma penal, cuando se decide o no imponer un periodo de libertad supervisada,
así como también su duración y condiciones, las cortes federales deben considerar los
siguientes factores:
(b) Factores a ser considerados (18 U.S.C.A. § 3562(a)). Cuando se decide imponer un periodo de libertad supervisada, o la duración del periodo de libertad supervisada, 18 U.S.C.A. § 3562(a) se requiere a la corte sentenciadora a considerar todos los factores establecidos en 18 U.S.C.A. §3553(a). Aquellos factores son la naturaleza y circunstancias de la ofensa, la historia y las características del acusado; los propósitos de la sentencia; los tipos de sentencias disponibles; el rango de las directrices y los tipos de sentencias autorizados por las directrices; las declaraciones políticas pertinentes; evitar disparidades injustificadas en el castigo; y proveer restitución a cualquier víctima de la ofensa. 16
Las Directrices Federales de Sentencias del 1 de noviembre, 1987 establecen a la Comisión de
Sentencia de los Estados Unidos como una “comisión independiente perteneciente a la rama
judicial.” 17 Esta comisión promulgó las directrices como instrucciones para establecer un
estándar de sentencia para restringir la discreción judicial de los jueces.18 Las directrices
también establecieron los límites de duración de las sentencias19 y declaró que no se requiere
que la corte imponga libertad supervisada.20
Hasta el caso U.S. v. Booker21, del 2005, la imposición de términos era estrictamente regulada
por los estándares proveídos en las directrices federales de sentencia, dónde las sentencias
15 § 547 Libertad condicional, 3 Fed. Prac. & Proc. Crim. Sección 547 (4th ed.). 16 Fed. Sent. L. & Prac. § 5B1.1 (2012 ed.). 17 Chiu, supra nota 10 at 1315-‐16 18Ver Sharon M. Bunzel, El oficial de libertad condicional y las directrices federales de sentencia: Extraña Compañía Filosófica, 104 Yale L.J. 933, 966 (1995).. 19 Organización de libertad condicional bajo las directrices federales de sentencia, Fed. Libertad Condicional en 25, 26 (1998). 20 Libertad Condicional, 37 Geo. L.J. Ann. Rev. Crim. Proc. 734, 736-‐37 (2008). 21 543 U.S. 220, 125 S.Ct. 738 (2005).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
varían de acuerdo al nivel de la ofensa, determinado numéricamente.22 Sin embargo, Booker
representó una modificación trascendental en la aplicación de las directrices sobre sentencias
al declarar la inconstitucionalidad del mandato que obligaba a las jueces a dictar sentencias de
acuerdo a las directrices,23 por lo que las directrices pasaron a tener carácter de
recomendaciones, lo cual transformó sobremanera los estándares bajo los que se sentencia.24
Después de la decisión de Booker, los críticos argumentaron enérgicamente que el nuevo
carácter no-‐vinculante de las directrices podía representar un retroceso a la era de las
disparidades arbitrarias característico de la era pre-‐directrices de determinación de penas.25
En resumen, a los jueces federales se les da discreción sobre el nivel de riesgo que una
persona en libertad supervisada representa para a la sociedad, pero dicha discreción es
limitada por las directrices federales de sentencias, como también por la ley federal penal de
198426 y 18 U.S.C. § 3563,27 las cuales regulan la imposición de condiciones obligatorias y
discrecionales en la libertad supervisada federal. No obstante, al eliminar el carácter
vinculante de las directrices federales de sentencia, Booker aumentó la discreción de los
jueces al imponer sentencias federales.
En términos de las garantías constitucionales, las personas bajo libertad supervisada
se posicionan en una zona gris, entre los ciudadanos respetuosos de la ley y los presos,
quienes reciben la más alta o más baja protección, respectivamente. Sin embargo, la corte
suprema de los estados unidos en Burns v. U.S. indicó que “Mientras la libertad supervisada es
una cuestión de gracia, la persona supervisada tiene derecho a un trato justo y no debe ser
22 Fed. Sent. L. & Prac. § 5B1.2 (2012 ed.). 23 Chiu, supra nota 10 at 1335. 24 Chiu, supra nota 10 at 1312. 25 Chiu, supra nota 10 at 1346. 26 18 U.S.C. § 3651. 27 Fed. Sent. L. & Prac. § 5B1.3 (2012 ed.).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
víctima de antojos o caprichos.”28 Las preguntas concernientes al debido proceso en cuanto a
los derechos de la persona en libertad supervisada surgen tanto al momento de otorgamiento
como de revocatoria de la libertad supervisada.
Mientras que ni la negación de libertad supervisada ni la negación de la libertad
condicional son susceptibles a reclamos basados en castigos crueles e inusuales, las
sentencias de libertad supervisada pueden estar sujetas a reclamos referentes a, por ejemplo,
la determinación de su duración y violaciones a la ley.29 Los apelantes pueden plantear
desafíos constitucionales a las directrices o a la falta de seguimiento de la sentencia en
relación a las reglas federales del procedimiento penal.30 No obstante, es importante notar
que Booker también representó un cambio en el área de apelación de sentencias. Antes de la
decisión, las sentencias de libertad supervisadas estaban sujetas a la revisión estándar de
novo, pero dichos estándares fueron substituidos por otros de mera “sensatez”.31
Cuando una persona en libertad supervisada ha incumplido con las condiciones
acordadas durante su periodo de prueba, la reglas federales de procedimiento penal regulan
las audiencias de revocatoria de libertad supervisada y proveen para ambas una audiencia
preliminar y una final.32 Las audiencias de revocatoria de libertad supervisada han sido
también tierras fértiles para demandas procesales.
El debido proceso requiere que las audiencias de revocatoria sean conducidas de acuerdo a la garantía de la décima cuarta enmienda sobre la equidad fundamental. La persona en libertad supervisada debe también tener la oportunidad de aparecer en corte y presentar pruebas. En ciertos casos, tienen también un derecho constitucional a cuestionar testigos adversos. Finalmente, la corte debe proveer una declaración escrita informando al sentenciado las razones por las cuales su libertad supervisada fue revocada.33
28 287 US 216 (1932). 29 Fed. Sent. L. & Prac. § 11.3 (2012 ed.). 30 Fed. Sent. L. & Prac. § 11.3 (2012 ed.) 31 Fed. Sent. L. & Prac. § 11.1 (2012 ed.) 32 Libertad Condicional, supra nota 20 at 784, 798. 33 Libertad Condicional, supra nota 20 at 751-‐52; 16C C.J.S. Ley Constitucional § 1700 (2012).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
Aunque en el pasado había preguntas sobre el estatus de las garantías del debido proceso
para personas en libertad supervisada, actualmente ambos los otorgantes y revocantes están
sujetos a principios del debido proceso.
II ¿Delegación judicial doble? oficiales de libertad supervisada y software anticipatorio
La rama judicial depende crecientemente de, y delega poderes a, oficiales de libertad
supervisada para que manejen el creciente número y variedad de sentencias impuestas en
casos penales.¨34 Esta delegación de poder ha sido desafiada por personas en libertad
supervisada como una violación a las cláusulas del artículo III.35 Por otra parte, la tendencia
de las cortes distritales a dar a los oficiales de libertad supervisada amplia discreción en
importantes determinaciones que pueden impactar adversamente las vidas de las personas
supervisadas, tales como “si y dónde permitir a una persona en libertad supervisada viajar, si
requerir notificar a terceras personas de su historial criminal, y si, cuando, y donde
administrar pruebas de drogas aleatorias.¨36 Las raíces de este incremento del poder delegado
a oficiales de libertad supervisada podría ser el resultado de cómo las directrices federales de
sentencias cambiaron el rol de las personas en libertad supervisada al requerirle “a los
oficiales de libertad supervisada a prestar más atención a la aplicación técnica de las
directrices de sentencia y menos en la evaluación de los acusados individuales y el tipo de
sentencia que ellos necesitan para su rehabilitación y la protección del público.¨37 A pesar de
que el caso Booker reintrodujo elementos discrecionales en la determinación de las penas, las
directrices federales de sentencia están siendo todavía utilizadas y la compleja tecnocracia
34 Mark Thomson, ¿Quién son ellos para Juzgar?: La Constitucionalidad de las Delegaciones por Tribunales a los Oficiales de Libertad Condicional, 96 Minn. L. Rev. 306, 307-‐308 (2011). 35 Thomson, supra nota 35 en 307-‐08. 36 Thomson, supra nota 35 en 309. 37 David N. Adair, Jr., Mirando a la Ley, Fed. Libertad Condicional en 51 (Dic. 2004).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
dentro de la cual los oficiales de libertad supervisada trabajan se ha crecientemente desviado
de un enfoque dirigido a la rehabilitación individual.
Aunque no está claro si el gobierno federal está haciendo uso del software
desarrollado por Berk o de tecnologías similares, el escenario anterior es terreno fértil para la
demanda y la aplicación de tecnologías preventivas predictivas para optimizar e intensificar la
línea de producción tecnocrática que maneja las preocupaciones relacionadas a los riesgos
concernientes a la maquinaria gubernamental que controla a “grupos rebeldes”, en vez de
estar enfocada en la primacía de la rehabilitación y la integración axiológica a las
comunidades.38 Por un lado, si las cortes usan tecnologías preventivas para ayudar a la
determinación de las penas en contradicción con las directrices federales de sentencias, el
precedente establecido por Booker las respalda, dado que éste da a los jueces un mayor
margen discrecional para imponer penas.39 Por otro lado, el software predictivo se dirige
hacia las demandas sistémicas y reduce la carga de trabajo de los oficiales de libertad
supervisada. De esta manera, hay potencial para una delegación judicial doble hacia los
oficiales de libertad supervisada y las tecnologías anticipatorias.
III Sujetos de vigilancia tecno-‐híbridos: desafíos para hacer que los valores codificados
sean visibles y responsables en las tecnologías preventivas predictivas
De acuerdo a Lessig, las arquitecturas tecnológicas son fuerzas regulatorias, similares a
normas sociales, mercados y derechos, en el sentido de que ellas limitan y habilitan patrones
particulares de comportamiento mientras imposibilitan otros.40 Como tales, el código o diseño
de las tecnologías subyacentes a la sociedad son formas de poder y deberían estar sujetas a
38 Esto será discutido en mayor detalle en la sección IV 39 543 U.S. 220, 125 S.Ct. 738 (2005). 40 LAWRENCE LESSIG, CODIGO: VERSION 2.0 78 (Libros Basicos 2006).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
interrogación crítica y no darse por sentado. 41 Al cuestionar el poder estamos en condiciones
de examinar las limitaciones sobre las que podemos hacer algo al respecto. La política se
vuelve “como decidimos, como se ejercita el poder, y por quien.”42 Citron, Kerr y HIlderbrandt
son algunos pensadores que cuestionan las formas de poder problemáticamente inherentes a
las tecnologías predictivas. 43
El surgimiento de lo que ha sido llamando la “sociedad del riesgo” explica la creciente
importancia de las tecnologías predictivas. La “industria de la predicción [puede florecer] en
una sociedad que está organizada en respuesta al riesgo […] porque la predicción a menudo
precipita los intentos a adelantarse al riesgo”.44 Específicamente, las tecnologías predictivas
abarcan nuevas técnicas de minado de datos tales como agregación y vínculos contextuales
cruzados que hacen posible “un tipo de construcción de conocimiento abductivo, basado en un
tipo de computación que no está al alcance de la mente humana.”45 Estas técnicas de minado
de datos son la base de “nuevas formas de predicciones idiopáticas. Los opacos algoritmos
anticipatorios y las gráficas sociales que permiten hacer inferencias sobre personas y sus
preferencias.”46 En relación a la elaboración de perfiles penales, el uso de estas técnicas
predictivas de minado de datos habilitan la detección inadvertida de correlaciones “invisibles
al ojo humano […], presentando perspectivas novedosas que pueden ser altamente relevantes
41 LESSIG, supra nota 41 at 78. 42 LESSIG, supra nota 41 at 78. 43 Danielle Keats Citron, El Debido Proceso Tecnológico, 85 Wash. U. L. Rev. 1249 (2008); Kerr, supra nota 9; Mirielle Hildebrandt, Perfilado Proactivo Forense: ¿Criminalización Proactiva?, Los límites de la Ley Criminal (R.A. Duff et al. eds, 2010). 44 Ver Kerr para una discusión sobre la noción de “riesgo social.” Kerr, supra nota 9 en 98-‐100. 45 HILDEBRANDT, supra nota 9 (Prefacio). 46 Kerr, supra nota 9 en 88.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
para organizaciones (como el sistema de justicia penal) que tiene que sobrevivir en un
ambiente rápidamente cambiante.”47
En el análisis del incremento de la dependencia institucional sobre tecnologías
predictivas de la sociedad, Kerr perspicazmente contrasta las implicaciones legales, sociales y
éticas de las emergentes tecnologías predictivas con aquellos modelos basados en los
paradigmas legales fundacionales de Holmes sobre el “Hombre Malo.” Las predicciones
Holmesianas, las cuales Kerr llama “predicciones consecuentes,” están dirigidas a prever los
resultados legales de una acción dada desde la perspectiva del Hombre Malo, y su propósito
primario es “proteger a los ciudadanos de la amenaza de la sanción estatal.”48 En contraste,
“las predicciones preventivas”:
Son usadas para reducir las opciones futuras de una persona. La predicción preventiva evalúa las posibles consecuencias de (no) permitir a una persona actuar de cierta manera. Inmediatamente, uno debería reconocer que estas predicciones no solo adoptan la perspectiva del actor. Las predicciones preventivas son mayormente hechas desde el punto de vista del estado, una corporación o cualquiera que desee prevenir o evitar ciertos tipos de acción. Las predicciones predictivas no evalúan una acción del individuo sino si al individuo debería permitírsele actuar de cierta manera.49
A diferencia del compromiso Holmesiano con la perspectiva y ubicación de los clientes diarios
de la ley, los sistemas computacionales predictivos, a pesar de su obsesión con la exactitud,
confiabilidad y eficiencia, “no generan relaciones de confianza y por lo tanto no atraen
deberes especiales de confianza en cualquier sentido tradicional.”50 Esto es cierto en el
contexto del sector privado, dónde las tecnologías diseñadas para ofrecer predicciones a
sujetos de data, pero aún más dramáticamente cierto en el caso de las tecnologías diseñadas 47 Hildebrandt, supra nota 44. La paginación publicación de este artículo no está disponible en el formato Word. 48 Kerr también discute “predicciones preferenciales” dirigido a vender productos basados en las preferencias de las personas, lo cual no está dirigido en este documento. Kerr, supra nota 9 en 97. 49 Kerr, supra nota 9 en 98. 50 Kerr, supra nota 9 en 96.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
para ofrecer predicciones sobre los sujetos de data.51 Contrario a las predicciones
consecuentes, las predicciones preventivas por definición van en detrimento, o en contra del
interés, del ámbito de libertad del sujeto de data,” especialmente cuando se presume que es el
“hombre malo” y éstas son usadas para prohibir acciones de cierta naturaleza.52 Por otra
parte, y como es discutido en la siguiente sección, las ramificaciones de estas tecnologías
predictivas originales en el contexto penal son profundas, de amplio rango y han sido
centrales en el desarrollo de un modelo de justicia actuarial enfocado sobre el manejo de
grupos de alto riesgo en vez de la rehabilitación de individuos.
Uno de los aspectos altamente problemáticos sobre el implemento computacional es
cómo los programadores desapercibidamente se convierten en legisladores, dado que ellos
están imbuyendo ciertos valores sociales a expensas de otros.53 De acuerdo con Lessig, “los
programadores determinan las condiciones preestablecidas en internet.”54 Como el “ambiente
construido” de la vida social en el ciberespacio,”55 el código puede ser una gran amenaza a las
libertades establecidas en maneras que nosotros todavía no podríamos ni siquiera entender.
Para Kerr el poder desenfrenado de los programadores en el contexto de las tecnologías
preventivas predictivas puede “proveer un tremendo poder a los programadores y aquellos
que utilicen sus tecnologías” para “regular el comportamiento humano y tomar decisiones
claves sobre personas sin los chequeos ni los balances legales usuales materializados en el
espacio real.”56 Por lo tanto, software como el desarrollado por Berk, “el cual simplemente
computa probabilidades estadísticas, está ya anticipándose y dando preferencia a las
51 Kerr, supra nota 9 en 96. 52 Kerr, supra nota 9 en 97. 53 LESSIG, supra nota 41 en 6. 54 LESSIG, supra nota 41 en 79. 55 LESSIG, supra nota 41 en 121. 56 Kerr, supra nota 9 en 103.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
posibilidades sociales y oportunidades de miles de sujetos en varias jurisdicciones de una
manera muy real.”57
Además, delegar a los programadores la posibilidad de transmutar leyes, reglas y
políticas en código está en camino a una colisión frontal con los problemas de interpretación
entre el lenguaje humano y el artificial. Como Citron muestra, las reglas y políticas públicas
son muy vulnerables a distorsión cuando los programadores las trasladan a código. El
“vocabulario limitado” de las predicciones computacionales por lo tanto puede debilitar la
complejidad de sus análisis predictivos y además agravarlas por la falta de experiencia
especializada de los programadores en procesos de toma de decisiones del sector público.
Todo esto a costa de los sujetos concernidos.58
Desafortunadamente, el problema de autoría de las tecnologías predictivas y sus
predicciones en el sector público no es tan directo como uno quisiera. Primero, mientras en el
sector privado los algoritmos predictivos y programas pueden ser sujetos al secreto industrial
y a las leyes de derecho de autor, en el sector público se puede bloquear la revisión bajo las
justificaciones de seguridad nacional y la seguridad pública.59 Segundo, el autor de un
algoritmo predictivo o software “podría en cualquier sentido ser o no autor de cualquier
predicción particular generada por el sistema,” lo cual podría últimamente implicar que “no
hay un autor humano; algunas veces no hay nadie quien sea directamente responsable de
cualquier predicción generada”60 Esta opacidad de la autoría atenta contra la transparencia y
la responsabilidad en relación al diseño subyacente de las tecnologías preventivas y sus
predicciones.
57 Kerr, supra nota 9 en 102. 58 Citron, supra nota 44 en 1261. 59 Kerr, supra nota 9 en 95. 60 Kerr, supra nota 9 en 96.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
Lessig está particularmente preocupado por la cuestión de la transparencia y
responsabilidad en relación a la arquitectura técnica o codificada que regula nuestras vidas.
En su crítica sobre la presunción inherente de la irresponsabilidad tecnológica discute cómo
“la falta de dirección desorienta la responsabilidad,” a saber,
Cuando un gobierno usa otras estructuras de restricción para afectar una restricción que podría imponer directamente, enturbia la responsabilidad de esa restricción y también debilita la responsabilidad política. Si la transparencia es un valor en el gobierno constitucional, la mala dirección es el enemigo. Confunde la responsabilidad y por tanto confunde a la política.61
Aunque Lessig en principio no está en contra de la regulación indirecta, sí está, sin
embargo, preocupado por cómo el gobierno alcanza sus objetivos de forma indirecta sin tener
que confrontar el costo de alcanzarlos directamente. El mayor costo es la transparencia
política en una democracia donde las regulaciones deberían ser públicas.
El secretismo de los factores considerados por, y el funcionamiento de, los algoritmos
y el software de tecnologías predictivas opera contra los principios de la transparencia y la
responsabilidad pública. Además del llamado de los gobiernos a la seguridad nacional y la
seguridad pública para justificar las premisas y los métodos de las tecnologías predictivas sin
respaldo, la naturaleza escondida de los valores en el código puede severamente reducir los
principios del debido proceso que deberían guiar la relación entre los individuos sometidos a
las tecnologías predictivas para resguardarse contra acciones del gobierno no revisadas y sin
respaldo.62 Esta falta de transparencia se exacerba más en el sector público porque, a
diferencia del privado, “los algoritmos en sistemas públicos automatizados no están
necesariamente sujetos a revisión con base en su desempeño en la práctica.”63 A lo sumo,
61 LESSIG, supra nota 41 en 133, 136. 62 Citron, supra nota 44 en 12911 63 Citron, supra nota 44 en 1287.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
podrían estar corregidos contra “falsos negativos […, pero] corregir solo un tipo de error en
un algoritmo o regla codificada tiende a sistematizar un sesgo.”64
Si el código del software predictivo preventivo permanece opaco, no hay manera de
determinar si la política pública de una institución política está codificada con precisión en
programas que impactan las vidas de muchas personas. Esto deja a los sujetos de data
afectados por esta tecnología anticipatoria afectados en una desventaja particular a la hora de
cuestionar las premisas o métodos usados para calcular el riesgo de daños futuros sobre los
cuales se realizan determinaciones relevantes para calcular la duración y las condiciones de
libertad supervisada. Por esto, Citron propone que el acceso al código fuente de programas
automatizados, o en otras palabras las instrucciones codificadas en la computadora por el
programador, podría ser una “manera significativa de desafiar los reclamos de la agencia y
disipar la influencia del sesgo automático.”65 En una línea similar, Hildenbrandt pide que las
personas que fueron sujetadas a la elaboración de perfiles penales tengan acceso a los perfiles
en los que encuadran, con la intención de “ampliar su libertad” al “permitirnos enmendar
nuestros caminos o rebatir la aplicación de tales perfiles en un tribunal de justicia.”66
El discurso de Berk de sustituir “los cálculos al sentimiento”67 con la precisión de las
predicciones de su software, subraya un desdén por el matiz del proceso discrecional de toma
de decisiones al examinar un caso individual para hacer una determinación en favor de un
proceso homogenizado y consistente para el cual los sistemas automatizados “se vuelven los
principales tomadores de decisiones.”68 Esta posición es característica de los partidarios de la
automatización quienes proclaman a favor de la consistencia, la precisión y el costo
64 Citron, supra nota 44 en 1287. 65 Citron, supra nota 44 en 1284. 66 Hildebrandt, supra nota 44. Regresaré a este punto en la sección V. 67 Bland, supra nota 1. 68 Citron, supra nota 44 en 1252.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
eficiente.69 Sin embargo, a pesar del valor de dichos objetivos para el gobierno, Kerr afirma
justamente que “este enfoque ignora la idea que subyace en el supuesto de la inocencia
asociada a los valores del debido proceso –básicamente, que hay cierta sabiduría en
establecer límites sobre las asunciones que pueden o no hacerse acerca de las personas”
particularmente cuando éstos no participan.70 Las preguntas sobre el diseño o la arquitectura
técnica no bastan para agotar ni responder a las preguntas sustantivas y axiológicas
planteadas por “la permisibilidad de las predicciones, prevenciones y supuestos de cara al
cambio computacional.”71 El punto crucial más oscuro de las tecnologías predictivas es cómo
“la predicción remplaza la necesidad de pruebas,”72 dirigiendo los “primeros pasos hacia
afuera de nuestro actual sistema de pena y castigo ex post facto hacia un sistema que se enfoca
en medidas preventivas ex ante.”73 Este cambio es a expensas de supuestos legales
fundacionales que amenazan y debilitan la legitimidad de los modelos existentes de justicia
social.
A pesar del hecho de que el otorgamiento y revocación de la libertad supervisada
provisional está sujeta a los principios del debido proceso, la delegación judicial hacia
tecnologías anticipatorias opacas para determinar el riesgo de un individuo en libertad
supervisada debilita los principios del debido proceso tales como la:
[N]otificación de audiencia a tiempo e informativa; la posibilidad de saber sobre el caso en tu contra; una audiencia justa e imparcial; una oportunidad para responder; la posibilidad de cuestionar a aquéllos que buscan hacer un caso en tu contra; acceso al consejo legal; el registro público de los procesos; la audiencia pública; razones públicas para la decisión; y, en algunos casos, una habilidad para apelar la decisión o buscar revisión judicial. “74
69 Citron, supra nota 44 en 1253. 70 Kerr, supra nota 9 en 108. 71 Kerr, supra nota 9 en 109. 72 Kerr, supra nota 9 en 100. 73 Kerr, supra nota 9 en 108. 74 Kerr, supra nota 9 en 103-‐04 (citando Mirielle Hildebrandt, Normatividad Legal y Tecnológica: Mas (y menos) que Hermanas Gemelas, 12(3) TECHNÉ: J. OF THE SOC’Y FOR PHIL. AND TECH. 169 (2008)).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
De esta manera, las personas en libertad condicional y provisional ofrecen un campo de
pruebas interesante en la intersección entre las doctrinas establecidas y los discursos y
practicas emergentes habilitados por tecnologías predictivas enfocadas en prever riesgos
futuros. A pesar de su criminalización por actos pasados, las condiciones de libertad
supervisada impuestas a personas son crecientemente basadas sobre los cálculos actuariales
realizados por nuevas tecnologías predictivas que supuestamente determinan los riesgos de
daños futuros. Como ya se indicó en relación al software de Berk, las predicciones predictivas
están actualmente siendo utilizadas para determinar, por ejemplo, el nivel de supervisión
dado a personas en libertad supervisada y para determinar quién es más propenso a cometer
un asesinato. Las personas en libertad supervisada están en la cúspide de un proceso de
hibridación tecno-‐normativa habilitada por tecnologías preventivas de predicción,
independientemente de las doctrinas oficiales subyacentes a la regulación de sus vidas.
IV-‐ Justicia actuarial y ley penal
El discurso oficial del actual régimen Anglo-‐americano de responsabilidad penal
todavía sostiene que las personas son responsables por los daños que cometieron en el
pasado, “requiriéndose una acción que preceda al castigo.”75 Específicamente, la
responsabilidad penal sostiene que una persona es responsable penalmente cuando él/ella
actúa intencionalmente con mens rea, o estado mental requerido para la ofensa específica (es
decir, propósito, conocimiento, impertinencia o negligencia). Un acto bajo la ley criminal es
75 Hildebrandt, supra nota 44.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
“un movimiento corporal intencional y ejecutado por un agente cuya consciencia está
razonablemente intacta.”76
Este marco del individuo y su intencionalidad al cometer crímenes pasados está en el
corazón de un ancho y conflictivo debate entre voluntarismo, determinismo y compatibilismo,
que involucra cuestiones sobre libre albedrío, los organismos y sus restricciones. Más allá de
los dos extremos de voluntarismo (o indeterminismo), que presume que los actos mentales
desencarnados pueden ocurrir en la ausencia de fuerzas causales, y el determinismo, que
borra completamente la agencia de sujetos sociales en favor de una causalidad estructurada
más allá de su voluntad (por ejemplo: genética, social), yo estoy en favor del enfoque de
Hildenbrandt, donde “la autonomía […] es siempre relativa y relacional [y por lo tanto] nos
aleja de un uso monopolístico del lenguaje causal hacia un lenguaje de constitución mutua, lo
cual claramente no excluye la atribución de causalidad.”77 La autonomía de los sujetos
sometidos a los poderes policiales del estado debe siempre interactuar con los discursos
legales, sociales y las crecientes practicas tecnológicas que restringen, habilitan y constituyen
sus identidades dentro del sistema, como también sus posibilidades creativas de resistencia
dentro ella.
La “cultura del riesgo” está en el centro del uso de las tecnologías preventivas
predictivas que debilitan las premisas fundacionales de la ley penal. La cultura del riesgo se
refiere a cómo el riesgo se ha vuelto un principio organizativo para las sociedades que traen el
futuro hacia el presente “por medio de la organización reflexiva de tecnologías para hacer
76 Stephen J. Morse, Genética y Responsabilidad Criminal, Tendencias en Ciencias Cognitivas (2011) (próximo). 77 Hildebrandt, supra nota 44 (declarando que lo mismo puede ser dicho de la “normativa regulativa de tecnologías” sobre el hecho que no causan comportamientos, “pero más bien los constituyen o regulan, [desencadenando o proporcionando] un comportamiento en lugar de otro.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
perfiles de riesgos.”78 En términos del sistema de justicia penal, Ericson asocia la obsesión
cultural del riesgo con el “declive de la inocencia,” marcada al privilegiar la certidumbre y la
eficiencia a expensas del debido proceso. De acuerdo con Ericson, “la justicia estadounidense
a descuento” ha remplazado los juicios penales con negociaciones abiertas en corte dónde
Los casos son típicamente resueltas sin un archivo policial, declaraciones de testigos, evidencia forense u oficiales de la corte quienes den evidencia de cualquier familiaridad con las alegaciones o el acusado” porque el acusado se presume culpable. La carga de la prueba-‐ el estado debe proveer todos y cada uno de los elementos de la ofensa más allá de una duda razonable-‐ es negado, y el modelo de conflicto entre las partes es invertido. El sistema es inquisitivo, dependiente del reconocimiento público de culpa por parte del defendido para su legitimidad y sobrevivencia. Porque la negociación de los cargos imputados pone al modelo de conflicto entre las partes de cabeza y lo convierte en uno en donde se le exige al individuo elegir entre una serie de opciones las cuales son más o menos onerosas, en vez de requerir que, en primer lugar, el estado esté en posesión de suficientes pruebas legales, hay pocos, si acaso algunos, límites al caso del acusador. En cambio, existe cada incentivo para que la policía y la fiscalía confíen en un sistema de descuentos abiertos y penas para obtener confesiones como la principal prueba de culpabilidad, en vez de una investigación independiente y completa.79
La primacía del la elaboración de perfiles de riesgos y la colocación de personas dentro
de las categorías propias del riesgo completamente desplaza “la culpabilidad moral y la
inocencia”80 y por lo tanto algunas de las principales víctimas de este esquema son el debido
proceso, la deliberación y el principio de la presunción de inocencia.
De particular relevancia en este debate es el análisis de Feeley y Simon sobre el
cambio de la vieja a la nueva criminología en la década de los noventa. Ellos mostraron cómo
el “modelo clásico” de justicia penal enfocada en “la intensión para asignar la culpa”81 de actos
pasados, basados en el individuo como la unidad de análisis en la responsabilidad penal, ha
sufrido cambios importantes relacionados al uso de tecnologías preventivas predictivas.
78 Richard Ericson, El declive de la Inocencia, 28 U. B.C. L. Rev. 367 (1994). 79 Ericson, supra nota 79 en 373. 80 Ericson, supra nota 79 en 378. 81 Feeley y Simon, supra nota 8 en 451.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
Mientras la antigua criminología estaba interesada en la “responsabilidad, culpa, sensibilidad
moral, diagnosis, o intervención y tratamiento del infractor individual,” la nueva criminología
está enfocada en una “consideración actuarial de agregados” o “técnicas para identificar,
clasificar, y manejar grupos en orden de peligrosidad.”82 El cambio es visto en términos de una
movida de criminología sociológica hacia una criminología actuarial.
La criminología sociológica tiende a enfatizar el crimen como una relación entre el individuo y las expectativas comunes de su comunidad. Las políticas basadas en esta perspectiva se dirigen a problemas de reintegración, incluyendo el desajuste entre motivación individual, orientación normativa, y las estructuras de oportunidad social. En contraste, la criminología actuarial subraya la interacción de instituciones de justicia penal y segmentos específicos de la población. Las discusiones políticas enmarcadas en sus términos enfatizan el manejo de grupos de alto riesgo y hacen menos salientes las cualidades de delincuentes individuales y sus comunidades.
Por consiguiente, la nueva criminología no contempla la desviación del individuo, la
posibilidad de transformación o rehabilitación, en cambio, moviliza un ethos gerencial de
desviación que busca regular los riesgos relacionados a los diferentes niveles de peligrosidad
de grupos sociales en lugar de individuos. La identificación y gestión de “grupos rebeldes”
toma lugar a través de “un lenguaje actuarial de cálculos probabilísticos y distribuciones
estadísticas aplicadas a poblaciones.”83
Busca sortear, clasificar y separar los menos de los más peligrosos, y usar estrategias racionales de control. Las herramientas para esta empresa son “indicadores,” tablas de predicción, proyecciones de poblaciones, y similares. En estos métodos, el diagnóstico individualizado y la respuesta es desplazada por sistemas agregados de clasificación para propósitos de vigilancia, confinamiento y control.84
El discurso de la nueva criminología está por tanto empapado en el lenguaje del riesgo y
probabilidades en su búsqueda de principios sistémicos de racionalidad y eficiencia para la
82 Feeley y Simon, supra nota 8 en 452. 83 Feeley y Simon, supra nota 8 en 452. 84 Feeley y Simon, supra nota 8 en 452.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
justicia penal como un todo. En lugar de dirigirse hacia las raíces del crimen, el objetivo de la
nueva criminología es hacer del crimen algo “tolerable a través de coordinación sistémica.”85
V Colonialidad automática: “usted parece ser, por lo tanto usted debe ser castigado”
En esta sección y por la vía de los debates postcoloniales y la teoría relacionada de la
“colonialidad del poder,” me enfoco en cómo las continuidades del imaginario colonial
apuntalan la axiología tecno-‐social de las tecnologías preventivas predictivas. Empiezo la
discusión con Hidenbrandt, Harcourt, como también con las ideas de Feely y Simon sobre el
proceso por el cual las tecnologías predictivas estigmatizan grupos y luego introducen al
debate la noción de colonialidad de poder.
A – “Grupos rebeldes” y las tecnologías predictivas.
Hildenbrandt extiende los límites de la criminología actuarial al enfocarse en las
implicaciones de la elaboración proactiva de perfiles forenses para la criminalización de actos
futuros “que pueden o no calificarse como acciones criminales” a diferencia de la de la
elaboración retroactiva de perfiles forenses que está circunscrita a la investigación de
crímenes que en realidad fueron cometidos.86 Ella distingue entre un “perfil no-‐destributivo,”
el perfil de las correlaciones dentro de un grupo o categoría de personas con un riesgo
promedio que se aplica al grupo como un todo en lugar de a sus miembros individuales, y un
“perfil indirecto individual,” la aplicación de un archivo grupal a un individuo. La distinción es
crucial para demostrar el serio vacío legal que emerge en el contexto de un perfil indirecto
individual en la medida que un problema causal emerge “entre promedios estadísticos al nivel
de una población y su aplicación a un caso individual.”87
85 Feeley y Simon, supra nota 8 en 455. 86 Hildebrandt, supra nota 44. 87 Hildebrandt, supra nota 44.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
La elaboración de perfiles forenses proactivos envuelve la construcción de un grupo de perfiles que apuntan hacia una refinada categorización de ciudadanos para detectar criminales potenciales, terroristas, o inmigrantes ilegales. Por ejemplo, medidas de vigilancia podrían ser empleadas para monitorear a personas desempleadas, personas de color, varones de descendencia arábe, o personas viviendo en barrios específicos, porque las estadísticas indican que sus posibilidades de verse involucrados en comportamiento criminal son significativamente mayores que en otras categorías de ciudadanos.88
Si las características de un ciudadano individual se ajustan a los perfiles criminales, ellos son
considerados culpables en un régimen basado en perfiles forenses proactivos. Esta forma de
criminalización es típica de la justicia actuarial que “no se interesa por acciones delictivas
intencionales o culposas, sino por comportamientos que son indicativos de un cierto riesgo a
la sociedad o sus partes.”89 De esta manera, la creación de perfiles actuariales “confirma que
la categorización puede fácilmente convertirse en estigmatización, que puede ‘normalizar’ a
las personas en tipos de conducta que se ajustan a los perfiles a los que se equiparan.”90
Además, Harcourt muestra como la utilización de perfiles lleva a una profecía autocumplida
de criminalidad al, por un lado, no tomar en cuenta el rango diferencial o elasticidad de las
opciones de los grupos señalados en comparación con los no señalados y, por otra parte, al
enfocar la vigilancia de supuestos grupos de alto riesgo que son patrullados y detenidos
desproporcionadamente en relación a otros grupos.91
Los discursos y prácticas de los modelos actuariales preventivos predictivos y las
tecnologías cosifican a los desafortunados sujetos sociales sometidos a sus análisis de riesgo
dentro de un estado de exclusión permanente en la sociedad. Feeley y Simon ven a estos
procesos en términos del uso de la noción de la clase baja, lo cual se refiere a
88 Hildebrandt, supra nota 44. 89 Hildebrandt, supra nota 44. 90 Hildebrandt, supra nota 44. 91 Bernard Harcourt, EN CONTRA DE LA PREDICCION: PERFILADO, PATRULLADO Y CASTIGO EN UNA ERA ACTURIAL (University of Chicago Press 2006).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
Una población preponderantemente hispana y afroamericana viviendo en zonas concentradas de pobreza en ciudades centrales, separados físicamente e institucionalmente de los suburbios o lugares convencionales de la vida social y económica en América. En contraste con los grupos cuyos miembros son considerados empleables, aun cuando podrían estar temporalmente desempleados, las clase baja es entendida como una población permanentemente marginal, sin educación, sin habilidades, y sin esperanzas; un segmento auto-‐perpetuado y patológico de la sociedad que no es integrable a un todo más grande, ni siquiera como una reserva de trabajo.92
La objetivización de la otredad criminal empuja hacia “las correcciones aún más hacia
un auto entendimiento basado en el imperativo de pastorear una población especifica que no
puede ser disgregada y transformada sino solo mantenida – una función similar a la gestión de
desechos.”93 El “comportamiento indebido colectivo potencial”94 de la clase baja la inclina
hacia un aura social de peligro y riesgo que la hace altamente susceptible a la axiología tecno-‐
social habilitada por las fuerzas gerenciales y regulatorias de las tecnologías preventivas
predictivas.
B-‐ Del colonialismo a la colonialidad del poder
Aunque Feeley y Simon invocan “al colonialismo” y la “carga del hombre blanco” como
metáforas organizadoras,95 mi discusión de colonialidad del poder habla de cómo las
configuraciones discursivas y estructurales de la historia del colonialismo todavía son
increíblemente relevantes para entender los espectáculos del poder en el sistema de justicia
penal y la normativa tecno-‐social de las tecnologías preventivas predictivas.
El concepto de “las comunidades imaginarias” se enfoca en la construcción cultural de
la nación y en como los individuos se sienten emocionalmente implicados en configurar una
camaradería o fraternidad para proteger y replicar sus imaginaciones compartidas. Las
92 Feeley Y Simon, supra nota 8 en 467. 93 Feeley y Simon, supra nota 8 at 470. 94 Feeley y Simon, supra nota 8 en 467. 95 Feeley y Simon, supra nota 8 en 469.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
comunidades imaginarias están basadas en las relaciones entre vecinos y la construcción de
fronteras finitas, aunque elásticas.96 En occidente, las comunidades imaginarias están
profundamente implicadas con historias coloniales e imperiales que enfrentan al occidente
contra el resto. Al concebir a los otros coloniales como primitivos y retrasados, occidente se
concibe como civilizado y superior.97 La teoría Postcolonial ha sido crucial para entender
cómo la producción de conocimiento durante las expansiones imperiales estuvo fuertemente
incorporado a los binarios occidente/otros y cómo aún continua teniendo resonancia.
Sin embargo, algunos críticos retan el término postcolonial porque puede implicar el
fin del colonialismo, dejando sin examinar las mutaciones del poder de los poderes globales
hegemónicos.98 La dudosa temporalidad de lo postcolonial colapsa con las diferencias entre la
independencia de los estados coloniales donde “los europeos formaron sus nuevos estados-‐
naciones en territorios no europeos a expensas de las poblaciones indígenas”99 y las luchas
independentistas de estados-‐naciones libradas por sus poblaciones indígenas en contra de
imperios europeos en el siglo veinte. Es importante distinguir las diferentes formas de
dominación global (por ejemplo, colonización, colonización interna, colonización imperial,
asentamiento profundo de colonos y asentamiento de colonos disidentes) en lugar de
fundirlas bajo la categoría de lo postcolonial. De esta manera, es posible teorizar las
peculiaridades de los continuos desbalances globales de poder tales como los asentamientos
96 BENEDICT ANDERSON, COMUNIDADES IMAGINARIAS: REFLEXIONES DE LOS ORIGENES Y ESPARCIMIENTO DEL NACIONALISMO (Verso 1991). 97 EDWARD SAID, CULTURA E IMPERIALISMO(Vintage Books 1993); ORIENTALISMO (Vintage Books 1978). 98 “El término ‘post-‐colonial’ trae consigo la implicación de ser del pasado, socavando las trazas des figurativas económicas, políticas y culturales del presente. El ‘post-‐colonial’ inadvertidamente da brillo al hecho que la hegemonía global, aun después de la guerra fría, persiste en otras formas que evidencian el colonialismo” Ella Shohat, Notas sobre lo 'Post-‐Colonial,' 31/32 Social Text 99, 105 (1992). 99 Shohat, supra nota 99 en 103.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
de colonos disidentes que no han sufrido descolonización (por ejemplo, Estados Unidos,
Australia, Canadá) y del imperialismo sin colonias (por ejemplo Estados Unidos).100
Similarmente, Quijano y su noción de “colonialidad de poder” muestra como a pesar
de las luchas exitosas por la independencia en el siglo 19 en América Latina, las formas de
dominación coloniales (étnicas, raciales y económicas) continúan siendo restablecidas dentro
de los marcos de las nuevas formas de estado-‐nación. Mientras la clásica colonización
imperial se refiere a la dominación directa de amplio rango de territorios por un poder
central, la colonialidad del poder señala una dominación más sutil desplegada por la cultura
neo-‐colonial hegemónica.101 Las jerarquías étno-‐raciales del colonialismo están todavía
recreadas a pesar de la erradicación del colonialismo formal. Por lo tanto, la colonialidad
puede existir sin una administración colonial, cómo también la independencia sin
descolonización. 102 La importancia que Quijano pone sobre las construcciones culturales de
la historia colonial tales como raza y etnicidad muestran la imposibilidad de conceptualizar
sólo las relaciones materiales de la dominación; esto es, sin ver su inscripción en el imaginario
social de dominación: las imágenes y palabras que el poder utiliza en el terreno disputado de
la desigualdad. La colonialidad es un eje de dominación que está inscrito en, pero distinto a,
los ejes capitalistas de explotación. La colonialidad y la modernidad son creaciones de la
expansión europea y la colonización, llevando a la invención de las Américas, Europa y África
100 Anne McClintock, El ángel del Progreso: Fallas en el término 'Post-‐Colonialismo,’ 10 Soc. Text 84 (1992). 101 Aníbal Quijano, “Raza”, “etnia” y “nación” en Mariétegui: Cuestiones abiertas, en ENCUENTRO INTERNACIONAL: JOSÉ CARLOS MARIÁTEGUI Y EUROPA. EL OTRO ASPECTO DEL DESCUBRIMIENTO 167 (Empresa Editora Amauta S.A. 1992); Colonialidad y modernidad/racionalidad, 13 Perú Indígena (no. 29) 11 (1993); Modernidad, Identidad and Utopía en Latinoamérica, 2 Boundary 140 (1992). 102 Quijano, supra nota 102, “Raza”, “etnia” y “nación” en Mariétegui.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
en una nueva geografía del mundo que privilegia a occidente como el imaginario social
hegemónico y proclama el sistema mundial capitalista.103
Estas teorías ayudan a explicar cómo los Estados Unidos, como un sitio de
asentamiento de colonos que alcanzo la independencia sin descolonización, está
profundamente implicado en las historias de colonialidad a través del uso de jerarquías etno-‐
racial-‐sexuales que mantienen a sus otros en sus lugares a pesar del lenguaje inclusivo del
liberalismo norte americano. África, Latinoamérica y la América Nativa son algunos de los
espacios de otredad incomprensibles contra los cuales los Estados Unidos objetifica su propia
modernidad y el progreso de su civilización. Por lo tanto, las identidades afroamericanas,
indígenas americanos y latinos en los Estados Unidos están inscritos en largas y complejas
historias de conquista y dominación, desde el la invención de las américas, y no pueden ser
entendidas fuera de los históricamente situados imaginarios sociales de colonialidad.104
Por consiguiente, las altas tasas de encarcelación de minorías en los Estados Unidos
tales como los afroamericanos, latinos e indígenas americanos son muy reveladores de la
colonialidad del poder. La sobrerrepresentación de personas de color en el sistema de justicia
penal es conocida como Contacto Minoritario Desproporcionado (CMD).105 En 2005, hubo
cerca de 1.5 millones de prisioneros federales,106 lo cuales incluyen 636,055 blancos, 649,519
103 Quijano, supra nota 102, Modernidad, Identidad y Utopía en Latinoamérica; WALTER MIGNOLO, HISTORIAS LOCALES, diseños GLOBALES: COLONIALIDAD, CONOCIMIENTOS SUBALTERNOS Y PENSAMIENTO DE FRONTERA (Princeton University Press 2000). 104 Agustín Laó-‐Montes, Montaje de Mambo: La latinización en la Ciudad de Nueva York, en MONTAJE DE MAMBO: LA LATINIZACION EN LA CIUDAD DE NUEVA YORK 1, 5-‐6 (Agustín Laó Montes & Arlene Dávila eds., Columbia University Press 2001). 105 Bret Garland, Casia Spohn y Eric J. Wodahl. Sin proporcionalidad Racial en la población de la prisión estadounidense: Uso del Método Blumstein para Dirigirse a la Crítica Carrera Racial y el Problema de Justicia del Siglo 21 (2008), http://www.cjcj.org/files/racial_disproportionality.pdf (visitado Ago. 7, 2012). 106 Christopher Hartney and Linh Vuong, Creados Igual: Disparidades Raciales y Étnicas en el Sistema penal de EEUU., en 19 (2009), http://www.nccdglobal.org/sites/default/files/publication_pdf/created-‐equal.pdf (visto Ago. 7, 2012).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
afroamericanos y 197,712 hispanos.107 De acuerdo a un artículo del New York Times,108 1 de
cada 100 adultos estadounidenses estuvieron en prisión en 2008, 1 de cada 15
afroamericanos adultos y 1 de cada 36 hispanos adultos estuvieron detrás de las barras.109 Un
estudio de información que abarca del 2003 al 2006 demuestra un confinamiento
desproporcionado de afroamericanos, indígenas americanos e hispanos,110 sobre quienes
consistentemente se imponen condiciones más severas..111
En relación a los afroamericanos solamente las estadísticas son particularmente
desgarradoras. En 1997 el U.S. Census Bureau reportó que 9.3% de las personas negras
estaban encarceladas en contraste con el 2% de la población blanca, lo que significa que los
negros tuvieron 465% más probabilidades de ser encarcelados que los blancos.112 Además, el
2009 muestra que aunque los afroamericanos son solo 13% de población en general,
conforman hasta el 28% de todas las detenciones, 40% de todos los reclusos en prisión y 42%
de la población condenada a muerte.113
Los estudios también han mostrado que las minorías son propensas a sufrir
discriminación racial en el proceso al momento de dictar sentencias. Por ejemplo, las cortes
federales son más propensas a discriminar directamente en contra de negros en términos de
la duración de la sentencia,114 mientras los hispanos tienen probabilidades más altas de ser
encarcelados.115 En tanto que para la libertad supervisada y condicional, en 2006 “los
107 Hartney y Vuong, supra nota 107 en 20 (Tabla 7). 108 Adam Liptak, 1 en 100 Adultos Americanos están Tras las Barras, Dice Nuevo Estudio, NYT (Febrero 28, 2008), http://www.nytimes.com/2008/02/28/us/28cnd-‐prison.html. 109 El artículo especifica que 1 en 9 hombres negros entre las edades de 20 y 34 años estuvo encarcelado, lo que indica la alta presencia de jóvenes negros en la población de la prisión. Liptak, supra note 109. 110 Garland et al., supra nota 106. 111 Garland et al., supra nota 106 en 3. 112 Broom v. Deney, 659 F.3d 658, 663 (2011). 113 Hartney y Vuong, supra nota 107 en 2. 114 Tushar Kansal, Disparidad Racial en el Sentenciado: Una Revisión de la Literatura 4 (2005), http://www.sentencingproject.org/doc/publications/rd_sentencing_review.pdf. 115 Kansal, supra nota 115 en 4.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
afroamericanos estuvieron en libertad supervisada y condicional con una tasa casi 3 y 5 veces
mayor que los blancos [y] los hispanos e indígenas americanos estuvieron en libertad
condicional a 2 veces la tasa para blancos.”116 En general, la supervisión correccional mostró
un incremento notable de participación a través de los años 1980 a 2009.117 De acuerdo al U.S.
Bureau Census Statistics, 4,203,967 individuos estuvieron en libertad supervisada durante
2009, sobrepasando a las personas en libertad provisional, las cuales sumaron un total de
819,308.118 El número de personas en libertad supervisada en 2010 fue de 4,055,514 de los
cuales 1,478,347 eran blancos, 813,922 afroamericanos y 351,501 latinos, entre otras
categorías.119 Las estadísticas anteriores muestran cómo uno de los mayores costos de la
axiología tecnológica del perfilado preventivo de justicia actuarial es el proceso de re-‐
estigmatización de grupos que históricamente han sido sujetos de la colonialidad del poder
dentro de los discursos y representaciones mayoritarios. Los Estados Unidos recrea
problemáticas de opresión etno-‐raciales y clasistas continuadas en relación a afroamericanos,
latinos e indígenas americanos, que fueron centrales en la historia colonial e imperial de la
expansión europea y quienes están ahora desproporcionadamente involucrados con el
sistema de justicia penal.
Similarmente, la colonialidad del poder ayuda a conceptualizar las continuidades del
imaginario colonial que están implícitamente recreadas en el uso de tecnologías preventivas
predictivas. Lo que está en juego en la justicia actuarial y los algoritmos del software
preventivo es el atrincheramiento de “las malas comunidades” a lo largo de los ejes de la
historia colonial y los imaginarios escondidos debajo del aura de la cientificidad. Este proceso
personifica la automatización de la colonialidad, al que me refiero como la automatización de
116 Hartney y Vuong, supra nota 107 en 3. 117 Lauren E. Glaze y Thomas E. Bonczar, Libertad Condicional y Provisional en los Estados Unidos, 2010, http://bjs.ojp.usdoj.gov/content/pub/pdf/ppus10.pdf. 118 Glaze y Bonczar, supra nota 118. 119 Glaze y Bonczar, supra nota 118 en Apéndice Tabla 7.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
una profecía autocumplida estructural a través de las tecnologías preventivas predictivas que
recrean formas de desigualdad que tiene sus raíces en la larga duración de historias coloniales
e imaginarias. De esta manera, la falta de transparencia de los factores que entran en juego en
las determinaciones predictivas de las nuevas tecnologías invoca el espectro de los factores
actuariales y estadísticos que son sintomáticos de la desigualdad social a cambio del potencial
criminal.
C-‐ La colonialidad: de espectáculo a software
¿Que implica el “declive de la inocencia” en una sociedad obsesionada con el riesgo en
el entendimiento de la importancia y el significado de los juicios penales para una sociedad en
general? Los juicios penales han sido considerados obligatorios en la medida en que surgen de
una violación contra la comunidad y, como tales, invocan al cuerpo político en general que
debe ser resarcido mediante la ley. Un infractor es “traído a la justicia porque sus actos han
perturbado y puesto gravemente en peligro a la comunidad como un todo, y no porque, como
ocurre en un juicio civil, el daño ha ocurrido a individuos que tienen derecho a una
indemnización.”120 Además, la indemnización que toma lugar en casos criminales “es de una
naturaleza totalmente diferente; es el cuerpo político en sí mismo el que tiene necesidad de
ser “reparado,” y es el orden público general que ha sido perturbado y necesita ser
restablecido, en sí.”121 De esta forma, los procedimientos penales implican necesariamente a
“la gente” como espectadores del proceso histórico para establecer interpretaciones
hegemónicas de eventos perpetuados en contra del sistema.122 El poder del estado para
castigar en nombre de la reparación del cuerpo político, sin embargo, no debería ser ilimitado
al grado que en una democracia constitucional digamos que “la aptitud para castigar [está
120 HANNAH ARENDT, EICHMAN EN JERUSALEM 261 (Penguin Books 1992). 121 ARENDT, supra nota 121 en 261. 122 SHOSHANA FELMAN, EL INCONSCIENTE JURIDICO 81 (Harvard University Press 2002).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
constituida] de una manera que restringe el ejercicio arbitrario o ilimitado [para castigar].”123
No obstante, dado el remplazo de los juicios penales por la negociación a campo abierto en el
escenario de “justicia de descuento” invocada por Ericson y los valores gerenciales sobre
“grupos rebeldes” mencionados por Feely y Simon, vemos que las tecnologías actuariales
preventivas predictivas claramente socavan los límites de la aplicación arbitraria del poder
del estado y plantean preguntas difíciles cómo: ¿en nombre de quién ciertos grupos de la
sociedad están siendo criminalizados por actos aun no cometidos basándose simplemente en
altas probabilidades de riesgo predichas por tecnologías actuariales? ¿Qué reparaciones del
cuerpo político toman lugar en el contexto de la pre-‐criminalización? ¿Quiénes son los
espectadores y quienes están realizando el espectáculo? A fin de explorar estas preguntas,
primero retomaré al “hombre malo” de Holmes.
En términos legales, el cambio del modelo del “Hombre Malo” de Holmes a la
materialización de “malas comunidades” en la justicia actuarial también es el cambio de un
lente individualista de predicción a un proceso estructural de perfilado colectivo a través de
algoritmos predictivos de riesgo que, inadvertidamente desde la perspectiva de las
intenciones de los diseñadores del software, supone longue durée de historias coloniales y
categorizaciones jerárquicas de los pueblos para facilitar la gestión del estado y la vigilancia.
El intento de Holmes de empoderar al Hombre Malo a través de las predicciones legales para
evitar sanciones del estado contrasta con cómo las tecnologías preventivas privilegian
intereses estatales a través de predicciones del comportamiento que están “enteramente en
desacuerdo con los intereses de los sujetos implicados, especialmente cuando se presume que
son los ‘hombres malos’.”124 La pregunta difícil es si las malas comunidades pueden
adecuadamente encajar dentro de las restricciones epistémicas del modelo legal del Hombre
123 Hildebrandt, supra nota 44. 124 Kerr, supra nota 9 en 97.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
Malo de Holmes. ¿Puede el modelo legal del Hombre Malo considerar efectivamente la
desigualdad estructural y afectar a la colonialidad automatizada sin intenciones claramente
localizables que apunte a individuos o culpables específicos?125 En consideración al remplazo
de los procesos penales por negociaciones y el ethos gerencial estatal sobre poblaciones
históricamente estigmatizadas sujetas a nuevas formas de custodia, vigilancia y control, el
esfuerzo principal no es reparar el cuerpo político a través de juicios, sino más bien evitarlo
por medio de formas incrementales de pre-‐criminalización a través de evaluaciones de riesgo
para personas pertenecientes a grupos peligrosos.
La crítica de Felman sobre los límites de la ley en relación a los traumas históricos
puede guiar la discusión aquí. Felman amplía el campo de análisis de los juicios al usar el
concepto de “abismo” cultural en su aplicación de la teoría literaria psicoanalítica al análisis
de los juicios. Un abismo nos habita como un “vacío interno,” que se resiste a la consciencia y
no puede ser visto. El trauma como el abismo se vuelve un espacio “accidentado” a través del
cual la cultura se revela a sí misma como un vacío desconocido.126 El abismo no puede ser
totalizado y por lo tanto no puede ser contenido en el argumento de clausura de un juicio. La
ley trata de cruzar el abismo sin fondo con racionalizaciones legales y codificaciones en un
intento para cuidarse de la irregularidad e irracionalidad impecable del abismo. Aunque la ley
trata de construir cimientos de forma consciente para un abismo sin fondo y la inconciencia
por excelencia, la historia de la ley y el trauma es una de esas historias de barcos en la noche
condenados a la recreación repetitiva de su trauma desafiando el cierre buscado por la ley.
125 Kerr explica como Holmes abrió la puerta a nuevas re-‐conceptualizaciones de este metafórico ser legal como abarcando voces contra-‐hegemónicas o simplemente actuando sin moral en lugar a intereses personales racionales y amorales Kerr, supra note 9 en 91-‐93. 126 FELMAN, supra nota 123 en 91.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
Por lo tanto, la ley esta pre-‐destinada a fallar en su intento de transformar el abismo
traumático en hechos irrefutables.127
La colonialidad del poder incluye a ciertos sujetos en las puertas giratorias de la
criminalidad representadas mediante juicios puede ser vista como una repetición de las
experiencias traumáticas del colonialismo y del racismo. Los juicios repetitivos de sujetos
implicados en la historias de colonialidad pueden mover la mirada acusadora de los
sospechosos habituales a la sociedad y la ley como los actos estructurales de la violencia,
reubicando el sitio de la monstruosidad criminal a un escenario más complejo donde los actos
criminales se convierten en síntomas en lugar de desviaciones de un estado de orden y
armonía. La pregunta se convierte en ¿el orden de quién? ¿Y para quién? y ¿Quién debe pagar
el precio de la armonía de algunos a expensas de otros? El impacto acumulativo de los juicios
constantemente criminalizando poblaciones históricamente estigmatizadas puede llegar a ser
una condena de normalidad a nivel social, señalando, por ejemplo, la inmanencia del racismo
en el sistema de justicia penal. El estatus quo es un hecho visible y la normalidad en si misma
se vuelve (potencialmente) criminal dada la falla de la ley de contener las fisuras del trauma
histórico de colonialidad como se muestra diariamente en las salas de audiencia. La historia y
su axiología de valores específicos se convierten en el espejo incómodo donde las normas
sociales se ven artificiales y las costuras del poder ya no están escondidas debajo del velo de
universalidad y en cambio hacen un espectáculo de sí mismas como arbitrarias, contingentes
e históricamente arraigadas.
Por esta razón, presumir culpa a través de las crecientes incursiones de tecnologías
preventivas predictivas que pueden sobrepasar los principios del debido proceso ofrece una
salida perversamente “graciosa” a las dramatizaciones diarias de desigualdad estructural y
127 FELMAN, supra nota 123 en 95, 162.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
racismo institucional en las salas de audiencia. La automatización de la colonialidad está por
lo tanto relacionada a su remoción progresiva del espectáculo en el juzgado a los criterios
opacos del software dónde los vectores de opresión están ocultos más efectivamente debajo
de un manto de neutralidad y seudo-‐cientificidad con algoritmos predictivos que últimamente
afectan la vida, o al menos la calidad de vida, de aquellos nacidos en el lugar equivocado en el
momento equivocado.
D-‐ Aura de cientificidad, efectos de veracidad y la re-‐invención de lo criminal
De acuerdo con Bourdieu, las sociedades reproducen sus estructuras de dominación128
a través de capital simbólico o valores culturales que son centrales al proceso de legitimación
en las estructuras de dominación. Dichos valores centrales son materializados o presentados
como universales, pero son de hecho histórica y políticamente contingentes o arbitrarios. De
todas las formas de “persuasión escondida,” la más implacable es aquella ejercida,
simplemente, por el orden de las cosas,”129 y no hay nada como la ciencia para obtener el
apoyo del “sentido común” del imaginario social de la eficiencia y el pragmatismo
gubernamental. El discurso de Berk sobre la superioridad de su software predictivo
preventivo es un ejemplo de ello.
El desdén de Berk por el matizado proceso discrecional de decisiones al examinar un
caso individual para hacer una determinación en pro de un proceso automatizado,
homogenizado y consistente afianza una seductora aura de cientificidad sobre las tecnologías
predictivas en relación a la supuestas sucias e inconsistentes maniobras de intervención
humana en la determinación del riesgo. El peligro del aura de cientificidad de las tecnologías
128 Ver, por ejemplo, PIERRE BOURDIEU, REPRODUCCION EN EDUCACION, SOCIEDAD Y CULTURA(Sage 1990); DISTINCCION: UNA CRITICA SOCIAL AL JUCIO DE TATSTE (Harvard y Routledge 1984); HOMO ACADEMICUS (Stanford 1984); y, EL ESTADO DE NOBLEZA (Stanford 1989). 129 Pierre Bourdieu & Loïc Wacquant, Violencia Simbolica, en VIOLENCIA EN GUERRA Y PAZ: UNA ANTOLOGIA 272 (Nancy Scheper-‐Hughes Y Philippe I. Bourgois eds., 2004).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
predictivas descansa en sus poderosos efectos de veracidad. Hildenbrandt muestra como a
pesar de la capacidad del perfilado de proveer hipótesis de eventos futuros, las “hipótesis no
proveen causas o razones [y] son meras correlaciones estadísticas.”130 Sin embargo, el efecto
verdadero de las correlaciones sin causa puede al final llevar a prescindir de la necesidad de
causalidad y posibilitar que las correlaciones se conviertan en “causales”. Otros han llamado
esto un “sesgo automatizado,” es decir, cuando la automatización computacional se vuelve “un
remplazo heurístico atento para buscar y procesar información”131 y “efectivamente convierte
a una sugerencia de un programa de computación en una decisión final en la que se confía.”132
En última instancia, los análisis actuariales automatizados están redefiniendo lo “real” al
grado de que “lo que es real es lo que la tecnología es capaz de definir y representar.”133 Para
el no-‐experto, las tecnologías y sus predicciones pueden operar como poderosos oráculos
jeroglíficos que combinan la pátina autorizada de la ciencia al análisis del riesgo de los futuros
potenciales daños. De esta manera, la colusión de ciencia, tecnología y su aura son
fundamentales para entender la efectividad de las aseveraciones de veracidad en el campo
emergente de los softwares preventivo predictivos.
El aura seductora de la cientificidad en las tecnologías preventivas predictivas ejerce
una fuerte fuerza que cosifica y naturaliza las diferencias sociales. Las evaluaciones de riesgo
eluden por completo la inscripción cultural y especificad histórica de los mismos criterios
sobre los que se determina el riesgo. El orden de las cosas que ofrecen las tecnologías
predictivas es particularmente poderoso en la supresión de cómo sus mismos discursos son
una construcción cultural y como en última instancia las pretensiones de verdad científica
130 Hildebrandt, supra nota 44. 131 Citron, supra nota 44 en 1271 (citing Linda J. Skitka et al., Automatización Sesgo y Errores: ¿Son los equipos mejores que los individuos?, 10 Int'l J. Psicología de la Aviación 85, 86 (2000).) 132 Citron, supra nota 44 en 1272. 133 Hildebrandt, supra nota 44 (citing C Ciborra, Tecnologías Digitales y la Dualidad del Riesgo (2004), ESRC Centro de Análisis y Regulación, London School of Economics, Articulo de Discusión No 27).
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
están siempre mediadas por el lenguaje y la cultura. Nunca hay un acceso inmediato a las
verdades objetivas desde la perspectiva de la teoría social, cultural y los estudios culturales. El
uso de las tecnologías anticipatorias por tanto evita la discusión de lo social, cultural y
económico, entre otros vectores de causalidad que se intersectan en la producción de, por
ejemplo, el “criminal”, la definición de “violencia” y la distinción entre comportamiento
“normal” y “anormal”. De esta manera, el reclamo científico de neutralidad y objetividad es un
mecanismo simbólico efectivo para ocultar las causalidades complejas que constituyen el
compartimento humano.
Como inicialmente se puede inferir de la discusión anterior, las tecnologías
preventivas predictivas no están solo inscritas en formas pre-‐existentes de desigualdad y
vigilancia, sino también se convierten en constitutivas de dichas desigualdades. El trabajo de
Foucault es de particular relevancia aquí. El análisis del discurso hecho posible por el
panóptico de Foucault “cuando se aplica a la modalidad de la información arroja el
descubrimiento incomodo cuando la población participa en su propia constitución como
sujetos de la mirada normalizadora del superpanóptico.”134 Aquí los debates sobre la
existencia de las bases de datos no se agotan por miedo a invasiones a la privacidad y la
“amenaza a un individuo central, pero [se habla de] la multiplicación de individuos, la
constitución de un yo adicional, uno que pueda actuar en detrimento del yo ‘real’ sin que ese
yo ‘real’ esté siquiera consciente de lo que está pasando.”135 Desde esta perspectiva, se puede
decir que las personas suscriben desapercibidamente a las ubicuas relaciones de poder de la
vigilancia del panóptico.136 La mera ubicación del yo es cuestionada cuando “ los fragmentos
134 COLIN J. BENNETT Y CHARLES RAAB, LA GOBERNANZA DE LO PRIVADO: INSTRUMENTOS POLITICOS EN LA PERSPECTIVA GLOBAL 22, 24 (MIT Press 2006). 135 BENNETT ET AL., supra nota 135 en 22, 24. 136 BENNETT ET AL., supra nota 135 en 24.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
de información personal circulan constantemente dentro del sistema computacional, más allá
del control personal de cualquier agente.”137
Por tanto, las tecnologías preventivas predictivas se convierten más en constitutivas
que predictivas de la criminalidad en las sociedades caracterizadas por las formas de
vigilancia informática. La vigilancia, creada como una forma de producción de conocimiento,
en lugar de la mera colección de información para administrar personal, amplía el análisis al
enfocarse en los aspectos generativos de la vigilancia. La vigilancia “produce ambas
disciplinas (esto es, de conformidad con la norma) [como también] las disciplinas (campos del
conocimiento regulados y la pericia).”138 Al alterar “las estructuras de visibilidad y las
estructuras del significado nos hace visibles-‐ nos identifica-‐ en relación a las normas que
produce.”139 En vez de sólo enfocarse en la recolección de información para predecir el
comportamiento criminal, la vigilancia a través de tecnologías preventivas predictivas puede
ser vista como una forma de producción de conocimiento cuyos aspectos generativos
envuelven nuevas formas de representación de lo criminal.
El impacto desigual de estas tecnologías en las vidas de grupos históricamente
desfavorecidos puede estar efectivamente escondido bajo dicho aura de cientificidad y
neutralidad. En el contexto del uso de tecnologías predictivas para propósitos del sistema de
justicia penal, los costos pueden ser enormes. Las personas acusadas de crímenes,
condenadas a la cárcel y/o puestas en libertad supervisada o condicional son sujetos sociales
particularmente vulnerables dentro de la red tecno-‐social de desigualdad, marcadas por la
transmutación de doctrinas legales pre-‐existentes y prácticas institucionales a través de
137 BENNETT ET AL., supra nota 135 en 22. 138 David Phillips, Computación omnipresente, Espacialidad, y la Construcción de Identidad: Direcciones para la respuesta política, en PRIVACIDAD, IDENTIDAD Y ANONIMATO EN UN MUNDO ENTRELAZADO: LECCIONES DESDE EL CAMINO DE LA IDENTIDAD 308 (Ian Kerr, Valerie Steeves Y Carole Lucock eds., Oxford University Press 2009). 139 Phillips, supra nota 139.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
tecnologías preventivas predictivas que perfilan a las personas con un grado de impunidad
que es directamente proporcional a la impotencia del sujeto perfilado.
E-‐¿Consecuencialismo preferente o esencialismo retributivo?
Como hemos visto, el impacto de las predicciones actuariales de riesgos potenciales en
el sistema de justicia penal no está en el futuro lejano de una película exagerada de ciencia
ficción como el Reporte de las minorías, en cambio, ha hecho avances importantes en las áreas
de vigilancia dirigida y las políticas de sentencias, incluyendo la libertad supervisada y la
libertad condicional,140 además ha provisto nuevas articulaciones de la historia amplia y
profunda de las continuidades coloniales.
Las consecuencias del cambio a un modelo de justicia actuarial son amplias y se basan
en los principios de “la detención variable en función de la evaluación de riesgos.”141 Al dejar
de enfocarse en el castigo de los individuos, el modelo actuarial depende más del
encarcelamiento y las nuevas formas de custodia, la vigilancia y el control que han emergido
como “centros de custodia de bajo costo; varias formas de monitoreo electrónico que imponen
una forma de custodia sin paredes; y nuevas técnicas estadísticas para evaluar riesgos y
predecir peligro.”142 Además, la revocación de la libertad supervisada o condicional se vuelve
una “manera efectiva de patrullar y sancionar a una población crónicamente problemática” en
lugar de “un mecanismo para hacer que el proceso de supervisión haga cortocircuito cuando
los riesgos a la seguridad pública se vuelven inaceptables.”143
Un modelo utilitario subyacente expresa los nuevos programas donde el castigo no
depende de la naturaleza de la ofensa ni del carácter del infractor, “sino del riesgo de los
140 Hildebrandt, supra nota 44; Harcourt, supra nota 92. 141 Feeley y Simon, supra nota 8 en 457. 142 Feeley y Simon, supra nota 8 en 457. 143 Feeley y Simon, supra nota 8 en 456.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
perfiles [que] identifican a infractores de alto riesgo y […] manteniendo un control a largo
plazo sobre ellos, mientras se invierte en un control de más corta duración y menos intrusivo
para infractores de bajo riesgo.”144 El sistema de justicia penal por tanto maneja el riesgo al
clasificar a los infractores en grandes grupos de acuerdo a su peligrosidad dentro de los
modelos predictivos actuariales usados. Sin embargo, cuando se mezclan estas justificaciones
consecuenciales para el castigo con la axiología tecnológica de tecnologías preventivas
predictivas, la argumentación se convierte en altamente retributiva y discriminatoria.
La cosificación del comportamiento criminal, basada en las evaluaciones de riesgo de
una profecía de colonialidad implícita y autocumplida, hace que los “sospechosos habituales”
sean culpables y moralmente merecedores de la estigmatización que conlleva ser un humano
riesgoso que requiere de las prácticas de gestión preventiva de las fuerzas disciplinarias del
estado. Finalmente, las tecnologías preventivas considera que las personas están esencial e
inevitablemente predispuestas a comportamientos de alto riesgo que los subsume en un
dilema determinístico que ignora completamente los aspectos sociales, culturales e históricos
que componen la criminalidad. En ese sentido, estas tecnologías tienen efectos análogos a los
del determinismo biológico, cuyos sujetos subalternos cosificados en un espacio de fijeza, de
atraso e inferioridad, pero con la gran ventaja de que las tecnologías preventivas esquivan
enteramente las asunciones y estigmatización histórica del determinismo biológico al basar
las futuras evaluaciones de riesgo en criterios opacos incorporados en el diseño del código.
Desde esta perspectiva, las historias e imaginarios coloniales están por tanto vivas y coleando
en las premisas sub-‐textuales y consecuencias sociales de la implementación de predicciones
actuariales basadas en riesgo. Las tecnologías de predicción mantienen a los “sospechosos
habituales” en una caja negra o un espacio de riesgo eterno que justifica su regulación
restrictiva y ultimadamente los deshumaniza como causas perdidas que deben ser 144 Feeley y Simon, supra nota 8 en 458.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
mantenidas en los márgenes de la sociedad. Las formas racistas y clasistas de “otreo” criminal
entonces, se mueven incrementalmente hasta llegar a ser inherentemente preventivas.
En una línea similar, Hildenbrandt argumenta poderosamente contra la sobre
determinación de sujetos sociales presentados a los efectos del perfilado proactivo basado en
riesgos. El sobre-‐determinismo ocurre cuando las tecnologías predictivas mantienen la
concepción de que “el comportamiento futuro está enteramente determinado por el pasado, [a
pesar del hecho que] los resultados de las tecnologías actuariales […] ni siquiera claman
predecir el futuro.”145 Las tecnologías preventivas cosifican a los sujetos de la sociedad en una
profecía auto cumplida determinada por los riesgos promedios de un grupo o grupos a los
cuales ellos pertenecen. La cartografía de riesgo o el mapa social de los grupos a los cuales las
personas pertenecen y quienes representan el mayor potencial de daño pueden otras
personas en un estado de fijación que completamente niega su agencia social y la
irreductibilidad de sus acciones a categorizaciones estereotipadas.
Esta por esta razón que Hildenbrandt exige una ética y política de sub-‐determinismo
que “se construye en la realidad como un asunto por llegar a ser en lugar de estar, en el
sentido estático de la palabra, sobre la naturaleza efímera de la realidad como algo que no
podemos definir o asumir, como algo que nos pasa mientras encajamos.”146 En su esquema, el
sobre-‐determinismo y el sub-‐determinismo implican un tema correlacionado y un tema a
correlacionar respectivamente. La distinción radica en reconocer la agencia social o un
“elemento de continuidad inherente” en el tema a correlacionar contrario a la fijación del
sujeto correlacionado con la profecía auto-‐cumplida de las predicciones actuariales.147 El
llamado a la defensa de los sujetos a correlacionar, contrario a los sujetos correlacionados,
145 Hildebrandt, supra nota 44. 146 Hildebrandt, supra nota 44. 147 Hildebrandt, supra nota 44.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
parece inclinar la balanza contra la criminalización de comportamientos futuros y reconocer
las relaciones complejas de los sujetos sociales que resisten las categorizaciones fáciles.
Como se mencionó anteriormente, parte de la agenda es darle poder a los sujetos
correlacionables para involucrarlos en el dialogo con los perfiles que igualan “sus
comportamientos o características, proveyéndole con un rango de objeto correlacionados que
indican como ella encaja en diferentes perfiles de grupo [y] esto podría extender su libertad
de comportamiento de una forma u otra.”148 Sin embargo, me preocupa la personalidad
axiológica invocada por Hildenbrandt como aquella de una persona que debe ser idealmente
conforme a las normas de la sociedad. ¿Y qué de la importancia de los agentes sociales como
disidentes, transgresores e iconoclastas para contrarrestar la conversión del determinismo
tecnológico en esencialismo de las tecnologías preventivas predictivas? Lo gris de la línea
actuarial que divide la disidencia como criminal o no criminal invoca la centralidad de las
construcciones sociales y culturales para entender la criminalización de ciertos
comportamientos con respecto a otros. La capacidad para “corregir” los propios
comportamientos, teniendo en cuenta las predicciones actuariales trae escenarios futuros de
conformidad apocalíptica, similares a aquellos representados en los clásicos de ciencia ficción,
pero curiosamente auto-‐infligidos como en el empoderamiento para adecuarse. A diferencia
de la opresión policial de romper una puerta, la naturaleza insidiosa de ”las correcciones”
disponibles a través del cambio proactivo del propio comportamiento puede redefinir la
esfera de lo “razonable” y las suposiciones del sentido común de la vida diaria y limitar la
flexibilidad del sistema para el cambio social. La convocatoria para capacitar a las personas
con su pre-‐criminalizacion a través de los algoritmos predictivos de comportamiento es un
paso importante, pero estoy de acuerdo con Kerr en que la profundidad del problema es la
exclusión de los supuestos del perfilado más que el mero contra manejo de las mismas. 148 Hildebrandt, supra nota 44.
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
Conclusión.
Las personas en libertad supervisada y están sujetos a la vigilancia tecno-‐hibrida en la
encrucijada de las doctrinas establecidas y los discursos y practicas emergentes habilitadas
por tecnologías preventivas de predicción. A pesar de su criminalización por actos pasados,
las condiciones de libertad supervisada/condicional impuestas a personas están
crecientemente basadas en cálculos actuariales realizados por nuevas tecnologías
anticipatorias que socavan el debido proceso al mantener invisible las supuestos subyacentes
a través de un código con una arquitectura opaca.
A través de la historia los grupos sociales en desventaja, incluyendo clases
discriminadas racialmente, colonizadas, clasificada por sexo/género u otras, han sido
desproporcionadamente sujetas a formas de regulación estatal que criminaliza,
institucionaliza, medica y en forma general vigila. El uso creciente de metodologías actuariales
y su transferencia a tecnologías anticipatorias aún más sofisticadas nunca es inocente, neutral
ni incidental en relación a las formas pre-‐existentes de desigualdad, pero en lugar puede
atrincherar e reinventar esas formas de desigualdad. Por lo tanto, la automatización de
colonialidad puede ser conceptualizada como una profecía estructural auto-‐cumplida,
concedida por el uso público de las tecnologías preventivas de predicción que cosifican a las
comunidades y a las personas que han históricamente luchado en contra de formas sistémicas
de discriminación.
La ausencia del racismo manifiesto en el discurso de los diseñadores del software,
como también en sus diseños, no previene un impacto racista. Los discursos y prácticas
discriminatorias pueden ser altamente sofisticados e insidiosos y a menudo inadvertidos en
relación a las intenciones de los diseñadores del software. Aunque ellos podrían sostener que
su software y proyecciones actuariales están completamente libres de racismo y
NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.
reforzamientos coloniales, el uso de estas tecnologías por las fuerzas del estado que han
institucionalizado formas de colonialidad en la manera en que manejan a poblaciones
rebeldes habla de los supuestos de culpa gubernamental en el marco de soporte. Por tanto, un
proceso de “otredad” o “alterador” recae en el centro de las tecnologías preventivas de
predicción que construyen “otros” y se implantan en las desigualdades sociales preexistentes
en una sociedad dada. De esta manera, el barniz de la cientificidad actuarial viene con un
precio alto, es decir, a dispensas de la transparencia, responsabilidad, democracia e
incorporándose en la colonialidad del poder.