Tecnologías de vigilancia e inteligencia artificial para la seguridad pública en América Latina

Introducción

Asia es la región del mundo con mayor despliegue de tecnologías de vigilancia y uso de inteligencia artificial (en adelante IA). Destacan las urbes Chinas por la implementación de innovaciones tecnológicas en su territorio, y entre éstas, Shanghái es la ciudad con mayor número de cámaras de videovigilancia a nivel global, al primer semestre de 2023 sumaba 12,825,589 que equivale a 439.07 por cada 1,000 habitantes (Bischoff, 2023), superando cualquier ciudad de América Latina.

En las últimas décadas las ciudades de América Latina han incrementado exponencialmente el uso de tecnologías de vigilancia. En 2023, se observó que 22 ciudades de la región se colocaron entre las 150 más videovigiladas del mundo, destacando la Ciudad de México con 80,000 cámaras que equivale a 3.59 por cada 1,000 habitantes (Bischoff, 2023).

Paralelamente, estos dispositivos se han ido complementando con otras innovaciones tecnológicas que incrementan sus capacidades de vigilancia y análisis de datos. En la industria y mercado, la conectividad y el uso de la IA se promueven como dos de las principales tendencias (Montoya, 2023). La conectividad como una condición inherente para que la vigilancia sea continua y permanente y la IA como un medio tecnológico que potencializa la visibilidad en el monitoreo y análisis de los datos.

Ante este escenario, el objetivo de esta investigación es analizar el despliegue de tecnologías de vigilancia en materia de seguridad pública que implementan IA en América Latina. Contextualiza los tipos y características de tecnologías, estudia las narrativas políticas y sociales que se han difundido públicamente por parte de las empresas y los gobiernos, tanto las que justifican, como las que critican estas implementaciones en la región. Se parte de la hipótesis de que el uso de la inteligencia artificial es parte de la vigilancia en la región, y su difusión ha sido gradual para contener las posibles críticas sociales ante las potenciales vulneraciones a los derechos humanos.

La aproximación metodológica es cualitativa. Principalmente, a partir del análisis documental de comunicados oficiales de organismos, gobiernos y empresas que refieren el uso de videovigilancia e IA en América Latina. Se analizaron comunicados oficiales y discursos en América Latina que incluían las palabras: videovigilancia, cctv, cámaras, drones, aplicaciones (Apps) y software vinculado a IA. El periodo de búsqueda fue de 2011¹ a 2023 pero la mayor parte de la información es de los años más recientes. También se consultaron documentos que sistematizan datos de la región como el Índice Latinoamericano de Inteligencia Artificial (ILIA) publicado por la Comisión Económica para América Latina y el Caribe (CEPAL) en agosto de 2023 y el análisis de las Estadísticas de cámaras de vigilancia: las ciudades más vigiladas del mundo elaborado por Bischoff en 2023.

El artículo se divide en cuatro partes. La primera corresponde al marco teórico que discute la relación entre la inteligencia artificial y las tecnologías de vigilancia en las sociedades contemporáneas. Posteriormente se profundiza en el análisis de la IA en América Latina, a través del primer ILIA de la CEPAL publicado en 2023 que sintetiza las capacidades en la región. En el tercer apartado se expone sobre las tecnologías de vigilancia en América Latina, el despliegue en el territorio, el incremento de capacidades e innovaciones y la gestión del monitoreo y la información, con mayor énfasis en la función de seguridad pública. En el cuarto apartado se presentan los hallazgos respecto a la implementación de tecnologías de vigilancia para la seguridad pública que usan IA, además de exponer las características de los proyectos, se profundiza en las narrativas públicas. Y finalmente se presentan las conclusiones.

Tecnologías de vigilancia e inteligencia artificial en las sociedades contemporáneas

El origen de la IA se remonta a la Segunda Guerra Mundial con las innovaciones de Alan Turing en 1936, que dieron al mundo la noción de algoritmo y con ello la posibilidad de imaginar “la representación de una mente artificial” (Quaresma y Vega, 2023: 4), pero “el nombre se acuñó hasta 1956” (Norvig y Russell, 2004: 1). En el tiempo, se han desarrollado innovaciones cada vez más relevantes y su uso se ha difundido ampliamente, propagándose en diversos sectores.

Entre otras aplicaciones destaca, la planificación autónoma, juegos, control autónomo, diagnosis (basada en análisis probabilísticos), planificación logística, robótica y procesamiento de lenguaje y resolución de problemas (Norvig y Russell, 2004: 32-33). Y su propagación en las sociedades contemporáneas tiene implicaciones en la vida cotidiana de las personas, influye en el mercado laboral, la comunicación, la educación, el comercio entre otros ámbitos (Lasse 2018).

No obstante de su diversificación y uso incremental, no hay consenso respecto a la definición de la IA, porque en principio “abarca diversos campos, porque los comportamientos inteligentes que busca imitar son varios”, pero en general se observa que “está diseñada para imitar comportamientos inteligentes. Para lograrlo, se necesita programar tareas en un lenguaje que las computadoras logren procesar” (Commatteo y Moreyra, 2022: 19).

Lasse define que la IA “es la capacidad de las máquinas para usar algoritmos, aprender de los datos y utilizar lo aprendido en la toma de decisiones tal y como lo haría un ser humano” (2018: 17). Se trata de una inteligencia que parte de la inteligencia humana, al ser justamente diseñada por personas que con distintos procesos tecnológicos la adecuan para perfeccionarla.

Pero hay debates profundos al equipararla con la inteligencia humana. Desde la visión de los expertos se comprende que:

“el campo de la inteligencia artificial, o IA, va más allá: no sólo intenta comprender, sino que también se esfuerza en construir entidades inteligentes”; “abarca en la actualidad una gran variedad de subcampos, que van desde áreas de propósito general, como el aprendizaje y la percepción, a otras más específicas… sintetiza y automatiza tareas intelectuales y es, por lo tanto, potencialmente relevante para cualquier ámbito de la actividad intelectual humana. En este sentido, es un campo genuinamente universal” (Norvig y Russell, 2004:1).

El rango de acción de la IA es tan amplio que puede ir desde la medicina hasta la contabilidad o incluso el arte, “desde el reconocimiento facial, hasta la robótica” (Commatteo y Moreyra, 2022: 20). Usarse para reclutar personal en una empresa o para atender asuntos de seguridad en una ciudad.

Se usa en el sector privado, y se usa cada vez más en el sector público. En la gestión de las ciudades, con el uso de tecnologías de vigilancia e IA es mucho más eficiente identificar potenciales riesgos en rangos más amplios de calles, avenidas, infraestructura, etc. O en situaciones específicas como la aglomeración de personas o vehículos, el flujo de vialidades, la semaforización, etc.

Así, se comprende que la IA “puede contribuir enormemente a la transformación de los modelos de desarrollo en América Latina y el Caribe para hacerlos más productivos, inclusivos y sostenibles, pero, para aprovechar sus oportunidades y minimizar sus potenciales amenazas, se requiere reflexión, visión estratégica, regulación y coordinación regional y multilateral” (CEPAL, 2023b).

Entre las potenciales amenazas de la IA destacaría una de sus principales ventajas, que es la capacidad de aprender. No solo desde el aprendizaje automático (machine learning), sino también el aprendizaje profundo (deep learning) que puede resolver problemas complejos con el uso de enormes bases de datos que implicarían miles de horas de trabajo humano².

El aprendizaje de la IA es exponencial, y por lo tanto “los logros que realice serán difíciles de imaginar para los seres humanos ya que tendemos a pensar de forma lineal” (Lasse 2018: 32). Así, la proyección es impresionante: “En la vida diaria, la IA es nuestra socia, ayudándonos a tomar decisiones sobre qué comer, qué vestir, qué creer, a dónde ir y cómo llegar ahí” (Kissinger, et. al., 2020: 17). Incluso se estima que “en un futuro cercano, los asistentes virtuales inteligentes como Siri de Apple y Alexa de Amazon sabrán más sobre ti que tus amigos más cercanos o familiares” (Lasse 2018: 32).

El incremento exponencial del aprendizaje de la IA estará correlacionado con la producción de enormes volúmenes de datos, que serán gestionados desde los distintos “monopolios de la vigilancia” (Zuboff, 2020). Es decir, no son ni serán asequibles horizontalmente para los distintos actores sociales, y habrá quienes obtengan mayor beneficio de estas tecnologías.

Y no obstante del aprendizaje incremental y de lo disruptivo que ha sido y potencialmente podrá ser la IA en el futuro, hay que ser cautos respecto a que se trata de “un sistema artificial e inanimado” que “no tiene ni podría tener una mente consciente” (Quaresma y Vega, 2023: 5), al menos no en su totalidad. Por lo que es imprescindible establecer algunos límites o consideraciones para los desarrollos con IA partiendo de que “los programas no son mentes” y que “un programa por más complejo que sea, no es suficiente para generar una mente” (Quaresma y Vega, 2023: 9-10).

Ahora bien ¿Cómo se relaciona la IA con las tecnologías de vigilancia? En principio las tecnologías de vigilancia son dispositivos que permiten vigilar de manera sistemática y permanente distintos objetivos y situaciones con fines de control social, prevención del crimen (Jasso, 2023) entre otros. Son una especie de ojos tecnológicos que miran más allá que un ojo humano, no solo por la mirada permanente y sistemática, sino también por la enorme cantidad de imágenes y datos que generan de manera continúa sin necesidad de realizar el levantamiento in situ.

Las tecnologías de vigilancia están bastante vinculadas a la IA en cuanto a que las cámaras son uno de los tantos sensores con los que se cuenta en la actualidad (Norvig y Russell, 2004). Estas permiten compilar imágenes y otras informaciones, y con IA hacen posible analizar con mayor celeridad los datos que son almacenados, pero también examinando imágenes para identificar situaciones inusuales o de riesgo en tiempo real. Norvig y Russell (2004: 1017) refieren que estas innovaciones son relativamente recientes y que “en la década de 1990, con un incremento del almacenamiento y velocidad de cálculo, y la disponibilidad general de vídeo digital, el análisis del movimiento encontró nuevas aplicaciones”.

Estas implementaciones que combinan tecnologías de vigilancia e IA también han llegado a nuestra vida cotidiana. En los llamados “hogares inteligentes”³, cuyos desarrollos son capaces de recoger datos y “«aprender» los comportamientos de los habitantes de una casa” gran parte se realiza con el uso de vídeos que incluso se activan para grabar lo que está ocurriendo y mandar notificaciones a las personas o empresas interesadas (Zuboff, 2021: 19).

También con innovaciones como Google Glass que incursionó en 2012 como un “wearable con forma de gafas”. Este dispositivo recuperaba datos del entorno con audio y vídeo que siempre estaba activado, incluso transmitiendo en streaming todo lo que pasaba a su alrededor. La discusión en torno a la potencial vulneración de la privacidad llegó a la disputa legislativa y dejó de venderse en 2015 (Zuboff, 2021: 215-216).

En el tiempo han aparecido otras tecnologías que combinan videovigilancia e IA, e incluso aquellas que se asumen capaces de “leer” las emociones o sentimientos, como es el desarrollo de SEWA (por sus siglas en inglés de “análisis automático de sentimientos en estado natural”) que se presentó en 2015. Este desarrollo originalmente fue implementado para el sector comercial, para “analizar el impacto de su publicidad y hacerla más relevante”, pero se trata de la “rendición-conversión y de suministro de excedente conductual conocidas como computación afectiva, analítica de emociones y análisis de sentimientos” (Zuboff, 2021: 381) que desde luego abre nuevas vetas de información y debates⁴.

Además de su uso en la publicidad, esta analítica de emociones y sentimientos, también se ha implementado para observar las emociones de los estudiantes en escuelas asiáticas, grabando permanentemente y generando reportes sobre la atención en clases, el aburrimiento, etc., tanto al personal educativo como a los padres, incluso en tiempo real⁵. Y desde luego, también se ha usado en otros sectores.

Pero también hay otras cámaras que proliferan en nuestra vida cotidiana: las de los teléfonos inteligentes que potencialmente se vinculan con la IA. En las redes sociales abundan las fotografías y vídeos que con IA pueden procesarse en enormes bases de datos y brindar información sistematizada a las instituciones o empresas⁶.

Durante la pandemia el seguimiento de la movilidad fue posible a través de estos dispositivos, con los que incluso Google presentaba reportes sobre los cambios de la movilidad. Se evidenciaron las capacidades de la vigilancia con IA, donde algunos gobiernos eran capaces de saber e informar cuáles eran las demarcaciones con mayor y menor uso de cubrebocas⁷.

Como se profundiza más adelante, parte de las estrategias urbanas y de seguridad pública y privada en las ciudades, han implementado tecnologías de vigilancia con IA. En las llamadas ciudades inteligentes se generan sistemas urbanos que a través de la videovigilancia y el análisis de datos, ofrecen soluciones a problemas cotidianos como las aglomeraciones de tránsito, afluencia de personas, presencia de humo, prestación de servicios públicos, etc.

En materia de seguridad urbana, quizá una de las implementaciones más frecuentes es el “uso de software de reconocimiento facial para comparar imágenes de vigilancia con bases de datos de fotos de identificación” esto se hace a partir de bases de datos de sistemas de identificación –cuando esto está permitido– con el fin de “confirmar la identidad de un sospechoso” pero también se usa para “determinar a través de cámaras de vigilancia los movimientos particulares de una persona” (Asociación por los Derechos Civiles, 2017 citado en Commatteo y Moreyra, 2022: 24), por ejemplo sí alguien cae, corre intempestivamente, camina en un lugar donde no debería circular, etc.

También está la predicción espacio temporal de la incidencia delictiva que se realiza con las tecnologías de vigilancia y la IA, específicamente con “algoritmos de redes neuronales que resultaron ser uno de los métodos más eficaces para la detección de puntos críticos de delincuencia” (Barragán-Huamán, et. al., 2023: 11). Este análisis parte de la teoría y evidencia empírica del análisis espacial que principalmente explica que la incidencia delictiva en el territorio no es aleatoria, que se asocia a determinadas variables sociales o situacionales y por lo tanto existe la posibilidad de realizar predicciones.

Además, “hay aplicaciones y casos de uso en los que el análisis de DL⁸ ya está proporcionando un valor real para las organizaciones, por ejemplo, al examinar grandes cantidades de material grabado en busca de objetos o eventos específicos, lo que a menudo llamamos búsqueda forense” (Thulin, 2020). En esta búsqueda forense destacaría los avances en materia de búsqueda de personas desaparecidas.

En 2020, un grupo de investigadores de Johannes Kepler University Linz, en Austria, desarrollaron un dron que con el apoyo de inteligencia artificial puede “clasificar y detectar mejor a las personas mediante la combinación de varias imágenes individuales en una imagen integral…aumentando la eficacia de las búsquedas” (Piacente, 2020) incluso en contextos complejos como bosques. Los avances no son menores, se argumenta que “la utilización de nuevas tecnologías, algoritmos y modelos de aprendizaje profundo permite alcanzar una probabilidad de más del 90 por ciento en cuanto al hallazgo de las personas buscadas” (Piacente, 2020)⁹.

Asimismo, estas tecnologías de vigilancia se han ido complementando con otros aditamentos que conjuntamente contribuyen a la protección el patrimonio público y privado.

“Con la tecnología reciente que hay en el mercado es posible conectar el sistema de alarma con el control de sonido, de iluminación, o de acceso, incluso con el aire acondicionado y hacer configuraciones completas para que esos sistemas reconozcan el comportamiento y respondan a necesidades como los horarios de encendido de luces o activar las alarmas y cerrar los accesos cuando uno de los usuarios se aleja más de cierta cantidad de metros” (Entrevista realizada al director comercial de seguridad electrónica en Seguridad Nacional Ltda, citada en Montoya, 2023).

Así, una gran cantidad de sensores adicionados a las cámaras se conjuntan para realizar desarrollos cada vez más integrales que con el uso de IA son capaces de aprender y proteger a los gobiernos, las personas y su patrimonio.

En suma, las tecnologías de vigilancia y la IA son parte de las sociedades contemporáneas. Y en el caso de América Latina, aunque se ha desarrollado en menor proporción que en otras latitudes, también ha sido incremental.

El desarrollo y capacidades de la Inteligencia Artificial en América Latina

En agosto de 2023, la CEPAL presentó el primer Índice Latinoamericano de Inteligencia Artificial (ILIA) que es “un estudio pionero que revela la situación de la IA en 12 países de la región”: Argentina, Bolivia, Chile, Perú, Colombia, Uruguay, Paraguay, Costa Rica, Ecuador, Panamá, Brasil y México (CEPAL, 2023b).

Este estudio dimensiona las brechas existentes entre América Latina y el resto del mundo. Quizá no es sorprendente que el desarrollo en la región es menor, pero el Índice precisa que “la penetración relativa de habilidades tecnológicas y disruptivas, asociadas a la IA, es menor en América Latina (2,16%) que en el resto del mundo (3,59%) (CEPAL, 2023a: 11).

Entre los hallazgos del Índice sobresale que la calificación promedio de la región respecto a los factores habilitantes que “mide el avance de los elementos necesarios para que se constituyan y desarrollen sistemas de IA robustos en cada país” (CEPAL, 2023a: 16) es de 42.66 de un máximo de 100.

Muestra “conectividad insuficiente” donde el promedio regional es de 70% con velocidades de descarga diferenciadas; “escaso acceso a capacidad de cómputo” con ningún país con infraestructura local de cómputo específico para el desarrollo de IA¹⁰; “ecosistema de datos que puede fortalecerse” particularmente con estrategias multilaterales para el uso más efectivo de los datos; “ausencia de programas de capacitación y reconversión laboral” donde pocos países se han enfocado en estos temas, y; “la fuerza laboral se está quedando en el pasado” con menores habilidades tecnológicas por la falta de capacitación (CEPAL, 2023a: 15).

También evidencia las brechas al interior, donde cada país tiene niveles de desarrollo diferenciados. Sobresalen Chile (63.71) y Brasil (60.32) con las calificaciones más altas, pero en contraparte están Paraguay (24.35) y Bolivia (21.99) (CEPAL, 2023a). Y en cada país el índice muestra las diferencias entre los componentes: infraestructura, datos y desarrollo de talento. En el ILIA 2023 es notorio que “los resultados indican que ningún país destaca transversalmente en todas las dimensiones consideradas, lo cual da espacio para el aprendizaje cruzado entre las experiencias de los países” (CEPAL, 2023a: 11). Véase la Gráfica 1.

Fuente: Gráfica de elaboración propia con datos de la CEPAL, 2023a / ILIA.

No se observa regularidad respecto a una dimensión predominante con mayor desarrollo en todos los países. Así como tampoco hay evolución similar de las distintas dimensiones en cada país. En algunos países destaca la infraestructura, y en otros el desarrollo de talento. Pero como región el índice muestra que hay mayor progreso en la infraestructura (51.21), seguido de los datos (39.8) y finalmente está el desarrollo de talento (36.97) (CEPAL, 2023a).

Particularmente llama la atención que el mayor desarrollo se encuentre en la infraestructura. Lo cual podría asociarse al poderoso mercado que ofrece estas tecnologías y desde hace tiempo, las apuntala como una nueva necesidad para la implementación de “ciudades inteligentes” en la región.

Sobre los datos y la capacidad de gestión, “la cantidad de datos disponibles para el desarrollo y entrenamiento de modelos es inconmensurable. Sin embargo, hoy no existe en la región infraestructura capaz de procesar y entrenar los modelos del estado del arte en IA, por ejemplo, los actuales grandes modelos de lenguaje o modelos multimodales” (CEPAL, 2023a: 11).

Y en cuanto al desarrollo de talento, la formación en la región es incipiente. La mayor parte de los recursos humanos que cuentan con estas capacidades se forman en otras latitudes y no necesariamente encuentran atractivo el retorno a su lugar de origen por las opciones laborales que se ofrecen.

En suma, el contexto para la evolución de la IA en América Latina al momento de escribir este texto, es desafiante. Pero en correspondencia con los desarrollos de otras regiones, es previsible que avance incrementalmente en el corto y mediano plazo.

El despliegue de las Tecnologías de Vigilancia en América Latina

La historia de las tecnologías de vigilancia en América Latina es más reciente que la de países asiáticos o anglosajones (Jasso, 2023). Sin embargo, prácticamente en todas las ciudades de la región, se implementan estas tecnologías con fines principalmente, de seguridad.

En algunos países del mundo, la proliferación y avances de estas tecnologías es de tal magnitud que voces expertas sugieren que “gracias a las cámaras y los sensores que proliferan en los espacios públicos y privados, casi todo lo que hacemos está «mediado» por ordenadores que registran y codifican los detalles de nuestra vida diaria en una escala que nos habría resultado inimaginable hace apenas unos años” (Zuboff, 2021: 251). Quizá esta afirmación no sea tan contundente en el territorio latinoamericano, pero en correspondencia a lo que ha ocurrido en otras regiones es probable que se trate de nuestro futuro próximo.

En el análisis realizado por Bischoff (2023) se enlistan 22 ciudades latinoamericanas que se ubican entre las 150 más videovigiladas del mundo. El dato no es menor, considerando que la incursión de estas tecnologías en la región es mucho más reciente y que muchas de estas economías son más vulnerables.

En los datos se observa que son 8 países en los que se ubican éstas ciudades más videovigiladas. En el ranking destacan ciudades capitales como Ciudad de México, Bogotá, Lima, Santiago, Brasilia, Buenos Aires, Santo Domingo y Asunción; pero también están otras ciudades relevantes en la región por su densidad poblacional o por sus trayectorias de violencia e inseguridad, como Medellín, Guadalajara, Monterrey, Rió de Janeiro y São Paulo. La Ciudad de México es la que encabeza el listado con mayor cantidad de cámaras, le sigue Bogotá y posteriormente Río de Janeiro. Véase la Tabla 1.

Al contrastar los datos absolutos con otras variables como la densidad poblacional, sobresale que Puebla, México es la que tiene la mayor cobertura con 4.53 cámaras por cada 1,000 habitantes (Bischoff, 2023). Cifra distante de las 439.07 cámaras por cada 1,000 habitantes que hay en Shanghái, China pero relevante para comprender la densidad de videovigilancia y observar que este es un fenómeno que se potencializa en el orden local.

El promedio de estas 22 ciudades es de 1.2 cámaras por cada 1,000 habitantes, pero hay ciudades como Asunción, que es capital de Paraguay, que tiene 0.23 cámaras por cada 1,000 habitantes (Bischoff, 2023). Y seguramente, la mayoría de las ciudades de la región tendrán coberturas mucho más bajas, ya sea por sus estrategias de seguridad y de control urbano o por restricciones presupuestales. Véase la Gráfica 2.

Fuente: Elaboración propia con datos de Bischoff, 2023.

Al comparar con el análisis de Bischoff (2023) en el que se consideran ciudades de todo el mundo, se observa un comportamiento similar. Solo dos ciudades: Indore y Hyderabad, ambas en la India, sobresalen como las urbes con la cobertura de más cámaras por cada 1,000 habitantes y el resto de las ciudades se aglutina en los niveles más bajos.

Sobre la cobertura territorial, se observa que en estas ciudades más videovigiladas, el promedio de cámaras por milla cuadrada es de 16.6. Ciudad de México (139.53) y Bogotá (70.68) son las ciudades con mayor cobertura, que contrastan con Curitiba (0.41) que tiene la menor cobertura (Bischoff, 2023). Así, es probable que otras ciudades cuenten con menor cantidad de cámaras por milla cuadrada.

Otro dato que se explora en la investigación de Bischoff (2023), es la relación con el Índice de criminalidad¹¹. Análisis relevante, considerando que la mayor parte de las cámaras que se instalan particularmente en América Latina, son para la prevención y contención de la inseguridad. Se observa que la correlación entre cámaras de videovigilancia e índice de criminalidad es de r2=0.0254, es decir la correlación es baja. Véase la Gráfica 3.

Fuente: Gráfica de elaboración propia con datos de Bischoff, 2023.

Tecnologías de vigilancia e inteligencia artificial para la seguridad pública en América Latina

En América Latina la IA se ha sumado a las tecnologías de vigilancia para la seguridad pública. No en la magnitud que se ha registrado en otras latitudes como China¹², pero con notables avances. Y como refiere Zuboff, hay un “síndrome de China” que muestra una especie de “camino que la tecnología está emprendiendo en otras muchas partes del mundo” (Zuboff, 2021: 525).

En América Latina, las tecnologías de vigilancia y la IA conforman un mercado complejo por las diversas preferencias tecnológicas de los consumidores (Montoya, 2023), y por la gran cantidad de variables que caracterizan a la región, como la violencia y la desigualdad social. Hay “una amplia gama de empresas que ofertan servicios de vigilancia y monitoreo, más enfocados a las soluciones de seguridad” (Montoya, 2023). Muchas de éstas han integrado la IA como un componente de la vigilancia. Por ejemplo en México, una exposición anunciaba: “Este año, el eje de Expo Seguridad en materia de TI girará en torno a la Inteligencia Artificial aplicada a la videovigilancia” (Payan, 2023).

Entre las características de estas tecnologías destacaría que en el tiempo se han propagado, incluso hay algunas que resultan cada vez más accesibles que antes en términos económicos. Y en general, su costo se considera rentable porque se equiparan como “un vigilante virtual, que reduce el costo hasta en un 30%” (Montoya, 2023).

Respecto a estas tecnologías, es pertinente retomar las categorías analizadas por la CEPAL (2023a) en cuanto al desarrollo de la IA que requiere la convergencia de: infraestructura a través de cámaras, drones, centros de control, etc.; capital humano, relevante para la implementación y gestión de estas tecnologías; disponibilidad de datos, para realizar las búsquedas; regulaciones, que establezcan límites respecto a la vulneración a los derechos humanos; áreas estratégicas para la gestión de la infraestructura y los datos, así como la toma de decisiones, y; participación ciudadana que socialice estas tecnologías. Si bien no existe un índice específico para las tecnologías de vigilancia y la IA, es de esperarse que ciertas condiciones que se reflejan en el ILIA 2023 se reproduzcan en este ámbito. Destacando que el desarrollo en América Latina es menor que en otras regiones del mundo.

A nivel global Asia es la región con mayores capacidades tanto de tecnologías de vigilancia como de IA. Hay ciudades que con el uso de IA son capaces de gestionar y analizar los datos para encontrar un rostro en bases con información de miles de millones de personas y objetos. En Shanghái, Dragonfly Eye, cuenta con el algoritmo de IA desarrollado por la empresa china Yitu que “puede reconocer fácilmente a cualquiera entre 2,000 millones de personas” (Aldama, 2018). Así como también cuentan con gran infraestructura, como en el metro de Shanghái que en 2018 contaba con 30,000 cámaras para vigilar la afluencia de pasajeros en las instalaciones públicas (Aldama, 2018). En muchas ciudades importantes de América Latina no se cuenta ni con la tercera parte de estas cámaras para vigilar toda la ciudad.

Sin embargo, en América Latina se ha incrementado la implementación de proyectos de seguridad pública que incluyen videovigilancia e inteligencia artificial. Como se presenta en las siguientes páginas, hay evidencia de sistemas de reconocimiento facial, lectoras de placas, análisis predictivo, entre otras innovaciones, que se apoyan en la combinación de las cámaras o drones y software de IA.

En muchos casos se trata de proyectos integrales que se correlacionan ideológica o tecnológicamente con en el concepto de ciudad inteligente, involucrando sistemas de videovigilancia conectados institucionalmente, que se apoyan en la IA para el análisis de los datos. Tal es el caso de la Municipalidad de Miraflores (2022) en Perú, donde implementaron el Proyecto Miraflores Ciudad Inteligente que incluye cámaras de videovigilancia que en tiempo real realiza la lectura de placas de vehículos y el reconocimiento facial de presuntos “vehículos robados y personas con requisitoria” que cotejan con las bases de datos de la Policía Nacional. En un vídeo de la municipalidad, explican que cuentan con IA y analítica para detectar la velocidad de los autos en las avenidas y en caso de un operativo, pueden activar todos los semáforos en rojo.

Un aspecto relevante de este proyecto es la difusión del uso de IA con carteles en las calles que anuncian “cámaras con reconocimiento facial”. Aspecto que no es menor, considerando que algunas ciudades, aún y cuando tienen este tipo de tecnologías, no lo socializan públicamente. Véanse las Imágenes.

Fuente: Municipalidad de Miraflores, 2022.

Recientemente otras ciudades latinoamericanas han sumado la IA a sus sistemas de videovigilancia. El Gobierno de Mendoza (2021) en Argentina, proyectó que en 2022 contaría con 3,000 cámaras. Destaca la adquisición de 80 cámaras con tecnología de IA que “generan alertas predictivas, búsquedas forenses de vehículos, objetos y personas para facilitar la resolución de sucesos” y otras 100 cámaras que realizan el “rastreo de patentes con pedido de captura” que “contarán con la posibilidad de configurar patrones que se activarán y generarán alertas a la policía para que se controle la escena en tiempo real”. Desde el punto de vista del Ministro de Seguridad, además de que esta tecnología es “fundamental” representa “un salto de calidad” (Gobierno de Mendoza, 2021) por las posibilidades de gestión de la seguridad que les representan estas tecnologías.

En Asunción, Paraguay desde 2018 se contaba con una red de cámaras con “sistemas de reconocimiento facial y de placas de vehículos, para la identificación de las personas” (Redacción, Paraguay). Y en Guatemala, las más de mil cámaras instaladas desde 2015 en distintas ciudades como la capital y la Antigua, se definen como dispositivos de “última generación” que cuentan con “cualidades “especiales” que detectan los rostros humanos para reconocer a las personas y matrículas de vehículos, y funcionan en cualquier situación climatológica, lo que los coloca a la vanguardia tecnológica para disminuir los índices delictivos” (Redacción El Economista, 2015).

Y con mayor antigüedad, se registran los casos de Tegucigalpa, Honduras y Brasil. En Tegucigalpa desde 2012 contaban con cámaras lectoras de placas “para detectar aquellos automotores con reporte de robo u otras situaciones ilícitas” (Redacción Proceso Digital, 2012). Mientras que en Brasil, se tiene registro que desde 2011 la policía militar utiliza gafas con tecnología de reconocimiento facial para identificar a presuntos delincuentes. Estas gafas son capaces de “capturar hasta 400 caras distintas por segundo” que se contrastan con una base de datos de “13 millones de sospechosos en base a 46,000 puntos biométricos de la cara” (Zahumensky, 2011). Esta tecnología se adquirió con miras a los Juegos Olímpicos en 2016.

En las tecnologías de vigilancia, los drones se han convertido en dispositivos relevantes para la seguridad pública, porque permiten la vigilancia móvil con la que no cuenta una cámara fija. Y además, según sus características pueden desplazarse en tiempos y distancias que son útiles para las instituciones, particularmente cuando se trata de territorios complejos, ya sea por geografía o contexto. Muchos de estos dispositivos actualmente se implementan con IA.

En 2022, en Buenos Aires anunciaron la adquisición de drones “con funciones integradas de planificación de misiones, vigilancia por video, mosaico en tiempo real, procesamiento de IA, redes de estaciones múltiples, despegue y aterrizaje remotos, etc., conciencia situacional e inteligencia accionable” (Ochoa, 2022). Y años antes, el Gobierno de Bogotá (2019) adquirió 5 drones para apoyar las labores de la Policía Metropolitana de Bogotá. Tienen cámaras de alta resolución que les permite tener alcance de hasta 7 km y visión térmica. En palabras del alcalde “esto pone a Bogotá como una de las ciudades más avanzadas en todo el sistema de videovigilancia, estos equipos sirven para supervisar zonas de alta aglomeración, para identificar a los vándalos cuando se presentan manifestaciones, vigilar accesos en las estaciones de TransMilenio, será una vigilancia silenciosa, pero efectiva para la ciudad” (Gobierno de Bogotá, 2019).

En Santiago, Chile en 2019 el Presidente anunció la adquisición de drones que denominaron Sistema de Vigilancia Móvil. Estos dispositivos cuentan con cámaras termales, reconocimiento facial y de patentes. La operación inicialmente sería encabezada por los Carabineros, pero posteriormente quedaría “a cargo de una empresa que tendrá que pasar por un proceso de licitación” (Chechiniltzky, 2019).

En 2017 en Brasil se difundía la donación de drones por parte de las empresas chinas Dahua Technology y DJI. Entre las características de estos dispositivos destaca “la cámara de alta definición que puede transmitir imágenes térmicas” (Redacción Bnamericas, 2017). El programa fue llamado Dronepol y el entonces alcalde afirmaba que Sao Paulo era “la primera ciudad latinoamericana en emplear drones para vigilancia pública” (Redacción Bnamericas, 2017).

La presencia de drones con fines de vigilancia pública se ha multiplicado exponencialmente en el tiempo. Para 2019 la Policía Militar de Sao Paolo anunció la adquisición de 160 drones, de los cuales 30 contaban con cámara térmica, así como “permite la integración de imágenes de drones directamente con teléfonos de la policía, cámara de la ciudad, cámaras de los ciudadanos (en caso de emergencia) y reconocimiento facial por cualquiera de estos canales de transmisión en vivo, y analizar y procesar lo que sucede en tiempo real” (Valadares, 2019).

Sobre la adquisición y eficiencia esperada de los drones destaca el caso de la Policía Federal de Brasil que en 2020 adquirió dispositivos de uso militar de origen israelí. Estos iniciaron a operar en Río de Janeiro, Fortaleza y Santa Catarina y desarrollaron “capacidades de predicción de criminalidad que combinan máquinas inteligentes y series de datos sobre delincuencia para estimar la probabilidad de ocurrencia de ese tipo de eventos” (Muggah, 2020). Desde la visión de los expertos, “aunque propensas a las críticas y vulnerables a sesgos, hay evidencia de que algunas herramientas predictivas pueden ayudar a mejorar la efectividad y la eficiencia de la vigilancia policial”(Muggah, 2020). Sin embargo, insistiría en la cautela en cuanto a los posibles sesgos y errores que se han detectado en otros casos.

Los drones también tienen otras funciones además de la vigilancia. Venezuela se refirió como “el primer país de la región en contar con estos UAV con capacidades ofensivas”¹⁴ (Redacción El Universal, 2022). Se trata de drones armados, en este caso provenientes de Irán, que fueron mostrados durante el desfile militar por la independencia en 2022. El uso de drones armados no es un tema menor, considerando que con las innovaciones de la IA, se puede potencializar su uso y probablemente también, la letalidad, incluso hacia población civil¹⁵.

Otro aspecto a destacar de los drones, es la versatilidad de funciones o tipos de vigilancia que pueden realizar. En Buenos Aires, como parte del plan Anillo Digital en la General Paz, se utilizan para “tener una mejor visual de manifestaciones masivas y también actuar en casos menos conflictivos como maratones o recitales” (Davidovsky, 2017). Y estos mismos dispositivos son utilizados en su país de origen: Israel, para monitorear zonas “conflictivas” como la Franja de Gaza.

En eventos internacionales, como los Juegos Olímpicos de Río 2016 o la visita del Papa a Brasil, fueron utilizados para “tener un estado de situación preliminar en diversas situaciones sensibles” (Davidovsky, 2017), como un monitoreo preventivo en contextos de aglomeraciones. Y muy probablemente, incluso este tipo de eventos fueron los motivos y justificación para adquirir este tipo de dispositivos.

Además, es necesario enfatizar que estas tecnologías no son infalibles, en marzo de 2023 durante un vuelo de prueba uno de los drones que el ministerio de Justicia de Buenos Aires había recientemente comprado, “perdió el control por razones que hasta el momento se desconocen, se estrelló contra el suelo y terminó totalmente destruido” (Redacción Infobae, 2023). Además de los riesgos económicos que representa para un gobierno¹⁶, este tipo de accidentes también vulnera las capacidades de vigilancia e incluso atenta contra la seguridad de las personas.

Es evidente que hay avances en IA y videovigilancia en América Latina. Uno de estos avances es la “predicción espacio temporal de la incidencia delictiva” y “los posibles resultados con la aplicación de algoritmos y otros métodos inteligentes” (Barragán-Huamán, et. al., 2023: 22-23). En el análisis que consideró 14 ciudades de América Latina se encontró que con estas tecnologías el tiempo de análisis se acota radicalmente, de semanas de trabajo a un día, e incluso segundos (como se evidenció en Panamá); también sobresalen capacidades de proyección, de identificación de puntos calientes, así como el análisis de los hechos delictivos y sus entornos.

Estos resultados se califican como “asombrosos” pero desde luego hay que ser cautos en cuanto a que “la eficacia es aún incierta”. Se observa que “la ubicación que se muestra en estas investigaciones no tiene márgenes realistas exactas de los puntos más críticos” y que los gráficos o tablas “son difusos y por ello son poco entendibles” (Barragán-Huamán, et. al., 2023: 24), entre otros “errores” o “sesgos” que probablemente mejorarán en el tiempo, partiendo de que la inteligencia artificial sigue procesos de aprendizaje exponenciales (Lasse 2018).

A la par de estos avances, es fundamental plantear que aún hay muchos potenciales aplicativos por desarrollar y como lo reconoce la industria¹⁷ “todavía estamos en el comienzo del viaje de la inteligencia artificial en la vigilancia” (Thulin, 2020). Y,

“Dadas las limitaciones actuales en la precisión de estas tecnologías, y que la comprensión adecuada y contextual de una escena en detalle real a partir de un video aún está muy lejos, debemos tener cuidado sobre cómo y dónde usar estas tecnologías. La tecnología actual mejora la eficiencia, pero la toma de decisiones real en un escenario de vigilancia aún debe recaer en el guardia de seguridad o el operador. Debemos mantener a un «humano informado»” (Thulin, 2020).

Es decir, el factor humano (Smith, 2004) sigue y seguirá al centro de la gestión de estas tecnologías. Y desde luego también, las instituciones desde el diseño e implementación de políticas públicas.

Sobre las capacidades institucionales, en América Latina las restricciones presupuestales son una realidad que impacta en varios sentidos. Destacaría que la tendencia de la industria apunta hacia las “aplicaciones que se ejecutan en las propias cámaras” (Thulin, 2020), lo cual implica erogación de recursos que no todos los gobiernos pueden realizar.

Otro debate relevante gira en torno a las preguntas: ¿Cómo la IA puede vulnerar los derechos fundamentales? ¿Cuáles son las estrategias y acciones pertinentes ante el incremento de tecnologías de vigilancia e IA? Estos son temas amplios y complejos, particularmente por “existe la inquietud de que la toma de decisiones operativas en materia de seguridad urbana se vuelva un proceso deshumanizado con dilemas éticos” (Vizcaíno, 2020: 25), pero en la región hay algunos avances.

En Chile el uso de los drones se ha vinculado al debate de los derechos humanos. Los expertos en la materia argumentaron que “el tipo de datos que los drones pueden recopilar, de acuerdo a las regulaciones actuales de la ley de datos son sensibles”, que “eventualmente se podrían reconstruir los patrones de vida de las personas” (Chechiniltzky, 2019). Desde el gobierno se especificó que: “la televigilancia sólo se realiza en espacios públicos y se resguarda la privacidad con un control cerrado de imágenes” (Portal de Gobierno de Santiago, 2020). De manera similar ocurre en otros países, pero más allá del discurso, no se tiene certeza de que efectivamente se vele por los derechos de las personas.

En Argentina también se ha discutido sobre los derechos humanos. La Asociación por los Derechos Civiles, con sede en Buenos Aires, señaló que “la tecnología de identificación biométrica, y particularmente el reconocimiento facial, viene a redefinir el concepto de espacio público como lo comprendíamos, un cambio que comenzamos a experimentar con la llegada de las cámaras de vigilancia (CCTV ) y que es acentuado con tecnologías que permiten adentrarse en detalle en la vida pública de las personas, bajo el pretexto de la investigación del delito” (Davidovsky, 2017).

Vinculado al debate de los derechos humanos, está el derecho a la información y a la rendición de cuentas. Al respecto, este es el espacio para reflexionar que con gran probabilidad, la información que aquí se ha expuesto sobre tecnologías de vigilancia e IA para la seguridad pública en América Latina, sea marginal. Esta limitación no responde a las capacidades de búsqueda en esta investigación, sino que se asocia a parte de la hipótesis que plantea que los gobiernos no transparentan y rinden cuentas sobre estos temas. La mayor parte de la información que se puede documentar proviene de la industria y el mercado, y los gobiernos difunden la información de manera limitada.

En las narrativas, incluso desde las mismas autoridades se reconoce que no hay difusión. Como la declaración del encargado de cómputos del Departamento de Investigación de Vehículos Robados de República Dominicana quien al explicar sobre el sistema de reconocimiento automático de placas, advertía que “pocos conocen de su existencia” (Rodríguez, 2018).

En este contexto, sobresale la documentación de evidencia de la transparencia sobre la cantidad y origen de los recursos públicos utilizados y la compilación de estadísticas que eventualmente se presentan en eventos públicos. En 2020 el Gobierno de Santiago difundió que en la Región Metropolitana “funcionan desde 2018 seis drones con el financiamiento de la SPD. Proyecto que, al 31 de mayo de 2020, registra 8,334 horas de vuelo con drones y que ha contribuido a la detención de 307 personas por distintos delitos” (Portal de Gobierno de Santiago, 2020). Se socializó que el monto de la iniciativa aprobado en el Consejo Regional Metropolitano “es cercano a los 3 mil 500 millones de pesos, de los cuales $1,817,640,321 (51,2% del total) serán puestos por el GORE RM” (Portal de Gobierno de Santiago, 2020).

Aunque también es notoria la ausencia de esta información, como en el caso de un dron israelí adquirido por el gobierno de Buenos Aires en cuya presentación realizada por el mismo ministro de Justicia y Seguridad “no informaron los costos del servicio” (Davidovsky, 2017). Situación similar que ocurrió en la misma ciudad unos años adelante, donde las noticias cuentan con información detallada de las características de la vigilancia pero “no se conocen detalles de la inversión” (Ochoa, 2022). Pero probablemente con el tiempo, estas asimetrías de información se acoten, como ocurrió en este mismo caso de Buenos Aires, cuando en 2023 el Organismo Provincial de Contrataciones publicó el costo de los drones¹⁸.

Las innovaciones de la vigilancia e inteligencia artificial son cada vez más relevantes para la seguridad pública y la sociedad en general. Incluso son impulsadas desde de la política pública de seguridad a nivel nacional. En México, en la Norma Técnica de Videovigilancia se refiere “el uso de video inteligente (analytics) para detectar en forma automática a personas y vehículos, lo que permite monitorear más imágenes con menos operadores” (Vizcaíno, 2020: 21).

En el proceso es importante discutir en torno a la dependencia tecnológica. Gran parte del desarrollo e innovaciones de las tecnologías de vigilancia e IA que implementan los gobiernos latinoamericanos, provienen de la industria China, aunque también hay casos donde son de origen ruso o israelí, y en algunos otros casos más, de Irán. Pero también se ha documentado la participación del Gobierno de Estados Unidos, como ocurrió con la donación de 13 cámaras que “cuentan con tecnología para una transmisión de imágenes que permitirán la identificación de personas en hechos ilícitos, o bien el apoyo a los agraviados” a la Municipalidad de Sayaxché, Petén en Guatemala (Solorzano, 2015).

En el corto y mediano plazo acotar la dependencia tecnológica debe ser una meta asequible. No solo por los recursos a invertir que podrían disminuirse, sino por el desarrollo de innovaciones totalmente aplicables al contexto y la autonomía y seguridad de las políticas públicas.

Conclusiones

En América Latina hay cada vez más ciudades con implementaciones de tecnologías de vigilancia y capacidades de IA para la seguridad pública, que integran cámaras, drones, software de reconocimiento facial, análisis predictivo y en tiempo real, entre otras innovaciones.

En correspondencia al ILIA 2023, Argentina, Chile, Brasil, Perú y México son los países que sobresalen con más desarrollo en la región. Aunque también hay implementaciones relevantes en otros países, como Venezuela que cuenta con drones armados guiados con IA. Probablemente hay países, que en lugar de seguir el camino incremental, optan por adquirir tecnologías más poderosas e innovadoras al considerarlo necesario, lo cual contrae riesgos para la sociedad.

Pero en general hay una demanda creciente de sumar IA a los sistemas de videovigilancia con fines de seguridad pública en la región. Y hay un mercado prolífico que ofrece estas innovaciones tecnológicas que se han desarrollado con mayor intensidad en países asiáticos y anglosajones.

Otra cuestión que sobresale, es que en América Latina las tecnologías de vigilancia “se desarrollan con mayor intensidad a nivel local” (Jasso, 2020: 20) y son las ciudades las que destacan en estas implementaciones. Pero en el caso de las que involucran IA, también hay inversiones nacionales que implican la visión de Estado y desde luego más recursos y capacidades institucionales.

En la narrativa pública permea el entusiasmo por la tecnología celebrando la adquisición de innovaciones. Sin embargo, hay déficits en las capacidades institucionales para la gestión de estas tecnologías: prevalece la ausencia de transparencia y rendición de cuentas respecto a los derechos humanos que potencialmente se vulneran, el total y origen de los recursos públicos, las estadísticas que muestren las capacidades y resultados de estas tecnologías, entre otros.

Prevalecen los vacíos legales respecto a la gestión de estas tecnologías, que recurrentemente se dejan parcialmente en manos de empresas, y no se tiene certeza de la autonomía de los servicios y por el contrario se crea dependencia tecnológica.

En esta lógica, pareciera ser que la tecnología avanza con mayor velocidad que cualquier posibilidad de legislación y capacidad de gestión. Y particularmente en América Latina esto representa un reto mayor, debido a que los mercados de otras latitudes dominan el escenario. Por lo que hay diversos aspectos que deben regularse.

En los datos compilados se observa que en los últimos años se ha incrementado la cantidad y calidad de las tecnologías de vigilancia e IA en América Latina. Y aunque estamos distantes de las implementaciones asiáticas, estamos vinculados a esta dinámica global. La mayor parte de los sistemas de videovigilancia que incluyen innovaciones de IA, provienen de países asiáticos y anglosajones.

En este sentido, como región se tiene la oportunidad de prever los posibles escenarios en torno a estas innovaciones y tomar las decisiones que correspondan a la política pública de seguridad de cada país. Considerando que “si bien el avance de la IA puede ser inevitable, su destino final no lo es” (Kissinger, et. al., 2020: 17).

Notas

1. Nota de autora:Doctora en Políticas Públicas por el Centro de Investigación y Docencia Económicas, A.C. (CIDE). Líneas de investigación: Seguridad Pública y Políticas Públicas para la reducción y prevención de la criminalidad, y tecnologías de vigilancia. Publicación más reciente: Jasso López, L. (2023). La ciudad videovigilada: entre la prevención del crimen y el control social. Universidad Nacional Autónoma de México, Instituto de Investigaciones Sociales. ISBN: 978-607-30-7053-9.
2. 1.Es el año más antiguo con referencias a la IA en América Latina.
3. 2.Entre los primeros desarrollos de IA están los que aprendieron a jugar ajedrez y han logrado derrotar a los mejores humanos ajedrecistas del mundo. Este tipo de aprendizajes se ha llevado a otros juegos en donde se ha encontrado que “los bots aprenden en un día lo que un humano tardaría en 100 vidas” (Pinedo, 2021).
4. 3.Algunos es estos desarrollos tecnológicos disponibles en el mercado, han sido calificados por Zuboff (2021: 323) como “productos con connotaciones menos inocentes” entre los se encuentran las cámaras de seguridad para el hogar con reconocimiento facial que permiten o no la apertura de una cerradura o iniciar algún sistema; sistemas de alarma que monitorean las vibraciones “inusuales” de una persona, sensores de movimiento que cuentan con detectores de temperatura o sonidos; entre otros.
5. 4.La empresa Relayes que desarrolló SEWA, argumenta que cuenta con “5,5 millones de fotogramas (con anotaciones individuales) de más de siete mil sujetos de todo el mundo” (Zuboff, 2021: 383) que le permite analizar y procesar automatizadamente, un gran volumen de información.
6. 5.Estas innovaciones han llegado a América Latina. En noviembre de 2019 el Gobernador electo de Mendoza, Argentina, visitó la escuela de la Universidad Tsinghua que “ha desarrollado mucho en cuanto a la inteligencia artificial para trabajar todos los aspectos de los niños” (Gobierno de Mendoza, 2021). Ver: https://www.mendoza.gov.ar/prensa/el-modelo-de-educacion-china-inteligencia-artificial-y-jornada-extendida/
7. 6.Clearview AI, “se ha centrado en unas 30,000 millones de fotografías publicadas en Facebook y otras redes sociales, para crear una base de datos de reconocimiento facial para los departamentos de policía de Estados Unidos”. Ver: https://www.20minutos.es/tecnologia/inteligencia-artificial/inteligencia-artificial-escanea-30000-millones-fotos-facebook-base-datos-policial-5116372/
8. 7.Se trata de “un software especial para la detección autonómica de cubrebocas con aprendizaje profundo, usando inteligencia artificial empoderada por técnicas de visión artificial e internet de las cosas” desde luego apoyado en las cámaras de videovigilancia públicas. Ver: https://direcciondecomunicacion.unison.mx/crean-sistema-de-deteccion-automatico-de-cubrebocas-usando-inteligencia-artificial/
9. 8.Hay aplicaciones en el análisis de video basado en aprendizaje automático (ML) y en aprendizaje profundo (DL).
10. 9.En la presentación del desarrollo se explicó que “junto a las misiones de búsqueda y rescate, los nuevos drones podrán ser utilizados en una amplia gama de actividades, como la observación científica de la fauna y la flora, el desarrollo de vehículos autónomos y la vigilancia policial y militar. A futuro, los especialistas creen que el nuevo sistema de drones logrará mejorar aún más la velocidad y el radio de búsqueda, ganando en eficacia y confiabilidad” (Piacente, 2020).
11. 10.Aunque hay casos relevantes en la región. En 2020, la empresa Huawei firmó un convenio con la Universidad Nacional Autónoma de México para realizar proyectos y trabajar en soluciones de IA. El laboratorio dispone de recursos físicos y lógicos (software), Machine Learning, Deep Learning, Plataformas para desarrollo de IA, etc. Ver: https://alianza.unam.mx/
12. 11.El índice de criminalidad utilizado por Bischoff (2023), contempla un total de 348 ciudades y la escala de medición es de 0 a 100. Para dimensionar la situación de América Latina en el contexto global, se observa que Caracas, Venezuela (83,19) y Pretoria, Sudáfrica (81,83) son las dos ciudades con los índices más altos, y Ajman, (12,13) y Ras al-Khaimah (8,29) de Emiratos Árabes Unidos, son las ciudades con el índice de criminalidad más bajo. Los datos se consultaron directamente el 30 de agosto de 2023 en: https://www.numbeo.com/crime/rankings_current.jsp
13. 12.Zuboff documenta que en 2017 en una feria de tecnologías de vigilancia en Shenzen, en la que naturalmente se vendieron “cámaras equipadas con inteligencia artificial y reconocimiento facial”, el director británico de CCTVdirect, “se lamentó de «qué atrasados están los países occidentales» en comparación con el ingenio y la ambición de las infraestructuras de vigilancia de China” (Zuboff, 2021: 525).
14. 13.Ver: https://www.gob.pe/institucion/munimiraflores-lima/noticias/683193-miraflores-es-la-primera-ciudad-inteligente-del-peru
15. 14.El director de la Coordinadora Regional de Investigaciones Económicas y Sociales (CRIES), afirmaba que en el continente americano solo Estados Unidos “emplea armamento real desde drones” (Redacción El Universal, 2022).
16. 15.En agosto de 2023 en Guerrero, México se registró el ataque con bombas que fueron lanzadas desde drones a habitantes de la comunidad. Ver: https://elpais.com/mexico/2023-09-10/guerrero-reabre-sus-heridas.html
17. 16.En este caso la licitación incluía la reposición del dispositivo (Redacción Infobae, 2023).
18. 17.Mats Thulin es Director de Tecnología Central y responsable de los equipos de desarrollo que trabajan con tecnología y desarrollo de plataformas a largo plazo. Colabora en Axis, una de las empresas que se define como “líder del sector de la videovigilancia” y opera desde 1984 en más de 50 países, varios de América Latina.
19. 18.El Organismo Provincial de Contrataciones publicitó que la compra se realizó “por un monto total de 6.825.000 dólares para las diez aeronaves, a lo cual se sumó otro gasto de 267.750 dólares para la provisión de herramientas de mantenimiento” (Redacción Infobae, 2023).

Bibliografía

1. 1.Aldama, Z. (2018). 04 26. Videovigilancia: China se queda con tu cara. El País. https://elpais.com/retina/2018/04/25/tendencias/1524640135_207540.html.
2. 2.Barragán-Huamán, H., Cataño-Añazco, K., Sevincha-Chacabana, M. y Vargas-Salas, O. (2023). La inteligencia artificial y la video-vigilancia en la predicción y detección de delitos en espacio-tiempo: una revisión sistemática. Revista Criminalidad. 651, 11-25.
3. 3.Bischoff, Paul (2023). 05 23. Surveillance camera statistics: which cities have the most CCTV cameras?. Comparitech. https://www.comparitech.com/vpn-privacy/the-worlds-most-surveilled-cities/.
4. 4.CEPAL (2023a). Índice Latinoamericano de Inteligencia Artificial. https://indicelatam.cl/wp-content/uploads/2023/08/ILIA-2023.pdf.
5. 5.CEPAL (2023b). La inteligencia artificial puede contribuir a la transformación de los modelos de desarrollo en América Latina y el Caribe para hacerlos más productivos, inclusivos y sostenibles. https://www.cepal.org/es/comunicados/la-inteligencia-artificial-puede-contribuir-la-transformacion-modelos-desarrollo-america.
6. 6.Commatteo, G. y Moreyra, P. (2022). Discriminación 4.0: una aproximación a los problemas que suscitan la biometría y los sistemas de reconocimiento facial. Revista Internacional de Derechos Humanos. 121, 15-53.
7. 7.Davidovsky, S. (2017). 07 10. Globos y drones: cómo la Policía porteña vigilará la ciudad desde el aire. La Nación. https://www.lanacion.com.ar/tecnologia/globos-y-drones-como-la-policia-portena-vigilara-la-ciudad-desde-el-aire-nid2040679/.
8. 8.Gobierno de Bogotá (2019). 06 17. Cinco drones de última tecnología ayudarán a cuidar la vida en Bogotá. Portal de gobierno. https://bogota.gov.co/asi-vamos/drones-de-ultima-tecnologia-refuerzan-seguridad-de-bogota.
9. 9.Gobierno de Mendoza (2021). 12 07. El Ministerio de Seguridad sumará 700 nuevas cámaras de videovigilancia. Prensa Gobierno de Mendoza. https://www.mendoza.gov.ar/prensa/el-ministerio-de-seguridad-sumara-700-nuevas-camaras-de-videovigilancia/.
10. 10.Jasso, C. (2023). La ciudad videovigilada: entre la prevención del crimen y el control social. México: Universidad Nacional Autónoma de México, Instituto de Investigaciones Sociales.
11. 11.Jasso, C. (2020). Seguridad ciudadana y tecnología: Uso, planeación y regulación de la videovigilancia en América Latina. Dikê: Revista de Investigación en Derecho, Criminología y Consultoría Jurídica. 27, 5-27.
12. 12.Kissinger, H., Schmidt, E. y Huttenlocher, D. (2021). The Age of AI. And Our Human Future. Londres: John Murray.
13. 13.Lasse, R. (2018). Inteligencia artificial 101 cosas que debes saber hoy sobre nuestro futuro. Barcelona: Editorial Planeta.
14. 14.Montoya, I. (2023). 05 30. Conectividad e Inteligencia Artificial, tendencia en monitoreo. Ventas de Seguridad. https://www.ventasdeseguridad.com/2023053023358/articulos/analisis-tecnologico/conectividad-e-inteligencia-artificial-tendencia-en-monitoreo.html.
15. 15.Muggah, R. (2020). 02 19. La riesgosa apuesta tecnológica de Brasil para combatir el crimen. Insight Crime. https://es.insightcrime.org/noticias/analisis/la-riesgosa-apuesta-tecnologica-de-brasil-para-combatir-el-crimen/.
16. 16.Municipalidad de Miraflores (2022). 06 29. Miraflores inicia una nueva era tecnológica y de inteligencia artificial para combatir a la delincuencia. Municipalidad de Miraflores. https://www.miraflores.gob.pe/miraflores-inicia-una-nueva-era-tecnologica-y-de-inteligencia-artificial-para-combatir-a-la-delincuencia/.
17. 17.Norvig, P. y Russell, S. (2004). Inteligencia artificial. Un enfoque moderno. Segunda edición. Madrid: Pearson Educación, S.A..
18. 18.Ochoa, G. (2022). 06 14. Así son los drones que patrullarán los campos de la provincia de Buenos Aires. Infocielo. https://infocielo.com/drones/asi-son-los-drones-que-patrullaran-los-campos-la-provincia-buenos-aires-n739844.
19. 19.Payan, D. (2023). 03 21. Inteligencia Artificial y Realidad Virtual el eje de Expo Seguridad 2023. Infochannel. https://infochannel.info/expo-seguridad-2023-reunira-soluciones-tecnologia-y-empresas/.
20. 20.Portal de Gobierno de Santiago (2020). 08 06. Consejo Regional aprueba proyecto de televigilancia con drones en la Región Metropolitana. Portal de Gobierno de Santiago. https://www.gobiernosantiago.cl/consejo-regional-aprueba-proyecto-de-televigilancia-con-drones-en-la-region-metropolitana/.
21. 21.Piacente, P. J. (2020). 10 01. Un dron inteligente encuentra personas desaparecidas en la naturaleza. Tendencias. https://tendencias21.levante-emv.com/un-dron-inteligente-encuentra-personas-desaparecidas-en-la-naturaleza.html.
22. 22.Pinedo, E. (2018). Bots vs. humanos: la inteligencia artificial de OpenAI ya puede vencernos en Dota 2. Hipertextual. https://hipertextual.com/2018/06/bots-vs-humanos-inteligencia-artificial-openai-puede-vencernos-dota-2.
23. 23.Quaresma, A. y Vega, I. (2023). Inteligência artificial fraca e força bruta computacional II. Paakat: Revista de Tecnología y Sociedad. 1325,
24. 24.Redacción Bnamericas (2017). 06 07. São Paulo adopta vigilancia con drones. Bnamericas. https://www.bnamericas.com/es/noticias/sao-paulo-adopta-vigilancia-con-drones1.
25. 25.Redacción El Economista (2015). 04 30. Guatemala fortalece la seguridad ciudadana con 1,133 cámaras de vigilancia. El Economista. https://www.eleconomista.net/actualidad/Guatemala-fortalece-la-seguridad-ciudadana-con-1133-camaras-de-vigilancia-20150430-0037.html.
26. 26.Redacción El Universal (2022). 11 30. Cómo Venezuela se convirtió en el “único país latinoamericano que cuenta con drones armados. El Universal. https://www.eluniversal.com.mx/mundo/venezuela-como-se-convirtio-en-el-unico-pais-latinoamericano-que-cuenta-con-drones-armados/.
27. 27.Redacción Infobae (2023). 03 20. Uno de los 10 drones que el gobierno bonaerense compró por casi 7 millones de dólares se cayó durante el vuelo de prueba. Infobae. https://www.infobae.com/politica/2023/03/20/uno-de-los-10-drones-que-el-gobierno-bonaerense-compro-por-casi-7-millones-de-dolares-se-cayo-durante-el-vuelo-de-prueba/.
28. 28.Redacción Paraguay (2018). 07 06. Policía cuenta con cámaras de reconocimiento facial en Gran Asunción. Paraguay. https://paraguay.com/nacionales/policia-cuenta-con-camaras-de-reconocimiento-facial-en-gran-asuncion-180001.
29. 29.Redacción Proceso Digital (2012). 10 30. Ministro de Seguridad anuncia los “botones de pánico” para atender hechos criminales. Proceso Digital. https://proceso.hn/ministro-de-seguridad-anuncia-los-botones-de-panico-para-atender-hechos-criminales/.
30. 30.Rodríguez, R. (2018). 01 09. La Policía Nacional se apoya en la tecnología de punta para prevenir y combatir el delito. Diario Libre. https://www.diariolibre.com/actualidad/sucesos/la-policia-nacional-se-apoya-en-la-tecnologia-de-punta-para-prevenir-y-combatir-el-delito-BA8938377.
31. 31.Smith, G. J. D. (2004). Behind the screens: Examining constructions of deviance and informal practices among cctv control room operators in the uk. Surveillance & Society. 22/3,
32. 32.Solorzano, S. (2015). 05 16. PNC participa en inauguración de centro de monitoreo de videovigilancia en Sayaxché. Diario de Centroamérica. https://dca.gob.gt/noticias-guatemala-diario-centro-america/pnc-inaugura-centro-de-monitoreo-de-videovigilancia-en-sayaxche/.
33. 33.Thulin, M. (2020). 10 13. Inteligencia artificial en el sector de la vigilancia. Axis Communications. https://www.axis.com/blog/secure-insights-es/2020/10/13/inteligencia_artificial_en_sector_vigilancia/.
34. 34.Valadares, R. (2019). 08 23. La policía de Sao Paulo adquiere 160 drones. Infodron. https://www.infodron.es/texto-diario/mostrar/3529665/policia-sao-paulo-adquiere-160-drones.
35. 35.Vizcaíno, A. (2021). Videovigilancia e inteligencia artificial: entre la utopía y la distopía. Revista Mexicana de Ciencias Penales. 414, 8-38.
36. 36.Zahumensky, C. (2011). 04 17. La policía brasileña utilizará gafas con tecnología de reconocimiento facial para identificar delincuentes. Xataca. https://www.xataka.com/wearables/la-policia-brasilena-utilizara-gafas-con-tecnologia-de-reconocimiento-facial-para-identificar-delincuentes.
37. 37.Zuboff, S. (2021). Santos, Albino (trad.). La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder. Paidós.
38. 38.Chechiniltzky (2019). Referencia citada en el texto; no fue incluida en la bibliografía del artículo.