Dentro de un edificio de estuco blanco en el sur de California, cámaras de video comparan los rostros de los transeúntes con una base de datos de reconocimiento facial. Una IA de análisis de comportamiento revisa las grabaciones en busca de indicios de comportamiento violento. Tras la puerta de un baño, un dispositivo con forma de detector de humo captura audio, detectando sonidos de peligro. En el exterior, drones listos para ser desplegados proporcionan información desde arriba, y los lectores de matrículas de Flock Safety, el gigante de la vigilancia valorado en 8.500 millones de dólares, garantizan que los vehículos que entran y salen del estacionamiento no sean conducidos por delincuentes.
El superintendente del distrito, Alex Cherniss, afirma que la impresionante variedad de herramientas de vigilancia es una necesidad que garantiza la seguridad de sus estudiantes. “Estamos en el corazón de un entorno urbano como Los Ángeles, una de las ciudades más reconocibles del planeta. Por lo tanto, siempre estamos en la mira, lo que significa que nuestros estudiantes y nuestro personal también lo están”, declaró. En el año fiscal 2024-2025, el distrito invirtió 4,8 millones de dólares en seguridad, incluyendo personal. El sistema de vigilancia detecta múltiples amenazas al día, según el distrito.
El sistema de Beverly Hills puede parecer extremo, pero no es una excepción. En todo Estados Unidos, las escuelas están implementando sistemas de vigilancia similares con la esperanza de protegerlas de la terrible e incesante ola de tiroteos masivos. Este año se han registrado 49 muertes por disparos en instalaciones escolares. En 2024, hubo 59 y en 2023, 45, según Everytown for Gun Safety. Entre 2000 y 2022, 131 personas murieron y 197 resultaron heridas en escuelas de Estados Unidos, la mayoría niños. Dadas estas alarmantes cifras, asignar una parte del presupuesto a herramientas de seguridad y vigilancia de vanguardia basadas en IA es una decisión relativamente sencilla.
Sin embargo, los escépticos afirmaron que hay pocas pruebas de que las tecnologías de IA vayan a reducir significativamente esas cifras y que, además, minan la confianza de los estudiantes.
Un informe de la Unión Estadounidense por las Libertades Civiles (ACLU) de 2023 reveló que ocho de los diez tiroteos escolares más grandes en Estados Unidos desde Columbine ocurrieron en campus con sistemas de vigilancia. Chad Marlow, asesor principal de políticas de la ACLU y autor del informe, afirmó que, incluso con la llegada de las herramientas basadas en IA, escasean las investigaciones independientes que verifiquen su eficacia para prevenir tragedias. «Es muy peculiar afirmar que esto mantendrá a los niños a salvo», declaró.
El informe también reveló que la vigilancia fomentaba un ambiente de desconfianza: el 32 % de los estudiantes de 14 a 18 años encuestados afirmó sentirse constantemente vigilado. En grupos de discusión organizados por la ACLU, los estudiantes afirmaron sentirse menos cómodos alertando a los educadores sobre problemas de salud mental y abuso físico. Marlow argumenta que esta es una mala compensación. “Como los jóvenes no confían en quienes perciben como espías, se rompe la confianza y, de hecho, se reduce la seguridad”, afirmó.
El distrito de Beverly Hills no lo ve así. “No hay cantidad de dinero que podamos invertir en seguridad en el Distrito Escolar Unificado de Beverly Hills con la que nuestros padres y nuestra comunidad no estén de acuerdo”, dijo Cherniss.
Nicole Gorbacheva, quien se graduó de Beverly Hills High a principios de este año, expresó su apoyo a una mayor seguridad en un distrito que anteriormente había recibido amenazas de bomba, allanamientos y, más recientemente, amenazas antisemitas. A principios de este año, alguien dibujó una esvástica en la acera frente a una de las escuelas primarias del distrito. “Con el paso de los años, vi cómo BHHS pasaba de un campus más relajado y abierto a un entorno cerrado y mucho más protegido”, comentó. La introducción de tecnología de vigilancia basada en IA “no me parece distópica; me parece preventiva. Crea la sensación de que siempre hay alguien velando por los estudiantes”, añadió Gorbacheva.
Otras escuelas dicen prácticamente lo mismo. Christopher Heilig es superintendente de la Escuela Secundaria Regional Rancocas Valley en Nueva Jersey, una escuela con hasta 50 cámaras que utilizan el software de detección de armas ZeroEyes. En los simulacros de tiroteos activos de su escuela, el tiempo para detener a un pistolero se redujo a la mitad al usar ZeroEyes, afirmó. “Los resultados son innegables porque se están salvando vidas”.
El año pasado, ZeroEyes dijo que recibió la Designación de la Ley de SEGURIDAD del Departamento de Seguridad Nacional, un premio que el evaluador del DHS dijo que era “un testimonio de la confiabilidad y eficacia de la plataforma, medida a través de rigurosas pruebas, evaluación y eventos de la vida real”. ZeroEyes dice que su tecnología ha detectado más de 1,000 armas desde 2023. Una de ellas fue a principios de este año, en una escuela de Texas donde un menor portaba un rifle e intentaba entrar. La policía los detuvo antes de que dispararan a alguien. El director ejecutivo, cofundador y ex SEAL de la Marina, Mike Lahiff, dijo que otros incidentes no han sido tan graves. “Hemos visto personas con armas en las escuelas, pero no creo que estuvieran allí para disparar a los estudiantes”, dijo a Forbes. Admitió que la IA de ZeroEyes a menudo marcará objetos inocuos como armas, pero su equipo de veteranos, ex socorristas y ex policías está allí para verificar las alertas de armas y enviar a la policía si es necesario.
No es un sistema perfecto. ZeroEyes ha sido responsable de falsas alarmas, incluyendo una detección errónea de armas en una escuela de Texas en 2023. La escuela fue cerrada, lo que aterrorizó a los estudiantes, según informes locales. “Reconoce tu error y te ayudará a mejorar en el futuro”, dijo Lahiff. La compañía no tiene conocimiento de ningún tiroteo escolar donde se haya implementado su tecnología.
La precisión es un problema común para esta tecnología. Evolv, la solución de detección de armas utilizada por más de 800 escuelas en Estados Unidos, incluyendo Beverly Hills High, ha marcado artículos personales inofensivos como computadoras portátiles y botellas de agua como armas. En 2024, la FTC la reprendió por engañar a las escuelas al afirmar que su IA podía detectar todo tipo de armas. El regulador afirmó haber fallado en varios casos, incluyendo un incidente en 2022 en el que no marcó un cuchillo de siete pulgadas que se utilizó para apuñalar a un estudiante. El portavoz de Evolv, Alex Ozerkis, afirmó que la reprimenda de la FTC se centró en “afirmaciones históricas de marketing”, que Evolv ya ha abordado, pero no cuestionó la “eficacia fundamental” del producto.
Ozerkis afirmó que, en promedio, la tecnología de Evolv ayuda a los clientes a detectar y etiquetar 500 armas de fuego al día y a inspeccionar a más de 850,000 visitantes escolares cada día. Evolv también cuenta con la misma acreditación del DHS que ZeroEyes y ha citado previamente una investigación independiente del Centro Nacional para la Seguridad de los Deportes con Espectadores, que demostró su alta eficacia para descubrir armas en eventos deportivos reales.
A principios de este año, Omnilert, otro competidor en detección de armas, señaló como posible amenaza con armas de fuego a un estudiante de 16 años del condado de Baltimore, Maryland, que buscaba una bolsa vacía de Doritos en su bolsillo. El adolescente, que asiste a la escuela secundaria Kenwood en Essex, afirmó que la policía lo retuvo a punta de pistola como resultado, según medios locales, y que ya no se sentía seguro en el recinto escolar. Omnilert le indicó a Forbes un informe sobre el incidente de la Oficina del Inspector General de Educación de Maryland, que concluyó que una falta de comunicación entre el personal de seguridad y el director de la escuela había provocado la intervención policial. El portavoz de Omnilert, Blake Mitchell, afirmó que la empresa no había lidiado con incidentes similares.
Los productos de análisis de comportamiento con IA, que afirman detectar señales de agresión u otras acciones preocupantes, como personas que saltan vallas, también son controvertidos. Los productos que afirman poder determinar las emociones de una persona a partir de imágenes y audio han sido criticados por ser ineficaces o parciales; investigaciones previas han indicado que estos sistemas atribuyen con mayor frecuencia estados emocionales negativos a las personas negras.
Eso no ha impedido que las instituciones educativas compren. Brett Fuchs, director de seguridad de la Universidad de Tennessee en Chattanooga, ha implementado VoltAI en las cámaras existentes de la instalación. La tecnología, que VoltAI cobra a $365 por transmisión de video al año, afirma detectar armas, acoso, personas que se han caído y merodeando. Para probarla, Fuchs hizo que sus colegas jugaran a pelear cerca de una cámara. La IA la marcó con éxito, lo que lo convenció de implementar la herramienta a principios de este año. VoltAI también ayudó a detectar a una persona sin hogar que se cayó en la propiedad de la universidad, que luego fue guiada a un refugio, dijo Fuchs. Cuando llegaron llamadas falsas sobre un tiroteo, VoltAI ayudó a convencer a los oficiales de que no estaba sucediendo nada peligroso. “Sabemos que habríamos estado recibiendo alertas de nuevo mucho antes de que llegara esa llamada telefónica”, dijo. Sin embargo, tampoco se ha puesto a prueba en ningún incidente grave, señala.
A medida que aparecen más cámaras con IA en las aulas, los más sometidos a vigilancia (alumnos, padres y profesores) no siempre participan en la toma de decisiones. Katherine Warren, presidenta de la Asociación de Educación de Beverly Hills, profesora de la escuela secundaria local y madre de un niño del distrito, afirmó que el sindicato de profesores presentó una queja este otoño por la instalación de cámaras en espacios como la biblioteca y el gimnasio. Si bien no se permiten cámaras en las aulas, sí se permiten en otras partes del campus. “Planteamos nuestra preocupación de que estas áreas sean espacios de instrucción y deban tratarse con la misma privacidad y las mismas consideraciones contractuales que las aulas tradicionales”, declaró Warren.
Colby Gilardian, portavoz de Beverly Hills, declaró que el distrito acordó informar al sindicato dónde se encuentran las cámaras y no instalarlas en lugares donde exista una expectativa razonable de privacidad. Esto excluye la biblioteca y el gimnasio.
Warren también afirmó que no había sido informada sobre la reciente implementación del reconocimiento facial en la escuela, a cargo de Vaidio, proveedor de inteligencia artificial con sede en Connecticut, durante la ceremonia de graduación de 2025, ni si su imagen se había registrado en una base de datos biométrica. De igual manera, la exalumna Gorbacheva desconocía que se hubiera probado el reconocimiento facial durante la ceremonia de graduación. Gilardian indicó que el distrito planea mantener conversaciones más profundas sobre la tecnología cuando se implemente una implementación más amplia. Actualmente, está limitada a 15 cámaras en todo el distrito, que incluye la escuela preparatoria, una escuela intermedia y dos escuelas primarias. Gilardian explicó que solo está utilizando una pequeña lista de verificación interna para demostraciones.
La escuela no está legalmente obligada a informar a los padres, alumnos ni profesores sobre su inscripción en un sistema de reconocimiento facial. La Ley de Privacidad del Consumidor de California exige que las empresas informen a las personas sobre la recopilación de sus datos biométricos, pero las escuelas públicas están exentas. Sean O’Connor, director de seguridad del Distrito Escolar de Beverly Hills, afirmó que, si bien las cámaras capturan datos constantemente, evaluando el lenguaje corporal de las personas, nos preocupamos mucho por la privacidad. “No compartimos esta información, e incluso cuando estamos legalmente obligados a compartir ciertos videos [en respuesta a una citación policial o una orden de registro], difuminamos los rostros de quienes no participaron en el incidente”, declaró O’Connor.
Tanto VoltAI como ZeroEyes dicen que sus tecnologías no detectan identidades, solo objetos y comportamientos, por lo que no representan una amenaza para la privacidad.
Incluso donde existen protecciones de privacidad, existe la posibilidad de que las tecnologías se conviertan en sistemas de espionaje más nefastos. Motorola, la empresa que fabrica los dispositivos de escucha Halo para baños, afirmó que no almacenan la información grabada en los baños. Solo detectan ruidos preocupantes, como disparos o alguien pidiendo ayuda, en tiempo real y activan las alarmas. Sin embargo, a principios de este año, un adolescente de Portland hackeó los Halos de su escuela para convertirlos subrepticiamente en dispositivos de escucha permanentes que pudieran grabar todo lo que sucedía en el baño. El adolescente explicó que el hackeo fue posible porque podía adivinar repetidamente la contraseña de administrador de un dispositivo sin limitaciones. Motorola solucionó la vulnerabilidad de seguridad con una actualización.
Un portavoz de Motorola afirmó que la compañía estaba “reforzando y probando constantemente nuestras soluciones para reforzar la seguridad”. También citó otros casos de éxito recientes, como una emergencia médica en el baño de una escuela, donde un profesor recibió atención médica vital después de que Halo detectara las palabras clave “ayuda” y “emergencia”, alertando al director.
Las escuelas indicaron que las tecnologías de monitoreo ofrecen otros beneficios, además de la seguridad. El reconocimiento facial se puede usar cuando un padre llega a recoger a un niño y no lo encuentra, dijo O’Connor, de Beverly Hills. Las cámaras pueden indicar al personal si el niño está en la escuela, qué cámaras pasó y qué ropa llevaba puesta, para que se pueda encontrarlo rápidamente, agregó. Los dispositivos de baño Halo, 25 de los cuales se utilizan en todo el distrito de Beverly Hills, también funcionan como detectores de humo y vaporizadores. La empresa de detección de matrículas Flock Safety y su socio Raptor Tech están promocionando un servicio llamado DismissalSafe para monitorear las llegadas y salidas a la hora de recogida, enviando alertas cuando el vehículo de regreso a casa de un alumno ha llegado al estacionamiento y confirmando que ha sido recogido de forma segura.
No todas las escuelas se tragan el discurso de venta. A finales de 2023, el responsable de seguridad escolar y fuerzas del orden de Amazon promocionaba ZeroEyes a la policía y las escuelas del estado de Washington, según correos electrónicos obtenidos mediante solicitudes de registros públicos. En sus presentaciones, ZeroEyes recomendaba a los clientes potenciales un programa piloto que había implementado con éxito con Highline Schools en Burien. Sin embargo, a principios de este año, la escuela canceló su contrato anual de ZeroEyes de 33,000 dólares, con dos años restantes, alegando que no era financieramente sostenible. Tove Tupper, jefa de comunicaciones del distrito escolar, declaró a Forbes que habían encontrado un mejor uso para ese dinero: desfibriladores y camionetas Ford para el equipo de seguridad.
TE PUEDE INTERESAR: Google integra el AirDrop de Apple en sus teléfonos Pixel 10
FFO
