La vigilancia basada en inteligencia artificial amenaza con transformar de forma radical la relación entre ciudadanos, Estados y normas sociales. En un futuro próximo, sistemas equipados con reconocimiento facial y rastreo digital podrán registrar casi cualquier conducta pública —o privada— de una persona, asociarla a su historial oficial y notificar la infracción al instante, tanto a las autoridades como, potencialmente, al público general. Funcionarán como radares automatizados, pero capaces de hacer cumplir cualquier regla imaginable.
China ya ha desplegado esta infraestructura a gran escala, con más de 600 millones de cámaras que aplican reconocimiento facial para vigilar comportamientos, como ilustra el caso de Lao Duan, cuya identidad fue exhibida en una valla pública tras ser incluido en una lista negra. Ahora, ensayos similares se extienden por Norteamérica, Sudamérica, Europa, Asia y África, impulsados por proveedores como la china Hikvision. En Estados Unidos, el Departamento de Seguridad Nacional recurre a estas herramientas para monitorizar inmigrantes, disidentes, periodistas y manifestantes. Larry Ellison, consejero delegado de Oracle, llegó a afirmar que la ciudadanía «se portará mejor porque la estamos grabando e informando constantemente».
El libro Chilling Effects, de Jon Penney, sostiene que la combinación de vigilancia, personalización, incertidumbre y autoridad multiplica la autocensura y el conformismo. Cuando el miedo sofoca la disidencia, la creatividad y la experimentación de grupos marginados, el progreso social se vuelve inviable: sin contraculturas que desafíen normas caducas, moralidades como la aceptación del matrimonio igualitario o el consumo recreativo de cannabis nunca habrían emergido.