La cifra que resume la alarma
Si un exinvestigador de una de las empresas de IA más importantes del mundo estima que la humanidad tiene «aproximadamente uno en tres» probabilidades de perder el control ante la inteligencia artificial, la preocupación de los neoyorquinos deja de ser paranoia. Alex Turner, ex de Google DeepMind, soltó esa estimación este lunes ante el Concejo Municipal, en la primera audiencia plenaria del organismo desde 2022.
«Nuestro propio adversario en casa»
«China no es nuestro único adversario potencial», declaró Turner. «Con una probabilidad bastante alta, estamos corriendo para construir y desarrollar a nuestro propio adversario aquí mismo: una IA desalineada, que es adversaria de todos, incluidos nosotros mismos». El experto relató además cómo intentó frenar desde adentro el contrato de Google con el Pentágono —sin restricciones contra «robots asesores o espionaje masivo», denunció— enviando 25 páginas de medidas de supervisión que nunca fueron evaluadas.
El coro de los denunciantes y la resistencia empresarial
Turner no estuvo solo. Jacob Coxon, quien dejó Anthropic denunciando imprudencia extrema, pronosticó que la humanidad «perderá el control» si nada cambia, con posible extinción de por medio. Frente a ellos, Alice Friend, de Google, sostuvo que la responsabilidad legal ya existe: «Si algo es ilegal sin IA, sigue siéndolo con ella». SpaceXAI, de Elon Musk, fue la única citada que no compareció.
La respuesta legislativa
El Concejo trabaja en un paquete de medidas: prohibir la comercialización e implementación de modelos sin validación de terceros, exigir que todo sistema pueda ser apagado por un operador humano, monitorear los riesgos y requerir informes sobre el impacto de los algoritmos en los empleados municipales. «No se han creado medidas de control, y el gobierno federal declaró básicamente que un comité de diez personas autorregule a la industria», criticó el concejal Oswald Feliz.
La calle también opina
La audiencia refleja un ánimo que ya se vive en los hogares. Carlos Lezama, inmigrante hondureño y padre de familia, pidió tratar el tema «como el freno a la proliferación de armas nucleares». Bárbara Delgado demandó castigos severos y corresponsabilidad entre gobierno, empresas y familias. El Defensor del Pueblo, Jumaane Williams, listó los daños presentes —violencia planificada con chatbots, acoso con imágenes artificiales, estafas— y advirtió: «No debemos normalizar estos daños».
Hashtags: #AlexTurner #IA #ApocalipsisIA #NuevaYork #ConcejoMunicipal #DeepMind #RegulaciónIA