Jacob Coxon, ingeniero británico de software, presentó su dimisión de Anthropic porque considera que esta compañía y OpenAI, para la que también trabajó, "no están actuando con responsabilidad" y lanzó una terrorífica advertencia que pone el foco sobre estas plataformas.
Coxon, al que medios identifican como uno de los desarrolladores de GPT-4o y GPT-4.5, aunque sin responsabilidades ejecutivas, aseguró que las personas que están tras el desarrollo exponencial de la Inteligencia Artificial (IA) "creen que podrá matarnos a todos al final de esta década", porque "no hay otra actividad humana que suponga este nivel de amenaza".
Afirmó, además, que se está subestimando el poder de esta tecnología, ya que los proyectos de IA "serán pronto sistemas sobrehumanos que podrán jaquear cualquier cosa", ganar poder y recursos.
En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros "tal vez no han internalizado en profundidad los retos civilizacionales", mientras que los segundos los comprenden bien pero "están atrapados en la carrera por llegar primero", aun cuando en el caso más optimista se trate de llegar primero "para actuar con responsabilidad".
Coxon no ve otra salida que la coordinación entre los distintos proyectos de IA y de las empresas involucradas en ellos, pero siente que no se está produciendo y aboga entonces por "acciones costosas, como una prohibición temporal de mejorar las capacidades del modelo ('model capabilities')", y pide a los investigadores de la IA que reflexionen profundamente sobre la cuestión.
"¿Quieres potenciar un 'aprendizaje por refuerzo' (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente? -pregunta a sus colegas en la IA-. "¿Vas a bajar la cabeza porque 'total, ya está ocurriendo', o aprovechar este momento para abogar por condiciones diferentes?", concluye Coxon en un hilo que ha tenido ya una enorme repercusión mediática.
*Con información de EFE
