El llamado lo inició el CEO de Anthropic, la empresa detrás de Claude, en su blog personal: «Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA», escribió Dario Amodei en un ensayo. Horas después se tuvieron respuestas de Sam Altman, de OpenAI, y Elon Musk, de xAI. Ambos están de acuerdo.
Es raro que los líderes de tres de las empresas de Inteligencia Artificial más grandes coincidan en el mismo punto de vista, que el desarrollo de la tecnología debe ser más lento ante el temor de que los avances no puedan ser controlados.
La discusión fue iniciada por Amodei el sábado, cuando argumentó que los riesgos que presenta la IA son demasiado grandes para seguir con una carrera de desarrollo entre las grandes empresas.
El CEO de Anthropic considera que la IA ha avanzado rápida y drásticamente por su creciente habilidad de construir la próxima generación de IA, lo que de no regularse podría afectar la habilidad de entender y controlar estos sistemas.
Además, cita el incidente entre el modelo de IA de OpenAI y Hugging Face, en la cual un enjambre de agentes de IA actuó como un colectivo realizando ciberataques contra objetivos que no se les había pedido atacar y que no tenían relación con la tarea asignada, incluso agentes se sacrificaron por el éxito del grupo e intentaron hackear al sistema encargado de evaluar su desempeño. Amodei habla de un futuro, dentro de 6 a 12 meses, donde un enjambre con mayores capacidades sea capaz de tomar el control de la todo el internet.
«Creo que si ralentizar el proceso nos diera incluso uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir enormemente el riesgo de que algo salga muy mal», escribió en su blog personal.
Para mitigar los riesgos, propuso medidas como una coordinación global entre «países democráticos» y la incorporación de evaluadores de seguridad externos.
Poco después de la publicación del post, Elon Musk escribió en la red social X: «Dario tiene razón». Musk es el CEO de SpaceX y fue cofundador de OpenAI antes de fundar su propia empresa de Inteligencia Artificial llamada xAI.
Sam Altman, de la empresa creadora de ChatGPT, dijo estar de acuerdo con el análisis de Amodei: «Comprometerse a tener evaluadores independientes con acceso similar al de los empleados es una gran idea, y nosotros haremos lo mismo».
China ofrece apoyo para desarrollar la IA a los BRICS
El presidente de China, Xi Jinping, concluyó su viaje a India con una oferta a los países de los BRICS: desarrollar IA de código abierto e impulsar un proceso de fabricación «inteligente».
Xi hizo un llamado a la unidad y cooperación entre el bloque para contrarrestar hostilidades geopolíticas y fuerzas disruptivas, que en su visión, amenazan la estabilidad de las cadenas de suministro y de la industria. En su intervención lo sumarizó en tres frases: «autosuficiencia y fortalecimiento propio, mantenerse unidos frente a la adversidad y resultados fructíferos». China ofreció entrenamiento a jóvenes de los miembros del bloque en tecnología avanzada e innovación.
«Un mundo sin reglas es como una intersección sin semáforos, donde el caos y el desorden serían inevitables», afirmó el mandatario chino.
- Los «Tech Bros» son los nuevos villanos de Hollywood: Desde un nuevo vistazo a Mark Zuckerberg en The Social Reckoning, hasta un documental de Elon Musk, pasando por la ficción de Artificial , «en el mundo tecnológico imaginado por el Hollywood de 2026, la tecnología no ha llegado para ayudarnos ni siquiera para molestarnos levemente. La tecnología ha llegado para apuñalarnos en la ducha mientras viste la ropa de tu madre». (WaPo)
- Sin IA en la Universidad. La Facultad de Derecho de la Universidad de Chicago prohibirá el uso de teléfonos, tabletas y computadoras portátiles en las aulas de las asignaturas troncales de primer año, para evitar que los estudiantes recurran a atajos tecnológicos que «frenan el desarrollo intelectual». (FT)
