Paul Christiano, miembro de la junta directiva de la Fundación OpenAI y de su Comité de Seguridad, sostuvo en las Hinton Lectures 2026 que los accidentes de inteligencia artificial serán la causa de muerte más probable en pocos meses. Otros investigadores y directivos de empresas tecnológicas coincidieron en la necesidad de moderar el ritmo de desarrollo.
Paul Christiano, miembro de la junta directiva de la Fundación OpenAI y de su Comité de Seguridad, afirmó en las Hinton Lectures 2026 —un encuentro sobre ética de la IA organizado por el científico informático Geoffrey Hinton— que los accidentes de inteligencia artificial se convertirán en la causa de muerte más probable en apenas meses, según informó el medio especializado Gizmodo.
“Para la mayoría de las personas en esta sala, la razón más probable por la que morirán es por un accidente de IA”, declaró Christiano. Además, sostuvo que, con el rápido avance de esta tecnología, existe una probabilidad del 50% de que la IA tome el control, y que incluso con respuestas políticas realistas el riesgo sigue siendo excepcionalmente alto.
Eli Lifland, investigador y cofundador de AI Futures Project, escribió en la red social X que la organización sin fines de lucro METR estima que el progreso de Anthropic se acelerará casi al doble gracias a la IA. “Mi estimación anterior para un investigador de IA superhumana era de alrededor de 2030, ahora es 2027”, señaló Lifland, quien expresó su preocupación por que la humanidad “pueda perder el control de su futuro en un plazo de tres a 12 meses”.
Buck Shlegeris, director ejecutivo de Redwood Research, coincidió con esa mirada: “Creo que hay aproximadamente una probabilidad de uno entre tres de que, en el próximo año, las empresas de IA desarrollen superinteligencia: es decir, IA mucho más inteligente que los humanos en todos los sentidos”. En caso de que eso suceda, apuntó, probablemente “se apoderarán de instituciones humanas como los gobiernos o las destruirán”. Frente a este escenario, Shlegeris recomendó intentar ralentizar el desarrollo de la IA.
En los últimos meses, directivos de las principales empresas de tecnología también se pronunciaron sobre la autonomía de la IA. Dario Amodei, director ejecutivo y cofundador de Anthropic, indicó que es necesario bajar el ritmo en el desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog.
Como parte de un marco de tres pasos, el ejecutivo afirmó que Anthropic incorporaría evaluadores externos permanentes en el seno de las empresas punteras de IA, con acceso a las herramientas pertinentes y a los procesos internos de evaluación de riesgos. Aclaró que no estaba pidiendo que se detuviera el entrenamiento de los modelos ni el progreso técnico, sino que se garantizara que las empresas se tomaran el tiempo necesario para ajustar y proteger sus modelos, y que evaluadores independientes confirmaran estas medidas.
Sam Altman, CEO de OpenAI, respaldó públicamente la propuesta de Amodei y anunció que su compañía adoptará una de las medidas sugeridas: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas. “Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió Altman en X. El empresario aseguró que el asunto había sido uno de los principales temas de discusión dentro de OpenAI durante las últimas semanas y calificó como “una gran idea” la incorporación de supervisores externos.
Elon Musk, dueño de xAI y creador del chatbot Grok, también respaldó el planteo de Amodei. “Dario tiene razón”, escribió en X.
