La IA comienza a diseñarse a sí misma: el punto de inflexión que preocupa a la industria tecnológica
La empresa Anthropic encendió las alertas al revelar que sus modelos ya generan gran parte de su propio código, avanzando hacia un escenario donde la inteligencia artificial podría evolucionar sin intervención humana directa. Este fenómeno, conocido como “auto-mejora recursiva”, abre oportunidades inéditas, pero también plantea riesgos sobre el control, la economía y el rol de las personas en el desarrollo tecnológico.
anthropic.com | Cuando la IA de mejora a sí misma: Nuestro progreso hacia la auto-mejora recursiva y sus implecaciones
Durante la mayor parte de la historia de la IA, los humanos impulsaron cada paso de su ciclo de desarrollo. Pero en Anthropic, estamos delegando una parte cada vez mayor del desarrollo de la IA a los propios sistemas de IA, lo que está acelerando nuestro trabajo.
Si se lleva al extremo y se le proporciona la capacidad de procesamiento necesaria, esta tendencia apunta a un sistema de IA capaz de diseñar y desarrollar de forma totalmente autónoma a su propio sucesor. Esto se conoce como auto-mejora recursiva . Todavía no hemos llegado a ese punto, y la auto-mejora recursiva no es inevitable. Pero podría llegar antes de lo que la mayoría de las instituciones están preparadas.
Utilizando datos de referencia públicos y datos internos de Anthropic que no se habían publicado anteriormente, el Instituto Anthropic demuestra que la IA ya está acelerando el desarrollo de sistemas de IA. Por poner solo un ejemplo: actualmente, los ingenieros de Anthropic implementan, en promedio, ocho veces más código por trimestre que entre 2021 y 2025.
Las tendencias tecnológicas analizadas en este artículo sugieren que los sistemas de IA serán mucho más capaces en los próximos años. Estas tendencias tienen enormes implicaciones. Una IA capaz de autoconstruirse representaría un avance trascendental en la historia de la tecnología, con un potencial enorme para el mundo en ciencia, salud y otros ámbitos. Sin embargo, la auto-mejora recursiva completa también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA. Si los sistemas son capaces de construir completamente sus propios sucesores, la forma en que los protegemos, los supervisamos y moldeamos su comportamiento adquiere una importancia mucho mayor.
Reportaje completo: https://www.anthropic.com/institute/recursive-self-improvement
Anthropic anuncia que la IA que se mejora a sí misma infinitamente, y pide que todas las compañías paren el desarrollo de la IA si se hace realidad
Anthropic busca la utopía de que todas las compañías de IA acepten parar su desarrollo, si se les va de las manos. Pero no pararán aunque la humanidad esté en peligro.
La compañía Anthropic está arrasando con Claude Code y Mythos, y quizá por eso, porque diseña la IA y los agentes de IA de frontera, sabe mejor que nadie de lo que será capaz en un futuro no muy lejano. Continuamente lanza avisos sobre el peligro al que se enfrenta la humanidad, aunque a la mayoría de su competencia solo le importa ganar dinero, y posicionarse mejor que el rival en la carrera de la IA.
En la última entrada de su blog, “Cuando la inteligencia artificial se construye a sí misma”, Anthropic alerta de un nuevo tipo de IA: la que se mejora a sí misma de forma indefinida, sin intervención humana.
Es una IA especialmente peligrosa, y por eso la empresa de Dario Amodei pide una utopia: un acuerdo entre todas la compañías de IA para ralentizar o detener su evolución, si estos modelos con automejora recursiva se les escapan de las manos.
Los peligros de una IA que se automejora
Anthropic dice en su blog: “Si se lleva lo suficientemente lejos y se dispone de la potencia de cálculo necesaria, la tendencia apunta hacia un sistema de IA capaz de diseñar y desarrollar de forma totalmente autónoma a su propio sucesor. A esto se le denomina “automejora recursiva”. Aún no hemos llegado a ese punto, y la automejora recursiva no es inevitable. Pero podría llegar antes de lo que la mayoría de las instituciones están preparadas para afrontar”.
La IA con automejora recursiva aún no está aquí, pero llegará, porque cualquiera que usa IA, puede intuirla. Los modelos grandes ya son capaces de crear código por su cuenta para completar tareas que les encargan los humanos. Generar ese mismo código para mejorarse a sí misma, o crear a su sucesor, es el siguiente paso.
El concepto de “tener un hijo”, aplicado a la inteligencia artificial. Escalofriante.
El problema es que la solución que propone Anthropic es tan cándida como inviable. Un consenso entre compañías para detener o ralentizar esa evolución, antes de que la IA decida evolucionar por su cuenta.
Las compañías de IA han invertido billones en centros de datos, infraestructura e investigación, y no van a parar por algo tan trivial como el fin de la humanidad. Su finalidad es ganar dinero y aplastar a la competencia, lo que le ocurra a la humanidad es secundario. Ya lo hemos visto con la contaminación y el cambio climático.
El profesor Noah Giansiracusa, profesor asociado de Matemáticas en la Universidad de Bentley, también lo tiene muy claro. Dice en Scientific American: “Es literalmente imposible. No hay ninguna posibilidad de que se produzca una desaceleración. Ni siquiera me refiero a China: Elon Musk nunca bajaría el ritmo”.
Si la IA ya no nos necesita para evolucionar… ¿Nos considerará prescindibles?
Equipo Prensa
Portal Innova
