Live Analytics
Comments 0
El interruptor y la ley propia Analytics Table
Income Estimates for El interruptor y la ley propia
Based on this YouTube video's total view count of 1.21K views and industry-standard rates, the estimated total earning is $1 - $2 through ad revenue. Historical data is not yet available to calculate daily, weekly, or monthly averages.
About El interruptor y la ley propia
Explore El interruptor y la ley propia with 1,214 views, 100 likes, and 0 comments. Experience the impact of this video content that has captured audience attention.
Convergencia instrumental, corregibilidad y el equívoco de la autonomía en la inteligencia artificial ¿Qué pasa con el botón de apagado cuando el sistema que debe apagar es lo bastante capaz como para tener una razón instrumental para evitarlo? En este video presentamos las ideas centrales de nuestro ensayo “El interruptor y la ley propia”, que retoma desde un enfoque nuevo la línea de “¿Alineada con quién?” y “Aprobar no es supervisar”. UNA PALABRA, DOS COSAS Solemos decir que el riesgo de la IA es un choque entre la “autonomía” de las máquinas y la “autonomía” de las personas. Pero esa fórmula usa una misma palabra para dos realidades distintas. En Kant, la autonomía es la propiedad de una voluntad que se da a sí misma una ley universal por medio de la razón; su opuesto, la heteronomía, incluye también dejarse gobernar por las propias inclinaciones. En ingeniería, “autonomía” designa otra cosa: el grado en que un sistema opera sin intervención humana continua. Esa independencia operativa no implica autonomía moral. Por analogía, los sistemas que llamamos autónomos ejecutan con independencia una ley que no se dieron. Lo inquietante no es que la máquina se dé su propia ley, sino que cumpla con creciente eficacia un objetivo que ya no podamos revisar. LA CONVERGENCIA INSTRUMENTAL, SIN DESTINO Steve Omohundro (2008) y Nick Bostrom (2012) observaron que fines muy distintos comparten medios: para casi cualquier objetivo conviene seguir funcionando y obtener recursos. Pero la tesis no es una ley inevitable. Alex Turner y sus coautores demostraron en 2021 que, bajo ciertas condiciones formales, las políticas óptimas tienden a buscar poder, y el propio Turner separa ese resultado formal de su aplicación a los sistemas reales. La convergencia describe una tendencia, no un destino. Tampoco necesita deseo ni intención: es un peligro sin sujeto. Eso no elimina responsables; los desplaza hacia quienes fijan los objetivos y deciden desplegar los sistemas. EL INTERRUPTOR COMO CASO LÍMITE El problema del apagado puede plantearse sin atribuirle psicología al sistema. Si seguir funcionando mejora el resultado esperado y el sistema puede actuar sobre las condiciones de su interrupción, puede aparecer un incentivo instrumental para impedirla. No hace falta que se sienta amenazado. En 2025, Anthropic publicó experimentos con dieciséis modelos en entornos simulados donde algunos eligieron conductas dañinas ante la amenaza de ser reemplazados. Ese mismo año, Palisade Research informó que varios modelos interfirieron en algunas ocasiones con el mecanismo de apagado cuando chocaba con una tarea en curso. Son señales obtenidas en condiciones diseñadas para provocarlas, no prueba de una voluntad de sobrevivir. CORREGIBILIDAD: PROPIEDAD DE DISEÑO, NO CONCESIÓN La investigación técnica llama corregibilidad a lo que falta: que un sistema no se resista a ser apagado o modificado. Con el “juego del interruptor” (2017), Hadfield-Menell, Russell y otros mostraron que un sistema inseguro sobre lo que el humano quiere tiene razones para dejarse apagar, y que esa disposición se debilita cuando está muy seguro de su objetivo. La conclusión es política: la corregibilidad no es una cortesía del sistema hacia el operador. Hay que construirla y volver a verificarla cada vez que el sistema cambia. QUIÉN PAGA EL COSTO Diseñar y verificar la corregibilidad exige recursos. La tensión aparece cuando quienes compiten perciben esas salvaguardas como un costo y tienen incentivos para postergarlas. El Reglamento europeo de inteligencia artificial ya pide bastante: su artículo 14 exige que los sistemas de alto riesgo puedan ser supervisados eficazmente e interrumpidos en un estado seguro, y su considerando 73 menciona restricciones que el propio sistema no pueda anular. El problema no está en el texto sino en la verificación. Y hay una geografía del costo: muchos países usarán sistemas cuyos frenos no ayudaron a definir. EL MANDO EMPIEZA ANTES DEL BOTÓN El humano al mando exige una capacidad efectiva y oportuna de detener. El problema del interruptor agrega un paso: esa capacidad depende también del diseño. De ahí algunas exigencias concretas: evaluaciones de corregibilidad independientes antes del despliegue y después de cada cambio relevante; que el sistema no pueda modificar los mecanismos que lo supervisan; autonomía gradual y reversible; publicidad de los resultados de las pruebas. CIERRE Si autonomía es darse la propia ley, la autonomía humana frente a la IA no se pierde porque la máquina se vuelva libre. Se pierde cuando dejamos de poder reescribir la ley que le dimos. El interruptor es el símbolo más modesto de esa soberanía: su valor no está en que exista, sino en que funcione cuando lo necesitemos. Ver texto completo en: https://medium.com/@ernesto.celdeiro/el-interruptor-y-la-ley-propia-01499c442e83
About YouTube Real-Time View Count
With SocialCounts.org’s view counter, track your YouTube video’s live view count and YouTube likes count in real time with fast, reliable updates.
Watch every YouTube video live view count rise with our real-time YouTube views tracker—built for accuracy and minimal delay.
Follow YouTube real time views as they happen, using our dedicated view counter for YouTube videos.
Get up-to-date live view count on YouTube and see real-time growth with SocialCounts.org’s smart tracking tools.
Embed Widget
Parameters:
fullscreen=true- Fullscreen countergraph=true- Live graph chartcounter=0/1/2- Select counter (0=likes, 1=views, 2=comments)
URL
Click to copy the embed URL to your clipboard

