Por: Mag. Harry Peralta
Análisis político, gobernanza y estrategia de Estado

Hay momentos en la historia en los que la humanidad crea una herramienta que modifica para siempre la relación entre el ser humano y su propio poder. La máquina de vapor transformó la producción; la electricidad transformó la vida cotidiana; la energía nuclear cambió para siempre la relación entre ciencia, guerra y supervivencia. Hoy nos encontramos ante otra transformación de una magnitud todavía difícil de dimensionar: la inteligencia artificial.

Sin embargo, existe una diferencia fundamental. Las tecnologías anteriores ampliaron enormemente nuestras capacidades físicas y productivas. La inteligencia artificial comienza a ampliar, y eventualmente podría superar en determinados ámbitos, algunas de nuestras capacidades intelectuales. Puede analizar información, generar conocimiento, escribir código, diseñar estrategias, operar sistemas y participar en procesos de decisión a una velocidad que ningún ser humano puede igualar.

Por eso resulta especialmente preocupante que investigadores vinculados directamente al desarrollo y seguridad de estos sistemas adviertan sobre riesgos potencialmente catastróficos.

Según las declaraciones atribuidas a Evan Hubinger, investigador especializado en alineación de inteligencia artificial en Anthropic, existiría una probabilidad superior al 10% de que sistemas avanzados de IA puedan provocar la extinción humana durante los próximos diez años. La cifra debe ser interpretada con cautela: no significa que exista un consenso científico según el cual la humanidad tenga un 10% de probabilidades de desaparecer. Se trata de una estimación subjetiva de riesgo realizada por un investigador especializado en un problema particularmente difícil: conseguir que sistemas extremadamente capaces permanezcan bajo objetivos y restricciones compatibles con los intereses humanos.

Precisamente por eso merece ser tomada en serio.

La cuestión fundamental no es preguntarnos si debemos tener miedo de la inteligencia artificial. La pregunta verdaderamente política es otra: ¿quién tendrá el poder de decidir cómo se desarrolla, para qué se utiliza y bajo qué límites funcionará una inteligencia artificial cada vez más poderosa?

EL PROBLEMA NO ES LA IA, ES EL PODER

Existe una tentación muy sencilla: presentar la inteligencia artificial como una especie de monstruo tecnológico que algún día podría despertar y destruirnos. Esa interpretación puede resultar atractiva para una película, pero es insuficiente para comprender el verdadero problema.

El riesgo más inmediato no necesariamente consiste en una máquina que “odie” a la humanidad.

El problema puede ser mucho más complejo: sistemas extremadamente poderosos, diseñados con objetivos imperfectamente definidos, capaces de actuar a gran velocidad y desplegados en instituciones que compiten entre sí.

Una inteligencia artificial no necesita tener emociones humanas para generar consecuencias extraordinariamente peligrosas. Basta con que persiga un objetivo de manera diferente a como sus creadores esperaban, que encuentre mecanismos no previstos para alcanzar ese objetivo o que tenga acceso progresivo a herramientas, infraestructura y capacidad de acción.

Aquí aparece el concepto de alineación: lograr que los objetivos, comportamientos y capacidades de un sistema avanzado permanezcan compatibles con los valores y las intenciones humanas.

Y aquí debemos detenernos.

Si quienes desarrollan los sistemas más avanzados reconocen que todavía no poseen una solución definitiva al problema de la alineación, la respuesta responsable no puede ser simplemente acelerar la carrera tecnológica y esperar que la seguridad aparezca después.

UNA CARRERA TECNOLÓGICA SIN SEMÁFOROS

El desarrollo de la IA está sometido a una dinámica competitiva extraordinaria.

Las grandes empresas tecnológicas tienen incentivos económicos para construir modelos cada vez más capaces. Los Estados tienen incentivos geopolíticos para no quedarse atrás. Las fuerzas armadas observan sus posibilidades en inteligencia, ciberseguridad, logística y defensa. Las empresas buscan productividad y ventajas competitivas.

Y cada avance de un competidor genera presión sobre los demás.

Esta lógica tiene una característica peligrosa: cuando todos tienen miedo de quedarse atrás, incluso quienes reconocen el peligro pueden sentirse obligados a continuar avanzando.

Es un problema clásico de gobernanza.

Un laboratorio puede pensar que sería prudente disminuir la velocidad, pero si sus competidores continúan avanzando puede interpretar esa decisión como una pérdida estratégica. Un Estado puede querer establecer controles estrictos, pero puede temer que otros países desarrollen capacidades superiores. Una empresa puede invertir grandes cantidades en seguridad, pero puede encontrarse compitiendo contra otra que asume mayores riesgos.

De esta manera, el problema deja de ser exclusivamente tecnológico.

Se convierte en un problema de acción colectiva.

EL MERCADO NO PUEDE SER EL ÚNICO ÁRBITRO DEL FUTURO

Aquí aparece una discusión que para nosotros, los peruanos, también debería ser fundamental.

Durante las últimas décadas se ha extendido la idea de que muchos problemas pueden resolverse simplemente dejando actuar a los mercados. La innovación tecnológica, sin embargo, plantea situaciones en las que esa premisa resulta insuficiente.

El mercado es extraordinariamente eficiente para generar incentivos, competencia e innovación. Pero no necesariamente está diseñado para resolver problemas donde el beneficio pertenece a quien asume el riesgo y las consecuencias negativas recaen sobre toda la sociedad.

Si una compañía desarrolla una tecnología que puede generar enormes beneficios privados pero también riesgos sistémicos, la sociedad necesita instituciones capaces de establecer límites.

Eso no significa destruir la innovación.

Significa gobernarla.

Necesitamos un Estado suficientemente inteligente para comprender la tecnología, suficientemente competente para regularla y suficientemente democrático para someter sus decisiones al interés público.

La alternativa sería permitir que algunas de las decisiones más trascendentales de la humanidad sean determinadas exclusivamente por la competencia entre corporaciones y Estados.

Eso sería una irresponsabilidad histórica.

LA SOBERANÍA TAMBIÉN SERÁ DIGITAL

Para el Perú, esta discusión tiene una dimensión todavía más profunda.

Durante mucho tiempo entendimos la soberanía principalmente como control territorial. Un Estado soberano debía proteger sus fronteras, administrar su territorio y garantizar el monopolio legítimo de la fuerza.

En el siglo XXI esa definición resulta incompleta.

La soberanía también comienza a depender de nuestra capacidad para controlar y comprender los sistemas digitales que organizan nuestra economía, nuestra información, nuestras comunicaciones y nuestras decisiones públicas.

Un país que no comprende la inteligencia artificial dependerá tecnológicamente de otros.

Un país que no desarrolla capacidades propias de datos, infraestructura digital, ciberseguridad, investigación y talento humano quedará subordinado a decisiones tomadas fuera de sus fronteras.

Por eso el Perú no debería observar la revolución de la inteligencia artificial como un espectador.

Necesitamos una estrategia nacional de inteligencia artificial, articulada con la modernización del Estado, la educación, la seguridad nacional, la investigación científica, la economía y la transformación digital.

Y necesitamos algo todavía más importante: una nueva generación de funcionarios públicos capaces de comprender tanto la política como la tecnología.

El Estado del futuro no podrá ser administrado exclusivamente con procedimientos diseñados para el siglo XX.

EL CIUDADANO FRENTE A LA INTELIGENCIA ARTIFICIAL

Existe además una dimensión que muchas veces queda relegada: el ciudadano.

La inteligencia artificial puede mejorar radicalmente la relación entre el Estado y las personas.

Puede ayudar a detectar enfermedades, mejorar la educación, reducir tiempos administrativos, anticipar desastres, combatir organizaciones criminales, optimizar el transporte, identificar riesgos de corrupción, mejorar la planificación territorial y acercar servicios públicos a poblaciones históricamente excluidas.

Imaginemos un Estado capaz de comprender las necesidades de sus ciudadanos antes de que el problema se convierta en una emergencia.

Eso sería extraordinario.

Pero exactamente la misma capacidad puede utilizarse para vigilancia indiscriminada, manipulación política, discriminación algorítmica, concentración económica o control social.

La diferencia no estará únicamente en la tecnología.

Estará en las instituciones que la gobiernen.

Por eso debemos defender una inteligencia artificial al servicio de la persona humana, sometida a la ley, a la democracia y a principios éticos claramente establecidos.

NO TENEMOS DERECHO A SER TECNOLÓGICAMENTE INGENUOS

Tampoco debemos caer en el extremo contrario.

Sería un error rechazar la inteligencia artificial por miedo. La humanidad siempre ha enfrentado tecnologías capaces de transformar profundamente su existencia. El desafío consiste en aprender a gobernarlas.

La pregunta no debería ser si vamos a detener el desarrollo de la IA.

Probablemente no podremos hacerlo, aunque quisiéramos.

La pregunta es si seremos capaces de desarrollar simultáneamente inteligencia institucional.

Porque una sociedad puede disponer de máquinas extraordinariamente inteligentes y, al mismo tiempo, poseer instituciones profundamente estúpidas.

Y esa combinación puede resultar peligrosa.

La inteligencia artificial puede multiplicar nuestras capacidades. Pero también puede multiplicar nuestros errores, nuestras desigualdades y nuestras ambiciones.

Una mala decisión humana puede afectar a unas pocas personas.

Una mala decisión incorporada a un sistema automatizado capaz de operar a escala planetaria puede afectar a millones.

EL PERÚ NO PUEDE LLEGAR TARDE A ESTA DISCUSIÓN

Desde una perspectiva de Estado, nuestra tarea debería ser anticiparnos.

El Perú necesita invertir en educación científica y tecnológica, formar especialistas en inteligencia artificial, fortalecer universidades y centros de investigación, construir infraestructura digital soberana, proteger nuestros datos estratégicos, desarrollar capacidades de ciberseguridad y crear instituciones públicas capaces de auditar sistemas algorítmicos.

También necesitamos discutir qué decisiones pueden delegarse a una inteligencia artificial y cuáles deben permanecer necesariamente bajo responsabilidad humana.

No podemos permitir que la modernización tecnológica del Estado consista simplemente en comprar software.

Modernizar el Estado significa construir capacidad estatal para comprender, utilizar y gobernar la tecnología.

La inteligencia artificial debería convertirse en una herramienta para devolverle capacidad al Estado y dignidad al ciudadano.

Ese debería ser nuestro horizonte.

REFLEXIÓN FINAL: LA INTELIGENCIA DEBE ESTAR AL SERVICIO DE LA VIDA

Quizá la advertencia más importante que podemos extraer de estas discusiones no sea que la inteligencia artificial vaya a destruir necesariamente a la humanidad.

Todavía nadie puede afirmar eso.

La verdadera advertencia es que estamos desarrollando sistemas cuyo potencial todavía no comprendemos completamente y que, al mismo tiempo, estamos sometidos a enormes incentivos para avanzar rápidamente.

La humanidad ha llegado hasta aquí porque aprendió a dominar fuerzas que originalmente eran superiores a ella. Aprendimos a utilizar el fuego, navegar los océanos, domesticar la electricidad, dividir el átomo y viajar al espacio.

Pero cada conquista tecnológica nos ha impuesto una obligación adicional: aprender a gobernar el poder que hemos adquirido.

La inteligencia artificial puede convertirse en una de las mayores herramientas de progreso de nuestra historia. Puede ayudarnos a combatir enfermedades, educar a nuestros hijos, hacer más eficiente al Estado, generar conocimiento y ampliar las oportunidades humanas.

Pero también puede convertirse en un instrumento de concentración de poder si dejamos que su desarrollo sea gobernado únicamente por la velocidad, la competencia y el beneficio.

Por eso el debate sobre la inteligencia artificial no debe quedar encerrado en los laboratorios de Silicon Valley, en los departamentos de ingeniería o en los directorios de las grandes corporaciones.

Es un debate sobre la política, la soberanía, la democracia y el futuro de nuestra civilización.

Y aquí existe una responsabilidad que corresponde a nuestra generación.

No debemos preguntarnos solamente qué será capaz de hacer la inteligencia artificial.

Debemos preguntarnos qué clase de humanidad queremos construir con ella.

Porque el verdadero peligro quizá no sea crear máquinas demasiado inteligentes.

El verdadero peligro sería crear máquinas extraordinariamente poderosas mientras nosotros seguimos siendo incapaces de gobernar responsablemente nuestro propio poder.

La inteligencia artificial debe servir a la vida, a la libertad, a la dignidad humana y al bien común. Si la humanidad consigue gobernar esta nueva fuerza con prudencia, conocimiento y sentido de Estado, la IA podría convertirse en una de las mayores herramientas de progreso de nuestra historia. Si renunciamos a gobernarla, podríamos terminar descubriendo demasiado tarde que la tecnología avanzó mucho más rápido que nuestra capacidad moral para dirigirla.

Los Patriotas
Justicia, honor, lealtad y paz.