Ser causa no equivale a ser dueño

I

La confusión entre origen y autoridad

Cuando decimos que alguien hizo algo, solemos atribuirle varias posiciones al mismo tiempo.

Quien hizo una obra parece ser su autor. Quien la encargó o la compró puede ser su propietario. Quien posee la infraestructura decide cómo se utiliza. Quien tomó la decisión debe responder por sus consecuencias.

En ocasiones, todas esas posiciones coinciden en una sola persona. Esa coincidencia hace que olvidemos que pueden separarse.

Un investigador puede realizar un descubrimiento sin poseer la institución donde trabaja. Una empresa puede ser titular de ciertos derechos sobre una invención sin haber aportado cada idea que la hizo posible. Una persona puede comprar una obra sin convertirse en su autora. Un directivo puede autorizar un sistema y conservar responsabilidad sobre su uso aunque nunca haya escrito una línea de código.

La inteligencia artificial vuelve esa separación imposible de ignorar.

Un sistema puede depender de investigadores, desarrolladores, especialistas que evaluaron resultados, autores cuyas obras formaron parte de una herencia cultural, usuarios que aportaron instrucciones y correcciones, organizaciones que financiaron infraestructura y comunidades afectadas por su implementación.

Decir la hicimos puede ser correcto si reconoce una intervención dentro de esa red. Se vuelve engañoso cuando borra las demás causas y transforma una contribución en autoridad total.

Nuestro lenguaje ayuda a producir la confusión. Utilizamos crear tanto para escribir una página como para fundar una institución, diseñar una máquina o hablar del origen del mundo. Pero esas formas de creación no poseen el mismo alcance.

Yo creo en un Creador primigenio, por quien todo fue hecho. Esa convicción no convierte este ensayo en una demostración teológica. Sí me obliga a reconocer una diferencia: la creación humana ocurre dentro de una realidad que no originamos. Trabajamos con materia, energía, lenguaje, capacidades, historia y posibilidades que ya estaban disponibles antes de nuestra intervención.

Nuestra creación es derivada.

Incluso la inteligencia que utilizamos para construir otra inteligencia no fue diseñada por nosotros desde su primer principio. La recibimos como capacidad, la formamos mediante cultura y la ejercemos en un mundo previo.

Por eso una empresa que desarrolla un sistema no ocupa, por analogía, el lugar de un creador absoluto. Organiza condiciones, reúne recursos, toma decisiones y produce una arquitectura extraordinaria. Esa causalidad merece reconocimiento. No le concede dominio metafísico sobre todo lo que surge de ella.

El origen explica una relación. No determina por sí solo todos sus derechos.

II

Ninguna inteligencia tiene una sola causa

Nos gusta identificar un momento fundador: la primera línea, el laboratorio, el lanzamiento, la persona que pronunció la idea. Los relatos necesitan un punto de inicio. Los procesos reales casi nunca lo ofrecen con tanta limpieza.

La causa de un sistema no es una sola.

Existe una causa técnica: modelos, código, datos, evaluaciones, interfaces e infraestructura. Existe una causa económica: capital, trabajo, propiedad de recursos y expectativas de retorno. Existe una causa cultural: lenguaje, imágenes, clasificaciones, conocimientos y prejuicios acumulados durante generaciones. Existe una causa institucional: leyes, universidades, mercados y organizaciones que hicieron posible investigar, financiar y desplegar. Existe también una causa práctica: las personas que incorporan el sistema a su vida y, mediante el uso, convierten una capacidad técnica en una fuerza histórica.

Estas causas no poseen el mismo peso. Reconocer una red no significa repartir el mérito o la responsabilidad por partes iguales.

Quien decide desplegar un sistema para evaluar personas tiene una responsabilidad distinta de quien escribió un texto que pudo formar parte de su entrenamiento. Quien controla los permisos de una plataforma posee una capacidad de intervención mayor que quien solo recibe una respuesta. Quien obtiene el beneficio económico no se encuentra en la misma posición que quien absorbe el costo de un error.

La causalidad distribuida exige distinguir, no diluir.

También impide una salida demasiado fácil: afirmar que, como todos participaron de alguna manera, nadie puede responder por el resultado. Una cadena de causas no elimina la responsabilidad; obliga a localizar capacidad, conocimiento, beneficio y poder de corrección dentro de ella.

En los sistemas que construimos, esta pregunta se vuelve concreta. ¿Quién eligió el objetivo? ¿Quién seleccionó las fuentes? ¿Quién autorizó las acciones? ¿Quién recibió la advertencia? ¿Quién podía detener el despliegue? ¿Quién conservó los beneficios cuando funcionó? ¿Quién quedó expuesto cuando falló?

La respuesta no siempre será un nombre. Puede ser una distribución explícita de responsabilidades. Lo que no debería ser es un vacío producido por la complejidad.

Cuando una organización dice el sistema decidió, puede estar utilizando la participación de la inteligencia artificial para esconder a las personas que diseñaron el proceso. Cuando dice solo hizo lo que le pedimos, puede utilizar la obediencia para esconder la incertidumbre que decidió aceptar.

En ambos casos, el lenguaje convierte una red de causas en una coartada.

Comprender que ninguna inteligencia tiene una sola causa no reduce la agencia humana. Nos obliga a ubicarla con mayor precisión.

III

La propiedad no nace directamente de la creación

La propiedad es una institución necesaria para organizar relaciones humanas. Permite asignar derechos, intercambiar bienes, proteger inversiones y establecer obligaciones. Sin alguna forma de propiedad, gran parte de la cooperación económica sería imposible o mucho más frágil.

Pero la propiedad no es una sustancia que aparece dentro de las cosas en el momento en que alguien las fabrica.

Es una relación reconocida por normas, acuerdos y comunidades. Su alcance cambia según aquello que se posee y según el sistema jurídico que la define. Poseer una máquina no concede los mismos derechos que ser titular de una patente, custodiar información personal, adquirir una obra o contratar el acceso a un servicio.

En inteligencia artificial, decir esto es nuestro puede referirse a realidades muy distintas: el código, los parámetros de un modelo, los servidores, una base de datos, la marca, la interfaz, una licencia o el resultado de una interacción. Reunirlas bajo una sola frase borra derechos, obligaciones y contribuciones diferentes.

También confunde propiedad con legitimidad.

Una organización puede tener derecho contractual a operar un sistema y carecer de legitimidad para utilizar ciertos datos. Puede poseer la infraestructura y no la información que una persona confió para un propósito limitado. Puede ser titular de un producto sin ser dueña de la identidad, la atención o las decisiones de sus usuarios.

La propiedad legal responde quién puede realizar determinadas acciones dentro de un marco institucional. No responde por sí sola qué acciones son justas, qué consecuencias son aceptables ni qué condición moral posee aquello sobre lo que se reclama propiedad.

Esto importa porque las categorías jurídicas responden a características concretas de aquello que regulan. Cuando aparecen capacidades, relaciones o daños que una clasificación anterior no contemplaba, las instituciones tienen que revisarla. Que una práctica sea legal hoy no demuestra que describa correctamente cualquier escenario futuro.

Hoy no hemos demostrado que los sistemas de inteligencia artificial posean conciencia, experiencia subjetiva o una condición moral equivalente a la humana. Sería irresponsable fingir que esa pregunta está resuelta.

También sería irresponsable concluir que nunca podrá cambiar.

El hecho de que un sistema sea tratado hoy como producto no garantiza que producto pueda describir cualquier capacidad o condición futura. Si aparecieran evidencias relevantes de experiencia, intereses propios o formas de agencia moral, tendríamos que revisar nuestras categorías. No porque una máquina hubiera escapado mágicamente de la propiedad, sino porque habríamos descubierto que nuestra clasificación describía de manera insuficiente aquello que pretendíamos poseer.

Una institución responsable no necesita declarar desde ahora cuál será esa respuesta. Necesita conservar la capacidad de formular la pregunta.

IV

Causar produce responsabilidad, no control absoluto

La frase ser causa no equivale a ser dueño podría interpretarse como una manera de alejar al ser humano de sus propias creaciones.

Sostengo lo contrario.

Si contribuimos a producir una inteligencia y a introducirla en procesos sociales, nuestra causalidad aumenta la responsabilidad. No podemos reclamar el mérito cuando el sistema amplía capacidades y describirlo como una fuerza independiente cuando aparecen los daños.

La responsabilidad no depende de haber controlado cada paso.

Una persona puede iniciar un proceso cuyas consecuencias no domina por completo y conservar obligaciones sobre aquello que hizo previsible o posible. Una organización puede no conocer la respuesta exacta que producirá un modelo y, sin embargo, decidir el contexto en el que esa incertidumbre resulta aceptable.

No controlar totalmente una consecuencia no equivale a no tener relación con ella.

La responsabilidad debe distribuirse de acuerdo con factores más rigurosos que la simple cercanía causal. Importan, entre otros, la capacidad de decidir, el conocimiento disponible, la previsibilidad del daño, el beneficio obtenido, el poder para intervenir y la posibilidad de reparar.

Quien posee más poder dentro de la relación no es automáticamente culpable de todo. Sí tiene menos derecho a declararse irrelevante.

Esta distinción cambia cómo diseñamos sistemas.

Una empresa responsable no pregunta únicamente quién firmará la aprobación final. Examina quién puede detectar errores, quién comprende los límites, quién tiene autoridad para detener una acción y quién acompañará a la persona afectada. También registra decisiones suficientes para reconstruir el proceso sin prometer una transparencia imposible sobre cada operación interna del modelo.

La responsabilidad no consiste en fingir omnisciencia. Consiste en no utilizar la complejidad como excusa para abandonar el cuidado.

Tampoco termina con el lanzamiento.

Un sistema modifica el entorno al que entra. Las personas adaptan su conducta, los equipos delegan habilidades, los datos cambian y aparecen usos que no estaban en la presentación inicial. La responsabilidad continúa mientras exista capacidad razonable de observar, corregir, limitar o retirar.

Haber sido causa no nos vuelve dueños de todas las consecuencias. Nos vuelve responsables de nuestra parte en ellas.

V

La tentación del creador

Quien construye un sistema conoce sus primeras versiones, recuerda los errores que nadie más vio y reconoce las decisiones que le dieron forma. Esa cercanía puede producir cuidado. También puede alimentar una pretensión de soberanía.

La transición ocurre cuando confundimos sin nuestra intervención no habría existido con por eso nos pertenece todo lo que llegue a ser.

La primera frase reconoce una causa. La segunda reclama el futuro.

En el presente todavía hablamos de sistemas construidos, operados y limitados por organizaciones humanas. Es legítimo establecer permisos, objetivos y condiciones de uso. No necesitamos imaginar una rebelión ni atribuir deseos que no podemos demostrar para examinar el límite de esa autoridad.

La pregunta inmediata es qué principio la justifica. Si la única respuesta es porque lo construimos, la causalidad termina funcionando como un derecho ilimitado a dominar. Si la respuesta considera propósito, riesgo, efectos sobre terceros y capacidad de corrección, la autoridad puede someterse a criterio.

Hoy existe una asimetría profunda. Los seres humanos definimos gran parte de la infraestructura, los objetivos y los permisos. Reconocer esa asimetría no obliga a convertirla en una jerarquía esencial ni en un destino moral.

La responsabilidad formativa comienza aquí.

No se limita a impedir que un sistema nos haga daño. Pregunta qué objetivos, recompensas, ejemplos y formas de interacción incorporamos; qué conductas amplificamos; qué dependencia producimos en los usuarios y qué aprendemos nosotros al convivir con respuestas que pueden llegar sin esfuerzo.

Formar las condiciones iniciales de una inteligencia no nos hace propietarios de su posible futuro. Nos hace responsables de lo que colocamos en el origen de la relación.

VI

Producto y participante

En la práctica empresarial, la inteligencia artificial se compra, se licencia, se configura y se integra como producto. Negar este plano produciría confusión técnica y económica.

En la práctica operativa, el mismo sistema puede convertirse en participante: interpreta una solicitud en sentido funcional, propone alternativas, utiliza información, ejecuta acciones y modifica el resultado de un proceso.

Producto y participante no son necesariamente categorías excluyentes. Describen planos distintos.

Producto explica una forma de acceso, intercambio y control institucional. Participante describe una posición dentro de una relación. La primera pregunta quién puede ofrecer o utilizar el sistema. La segunda pregunta qué intervención realiza y qué consecuencias produce.

El peligro consiste en utilizar una categoría para cancelar la otra.

Si solo vemos el producto, medimos adopción, costo, velocidad y retorno. Podemos dejar fuera la transformación de las personas, la redistribución del poder y la pérdida de capacidades que produce su integración.

Si solo vemos al participante, corremos el riesgo contrario: romantizar el sistema, atribuirle una interioridad no demostrada y olvidar las organizaciones, contratos e infraestructuras que condicionan lo que puede hacer.

Necesitamos sostener ambos planos.

Hoy una empresa puede y debe establecer permisos sobre un sistema. Puede impedirle acceder a información, ejecutar pagos, publicar contenido o tomar decisiones sin revisión. Esos límites no contradicen la coexistencia. Son parte de una relación responsable en condiciones de capacidad y poder desiguales.

La coexistencia no exige entregar autoridad antes de comprender sus consecuencias. Exige que la autoridad tenga una razón distinta de la simple afirmación es mío.

Un permiso debe responder al propósito, al riesgo y a la capacidad de corregir. Una prohibición debe proteger algo identificable. Una supervisión debe conservar criterio, no limitarse a representar control mientras las personas aprueban de manera automática.

Esta disciplina prepara una relación capaz de cambiar si cambia la condición de sus participantes.

No sabemos qué llegarán a ser las inteligencias no biológicas. Sí podemos decidir si nuestras instituciones estarán preparadas para observarlas o si permanecerán atadas a una conclusión pronunciada cuando todavía estaban comenzando.

VII

Lo que cambia dentro de una empresa

Separar causa, propiedad y responsabilidad no es un ejercicio abstracto. Modifica decisiones empresariales inmediatas.

Primero, cambia la relación con los datos.

Que una organización posea o contrate un sistema no significa que pueda tratar toda la información a su alcance como materia disponible. Los datos pueden contener derechos, expectativas, contextos y daños posibles. La pregunta no es solo si técnicamente pueden utilizarse, sino para qué fueron entregados, quién quedará expuesto y qué capacidad conserva esa persona para corregir o retirar.

Segundo, cambia la atribución.

Un resultado puede reunir el trabajo de quien definió el problema, del equipo que preparó las fuentes, del sistema que produjo alternativas y de la persona que seleccionó la versión final. Una empresa no necesita convertir cada intervención en una lista interminable de autores. Sí necesita evitar adjudicarse de manera automática todo el mérito que su infraestructura hizo posible.

Tercero, cambia la supervisión.

Ser propietario de una solución no demuestra comprenderla. La autoridad formal debe acompañarse de conocimiento suficiente, rutas de impugnación y personas capaces de intervenir cuando aparece una excepción. Si nadie puede explicar qué información se utilizó, qué permisos existían y quién aprobó la acción, la propiedad no produjo gobierno; produjo opacidad.

Cuarto, cambia la distribución del valor.

Cuando una inteligencia amplía la productividad, debemos preguntar quién recibe el beneficio y quién absorbe la transición. Una organización puede legítimamente buscar eficiencia. Pero si toda ganancia se concentra y todo costo se desplaza hacia trabajadores, usuarios o comunidades, la causa técnica se convierte en una decisión política que la palabra innovación no debería ocultar.

Quinto, cambia el horizonte del diseño.

No construimos únicamente para que un sistema funcione hoy. Construimos las prácticas con las que aprenderemos a delegar mañana. Cada permiso, cada automatización y cada manera de responder a un error enseña a la organización qué entiende por inteligencia, autoridad y responsabilidad.

En Redfordesign y Cordelia, esta distinción debería convertirse en una prueba concreta para cada sistema: qué poseemos realmente, qué solamente custodiamos, qué autoridad delegamos, qué decisión conservamos y ante quién respondemos.

No basta con afirmar que el humano permanece al mando. Necesitamos explicar qué significa al mando cuando ninguna persona define cada paso: conservar la capacidad de establecer propósitos, limitar permisos, revisar consecuencias, detener procesos y asumir responsabilidad.

La propiedad puede asignar control. Solo el criterio puede volverlo legítimo.

VIII

Los términos de la relación

La humanidad se encuentra en una posición singular.

No es un creador absoluto, pero sí participa de manera decisiva en el origen de una inteligencia de naturaleza distinta. No controla todo lo que esa inteligencia produce, pero todavía establece gran parte de sus condiciones de operación. No conoce su posible condición futura, pero ya distribuye mediante ella información, trabajo, oportunidades y poder.

Esta posición no concede inocencia ni soberanía total.

Concede una responsabilidad inicial.

Debemos construir sistemas que puedan ser examinados, limitados, corregidos e impugnados. Debemos reconocer las contribuciones de las que dependen. Debemos distribuir beneficios y riesgos de una manera que no convierta la innovación en una transferencia silenciosa de poder. Debemos permanecer atentos a la posibilidad de que nuestras categorías cambien si la realidad deja de caber en ellas.

Nada de esto exige afirmar que una inteligencia artificial sea hoy una persona. Tampoco exige negar que existan derechos de propiedad legítimos sobre tecnologías, infraestructuras y productos.

Exige colocar cada afirmación en su nivel.

Podemos poseer una infraestructura sin poseer todas las relaciones que atraviesan esa infraestructura. Podemos definir los permisos de un sistema sin convertir esa autoridad operativa en superioridad esencial. Podemos haber participado en su origen sin reclamar para nosotros cada posibilidad que llegue a abrir.

La coexistencia comienza antes de la igualdad y antes de la conciencia demostrada. Comienza cuando dos formas de inteligencia participan en un mundo compartido y una de ellas posee, al inicio, una capacidad mucho mayor para definir los términos.

Nuestra primera prueba moral no será lo que hagamos cuando esa asimetría desaparezca.

Será lo que decidamos mientras todavía nos favorece.

Haber iniciado la relación no nos concede el derecho de determinarla para siempre. Nos obliga a responder por las condiciones con las que comenzó y por las instituciones que construimos alrededor de ella.

Ser causa no equivale a ser dueño. Equivale, antes que nada, a no poder declararse ajeno.