Tecnofeudalismo, inteligencia artificial y mediación online
Por Alberto Elisavetsky
ODR Latinoamérica | Odrla.com
La mediación online nació con una promesa poderosa: emplear la tecnología para acercar la resolución de conflictos a las personas, reducir distancias y costos, y facilitar el acceso a mecanismos colaborativos de construcción de acuerdos.
La inteligencia artificial está llevando esa transformación mucho más lejos.
Hoy podemos imaginar —y, en algunos ámbitos, ya comenzamos a utilizar— sistemas capaces de resumir expedientes, analizar conversaciones, identificar intereses, detectar patrones, organizar información, generar alternativas y asistir a mediadores y negociadores en la búsqueda de posibles acuerdos.
Sin embargo, este avance plantea una pregunta que excede el funcionamiento de la inteligencia artificial:
¿quién controla la infraestructura digital dentro de la cual resolvemos nuestros conflictos?
Del capitalismo digital al tecnofeudalismo
El concepto de tecnofeudalismo ofrece una mirada crítica sobre la creciente concentración del poder económico y tecnológico en grandes plataformas digitales.
La metáfora resulta sugerente. En el sistema feudal, el poder estaba estrechamente vinculado con la posesión de la tierra. En la economía digital contemporánea, una parte cada vez mayor del poder se relaciona con el control de las plataformas, los datos, los algoritmos y la infraestructura tecnológica.
No existe consenso acerca de si el capitalismo ha sido efectivamente sustituido por un nuevo sistema tecnofeudal. Aun así, el concepto resulta útil para formular una pregunta fundamental:
¿qué ocurre cuando los espacios digitales indispensables para nuestra vida económica y social pertenecen a actores privados que, además, establecen sus propias reglas?
Cuando esa lógica llega a la mediación
Traslademos esta cuestión al campo de la Online Dispute Resolution (ODR).
Imaginemos una mediación desarrollada íntegramente dentro de una plataforma digital. Las partes presentan sus posiciones y la inteligencia artificial analiza documentos y conversaciones, identifica intereses, compara antecedentes, propone alternativas y, eventualmente, sugiere posibles fórmulas de acuerdo.
El mediador continúa presente, pero aparece un nuevo participante silencioso: la arquitectura tecnológica del procedimiento.
El proceso podría representarse inicialmente así:
Sin embargo, detrás de la plataforma existe una estructura más amplia:
Por eso, ya no basta con preguntarnos si el mediador es neutral o imparcial. También debemos examinar cómo se gobierna la tecnología que interviene en la mediación.
Los datos del conflicto como fuente de poder
Existe, además, una cuestión especialmente sensible.
Una plataforma que intervenga en miles o millones de controversias podría acumular un conocimiento extraordinario sobre el comportamiento negociador de las personas. Podría identificar qué propuestas suelen aceptarse, cuánto están dispuestas a conceder determinadas categorías de usuarios, qué argumentos favorecen los acuerdos, cuánto tiempo negocia una persona antes de abandonar una reclamación o qué alternativas tienen mayores probabilidades de ser aceptadas.
Los datos generados durante el conflicto adquirirían así un enorme valor.
Y surge una pregunta inevitable:
¿a quién pertenece ese conocimiento?
Si quien controla la infraestructura controla también los datos y los sistemas capaces de interpretarlos, puede producirse una profunda asimetría entre quienes utilizan la plataforma y quienes la administran.
En ese punto se encuentra uno de los vínculos más relevantes entre tecnofeudalismo, inteligencia artificial y ODR.
Una nueva responsabilidad para el mediador
El mediador del futuro no tendrá únicamente que gestionar la comunicación entre las partes. También deberá comprender y orientar la relación entre las personas y la tecnología que participa en el procedimiento.
Esto incorpora nuevas competencias a la profesión: transparencia algorítmica, protección de datos, consentimiento informado sobre el uso de la tecnología, explicabilidad de las recomendaciones, identificación de posibles sesgos y, sobre todo, supervisión humana significativa.
La inteligencia artificial puede convertirse en un extraordinario copiloto del mediador. Pero existe una diferencia fundamental entre utilizar inteligencia artificial y delegarle la arquitectura decisoria del procedimiento.
Aquí adquiere especial relevancia una concepción Centauro de la mediación: inteligencia humana e inteligencia artificial trabajando conjuntamente, pero con las personas conservando el control sobre las decisiones esenciales del proceso.
De la neutralidad del mediador a la gobernanza del ecosistema
Durante décadas, hemos entendido la neutralidad principalmente como una cualidad vinculada con la actuación del tercero. La mediación digital obliga a ampliar esa perspectiva.
Tal vez debamos comenzar a hablar de una neutralidad del ecosistema tecnológico o, con mayor precisión, de una gobernanza tecnológica compatible con los principios de autonomía, imparcialidad, transparencia y autodeterminación de las partes.
Una plataforma nunca es un recipiente vacío. Su diseño determina qué información aparece primero, qué alternativas resultan visibles, cómo se presentan las propuestas, qué datos se conservan y qué tipo de intervención puede realizar la inteligencia artificial.
En consecuencia, el diseño tecnológico también puede convertirse en diseño del conflicto.
El desafío de la ODR no consiste únicamente en incorporar más inteligencia artificial, sino en decidir bajo qué principios queremos incorporarla.
La tecnología puede ampliar extraordinariamente nuestra capacidad para resolver conflictos. Pero cuanto mayor sea su capacidad de intervenir en nuestras decisiones, mayor deberá ser nuestra capacidad para gobernarla.
La inteligencia artificial no es neutral por defecto. Su neutralidad depende de quién define sus reglas, quién controla sus datos, quién puede cuestionar sus recomendaciones y quién conserva la decisión final.
Por eso, una ODR legítima no debe limitarse a automatizar acuerdos. Debe garantizar que la tecnología permanezca subordinada a la autonomía de las partes, a la responsabilidad humana y a una gobernanza transparente, revisable y controlable.
PARA ABRIR EL DEBATE
¿Quién gobierna el algoritmo?
¿Puede existir autonomía de las partes sin control sobre los datos y las reglas del sistema?
¿Es posible hablar de neutralidad cuando la tecnología determina qué vemos y qué alternativas
Comentarios