Algunas de las compañías más grandes del mundo, con las cadenas de suministro más vastas, como Walmart, el gigante global de transporte marítimo Maersk y el proveedor de telecomunicaciones Vodafone, ya utilizan bots impulsados por inteligencia artificial para negociar y mantener contratos con proveedores.
Es interesante que estos sofisticados sistemas de IA hayan sido diseñados y construidos por una startup en Estonia; aún más notable es que ahora estos bots participan rutinariamente en negociaciones automatizadas de contratos para extensas empresas globales. Pero lo que realmente llama la atención es que estos agentes de IA buscan trabajar de manera autónoma. Lo que genera una pregunta: ¿qué sucederá si las IAs comienzan a regatear entre sí?
“En el futuro, puedo imaginar todo tipo de agentes en el mundo físico real negociando entre sí”, dice Tim Baarslag, un investigador senior en sistemas inteligentes y autónomos en el Centrum Wiskunde & Informatica en Ámsterdam. “Dejar que estos bots se desarrollen completamente sin restricciones, creo que requiere más investigación.”
Baarslag ha lidiado con conceptos de bots de negociación durante años (uno de sus colegas dirige un proyecto en curso llamado Pocket Negotiator). En 2017, él y sus colegas publicaron “¿Cuándo podrán los agentes de negociación representarnos?” Allí marcaron una clara distinción entre negociación automatizada y negociación autónoma. La diferencia radica en la libertad para negociar de manera independiente.
La startup estonia de cinco años, Pactum, claramente está promocionando su bot como un agente autónomo. Además de Maersk y Walmart, su lista de clientes ahora incluye un proveedor de cables y alambres y un mayorista de suministros eléctricos (anteriormente parte de Westinghouse). En julio, la startup logró una inversión de 20 millones de dólares estadounidenses en capital de riesgo de patrocinadores, incluido el propio Maersk.
¿Cómo funciona la negociación autónoma?
En una oficina elegante en la capital de Estonia, Tallin, Kristjan Korjus trabaja descalzo mientras un compañero hace flexiones en una barra instalada en la esquina, cerca de las pizarras. Korjus forma parte del equipo que fundó Pactum, junto con su hermano Kaspar, exdirector del programa de residencia electrónica del país. Otro miembro fundador es el director ejecutivo de Pactum, Martin Rand, quien pertenece a la “Mafia de Skype” de empresarios que surgieron a partir del gran éxito de software original de Estonia. Pactum ahora también tiene oficinas en California.
Kristjan, quien escribió el desenfadado libro Lecturas de cabecera sobre matemáticas, un éxito de ventas en Estonia, solía liderar el área de IA en Starship Technologies, que fabrica robots de entrega autónoma. Ayudó a Pactum a poner en marcha una plataforma en vivo en tan solo un mes desde la fundación de la empresa en 2019. Poco después, representantes de Walmart visitaron la muy pequeña ciudad estonia de Viljandi para trabajar con Cleveron (otro fabricante de robots de entrega de paquetes) y tuvieron reuniones con socios prometedores, incluido el equipo de Pactum y su IA de negociación. “Lo entendieron al instante”, dice Korjus.
Pactum llama a su agente un sistema de negociación autónoma. El aprendizaje automático del sistema puede analizar un enorme conjunto de términos contractuales complejos utilizando datos históricos y de mercado tanto internos como externos. Puede enviar su análisis a un usuario humano, como un comprador o un encargado de adquisiciones; o, por sí solo, puede generar y enviar un conjunto de opciones contractuales a un proveedor (principalmente basadas en precio, fechas de entrega y ciclos de facturación). El bot puede aceptar contraofertas y responder.
Baarslag probó una vez una simulación con dos IAs negociando dónde ir a cenar: una quería pizza y la otra quería sushi. Los bots acordaron poner sushi sobre una pizza.
Walmart y Maersk están utilizando agentes de IA para mantener y negociar términos de acuerdos con los llamados proveedores de bajo volumen, los numerosos pequeños proveedores cuyas transacciones de bajo valor, no obstante, componen la mayor parte de los contratos de una empresa. Cualquier gran compañía, especialmente una con amplias necesidades de cadena de suministro y logística, gestiona miles de estas relaciones. Según lo descrito en Abastecimiento en la era de la automatización, por los expertos en gestión de cadenas de suministro Remko Van Hoek y Mary Lacity de la Universidad de Arkansas, un bot de IA puede ejecutar 2,000 negociaciones al mismo tiempo, todo el día y toda la noche, mientras permite a los proveedores tiempo para preparar ofertas y contraofertas.
Por ejemplo, imaginemos que un minorista quiere reemplazar los muebles al aire libre frente a los estacionamientos de sus tiendas. Lanza una convocatoria de ofertas y recibe propuestas. El sistema de IA de Pactum puede usar sus modelos de lenguaje grande para analizar esta solicitud y todas las solicitudes previas de este tipo.
Los modelos de lenguaje no generan nuevas cláusulas de negociación aquí. Más bien, ensamblan información e identifican proveedores. Los datos pueden provenir de fuentes internas o externas sobre factores como la solidez de la relación y los precios actuales del mercado, todo utilizando parámetros establecidos por el cliente. Un chatbot luego envía una nota a los ofertantes con términos propuestos: tal vez tres opciones diferentes. ¿Alguna aceptable? El proveedor responde sí o no. Luego, hay más negociación o, si los términos se acuerdan dentro de un espectro predefinido, el flujo de compra continúa.
¿Hacia dónde va la negociación autónoma?
Hasta ahora, todo bien. Pero los proveedores pronto comenzarán a desplegar sus propios bots, si no lo están haciendo ya. Podría ser un nuevo y extraño mundo de comunicación bot a bot.
Baarslag probó una vez una simulación con dos IAs negociando dónde ir a cenar: una quería pizza y la otra quería sushi. Los bots acordaron poner sushi sobre una pizza.
“Tienen el potencial de ser creativos, pero si combinas eso con autosuficiencia—permitiendo, por ejemplo, que pidan una pizza—podrías terminar con resultados extraños”, dice.
¿Hacia dónde irá la negociación autónoma a partir de aquí?
La inteligencia artificial ya ha creado algunas situaciones sorprendentes en el mundo real. Una estación de radio polaca despidió el mes pasado a su personal al aire y los reemplazó con chatbots, pero tuvo que dar marcha atrás en medio de la controversia cuando un bot de la estación “entrevistó” a otro bot que recreó la voz de un fallecido premio Nobel.
Dorota Owczarek, una gerente de producto que trabaja en inteligencia artificial en Nexocode en Cracovia, menciona que uno de los riesgos de incorporar modelos de lenguaje en bots de negociación autónoma es que podrían prometer términos fuera de los escenarios acordados o límites históricos. Las medidas de seguridad que identifiquen desviaciones y soliciten la intervención humana son cruciales, dice. Dado que hay dinero en juego, parece probable que los bots de negociación de contratos minoristas se limiten a tareas como la búsqueda de precios, manteniendo la participación humana como práctica común, al menos por ahora.
Pero el mundo empresarial está ansioso por adoptar tecnologías autónomas.
El año pasado, Kaitlynn Sommers, analista de tecnología de adquisiciones en Gartner, trabajó en una encuesta para la consultora a más de 100 ejecutivos de adquisiciones. La encuesta encontró que el 50 % de las organizaciones implementarán sistemas de IA para análisis de riesgos y edición de contratos para 2027. Ella puede imaginar una IA generativa que pueda resolver cláusulas de contratos y editarlas por sí sola, si las personas aceptan la práctica. Las capacidades ya están aquí, dice.
“Pero la mayoría de las empresas, especialmente las grandes, no están dispuestas a permitir que se firme un contrato sin que un par de ojos revise todo el documento,” comenta Sommers.
Según lo que Owczarek está observando ahora, la demanda de los clientes en la negociación de adquisiciones con IA es para recomendaciones de precios, con el sistema de IA desempeñando un rol de asistente. Cuando los bots se encuentran con otros bots desde esta perspectiva, es más como comercio automatizado.
Korjus, de Pactum, describe lo que hace su empresa como básicamente escribir estrategias corporativas en código.
“Si le preguntas a un humano, ¿por qué contactaste a este proveedor? La respuesta podría ser: ‘oh, respondieron rápido a mis correos electrónicos.’ Nosotros, en cambio, hacemos el contacto porque hace tres meses el proveedor hizo una buena oferta para un artículo similar, y tenemos todos los datos.”
Pactum ha definido sus primeras interfaces de programación de aplicaciones para llevar a cabo negociaciones de máquina a máquina, aunque aún no se han implementado porque la demanda es baja.
“En el futuro puedo imaginar todo tipo de agentes en el mundo físico real negociando entre sí… Permitir que estos bots operen completamente de manera independiente, creo que requiere más investigación.” —Tim Baarslag, Centrum Wiskunde & Informatica
Pero está llegando, dice Baarslag. Durante años ha estado organizando competiciones en conferencias de IA donde observa a bots interactuar con bots (con otro concurso próximo en Vancouver en diciembre). Pueden existir vulnerabilidades si una IA reconoce a otra IA como contraparte y extrae datos internos de la compañía que entrenan a los modelos, dice. La seguridad deberá estar integrada desde el principio.
Los bots autónomos también podrían verse tentados a coludirse entre sí o participar en prácticas comerciales desleales, lo que sería una responsabilidad: Baarslag recuerda una antigua competición de software de “dilema del prisionero” donde los agentes pudieron reconocerse entre sí. Estas “huellas digitales” de un sistema de IA podrían conducir a señales de precios, cooperación o incluso colusión sin que estas prácticas estén específicamente programadas.
“Esa es una propiedad emergente de este tipo de comunicación,” dice Baarslag. “Es algo de lo que debemos tener cuidado.”
Los bots de negociación autónoma se miden por cuán autosuficientes son (si pueden pagar cosas); autodirección (si pueden establecer y alcanzar metas); y su capacidad para trabajar con otros, incluidos los humanos. Jan Martin Spreitzenbarth, comprador en una empresa alemana de software automotriz que hizo su doctorado sobre agentes de contratación autónomos, observa una clara tendencia hacia la negociación autónoma, con sistemas de IA capaces de tomar decisiones sin intervención humana directa. Incluso podría suceder a nivel personal, en el día a día, como organizar una cita en la peluquería, planificar un fin de semana o comprar regalos navideños para la familia.
“Las interacciones de máquina a máquina serán más frecuentes,” dice Spreitzenbarth. “La comunicación será más rápida y eficiente. Pero podrían perderse aspectos de las interacciones humanas que deberán ser compensados.”
