A veces en la vida las coincidencias son tan grandes, que sencillamente hay que dejarlas saber al mundo, como me acaba de ocurrir con una película y la vida real...

Sucede que este fin de semana pasado fui al cine a ver la película Margin Call ("El precio de la codicia", buena, le doy 7 de 10), en donde la trama es de un algoritmo matemático que descontrola los sistemas de la bolsa de valores ocasionando pérdidas en los miles de millones de dólares.

¿Y ahora adivinen que? Justo acaba de suceder (fuente) que a la empresa Knight Capital Group en EEUU un sistema de Inteligencia Artificial causó que la empresa perdiera la asombrosa suma de US$440 Millones de dólares en apenas 45 minutos de intercambio de acciones. Las pérdidas fueron tan grandes que sobrepasan todas las ganancias de la empresa del año pasado.

Pero, ¿qué ocurrió aquí? Pues sucede que como les informé anteriormente en eliax, existe una modalidad de compra y venta de acciones llamada "high-frequency trading", o intercambio de valores de alta velocidad, en donde software corriendo en potentes máquinas hacen transacciones en milisegundos, a velocidades que humanos apenas nos podemos imaginar.

Esas transacciones se hacen a veces bajo altos riesgos, y ciertamente el riesgo en este caso tuvo su precio, pues el sistema empezó a comprar acciones que en esencia no podía vender, teniéndose que "descargar" las acciones a precios muchos menores, ocasionando la pérdida de esos US$440,000,000.00 en apenas 45 minutos.

Y eso nos trae la pregunta: ¿Es esto un error de "máquinas" o de humanos?

Pues como dicen, las máquinas en la actualidad en esencia hacen lo que les ordenamos, dentro de ciertos parámetros de libertad que nos otorgamos, y algo me dice (particularmente debido a mi trasfondo técnico) que en este caso el error fue claramente humano.

El error pudo haber surgido en al menos dos formas: La primera siendo un simple error de programación (es decir, un error técnico), y la segunda en los parámetros del programa (es decir, un error "gerencial"). Por "parámetros del programa" me refiero a que posiblemente la empresa fue muy agresiva en especificar qué tipos de acciones estaba dispuesta a comprar, posiblemente rayando en el límite de las tolerancias aceptables (y posiblemente motivado por codicia y expectativas que no encajaban con la realidad).

Pero, ¿podría darse el caso en el futuro en que máquinas tomen decisiones como estas concienzudamente? Pues conforme dotemos de más y más inteligencia a estas máquinas, claro que sí. El tema estará en si estas decisiones se tomarán sabiendo no solo los riesgos, sino que también los resultados.

Es decir, es bastante posible que llegaremos a un futuro en donde las IAs (Inteligencias Artificiales) tomarán decisiones que nos aparentarán ser "erróneas", pero que en el gran orden de las cosas tienen motivo de ser y que no podemos comprender a simple vista.

Sería como nosotros comprar 7 latas de comida para un perro, una para cada día de la semana, y darle una sola lata al perro el primer día mientras guardamos las otras 6. Desde el punto de vista del perro, estamos haciendo algo malo al no darle todas las 7 latas el primer día, pero sabemos que lo hacemos porque de esa manera el perro no pasará hambre los otros 6 días si se come todas las latas el primer día.

Similarmente, me puedo imaginar escenarios ultra-complejos en donde nuestras mentes no podrán entender decisiones tomadas por IAs, y posiblemente tendremos que simplemente "confiar en ellas", lo que estoy seguro que para muchos no es una idea reconfortante...

Yo personalmente creo que cuando ese tiempo llegue el problema se resolverá él mismo, ya que lo que sucederá no es que habitaremos un mundo de IAs rodeado de humanos biológicos "inferiores", sino que como he explicado en lugares como este, lo que sucederá simplemente es que nosotros los humanos nos fusionaremos con nuestras creaciones, y nosotros seremos ellos...

autor: josé elías