“Un montón de información errónea significa un montón de problemas, pero la matemática de nuestra dependencia de la inteligencia artificial y los algoritmos es algo más compleja que eso, ya que la peligrosidad de una inteligencia artificial mal diseñada está en proporción con los aspectos culturales que determinan que creamos que las máquinas son más eficientes que los humanos —una creencia que no deja de aumentar en la medida en que lo hace nuestra necesidad de muletas electrónicas— y estos casan bien con nuestra indolencia habitual. Una noche de octubre de 2015, por ejemplo, dos esposos brasileños que se dirigían a una pizzería fueron baleados por narcotraficantes —la mujer murió— cuando la aplicación de tráfico Waze, que habían programado para que los guiase a la avenida Quintino Bocaiúva de Niteroi, una localidad en el Estado de Río de Janeiro, los condujo a la avenida Quintino Bocaiúva de Río, que pasa por el centro de una de las favelas más peligrosas de la ciudad. Que se recuerde, no es el único caso de obediencia ciega al algoritmo: en 2013, una mujer de 67 años llamada Sabine Moreau que salió de Bruselas en dirección a su hogar, a unos 135 kilómetros de allí, acabó dos días después en Zagreb, en Croacia, por culpa de las indicaciones de su GPS; la mujer, que recorrió en su coche los 1.287 kilómetros que separan ambas ciudades, admitió que estaba demasiado “distraída” siguiendo las indicaciones del aparato —padecía una demencia senil leve— como para comprender qué sucedía.” [Sigue leyendo]
Ideas/El País, agosto de 2022.