Computadoras que deciden
“La tecnología nos presenta nuevos desafíos que surgen de viejos desafíos. La búsqueda de la justicia y la dificultad para lograrla es algo que siempre ha existido, y que también existe hoy «.
El uso cada vez mayor de computadoras ayuda, entre otras cosas, a ayudar a tomar decisiones que son de cierta importancia para la vida de las personas.
Piense en algo tan simple como conceder o no un préstamo. En la banca en el pasado, la decisión la tomaban personas concretas que, con mejor o peor criterio, concedían el préstamo a uno y se negaban al otro.
Con el desarrollo de las tecnologías de la información, frente a lo que algunos denominan “inteligencia artificial”, un banco puede “delegar” la decisión de otorgar (o no) el préstamo a un programa que recopila y elabora todos los datos. Datos de quienes lo solicitan . . . .
Por supuesto, como es fácil de adivinar, el programa expresa su preferencia por otorgar el préstamo a una persona y denegarlo a otra según parámetros que vienen de los programadores o, en situaciones más sofisticadas, a una especie de autoprogramación que , en cualquier caso, también depende de los programadores.
Aquí surgen una serie de preguntas: ¿es correcto delegar la decisión de conceder o no conceder el préstamo a una máquina? ¿Cómo juzgar los criterios de los programas utilizados para este fin? ¿Existe alguna posibilidad de contradecir el «resultado» de lo que dice la computadora?
No es fácil responder, sobre todo cuando uno se da cuenta de que está en juego el destino de ciertas personas. Ciertamente, en el sistema «tradicional», quien concedió el préstamo podría equivocarse, o dejarse llevar por preferencias., Simpatías o antipatías. Pero dejar todo en manos de la computadora no está exento de preocupaciones.
En estas cuestiones, como en tantas otras, hay que decir que lo importante es buscar lo realmente correcto, que será básicamente lo que ayudará a quienes más lo necesitan y según las posibilidades concretas. y resultado útil para estas personas.
Si la máquina ayuda a encontrar lo que es más justo, su ayuda será bienvenida. Si, por el contrario, se convierte en un pretexto y una fachada para discriminar a los más débiles y favorecer a los que ya tienen mejores posibilidades, la máquina se convertiría en aliada de la injusticia.
La tecnología nos presenta nuevos desafíos que surgen de viejos desafíos. La búsqueda de la justicia y la dificultad para lograrla es algo que siempre ha existido, y que también existe hoy.
Por ello, no basta con recurrir a los ordenadores en los que se delega todo el peso de las decisiones, ni sería correcto pedir disculpas en la respuesta que dan estos instrumentos como si fuera una especie de cosa. automáticamente solo.
Porque hoy, como siempre, la gente tiene la última palabra en la toma de decisiones. Algunos irán en contra de lo que dice la «inteligencia artificial», otras veces estarán de acuerdo.
Lo que no puede faltar nunca en la elección entre varias opciones es el recurso al único punto de referencia correcto: ¿quién sería la persona más débil y necesitada a la que en adelante debería concederse esta ayuda concreta?
Sacerdote y filósofo.