La Estupidez Artificial
Artículo original del Profesor José Miguel Piquer (DCC, Universidad de Chile) en el blog Bits, Ciencia y Sociedad en Terra.
En muchos aspectos de mi vida, me ha tocado enfrentar discusiones sobre cómo tomar decisiones complejas: por ejemplo asignar el presupuesto anual de un organismo, decidir si aprobar o rechazar un proyecto, elegir al ganador de una licitación, decidir si un académico merece subir de jerarquía, etc. La discusión siempre oscila entre tener reglas claras, conocidas por todos y bien definidas (un algoritmo), contra aplicar el criterio experto de una persona o un grupo de personas (sentido común).
La mayor parte de las veces, los sistemas de toma de decisiones son una mezcla de ambos: un reglamento de carrera académica y una junta de evaluación, o unas bases de licitación con una pauta de evaluación que aplica un comité de evaluadores. Sin embargo, el equilibrio de fuerzas entre ambos es precario: si los expertos opinan distinto a lo que arrojan las reglas, ¿qué hacemos? Los seres humanos parecemos ordenarnos en dos clases de equivalencia en esos casos: los que creemos que el criterio y el sentido común es lo que importa, y los que creen que lo más importante es cumplir con las reglas. A modo de ejemplo, los abogados chilenos tienden a estar en el segundo grupo, los ingenieros están divididos y los médicos tienden a estar en el primer grupo. Eso explica que alguna gente confunde la ley con la moral: “¿Usted los estafó?” pregunta el periodista, y el acusado responde “no, yo no hice nada ilegal”. También explica que muchos médicos no acepten que el hospital tiene un presupuesto y que no se puede gastar infinito, aunque se trate de vidas humanas.
La discusión no es trivial: las reglas claras favorecen la transparencia y la confianza en que la decisión se tomó sin influencias externas, favoritismos o corrupción; aunque sea una decisión errada. El sentido común favorece la mejor decisión y le da más sentido de responsabilidad al grupo evaluador.
Chile es un país desconfiado y se considera que uno de los mayores obstáculos para hacer negocios acá es el nivel de desconfianza que impera. Creo que eso mismo ha llevado los últimos años a un movimiento cada vez más fuerte hacia sistemas basados en reglas claras, ojalá implementadas por computadores, donde lo único importante es la letra y donde parece que el espíritu fuera muy parecido al pecado. El ideal nacional del Portal de Compras Públicas del Estado sería un algoritmo: un checklist de condiciones de la oferta, y de los que aprueban se escoge al más barato. Asignar Becas Chile: saco promedio de notas, rankeo universidades según Shanghai, rankeo especialidades según necesidades nacionales, filtramos por edad y ¡listo! ¿Para qué voy a incluir seres humanos en la evaluación?
Un ejemplo extremo de este fenómeno lo representa la PSU: un computador decide si yo entro o no a una carrera, sin que ningún ser humano mire mis antecedentes o historia. Cuando hemos propuesto evaluar más integralmente a los postulantes, incluyendo entrevistas personales, ensayos, u observarlos mientras solucionan problemas, la reacción es de terror absoluto: creen que es imposible tener una comisión experta que no se vea influenciada por un telefonazo del ministro para que ayuden a su hijo a entrar.
Antes de seguir, debo dejar en claro que yo me clasifico 100% en los que creen en el sentido común, e incluso diría que no soporto las reglas. En mi experiencia, nunca se logra plasmar en un algoritmo el verdadero criterio de selección que uno quiere tener para tomar una decisión. Mientras más compleja la decisión, peor. Cuando he visto aplicar algoritmos, siempre pasa que uno mira el resultado y dice: “¡Ah!, debimos haber incluido otro criterio”. Las reglas son un zapato chino, que nos obliga a tomar la decisión que no queremos tomar, que sabemos que es errada, pero que respeta las reglas. No hay nada más idiota que seguir un camino errado a sabiendas, sólo porque “está escrito”. El algoritmo que implementa las reglas es la mejor implementación que he conocido de la Estupidez Artificial, es decir, la implementación por computador de un ser humano 100% estúpido.
Por otro lado, creo que el sentido común no es programable, no lograremos nunca (en nuestras vidas, al menos) codificar unas reglas que de verdad implementen el criterio de selección de un comité de expertos, que escojan la mejor opción, el mejor estudiante, el mejor académico. Por eso es que todavía contratamos seres humanos, a pesar de lo difíciles, complicados y caros que son. Si pudiéramos reemplazarlos por computadores, ya lo habríamos hecho sin dudarlo ni un segundo. Me ha tocado batallar mucho con mis computadores y mis sistemas operativos y mis aplicaciones. Pero eso no es nada (de verdad, NADA) comparado con mis empleados, mis pares, mis hijos.
¿Cómo entonces aplicar el sentido común en un país desconfiado? Primero, creo que debemos oponernos a las reglas todo lo posible: mucha gente simplemente no entiende que uno no puede seleccionar postulantes, asignar licitaciones o tomar decisiones por computador. Segundo, creo que hay que tener comités de expertos con plenos poderes para decidir, pero donde sus miembros se hagan responsables de los resultados. La transparencia está en conocer quiénes son sus miembros, cómo se eligen y reemplazan, y cómo se toman las decisiones dentro de ese comité. Pero luego, los miembros del comité votan según sus propios criterios, sin reglas ni computadores que decidan. Tercero: debemos esforzarnos por ser más confiados. ¿Cuántas veces los han realmente estafado en la vida? Hagan un cálculo rápido de porcentaje: ¿Obtienen un 1% de estafa? ¿Un 10%? Luego calculen lo que han gastado en prevenir estafas (contratos draconianos, notarías que retienen los cheques, negocios que han perdido por no confiar). ¿Ustedes creen que realmente vale la pena?
Ekso
Que buen artículo, me parece bien asertivo, pero difiero un poco en la visión de las cosas. Concuerdo en que pedir que un pc haga todo el trabajo es una estupidez, pero creo que dejar todo a criterio del grupo evaluador también.
Me parece mucho más adecuado un compromiso entre ambas perspectivas, filtrar las cosas bajo ciertas reglas y posteriormente aplicar el sentido común. Como siembre, no van a dejar de existir los casos en que algo es muy bueno, pero no cumple las reglas, así que se queda fuera (y ciertamente debería existir una instancia para revisar dichos casos). No obstante, poniéndose en la otra vereda, un comité evaluador, full sentido común, también puede hacer que algo que no sea lo mejor gane un concurso solo porque «el sentido común» dice que es lo mejor, y creo que a todos nos ha pasado que nuestro sentido común nos dice que hagamos algo y termina siendo una mala decisión.
RoMaNo
Yo creo que todo va por aterrizar un poco las ideas que plantea el profe.
A mí me parece que el sentido común siempre será superior a las reglas fijas, siempre y cuando exista concenso respecto a los criterios con los que se debe aplicar, es decir, los objetivos finales que se persiguen con una determinada decisión.
Según mi visión personal, la mejor mezcla entre reglas y sentido común sería definir objetivos concretos (quiero alcanzar esto, que no suceda esto otro, que además se pueda hacer tal cosa, etc.), en función de ellos aplicar el sentido común de un grupo de personas que se hagan responsables de la decisión que toman y que sean capaces de dar cuenta del motivo de sus decisiones de manera transparente (Elegimos a fulanito porque tiene estas competencias y aunque no es muy bueno en tal cosa, nos puede ser de mucha ayuda por esta otra y por lo tanto podemos afirmar que de los candidatos es el que mejor encaja en el perfil que buscamos).
El problema es que como las personas muchas veces no están dispuestas a asumir sus responsabilidades luego de la toma de decisiones o, peor aún, están dispuestos a no ser honestos, se hace indispensable contar con algoritmos rígidos que filtren aprovechamientos, aunque jamás ese filtro tenga 100% de efectividad y genere falsos positivos dadas ciertas condiciones. Por otro lado, creo que el 90% de las personas prefiere no asumir sus responsabilidades y decir: «Lo siento, así son las reglas» o bien «Yo seguí el procedimiento, no tengo la culpa».