El error nos hace humanos

Mirando al sur

Nunca antes supimos tanto de tantas cosas. No todas las áreas del saber se han desarrollado de la misma manera ni a la misma velocidad, pero no hay ninguna que hoy no esté más avanzada de lo que estaba hace tan sólo 50 años. Sin embargo, de lo que más hemos aprendido en esta era del conocimiento es que somos seres falibles, proclives al error. Mientras más sabemos, más sabemos que nos queda mucho por saber.

Saber más es también saber que cometemos errores. El error es constitutivo de nuestra forma de aprender. No sólo a escala del individuo sino de la especie. Incluso, conocer que cometemos tal error específico es fundamental en el marco del pensamiento científico, ya que nos permite descartar tales o cuales caminos de investigación y probar otros. Entonces, ¿la inteligencia artificial (IA), que pretende imitar el proceso de conocimiento del cerebro humano, puede existir sin incorporar el error como uno de sus componentes sustantivos?

El error es, entre otras cosas, una apreciación incorrecta del significado o del contexto. ¿Cómo se podría programar una inteligencia similar a la humana, capaz de cometer errores, cuando el software actual más avanzado es sólo una sintaxis (es decir una estructura que ordena palabras o signos) que no posee comprensión semántica (es decir que no comprende el significado y el contexto de lo que se dice)? ¿Se puede programar una inteligencia que experimente y, en ese proceso, soporte equivocarse y aprenda de su yerro no intencional?

No sabemos qué es el lenguaje, cómo surgió y cuán idiosincrásico de lo humano es. Todas las teorías del lenguaje, del conocimiento y de la conciencia que hoy tenemos (desde el adaptacionismo darwinista de Daniel Dennet hasta el cartesianismo lingüístico de Noam Chomsky) aportan mucho material para criticar los problemas que tienen las teorías de sus oponentes, pero pocas pruebas positivas que demuestren infaliblemente sus postulados. Esto se debe a que aún no sabemos cómo funciona realmente la inteligencia humana, el lenguaje ni la conciencia.

Descartes, a comienzos del siglo XVII, fue de los primeros en sentar las bases del pensamiento científico moderno indagando justamente sobre la conciencia. Aunque su concepción del dualismo humano (por un lado, una mente inmaterial que es la que piensa y tiene conciencia y, por otro, un cuerpo material que ejecuta las órdenes que recibe desde esa mente) hoy es muy cuestionada porque implica aceptar la existencia de alguna divinidad creadora.

Justamente fue Descartes el que para sostener su dualismo de mente y cuerpo propuso construir un autómata, programado de manera tan exhaustiva que fuera capaz de responder a un millón de estímulos. Descartes demostraba que ese autómata, no importa para cuantos millones de situaciones se lo programara, no podría pensar o realizar algo nuevo que no estuviera ya previsto en el programa de respuesta a determinados estímulos. Concluía que la mente humana (o el lenguaje, diría Chomsky) es el único programa que permite sortear el límite de lo ya programado y encontrar respuestas nuevas a desafíos nuevos.

Estamos ya en la etapa inicial de la internet de las cosas: todos los objetos que nos rodean y usamos estarán en diálogo y serán capaces de cumplir órdenes sin que debamos interactuar con ellos (nuestro auto le dirá a nuestra casa que abra el garaje cuando vamos llegando). Pero con miles de millones de objetos dialogando entre ellos, sin intervención humana, estamos a un paso de la pesadilla de “Yo, Robot”, el libro de Isaac Asimov en el que las máquinas toman el control.

¿Lograremos que los robots sean capaces de pensar como nosotros? ¿Qué nos espera si eso fuera posible? ¿Podremos crear máquinas que piensen como nosotros sólo en la parte positiva (sin errores y sin nuestros valores negativos)? La ciencia ficción ha pensado futuros distópicos en que las máquinas se rebelan (desde “Terminator” hasta “Matrix”, pasando por “2001, odisea del espacio”) porque realizan evaluaciones malignas o tienen sentimientos malvados, pero no hay ficciones que imaginen máquinas que yerran.

Quizá no sea nuestra inteligencia positiva sino nuestra capacidad de equivocarnos la que nos salve de ese futuro apocalíptico en que las máquinas que creamos tomen en control en contra de nosotros. El error puede ser nuestra arma secreta.

*Crítico cultural

De lo que más hemos aprendido en esta era del conocimiento es que somos seres falibles, proclives al error. Mientras más sabemos, más sabemos que nos queda mucho por saber.

¿Se puede programar una inteligencia similar a la humana, que experimente y en ese proceso soporte equivocarse y aprenda de su yerro no intencional?

Si alguien quiere aprender con las novelas, que lea best sellers. La literatura no te enseña nada más que el placer, el mismo placer que mirar ‘Las meninas’. Uno no aprende nada sobre Velázquez”.

César Aira (67), escritor argentino