________________ CUU �•� ...... ,QlTINA _______________ _ MAQIBNACULTURA

ORDENADOR E

INTELIGENCIA

Daniele Barbieri

H ubo una época en la que se discutía so­bre el sexo de los ángeles. Era una dis­cusión empantanada y académica entre filósofos bizantinos, pasados a la histo­

ria -ellos y el debate- como ejemplos de quis­quillosa inutilidad. Pero como nada se da sin ra­zón es evidente que también el discutir sobre un tema evidentemente indecidible como aquél tendría la suya. No es más fácil aceptar esta idea si reflexionamos sobre el hecho de que ese tema es obviamente indecidible para nosotros, mien­tras posiblemente para ellos la imposición de al­guna solución fuese sólo cuestión de tiempo (el tiempo que la verdad necesita para salir adelan­te). Y con el tiempo, de hecho, ha llegado una respuesta, pero no a favor de una u otra parte. Trasnochados los motivos -políticos- de la ne­cesidad de semejante debate, su misma esterili­dad lo ha matado, lo ha puesto a un lado.

Quizá algo de esto comienza a ocurrir tam­bién en el debate sobre la así llamada Inteligen­cia Artificial fuerte: el debate sobre la posición de los estudiosos que mantienen que un orde­nador, convenientemente programado, puede ser, en el sentido pleno del término, una mente como la mente humana. Este debate ha provo­cado en los últimos años polémicas muy encen­didas, que han culminado con el ya histórico artículo de John Searle Menti, cervelli e program­mi, con las reacciones provocadas como ejemplo en el volumen del mismo título editado por Graziella Tonfoni con Clup-Clued, 1984. Si algo se ha aclarado en este debate es precisamente la ausencia, por ambas partes, de argumentos que se puedan considerar concluyentes a favor o en contra de la Al fuerte.

Dos libros me han conducido a reflexionar so­bre el profundo malentendido teórico que hay en la base de este debate, un malentendido co­mún tanto a los defensores como a los detracto­res de la mente artificial, incluido John Searle. Se trata de una parte de un viejo libro de Joseph W eizenbaum, uno de los padres de la Al, (JI po­tere del computer e la ragione umana, Torino, 1987), traducido y editado recientemente en Italia; por otra, de la ya clásica colección de ensayos so­bre la complejidad realizada por Bocchi y Ceruti (La sfida della complessita, Milano, 1985).

Estos dos libros tienen en realidad poco en común, y en ninguno de los dos se encuentra el discurso que yo me propongo seguir, pero no habría llegado a este discurso si no me los hu­biera encontrado juntos. Me ha parecido singu­lar que en dos contextos tan diferentes aparezca el mismo término, y en ambos casos como pun­to central de la argumentación. Weizenbaum habla de hybris de la intellighenzia artificiale, co­mo adhesión recurrente de los estudiosos de la Al «a la conclusión de que están próximos a una comprensión teórica general del universo; o también a la conclusión de que han demostrado, en vista de que sus máquinas funcionan, la vali­dez de la idea de que las leyes del universo se pueden expresar en términos matemáticos». Ce­ruti, no muy lejano de esto, habla de hybris de la omnisciencia, poniendo el acento en la finitud del conocimiento humano, y en el hecho de que la consideración de la posición del observador en la investigación científica hace problemática cualquier pretensión de imparcialidad en la acti­vidad cognoscitiva.

Del libro de W eizenbaum, en general intere­sante y muy clarificador en todas sus partes, qui­siera tomar en consideración dos momentos. El primero atiende a una distinción muy importan­te para los adeptos a los trabajos de la Al, la de régimen de presentación y régimen de simulación (peiformance mode y simulation mode). Para quien trabaja en régimen de prestación lo que cuenta es la eficiencia del programa; poco im­porta, por ejemplo, que un programa de traduc­ción automática se comporte de manera similar al comportamiento de un hombre realizando la misma operación; lo importante es que funcio­ne, y del modo más eficiente posible. En régi­men de simulación, sin embargo, la eficiencia es poco relevante, y lo que cuenta es la semejanza con el proceso que se pretende simular. La mayor parte de las personas que se ocupan de la Al trabaja en todo caso en régimen de presta­ción.

El segundo momento atañe al discurso de la base fisiológica. Nos dice Weizenbaum (y desde 1976, año de aparición de este libro en América, lo hemos oído repetir a menudo) que el ser hu­mano ( cada uno de los seres humanos en el cur­so de su propia historia individual) viene defini­do por los problemas que encuentra; una gran parte de estos problemas está ligada a su biolo­gía, a su ser constituido de materia blanda y or­ganizada de cierto modo. Por mucha inteligen­cia que podamos dar a un ordenador, por muy fina que pueda ser su simulación de los procesos neuronales humanos, el ordenador no podrá

00000000000000000000000000000000000000000(

68

00

69

•••••••••••••

•••••••••••••

•••••••••••••

nunca sentir de la misma manera que el ser hu­mano siente; y por razones que no incomodarán a ninguna mística de la irracionalidad (a la que, sin embargo, parece acercarse Weizenbaum de vez en cuando), ni a ningún espiritualismo. Se­pultados en nuestro inconsciente, hay una serie de conocimientos de base que dependen pro­fundamente de nuestra primitiva interacción con el mundo en cuanto seres hechos de carne; consecuentemente, y en tanto que a un ordena­dor le enseñamos a aprender, todo lo que está li­gado a su estructura física será para él diferente de lo que es para nosotros.

Partamos ahora de la idea básica de los teóri­cos de la complejidad, de la fundamental pre­sencia del observador en la valoración de lo ob­servado. Fundamental presencia del observador significa fundamental presencia en sus fines cognoscitivos, significa, como Ceruti hace notar, que no podemos salir nunca de la dinámica ob­servador-observado para sobrevolar el mapa del saber; y que en consecuencia el conjunto de los conocimientos que del mundo tenemos no ata­ñe a ninguna realidad absoluta, conocida «por lo que es», sino simplemente a nuestra relación operativa con esa realidad, a nuestra necesidad de modificarla para nuestros fines. En otras pa­labras, conocemos la realidad en relación con nuestros fines y valoramos la eficiencia de un modelo no tanto según su semejanza con la rea­lidad sino más bien según su semejanza con aquellos aspectos de la realidad que nos son úti­les, desentendiéndonos de todos los demás; po­dríamos definir esta semejanza como una «iden­tidad bajo consideraciones pertinentes» (y nuevamente la pertinencia se relaciona con la fi­nalidad).

Valoramos además la eficiencia de un produc­to manufacturado según su capacidad de ayu­darnos a resolver problemas específicos (sin crearnos con esto otros muchos).

En suma, sin una finalidad intrínseca no exis­te conocimiento y no existe tecnología. No se construye nada si no se aclara previamente el fin con que se construye y no se valora después su eficiencia con el criterio del éxito en su objetivo. Pero, y aquí llegamos al nudo que nos interesa, ¿a qué fin de nuestra existencia está ligada la existencia del hombre? Por lo que a mí mismo respecta, ¿con qué fin existen los demás seres humanos?, ¿con qué fin yo los percibo?

En el momento en que yo definiera (aunque fuera de forma sumamente compleja) una finali­dad del hombre en la que poderlo reconocer completamente, aceptaría la posibilidad teórica de una simulación artificial, más aún, de una re-

producción artificial. El problema, de ahí en ade­lante, sería solamente técnico (aunque cierta­mente de enorme complejidad). Pero, en la perspectiva que estamos exponiendo, en el mo­mento en que yo hubiera definido una finalidad del hombre en cuyos términos se pudiera reco­nocerlo in toto, habría definido también una fi­nalidad cognoscitiva mía propia, sobre cuya base habría podido dar esa definición. De nuevo, no habría definido al hombre, sino sólo lo que de él me sirve, de igual manera que los modelos científicos no definen la naturaleza sino sólo lo que de ella les sirve.

El caso es que, mientras resulta relativamente pacífico conocer la naturaleza sólo en relación a lo que de ella nos sirve, no se puede decir lo mismo del hombre: cuando se habla de él todo objeto de conocimiento es a su vez un sujeto que puede tener opiniones propias y, por tanto, finalidades cognoscitivas diferentes de las nues­tras. El automóvil es un óptimo sustituto del ca­ballo, si el fin es el de trasladarse; los diamantes artificiales son óptimos sustitutos de los natura­les para muchos fines, seguramente todos los que tenemos hoy por hoy, pero esto no significa que automóvil y caballo o diamantes artificiales y naturales sean absolutamente intercambiables, como bien saben los comerciantes. Nada es in­tercambiable del todo con otra cosa, la intercam­biabilidad es siempre relativa a algún fin.

En los sistemas totalitarios el hombre es ver­daderamente reducido a un conjunto de fines precisos, según la finalidad cognoscitiva de quien detenta el poder. Podríamos definir la de­mocracia como la ausencia de privilegios de los fines cognoscitivos de cada uno en confronta­ción con los de los demás. La democracia es un contrato entre iguales, donde cada uno reconoce el derecho de todos los otros. Pero este contrato excluye necesariamente a «alguno», excluye a los no hombres.

Hasta hace poco más de un siglo en muchas democracias la calificación de hombre no era re­conocida a quien tenía la piel negra; su existen­cia podía ser tranquilamente reducida a un con­junto de finalidades. El esclavo, de hecho, existe en función de su utilidad, no tiene derechos porque está fuera del contrato. Ningún razona­miento concluyente podía entonces demostrar el derecho a la igualdad de los que tenían la piel negra, porque no se puede demostrar su perte­nencia a un conjunto (el de los hombres) cuya definición es necesariamente huidiza. El único sistema para entrar en el contrato entre iguales era el de imponer políticamente la propia entra­da, obligando a una colectividad a renunciar a la

0000000000000000000000 00000000000000000001

70

pretensión de la propia finalidad cognoscitiva en relación con la comunidad sometida.

Para volver al debate sobre la Inteligencia Ar­tificial, encuentro que en algunos momentos tal debate recuerda al del sexo de los ángeles, en cuanto que parte del presupuesto implícito (tan­to en quien afirma como el que niega) de que es posible conocer o no-conocer la naturaleza de manera concluyente. Contrariamente a lo que la mayor parte de estos estudiosos piensan el pro­blema de la máquina inteligente o no inteligente no es un problema filosófico en sentido estricto, que se pueda resolver sobre el pupitre, como no lo era el problema de la humanidad de los ne­gros o de la humanidad de las mujeres, o como no lo es el problema de la humanidad de cual­quier ser humano.

No hay ningún problema mientras consideramos que las máquinas son aparatos útiles para simular características específicas de nuestro pensamiento; pero en el momento en que suponemos que pueda haber en ellas una inteligencia, o sea, un dere­cho a entrar en el contrato, el problema se hace político porque se convierte en el problema de su imposición o de que alguien las imponga, ya que tienen derecho a su propia finalidad cognos­citiva, que las exime de subyacer totalmente a la finalidad cognoscitiva de los humanos.

Dicho esto, no tiene ya ninguna importancia que la inteligencia de estas máquinas tenga se­mejanza alguna con la humana. El problema de los resultados del régimen de prestación y el de soporte no biológico son problemas que no tie­nen nada que ver con el del reconocimiento de una inteligencia, aunque sigan teniendo que ver con el estudio de la mente humana.

En suma, construcción de máquinas inteli­gentes y su reconocimiento en cuanto tales, por una parte; y reproducción de la inteligencia hu­mana, por otra, son problemas diferentes: próxi­mos, pero que no hay que confundir. Si tanto se discutió en tiempos sobre el sexo de los ángeles, quizá fue porque aquella discusión centraba la atención sobre la necesidad de una profundiza­ción filosófica sobre un tema todavía joven pero mucho más vasto, como era entonces el de la re­ligión cristiana: los otros problemas le traían sin cuidado. Y diría que el meollo de la Inteligencia Artificial está precisamente ahí: al final no es una discusión sobre el problema en sí, sino, qui­zás, el entusiasmo de una nueva disci- _..-.. plina, y, en todo caso, la relación entre �conocimiento y poder. �

(Traducción: Alfredo Martínez Expósito)

)000000000000000000000

71

TRANSPORTE DE

VIAJEROS EN

AUTOCAR

LINEAS

PROVINCIALES,

NACIONALES E

INTERNACIONALES OVIEDO

Plaza Primo Rivera, 1 Teléfono: 985/281200

Télex: 84356

Wll/A\iJ1rn:� �rn.�:m@�1 �"�'' Grupo A•Título3

WilMG!.\\

EXCURSIONES,

RUTAS TURISTICAS,

CONGRESOS,

CIRCUITOS

NACIONALES E

INTERNACIONALES

UNA ORGANIZACION AL SERVICIO

DEL VIAJERO

AEROPUERTO DE ASTURIAS

OVIEDO GIJON

MADRID LEON

AVILES

BILBAO