1c.las Revoluciones Tecnologicas-Etica y Politica en La Oscuridad

8/19/2019 1c.las Revoluciones Tecnologicas-Etica y Politica en La Oscuridad

1/31

T R ECHNOLOGICAL EVOLUCIONES : E THICS YP olítica general EN EL ARCA D1

(2006) Nick Bostromwww.nickbostrom.com

[Publicado en nanoescala: problemas y perspectivas para el sigloNano, eds. Nigel M. de S.Cameron y M. Ellen Mitchell (John Wiley, 2007): pp. 129-152.]

Abstractrevoluciones tecnológicas están entre las cosas más importantes quesuceden a La humanidad.La evaluación ética en las etapas iniciales de una potencialrevolución tecnológica enfrentan variasdificultades, incluyendo la imprevisibilidad de sus consecuencias alargo plazo, la problemática de la función dela agencia humana en la realización y el hecho de que lasrevoluciones tecnológicas reescribir

no sólo las condiciones materiales de nuestra existencia, perotambién reformar la cultura e incluso -quizás- de la naturalezahumana. Este ensayo explora algunas de esas dificultades y los retosque suponen para una evaluación racional de las cuestiones éticas yde política relacionadas conlas revoluciones tecnológicas previstas.

1. Introducciónpodríamos definir una revolución tecnológica como un cambio drásticoprovocado demanera relativamente rápida por la introducción de nuevastecnologías. Como esta definición es imprecisa,puede ser útil complementar con unos pocos casos de paradigma de

candidato.Unos once mil años atrás, en el barrio de Mesopotamia, algunos denuestrosantepasados asumió la agricultura, a partir del final de la época decazadores-recolectores. Led para mejorar la producción de alimentospara el crecimiento de la población, causandoestado nutricional promedio y la calidad de vida disminuyendo pordebajo del nivel de cazadores-recolectores. Finalmente, mayoresdensidades de población llevó a acelerado enormemente eldesarrollo cultural y tecnológico. Los ejércitos permanentes seconvirtió en una posibilidad, permitiendo que los antiguos sumeriosa embarcarse en la expansión territorial sin precedentes.

1 Yo soy Agradecido a Eric Drexler, Guy Kahane, Matthew Liao, yRebecca Roache para sugerencias útiles.1

En el año 1448, Johan Gutenberg inventó el proceso de impresión deMovable Type en Europa,


2/31

permitiendo a ejemplares de la Biblia para ser producidos en masa.El invento de Gutenberg se convirtió en un importante factoralimentando el Renacimiento, la reforma, la revolución científica, yayudó a dar lugar a la alfabetización masiva. Unos cien años mástarde, Mein Kampf fue producida en masa utilizando una versiónmejorada de la misma tecnología.

Brillante trabajo teórico en la física atómica y la mecánicacuántica en las tres primeras décadas del siglo XX, sentó las basespara el Proyecto Manhattan durante la Segunda Guerra Mundial, quecorrió a Hitler de la bomba atómica. Algunos creen que laconsiguiente acumulación de enormes arsenales nucleares tanto porlos EE.UU. y la URSScrearon un equilibrio de terror que evitó una tercera guerra mundialse luchó conarmas convencionales, ahorrando así muchas decenas de millones devidas. Otros creenque fue sólo por suerte que un Armagedón nuclear fue evitado, que sehancobrado la vida de cientos de millones, quizás miles de millones.

Estas creencias puedenser verdad.

En 1957, científicos de la Unión Soviética lanzó el Sputnik 1. En elaño siguiente, los Estados Unidos creó la Agencia de Proyectos deinvestigación avanzada de defensa para asegurar que los EstadosUnidos podrían mantenersepor delante de sus rivales en la tecnología militar. DARPA comenzó adesarrollar unsistema de comunicaciones que pudiera sobrevivir el bombardeonuclear de la URSS. Elresultado, ARPANET, más tarde se convirtió en el Internet, con loque el World Wide Web, correo electrónico y otros servicios. Las

consecuencias a largo plazo aún están por verse.Parecería que las revoluciones tecnológicas se encuentran entre lasmás trascendentales quelas cosas que le ocurren a la humanidad, quizás superado en susrepercusiones sólo por más gradual, no revolucionarios adelantostecnológicos. El cambio tecnológico es en gran parteresponsable de la evolución de tales parámetros básicos de lacondición humana como el tamaño dela población mundial, la esperanza de vida, niveles de educación, elnivel de vida material, lanaturaleza del trabajo, la comunicación, la salud, la guerra y losefectos de las actividades humanas sobre el medio natural. Otrosaspectos de la sociedad y en nuestras vidas individuales también

están influenciadas por latecnología en muchas formas directas e indirectas, incluida laadministración, el entretenimiento, las relaciones humanas, ynuestras opiniones sobre la moralidad, la cosmología y la naturalezahumana. Uno no tieneque adoptar cualquier forma fuerte de determinismo tecnológico o serun materialista histórico dereconocer que la capacidad tecnológica -a través de sus complejasinteracciones con individuos, instituciones, culturas y el medioambiente - es un determinante clave de las reglas de juego


3/31

en el que el juego de la civilización humana se juega en cualquierpunto dado en el tiempo. En el curso de una vida normal en laactualidad, todos podemos esperar ser involucrados en uno o másrevoluciones tecnológicas: si no como inventor, Funder, inversor,regulador, o la opinión2

líder, entonces al menos como el voto ciudadano, del trabajador ydel consumidor. Dado que lasrevoluciones tecnológicas tienen consecuencias tan profundas, unopodría pensar que debería ser el focode una intensa deliberación ética y función centralmente en elanálisis de las políticas públicas. Si hay tanto enjuego, parece que la incumbencia de nosotros dedicar una cantidad deesfuerzo correspondiente para garantizar que podemos tomar lasdecisiones correctas. Cómo medir la humanidad está a la altura deeste desafío?

2. Investigación de ELSI, y las preocupaciones del público sobre laciencia y la tecnologíase puede percibir una tendencia lenta desde la II Guerra Mundial, deintensificar los esfuerzos para vincular laciencia y la tecnología (en lo sucesivo, S&T) política a undebate más amplio sobre losresultados sociales deseados. El surgimiento del ambientalismo en ladécada de 1960 fomentó esta tendencia, que refleja la demanda delpúblico que más S&T se dedique recursos a la mejora de lacalidad del agua y el aire. LaOficina de Evaluación Tecnológica del Congreso fue creado paramejorar la comprensión delas implicaciones sociales de opciones tecnológicas. Enfermedad

lobbies han formado, buscando,entre otras cosas, el aumento de la financiación para lainvestigación médica en una variedad de condiciones.Las preocupaciones sobre el calentamiento global ha empujado a ungran aumento de los recursos en la ciencia del climay condujo a pide mayor financiación para la investigación de fuentesde energía alternativas, así como intervenciones más directas parareducir las emisiones de gases de efecto invernadero.Alrededor del 3% del presupuesto para el Proyecto del Genoma Humanose reservó para el estudio de losaspectos éticos, jurídicos, y las cuestiones sociales (ELSI)conectado a la información genética, no mucho, en términosrelativos, pero aún suficiente para Art Caplan para describir el

movimiento como la "ley de pleno empleo para la bioética". Ahora hay un florecimiento dela investigación en una serie decampos relacionados con la tecnología de la ética aplicada, comoequipo, ética, y especialmente nanoethics neuroethics.La investigación sobre los aspectos éticos, legales y socialesrelacionados con la nanotecnología (NELSI) podríancon el tiempo supera con creces al de la ELSI programa genético.Hoy en día existe también un conjunto grande y diverso deorganizaciones de base, los think tanks


4/31


5/31

participación pública y la deliberación en el establecimiento de lasprioridades ylas limitaciones de la ciencia y la tecnología. La noción de que laciencia es unproblematically asociada con el progreso ya no esampliamente aceptada, un enfoque más crítico después de haber sidoestimulado por acontecimientos tales como la carrera de armasnucleares durante la guerra fría, el desastre de Chernobyl, y lamayor prominencia de las preocupaciones ambientales en añosposteriores. EnGran Bretaña, la mala administración del brote de encefalopatíaespongiforme bovina ("enfermedad de las vacas locas") ha erosionadolaconfianza pública en el Gobierno de la ciencia política. Lasexperiencias de la crisis de la EEB, ayudaron afomentar la oposición pública a la introducción de cultivosgenéticamente modificados.Las iniciativas para generar más oportunidades para que el público ainvolucrarse encuestiones de ciencia y tecnología pueden ser vistos como unesfuerzo para reconstruir la confianza del público y asegurar la

ciencia de la "licencia para operar". Pero más allá de esosobjetivos de relaciones públicas, también hay muchosque argumentan que el S&T empresa necesita mucho más laorientación de la sociedad con el fin de garantizar que lainvestigación científica y tecnológica es realmente dirigido alograrresultados socialmente beneficiosos. El objetivo no esnecesariamente para restringir la investigación, o a impugnarcualquier teoría científica en particular, sino a la horquilla de laciencia y la tecnología a los extremos behemoth elegidapor el pueblo tras la deliberación y el debate. Si S&T es tanimportante shaper delmundo moderno, que deberá ser puesto bajo control democrático, el

pensamiento va, y su

3 Elam y Bertilson (2002), pág. 133.4

funcionamiento debería ser más transparente para la gente que tieneque vivir con lasconsecuencias.4 Esta visión se refleja en un reciente documento deMichael Crow y Daniel Sarewitz:

Cuando los recursos son asignados a I+D (investigación ydesarrollo), lasimplicaciones para los programas de transformación de la sociedadcompleja no son consideradas. La premisa fundamental el proceso deasignación es que todos losresultados serán positivos en la sociedad, y que causa tecnológicaconducirá directamente a un efecto social deseado. Las publicacionesque promueven la Iniciativa Nacional de Nanotecnología expresa estaopinión.5

Continúan:


6/31


7/31

regulaciones más estrictas sobre la pintura de plomo, lasexpectativas de las consecuencias a corto plazoson más restringido por los modelos económicos y científicos y porexperiencia paralela en otros países. Pero los sistemas sociales soncomplejas, e incluso pequeñas intervenciones pueden tener grandesconsecuencias a largo plazo imprevistas. Quizás redujo los nivelesde plomo conducirá a un aumento de la inteligencia en algunos niños,y algunos de ellos podrían crecer hasta convertirse en científicosmás exitosos de lo que hubiera sido de otra manera. Algunos de estoscientíficos puedeinventar el futuro equivalente de la bomba atómica o antibióticos.Quizás una reducción del impuesto sobre las ventas aumentarán lasganancias de un sector de la economía, algunos de los cuales podríanser utilizados comocontribuciones a la campaña que obtenga un político elegido quién vaa aprobar leyes que, a su vez, tienenamplia y ramificaciones impredecibles.Incluso el más trivial de decisiones personales pueden tenerconsecuencias monumentales queforma el destino de las naciones. Tal vez una tarde, hace mil años

en algunos Swiss Village, una joven mujer decidió ir a dar un paseoal lago. Allí conoció a un muchacho, y más tarde se casó y tuvohijos. Así se convirtió en el tatara-tatara-tatara-gran- tatara-tatara-tatara-tatara-tatara-tatara-tatara-gran- tatara-tatara-tatara-tatara-tatara-tatara-tatara-gran- bisabuela de Adolf Hitler.Si ella había ido al bosque en lugar del lago,y quizás el holocausto de la II Guerra Mundial no habría ocurrido. 7Por otro lado, la imprevisibilidad del futuro no debe exagerarse.Crow y Sarewitz parecen reconocer que "no podemos predecir el futurode la ciencia ola innovación tecnológica", pero al hacerlo se conceden demasiado.Como Eric Drexler Notas:

El futuro de la tecnología está en algunas maneras fáciles depredecir. Los equipos serán más rápidas, los materiales serán másfuertes, y la medicina curar más enfermedades.La nanotecnología, que funciona en la escala nanométrica demoléculas y átomos, seráuna gran parte de este futuro, permitiendo grandes mejoras en todasestas tecnologías.8

7 Este ejemplo es prestada de James Lenman Lenman (2000). Véasetambién Bostrom (2006).8 (Drexler, 2003). Algunas de las repercusiones tecnológicas, sonigualmente previsible, por ejemplo, algunos medicamentos nuevos seutilizarán, salvará vidas, algunas de aquellas personas cuyas vidas

han sido salvadas aprovechará las pensiones estatales, votar, etc.6 La

previsibilidad es una cuestión de grado, y el grado varíaradicalmente según lo queprecisamente es lo que estamos tratando de predecir.


8/31

Incluso una aparentemente platitudinous reclamación como "física esmejor en la predicción dela ciencia social" es mirándolo bastante problemático. La físicapuede predecir algunas cosas y no otras. Podemos usar la física parapredecir con bastante exactitud donde el planetaJúpiter será en el año 2020. Pero la física no nos permite predecirqué particular atom será lo más cerca posible del centro de gravedaden el sistema solar en 2020. Las ciencias sociales también puedenpredecir algunas cosas: la predicción de que existirán algunas delas desigualdades en la condición social y los ingresos en losEE.UU. en el año 2020 parece ser tan fiable como la predicción deque el planeta Júpiter estará en ese momento. Si queremos darsentido a la afirmación de que la física es mejor en la predicciónde la ciencia social es, tenemos que trabajar duro para explicar loque podría significar. Una posible forma deexplicando la afirmación es que cuando uno dice que la física esmejor en la predicción de lasciencias sociales uno podría significar que los expertos en físicatienen una mayor ventaja sobre los no-expertos enpredecir cosas interesantes en el dominio de la física de los

expertos en ciencias sociales tienensobre los no-expertos en predecir cosas interesantes en el dominiode social La ciencia. Esto es todavía muy imprecisas, ya que se basaen un concepto indefinido de "cosas interesantes". Sin embargo, laexplicación no hace, al menos, llamar la atención sobre un aspectode la idea de la previsibilidad que esrelevante en el contexto de las políticas públicas, a saber, lamedida en que la investigación y la experienciapuede mejorar nuestra capacidad de predecir. La utilidad de ELSIfinanció las actividades podrían no dependen de la absolutaobtenerse cierto grado de previsibilidad de la innovacióntecnológica y losresultados sociales, sino de cuánto mejora en la capacidad

predictiva de estas actividades se producen. Permítanos ahíretiradas las siguientes inútil pregunta:el futuro de la ciencia o la innovación tecnológica predecibles? Unamejor pregunta sería,cómo son predecibles de diversos aspectos del futuro de la ciencia ola innovación tecnológica?

Pero a menudo, vamos a sacar más provecho de preguntar,¿cuánto más puede predecible (un cierto aspecto de) el futuro de laciencia o de lasinnovaciones tecnológicas se vuelven si queremos dedicar una ciertacantidad de recursos para estudiar?O mejor aún:

7

investigaciones particulares que haría más para mejorar nuestracapacidad de predecir esos aspectos delfuturo de S&T que la mayoría necesitamos saber acerca deantemano?La consecución de esta cuestión podría llevarnos a explorar muchasinteresantes vías de


9/31

investigación que podría resultar en la mejora de los medios deobtener la previsión acerca de S&T losacontecimientos y sus consecuencias políticas.9 Crow y Sarewitz, sinembargo, desean dejar de lado la cuestión acerca de laprevisibilidad,sostienen que es "irrelevante": lapreparación para el futuro, evidentemente, no requiere unapredicción precisa; por el contrario, Serequiere una base de conocimientos en los que basar la acción, lacapacidad de aprenderde la experiencia, mucha atención a lo que está ocurriendo en elpresente, y sano yresistente a las instituciones que puedan responder eficazmente oadaptarse al cambio de manera oportuna.

Esta respuesta es demasiado rápido. Cada uno de los elementos quemenciona como necesarios para la preparación para el futuro dependeen cierto modo de una predicción precisa. La capacidad de aprenderde la experiencia no es útil para preparar para el futuro, a menosque podamos asumir correctamente (predecir) que las

enseñanzas que se derivan de los últimos serán aplicables asituaciones futuras. Mucha atención a lo que está sucediendo en laactualidad es igualmente inútil a menos que podemos asumir que loque está sucediendo enel presente revelan tendencias estables o de lo contrario arrojarluz sobre lo que va a ocurrir a continuación. También requiere lapredicción a averiguar qué tipo de instituciones demuestren sano,flexible y eficaz en Responder o adaptarse a futuros cambios.Prediciendo el futuro calidad y comportamiento de las institucionesque creamos hoy no es una ciencia exacta. Sin embargo, es posiblereconstruir el argumento Sarewitz Crow y en una forma quetenga más sentido. La preparación efectiva para el futuro requiereuna predicción precisa de al menos algunos aspectos del futuro. Pero

algunos aspectos son más difíciles de predecir que otros. Si tenemosladesesperación de predecir el futuro en detalle, podemos sensatamenterecurrir a cursos de acción quehacer razonablemente bien independientemente de los detalles de cómolas cosas resultan. Uno de estos cursos deacción es fortalecer las capacidades institucionales que son capacesde responder eficazmente a las necesidades futurasque puedan surgir. Determinar qué capacidades institucionales seráeficaz en el futurono requiere de predicción, pero esto es a menudo una tarea depredicción más factibles de predecir los detalles de las situacionesa las que tendrán que responder. Más el futuro está velada en la

ignorancia, más sensato centrarse en construir capacidades depropósito general. Refundición de esta manera, el argumento es másdefendible tanto como sea posible. Pero no va muy lejos. Suslimitaciones se aclara cuando consideramos dentro del contexto de lapolítica de ciencia y tecnología.

9 Consulte para Ejemplo (Tetlock 2005).8


10/31

Las tareas de S&T política incluyen el establecimiento deprioridades para la asignación de fondos paraproyectos de investigación. Es difícil predecir qué líneas deinvestigación darán fruto y queno volverá. Existen varias maneras de responder a esta difícilsituación. Uno es el de concentrar lafinanciación en esas vías de investigación que podemos estarbastante seguros llevará al menos algo defruta. Otro es diversificar la cartera de investigaciones, y elfondo de todo un poco. Un tercerenfoque es apostar por unas pocas vías de investigación que pareceespecialmente prometedor y aceptar elriesgo de un fracaso total. Dependiendo de la actitud de losfinanciadores de riesgo y otros factores, algunosmezcla de estos enfoques puede ser óptimo.10Pero la cuestión de la previsibilidad no desaparece. Por supuesto,no es posiblefinanciar un poco de todo (literalmente), y a repartir lafinanciación lo más uniformemente posible entre todos los buscadores

parece improbable que sea la forma más inteligente de hacer lascosas. Entonces, ¿cómo una gran parte de la financiación deberíaestar concentrada en unas pocas áreas prometedoras, como lananotecnología? Cómo fuertemente concentrado que la financiacióndebería ser en particular los enfoques, métodos ycentros de investigación? No hay una respuesta simple. La estrategiaóptima dependerá de cuán seguros son los financiadores en sucapacidad de elegir a los ganadores, es decir predecir futurosavances. La situación se complica aún más si consideramos quealgunosproyectos de investigación podría no simplemente no fructifiquen,pero podría tener fruta envenenada - producir resultados queestaríamos mejor sin él. Ciertas tecnologías posibles armas caen en

esta categoría, pero algunos críticos de la tecnocienciaargumentaría que incluye una gran cosaal lado. Presumiblemente, la mayoría de la sensación de que lahumanidad debe perseguir lainvestigación científica y tecnológica se basa en la premisa de queel valor de las consecuencias de talesavances es probable que, en su conjunto, positivas. Pero si estasuposición es verdadera, y si también se le concede que algunosavances tecnológicos será perjudicial y, a continuación, de nuevo,la pregunta es si podemos ser suficiente confianza en nuestracapacidad para predecir de antemano qué particular árbolesproducirán frutos envenenados para ser justificados en el cortehacia abajo

ahora, o si debemos, por el contrario, ellos Deje que todos crezcan,en nombre de nuestra modestia epistémica.Cultivo universal parece exigir que exista la cantidad justa deprevisibilidad: suficiente para que podamos esperar que la balanzade la huerta será beneficioso para la humanidad yque nuestro cultivo de éste será, de hecho, promover su crecimiento,pero no tanta que estaríamos mejor por la tala de árbolesseleccionados porque su crecimiento A largo plazo puede causar daño.La complejidad de nuestro problema de predicción aumenta aún máscuando consideramos


11/31

que los beneficios de un proyecto de investigación individual no esindependiente de lo que ocurre con otros proyectos de investigación.Diferentes avances pueden trabajar sinérgicamente (como en el casodetecnologías NBIC), o uno podría tener preferencia sobre otro yhacerla obsoleta. Cuando tales dependenciasexistentes, el desarrollo de una óptima cartera de investigacionesse torna más difícil.

10 si el Necesidad de hacer este tipo de truco, por supuesto, no selimita a la financiación de las ciencias naturales y la tecnología,pero que se aplica a la financiación de los programas de cienciassociales y ELSI demasiado.9 La

previsibilidad es baja, podríamos decidir ignorar dichasdependencias; si es superior, por

otro lado, seríamos negligentes para no tenerlas en cuenta a la horade decidir nuestrasprioridades de investigación. La cuestión de las dependencias entrelos posibles futuros avances tambiénse refleja en lo que deberíamos crear estructuras institucionalespara el proceso de S&Ty el establecimiento de la agenda de la aplicación; por ejemplo, sise va a establecer un comité independientepara un determinado subcampo. De nuevo, la cuestión del grado deprevisibilidad de los diversos aspectos del futuro, lejos de ser unode los que puede ser trivialmente contestadas o soslayado- es dehechomuy difícil y fundamental para muchos S&T cuestiones de

política. A partir de este breve debate de previsibilidad, yapodemos sacar variasconclusiones. En primer lugar, mientras que algunos avancescientíficos e innovaciones tecnológicas, son difíciles depredecir con exactitud con anticipación, el problema no es exclusivode la ciencia y latecnología el contexto. Las grandes decisiones políticas, pequeñasdecisiones políticas y decisiones personales triviales todos tienenimportantes consecuencias que no se pueden predecir en detalle.Segundo, haymuchos aspectos de la evolución científica y tecnológica que sepuede predecir. En tercer lugar, todos los preparativos para elfuturo significativo dependen, explícita o implícitamente, en la

predicción. Cuarto, la cuestión de la relativa previsibilidad de losdiferentes aspectos del futuro, y cuánto laprevisibilidad puede mejorarse mediante diversos tipos deinversiones, es importante pensar acerca decómo los programas de I+D deben ser estructurados. Otra lección esque las mejoras en nuestra capacidad para predecir posiblesS&T anticipos y sus consecuencias podrían aportar unacontribución muy valiosa a nuestracapacidad de tomar buenas decisiones políticas de CYT.4. Consideraciones estratégicas de políticas de CYT


12/31

pasemos ahora a examinar el origen de un nivel adicional decomplejidad en S&Tgobierno: estrategia y política. Estos imponen restricciones sobrelo que se puede hacer y,por lo tanto, en lo que sería sensato intentar hacer. Como RalphWaldo Emersonescribió una vez:Web para tejer, y para moler maíz; las cosas están en la silla, y elviaje de la humanidad.En particular, uno debe preguntarse si el hombre es realmentemontando la ciencia y latecnología, o si es al revés. Es evidente que el sentido en el cualla humanidad no está en la silla es que el S&T lasdecisiones políticas en este planeta no son hechas por algunos uncuerpo unificado de racional y benéficarepresentantes de la humanidad que están tratando de llevarnos aalgún destino en particular. En su lugar,hay un sinnúmero de agentes, persiguen objetivos diferentes y amenudo opuestos, influyendo en10

diversos aspectos de nuestra especie' S&T - actividadesnacionales y regionales de gobiernos,empresas, fundaciones filantrópicas privadas, los grupos deintereses especiales, los editores de revistas,los consejos de investigación, las organizaciones de los medios decomunicación, rectores de universidad, premio comités, consumidores,electores, científicos, intelectuales públicos, etcétera. Másespecíficamente, queremos saber dos cosas:(1) no hay toma de decisiones unificadas entidad que tiene la

facultad de dirigir o detener todas las actividades de investigaciónen todo el mundo en cualquier área, y (2) que muchas de lasentidades decisorias que influyen enlas políticas de CYT en diferentes ubicaciones están sujetas a lainfluencia de una variedad de agentes con metas y agendasdivergentes. Ambos hechos han tenido profundas consecuencias paranuestro pensamiento acerca de S&T política. El primer hecho, laausencia de control global del mundo S&T, hace difícil oimposible detener la investigación y la innovación en un sentidodeterminado incluso si sería unabuena cosa para hacerlo. Por ejemplo, incluso si algún estudiodetallado o consulta públicaconcluyó que una revolución de la nanotecnología sería perjudicial

para la humanidad, no hay unaruta clara para prevenir tal revolución suceda de todos modos. Elgobierno de unpaís puede rescindir la financiación pública de la investigación enciertas áreas que podían permitir avances en nanotecnología; pero lainvestigación seguirá (aunque quizás a un ritmo más lento)usando fondos de fuentes privadas. A continuación, el gobiernopodría prohibir todas esas investigaciones,ya sea pública o privada financiada, sino de otras naciones quesería casi seguro seguir


13/31

adelante, y si la tecnología es factible, eventualmente ver el díade todos modos. Prohibiciones globales sobre los avancestecnológicos son muy difíciles de negociar y aún más difícil para lapolicía. Las dificultades son amplificadas en casos donde existenimportantes incentivos para que algunos grupos paraavanzar, donde el desarrollo pueden ser realizadas con modestosrecursos, donde elocultamiento es posible, y donde no hay destacados hipotéticamentedemarcación entre las actividades prohibidas y de investigaciónlegítimos. La nanotecnología satisface muchas deestas condiciones, por lo que la perspectiva de la cesión globalparece cercana a cero, al menosen lugar de dramáticos avances tanto en la tecnología de vigilanciay la gobernanza global. 11 la inviabilidad de detener ciertos tiposde investigación es un punto repetido en S&Tlos debates de política: "Si nuestro país no seguir adelante conesto, alguien y nos quedaremos atrás", o "Si la nanotecnología estáprohibida, sólo proscribe tendrá lananotecnología."12 la apelación a la competitividad nacional pareceser uno de los

más eficaces retóricamente Argumentos tanto para incrementar elgasto en investigación, y contra el reglamento que frenaría eldesarrollo.

11 El último Condición no es insignificante si estamos pensando enplazos más largos. Uno podría pensar que el apoyo de duras medidasinternacionales podrían aumentar dramáticamente después de un grandesastre como un acto de terrorismo nuclear. Y, por supuesto, otramanera en que la investigación nanotecnológica pueda detenerse es elresultado de una civilización que destruyen la catástrofe mundial.Esta condición tampoco es insignificante; véase Bostrom (2002).Por ejemplo Vandermolen 12 (2006).11

Resulta interesante comparar este argumento de la competitividadeconómica con otroargumento atractivo para financiar más investigación: que lainvestigación es un bien público mundial ydebería ser apoyado por amor a la humanidad. Los dos argumentosstand en cierta tensión.Los bienes públicos mundiales argumento sugiere que podría estar enel propio interés de la nación a la libre- Paseo en otras naciones'S&T de inversión (especialmente la investigación fundacional,

cuyos beneficios son especialmente difíciles para el productor paramonopolizar). Si este es el caso, entonces la"competitividad nacional" podría en realidad sufren la desvíenrecursos deotros sectores de la sociedad S&T Research. Sin embargo, ambosargumentos podrían ser verdad. Puede haber altos rendimientos parauna nación a sus inversiones en I+D, y retornos adicionales que nopueden sercapturadas internamente y convertirse en una externalidad positivaen beneficio de otros países. En


14/31

este caso, tanto el amor de la humanidad y el llamamiento a laventaja nacional trabajará entándem como razones para aumentar la inversión en I+D.13Como ilustran estos dos argumentos, hay consecuencias importantespara lapolítica de ciencia y tecnología por el hecho de que S&Tpolítica no está perfectamente coordinada globalmente. Pero lacomplejidadde la situación estratégica aumenta enormemente cuando tomamos encuenta que incluso dentro de unpaís en particular, S&T las decisiones no son tomadas por unaúnica perfectamente racionales y perfectamente organismo benéfico.Recomendaciones de política dirigidas a un imaginario idealnacional o mundial decisor puede formar útiles puntos focales parael debate provisional, peroen última instancia, ellos necesitan ser transformados enrecomendaciones dirigidas a algún agente real identificable. En esaetapa, las recomendaciones deben tomar en cuenta las limitaciones delos poderes de ese agente, comprensión, atención e intereses. Estatransformación de lo que "debe hacerse" en sentido abstracto en

recomendaciones razonablesa un agente que puede realmente hacer cosas está lejos de sersencillo.Por ejemplo, un argumento que ha sido dado para avanzar en lainvestigación de nanotecnología tan rápido como posiblemente es comosigue:14

(1) Los riesgos de la avanzada nanotecnología son geniales. (2) lareducción de estos riesgos se requerirá un período de preparaciónseria.

13 La mayoría de los estudios De la rentabilidad económica de la I+Dno se han centrado en la dimensión internacional. A nivel interno,

parece que la rentabilidad social de la I+D, aunque son difíciles demedir, son muy altos y que una óptima inversión en I+D supera concreces el nivel de realidad. (Véase, por ejemplo, Jones y Williams,1998; Salter y Martin, 2001).14 Véase Drexler (1992a), p. 242. Drexler (comunicación privada)confirma que esta reconstrucción corresponde al punto que él estabahaciendo. Obviamente, una serie de premisas implícitas tendría queañadirse si uno desea presentar el argumento en forma de una cadenaválida deductively de razonamiento. Por "avanzada nanotecnología" Heaquí se refieren a un posible futuro de forma radical, a vecesllamado nanotecnología la nanotecnología molecular o "máquina-fase";véase también la nanotecnología (Drexler 1992b).12

(3) Una seria preparación sólo comenzará una vez que la perspectivade la avanzada nanotecnología estomada seriamente por amplios sectores de la sociedad.(4) Amplios sectores de la sociedad, sólo tendrá la posibilidad dela avanzada nanotecnologíaen serio una vez que hay un gran esfuerzo de investigación en curso.


15/31

(5) El anterior un serio esfuerzo de investigación se inició, mástardará en ofrecer lananotecnología avanzada (porque se empieza desde un nivel inferiorde habilitación detecnologías pre-existentes).(6) Por consiguiente, cuanto antes un serio esfuerzo deinvestigación se inició, cuanto más largo sea el períododurante el cual seria preparación tendrá lugar, y cuanto mayor seala reducciónde los riesgos que eventualmente tendrán que ser enfrentados.(7) Por lo tanto, un serio esfuerzo de investigación debe iniciarsetan pronto como sea posible. Este argumento no me presente a fin deevaluar, pero para ilustrar el punto sobre lacomplejidad estratégica. Lo que ingenuamente parece un motivo parair despacio o detener (los riesgos de la avanzada nanotecnologíaestá genial) termina, en esta línea de pensamiento, como una razónpara la conclusión opuesta. Cuando uno intenta integrar tales deadivinar las respuestas de diversosactores en la R&S recomendaciones de política, el resultadopodría difieren radicalmente de lo que uno podría obtener a partir

de un enfoque más simple-mente que ignora las dimensionesestratégicas de lasituación. Es interesante considerar a quien sea que este tipo deargumento se dirige.Los "amplios sectores de la sociedad", que supuestamente deberíacomenzar una seria preparación sólo después de un gran esfuerzo deinvestigación ya está en marcha, son presumiblemente no losdestinatarios delmensaje. Si fueran capaces y dispuestos a comprender, de acuerdocon, y actuar sobre un argumento de este tipo, entonces ellos notendrían que esperar a un gran esfuerzo de investigación paraponerse en marcha con el fin de tomar en serio la necesidad depreparación. El argumento parece ser esotéricos. Hay algunas

personas que están "en el saber" acerca de las perspectivas dela nanotecnología avanzada, y estas personas tendrán una razón (porlo que el argumento va) para dirigir susesfuerzos para acelerar la aplicación de un serio esfuerzo deinvestigación de nanotecnología, incluso si creían que los riesgosde la avanzada nanotecnología sobrepasaban los beneficios.Una manera de que los entendidos podrían hacer esto sería mediantela divulgación de otro argumentoa favor de la aceleración de la investigación en nanotecnologías,como el argumento de que si no avanzamosrápidamente hacia delante y, a continuación, alguien, quizás unestado hostil, conseguirá allí primero - y ese sería el peorresultado posible de todos. Tenga en cuenta que incluso este segundo

argumento se dirige atodo el mundo, pero no a un grupo selecto - en este caso, nuestroscompatriotas, o al menos a los ciudadanos delos estados "buenos". No sería conveniente que los ciudadanos de losEstados "malos"13 de instar a sus


16/31

compatriotas y los funcionarios del gobierno para lanzar un programaacelerado para el desarrollo de laavanzada nanotecnología para que reciban allí primero.15 En realidadhay personas (aunque quizás no muchos) que piensan que en este niveldesofisticación y el intento de tomar consideraciones estratégicastales Como los anteriores en cuentaa la hora de decidir lo que debe hacer. Algunas de estas personasson bien intencionadas y honestas yno consentirían a presentar un argumento o una opinión que nomantenga sinceramente para ser verdad. Argumentos esotéricos norequieren el engaño, o incluso el ocultamiento activo,porque el público en gran medida auto-seleccionar qué argumentos queescuchar y absorber.El "nano-entendidos" podrían ser los únicos que son receptivos alargumento de un importante programa de investigación sea necesariocontar con amplios sectores de la sociedad a tomaren serio los riesgos y comenzar los preparativos. Los ciudadanos de"buen" unidas podrían ser más propensos a seguir asus compatriotas' consejos sobre la necesidad de avanzar con la

investigación para evitar quedarseatrás en una futura carrera de armamentos a los ciudadanos de la"mala" de las naciones que tenemos miedo, delo contrario, podrían tomar la iniciativa. (Pero, ¿cómo podemosestar seguros de que este es siempre el caso?) la previsibilidad, ola falta de ella, una vez más, emerge como una cuestión importante.Evidentemente,anticipando las respuestas de muchos agentes diferentes, cómo estasrespuestas van a interactuar y,más generalmente, de cómo la ecología de las ideas y opiniones queserán afectados por la promulgaciónde un argumento u otro, es una tarea desalentadora - en muchos casosincluso más difícil de

predecir la futura evolución de S&T.5. Limitar el alcance de nuestras deliberaciones?Es tentar a ignorar todas estas dificultades y concentrarse en latarea más simple de averiguarqué tenemos más razones para hacer muy sutil, dejando de lado lasconsideraciones estratégicas. A nivel individual, una persona podríasimplemente tratar de decidir: La nanotecnología es probable quehaga más bien que mal? Si la respuesta es sí, entonces en favor desu desarrollo; si no, se oponen a ella. O bien: ¿Hay alguna rutaque involucran el desarrollo de nanotecnología combinada con ciertosreglamentos y/o políticas públicasque traería grandes beneficios y riesgos moderados? Si la respuestaes sí, entonces promover ese camino.

Podemos notar de inmediato que la elección no es aquí una dicotomía,ya sea paraignorar todas las consideraciones estratégicas o bien para tenerlastodas a bordo sin limitación. Inclusoen relativamente poco complicados debates, algunas consideracionesestratégicas podrían ser admisibles. Por ejemplo, podríamos tener encuenta el hecho de que otras naciones se continúe con eldesarrollo de la nanotecnología, incluso si nuestra nación no, ydejando de lado todas las consideracionesque tienen que ver con las limitaciones cognitivas del Hoi Polloi ola forma en que los intereses especiales


17/31

pueden influir en la aplicación de cualquier directiva de políticaadoptado oficialmente.

15 de mayo Por supuesto, insisten en que la buena defensiva sólo losEstados deben desarrollar capacidades de nanotecnología. Peroaplicaciones ofensivas y defensivas requeriría el mismo subyacenteen gran parte a los avances tecnológicos.14

a un nivel colectivo, también podría decidir excluir ciertos tiposde razones devarios contextos de la deliberación pública. Esta es la idea, porejemplo, detrás de John Rawls concepto de razón pública.16 En eltratamiento de cuestiones constitucionales y fundamentos básicos dela justicia, los ciudadanos de acatar la idea de la razón públicason, según Rawls, titulado para justificar la posición que deseeaprobó únicamente sobre la base de razones que podrían

razonablemente seraceptadas por otros ciudadanos que no Compartir necesariamente lamisma metafísica, opiniones religiosas o culturales.17 Estalimitación ha sido criticado por motivos que requeriría lainsinceridad (no presentar las verdaderas razones de la opinión decada uno) y conducir a una superficialidaden el discurso público como los participantes están obligados alimitarse al mínimo común denominadorde supuestos antecedentes compartidos. Rawls considera que debemosacatar esa limitación

... Dado nuestro deber de cortesía para los demás ciudadanos.Después de todo, comparten con nosotros el

sentido mismo de su imperfección, aunque por razones diferentes, yaque poseen diferentesdoctrinas integrales y consideramos los diferentes motivos quedanfuera de consideración. Pero esel único camino, y aceptando que la política en una sociedaddemocrática nunca puede guiarsepor lo que vemos como toda la verdad, que podemos alcanzar el idealexpresado porel principio de legitimidad: vivir políticamente con los demás a laluz de razones que todospudieran razonablemente respaldar.18

Como un Mucho más mundana ejemplo de restricción del discurso,

considerar la convencióncontra el uso de argumentos ad hominem en ciencia y en muchos otrosforos dediscusión disciplinada. La justificación nominal para esta regla esque la validez de una declaración científica es independiente de losatributos personales de la persona o el grupo que lo pone adelante.Interpretado como un estrecho punto acerca de la lógica, estecomentario sobre argumentos ad hominem es obviamente correcto. Perodomina la significación epistémica de la heurística que se basan enla información acerca de cómo algo que se dijo y por quién paraevaluar la credibilidad


18/31

de una declaración. En realidad, ningún científico aprueba o rechazalas afirmaciones científicas únicamente sobre la base de un examenindependiente de la evidencia primaria. Progreso Científicoacumuladosólo es posible porque los científicos sobre la confianza de lasdeclaraciones hechas por otros científicos -declaraciones encontradas en los libros de texto, artículos derevistas y conversaciones informales en torno a lamáquina de café. A la hora de decidir si confiar en esasdeclaraciones, la evaluación ha de hacersesobre la fiabilidad de la fuente. Pistas acerca de la fiabilidad dela fuente vienen en muchas formas, incluidos

16 Para una revisión de opiniones filosóficas sobre la idea depublicidad, incluidas las de Rawls, véase Gosseries (2005).17 Esta es una simplificación de Rawls ver, pero los detalles no sonesenciales para los fines presentes; véase también Gosseries (2005).18 (Rawls, 1999), págs. 242-243.15

información acerca de factores tales como las fuentes definanciación, peer estima, afiliación académica,los incentivos de carrera, y los atributos personales como lahonestidad, la experiencia, la habilidad cognitiva y posibles sesgosideológicos. Ese tipo de información, tomando en cuenta a la hora deevaluar la plausibilidad de una hipótesis científica tiene queimplicar ningún error de lógica. ¿Por qué es, entonces, que lasrestricciones sobre el uso del comando ad hominem tan amplioapoyo? ¿Por qué deberían los argumentos que resalte la informaciónpotencialmente pertinente destacarse

por sospecha? Yo sugiero que esto es porque la experiencia hademostrado elpotencial de abuso. Por razones que tienen que ver con la psicologíahumana, discursos que tolerar el uso irrestricto de argumentos adhominem manifiestan una mayor tendencia adegenerar en enemistades personales en la que el espíritu decolaboración, investigación motivada esrápidamente extinguido. Argumentos ad hominem llevar a cabo nuestrointerior Neanderthal.La ilegalización de instrumental y ad hominem más profundamente laidea rawlsiana normativo de la razón pública ambas ilustran elconcepto general de construir discursosparcialmente por sentencia de tribunal algunos tipos de examen.

Existen muchasrestricciones de límite de tal discurso, tanto en la ciencia como enotros ámbitos, variando desde el contexto.Quizá no es inverosímil suponer que algunas consideracionesestratégicas, tales como losintroducidos anteriormente, también puede ser convenientementeexcluidos en algunos contextos de S&T de deliberación sobrepolíticas. ¿Cómo debemos determinar dónde los límites apropiadospara undiscurso particular debe colocarse? La complejidad de esta cuestiónsobresalir mucho más allá del alcance


19/31

de este ensayo, pero puede merecer la pena enumerar unos pocosfactores potencialmente pertinentes.19 Estas puedenservir de indicio de cómo las investigaciones futuras que podríaexplorarse más a fondo este aspecto.(1) auto-engaño y sesgo. Sabemos que la cognición humana essusceptible a la auto-engaño y sesgos de diversos tipos. Ciertos tipos de examen podríaofrecermás afianzada que otros a la irracionalidad y los prejuicios.(2) Manipulability. Asimismo, en la deliberación pública, ciertostipos de examenpodría ser más fácil de manipular con fines partidistas, sugiriendoque se les deberíadar menos peso o excluido totalmente.(3) la imprevisibilidad. Como argumentó ya, la complejidad de undeterminado nivel deconsideración estratégica es tal que se podría perder rápidamente anosotros mismos en una niebla de unknowability si nos aventuramosallí.(4) Direct vs. mediada consecuencias. Esto se remonta tanto a la

imprevisibilidad y ladiscusión precedente de las consideraciones estratégicas. Pero unotambién podría mantener, comouna cuestión básica de la teoría ética, que no estamos responsable(y por lo tanto no debería tener en cuenta?) las consecuencias denuestras acciones que son mediadas por

19 Estos serían complementarios al "nivel micro" máximasidentificadas por Paul Grice en su trabajo sobre implicaturasconversacionales (Grice 1975).16

Muchos factores causales externos u otros por las opciones de laspersonas, incluso si deben serparcialmente predecibles.(5) división del trabajo. En una deliberación pública, no siempre esnecesario que todaslas partes tratan de incorporar y digerir todo tipo deconsideración. Una sensata opinión mayoritaria podría surgir inclusosi algunas o todas las partes están sesgadas y enceguecidoen qué consideraciones se toman en cuenta.(6) la accesibilidad a los interesados. Algunos tipos de examenpodría excluir a

algunos interesados de participar de manera significativa en unadeliberación pública. ¿Esto a veces hacen el recurso a talesconsideraciones inadmisible?(7) lado moral-limitaciones -incluida la honradez y la lealtad, peroquizástambién hay otros impedimentos morales y desiderata que se aplican.(8) el potencial de progreso acumulativo. Podría ser que ladiscusión de ciertos tiposde examen produce resultados que son más fáciles de mantener yllevar a


20/31

futuros diálogos y situaciones nuevas, permitiendo un avanceacumulativo.(9) El potencial para la conexión a otros dominios. Trabajo queaclara algunos tipos deexamen podría integrarse más fácilmente con los resultados de otrasdisciplinas o dominios cognitivos. Este podría ser un buen argumentopara prestar más atención a esas consideraciones.

Recordar las dos creencias o "blandas articuladas argumentos" paraque Crow y Sarewitzatribuir la responsabilidad de la falta de consideración a lasimplicaciones para la transformación de la sociedad compleja en laasignación de recursos a los programas de I+D. Uno fue el argumentoacerca de la imprevisibilidad. El otro es el argumento de que laciencia y la tecnología la empresa ha de tener autonomía para elegirsu propio sentido de la anticipación y la innovación. Este últimoargumento es, en opinión de Crow y Sarewitz,contradicha por la realidad... La dirección de la ciencia y latecnología es en realidad dictadapor un enorme número de restricciones (sólo uno de los cuales es la

naturaleza de lapropia naturaleza).No está claro que la forma en que esto se supone que es una objecióna la opinión de que el S&T empresadebería ser otorgado autonomía. Aquellos que sostienen esta opiniónbien podría estar de acuerdo con el cuervo Sarewitz y que elespíritu de libre investigación actualmente está condicionada por unenorme número de restricciones, mientras que, al mismo tiempo,insiste en que sería preferible si al menos algunos deestos grilletes podría ser suprimido, o al menos relajado, y que laimposición de

restricciones adicionales de 17 Haría las cosas peores. Hay quedistinguir la cuestión normativaacerca de cómo las cosas deben ser positiva de la cuestión de cómoestán las cosas.20Las democracias suelen encontrar conveniente aislar ciertasfunciones de lainfluencia pública directa. La constitución de los Estados Unidos,por ejemplo, crea deliberadamente una judicatura que essustancialmente aislado de influencia política directa. Los bancoscentrales de muchos países son

igualmente autónomos. En todas las democracias, el funcionamientocotidiano de la mayoría de losdepartamentos gubernamentales están protegidos de manerasignificativa el impacto directo de la opinión pública. En lasuniversidades, investigador senior funcionarios gozan de una granlibertad intelectual y a menudotienen la oportunidad de emprender proyectos de investigación de supropia elección, aunque sus salarios podría provenir de loscontribuyentes. En el sector privado, las empresas y losparticulares


21/31

tienen la libertad de llevar a cabo casi cualquier dirección deinvestigación que deseen, siempre que cuenten con losrecursos financieros para hacerlo. Intelectuales y escritoresindependientes y tienen que rendir cuentas a nadie más quea sí mismos. Lo que los defensores del aumento de la participaciónciudadana y la democracia directa en S&T estánargumentando que no es materia de controversia científica deberíanresolverse mediante unreferendo popular, o que el público ser llevados en micro-gestionarla realización deproyectos de investigación científica. Ni tienen la intención derestringir la libertad o discurso o cualquiera de las otraslibertades intelectuales que disfrutan actualmente los individuos.Lo que se propone es generalmentecierta posición más moderada, por ejemplo que la configuración delos parámetros generales yprioridades de CYT financiada públicamente la investigación deberíaser más transparente y más directamente sujetos a contribucióndemocrática que es actualmente el caso. Los esfuerzos podrían serpromovido para mejorar la comprensión pública de la ciencia y crear

más oportunidades para una auténtica, dosvías de diálogo entre los científicos y el público. A menudo, laatención se centra en la aplicación lateral de la S&T, instandoa la empresa un mayor control democrático directo sobre qué nuevastecnologías están permitidas, bajo qué formas de regulación, y conqué políticas auxiliarespara modular sus impactos sociales. A veces, también de preocupaciónson métodos específicos dela investigación científica, tales como la experimentación animal oel uso de embriones humanos.La cuestión de la gobernanza de S&T cuestiones probablemente, nopuede separarse de las cuestiones de gobernanza en general. Miobjetivo aquí es, sin embargo, no en las estructuras de gobernanza -

con quién debe tomar las decisiones, sino en los términos deldiscurso:¿Qué tipo de consideraciones deben tenerse en cuenta, y de quémanera. 21 Por supuesto,

20 Una distinción que a menudo se pasa por alto en los debates sobreel futuro. Hay una lamentable tendencia a dejar que la predicción yevaluación en una mezcla confusa de blob (ilusos o temerosos)pensando.21 Otra variable aquí sería lo que podríamos denominar el formato dedeliberación, por ejemplo, si debería ocurrir detrás de puertascerradas o en los focos de la publicidad, y lo que el tono o elespíritu de una deliberación debe ser, por ejemplo, cuánto y qué

clase de emoción debe mostrarse. Es plausible que tales factores deformato tiene un efecto sustancial en la naturaleza de ladeliberación. Hay algunas pruebas empíricas directas para esto. Porejemplo, un estudio reciente de las deliberaciones de la ReservaFederal del Comité Federal del Mercado Abierto, encontraron que latranscripción publicación suprimió la expresión de la disidencia18


22/31

¿quién toma las decisiones, en realidad, la influencia de lasconsideraciones se tomen en cuenta.Pero aún podemos distinguir la normativa pregunta de qué tipo derazones deberíanguiar la política de CYT.Hemos considerado algunas posibles razones para las diversaslimitaciones de qué razonesdeben ser considerados en la determinación de políticas de CYT.Pongamos fin a la sección con las palabras de Marie Curie:no debemos olvidar que cuando se descubrió el radio, nadie sabía queresultaríaútil en los hospitales. El trabajo fue una de las ciencias puras. Yesto es una prueba de que eltrabajo científico no debe considerarse desde el punto de vista dela utilidad directade ella. Debe hacerse por sí misma, por la belleza de la ciencia y,a continuación, siempre existe laposibilidad de que un descubrimiento científico puede ser como elradium un beneficio parala humanidad.22

6. Ampliar el alcance de nuestras deliberaciones?La cotización por Marie Curie, expresa una versión extrema de laopinión de que deberíamos estrechar las consideraciones que se hantenido en cuenta. Según Curie, trabajo científico debe hacerse "porsí misma, por la belleza de la ciencia", y sin ver a su utilidaddirecta. Uno puede contrastar la inocencia de las palabras de MarieCurie con un conocido observaciónhecha unas dos décadas y media más tarde por otro distinguidofísico, RobertOppenheimer, quien ha liderado el desarrollo de la bomba nuclear:

En algún tipo de crudo sentido que ninguna vulgaridad, sin humor,

sin exageración puedemuy extinguir los físicos han conocido El pecado; y este es unconocimiento que no se pueden perder.23

La explosión de la primera arma nuclear en el Trinity test, y elposterior uso en Hiroshima y Nagasaki, algunas veces son vistos comoemblemas del fracaso de los científicos apreocuparse por las consecuencias sociales de su labor. De hecho,muchos de los científicos involucrados en el Proyecto Manhattan (yotros, como Linus Pauling, quien se negó a participar) eran bastanteprofundamente preocupado por las repercusiones sociales. Entrelos acordar prestar sus habilidades para el proyecto, una motivaciónimportante era la preocupación de que la Alemania Nazi, de lo

contrario, podría llegar a la primera bomba de fisión. Este es unejemplo de una estratégica

Opiniones y sofocado el debate sobre las tasas de interés de cortoplazo (Meade, Stasavage, y la Escuela de Economía y CienciasPolíticas de Londres. Centro de rendimiento económico. 2004).22 Marie Curie (1867 - 1934), Conferencia en el Vassar College, 14de mayo de 1921.23 Robert Oppenheimer (1904-1967), "La física en el mundocontemporáneo", conferencia en M.I.T. Noviembre 25, 1947.19 El


23/31

examen mencionado anteriormente, la competitividad nacional. En elMarie Curie versión delmodelo de iluminación, ni esta consideración ni escrúpulos sobrecómo loshallazgos científicos más tarde podrían ser utilizados deben sertenidos en cuenta, al menos no por las personas que hacenel trabajo científico.Hay varios counterarguments general en contra de la opinión de queel alcance de nuestras deliberaciones deben ser en cierto modorestringido. En primer lugar, ignorando consideraciones que sonevidentially pertinente a los posibles resultadosque nos preocupamos por significa ignorar la información pertinente.Ignorando la información pertinente puede no ser racional, y puedeobstaculizar nuestra eficacia en la consecución de nuestrosobjetivos. Cuanto más relevante sea la información, y el másimportante de los objetivos para los cuales sea pertinente, mayor es

elcosto de esa ignorancia intencional.Segundo, confinando deliberaciones dentro de un conjunto delimitaciones fijas puede ceder el poder aquienes determinar cuáles deberían ser estas limitaciones. Estepoder puede ser utilizado indebidamente. Como" retóricos y sofisticados tecnócratas conocen bien, la formulaciónde un problema - que implícitamente determina qué tipo de examenserá visto como apropiadas ytener un rodamiento - a menudo determina efectivamente la conclusiónde una deliberación alcanzará. En el discurso político,encuadramientos son a menudo reñida. Para aceptar una serie delimitaciones del discurso podría significar comprar a alguien del

programa que se inclina la deliberación enfavor de cierta posición predeterminada.En tercer lugar, y en relación con la primera de dos argumentos, unomuy probable efecto de adoptar unmarco estrecho para nuestras deliberaciones del S&T enterprisees crear un sesgo en favor de un cierto tipo de "conservadurismo",el conservadurismo no en el sentido de ideología política, sino enel sentido de una presunción en favor de los negocios como decostumbre. Alcance de las restricciones de descartar riesgoscríticas radicales, aquellos que desafían las suposicionesfundamentales detrás de la manera habitualde pensar y de hacer cosas. En el contexto de S&T, el efecto deesto no sería para

perpetuar el statu quo, porque el cambio en la ciencia y latecnología se trajo consigo inevitablemente por el intelectualavances generados por la propia empresa. Más bien, el efectopodría ser disminuir la posibilidad de un cambio deliberado decurso. Sin recurrir a lacrítica radical, la locomotora se desplazará a lo largo de su vía, yla pista podría girar a la izquierda o a la derecha; inclusopodríamos ser capaces de flick un interruptor aquí y allá paraseleccionar qué rama de una bifurcación tomamos; pero debemosexcluir de nuestro espacio mental una multitud de posibilidades,


24/31

tales como discontinuo de bajar del tren y Continuando nuestrocamino a través de otro modo de transporte. 24críticas radicales podrían cuestionar los fundamentos metafísicos denuestravisión del mundo. Se puede cuestionar nuestros valores básicos o lasnormas morales. Podrían socavar nuestraconfianza en la totalidad de la S&T proyecto. Como alternativa,se podría sugerir que nuestros intentos de humanizar la empresaS&T tendrá el efecto opuesto al que se pretende. Sepodría argumentar que una particular previsto avance tecnológicotendrá

24 En el contexto de la ciencia fundamental, tal cambio de rumbopodría ser un cambio de paradigma Kuhnian.20

consecuencias Ensombrecimiento todo el resto, y que, al no actuar en

consecuencia estamostremendamente desviar nuestra atención y nuestros recursos. Sepueden aducir que el aumento de la participación pública y elaumento de los esfuerzos para anticipar las consecuencias socialestendráconsecuencias odiosas. Podrían argumentar por cesión de ampliasáreas deinvestigación tecnológica, o alternativamente, que todo debe serpuesto en la aceleración de algunas aplicaciones. Pueden sugerirnuevas formas de financiación de la investigación básica que permitaeludirlos paneles de expertos y los procedimientos burocráticos. Ellospodrían identificar formas completamente nuevas de

evaluar y medir el progreso. Las posibilidades son innumerables eimposible de especificar de antemano.25Muchas críticas radicales están muy equivocados, y algunos de ellossería sumamentepeligroso si se hicieron populares. No obstante, si miramos atrás,históricamente, y observarcómo muchos más difundida la sabiduría convencional del pasado serevelan como cuadriculados o profundamente viciada por nuestroactual luces, ciertamente debemos admitir que, por inducción, esprobableque muchas de nuestras propias creencias centrales, también, sonprofundamente defectuoso. Debemos incorporar en nuestrosprocesos de deliberación individual y colectiva algún mecanismo

corrector que nos permite la pregunta y rectificar incluso nuestrasmás profundas suposiciones.Una de las formas en que el alcance de nuestras deliberaciones puedeampliarse es teniendo encuenta el tipo de meta-nivel reflexiones que he tratado de ilustraren este ensayo. Másconcretamente, uno podría argumentar que convendría trabajar más enlas dimensiones normativas dela S&T enterprise.Una dimensión normativa es la ética, y esto es, en cierta medida, yaforma parte de los


25/31

programas oficiales, como por ejemplo la "E" de ELSI y NELSI, y comola ética aplicada demanera más general. Uno podría haber recelos ocasionales acerca dela calidad, la profundidad o el impacto de esta investigación, peroal menos hay cierto reconocimiento de la importancia y lapertinencia de las preguntas que se supone que debe abordar.Otro aspecto normativo que se ha prestado bastante menos atención enestosprogramas es que, de aplicarse la epistemología (normativa). Estoabarca una serie de problemas importantes. Uno de esos problemas esdesarrollar mejores principios epistémica de orden superior para larealización de investigaciones científicas. Como dice por E.T.Jaynes:Nos parece que la práctica científica real está guiada por losinstintos que todavía no hansido plenamente reconocidos, y mucho menos analizado y justificado.Debemos tener en cuenta no sólo la lógica de la ciencia, perotambién la sociología de la ciencia (quizás también susoteriología). Pero esto es tan complicado que ni siquiera estamosseguros de si el

25 aunque no necesariamente concebido como "críticas" radical, porunos pocos ejemplos recientes (véase por ejemplo la alegría, 2000;Bostrom 2003b, 2003a, 2005; Hanson, 2003).21

extremadamente escéptico conservadurismo con el que las nuevas ideasson invariablemente recibió, enel largo plazo una beneficiosa influencia estabilizadora, nocivos oun obstáculo para el progreso.26

Sin embargo, los problemas epistemológicos van más allá del desafíode cómo maximizarel adelanto científico y tecnológico. Como hemos visto, también sontambién esenciales para nuestro pensamiento acerca delas cuestiones de ética y política impulsado por la empresa S&T.Epistemología aplicada también se encuentra en el corazón delproblema de cómo evaluar críticas radicales de esta empresa. Haymuchos enfoques interesantes para estas cuestiones, además de lareflexión filosófica y el análisis teórico. Aquí está un ejemplo: •Estudio la heurística y los sesgos que afectan a la cogniciónhumana, y la figura de nuestros modos deaplicar las conclusiones para mejorar nuestro juicio.27• Estudiar los correlatos de la verdadera opinión, entre los

expertos y el público, y utilizar estainformación como claves para quién tiene razón en los casos dedesacuerdo y cómo podríamosmejorar nuestros Situación epistémica propia.28• Tecnologías de la información. Desarrollar nuestra infraestructurade información de manera que sefacilite la recopilación, integración y evaluación de lainformación.• mejora cognitiva. Mejorar la capacidad de razonamiento individual(p. ej. La concentración, la


26/31

memoria, y la energía mental) mediante la educación, la farmacia yotros medios.• estudiar cómo los intereses creados, los medios de comunicación,así como otras realidades sociales forma y sesgo(facilitar) o los procesos de deliberación colectiva. • Ladeliberación pública. Desarrollar procedimientos, formatos oretórico, normas para mejorarla calidad del debate público confrontando "plebiscitory" razón.29 •subsidiar e implementar innovaciones institucionales tales como lainformación de los mercados,que se han demostrado para superar a grupos de expertos en muchastareas de predicción.30

El tema unificador es explorar cómo podríamos hacernos másinteligentes y más sabios, tantoindividualmente como en un Comunidad epistémica. Las investigacionespodrían estar sesgadas hacia las aplicaciones en S&T evaluación,pero es probable que haya "spill-over importantes beneficios enotrasáreas. Tal programa podría combinarse con más estrechamente

centradas en los esfuerzos para recopilar y analizar información enáreas de especial interés, tales como la nanotecnología. Por último,quiero llamar la atención a uno más "dimensión normativa", salvo queno esrealmente una dimensión sino el espacio atravesado por todos losotros vectores. Me refiero a

Jaynes y Bretthorst 26 (2003), pág. 525.27 Véase, por ejemplo, (Kahneman y Tversky, 2000; Gilovich, Griffiny Kahneman, 2002). Para un intento de aplicar este tipo deinformación a una de los temas relacionados con tecnología, véase(Bostrom y Ord, 2006).28 Véase, por ejemplo, (Tetlock 2005).

29 (Chambers 2004).30 (Hanson, 1995; 2004; Zitzewitz Wolfers y Leigh y Wolfers, 2006).22

El desafío de integrar a todas las consideraciones esenciales enalgunos unidad coherente que nos permitirádeterminar qué tenemos más razones para hacer todas las cosasconsideradas. Esto podría tener queacomodar las predicciones sobre tecnología, impactos sociales,consideraciones estratégicas, los

juicios de valor, las restricciones éticas, y un surtido de meta-nivel reflexiones acerca de cómodeberían encajar todas estas cosas juntas.Tales trabajos sintéticos no está de moda en el momento actual. Esdesalentada por la estructura disciplinaria de la academia y por lasnormas vigentes de publicación académica, yno parece estar fuertemente alimentada por el corto plazo otorgafinanciamiento disponible paraproyectos interdisciplinarios. Como consecuencia de ello, el trabajoes sintético realizado principalmente por


27/31

tiempo presionó a periodistas, popular science autores, jubiladocientíficos o académicos superiores que ya no están dispuestos ocapacitados para hacer un trabajo serio, crackpots y diversosexcéntricos. La calidad de las contribuciones subsiguientes sueleser deficiente, e incluso cuandosale algo que valga la pena no hay garantía de que se utilizará yconstruido por otros. Permítanme tratar de indicar un poco másclaramente qué tipo de tarea sintético que tengo enmente. No me refiero a la erección de grandes sistemas filosóficosdescansa sobrecimientos de indudable primeros principios; tampoco me refiero a lapintura de "visiones" o la realización de amplias perspectivas"ideológico"; ni aún estoy bregando por algún nuevotipo de sistematización de todos los conocimientos, una taxonomíauniversal, o la creación de unaamplia base de datos, o un Biblioteca de Estudios de encargo. Másbien, lo que tengo en mente esla tarea de intentar pensar a través de algunos de los grandesdesafíos para la humanidad de una manera que no deje fuera todaconsideración crucial -me refiero a una consideración tal que

si fueron tomadas en cuenta que trastornaría las conclusiones, deotra manera, hubiéramos alcanceacerca de cómo debemos Dirigir nuestros esfuerzos. Por ejemplo,algunas de las consideraciones estratégicas relacionadas con lananotecnología, iniciativa que he mencionado anteriormente podríaser "crucial" en el sentido de que podríanplausiblemente, si son sanas y una vez tomada en cuenta,racionalmente entregar unaconclusión práctica apuntando en la dirección opuesta a la quenosotros, de lo contrario, podrían creer que debemos luchar. Pero nosólo las consideraciones estratégicas, sino también otros empírico,epistemológico, axiológicos y consideraciones metodológicas podríanser cruciales

en este sentido.Implícitamente, nos enfrentamos a un desafío de integrarconsideraciones crucialescada vez estamos intentando adoptar una decisión razonada sobrealgún asunto que nos parece importante "Get Right". Cuando nuestroobjetivo es muy limitado, podríamos al menosalgunas veces enfrentar con éxito el desafío (aunque no generalmentepor confiar en la deliberación razonada solos). Cuando el objetivoes más abierta, como si estamos intentandodecidir qué tenemos más razones para hacer con nuestra propia vida,considerando todas las cosas, o si estamos tratando de formar unaopinión sobre un tema como lo que debería ser la política públicacon respecto a algunos anticipa la revolución tecnológica, la

complejidad de la Desafío sintéticas crece enormemente. No estáclaro que nosotros nunca logran satisfacer en cualquier sentidorobusto. En su lugar, ¿qué respuesta terminamos abrazando podríadependen principalmente de factores contingentes como el23 de

inclinaciones políticas de nuestros padres, las visionesidiosincrásicas de nuestro asesor de tesis, el clima


28/31

cultural actual en el lugar por casualidad llegamos a vivir, o elmero hecho de que hemos dejado de pensar dealgunos crucialmente pertinente que habría causado Nosotros parallegar a unaconclusión muy diferente. Lo que esto parece equivaler a es quepodemos tener muy poca confianza racional quenuestros esfuerzos, en la medida en que están destinadas en últimainstancia a objetivos importantes a largo plazo para la humanidad,no están totalmente equivocadas. Nuestros más nobles y examinadocuidadosamente los intentos de provocarcambios en el mundo bien podría estar empujando las cosas más lejosde donde debería estar. Quizás a la vuelta de la esquina acechaalguna consideración crucial que hemos ignorado, de tal manera quesi pensamos en ella y fueron capaces de otorgarle su debidaimportancia en nuestro razonamiento, que nosconvenzan de que nuestras creencias orientadoras y nuestras luchashasta la fecha había sido ortogonales o peora la dirección que luego venga a aparecer a nosotros Como la de laderecha.Otros de ser generalmente más agnóstico, ¿qué podemos hacer al

respecto? No estáclaro cuán eficazmente la tarea sintética se podría dividir ensubtareas que pueden serdelegadas a un equipo de investigadores y sutura. Pero también esdudoso queningún genio puede realizar la tarea por sí solo. Habitación quizáspodría ser creado para unaconsulta de composición abierta por muchas mentes a centrarse en losproblemas de integración. Podrían ser considerables progresosrealizados a lo largo del tiempo, que sería interesante en su propioderecho, o sino tendría éxito en la creación de una síntesis pragmática de lo queuno podría ser justificadamente

confía en que no dejó de reconocer y hacer justicia a cualquierconsideración crucial. Un avance decisivo significaría quetendríamos la oportunidad de tomar nuestras decisionesa la luz de los datos disponibles y las razones justificadas y conla confianza de que no estamosempujando en un sentido totalmente equivocado.Sería mejor si las cosas de esa manera, no sabemos con certeza.Tampoco sabemoscon certeza qué acciones disponibles actualmente sería mejor alentartal resultado, debemosdecidir a buscarla, para esto es, por supuesto, uno de los grandesobjetivos de composición abierta para que elargumento se aplica: incluso si pensamos que duro y honestamente

acerca de esta cuestión, estamos aptos a descuidaral menos una consideración crucial. A menos que y hasta que logremosuna dramática iluminación en nuestra capacidad de síntesispragmática y, a continuación, en esta y en otras perspectivasrevolucionarias, seguiremos juego nuestra ética y posicionespolíticas en la oscuridad.ReferenciasBainbridge, William Sims, y Mihail C. Roco, eds. (2006), la gestiónde Nano-Bio-Info-Cognoinnovaciones. Dordrecht: Springer.


29/31

Bostrom, Nick (2002): Análisis de Riesgos ʺExistential extinciónhumana escenarios y relacionadosHazardsʺ, Oficial de la evolución y la tecnología 9. --- (2003a), ʺAre viviendo en una simulación de computadora?ʺfilosófico 53 trimestrales(211):243-255.24

--- (2003b), ʺAstronomical residuos: el costo de oportunidad delretraso tecnológico, Utilitas Developmentʺ 15(3):308-314.--- (2005), fábula ʺThe del dragón-Tyrantʺ, Oficial de Ética Médica31 (5):273-277. --- (2006), trabajando Ethicsʺ ʺInfinite manuscrito.Disponible desdehttp://www.nickbostrom.com/ethics/infinite.pdf.Bostrom, Nick y Toby Ord (2006), Inversión ʺThe Test: Eliminacióndel status quo Bias enBioethicsʺ, ética 116 (4):656

-680.Cámaras, S. (2004), PUERTAS CERRADAS ʺBehind: publicidad, el secretoy la calidad dedeliberationʺ, Revista de filosofía política 12 (4):389-410.Crow, Michael M., y Daniel Sarewitz (2001), y la sociedadʺNanotechnologyTransformationʺ, Albert H. Teich, Stephen D. Nelson, Celia McEnaneyyStephen J. Lita (eds.), la AAAS Política de Ciencia y TecnologíaAnuario, Washington, DC: Asociación Americana para el avance de laciencia, 89-101.Drexler, Eric (2003), Ensayos ʺNanotechnology: revolucionando elfuturo de la tecnología

(revisada en 2006), la AAAS ʺ EurekAlert! InContext Abril. Drexler, K. E. (1992a), los motores de la Creación. Oxford: OxfordUniversity Press. --- (1992b), nanosistemas: Mecanismos moleculares,la fabricación, y la computación. NuevaYork: John Wiley & Sons, Inc.Elam, Mark y Margareta Bertilson (2002), ʺConsuming, atractivo y queenfrenta laciencia: Las nuevas dimensiones de la ciencia Citizenshipʺ, en PeterHealey (ed.), etapa ( HPSE-CT2001-50003) Informe Final, 121-158.Disponible desdehttp://www.stage-research.net/STAGE/documents/STAGE_Final_Report_final.pdf.Thomas Gilovich, Dale W. Griffin, y Daniel Kahneman (2002), la

heurística y los sesgos: lapsicología del juicio intuitivo. Cambridge, Reino Unido: CambridgeUniversity Press.Axel Gosseries (2005), ʺPublicityʺ, Edward N. Zalta (ed.), laStanford Encyclopedia ofPhilosophy.Grice, Paul (1975), y, en Conversationʺ ʺLogic Peter Cole y Jerry L.Morgan (eds.), la sintaxisy la semántica, Vol 3, los actos de habla, New York: Academic Press,41-58. Hanson, R. (1995), Juegos de Azar ʺCould guardar la ciencia?Alentar una honesta Consensusʺ,


30/31

Epistemología Social 9:1:3-33.Robin Hanson, vamos a votar sobre los valores, pero apuesta encreencias? 2003. Disponible desdehttp://hanson.gmu.edu/futarchy.pdf.Jaynes, E. T. y G. Larry Bretthorst (2003), la teoría de laProbabilidad: la lógica de la ciencia. Cambridge,UK: Cambridge University Press.Jones, C. I., y J. C. Williams (1998), el rendimiento social deʺMeasuring R&Dʺ, Quarterly Journal of Economics 113 (4):1119-1135.Alegría, B. (2000), la futura necesidad doesnʹt ʺWhy usʺ, Wired8.04.Daniel Kahneman y Amos Tversky (2000), opciones, valores y marcos.Cambridge, UK:Cambridge University Press.25

Latour, Bruno (1987), ciencia en acción: cómo seguir a loscientíficos e ingenieros a través de la sociedad.Cambridge, Mass.: Harvard University Press.Leigh, A. y J. Wolfers (2006), en previsión de las eleccionesʺCompeting enfoques:modelos económicos, sondeo de opinión y predicción marketsʺ,trayectoria económica 82 (258):325-340.Lenman, James (2000), y Cluelessnessʺ ʺConsequentialism, Filosofía yAsuntos Públicos 29(4):342-370Meade, Ellen E., David Stasavage, y la Escuela de Economía yCiencias Políticas de Londres.

Centro de rendimiento económico. La publicidad de los debates y elincentivo a la disidenciaevidencia a partir de la Reserva Federal de EEUU. Centro deRendimiento Económico, Escuela deEconomía y Ciencias Políticas de Londres de 2004. Disponible desdehttp://cep.lse.ac.uk/pubs/download/dp0608.pdf.Rawls, John (1999), la ley de los pueblos. Cambridge, Mass.: HarvardUniversity Press. Mihail Roco, C., y William Sims Bainbridge (2003),la convergencia de tecnologías para mejorarel rendimiento humano: la nanotecnología, la biotecnología, latecnología de la información y la ciencia cognitiva. Dordrecht;Boston, Mass.: Kluwer Academic Publishers.Salter, A. J., y B. R. Martin (2001), ʺThe financiados públicamente

los beneficios económicos de lainvestigación básica: una crítica reviewʺ, políticas deinvestigación 30(3):509-532.Tetlock, Philip (2005), experto juicio político: ¿Qué tan bueno es?¿Cómo podemos saber?[Princeton, N.J.]: Princeton University Press. Vandermolen, ThomasD. (2006), y la Nanotecnología ʺMolecular Securityʺ nacional, Air& Space Power Journal 20 (3):96-106.Wolfers, J. y E. Zitzewitz (2004), ʺPrediction marketsʺ, Oficial dePerspectivas Económicas 18(2):107-126.


31/31

26

1c.las Revoluciones Tecnologicas-Etica y Politica en La Oscuridad

Documents

Transcript of 1c.las Revoluciones Tecnologicas-Etica y Politica en La Oscuridad