1b.qué tan difícil es ai- argumentos evolutivos y efectos de selección

8/19/2019 1b.qué Tan Difícil Es AI- Argumentos Evolutivos y Efectos de Selección

1/30

Lo difícil es la Inteligencia Artificial? Argumentos evolutivos yefectos de selección

Carl Shulman Nick Bostromwww.nickbostrom.comAbstract Varios autores han hecho el argumento de que los procesosevolutivos ciegos porque produce la inteligencia humana en latierra, debe ser factible para humano inteligente ingenieros paracrear inteligencia artificial de nivel humano en un futuro no muylejano. Este argumento evolutivo, sin embargo, ha ignorado el efectoselección de observación que garantice que los observadores podránver vida inteligente que han surgido en su planeta, no importa cuándifícil es para la vida inteligente para evolucionar en cualquierplaneta similar a la tierra. Exploramos cómo el argumento evolutivopodría ser rescatadas de esta objeción, usando una variedad deconsideraciones de observación teoría de selección y análisis de lascaracterísticas de distribución específicos y casos de encontrar

convergentes que, dependiendo de la resolución de cuestionescontrovertidas en observación la teoría de selección, la objeciónpuede ser total o moderadamente aliviaron, aunque otros retos parael argumento evolutivo permanecen.

1. Argumentos evolutivos para facilitar la inteligencia1.1 Introducción1 ¿Qué puede decirnos acerca de la evolución humana las perspectivaspara el nivel humano de Inteligencia Artificial (AI)? Un número defilósofos y tecnólogos, entre ellos David Chalmers (2010) y HansMoravec (1976, 1988, 1998, 1999), sostienen que la evolución humanademuestra que tal AI no sólo es posible, sino factible dentro de

este siglo. En estas cuentas, podemos estimar la relativa capacidadde evolución y de ingeniería humana para producir inteligencia, yencontrar que la ingeniería humana ya es inmensamente superior a laevolución en algunas áreas y es probable que se convierta ensuperior en las zonas restantes antes de que sea demasiado tarde. Elhecho de que la evolución de la inteligencia producida, por lotanto, indica que la ingeniería humana será capaz de hacer lo mismo.Así, Moravec escribe:

1 aquí, nos referimos a sistemas que igualan o superan elrendimiento cognitivo de los seres humanos en prácticamente todoslos ámbitos de interés: "uniforme" desempeño de nivel humano parece

improbable, salvo quizás a través de una estrecha emulación decerebros humanos (Sandberg y Bostrom, 2008), puesto que el softwareya está sobrehumana en muchos campos.1

La existencia de varios ejemplos de inteligencia diseñado bajo estasrestricciones deberían darnos gran confianza en que podemos lograr


2/30

lo mismo en breve. La situación es análoga a la historia del vuelomás pesado que el aire, donde las aves, murciélagos e insectosdemostró claramente la posibilidad2 antes de nuestra cultura dominar.

Asimismo, Chalmers, esboza el argumento evolutivo de la siguientemanera:

1. Evolución producida la inteligencia humana [mecánicamente y nomilagrosamente].2. Si la evolución puede producir la inteligencia humana[mecánicamente y no milagrosamente] y, a continuación, probablementepodemos producir a nivel humano de inteligencia artificial (antes delargo)._________ 3. Probablemente podemos producir a nivel humano deinteligencia artificial (antes de largo).

Los argumentos a favor de la viabilidad de la inteligenciaartificial no dicen si el camino a seguir por los ingenieros humanospara producir AI se asemejará a la ruta tomada por la evolución. El

hecho de que la inteligencia humana ha evolucionado implica queejecuta algoritmos genéticos es una manera de producir inteligencia;no implica que sea la única forma o la forma más fácil para losingenieros humanos para crear inteligencia artificial.Por consiguiente, podemos considerar dos versiones del argumentoevolutivo dependiendo de si hay o no la ingeniería de inteligenciadebe usar métodos que recapitular los utilizados por la evolución.

1.2 Argumento del problema dificultad el argumento del problemadificultad intenta utilizar consideraciones evolutivasindirectamente a demostrar que el problema de la creación desistemas inteligentes no es demasiado duro (desde la evolución ciegalo hicieron) y luego usar esto como una causa general para pensar

que los ingenieros humanos probablemente pronto crack el problematambién. Uno puede pensar de este argumento como haciendo un reclamoacerca del espacio de algoritmos en el sentido de que no esdemasiado difícil para buscar en este espacio y encontrar unalgoritmo que produce el nivel de inteligencia humana cuando seimplementa en el hardware prácticamente factible. (La dificultaddepende de hechos desconocidos sobre el espacio de los algoritmos deinteligencia, tales como la medida en que la forma del paisajefitness favorece hill- escalada.) Podemos formalizar este argumentocomo sigue:

1'. Evolución producida la inteligencia humana.2'. Si la evolución producida la inteligencia humana, entonces es

"no-dura" para procesos evolutivos para producir la inteligenciahumana.3'. Si es "no-dura" para procesos evolutivos para producir laevolución humana, entonces no es extremadamente difícil para losingenieros a producir inteligencia artificial de nivel humano.4'. Si no es extremadamente difícil para los ingenieros a producirinteligencia artificial de nivel humano, probablemente se llevará acabo antes de que sea demasiado tarde._________ 5'. Los ingenieros (largo) antes de producir inteligenciaartificial de nivel humano.


3/30

Mientras (1') está bien establecida, y podemos conceder (4'),locales (2') y (3') requieren un cuidadoso escrutinio.

Consideremos primero (3'). ¿Por qué creen que no seríaextremadamente difícil para los ingenieros humanos para averiguarcómo crear inteligencia artificial de nivel humano, suponiendo queera "non-duros" (en un sentido

2 Véase Moravec (1976).2

que será explicada en breve) para la evolución para hacerlo? Unmotivo podría ser el optimismo sobre el crecimiento de lashabilidades para resolver problemas humanos en general o sobre lacapacidad de los investigadores de AI en particular para venir paraarriba con nuevas e ingeniosas formas de solucionar problemas. Este

optimismo, sin embargo, necesitaría algún apoyo probatorio, el apoyoque tendría que venir desde fuera del argumento evolutivo. Si esteoptimismo está justificado es una cuestión fuera del ámbito de estedocumento, pero es importante reconocer que esta es una premisaesencial en la actual versión del argumento evolutivo, una premisaque debería indicarse expresamente. Observe también que si uno fueralo suficientemente optimistas acerca de la habilidad de losprogramadores de AI para encontrar nuevos trucos ingeniosos,entonces el argumento evolutivo sería inútil: los ingenieros humanospodrían esperarse antes de producir (demasiado larga) solucionesincluso problemas que eran "extremadamente difícil" (al menos muydifícil de resolver por medio de procesos evolutivos ciegos).

A pesar de la necesidad de atención en el desarrollo de premisa (3')con el fin de evitar una petitio principii, el argumento delproblema dificultad es potencialmente interesante y posee algunasllamado intuitivo. Por consiguiente, vamos a volver a esta versióndel argumento en secciones posteriores de este documento, enparticular concentrando nuestra atención en la premisa (2'). Luegoveremos que la valoración de dificultad evolutivo resulta implicanalgunas profundas e intrincadas cuestiones en la aplicación de lateoría de selección de observación para el registro histórico.

1.3 Argumento de algoritmos evolutivos la segunda versión delargumento evolutivo para la viabilidad de la inteligencia artificialno intenta parlay consideraciones evolutivas en una evaluación

general de lo difícil que sería crear inteligencia artificialutilizando algún método. En lugar de mirar al problema general dedificultad, la segunda versión se centra en la idea más específicaque los algoritmos genéticos se ejecutan en ordenadores losuficientemente rápido, podría lograr resultados comparables a losde la evolución biológica.Podemos formalizar este "argumento dealgoritmos evolutivos" de la siguiente manera:

1'. Evolución producida la inteligencia humana.


4/30

2'. Si la evolución producida la inteligencia humana, entonces es"no-dura" para procesos evolutivos para producir la inteligenciahumana.3''. Haremos (largo) antes de poder ejecutar los algoritmosgenéticos en equipos que son lo suficientemente rápido para recrearen una escala de tiempo humana la misma cantidad de energía que laoptimización acumulativo de los procesos relevantes de la selecciónnatural instanciado de todo nuestro pasado evolutivo (para cualquierproceso evolutivo que no era difícil)._________ 4''. Haremos (largo) antes de ser capaces de produciraplicando algoritmos genéticos resultados comparables a los dealgunos de los resultados que la evolución producida, incluidos lossistemas que tienen nivel de inteligencia humana.

Este argumento de los algoritmos evolutivos comparte con elargumento del problema dificultad sus dos primeros locales. Nuestrasinvestigaciones posteriores de la premisa (2'), por lo tanto, llevanen ambas versiones del argumento evolutivo. Echemos un vistazo másde cerca a esta premisa.

1.4 dureza evolutivo y la observación los efectos de selección3

tenemos varios métodos disponibles para comenzar a estimar lapotencia de búsqueda evolutiva en la tierra:3 la estimación del número de generaciones y los tamaños de lapoblación disponible para la evolución humana , crear4 modelos matemáticos de "límites de velocidad" evolutivo bajodiversas condiciones , y utilizando la genómica para

medir 5 anteriores tasas de cambio evolutivo. Sin embargo, creaciónconfiable de inteligencia a nivel humano a través de la evoluciónpodría requerir ensayos sobre muchos planetas en paralelo con latierra, siendo uno de los pocos afortunados de tener éxito. ¿Puedeel hecho de la evolución humana en la tierra permiten distinguirentre los siguientes escenarios?

No disco inteligencia: Hay un buen camino de la mejora incrementaldesde el más simple de los primitivos sistemas nerviosos a loscerebros capaces de inteligencia a nivel humano, lo que refleja laexistencia de muchos simple, fácilmente reconocible para losalgoritmos de inteligencia. En la mayoría de los planetas con vida,el nivel de inteligencia humana también desarrolla.

Inteligencia: duro viable algoritmos para la inteligencia son raros,sin suavizar trazados de mejora incremental de rendimiento a nivelhumano. Evolución requiere extraordinaria suerte en1000 dio con un diseño para la inteligencia humana, por lo que sólo1 de cada 10 planetas con vida no lo hace.

En cualquier caso todos los recién evolucionado civilizaciónencontrarán que la evolución logró producir sus antepasados. Laobservación de efectos de selección es que no importa cuán difíciles para nivel de inteligencia humana para evolucionar, el 100% de


5/30

las civilizaciones evolucionó se encontrarán procedentes de planetasdonde sucedió de todos modos.

¿Cómo podemos estar seguros de que la inteligencia es duro, y esapremisa falsa (2') en la evolutiva argumentos pueden sercompatibles, en la cara de esos efectos de selección? Después de unbreve tratamiento de premisa (3''), se discuten los enfoquesteóricos de la literatura filosófica, en particular la asunciónSelf-Sampling (SSA) y el supuesto Self-Indication (SIA)-porque, pordesgracia, correctamente en analizar la evidencia evolución dependede difícil, inestable preguntas acerca de observador-6 efectos de selección. Observamos que un conjunto común desuposiciones filosóficas (SIA) admite sencilla evolución de lainteligencia, sino que lo hace casi a priori debido a que algunospueden encontrar objetable.Alternativas comunes a SIA, por otro lado, nos exigen más sopesarcuidadosamente los datos evolutivos.Intentamos esta evaluación, discutiendo varios tipos de pruebas quemantenga en el rostro de observación los efectos de selección.Encontramos que aunque se necesitan más investigaciones, la tesis de

que "la inteligencia es extremadamente duro para evolucionar" escoherente con la disposición de datos evolutivos bajo estossupuestos alternativos.Sin embargo, los datos no descartar muchas hipótesis particulares envirtud de que la inteligencia podría ser muy difícil de evolucionar,y por lo tanto el argumento evolutivo todavía debería aumentarnuestra credibilidad en la factibilidad de nivel humano AI.

2. Requisitos computacionales para recapitular la evolución mediantealgoritmos genéticos3 30 Baum (2004) a muy grandes rasgos calcula que entre el 10 el 40y 10 de las criaturas que han existido en la Tierra, en el curso debúsqueda evolutiva, argumentando que no podía haber invocado la

fuerza bruta para el espacio de búsqueda de posibles genomas. Sinembargo, Baum no considerar las implicaciones de un conjunto deplanetas en su cálculo.4 Por ejemplo, MacKay (2009) calcula la información de la teoría delos límites superiores del poder de la selección natural con y sinsexo en un simple modelo aditivo de fitness.5 Véase, por ejemplo, los halcones, et al. (2007) recientementeacelerar la selección adaptable en los seres humanos, incluyendo lacomparación de tasas de sustitución adaptativa en diferentes linajesde primates.6 Véase la Gracia (2010) para un atento examen de estas cuestiones yenfoques prominentes.4

asumamos (1') y (2'), es decir, que no era duro en el sentidodescrito anteriormente para la evolución para producir lainteligencia humana. El argumento de los algoritmos evolutivos, acontinuación, necesita una premisa adicional para entregar laconclusión que los ingenieros pronto será capaz de crearinteligencia artificial, es decir, que pronto tendremos suficiente


6/30

potencia informática para recapitular los correspondientes procesosevolutivos que produjo la inteligencia humana. Si esto es plausibledepende tanto de lo que uno podría esperar avances en la tecnologíainformática en los próximos decenios y de cuánta potenciainformática sería necesario para ejecutar los algoritmos genéticoscon la misma potencia de optimización como el proceso evolutivo dela selección natural que reside en nuestro pasado. Uno podría, porejemplo, tratar de estimar cuántos doblajes en rendimientocomputacional, siguiendo los lineamientos de la ley de Moore, seríanecesario a fin de duplicar los correspondientes procesos evolutivosen los ordenadores.

Ahora, para seguir esta línea de estimación, debemos darnos cuentade que no cada hazaña que fue lograda por la evolución en el cursodel desarrollo de la inteligencia humana es relevante para uningeniero humano que está tratando de evolucionar artificialmente lainteligencia de la máquina. Sólo una pequeña porción de optimizaciónevolutiva en la tierra ha sido la selección para la inteligencia.Más concretamente, el problema que los ingenieros humanos notriviales de bypass puede haber sido el destino de una porción muy

pequeña del total de optimización evolutiva. Por ejemplo, ya quepodemos ejecutar nuestros equipos de energía eléctrica, no tenemosque reinventar las moléculas de la economía de la energía celularcon el fin de crear máquinas inteligentes aún evolución molecularpodría haber utilizado una gran parte de la cantidad total depotencia de selección que estaba disponible para la evolución en eltranscurso de la historia de la tierra.

Uno podría argumentar que las intuiciones básicas de AI estánincorporados en la estructura de los sistemas nerviosos,7 entró en existencia menos de mil millones de años atrás. Sitomamos ese punto de vista, entonces el número de30 "experimentos" disponibles para la evolución es drásticamente

reducido. Hay algunos 4-6*10 procariotas enel mundo de hoy 8 19 , pero sólo 10 9 10 insectos , y menos de 10derechos (pre-poblaciones agrícolas eran órdenes de magnitud máspequeñas). Sin embargo, los algoritmos evolutivos requieren no sólovariaciones para seleccionar entre sino una función de adecuaciónpara evaluar variantes, normalmente el componente más carocomputacionalmente. Una función de adecuación para la evolución dela inteligencia artificial plausiblemente requiere la simulación de"el desarrollo del cerebro", el aprendizaje y la cognición a evaluarla aptitud. Así podríamos hacer mejor no mirar el número bruto delos organismos con sistemas nerviosos complejos, pero en lugar deasistir al número de neuronas en los organismos biológicos quepodemos simular para imitar la evolución de la función de fitness.

Podemos hacer una estimación aproximada de esta última cantidad porconsiderar los insectos, que dominan la biomasa terrestre,10 con las hormigas solo estimaba que alrededor de 15-20% de labiomasa animal terrestre. El tamaño del cerebro del insecto varíasustancialmente, con grandes y los insectos sociales disfrutando decerebros más grandes; por ejemplo, una abeja cerebro tiene sólo

7 Legg (2008) ofrece este motivo en apoyo de la afirmación de quelos seres humanos serán capaces de recapitular los progresos de laevolución a lo largo de escalas de tiempo mucho más corto y conmenos recursos informáticos (aunque toma nota de que la evolución no


7/30

ajustados recursos computacionales son mucho fuera de alcance). Baum(2004) sostiene que algunos acontecimientos relevantes para AIocurrieron anteriormente, con la organización del genoma en sí queencarna una valiosa representación de algoritmos evolutivos.8 Véase Whitman et al. (1998).9 Véase Sabrosky (1952).10 Ver Schultz (2000).5

6 bajo 10 11 5 neuronas , mientras que un cerebro de la mosca de lafruta tiene 10 12 neuronas , y hormigas yacen en entre 250.000neuronas. La mayoría de los pequeños insectos pueden tener cerebrosde sólo unos pocos miles de neuronas. Excederse en la19 lado de alta de forma conservadora, si hemos asignado todos los10 números de la mosca de la fruta de los insectos de las neuronas,el total sería

24 10 neuronas de insectos en el mundo.Esto podría aumentarse con unpedido adicional de magnitud, a25 reflejan los copépodos acuáticos, aves, reptiles, mamíferos,etc., para llegar a 10 . (Por el contrario, en la pre-agrícola7 veces había menos de 10 11 los seres humanos, con bajo 10 18neuronas cada uno, menos de 10 en total, aunque los seres humanostienen un alto número de sinapsis por neurona.)El coste computacional de simular una neurona depende del nivel dedetalle que uno quiere incluir en la simulación. Extremadamentesimple neurona modelos utilizan unas 1.000 operaciones de puntoflotante por segundo (FLOPS) para simular una neurona (durante unsegundo de tiempo simulado); un modelo de Hodgkin-Huxleyelectrophysiologically realista utiliza 1.200.000 FLOPS; un análisis

más detallado modelo multicompartmental añadiría otro 3-4 órdenes demagnitud, mientras que los modelos de nivel superior sistemasabstractos de neuronas podríarestar 13 2-3 órdenes de magnitud, desde los modelos simples. Sifuéramos a simular 25 10 neuronas más de mil millones de años deevolución (más de la existencia de los sistemas nerviosos como losconocemos) en un año de31 runtime estas cifras nos daría un margen de 10 -1044 FLOPS. Porel contrario, los japoneses K computer,16 actualmente el superordenador más potente del mundo, proporcionasólo 10 FLOPS. En los últimos años ha tomado aproximadamente 6,7años para ordenadores genéricos para aumentar en el poder por unorden de magnitud. Incluso un siglo de la continuación de la ley de

Moore no sería suficiente para cerrar esta brecha. Ejecutando más ohardware especializado, o tiempos de ejecución más largos, podríancontribuir a sólo unos más órdenes de magnitud.

Esta cifra es conservadora en otro sentido. Evolución alcanzada lainteligencia humana aún no estaba destinado a este resultado demanera diferente: la aptitud para las funciones de organismosnaturales no selecciona sólo para14 inteligencia y sus precursores. Incluso en entornos en los quelos organismos superiores con habilidades de procesamiento de lainformación- reap no puede seleccionar varias recompensas por la


8/30

inteligencia, porque las mejoras de inteligencia pueden y a menudoimponen costos significativos, tales como un mayor consumoenergético o tiempos de maduración más lenta, y los costos quepueden superar los beneficios que se derivan del comportamientointeligente. Ambientes excesivamente mortal reducen el valor de lainteligencia: la más corta duración esperada, menos tiempo habrápara el aumento de la capacidad para aprender a pagar. Reduce lapresión selectiva para la inteligencia disminuye la difusión deinnovaciones que incrementan la inteligencia y, por tanto, laoportunidad para la selección a favor de innovaciones posterioresque dependen de estos. Además, la evolución puede terminan atascadosen optima local que los seres humanos se daría cuenta y omitiralterando compensaciones entre15 explotación y exploración o proporcionando una progresión suavede cada vez más difícil, las pruebas de inteligencia. Y, como se hamencionado anteriormente, la evolución se esparce mucho de su poderde selección sobre rasgos que son ajenos a la inteligencia, como laReina Roja de razas de co-evolución entre los sistemas inmunológicoy parásitos.Evolución continuará a desperdiciar recursos produciendo mutaciones

que han sido fehacientemente letal, y tendrá11 Véase Menzel y Giurfa (2001).12 Véase Truman et al. (1993).13 Véase Sandberg y Bostrom (2008).14 Véase Legg (2008) para una discusión más amplia de este punto yde la promesa de funciones o entornos que determinar la idoneidadbasada en un suave paisaje puro de las pruebas de inteligencia.15 Véase Bostrom (2009) para una discusión más detallada sobretaxonomía y de las maneras en que ingenieros puede outperformhistórica elección.6

no hacen uso de las similitudes en la estadística de efectos dediferentes mutaciones. Todos estos representan ineficiencias en laselección natural (cuando se considera como un medio de evolución dela inteligencia) que sería relativamente fácil para un ingenierohumano para evitar mientras utiliza los algoritmos evolutivos paradesarrollar software inteligente.

Parece plausible que evitando las ineficiencias como las descritaspermitiría recortar

44 31 muchos órdenes de magnitud, desde los 10 -10 FLOPS rangocalculado anteriormente en cuanto al número de cálculos neuronalesque se han realizado en nuestro pasado evolutivo. Lamentablemente,es difícil encontrar una base para estimar cuántas órdenes demagnitud. Es difícil hacer una estimación aproximada para aughtsabemos, la eficiencia, los ahorros podrían ser 5 o 10 o 25 órdenesde magnitud.

El análisis anterior abordó los sistemas nerviosos de los seresvivos, sin hacer referencia al coste de la simulación de órganos olos alrededores del entorno virtual como parte de una función de


9/30

adecuación. Es plausible que una adecuada función de adecuaciónpodría poner a prueba la competencia de un organismo determinado enmucho menos operaciones que tomaría para simular toda la computaciónneuronal del cerebro de ese organismo a lo largo de su vida natural.AI programas hoy en día a menudo desarrollar y operar en entornosmuy abstracta (teorema-provers en matemáticas simbólicas mundos,agentes en juego simple torneo mundos, etc.)Un escéptico podría insistir en que un entorno abstracto seríainsuficiente para la evolución de la inteligencia general, en lugarde creer que el entorno virtual tendría que ser muy parecido alactual entorno biológico en el que nuestros antepasadosevolucionaron. Crear un mundo virtual físicamente realistasrequeriría una inversión mucho mayor de los recursos computacionalesde la simulación de un simple juguete mundo abstracto o dominio delproblema (mientras que la evolución había tenido acceso a un mundoreal físicamente realistas "gratis"). En el caso límite, sipropiedades microfísicas completa exactitud se había insistido, los16 requisitos de cálculo sería el globo para totalmente inviableproporciones. No obstante, tal pesimismo extremo parece improbablefundado; no parece probable que el mejor entorno para la evolución

de la inteligencia es uno que imita la naturaleza tan estrechamentecomo sea posible. Por el contrario, es plausible que sería máseficiente utilizar un entorno de selección artificial, uno bastantediferente de la de nuestros antepasados, un entorno diseñadoespecíficamente para promover adaptaciones que aumenten el tipo deinteligencia que nos están tratando de evolucionar (es decir, unrazonamiento abstracto y general habilidades problem-solving encontraposición al máximo las reacciones instintivas rápido o unsistema visual altamente optimizada).

¿Dónde premisa (3'') de pie? Los recursos informáticos para hacercoincidir los números históricos de neuronas en sencillo desimulación de la evolución biológica en la Tierra están gravemente

fuera de alcance, incluso si la ley de Moore continúa durante unsiglo. El argumento de los algoritmos evolutivos dependecrucialmente de la magnitud de las ganancias en eficiencia debúsqueda inteligente, quizás tantos como 30 órdenes de magnitudrequerida.Estimación precisa de esas ganancias de eficiencia está más allá delalcance de este papel.

16 Uno podría tratar de eludir esta situación a través de laconstrucción de cuerpos robóticos que dejaría criaturas simuladasinteractuar directamente con el mundo físico real. Pero el costo yla velocidad de aplicación de tales sanciones serían prohibitivos

(por no mencionar las dificultades técnicas de la creación de robotsque puedan sobrevivir y reproducirse en la naturaleza!) conorganismos robóticos macroscópico de interactuar con el mundo físicoen tiempo real, podría tomar millones de años para recapitular elimportante desarrollo evolutivo.7


10/30

en lugar de una estimación de apoyo (3''), uno tiene que caer en elargumento más general del problema la dificultad, en el que (3'') essustituido por (3) y (4'), los locales que podrían ser más fácilesde admitir razones intuitivas. Pero el argumento de la dificultad deproblemas requiere también premisa (2'), que la evolución de lainteligencia en la tierra era "no dura." (esta premisa se utilizatambién en el argumento de los algoritmos evolutivos: si (2') eranfalsas, por lo que uno podría tener para simular la evolución de unvasto número de planetas para producir de forma fiable a través demétodos de inteligencia evolutiva, entonces requerimientoscomputacionales pueden llegar a ser muchas, muchas órdenes demagnitud aún mayor.) Pasamos ahora a examinar (2') másestrechamente, y enfoques teóricos para la evaluación.

3. Dos teorías de efectos de selección observacional ¿el mero hechode que hemos evolucionado en la tierra permiten distinguir entre lainteligencia y la no-17 duros escenarios de inteligencia? Surgen preguntas relacionadasen filosofía 18 , teoría de la decisión 19 , y la cosmología , y losdos principales métodos para responder a ellos dan respuestas

contradictorias. Podemos introducir estos enfoques mediante elsiguiente ejemplo:

Dios de la adversidad: Supongamos que Dios lanza una feria moneda.Si sale cara, él crea diez personas, cada uno en su propiahabitación. Si colas, él crea mil personas, cada una en su propiahabitación. Las habitaciones están numeradas 1-10 o 1-1000. Laspersonas no pueden ver o comunicarse con las otras habitaciones.Supongamos que sabe todo esto, y usted descubre que en uno de losprimeros diez habitaciones.¿Cómo debe la razón de que la moneda cayó?

El primer enfoque comienza con la premisa: Self-Sampling

(SSA) observadores deben razonar como si fueran una muestraaleatoria del conjunto de todos los observadores en20 su clase de referencia.

Aquí la clase de referencia es un conjunto de posibles observadores,por ejemplo "seres inteligentes" o "seres humanos" o "criaturas conmis recuerdos y observaciones." Si la referencia de clase puedeincluir tanto a las personas que descubren que están en lashabitaciones 1-10 y las personas que descubren que están en lashabitaciones, y luego aplicando 11-1000 SSA21 le llevará a concluir, con probabilidad de 100/101, que la monedacayó jefes. Por si la moneda subió

17 Véase, por ejemplo, en el debate filosófico sobre "La BellaDurmiente" de los casos, comenzando por Elga (2000) y Lewis (2001).18 Véase Piccione & Rubinstein (1997) sobre el Absentmindedproblema de controlador.19 Si consideramos las teorías cosmológicas de los que el mundo esinfinito (o finito pero excesivamente grandes) con suficientesvariaciones locales, entonces todas las posibles observaciones seránhechas en algún lugar. Para realizar predicciones utilizando talesteorías debemos tomar en cuenta la información indicial que estamosrealizando una observación particular, más que el simple hecho de


11/30

que algún observador en algún lugar ha hecho. Para ello principiostales como SSA Y SIA debe combinarse con alguna medida másobservadores, como se discutió en Bostrom (2007) y Gracia (2010).20 Este enfoque fue introducida por Carter (p. ej., 1983),desarrollado por Leslie (p. ej., 1993) y Bostrom (2002a), y seutiliza implícitamente o explícitamente por un número de otrosautores, por ejemplo, Lewis (2001). Bostrom (2002a) ofrece unaextensión para considerar "observador-momentos", SSSA.21 Si la clase de referencia incluye sólo los observadores que handescubierto que están en uno de los primeros diez habitaciones,entonces SSA no alterará nuestro credences en este ejemplo.8

cabezas y luego el 100% de la clase de referencia se encontraría ensu situación, pero si se le ocurrió luego de las colas sólo el 1% dela clase de referencia se encontraría en su situación. Por otro

lado, antes del descubrimiento de su habitación debe considerar elnúmero de cabezas y colas igualmente probable, ya que el 100% de suclase de referencia se encontraría en su situación de cualquiermanera.

El segundo enfoque añade un principio adicional, el Self-Indicationsuposición:

(SIA) dado el hecho de que existe, deberá (a igualdad de los demásfactores) favorecen las hipótesis según la cual existen muchosobservadores sobre hipótesis en las cualesexisten pocos observadores 22.

En la LSS+SIA combinación, si tomamos SIA a aplicar a los miembrosde una clase de referencia que incluye todos los observadoresindistinguibles de nosotros mismos, la referencia específica claseya no importa: una clase de referencia más expansiva recibe unimpulso de probabilidad de tener más observadores en ella, pero estoes exactamente compensado por la probabilidad de castigo por hacernuestras observaciones una porción más pequeña de la clase dereferencia. Los detalles de la clase de referencia ya no desempeñanun papel significativo. SIA entonces nos da el siguiente algoritmo:primero asignar probabilidades a mundos posibles normalmente,entonces multiplicar la probabilidad de cada mundo posible por elnúmero de observadores en situaciones subjetivamente indistinguiblede la propia, aplicar un renormalization probabilidades constantes,

de modo que agregar hasta 1, y dividir la probabilidad de cada mundouniformemente entre las hipótesis indicial que está cada observador(indistinguible del mismo) en ese mundo.

En God's Coin Toss, este algoritmo significa que antes de descubrirel número de habitación que usted considere un resultado de colas100 veces más probabilidades que los jefes, pues condicionada atails habrá cien veces como muchos observadores de la situación quehabría dado los jefes. Tras descubrir que el suyo es uno de losprimeros diez habitaciones, podrá considerar cabezas y colasigualmente probables, como a un igual número de observadores se


12/30

encuentran en su situación probatoria, independientemente delresultado de la FLIP.

Equipado con estos resúmenes, podemos ver que la SSA ofrece unaformalización de la intuición de que el mero hecho de que hemosevolucionado no es suficiente para distinguir la no disco duro deInteligencia Inteligencia: si usamos una clase de referencia como"seres humanos" o "evolucionado seres inteligentes", entonces, enambos escenarios, el 100% de los miembros de la clase de referenciase encontrarán en una civilización que logró desarrollar de todosmodos.SSA también nos permite extraer conclusiones acerca de la evoluciónque no son tan empañadas por observación los efectos de selección.Por ejemplo, supongamos que estamos divididos equitativamente (enconsideraciones no indicial) entre la hipótesis de que laecolocalización se encuentra en el 1% o el 100% de los planetas conrelevantemente poblaciones similares de observadores. Al observarque la ecolocalización existe en la tierra, podríamos volver a haceruna actualización Bayesiana como en Dios's Coin Toss y concluyen queecolocación común es 100 veces más probable como rara

ecolocalización.En esta cuenta, evolutiva innovaciones necesarias para producir lainteligencia será observado independientemente de su dificultad,mientras que otras innovaciones estará presente sólo si sonrelativamente fácil, dada las condiciones de fondo (incluyendocualquier innovación o otras condiciones necesarias para losservicios de inteligencia). Observación

22 vamos a abreviar la SSA+SIA combinación como SIA por brevedad.SIA se ha desarrollado varias veces como respuesta al argumento,como en Doomsday Olum (2002) y Dieks (2007), y está estrechamenterelacionada con la posición "thirder" en casos como la Bella

Durmiente en Elga (2000).9

Selección podría ocultar la dificultad o rareza en el desarrollo delos seres humanos, los sistemas nerviosos, eucariotas, abiogenesis,incluso el diseño del Sistema Solar o las leyes de la física.Tendríamos que mirar a otras características del registro evolutivo,tales como la distribución de determinados acontecimientos,innovaciones que no en la línea de ascendencia humana, más directa y

datos biológicos. Analizaremos estas líneas en las secciones 5 y 6.

Sin embargo, este enfoque no está firmemente establecido, y el SIAenfoque genera conclusiones muy diferentes, como se discute en lasiguiente sección. Estas implicaciones divergentes proporcionan unarazón práctica para trabajar hacia una imagen mejorada deobservación los efectos de selección. Sin embargo, en el ínterin,tenemos motivo para atender a los resultados de las dos teoríasactuales más generalizada.


13/30

4. La suposición Self-Indication (SIA) favorece el argumentoevolutivo inicialmente, la aplicación de la EIS a la cuestión de ladificultad de la evolución puede parecer trivial: SIA favorecedecididamente más observadores con nuestras experiencias, y si laevolución de la inteligencia es muy complicado, entonces será muyraro para los servicios de inteligencia como la nuestra paraevolucionar en el universo. Si, previamente a la aplicación de laEIS, estábamos igualmente confiados en que no son de disco duro y deInteligencia Inteligencia, entonces cuando aplicamos SIA1000 vamos a actualizar nuestros credences considerar no dura 10veces más probabilidades de inteligencia tan duro de inteligencia,desde1000 nos esperaría 10 veces como muchos planetas para evolucionarobservadores indistinguibles de nosotros bajo la no- disco deinteligencia. Esta probabilidad de cambio podría abrumar inclusoextremadamente fuerte evidencia de lo contrario: si la no evidenciaindicial indicó que la inteligencia fue duro un billón de billonesde veces más probable como no-inteligencia, un duro SIA usuario debeaún felizmente apostar diez mil millones de dólares contra uncentavo que la evolución de la inteligencia no es difícil.

Sin embargo, cuando llegamos a considerar la hipótesis de que laevolución de la inteligencia es cada vez más fácil la frecuencia deobservaciones indistinguible de nuestra puede efectivamentedisminuir más allá de un cierto punto. Observamos un planeta dondela evolución de la humanidad tomó 4.500 millones de años después dela formación de la tierra.Si la inteligencia surgió lo suficientemente rápida y fiablemente,entonces podríamos esperar que la vida y la inteligencia paraevolucionar en una pronta vigencia del planeta: habrá más planetascon inteligencia, pero menos planetas con fines- evolucionadocivilizaciones como la nuestra. Esta consideración, en combinacióncon la EIS, podría parecer favorecer un nivel intermedio de

dificultad, así que la evolución de la inteligencia normalmentetarda varios millones de años con los recursos de la tierra y seproduce bastante fiable pero no siempre en la vida del cojinete deplanetas.

Asimismo, observamos la ausencia de signos de vida extraterrestreinteligente. Si la vida inteligente eran comunes, podría habercolonizado la tierra antes que los seres humanos podría desarrollar,o se hizo visible, en cuyo caso no habrá ningún hombre sobre latierra haría nuestras observaciones exactas. Alguna combinación debarreras, la denominada "Gran Filtro"23 debe haber impedido tal vida exóticas procedentes de países endesarrollo cerca de nosotros y anticiparse a nuestras observaciones.

Sin embargo, otras cosas iguales, SIA aparece inicialmente a favorexplicaciones del Gran Filtro que coloque las barreras tras laevolución de la inteligencia. Aquí el pensamiento es que si el viajeinterestelar y la comunicación son prácticamente imposibles, o silas civilizaciones, casi invariablemente, se destruyen a sí mismosantes de la colonización del espacio, entonces los observadores comonosotros puede ser más frecuente; por lo tanto, si tenemos inclusoun pequeño crédito inicial en tales explicaciones del gran filtroentonces tras la aplicación SIA nos serán de gran prefiere que "lainteligencia es rara" explicaciones. Incluso si uno teníainicialmente sólo 0,1% creíble que la explicación de


14/30

23 Véase Hanson (1998a) en el gran filtro. Neal (2007) y Gracia(2010) explora la interacción con SIA-como principios.10

La gran permite Filtrado de información fiable la evolución deobservadores como nosotros (por ejemplo, el viaje espacial esimposible, o civilizaciones avanzadas imponer políticas contraactividades fácilmente detectable en los recién llegados),aplicación de la IEA permitiría incrementar la probabilidad de talesexplicaciones suficientemente para desplazar las hipótesis avanzadasque implican que la vida es extremadamente rara. Esto parecieradejar el argumento evolutivo de AI en sonido24 pie, desde la perspectiva de un proponente de SIA.

Sin embargo, el análisis anterior supone que nuestras observacionesde una galaxia bastante viejo pero vacías fueron descripciones

precisas de los cimientos de la realidad. Uno observó la implicaciónde SIA es que tiende a socavar esa suposición. Concretamente, elargumento de la simulación se plantea la posibilidad de que dadosciertos supuestos plausibles, por ejemplo que las simulaciones porcomputadora de cerebros podría estar consciente, entoncessimulaciones por ordenador con nuestras observaciones podrían sermuchos órdenes de magnitud más numerosas que "cimientos" realidadseres con25 de nuestras observaciones. Sin SIA, el argumento de la simulaciónno es necesario que nos conduce a la hipótesis de la simulación, esdecir, la afirmación de que somos las simulaciones por computadoraque está siendo ejecutado por alguna civilización avanzada,26 desde las hipótesis podría resultar ser falso. Sin embargo, si

respaldamos SIA, incluso si nuestras pruebas no indicial estádecididamente en contra de la hipótesis de la simulación, unapequeña inicialmente crédito a las hipótesis puede ser amplificadapor la SIA (y el potencial para grandes poblaciones simuladas) a laextrema27 de confianza. Esto favorecería la hipótesis en que lainteligencia ha evolucionado con la frecuencia suficiente que lascivilizaciones avanzadas podrían reclamar una gran proporción de losrecursos adecuados para la computación (para ejecutar simulaciones),pero ha aumentado su frecuencia más allá de que no aumentaríaconsiderablemente la población máxima de observadoresindistinguibles de nosotros. La combinación de la simulación dehipótesis y SIA sería también de forma independiente a favor de la

viabilidad de la IA, ya que la inteligencia artificial avanzadatecnología aumentaría la viabilidad de producir muy grandespoblaciones simuladas.

Para resumir esta sección, conocidas aplicaciones de la SIAconsistentemente nos aconsejan asignar probabilidad despreciable aldisco de inteligencia, incluso en la cara de la evidencia encontrario muy fuerte, mientras que nos asigne minúsculos antesprobabilidad de relativamente fácil evolución de la inteligencia.Desde el número de planetas con la inteligencia y el número deobservadores indistinguibles de nosotros puede venir aparte, la EIS


15/30

permite la evolución de la inteligencia para ser algunos órdenes demagnitud más difícil que una vez por sistema solar, pero no tandifíciles que la gran mayoría de los recursos potenciales para lacreación de observadores ir reclamados.Sacar tales conclusiones empíricas sólidas de aparentemente casi apriori motivos puede parecer censurable. Sin embargo, el supuestoSelf-Indication tiene una serie de consecuencias tales como, porejemplo, que si el

24 de Gracia (2010) sostiene que la IA podría esperarse que seacapaz de superar las barreras para el viaje interestelar y lacomunicación el gran filtro en combinación con la EIS deberíareducir nuestra credibilidad en AI lo suficientemente potente paraparticipar en el viaje interestelar. La fuerza de esta actualizacióndependerá de nuestra credibilidad en otras explicaciones de la granfiltro, y podría decirse que es discutible por el análisis de lainteracción de la SIA con la hipótesis de la simulación en lospárrafos subsiguientes.25 El argumento se presenta en Bostrom (2003), véase también Bostrom& Kulczycki (2011).

26 nota, por Chalmers (2003) y Bostrom (2003, 2005) que la hipótesisde la simulación no es una hipótesis escéptica, pero una reclamaciónacerca de lo que se desprende de nuestra evidencia empírica acercade la viabilidad de las distintas tecnologías. La mayoría denuestras creencias ordinario seguiría siendo fundamentalmentecorrectas.27 Nota que SIA también amplifica nuestra credibilidad en lahipótesis de que los recursos del simulador son grandes.Si asignamosincluso una pequeña probabilidad a la tecnología del futuropermitiendo arbitrariamente grandes cantidades de computación, estahipótesis puede dominar nuestros cálculos si aplicamos SIA.11

No podemos asignar cualquier indexically finito antes deprobabilidad positiva al mundo que contiene infinidad de28 observadores como nosotros, entonces post-SIA debemos creer queesto es cierto con probabilidad 1. Los defensores de la SIAdispuestos a morder esas balas en otros contextos pueden hacer lomismo aquí, y para ellos el argumento evolutivo de AI se parecen enfirme. Sin embargo, si uno piensa que nuestras opiniones sobre estosasuntos deberían ser más sensibles a la evidencia observacional,entonces uno debe girar de la SIA y buscar en otros lugares las

consideraciones pertinentes.

Ahora nos moveremos a descripciones más detalladas de la historiaevolutiva de la Tierra, información que puede combinarse con la SSApara evaluar la evolvability de inteligencia, sin la parcialidadcontra inteligencia duro implícita por SIA.

5. SSA y pruebas de evolución convergente recordar que dentro delmarco de la SSA lo hacemos como si nos fueron seleccionadosaleatoriamente del conjunto de todos los observadores, en nuestraclase de referencia. Si la referencia de clase incluye sólo las


16/30

inteligencias a nivel humano, entonces casi el 100% de los miembrosde la clase de referencia se derivarán de un ambiente donde laevolución producida de inteligencia humana al menos una vez. Por lamisma razón, si hay innovaciones que son necesarias para laevolución del nivel de inteligencia humana, estas deberían esperarque evolucionen al menos una vez entre los antepasados de lasinteligencias a nivel humano.Sin embargo, nada en la observación deefectos de selección requiere que los observadores encontrar esenivel de inteligencia humana o cualquier precursor innovacionesevolucionado más de una vez o fuera de la línea de ascendenciaconduciendo hasta el nivel humano inteligencias. Así pues, laspruebas de evolución convergente-el desarrollo independiente de unainnovación en varios taxones- puede ayudarnos a entender laevolvability de inteligencia humana y sus precursores, y paraevaluar los argumentos evolutivos para AI.

El último ancestro común (LCA) compartida entre los seres humanos ylos pulpos, calcula que han vivido al menos 560 millones de años enel pasado, era una diminuta criatura wormlike con un29 sistema nervioso muy primitivas; también era un ancestro de los

nematodos y las lombrices de tierra. No obstante, los pulpos pasó aevolucionar extensas partes del sistema nervioso central, con másmasa del sistema nervioso (ajustado para el tamaño del cuerpo) delos peces o reptiles, y un sofisticado repertorio conductual,incluyendo memoria, comunicación visual, y30 el uso de la herramienta. Impresionantemente inteligente, losanimales con ACV más recientes incluyen, entre otros,31 (corvids cuervos y cuervos, LCA hace aproximadamente 300 millonesde años) 32 , los elefantes (LCA hace unos 100 millones de años).En otras palabras, desde el punto de partida de los wormlikeancestros comunes en el medio ambiente de la tierra,

28 Véase Bostrom y Cirkovic (2003).

29 Véase Erwin y Davidson (2002).30 Véase, por ejemplo, Mather (1994, 2008), Finn, Tregenza,y Norman(2009) y Hochner, Shomrat, & Fiorito, G. (2006) para un examende inteligencia de pulpo.31 Por ejemplo, un cuervo llamada Betty fue capaz de doblar un cablerecto en un gancho para recuperar un cucharón de comida de un tubovertical, sin formación previa; los cuervos en el medio silvestrefabricar herramientas de palos y hojas para facilitar su caza deinsectos, pase sobre patrones de uso de la herramienta, y usar elengaño social para mantener el robo de alimentos; cachés resistentesver Emery y Clayton (2004). Para GRC dating, véase Benton y Ayala(2003).32 Véase Archibald (2003) para la LCA dating, y Byrne, Bates, y Moss

(2009) para una revisión alegando que los elefantes" el uso de laherramienta, el sentido numérico, empatía y capacidad para pasar laprueba del espejo sugieren que son comparables a los grandes simiosno humanos.12


17/30

Los recursos de evolución compleja producida independientemente elaprendizaje, la memoria y el uso de la herramienta tanto dentro comofuera de la línea de ascendencia humana.

Algunos proponentes del argumento evolutivo para AI, como Moravec(1976), han colocado un gran peso en los casos de evoluciónconvergente. Antes de aprender acerca de la diversidad deinteligencia animal, asignaríamos alguna probabilidad a situacionesen las que el desarrollo de estas capacidades básicas decomportamiento (dadas las condiciones de fondo) era un obstáculoimportante para la creación de inteligencia a nivel humano. En lamedida en evolución convergente nos permite descartar las formasparticulares en que la evolución de la inteligencia podría serdifícil, se debería reducir el total de nuestra credibilidad en laevolución de la inteligencia siendo duro (que es simplemente la sumade nuestra credibilidad en todos los sentidos, podría ser difícil).

Sin embargo, hay una importante advertencia a esos argumentos. Unaespecie que muestra evolución convergente de la inteligenciaconductual puede tener una arquitectura cognitiva que difiere en no

observables de los aspectos, de la de nuestros antepasados. Talesdiferencias podrían significar que los cerebros de animales encarnanlos algoritmos que son difíciles de "escala" o aprovechar paraproducir inteligencia a nivel humano, por lo que la facilidad de suevolución tiene poco que ver con la factibilidad de AI. Poranalogía, los programas de ajedrez superan a los seres humanosdentro del limitado dominio del ajedrez, sin embargo, los algoritmossubyacentes no pueden adaptarse fácilmente a otras tareascognitivas, y mucho menos a nivel humano AI. En la medida en quedudamos de la "escalabilidad" de pulpo o corvid inteligencia, apesar de la aparición de considerables, la generalidad, tendremosargumentos de descuento de su evolución convergente en consecuencia.

Además, incluso si hemos estado sobre la información relevante de lasimilitud de la inteligencia en estos linajes ancestralesconvergentes y aquellos a los seres humanos, a los efectos de laselección de observación podría todavía esconden una extraordinariasuerte en factores compartidos por ambos. En primer lugar, efectosambientales de fondo, tales como las leyes de la física, el diseñodel Sistema Solar y la geología de la Tierra podría ser inusualmentefavorables para la evolución de la inteligencia (en relación aalternativas simuladas para IA), independientemente de la evoluciónconvergente. Segundo, la ACI de todos estos linajes ya estabaequipado con diversas características visibles, como los sistemasnervioso- que evolucionaron sólo una vez en la historia de la tierray que, por consiguiente, podrían haber sido arbitrariamente difícil

evolucionar. Mientras las condiciones de fondo como la geología y laausencia de impactos de meteoros parecen relativamente improbableque corresponden a problemas importantes para los diseñadores de AI,es algo menos inverosímil suponer que las neuronas temprana diseñoesconden una extraordinaria dificultad: mientras modeloscomputacionales de neuronas individuales han mostrado unaimpresionante éxito predictivo, puede que aún albergan sutilmentepertinentes33 imperfecciones. Por último, algunos sutiles características delLCA pueden tener habilitado enormemente el desarrollo posterior dela inteligencia sin efectos visibles inmediatos. Consideremos el


18/30

caso de los ojos, que se han desarrollado en distintos linajes deanimales con grandes variaciones de características anatómicas ypropiedades (comparar los ojos de los seres humanos, pulpos, y lasmoscas de la fruta). Los ojos de todos los linajes hacer uso de lasproteínas conocidas como opsins y algunos genes reguladores comunescomo PAX6, que estaban presentes en el ACV de todas las criaturascon34 ojos. Asimismo, alguna oscura genético o fisiológico que datandel pulpo-LCA humana pueden ser esenciales para el posteriordesarrollo del pulpo nivel de inteligencia distintos linajes y hanrequerido una extraordinaria suerte.

33 Véase Sandberg y Bostrom (2008), para una revisión.34 Véase Schopf (1992) sobre la evolución convergente de los ojos.13

Además de las condiciones de fondo compartido por linajes, evoluciónconvergente también deja abierta la posibilidad de innovacionesdifíciles situadas entre las habilidades de los elefantes o corvidso pulpos y nivel de inteligencia humana, puesto que no tenemosejemplos de capacidades a nivel humano robustamente convergentlycambiantes. Si la evolución del nivel de inteligencia humana eransuficientemente fácil, a partir de las capacidades de estascriaturas de la Tierra, entonces podría parecer que los observadoresdeberían encontrar que apareció varias veces en la evolución en susplanetas. Sin embargo, como la tecnología humana avanzada, hemoscausado extinciones masivas (incluyendo todos los demás homínidos) yfirmemente ocuparon el nicho ecológico de herramienta dominante-

usuario. Si la evolución del nivel de inteligencia humananormalmente anticipa la evolución ulterior de tales criaturas, luegoevolucionó civilizaciones, en su mayoría, se encuentran sincomparablemente intelligent35 vecinos, incluso si esa evolución es relativamente fácil. Unaestimación precisa de la velocidad a la que evoluciona lainteligencia a nivel humano desde un determinado punto de partidaimplicaría la misma necesidad decorrección 36 Bayesiano encontrados en el análisis de los desastresque habría causado la extinción humana.

En resumen, analizando los casos de evolución convergente en laTierra, podemos refutar las afirmaciones de que ciertas innovaciones

evolutivas de aquellos para los cuales tenemos ejemplos deconvergencia son sumamente difíciles, dadas ciertas suposicionesacerca de sus mecanismos subyacentes. Aunque este método dejaabiertas varias maneras en que la evolución de la inteligencia, enprincipio, podría haber sido extremadamente difícil, se reduce elabanico de posibilidades. En particular, proporciona evidenciadisconfirming contra hipótesis de alta dificultad evolutiva entre eldesarrollo de los sistemas nervioso primitivo y los cerebrosbastante complejas proporcionando las avanzadas capacidadescognitivas encontradas en corvids, elefantes, delfines, etc. En lamedida en que consideramos relevante para las innovaciones


19/30

evolutivas ai design serán desproporcionadamente se han producidodespués de que el desarrollo de los sistemas nerviosos, la evidenciade evolución convergente sigue siendo bastante significativa.

Para llegar más allá del período cubierto por evolución convergente,y fortalecer las conclusiones acerca de ese período, requiere otraslíneas de evidencia.

6. SSA y pistas de sincronización evolutiva de la tierra es deaproximadamente 4.540 millones de años. Las estimaciones actualessostienen que la expansión del Sol37 hará que la Tierra inhabitable (evaporando los océanos) en algomás de 1.000 millones de años.Asumiendo que ningún otro mecanismo fiable corta de windowsplanetario de habitabilidad, humano-Nivel38 de inteligencia podría haber evolucionado en la tierra cientos demillones de años más tarde de lo que en realidad hizo.

35 La preferencia no podría ocurrir si, por ejemplo, lasinteligencias más evolucionado no fueron capaces de manipular el

mundo lo suficientemente bien como para producir la tecnología. Sinembargo, la mayoría de los ejemplos de evolución convergentediscutidas anteriormente tienen manipuladores capaces de utilizar laherramienta, con la posible excepción de los cetáceos (ballenas ydelfines).36 Véase Cirkovic, Sandberg y Bostrom (2010) para una explicación deesta corrección.37 Véase Dalrymple (2001) y Adams y Laughlin (1998).Los 38 mil millones de años de la figura se ve mejor como un límitesuperior sobre el resto de la ventana de habitabilidad de la tierra.Es bastante concebible (los humanos no habían evolucionado) quealgún proceso natural o acontecimiento habría pirateado esta ventanacerrada mucho antes de mil millones de años a partir de ahora,

especialmente para grandes mamíferos como de formas de vida. Sinembargo, hay motivos para creer que cualquiera que sea la suertehabría sido para nuestro propio planeta, hay muchos planetas como latierra en el universo cuya habitabilidad ventana supera 5 milmillones de años o más. La duración y el tamaño de la zona habitabledepende de la masa de los14

combinado con un principio como SSA, esta evidencia puede ser

ejercida sobre la cuestión de la evolvability de inteligencia.

6.1 Desinformativa priores plus evolución tardía sugieren lainteligencia es raro Brandon Carter (1983, 1989) ha argumentado quela casi coincidencia entre el tiempo que tardó la inteligencia paraevolucionar en la tierra, y la tierra habitable total del período,sugiere que las posibilidades de vida inteligente evolución39 sobre cualquier planeta similar a la tierra son en realidad muypor debajo de 1.


20/30

- a raíz de Carter, permítanos definir tres intervalos de tiempo: t, "El tiempo promedio esperado ... que sería intrínsecamente másprobable para la evolución de un sistema de "observadoresinteligentes', en la forma de una civilización científica como lanuestra" (Carter, 1983, pág. 353); te, el tiempo que tarda laevolución biológica sobre esteplaneta 9 § 4 × 10 años; y t0, que es el período durante el cual latierra puede sustentar la vida § 5.5 × 10 años utilizando laestimación anterior.

Argumento del carter luego ejecuta aproximadamente como sigue: en lapresente etapa de nuestra comprensión de labiología evolutiva--, no tenemos ninguna manera de calculardirectamente t . Además, no hay una razón a priori para esperar tpara estar en la misma escala temporal como t0 - . Por lo tanto,debemos usar una distribución de probabilidad de partida muy ampliosobre t -9 de distribución en los que sólo una pequeña porción de la masa deprobabilidad es entre 10 y 10 años,- dejando una gran mayoría de la masa de probabilidad en escenarios

donde sea: (a) t << t0 - , o (b) t >> T0.- Carter sugiere que podemos descartar próximos escenarios en loscuales t << T0 con una probabilidad elevada, ya que si9 civilizaciones tecnológicas suelen tardar mucho menos de 4 × 10años para evolucionar, nuestras observaciones de encontrarnos comola primera civilización tecnológica en la Tierra, recientementeevolucionó en esta fecha tardía, sería altamente infrecuente. Estodeja sólo los escenarios en los cuales tanto t § t0 - (una pequeñaregión), o t >> T0 (una región grande). Debido a los efectosde selección del observador, inteligente observadores bajocualquiera de estas situaciones sería observar que la vidainteligente ha evolucionado dentro de su propio período habitable

del mundo (incluso si, como en el disco- Inteligencia, t es muchos órdenes de magnitud mayor que t0). Así,al menos hasta que la actualización de la información, debemosconsideran probable que la probabilidad de vida inteligente ennuestro planeta en evolución dentro de la vida del sol era muypequeña.

-2,5 3,5 estrellas. Escala vigencias estelar como M y su luminosidadcomo M , donde m es su masa en masas solares; véase Hansen et al.(1994). Así, una estrella del 90% de la masa del sol duraría 30% másy tienen una luminosidad de 70%, permitiendo una masa analógica a laórbita de 0,83 UA de su estrella con la misma entrada de energía

como la tierra. La interacción entre la masa estelar y la zonahabitabile es más complejo, requiere supuestos sobre el clima, perolos modelos suelen encontrar que la duración de un planeta terrestrepuede seguir siendo habitable es mayor con menos pesados, estrellas,con aumentos de varios miles de millones de años de estrellas sólomarginalmente menos masivas que el sol; véase Kasting et al. (1993)y Lammer et al. (2009).El encendedor estrellas son mucho más comunesque las estrellas más pesadas. Clase G Sunlike estrellas de 0.8-1.04masas solares conforman sólo el 7,6% de las estrellas de lasecuencia principal, mientras que el fósforo 0.45-0.8 masas solaresestrellas de clase K conforman el 12,1%, y la aún más ligero enanas


21/30

rojas de clase M 76,45%; véase LeDrew (2001). Un planetaseleccionados al azar, por lo tanto, será más probable que orbitanestrellas un encendedor que el sol, suponiendo que el número deplanetas se formaron por sistema no es enormemente diferente clase Gy K-class estrellas.39 Esta sección se basa en una discusión en Bostrom (2002a).15

6.2 Distribución detallada sugiere que hay menos de ocho "medidasduras" Sin embargo, el conocimiento de la vida habitable de latierra también puede ser utilizado para intentar colocarprobabilista de límites superiores en el número de improbable"crítica" etapas en la evolución de los seres humanos. Hanson(1998b) pone bien:

Imaginemos que alguien tenía que escoger cinco bloqueos mediante

ensayo y error (es decir, sin memoria), cerraduras con 1, 2, 3, 4 y5 marca de diez números cada una, de manera que el tiempo esperadopara recoger cada bloqueo era .01, .1, 1, 10 y 100 horas,respectivamente. Si había un solo (ordenadas) Ejemplo de un conjuntode tiempos reales tomadas para recoger las cerraduras, decir .00881,.0823, 1.096, 15,93 y 200,4 horas, usted probablemente podría hacerconjeturas razonables acerca de los cuales correspondieron albloqueo que pick-tiempo. E incluso si usted no sabe la dificultadreal (esperada recuperación veces) de los diferentes bloqueos, ustedpodría hacer conjeturas razonables acerca de ellos desde los tiemposde recolección de muestras.

Ahora imagine que cada persona que trata sólo tiene una hora para

recoger los cinco bloqueos, y que sólo escuchará acerca de loséxitos. Si luego de escuchar que el real (ordenadas) pick-veces poralgún éxito fueron .00491, .0865, .249, .281, y .321 horas, tendríaque haber un momento más difícil adivinar qué bloquear corresponde aqué pick-tiempo. Usted podría adivinar que las dos primeras vecesprobablemente se corresponden con los dos bloqueos más fácil, perorealmente no se podía distinguir entre los otros tres esclusas desdesus tiempos están sobre la misma. Y si usted no conoce el conjuntode dificultades de bloqueo, estas duraciones te diría muy poco sobreel bloqueo duro dificultades.

Resulta que la dificultad de distinguir entre duras medidas es unaconsecuencia general de acondicionado pronto éxito. ... En sencillos

pasos, el condicional espera veces reflejan el paso dificultad, yestán cerca de la hora para la incondicional fáciles pasos. Lostiempos de espera para la condicional duras medidas, por otro lado,son prácticamente las mismas.

Por ejemplo, incluso si la esperada recuperación de tiempo en uno delos bloqueos, había un millón de años, todavía encontramos que elpromedio de sus pick-tiempo en ejecuciones satisfactorias es cercanaa .2 o .3 a 1 hora, y que no sería capaz de decirle que aparte delos 1, 10 y 100 horas de bloqueos. Quizás lo más conveniente, Carter


22/30

y Hanson argumentan que el tiempo previsto entre la recogida de laúltima condenación y el final de la hora40 tiene aproximadamente el mismo tiempo la distribución como eltiempo esperado entre un "duro" y otro paso. Por lo tanto, sisabíamos que el "L" el tiempo sobrante al final del lock-picking,pero no sabía cómo se había producido muchos bloqueos, seríamoscapaces de usar ese conocimiento para descartar situaciones en lasque el número de "duras medidas" era mucho mayor que n = 1 hora / L.

así, comenzar con el modelo más simple, si suponemos que laevolución de la vida inteligente requiere una serie de pasos queocurren secuencialmente (de manera que, por ejemplo, los sistemasnerviosos no tienen oportunidad de evolucionar hastamulticellularity ha evolucionado), que sólo son necesarios pasossecuenciales, que algunos de estos pasos son "duras medidas" en elsentido de que su tiempo promedio esperado excede la tierrahabitable total del período (suponiendo Los pasos de requisitosprevios ya están en su lugar, y en la ausencia de efectos deselección del observador), y que estos

40 Carter (1983) demuestra este analíticamente para el caso especialen el que todos hardsteps son de la misma dificultad; Hanson (1998b)verifica, mediante simulaciones de Monte Carlo, que poseeaproximadamente con duras medidas de variadas dificultades. Aldous(2010) hace varias generalizaciones adicional del resultado.16

"medidas duras" tienen una probabilidad de ocurrencia de constantepor intervalo de tiempo, entonces podemos utilizar la brecha te y t0

para obtener un límite superior en el número de medidas duras.Carter estima esta obligado a ser 3, dada su hipótesis de que t0 10es de unos 10 años (basado en los anteriores más las estimacionesdel período habitable). Hanson (1998b), utilizando un modelo consólo disco pasos secuenciales (con probabilidad de ocurrenciaincondicional constante después de cualquier predecesor pasos),calcula que con 1,1 millones de años de habitabilidad restantes (deacuerdo con las estimaciones más recientes) y n = 7, sólo el 21% delos planetas como la tierra con inteligencia evolucionada se habríadesarrollado tan pronto.

Los mismos límites hold (más fuerte, de hecho) si algunos pasos hanincorporado un tiempo antes de que el siguiente paso puede comenzar

(p. ej., la evolución de oxígeno-Breathing Life que requieren unaatmósfera con una cierta cantidad de oxígeno, producidos por losorganismos anaeróbicos durante cientos de millones de años). Estoslímites también se afilan si algunos de los pasos están autorizadosa presentarse en cualquier orden (Carter, 1983). Así, las "durasmedidas" modelo descarta una serie de posibles escenarios "dura" deinteligencia: evolución normalmente puede tardar excesivamente largopara llegar a través de determinadas "medidas duras", pero entreesos pasos, el proceso ordinario de la evolución basta, incluso sinlos efectos de selección de observación, para crear algo como laprogresión que vemos en la tierra. Si la masa restante del período


23/30


24/30

Por otra parte, además de proporcionar información sobre el númerototal de medidas duras, el modelo también puede dar probabilistaslímites en cuántas duras medidas podía haber ocurrido en cualquierintervalo de tiempo dado. Por ejemplo, nos permitiría inferir con ungrado de confianza alto que en la mayoría de uno disco duro paso seha producido en los 6 millones de años desde que los humanos/chimpantepasados comunes.Esto puede ayudar a reducir los límites en dondela ia dificultad de ingeniería pueden ser encontrados.

7. Conclusiones Los proponentes del argumento evolutivo para ia hanseñalado la evolución de la vida inteligente en la Tierra como unterreno para anticipar la creación de inteligencia artificial eneste siglo. Nos explican este argumento en términos de reclamacionesacerca de la dificultad de búsqueda de arquitecturas cognitivasinteligente adecuado (el argumento de problema dificultad) y,alternativamente, en términos de reivindicaciones acerca de ladisponibilidad de los algoritmos evolutivos, capaces de producir anivel humano de inteligencia general realistas cuando se implementaen el hardware (el argumento de los algoritmos evolutivos).

El argumento de los algoritmos evolutivos requiere una estimación decuánto poder de computación que tomaría para que coincida con lacantidad de energía proporcionada por la optimización de laselección natural sobre escalas de tiempo geológico.Hemos explorado una manera de colocar un límite superior sobre lascorrespondientes demandas computacionales y encontré quecorresponden a más de un siglo el valor de progreso continuo a lolargo de la Ley de Moore un excesivamente gran cantidad de potenciainformática. Gran eficiencia son casi ciertamente posible, pero sondifíciles de cuantificar con antelación. Es dudoso que el límitesuperior hacia abajo calculado en nuestro papel podría reducirse losuficiente para permitir que el argumento de los algoritmosevolutivos para triunfar.

El argumento de la dificultad de problemas específicos evita hacersuposiciones acerca de la cantidad de potencia informática necesariao la forma específica en que nivel de inteligencia humano-máquina selograría. Esta versión del argumento reemplaza la premisacuantitativa acerca de los requisitos de recursos computacionales yalgoritmos evolutivos más intuitiva con un llamamiento a la forma enque las consideraciones evolutivas podría decirnos algo acerca delproblema generalmente dificultad de diseñar sistemas inteligentes.Pero en cualquiera de sus dos versiones, el argumento evolutivo sebasa en otro supuesto: que la evolución de la inteligencia humana noera excesivamente dura (2').

Señalamos que este supuesto (2') no puede inferirse directamente delhecho de que la inteligencia humana evolucionó sobre la tierra. Estoes debido a un efecto de selección de observación garantiza queevolucionaron todas las inteligencias a nivel humano encontrarán quela evolución consiguió producir ellos independientemente de lodifícil o improbable era de evolución para producir este resultadoen cualquier planeta dado. La

subestimación es menos grave si tenemos en cuenta el hecho de quelos períodos de tiempo más largos permiten más posibilidades


25/30

n para las duras medidas para ocurrir. La oportunidad de completar nduras medidas en el tiempo t es proporcional a t . Así pues, cuandoexaminamos los planetas donde hemos evolucionado de inteligenciatendería a encontrar inteligencia evolucionando tras un largo- lohabitual de brecha entre desastres, o una serie de desastres que noperdonan algunos linajes encarnar pasado duras medidas. A lo largode periodos prolongados, el aumento exponencial de la catástrofeefecto dominarán el polinomio aumento de más oportunidades paraduras medidas. Sin embargo, con tasas plausibles de catástrofes, elefecto de la mayor oportunidad en gran medida inutiliza la objeción.18

Nos mostró cómo evaluar el posible apoyo empírico para (2') desde elpunto de vista de la alternativa dos principales enfoques derazonamiento antrópico: la Asunción y la Self-Sampling Self-Indication Asunción. La suposición Self-Indication apoya firmemente

el argumento evolutivo y la factibilidad de AI (entre otras fuertesy a menudo contra-intuitivo implicaciones empíricas). Lasconsecuencias de la suposición Self-Sampling dependen mássensiblemente en los detalles de la evidencia empírica. Considerandola información adicional acerca de los detalles de la historia de laevolución especialmente la evolución convergente y el calendario delas principales innovaciones de la Asunción Self-Sampling puedeusarse para hacer inferencias sobre la evolvability probabilista dela inteligencia y, por ende, sobre la solidez del argumentoevolutivo.

Este nuevo análisis de la SSA disconfirms muchas formas particularesen que la evolución de la inteligencia puede ser difícil,

especialmente en situaciones de extrema dureza (con muchos pasosdifíciles), respaldando así la premisa (2') (aunque el modelo deCarter también tiene implicaciones contando contra muy fácilevolución de inteligencia). De particular interés, dos líneas deevidencia contar contra la extrema dureza evolutivo en el desarrollode la inteligencia de nivel humano dado el desarrollo de lossistemas nerviosos como los conocemos: habilidades cognitivasbastante sofisticados convergently evolucionado varias veces desdeel punto de partida de los primeros sistemas nerviosos; y "duro"paso modelos predicen unos pasos en nuestro disco secuencial muyreciente historia evolutiva. Combinado con la opinión de que lasinnovaciones en el diseño evolutivo del cerebro especialmente sondiagnóstico de ai design dificultad, estas observaciones pueden

evitar algunos de la fuerza de la objeción de la observación de losefectos de selección.

Así, con un importante enfoque de razonamiento antrópico (SIA)brinda un fuerte apoyo para (2'), y la otra (SSA) ofrece un panoramamixto y quizás un apoyo moderado, observación efectos de selecciónno paralizar el argumento evolutivo a través de su premisa (encualquiera de sus versiones) de la no-dura evolución de lainteligencia.


26/30

Amplia incertidumbre sigue siendo empíricos y conceptuales. Mayorprogreso podría ser el resultado de varios campos. Los científicosinformáticos pueden explorar ambientes óptimos para la evolución dela inteligencia, y sus demandas computacionales o cómo fácilmentelas técnicas de programación evolutiva no puede replicar lafuncionalidad de diseños evolucionado en diferentes dominios. Losbiólogos evolucionistas y los neurocientíficos pueden desenmarañarpreguntas sobre convergencia evolutiva y distribución. Y losfísicos, filósofos y matemáticos puede trabajar para resolver lasnumerosas cuestiones abiertas en teoría de selección observacional.Considerando cómo la reciente muchas de las ideas y metodologíaspertinentes, y el carácter de los resultadosobtenidos hasta la fecha 43, parece probable que más trufasepistémica se encuentran en estos terrenos.

Referencias Adams, F.C. & Laughlin, G. (1998) El futuro delUniverso, Sky and Telescope, 96 (2), pág. 32.

43 agradecemos a David Chalmers, Paul Christiano, Zack M. Davis,Owain Evans, Louie Helm, Lionel Levine, Jesse Liptrap, James Miller,Luke Muehlhauser, Anna Salamon, Anders Sandberg, Elizabeth Synclair,Tim Tyler, y audiencias en la Universidad Nacional de Australia y laAsociación de Filosofía 2010 Australasian conferencia para útilescomentarios y discusión.19

Aldous, D.J. (2010) la gran bifurcación, Filtro historias y sucesos

improbables.[http://www.stat.berkeley.edu/~aldous/Papers/GF.pdf]Archibald, Licenciado en Derecho (2003), el calendario y labiogeografía de la radiación eutherian: fósiles y moléculas encomparación, la filogenética molecular y evolución, 28 (2), págs.350-359.

Baum, E. (2004) ¿Qué es el pensamiento?, MIT Press.

Benton, M.J. & Ayala, F.J. (2003), que se remontan al árbol dela vida, la ciencia, la 300 (5626), pp. 1698-1700.

Bostrom, N. (1996) Las investigaciones de The Doomsday argumento.

[http://anthropic- Principle.com/preprints/inv/investigations.html]Bostrom, N. (2001) El argumento de Doomsday, Adam & Eve, ONU++,y Joe, Synthese cuántico, 127 (3), págs. 359-387.

Bostrom, N. (2002a) sesgo antrópico: Observación efectos deselección en la ciencia y la filosofía. Nueva York: Routledge.

Bostrom, N. (2002b) Self-Locating Creencia en grandes mundos: lacosmología de observación, el eslabón que falta para la Revista deFilosofía, 99 (12), pp. 607-623.


27/30

Bostrom, N. & Cirkovic, M. (2003) El argumento y el DoomsdaySelf-Indication hipótesis filosófica, trimestral, 53 (210), pp. 83-91.

Bostrom, N. (2003) está viviendo en una simulación de computadora?,filosófico trimestralmente, 53 (211), pp.243-255.

Bostrom, N. (2005) El argumento de simulación: Respuesta alWeatherson, filosófico trimestralmente, 55 (218), pp. 90-97.

Bostrom, N. (2007) observación los efectos de selección, medidas einfinito, en spacetimes Carr, B. (ed.) Universo o Multiverso?,Cambridge, Cambridge University Press.

Bostrom, N. & Sandberg, A. (2009) La Sabiduría de la naturaleza:una heurística evolutiva para la potenciación humana, en Savulescu,J. y Bostrom, N. (eds.) la potenciación humana, Oxford: OxfordUniversity Press.

Bostrom, N. & Kulczycki, M. (2011) un parche para el argumentode la simulación, análisis, 71 (1), págs. 54 a 61.

Byrne, R.W., Bates, L.A. & Moss, C.J. (2009) elefante lacognición en perspectiva de primates, cognición y comportamientocomparativo comentarios, 4, págs. 65-79.

Carter, B. (1983) El principio antrópico y sus implicaciones para laevolución biológica, Phil. Trans. R.Soc. Lond. Una, 310 (1512), pp. 347-363.

20

Carter, B. (1989) El principio de selección antrópica y la ultra-síntesis darwiniana, Bertola, F. y Curi, U. (eds) El principioantrópico, Cambridge, Cambridge University Press.

Chalmers, D.J. (2005) La matriz como metafísica, en Grau, C. (ed.)filósofos explorar la matriz, Oxford: Oxford University Press.

Chalmers, D. (2010) la singularidad: un análisis filosófico, Journalof Consciousness Studies, 17 (9- 10), pp. 7-65.

Çirkoviç, M.M., Sandberg, A. & Bostrom, N. (2010): laobservación de sombra antrópica Selección de efectos y los riesgosde extinción humana, análisis de riesgo, 30 (10), pp. 1495-1506.

Dalrymple, G.B. (2001), la edad de la tierra en el siglo XX: unproblema (en su mayoría) resuelto, publicaciones especiales,Geological Society of London, 190 (1), págs. 205-221.

Dieks, D. (2007) el razonamiento sobre el futuro: Doom y belleza,Synthese, 156 (3), págs. 427-439.


28/30

Elga, A. (2000) Auto-localización de creencias y el problema de laBella Durmiente, Análisis, 60 (2), págs. 143-147.

Emery, N.J., y Clayton, N.S. (2004). La mentalidad de los cuervos:evolución convergente de inteligencia en corvids y simios. Laciencia, 306(5703), 1903 - 1907.

Erwin, D.H. Y Davidson, E.H. (2002) el último ancestro bilateriancomún, Desarrollo, 129 (13), pp.3021-3032.

Finn, J.K., Tregenza, T., & Norman, M.D. (2009) uso de laherramienta defensiva en un coco-llevando el pulpo, Current Biology,19 (23), pp. R1069-R1070.

Goodman, M. et al. (2009) analiza Phylogenomic revelan patronesconvergentes de la evolución adaptiva en elefante y ascendenciahumana, Actas de la Academia Nacional de Ciencias, 106 (49), págs.20824- 20829.

Gracia, C. (2010) el razonamiento antrópico en el gran filtro. BSc(Hons). Universidad Nacional de Australia.

Groombridge, B. y Jenkins, M.D. (2000) La biodiversidad global: losrecursos vivos de la tierra en el siglo XXI, Cambridge: la prensamundial de la conservación.

Hansen, C.J. & Kawaler, S.D. (1994) los interiores estelares:principios físicos, estructura y evolución, Birkhäuser.

Hanson, R. (1998a) El gran filtro-que casi hemos pasado?.[Http://hanson.gmu.edu/greatfilter.html]

Hanson, R. (1998b) debe ser fácil de vida temprana? El ritmo de lasgrandes transiciones evolutivas.[21 Http://hanson.gmu.edu/hardstep.pdf]

Hasegawa, M., Kishino, H. & Yano, T. (1985), que data de losderechos-ape dividir por un reloj molecular de ADN mitocondrial,Oficial de Evolución Molecular, 22, pp. 160-174.

Los halcones, J. et al (2007) la reciente aceleración de laevolución adaptativa, Proc Natl Acad Sci, 104 (52), pp.20753-8.

Hochner, B. Shomrat, T. & Fiorito, G. (2006) El Pulpo: un modelopara un análisis comparativo de la evolución de los mecanismos deaprendizaje y memoria, Biol. Bol., 210, pp. 308-317.

Jacobsen, S.B. (2003) ¿Cuántos años tiene el planeta Tierra?Science, 300, pp. 1513-1514.


29/30

Kasting, J.F., Whitmire, D.P. Y Reynolds, R.T. (1993) las zonashabitables alrededor de estrellas de la Secuencia principal, Icarus101, pp. 108-128.

Lammer, J.H. et al. (2009) lo que hace que un planeta habitable?Astrophys Astron Rev 17, pp. 181-249.

LeDrew, G. (2001) El verdadero cielo estrellado, Oficial de la RoyalAstronomical Society of Canada, 95, Nº 1, págs. 32-33.

Legg, S. (2008) la máquina super inteligencia (Tesis de Doctorado,Departamento de Informática de la Universidad de Lugano).

Leslie, J. (1993) Doom y probabilidades, mente, 102 (407), pp. 489-91.[Http://www.jstor.org/pss/2253981]Lewis, D.K. (2001) La Bella Durmiente: respuesta a Elga, Análisis,61 (271), págs. 171 a 176.

Li, Y., Liu, Z., Shi, P. y Zhang, J. (2010) La audiencia gen Prestin

une echolocating murciélagos y ballenas.Current Biology, 0 (2), págs. R55-R56.

MacKay, D.J.C. (2009) teoría de la información, inferencia, yalgoritmos de aprendizaje, Cambridge Cambridge Univ. Press :.

Mather, J.A. (1994) 'Home' Choice y modificación por menores Octopusvulgaris (MOLLUSCA:CEPHALOPODA): especializados en inteligencia y el uso de laherramienta? Oficial de zoología, 233, pp. 359-368.

Mather, J.A. (2008) conciencia: pruebas de comportamiento de loscefalópodos, la consciencia y la cognición, 17 (1), págs. 37 a 48.

Menzel, R. y Giurfa, M. (2001) arquitectura cognitiva de un mini-cerebro: la abeja melífera, tendencias Cog. Sci.5 (2), pág. 62.

Moravec, H. (1976) El papel de la fuerza bruta en la inteligencia.[http://www.frc.ri.cmu.edu/users/hpm/project.archive/general.articles/1975/Raw.Power.html]Moravec, H. (1998) cuando el hardware informático hará coincidir elcerebro humano?, Oficial de transhumanismo, 1.

Moravec, H. (1999) Los robots: Mera Máquina a mente trascendente,Oxford: Oxford University Press.

22

Neal, R.M. (2007) Rompecabezas de razonamiento antrópico resueltosutilizando el Pleno no indicial acondicionado, Informe Técnico nº0607, Departamento de Estadística, Universidad de Toronto.[http://www.cs.toronto.edu/~radford/ftp/anth2.pdf].


30/30

Olum, K.D. doomsday (2002), el argumento y el posible número deobservadores, filosófico trimestralmente, 52 (207), pp. 164-184.

Orgel, L.E. (1998) el origen de la vida, de un examen de los hechosy especulaciones, tendencias en Ciencias Bioquímicas, 23 (12, 1),págs. 491-495.

Piccione, M. & Rubinstein, A. (1997) el conductor distraídosparadoja: Síntesis y respuestas, juegos y el comportamientoeconómico, 20 (1), págs. 121-130.

Sabrosky, C.W. (1952) Cómo muchos insectos hay?, en el Departamentode Agr. (eds) Insectos: El Anuario de Agricultura, Washington, D.C.:U.S.G.P.O.

Sandberg, A. & Bostrom, N. (2008) emulación de todo el cerebro:una "hoja de ruta". Informe técnico 2008-3, el futuro de lahumanidad Institute, La Universidad de Oxford.[http://www.fhi.ox.ac.uk/Reports/2008- 3.pdf]

Schopf, W.J. (ed.) (1992), acontecimientos importantes en lahistoria de la vida, Boston: Jones y Barlett.

Schröder, K.P. & Connon Smith, R. (2008) un futuro lejano de latierra y el sol revisited, Noticias Mensuales de la Real Sociedad deAstronomía, 386 (1), pp.155-163.

Schultz, T.R. (2000) en busca de la hormiga antepasados, Actas de laAcademia Nacional de Ciencias, 97 (26), págs. 14028-14029.

Truman, J.W., Taylor, B.J., y premio, T.A. (1993) la formación delsistema nervioso adulto, con el bate, M., y Arias, A.M. (eds.), eldesarrollo de la mosca Drosophila melanogaster, Cold Spring Harbor:

Cold Spring Harbor Laboratory Press.

Whitman, W.B., Coleman, D.C. y Wiebe, W.J. (1998) procariotas: lamayoría invisible, Actas de la Academia Nacional de Ciencias, 95(12), pp. 6578-6583.23

1b.qué tan difícil es ai- argumentos evolutivos y efectos de selección

Documents