Superinteligencia Superinteligencia Caminos, Peligros, Estrategias Nick Bostrom Director, Instituto Futuro de la Humanidad Profesor de la Facultad de Filosofa y Oxford Martin SchoolUniversidad de Oxford

Gran Clarendon Street, Oxford, OX2 6DP, Reino Unido

Oxford University Press es un departamento de la Universidad de Oxford. Es propicio el objetivo de la Universidad de excelencia en la investigacin, la erudicin,y la educacin

mediante la publicacin en todo el mundo. Oxford es una marca registrada de Oxford University Press en el Reino Unido y en otros pases Nick Bostrom 2014 Los derechos morales del autor han afirmado

Primera edicin publicada en 2014 Impresin: 1 Todos los derechos reservados. Ninguna parte de esta publicacin puede ser reproducida, almacenada en un sistema de recuperacin, o transmitida, en cualquier forma o por cualquier medio, sin la previa autorizacin por escrito de la Oxford University Press, o de lo expresamente permitido por la ley, por la licencia o bajo condiciones acordadas con la organizacin adecuada de los derechos de reprografa. Las consultas relativas a la reproduccin fuera del mbito de lo anterior se deben enviar a la Direccin de Derechos, Oxford University Press, en la direccin arriba

Usted no debe distribuir este trabajo en cualquier otra forma y debe imponer esta

misma condicin en cualquier adquirente Catalogacin Biblioteca Britnica de datos de publicacinDatos disponibles

Biblioteca del Congreso de control el nmero: 2013955152 ISBN 978-0-19-967811-2 Impreso en Italia por L.E.G.O. S.p.A.-Lavis TN Los enlaces a sitios web de terceros son proporcionados por Oxford de buena fe y por slo informacin. Oxford se exime de cualquier responsabilidad por los materiales contenidos

en cualquier pgina web de terceros que se hace referencia en este trabajo. La fbula inacabada de los Gorriones Era la temporada de nido-construccin, pero despus de das de trabajo duro y largo, los

gorriones se sent en el resplandor de la noche, relajante y piar de distancia.

"Estamos todos tan pequeo y dbil. Imagina lo fcil que sera la vida si tuviramos un

bho que podran ayudarnos a construir nuestros nidos! " "S!", Dijo otro. "Y podramos utilizarlo para cuidar a nuestros ancianos y nuestros jvenes."

"Nos podra dar consejos y mantener un ojo hacia fuera para el gato barrio", aadi un tercero. Entonces Pastus, el ave mayor, habl: "Enviemos exploradores en todas direcciones y tratamos de encontrar un owlet abandonada en algn lugar, o tal vez un huevo. Una chica cuervo tambin podra hacer, o una comadreja beb. Esto podra ser lo

mejor que le ha pasado a nosotros, por lo menos desde la apertura del Pabelln de Ilimitado grano en el patio trasero de all ".

El rebao estaba eufrico y gorriones piando todas partes comenz en la parte superior de sus pulmones.

Slo Scronkfinkle, un gorrin tuerto con un temperamento inquieto, no estaba convencido de la sabidura de la empresa. Quoth l: "Esto sin duda ser nuestra perdicin. No deberamos pensar un poco en el arte de bho-domesticacin y bho-domar primero, antes de traer una criatura en medio de nosotros? " Respondi Pastus: "Domando un bho suena como una cosa muy difcil de hacer. Ser suficiente para encontrar un huevo bho difcil. As que vamos a empezar por ah. Despus hemos tenido xito en la crianza de un bho, entonces podemos pensar en tomar en este otro desafo ".

"Hay una falla en ese plan!" Chill Scronkfinkle; pero sus protestas fueron en vano ya que el rebao ya se haba levantado para empezar a aplicar las directivas establecidas por Pastus.

Slo dos o tres gorriones se quedaron atrs. Juntos comenzaron a tratar de averiguar cmo pueden ser domesticados o domesticados bhos. Pronto se dieron cuenta de que

Pastus tena razn: se trataba de un reto muy difcil, especialmente en ausencia de un bho real para practicar. Sin embargo ellos siguieron adelante lo mejor que pudieron, en

constante temor de que el rebao podra volver con un huevo lechuza antes de una solucin al problema de control haba sido encontrado.

No se sabe cmo termina la historia, pero el autor dedica este libro a Scronkfinkle y sus seguidores.

PRLOGO Dentro de su crneo es lo que hace la lectura. Esta cosa, el cerebro humano, tiene algunas capacidades que los cerebros de otros animales carecen. Es a estas capacidades distintivas que le debemos nuestra posicin dominante en el planeta. Otros animales tienen msculos ms fuertes y garras ms ntidas, pero tenemos cerebros ms

inteligentes. Nuestra ventaja modesta en la inteligencia general nos ha llevado a desarrollar el lenguaje, la tecnologa y la organizacin social compleja. La ventaja ha agravado con el tiempo, a medida que cada generacin se ha basado en los logros de sus predecesores. Si algn da construimos cerebros mquinas que superan los cerebros humanos en la inteligencia general, entonces esta nueva superinteligencia podra llegar a ser muy poderoso. Y, como el destino de los gorilas ahora depende ms de nosotros los seres humanos que en los propios gorilas, por lo que el destino de nuestra especie depender de las acciones de la superinteligencia mquina. Tenemos una ventaja: que lleguemos a construir las cosas. En principio, podramos construir una especie de superinteligencia que protegera a los valores humanos. Sin duda

tiene razn de peso para hacerlo. En la prctica, el problema en el control problema de

cmo controlar lo que la superinteligencia hara-se ve muy difcil. Tambin parece que slo obtendremos una oportunidad. Una vez que existe superinteligencia antiptico, que nos impedira su sustitucin o cambiar sus preferencias. Nuestro destino se sell. En este libro, trato de entender el desafo presentado por la perspectiva de superinteligencia, y la forma en que mejor podra responder. Esta es posiblemente la humanidad reto ms importante y ms desalentadora jams se ha enfrentado. Y, tanto si tenemos xito o fracasamos-es, probablemente, el ltimo desafo que alguna vez cara.

No es parte del argumento de este libro que estamos en el umbral de un gran avance en la inteligencia artificial, o que podemos predecir con precisin cundo podra ocurrir tal desarrollo. Parece poco probable que va a suceder en algn momento de este siglo, pero no sabemos a ciencia cierta. El primer par de captulos do discutir posibles vas y decir algo acerca de la cuestin de la oportunidad. La mayor parte del libro, sin embargo,

se trata de lo que sucede despus. Se estudia la cintica de una explosin de inteligencia, las formas y los poderes de la superinteligencia, y las opciones estratgicas disponibles

para un agente superinteligente que logra una ventaja decisiva. Luego nos cambiamos nuestro enfoque al problema de control y preguntamos qu podamos hacer para dar

forma a las condiciones iniciales a fin de lograr un resultado de supervivencia y beneficioso. Hacia el final del libro, nos acercamos y contemplamos el panorama general que emerge de nuestras investigaciones. Algunas sugerencias se ofrecen en lo que se debe

hacer ahora para aumentar nuestras posibilidades de evitar una catstrofe existencial despus.

Esto no ha sido un libro fcil de escribir. Espero que el camino que se ha aclarado que permitir a otros investigadores para llegar a la nueva frontera ms rpida y cmoda, para que puedan llegar all fresco y listo para unirse a los trabajos para ampliar an ms el alcance de nuestra comprensin. (Y si la forma en que se ha hecho es un poco accidentado y articulados, espero que los colaboradores, al juzgar el resultado, no hay que subestimar la hostilidad del terreno

ex ante!) Esto no ha sido un libro fcil de escribir: He tratado de hacer que un libro fcil de leer, pero no creo que bastante he tenido xito. Al escribir, que yo tena en mente como el pblico objetivo una anterior intervalo de tiempo de m mismo, y yo trat de producir un tipo de libro que me hubiera gustado leer. Este podra ser un grupo demogrfico estrecho. Sin embargo, creo que el contenido debe ser accesible a muchas personas, si ponen un poco de pensamiento en l y resistir la tentacin de malinterpretar instantneamente cada nueva idea asimilando con el la mayora de sonido similar clich disponibles en sus despensas culturales. Lectores no tcnicos no deben ser desalentados por algn que otro acto de las matemticas o

vocabulario especializado, ya que siempre es posible deducir el punto principal de las

explicaciones de los alrededores. (Por el contrario, para aquellos lectores que quieren ms de lo esencial y bsico, no hay mucho que se encuentran entre los endnotes.1) Muchos de los puntos sealados en este libro son probablemente equivocado. 2 Tambin es probable que haya consideraciones de importancia crtica que no tienen en cuenta, lo que invalida todas o algunas de mis conclusiones. He ido a alguna extensin para indicar matices y grados de incertidumbre en todo el texto-gravar con una mancha fea de "posiblemente", "podra", "puede", "podra bien", "parece", "probablemente"

"muy probable", "casi con seguridad". Cada calificador se ha colocado donde es cuidadosa y deliberadamente. Sin embargo, estas aplicaciones tpicas de la modestia epistmica no son suficientes; deben ser complementados aqu por una admisin sistmica de incertidumbre y falibilidad. Esto no es falsa modestia, porque mientras yo creo que mi libro es probable que sea muy mal y engaoso, creo que los puntos de vista alternativos

que se han presentado en la literatura son sustancialmente peores, incluyendo la vista por defecto, o "hiptesis nula" segn la cual podemos por el momento de manera segura o

razonablemente ignorar la perspectiva de superinteligencia.

AGRADECIMIENTOS La membrana que ha rodeado el proceso de escritura ha sido bastante permeable.

Muchos conceptos e ideas generadas mientras se trabaja en el libro se ha permitido a

filtrarse hacia fuera y se han convertido en parte de una conversacin ms amplia; y, por supuesto, numerosas ideas procedentes del exterior, mientras que el libro se marcha se han incorporado en el texto. He tratado de ser un poco diligente con el aparato de la citacin, pero las influencias son demasiados para documentar plenamente. Para amplios debates que han ayudado a aclarar mi pensamiento Agradezco a un gran conjunto de personas, incluyendo Ross Andersen, Stuart Armstrong, Owen Algodn-

Barratt, Nick Beckstead, David Chalmers, Paul Christiano, Miln Dirkovid, Daniel Dennett, David Deutsch, Daniel Dewey, Eric Drexler, Peter Eckersley, Amnn Edn, Owain Evans, Benja Fallenstein, Alex Flint, Carl Frey, Ian Goldin, Katja Gracia, J. Storrs Hall, Robin Hanson, Demis Hassabis, James Hughes, Marcus Hutter, Garry Kasparov, Marcin Kulczycki, Shane Legg, Moshe Looks, Willam MacAskill, Eric Mandelbaum, James Martin, Lillian Martin, Roko Mijic, Vincent Mueller, Elon Musk, Sen higeartaigh, Toby Ord, Dennis Pamlin, Derek Parfit, David Pearce, Huw Price, Martin Rees , Bill Roscoe, Stuart Russell, Anna Salamon, Lou Salkind, Anders Sandberg, Julian Savulescu, Jrgen Schmidhuber, Nicholas Shackel, Murray Shanahan, Noel Sharkey, Carl Shulman, Peter Singer, Dan Stoicescu, Jaan Tallinn, Alexander Tamas, Max Tegmark, Roman Yampolskiy y Eliezer Yudkowsky.

Para los comentarios detallados sobre todo, estoy agradecido a Miln Dirkovid, Daniel Dewey, Owain Evans, Nick Hay, Keith Mansfield, Lucas Muehlhauser, Toby Ord, Jess Riedel, Anders Sandberg, Murray Shanahan, y Carl Shulman. Para asesoramiento o ayuda de investigacin con diferentes partes Quiero agradecer Stuart Armstrong, Daniel Dewey, Eric Drexler, Alexandre Erler, Rebecca Roache, y Anders Sandberg. Para obtener ayuda con la preparacin del manuscrito, estoy agradecido a Caleb Bell, Malo Bourgon, Robin Brandt, Lance Bush, Cathy Douglass, Alexandre Erler, Kristian Rnn, Susan Rogers, Andrew Snyder-Beattie, Cecilia Tilli, y Alex Vermeer. Quiero

agradecer especialmente a mi editor Keith Mansfield por su aliento abundantes durante todo el proyecto. Mis disculpas a todos los dems que debera haber sido recordado aqu.

Por ltimo, un aficionado ms gracias a los patrocinadores, amigos y familia: sin su respaldo, no se habra hecho este trabajo.

CONTENIDOS

Las listas de figuras, tablas y Cajas

1. Evolucin del pasado y capacidades actuales

Modos de crecimiento y la historia grande Grandes expectativas Estaciones de la esperanza y la desesperacin Lo ltimo

Las opiniones sobre el futuro de la inteligencia artificial 2. Caminos de superinteligencia Inteligencia artificial Emulacin total del cerebro Cognicin Biolgica Interfaces cerebro-ordenador Redes y organizaciones

Resumen 3. Formas de superinteligencia

Superinteligencia velocidad Superinteligencia colectiva Superinteligencia Calidad Alcance directo e indirecto Fuentes de ventaja para inteligencia digital

4. La cintica de una explosin de inteligencia El tiempo y la velocidad del despegue Obstinacin

Caminos de inteligencia no-mquina

Emulacin y caminos de AI Potencia Optimizacin y explosividad 5. ventaja estratgica decisiva El favorito obtener una ventaja estratgica decisiva? Qu tan grande ser el xito del proyecto? Monitoreo La colaboracin internacional Desde ventaja estratgica decisiva a Singleton 6. superpotencias cognitivos

Funcionalidades y superpotencias Un escenario de toma de control AI Alimentacin a travs de la naturaleza y los agentes 7. La voluntad superinteligente La relacin entre la inteligencia y la motivacin Convergencia Instrumental

Instinto de conservacin Integridad gol contenido Mejora cognitiva

La perfeccin tecnolgica Adquisicin de recursos

8. Es el resultado doom defecto? Catstrofe existencial como el resultado predeterminado de una explosin de inteligencia? El giro traicionera Modos de fallo malignos

Instanciacin Perverse Profusin Infraestructura Crimen Mente 9. El problema de control Dos problemas de agencia

Mtodos de control de la Capacidad Mtodos de boxeo Mtodos de incentivos El retraso del crecimiento Cables trampa

Mtodos de seleccin Motivacin Especificacin directa Domesticidad

Normatividad indirecta Aumento Sinopsis 10. orculos, genios, soberanos, herramientas Orculos Genios y soberanos Herramienta-IA Comparacin 11. escenarios multipolares

De caballos y hombres

Los salarios y el desempleo El capital y el bienestar El principio malthusiano en una perspectiva histrica El crecimiento demogrfico y la inversin La vida en una economa algortmica

Esclavitud voluntaria, la muerte ocasional Funcionara mxima eficiencia ser divertido? Subcontratistas inconsciente? La evolucin no es necesariamente

Formacin posterior a la transicin de un producto nico? Una segunda transicin Superorganismos y economas de escala Unificacin por tratado 12. La adquisicin de valores El problema del valor de carga

Seleccin Evolutiva Aprendizaje por refuerzo Acrecin valor asociativo

Andamios de motivacin Aprendizaje Valor Modulacin de Emulacin

Diseo Institucin Sinopsis 13. La eleccin de los criterios para la eleccin La necesidad de normatividad

indirecta Volicin extrapolado Coherente Algunas explicaciones Justificaciones para CEV

Otras observaciones Modelos de moralidad Do What I Mean Lista de componentes Contenido Meta Teora de la decisin

Epistemologa Ratificacin Conseguir lo suficientemente cerca 14. El cuadro estratgico Estrategia de ciencia y tecnologa Desarrollo tecnolgico diferencial Orden preferido de llegada Las tasas de cambio y la mejora de la cognicin Acoplamientos Tecnologa Segundo-adivinanzas Caminos y facilitadores Efectos de los avances de hardware Se debe promover la investigacin de emulacin de todo el cerebro? La perspectiva de la persona que afectan favorece la velocidad Colaboracin La carrera dinmica y sus peligros Sobre los beneficios de la colaboracin Trabajando juntos Tiempo 15. Crunch Filosofa con una fecha lmite

Qu se debe hacer?

Buscando la luz estratgica La construccin de una buena capacidad Medidas particulares Ser el mejor de la naturaleza humana por favor ponerse de pie Notas Bibliografa ndice Listas de figuras, tablas y CAJAS Lista de Figuras 1. historia a largo plazo del PIB mundial. 2. Impacto global a largo plazo de HLMI.

3. rendimiento superordenador. 4. Reconstruccin 3D neuroanatoma a partir de imgenes del microscopio electrnico. 5. Toda la hoja de ruta de la emulacin cerebro. 6. Compuesto enfrenta como una metfora de los genomas de hechizo a cuadros. 7.

Forma del despegue. 8. A escala menos antropomrfica? 9. Un modelo simple de una explosin de

inteligencia. 10. Fases en un escenario de toma de control de AI.

11. Ilustracin esquemtica de algunas trayectorias posibles para un producto nico sabio hipottico. 12. Resultados de antropomorfizar motivacin ajena.

13. La inteligencia artificial o la emulacin de todo el cerebro primero?

14. Los niveles de riesgo en las carreras de tecnologa de IA. Lista de tablas 1. Juego de papeles AI 2. Cuando se alcanza la inteligencia artificial a nivel humano? 3. Cunto tiempo desde el nivel humano a superinteligencia? 4. Las capacidades necesarias para la emulacin de todo el cerebro 5. ganancias mximas de CI de seleccionar entre un conjunto de embriones

6. Posibles impactos de la seleccin gentica en diferentes escenarios 7. Algunas carreras tecnolgicas estratgicamente importantes 8. Superpoderes: algunas tareas estratgicamente relevantes y habilidades correspondientes 9. Diferentes tipos de cables trampa 10. Mtodos de control 11. Caractersticas de las diferentes castas del sistema 12. Resumen de las tcnicas de valor de carga 13. Lista de componentes Lista de Cajas 1. Un agente bayesiano ptimo 2. El flash crash de 2010 3. Qu hara falta para recapitular la evolucin? 4. En la cintica de una explosin de inteligencia 5. razas Tecnologa: algunos ejemplos histricos

6. El escenario ADN electrnico ordenada

7. Qu tan grande es la dotacin csmica? 8. captura Antrpico 9. soluciones extraas de bsqueda a ciegas Aprendizaje valor 10. Formalizacin 11. Una IA que quiere ser amigable 12. Dos recientes (medio-horneados) Ideas 13. Un riesgo-carrera a la baja

CAPTULO 1 La evolucin pasada y las capacidades actuales Empezamos por mirar atrs. Historia, en la escala ms grande, parece exhibir una secuencia de modos de crecimiento distintos, cada uno mucho ms rpido que su predecesor. Este patrn se ha llevado a sugerir que otro (an ms rpido) modo de crecimiento podra ser posible. Sin embargo, no ponemos

mucho peso en esta observacin, esto no es un libro sobre "la aceleracin tecnolgica" o "crecimiento exponencial" o las nociones diversas veces reunidos bajo el ttulo de "la

singularidad". A continuacin, se revisa la historia de la artificial inteligencia. A continuacin, examinamos las capacidades actuales del campo. Por ltimo, echamos un

vistazo a algunas encuestas de opinin de expertos recientes, y contemplamos nuestra ignorancia acerca de la lnea de tiempo de los futuros avances. Modos de crecimiento y la historia grande

Hace apenas unos pocos millones de aos nuestros antepasados todava estaban colgando de las ramas en la copa africana. En una escala de tiempo geolgica o incluso la

evolucin, el ascenso de Homo sapiens de nuestro ltimo ancestro comn con los grandes simios sucedieron con rapidez. Desarrollamos postura erguida, pulgares oponibles y-crucialmente-algunos cambios relativamente menores en el tamao del cerebro y la organizacin neurolgica que llevaron a un gran salto en la capacidad cognitiva. Como consecuencia, los seres humanos pueden pensar de manera abstracta, comunicar pensamientos complejos y culturalmente acumular informacin sobre las generaciones mucho mejor que cualquier otra especie en el planeta.

Estas capacidades permiten los seres humanos desarrollan tecnologas productivas cada vez ms eficientes, por lo que es posible que nuestros antepasados a emigrar lejos de la selva y la sabana. Especialmente despus de la adopcin de la agricultura, la densidad de poblacin aumentaron junto con el tamao total de la poblacin humana. Ms personas significan ms ideas; mayores densidades signific que las ideas podan propagarse con mayor facilidad y que algunos individuos podran dedicarse al desarrollo de habilidades especializadas. Estos acontecimientos aumentaron la tasa de crecimiento de la productividad econmica y la capacidad tecnolgica. Desarrollos posteriores, relacionados con la Revolucin Industrial, provocaron una segunda, cambio de ritmo comparable en la tasa de crecimiento. Estos cambios en la tasa de crecimiento tienen consecuencias importantes. Hace unos cien mil aos, a principios de humano (o homnido) la prehistoria, el crecimiento fue tan lento que tom en el orden del milln de aos para la capacidad productiva humana

para aumentar lo suficiente como para sostener un adicional de un milln de personas

que viven a nivel de subsistencia. Por 5000 aC, tras la Revolucin Agrcola, la tasa de crecimiento haba aumentado hasta el punto en que la misma cantidad de crecimiento tuvo apenas dos siglos. Hoy en da, despus de la Revolucin Industrial, la economa mundial crece en promedio en esa cantidad cada noventa minutos.1 Incluso el actual ritmo de crecimiento va a producir resultados impresionantes si se mantiene durante un moderadamente largo tiempo. Si la economa mundial sigue creciendo al mismo ritmo que lo ha hecho en los ltimos cincuenta aos, el mundo va a haber algunas 4,8 veces ms rico en el 2050 y cerca de 34 veces ms rico en 2100 de lo que es hoy.2 Sin embargo, la perspectiva de continuar en una senda de crecimiento exponencial constante palidece en

comparacin con lo que pasara si el mundo fuera a experimentar otro cambio de ritmo en la tasa de crecimiento comparable en magnitud a los asociados con la revolucin agrcola y la Revolucin Industrial. El economista Robin Hanson estima, en base a los datos econmicos y poblacionales histricos, una economa mundial caracterstica de tiempo para que la sociedad de cazadores-recolectores del Pleistoceno de 224.000 aos de

duplicacin; para la sociedad la agricultura, 909 aos; y para la sociedad industrial, 6,3 aos3 (En el modelo de Hanson, la poca actual es una mezcla de la agricultura y de los

modos-el crecimiento industrial de la economa mundial en su conjunto an no est creciendo a la tasa de duplicacin de 6,3 aos.) Si otro tales transicin a un modelo de

crecimiento diferente se produjera, y fuera de magnitud similar a los dos anteriores, que dara lugar a un nuevo rgimen de crecimiento en el que la economa mundial se duplicara en tamao cada dos semanas. Dicha tasa de crecimiento parece fantstico por

las luces actuales. Los observadores en pocas anteriores podran haber encontrado igualmente absurdo suponer que la economa mundial un da sera duplica varias veces

dentro de un mismo perodo de vida. Sin embargo, esa es la condicin extraordinaria que ahora damos a ser ordinarias. La idea de una singularidad tecnolgica que viene a estas alturas ha sido ampliamente popularizado, empezando por ensayo seminal de Vernor Vinge y continuando con los escritos de Ray Kurzweil y otros.4 El trmino "singularidad", sin embargo, se ha utilizado en muchos sentidos confusamente dispares y ha acrecentado un (todava casi milenaria) aura impa de connotations.5 tecno-utpico Dado que la mayora

de estos significados y connotaciones son irrelevantes para nuestro argumento, podemos ganar claridad mediante la supresin de la palabra "singularidad" en favor de una terminologa ms precisa. La idea relacionada singularidad que nos interesa aqu es la posibilidad de una explosin de inteligencia, En particular la perspectiva de la mquina superinteligencia. Puede haber quienes estn persuadido por los diagramas de crecimiento como los de la Figura 1 que otro cambio drstico en el modo de crecimiento est en las cartas, comparable a la agrcola o la Revolucin Industrial. Esta gente puede entonces reflejan que es difcil concebir un escenario en el que el tiempo de duplicacin de la economa mundial reduce a meras semanas que no implica la creacin de mentes que son mucho ms rpido y ms eficiente que el tipo biolgico familiar. Sin embargo, el caso de tomar en serio la perspectiva de una revolucin inteligencia de la mquina no tiene por qu

depender de los ejercicios de ajuste de curvas o extrapolaciones de crecimiento

econmico pasado. Como veremos, hay razones ms fuertes para tomar atencin. Figura 1 La historia a largo plazo del PIB mundial. Trazada en una escala lineal, la historia de la economa mundial se parece a una lnea plana abrazando a la X eje y, hasta que de repente clava verticalmente hacia arriba. (A) Incluso cuando nos acercamos a las ms recientes 10.000 aos, el patrn sigue siendo esencialmente una de un solo ngulo de 90 . (B) Slo en los ltimos 100 aos ms o menos hace el ascensor curva sensiblemente por encima del nivel cero. (Las diferentes lneas en la trama

corresponden a diferentes conjuntos de datos, que producen poco diferente estimates.6) Grandes expectativas Mquinas emparejan los seres humanos en la inteligencia de que en general es, que poseen el sentido comn y la capacidad efectiva de aprender, razonar y planificar para satisfacer desafos complejos de procesamiento de informacin a travs de una

amplia gama de naturales y abstractas dominios han esperado desde la invencin de las computadoras en la dcada de 1940. En ese momento, la llegada de este tipo de

mquinas a menudo se coloca una veintena de aos en el futuro. 7 Desde entonces, la fecha prevista de llegada ha estado retrocediendo a un ritmo

de un ao por cada ao; por lo que hoy en da, los futuristas que se preocupan por la posibilidad de ia fuerte todava a menudo creen que las mquinas inteligentes son un par de dcadas away.8

Dos dcadas es un punto dulce para pronosticadores de cambio radical: lo suficientemente cerca para ser que llame la atencin y relevante, pero lo suficiente para

que sea posible suponer que para entonces podra haber ocurrido una serie de avances, en la actualidad slo vagamente imaginable,. Contraste esto con plazos ms cortos: la mayora de las tecnologas que tendrn un gran impacto en el mundo en cinco o diez aos a partir de ahora ya son de uso limitado para que tecnologas que remodelar el mundo en menos de quince aos, probablemente existen como prototipos de laboratorio. Veinte aos tambin pueden estar cerca de la duracin tpica restante de la carrera de un pronosticador, que limita el riesgo reputacional de una prediccin audaz.

Del hecho de que algunos individuos han sobrepronostic inteligencia artificial en el pasado, sin embargo, no se sigue que la IA es imposible o nunca se desarroll. 9 La razn principal por la que el progreso ha sido ms lento de lo esperado es que las dificultades tcnicas de la construccin de mquinas inteligentes han demostrado ser superiores a los pioneros previeron. Pero esto deja abierta cun grande esas dificultades son y qu tan lejos estamos ahora de superarlos. A veces, un problema que parece inicialmente irremediablemente complicada resulta tener una solucin sorprendentemente simple (aunque lo contrario es probablemente ms comn).

En el prximo captulo, vamos a ver los diferentes caminos que pueden conducir a la inteligencia de las mquinas a nivel humano. Pero notemos en primer lugar que no obstante las muchas paradas que hay entre aqu y la inteligencia artificial a nivel humano, ste no es el destino final. La siguiente parada, a poca distancia de ms largo de las pistas, es la inteligencia artificial a nivel sobrehumano. El tren no podra deten er o incluso desacelerar en la estacin Humanville. Es probable que Swoosh derecho. El matemtico IJ Good, que haba servido como jefe de estadstica en el equipo para romper el cdigo de Alan Turing en la Segunda Guerra Mundial, podra haber sido el

primero en enunciar los aspectos esenciales de este escenario. En un pasaje muy citado de 1965, escribi: Deje una mquina ultrainteligente definirse como una mquina que ahora puede superar todas las actividades intelectuales de cualquier hombre, sin embargo inteligente. Desde el

diseo de mquinas es una de estas actividades intelectuales, una mquina ultrainteligente podra disear incluso mejores mquinas; entonces habra, sin duda, una

"explosin de inteligencia", y la inteligencia del hombre se quedara muy atrs. As, la primera mquina ultrainteligente es la ltima invencin de que el hombre tiene que hacer

cada vez, siempre que la mquina es lo suficientemente dcil para decirnos cmo mantenerla bajo control. 10

Puede parecer obvio ahora que los principales riesgos existenciales se asociaran con una explosin como la inteligencia, y que la perspectiva, por tanto, debe ser

examinada con la mayor seriedad, incluso si se supiera (que no lo es) tener sino un moderado pequea probabilidad de que viene pasar. Los pioneros de la inteligencia artificial, sin embargo, a pesar de su creencia en la inminencia de nivel AI humana, en su mayora no contemplan la posibilidad de mayor de lo humano AI. Es como si sus msculos especulacin lo haba agotado en concebir la posibilidad radical de mquinas alcanzando la inteligencia humana que no poda comprender el corolario-que las mquinas seran posteriormente convertido

superinteligente. Los pioneros de AI en su mayor parte no tolerar la posibilidad de que su empresa podra implicar riesgos. 11 Le dieron ningn servicio a dejar el labio solo seria pensamiento a cualquier problema de seguridad o reparo tico relacionado con la creacin de mentes artificiales y potenciales seores informticos: una laguna que asombra incluso en el contexto de la era de la normas no tan impresionantes de tecnologa crtica assessment.12 Debemos esperar que por el momento la empresa con el tiempo llega a ser factible, habremos ganado no slo el nivel de competencia tecnolgica para provocar una explosin de inteligencia, sino tambin el mayor nivel de maestra que sean necesarias para hacer que la detonacin de supervivencia.

Pero antes de que nos dirigimos a lo que se avecina, ser til tomar un rpido vistazo a la

historia de la inteligencia de la mquina hasta la fecha. Estaciones de la esperanza y la desesperacin En el verano de 1956 en el Dartmouth College, diez cientficos comparten un inters en las redes neuronales, teora de autmatas, y el estudio de la inteligencia convocado para un taller de seis semanas. Este Proyecto de Verano Dartmouth es a menudo considerado como el canto del gallo de la inteligencia artificial como un campo de investigacin. Muchos de los participantes ms tarde sera reconocido como figuras de fundacin. La visin optimista entre los delegados se refleja en la propuesta presentada a la Fundacin Rockefeller, que proporcion los fondos para el evento:

Proponemos que un 2 meses, 10 estudio hombre de inteligencia artificial se llevar a cabo .... El estudio es proceder sobre la base de la conjetura de que todos los aspectos de aprendizaje o cualquier otra caracterstica de la inteligencia puede en principio ser tan describe precisamente que una mquina puede ser hecha para simular la misma. Se har un intento de encontrar la manera de hacer las mquinas que utilizan el lenguaje,

abstracciones y conceptos de forma, resolver tipos de problemas que ahora reservadas a los seres humanos, y mejorar a s mismos. Creemos que un avance significativo puede

hacerse en uno o ms de estos problemas si un grupo cuidadosamente seleccionado de cientficos trabajar en l juntos por un verano.

En las seis dcadas desde este inicio impetuoso, el campo de la inteligencia artificial ha pasado por perodos de bombo y las altas expectativas que se alternan con perodos de retroceso y la decepcin.

El primer perodo de excitacin, que comenz con la reunin de Dartmouth, fue descrito ms tarde por John McCarthy (principal organizador del evento) como "Mira,

mam, sin manos!" Era. Durante estos primeros das, los investigadores construyeron sistemas diseados para refutar las afirmaciones de la forma "Ninguna mquina jams podra hacer X ! "Tales afirmaciones escpticos eran comunes en la poca. Para contrarrestarlos, los investigadores de la IA crearon pequeos sistemas que alcanzaron X en un "micromundo" (un bien definido, dominio limitado que permiti una versin reducida de la actuacin que se demostr), lo que proporciona una prueba de concepto y

demostrar que X podra, en principio, debe hacerse por la mquina. Uno de estos sistemas temprano, el terico de la lgica, fue capaz de probar la mayor parte de los teoremas en el segundo captulo de Whitehead y Russell Principia Mathematica , E incluso se acerc con una prueba de que era mucho ms elegante que el original, desacreditando as la idea de que las mquinas podran "pensar slo numricamente" y que muestra que las mquinas tambin fueron capaces de hacer la deduccin y de inventar proofs.13 lgica Un seguimiento programa, el general Problem Solver, podra resolver, en principio, una amplia gama de programas problems.14 especificados formalmente que podran resolver problemas de clculo tpicos de los cursos universitarios de primer ao, los problemas de analoga visual del tipo que aparece en algunas pruebas de coeficiente intelectual, y simples verbal problemas de lgebra eran

tambin written.15 El robot Shakey (llamada as debido a su tendencia a temblar durante

la operacin) demostr cmo el razonamiento lgico podra ser integrado con la percepcin y la utiliza para planificar y controlar fsica activity.16 El programa ELIZA mostr como un equipo podra suplantar un psychotherapist.17 Rogerian A mediados de los aos setenta, el programa SHRDLU mostr cmo un brazo robtico simulado en un mundo simulado de bloques geomtricos podra seguir instrucciones y responder a las preguntas en Ingls que se escriben en por un user.18 En dcadas posteriores, sistemas hara se crean que demostraron que las mquinas podran componer msica en el estilo de diversos compositores clsicos, superar a los mdicos en formacin en ciertas tareas de diagnstico clnico, conducir coches de forma autnoma, y hacer patentable inventions.19

Incluso ha habido una IA que quebr jokes.20 original (no que su nivel de humor era alta "Qu se obtiene cuando se cruza un ptico con un objetos mentales ? Una ojo -dea "hijos -pero los informes, encontraron sus juegos de palabras constantemente

entretenido.) Los mtodos que produjeron xitos en los sistemas de demostracin tempranas a menudo

resultado difcil de extender a una mayor variedad de problemas o para casos de problemas ms difciles. Una razn para esto es la "explosin combinatoria" de

posibilidades que deben ser exploradas por los mtodos que se basan en algo as como bsqueda exhaustiva. Estos mtodos funcionan bien para los casos simples de un problema, pero fracasan cuando las cosas se ponen un poco ms complicado. Por

ejemplo, para probar un teorema que tiene una de 5 lneas de largo la prueba en un sistema de deduccin con una regla de inferencia y 5 axiomas, uno podra simplemente

enumerar las combinaciones posibles y comprobar 3,125 cada uno para ver si entrega la conclusin prevista. Bsqueda exhaustiva podra tambin trabajar para pruebas de 6 y 7 de la lnea. Pero a medida que la tarea se hace ms difcil, el mtodo de bsqueda exhaustiva pronto se mete en problemas. Demostrando un teorema con una prueba de 50 lneas no toma diez veces ms que demostrar un teorema que tiene una prueba de 5 lneas: ms bien, si uno utiliza bsqueda exhaustiva, se requiere peinado a travs de 550 8,9 1034 secuencias posibles -que es computacionalmente inviable incluso con los

superordenadores ms rpidos. Para superar la explosin combinatoria, hay algoritmos que explotan la estructura del dominio de destino y se aprovechan de los conocimientos previos mediante el uso de bsqueda heurstica, la planificacin y abstractas representaciones capacidades flexibles que estaban mal desarrollados en los primeros sistemas de IA. El rendimiento de estos primeros sistemas tambin sufri debido a los mtodos deficientes para el manejo de la incertidumbre, la dependencia de las representaciones quebradizos y sin conexin a tierra simblicos, la escasez de datos y limitaciones de hardware graves sobre la capacidad de la memoria y la velocidad del procesador. A mediados de la dcada de 1970, hubo una creciente toma de conciencia de estos problemas. La comprensin de que muchos proyectos de IA nunca podran hacer valer sus promesas iniciales condujo a la aparicin de la primera "invierno AI": un perodo de reduccin de personal, durante el cual los fondos disminuy y aument el escepticismo, y la IA se cay de la moda.

Una nueva primavera lleg a principios de 1980, cuando Japn lanz su Proyecto Quinta

Generacin Computer Systems, una asociacin pblico-privada bien financiado que pretenda dejar atrs el estado de la tcnica en el desarrollo de una arquitectura de computacin paralela masiva que servira como plataforma para la inteligencia artificial. Esto ocurri en la fascinacin pico con los japoneses "milagro econmico de la posguerra", un perodo en el que lderes gubernamentales y empresariales occidentales buscaban ansiosamente para adivinar la frmula del xito econmico de Japn en la esperanza de replicar la magia en casa. Cuando Japn decidi invertir grandes en AI, varios otros pases siguieron el ejemplo. Los aos siguientes vieron una gran proliferacin de sistemas expertos. Diseado

como herramientas de apoyo para los tomadores de decisiones, los sistemas expertos son programas basados en reglas que hicieron inferencias sencillas de una base de conocimiento de los hechos, que se haba obtenido de expertos en el dominio humano y cuidadosamente codificadas a mano en un lenguaje formal. Se construyeron cientos de estos sistemas expertos. Sin embargo, los sistemas ms pequeos siempre poco beneficio,

y los ms grandes resultaron caros de desarrollar, validar y mantener al da, y eran generalmente engorroso de usar. Era prctico para adquirir un equipo independiente por

el simple hecho de ejecutar un programa. A fines de 1980, esta temporada de crecimiento, tambin, haba seguido su curso.

El Proyecto Quinta Generacin no cumpli con sus objetivos, al igual que sus contrapartes en Estados Unidos y Europa. Un segundo invierno AI descendi. En este punto, un crtico justificadamente podra lamentar "la historia de la investigacin de la

inteligencia artificial hasta la fecha, que consiste siempre xito muy limitado en rea s particulares, seguido inmediatamente por el fracaso en alcanzar los objetivos ms amplios

en los que estos xitos iniciales parecen en un primer momento a insinuar." 21 Los inversores privados comenzaron a huir de cualquier empresa que lleva la marca de la "inteligencia artificial". Incluso entre los acadmicos y sus financiadores, "AI" se convirti en un epithet.22 no deseado El trabajo tcnico continu a buen ritmo, sin embargo, y por la dcada de 1990, el segundo invierno AI descongelarse gradualmente. El optimismo se reaviv por la

introduccin de nuevas tcnicas, que pareca ofrecer alternativas al paradigma logicista tradicional (a menudo referido como "buena inteligencia artificial pasado de moda", o "BAIA" para abreviar), que se haba centrado en la manipulacin de

smbolos de alto nivel y que haba alcanzado su apogeo en los sistemas expertos de la dcada de 1980. Las nuevas tcnicas pop ulares,

que incluan las redes neuronales y algoritmos genticos, se comprometieron a superar algunas de las deficiencias del enfoque BAIA, en

particular la "fragil idad" que caracteriza los programas de IA clsicas (que normalmente produce una completa tontera si los

programadores hicieron ni un solo l igeramente suposicin errnea). Las nuevas tcnicas se jact una actuacin ms orgnico. Por

ejemplo, las redes neuronales exhiben la propiedad de "degradacin elegante": una pequea cantidad de dao a una red neuronal

normalmente traducido en una pequea degradacin de su funcionamiento, en lugar de un accidente to tal. An ms importante, las

redes neuronales pueden aprender de la experiencia, la bsqueda de formas naturales de generalizar a partir de ejemplos y la

bsqueda de patrones estadsticos ocultos en su input.23 Esto hizo que las redes de buenas a problemas de reconocimiento de

patrones y clasificacin. Por ejemplo, mediante la formacin de una red neuronal en un conjunto de datos de las seales de so nar,

podra ser enseado a distinguir los perfi les acsticos de submarinos, minas y la vida marina con mayor precisin que los expertos

humanos, y esto se puede hacer sin que nadie tener que averiguar de antemano exactamente cmo las categoras deban ser defin ido o

cmo diferentes caractersticas deban ser ponderados.

Si bien se haban conocido los modelos de redes neuronales simples desde finales de 1950, el campo disfrut de un renacimiento despus de la introduccin del algoritmo backpropagation, lo que hizo posible entrenar redes neuronales multicapa. 24 Este tipo de redes de mltiples capas, que tienen uno o ms intermediarios ("ocultos") capas de neuronas entre las capas de entrada y de salida, pueden aprender una gama mucho ms amplia de funciones que sus predecessors.25 sencillas combinadas con los ordenadores cada vez ms potentes que se estaban convirtiendo disponibles, estas mejoras algortmicas permiti a los ingenieros para construir redes neuronales que eran lo suficientemente bueno como para ser til en muchas aplicaciones.

Las cualidades del cerebro como de las redes neuronales contrastados favorablemente con la lgica de cortar de manera rgida pero el rendimiento de los sistemas frgiles -suficientes BAIA basados en reglas tradicionales de modo de inspirar un nuevo "ismo" conexionismo

, Que hizo hincapi en la importancia de procesamiento sub-simblico paralelo masivo. Ms de 150.000 artculos acadmicos ya han sido publicados en las redes neuronales

artificiales, y seguir siendo un enfoque importante en el aprendizaje de la mquina. Los mtodos basados en la evolucin, tales como algoritmos genticos y programacin

gentica, constituyen otro enfoque cuyo surgimiento ayudado a poner fin a la segunda invierno AI. Hizo tal vez un impacto acadmico menor que las redes neuronales, pero fue ampliamente popularizado. En los modelos evolutivos, se mantiene una poblacin de

soluciones candidatas (que pueden ser estructuras o programas de datos), y las nuevas soluciones candidatas son generados aleatoriamente por mutacin o recombinacin de

variantes en la poblacin existente. Peridicamente, la poblacin se poda mediante la aplicacin de un criterio de seleccin (una funcin de aptitud) que permite que slo los mejores candidatos para sobrevivir en la prxima generacin. Repiten a lo largo de miles de generaciones, la calidad media de las soluciones en el grupo de candidatos aumenta gradualmente. Cuando funciona, este tipo de algoritmo puede producir soluciones eficientes a una amplia gama de problemas-soluciones que pueden ser sorprendentemente novedoso y poco intuitivo, a menudo buscan ms como estructuras

naturales que cualquier cosa que un ingeniero humano diseara. Y, en principio, esto puede ocurrir sin mucha necesidad de intervencin humana ms all de la especificacin inicial de la funcin de aptitud, que a menudo es muy simple. En la prctica, sin embargo, conseguir mtodos evolutivos de trabajar bien requiere habilidad e ingenio, sobre todo en la elaboracin de un buen formato de representacin. Sin una forma eficiente para codificar soluciones candidatos (un lenguaje gentico que coincid e con la estructura latente en el dominio de destino), la bsqueda de la evolucin tiende a deambular eternamente en un vasto espacio de bsqueda o quedar atrapado en un ptimo local. Incluso si se encuentra un buen formato de representacin, la evolucin es computacionalmente exigente ya menudo es derrotado por la explosin combinatoria. Las redes neuronales y algoritmos genticos son ejemplos de mtodos que estimulan el entusiasmo en la dcada de 1990 al aparecer para ofrecer alternativas al paradigma estancamiento BAIA. Pero la intencin aqu no es para cantar las alabanzas de estos dos

mtodos o para elevarlos por encima de las muchas otras tcnicas de aprendizaje

automtico. De hecho, uno de los principales desarrollos tericos de los ltimos veinte aos ha sido una comprensin ms clara de cmo superficialmente tcnicas dispares pueden ser entendidas como casos especiales dentro de un marco matemtico comn. Por ejemplo, muchos tipos de red neuronal artificial se pueden ver como clasificadores que realizan un tipo particular de clculo estadstico (estimacin de mxima verosimilitud).26 Esta perspectiva permite redes neuronales que deben compararse con una clase ms amplia de algoritmos para clasificadores de ejemplos- aprendizaje "rboles de decisin", "modelos de regresin logstica", "mquinas de vectores soporte", "ingenuo de Bayes", " k

-nearest-vecinos de regresin ", entre others.27 De una manera similar, los algoritmos genticos se pueden ver como realizar estocstico de escalada, que es de nuevo un subconjunto de una clase ms amplia de algoritmos para la optimizacin. Cada uno de estos algoritmos para la construccin de clasificadores o para la bsqueda de un espacio

de soluciones tiene su propio perfil de las fortalezas y debilidades que se pueden estudiar matemticamente. Los algoritmos difieren en sus requisitos de tiempo de procesador y

espacio de memoria, que los sesgos inductiva que presuponen, la facilidad con que externamente contenido producido se puede incorporar, y la transparencia de su

funcionamiento interno son un analista humano. Detrs del alarde publicitario de la mquina de aprendizaje y resolucin creativa de problemas tanto se encuentra un conjunto de compensaciones matemticamente bien

especificadas. Lo ideal es que el agente de bayesiano perfecto, uno que hace uso probabilsticamente ptimo de la informacin disponible. Este ideal es inalcanzable

porque est demasiado computacionalmente exigente para ser implementado en cualquier equipo fsico (vase el recuadro 1). En consecuencia, se puede ver la inteligencia artificial como una bsqueda para encontrar atajos: formas de tractably aproximar el ideal bayesiano sacrificando algunos optimalidad o generalidad preservando suficiente para conseguir un alto rendimiento en los dominios reales de inters. Un reflejo de esta imagen se puede ver en el trabajo realizado durante el ltimo par de dcadas en los modelos grficos probabilsticos, como las redes Bayesianas. Redes

bayesianas proporcionan una forma concisa de representar las relaciones de independencia probabilsticos y condicionales que tienen en algn dominio particular. (Explotacin de tales relaciones de independencia es esencial para la superacin de la explosin combinatoria, que es como un gran problema para la inferencia probabilstica como lo es para la deduccin lgica.) Tambin proporcionan informacin importante sobre el concepto de causalidad. 28 Una de las ventajas de relacionar los problemas de aprendizaje de los dominios especficos para el problema general de la inferencia bayesiana es que los nuevos algoritmos que hacen inferencia bayesiana ms eficiente entonces producir mejoras inmediatas a travs de muchas reas diferentes. Los avances en las tcnicas de aproximacin de Monte Carlo, por ejemplo, se aplican directamente en la visin artificial, la robtica, la gentica y computacionales. Otra ventaja es que permite a los investigadores de diferentes disciplinas piscina ms fcilmente sus resultados. Modelos

grficos y estadstica bayesiana se han convertido en un foco comn de investigacin en

muchos campos, incluyendo el aprendizaje de mquina, la fsica estadstica, la bioinformtica, la optimizacin combinatoria y teora de la comunicacin.35 Una buena cantidad de los recientes progresos en el aprendizaje de la mquina es el resultado de la incorporacin de los resultados formales originalmente derivados en otros campos acadmicos. (Aplicaciones de aprendizaje de mquina tambin se han beneficiado enormemente de las computadoras ms rpidas y mayor disponibilidad de grandes conjuntos de datos.) Recuadro 1 Un agente bayesiano ptimo

Un agente bayesiano perfecto comienza con una "distribucin de probabilidad antes", una funcin que asigna probabilidades a cada "mundo posible" (es decir, a cada forma especfica al mximo el mundo podra llegar a ser).29 Este antes incorpora un sesgo inductivo tal que los mundos ms simples posibles se asignan probabilidades ms altas. (Una forma de definir formalmente la simplicidad de un

mundo posible es en trminos de su "complejidad Kolmogorov," una medida basada en la longitud del programa ms corto de computadoras que genera una descripcin completa

del mundo.30) El anterior tambin incorpora cualquier fondo conocimiento de que los programadores quieren dar al agente.

Como el agente recibe nueva informacin de sus sensores, actualiza su distribucin de probabilidad por conditionalizing la distribucin de la nueva informacin de acuerdo con el teorema de Bayes. 31 Condicionalizacin es la operacin matemtica que establece el

nuevo probabilidad de esos mundos que son incompatibles con la informacin recibida a cero y normaliza la distribucin de probabilidad sobre los mundos posibles restantes. El

resultado es una "distribucin de probabilidad posterior" (que el agente puede usar como su nuevo antes en el siguiente paso del tiempo). A medida que el agente hace observaciones, su masa de probabilidad de este modo se concentr en el conjunto cada vez menor de los mundos posibles que permanecen consistentes con la evidencia; y entre estos mundos posibles, otras ms simples siempre tienen ms probabilidad. Metafricamente, podemos pensar en una probabilidad como la arena en una hoja grande de papel. El documento se divide en zonas de diferentes tamaos, cada rea

correspondiente a un mundo posible, con grandes reas que corresponden a mundos ms simples posibles. Imagnese tambin una capa de arena de incluso extensin de espesor en toda la hoja: esta es nuestra distribucin de probabilidad previa. Cada vez que una observacin se hace que descarte algunos mundos posibles, quitamos la arena de las reas correspondientes del papel y redistribuirlo de manera uniforme sobre las reas que quedan en juego. Por lo tanto, la cantidad total de la arena en la hoja nunca cambia, slo se concentra en menos reas como evidencia observacional acumula. Esta es una imagen de aprendizaje en su forma ms pura. (Para calcular la probabilidad de una hiptesis, Simplemente medir la cantidad de arena en todas las reas que corresponden a los mundos posibles en los que la hiptesis es verdadera.) Hasta el momento, hemos definido una regla de aprendizaje. Para conseguir un agente, tambin necesitamos una regla de decisin. Con este fin, dotamos al agente con una "funcin de utilidad", que asigna un nmero a cada mundo posible. El nmero representa

la conveniencia de que mundo segn preferencias bsicas del agente. Ahora, en cada paso

de tiempo, el agente selecciona la accin con la ms alta utilidad esperada. 32 (Para encontrar la accin con la ms alta utilidad esperada, el agente podra enumerar todas las acciones posibles. Se podra entonces calcular la distribucin de probabilidad condicional dada la accin de la distribucin de probabilidad que resultara de conditionalizing su distribucin de probabilidad actual en la observacin de que la accin tena acaba de ser tomada. Por ltimo, se podra calcular el valor esperado de la accin como la suma del valor de cada mundo posible multiplicado por la probabilidad condicional de que el mundo dado action.33) La regla de aprendizaje y la regla de

decisin en conjunto definen una "nocin ptimo" para un agente. (Esencialmente la misma nocin de optimalidad se ha utilizado ampliamente en la inteligencia artificial, la epistemologa, la filosofa de la ciencia, la economa, y las estadsticas. 34 ) En realidad, es imposible construir un agente tal porque es computacionalmente intratable para realizar los clculos necesarios. Cualquier intento de hacerlo sucumbe a

una explosin combinatoria como el descrito en nuestra discusin de la BAIA. Para ver por qu esto es as, considere un pequeo subconjunto de todos los mundos posibles: los que

constan de un solo monitor de ordenador flotando en un vaco sin fin. El monitor tiene 1, 000 1, 000 pxeles, cada uno de los cuales es perpetuamente encendido o apagado.

Incluso este subconjunto de los mundos posibles es enormemente grande: la 2 (1000 1000) posibles estados del monitor superan en nmero a todos los clculos previstos siempre que tenga lugar en el universo observable. Por lo tanto, no podamos ni siquiera

enumerar todos los mundos posibles en este pequeo subconjunto de todos los mundos posibles, y mucho menos realizar clculos ms elaborados en cada uno de ellos

individualmente. Nociones de optimalidad pueden ser de inters terico, incluso si son fsicamente irrealizable. Nos dan un estndar por el cual juzgar aproximaciones heursticas, ya veces podemos razonar sobre lo que un agente ptima hara en algn caso especial. Nos encontraremos con algunas nociones de optimalidad alternativas para agentes artificiales en el Captulo 12. Lo ltimo

La inteligencia artificial ya supera a la inteligencia humana en muchos dominios. Tabla 1 encuestas del estado de los equipos de juego de papeles, lo que demuestra que los IA ahora venci a los campeones humanos en una amplia gama de juegos.36 Estos logros no podran parecer impresionante hoy. Pero esto se debe a que nuestros estndares de lo que es impresionante torre adaptando a los avances que se realizan. Juego de ajedrez de expertos, por ejemplo, se pensaba para personificar la inteleccin humana. En opinin de varios expertos a finales de los aos cincuenta: "Si uno pudiera idear una mquina de ajedrez xito, uno parece haber penetrado en el ncleo d e la actividad intelectual humana."55 Esto ya no parece tan. Uno simpatiza con John McCarthy, quien se lament: ". Tan pronto como funciona, nadie lo llama AI nunca ms" 56 Tabla 1 Juego de papeles AI

Damas Sobrehumano Programa de damas de Arthur Samuel, escrito originalmente en 1952 y ms tarde mejorado (la versin 1955 incorpora el aprendizaje de mquina), se convierte en el primer programa para aprender a jugar un juego mejor que su creador. 37 En 1994, el programa de CHINOOK bate el campen reinante humana, marcando la primera vez que un programa gana un campeonato mundial oficial en un juego de habilidad. En 2002, Jonathan Schaeffer y su equipo "resolver" las damas, es decir, producir un programa que siempre hace el mejor movimiento posible (que combina la bsqueda alfa-beta con una base de datos de 39000000000000 posiciones de finales). Juego

perfecto por ambos lados conduce a una draw.38 Backgammon Sobrehumano 1979: El programa de backgammon BKG por Hans Berliner derrota el-campen primer programa informtico mundo para derrotar (en un partido de exhibicin) un campen del mundo en cualquier juego, aunque ms tarde Berliner atribuye la victoria a la suerte con las tiradas de dados.39

1992: El programa de backgammon TD-Gammon por Gerry Tesauro alcanza la

capacidad a nivel de campeonato, con diferencia temporal de aprendizaje (una forma de aprendizaje por refuerzo) y jugadas repetidas contra s mismo para mejorar. 40

En los aos transcurridos desde, programas de backgammon ahora han superado los mejores jugadores humanos.41 TCS viajeros Sobrehumana en colaboracin con humanos42 Tanto en 1981 y 1982, el programa de Douglas Lenat Eurisko gana el campeonato de Estados Unidos en TCS viajeros (un juego de guerra naval futurista), lo que provoc cambios en las reglas para bloquear sus estrategias poco ortodoxas. 43 Eurisko tenido heursticas para el diseo de su flota, y tambin tena la heurstica

para modificar sus heurstica. Othello Sobrehumano 1997: El programa Logistello gana cada juego en un partido de seis partidos contra el campen del mundo de Takeshi Murakami.44 Ajedrez Sobrehumano 1997: Deep Blue es mejor que el campen mundial de ajedrez, Garry Kasparov. Kasparov afirma haber visto destellos de inteligencia y creatividad cierto en algunos de los movimientos de la computadora.45 Desde entonces, los motores de ajedrez han seguido improve.46 Crucigramas Nivel Experto 1999: El programa Proverbio crucigrama para resolver el crucigrama supera a -solucionador media.47

2012: El programa Dr. Fill, creada por Matt Ginsberg, las puntuaciones en el cuartil

superior entre los concursantes de lo contrario humanos en la American Crucigrama Torneo. (Del Dr. Rellena rendimiento es irregular. Se completa perfectamente el rompecabezas tiene ms difcil por los seres humanos, sin embargo, est perplejo por un par de acertijos no estndar que implicaron la ortografa hacia atrs o escribir respuestas en diagonal.) 48 Escarbar Sobrehumano A partir de 2002, el software de Scrabble-juego supera a los mejores jugadores humanos.49 Puente Igual a la mejor Para el ao 2005, puente de contrato que juegan software alcanza

la paridad con los mejores jugadores de bridge humanos. 50 Jeopardy! Sobrehumano 2010: IBM Watson

derrota a los dos de todos los tiempos-ms humana Jeopardy! campeones, Ken Jennings y Brad Rutter.51 Jeopardy! es un programa de juegos por

televisin con preguntas de trivia sobre la historia, la literatura, los deportes, la geografa, la cultura pop, la ciencia y otros temas. Las preguntas se presentan en forma de pistas, ya

menudo implican juegos de palabras. Pker Variado Los jugadores de pquer de ordenador permanecen ligeramente por debajo de los mejores seres humanos para full-ring de Texas hold 'em pero desempearse a un nivel

sobrehumano en algunas variantes de pquer. 52 Carta blanca

Sobrehumano Heurstica evolucionaron mediante algoritmos genticos producen un solucionador para el juego de solitario FreeCell (que en su forma ms generalizada es NP-completo) que es capaz de vencer a los jugadores humanos de alto rango. 53 Ir Muy fuerte nivel amateur A partir de 2012, la serie Zen de los programas de go-

juego ha alcanzado el rango 6 dan en los juegos rpidos (el nivel de un jugador muy fuerte aficionado), utilizando Monte Carlo Bsqueda rbol y tcnicas de aprendizaje automtico.54 Ir-jugando programas han ido mejorando a un ritmo de alrededor de 1 daN / ao en los ltimos aos. Si esta tasa de mejora contina, podran vencer a la campeona del mundo humano en cerca de una dcada. Hay un sentido importante, sin embargo, en que ajedrecista AI result ser un triunfo menor de lo que muchos imaginaron que sera. Antes se supona, tal vez no sin razn, que para que un equipo a jugar al ajedrez a nivel de gran maestro, que tendra que estar dotado de un alto grado de general intelligence.57 Uno podra haber pensado, por ejemplo, el gran juego de ajedrez requiere ser capaz de aprender conceptos abstractos, pensar inteligentemente acerca de la

estrategia, redactar planes flexibles, hacer una amplia gama de deducciones lgicas

ingeniosos, y tal vez incluso modelar el pensamiento de un rival. No tan. Result ser posible construir un motor de ajedrez perfectamente bien en torno a un algorithm.58 para fines especiales Cuando se implementa en los procesadores rpidos que se hicieron disponibles hacia el final del siglo XX, que produce el juego muy fuerte. Pero una IA construido de esa manera es estrecha. Juega al ajedrez; que puede hacer no other.59 En otros dominios, soluciones han resultado ser ms complicada de lo previsto inicialmente, y el progreso ms lento. El cientfico de la computacin Donald Knuth fue golpeado que "AI ha ya tenido xito en hacer bsicamente todo lo que necesita" pensar ", pero ha dejado de hacer la mayor parte de lo que la gente

y los animales" sin thinking'-que, de alguna manera, es mucho ms difcil! "60 Analizar escenas visuales, reconocimiento de objetos, o controlar el comportamiento de un robot que interacta con un entorno natural ha demostrado ser un reto. Sin embargo, una buena cantidad de progreso se ha hecho y contina siendo hecha, ayudado por las constantes mejoras en el hardware. El sentido comn y la comprensin del lenguaje

natural tambin han resultado ser difcil. En la actualidad se piensa a menudo que el logro de una actuacin totalmente plano humano en estas tareas es un problema "AI-completo",

lo que significa que la dificultad de resolver estos problemas es esencialmente equivalente a la dificultad de la construccin en general mquinas inteligentes a nivel humano.61

En otras palabras, si alguien fueron para tener xito en la creacin de una IA que pudiera entender el lenguaje natural, as como un adulto humano, seran con toda probabilidad tambin o bien ya han logrado crear una IA que podra hacer todo lo dems que la

inteligencia humana puede hacer, o que seran sino una muy pequeo paso de un capability.62 tan general

Experiencia Chess-juego result ser alcanzable por medio de un algoritmo sorprendentemente simple. Es tentador especular que otras capacidades tales como la capacidad de razonamiento general, o alguna habilidad clave que participan en la programacin pueden asimismo ser alcanzable a travs de algn algoritmo sorprendentemente simple. El hecho de que el mejor rendimiento a la vez que se alcanza a travs de un complicado mecanismo no significa que no existe un mecanismo simple podra hacer el trabajo tan bien o mejor. Podra ser simplemente que nadie ha encontrado

la alternativa ms sencilla. El sistema de Ptolomeo (con la Tierra en el centro, en rbita por el Sol, la Luna, los planetas y las estrellas) represent al estado de la tcnica en la astronoma durante ms de mil aos, y su exactitud predictiva se ha mejorado durante siglos por complicando progresivamente el modelo aadiendo epiciclos sobre epiciclos a los movimientos celestes postuladas. Entonces todo el sistema fue derrocado por la teora heliocntrica de Coprnico, que era ms simple y, aunque slo despus de una mayor elaboracin por accurate.63 Kepler-ms predictiva Mtodos de inteligencia artificial se utilizan ahora en ms reas de lo que tendra sentido para revisar aqu, pero mencionando una muestra de ellos le dar una idea de la amplitud de las aplicaciones. Aparte del juego de IA aparece en la Tabla 1, hay audfonos con algoritmos que filtran el ruido ambiental; ruta buscadores que muestran mapas y ofrecen consejos de navegacin para los conductores; sistemas de recomendacin que sugieren libros y lbumes de msica basado en las compras y clasificaciones anteriores de un

usuario; y los sistemas de apoyo a las decisiones mdicas que ayudan a los mdicos a

diagnosticar el cncer de mama, recomiendan los planes de tratamiento, y la ayuda en la interpretacin de electrocardiogramas. Hay mascotas robticas y robots de limpieza, los robots de csped-siega, robots de rescate, robots quirrgicos, y ms de un milln de robots industriales. 64 La poblacin mundial de robots supera 10 million.65 Reconocimiento de voz moderna, basada en tcnicas estadsticas tales como los modelos ocultos de Markov, se ha convertido suficientemente exacta para el uso prctico (algunos fragmentos de este libro se redactaron con la ayuda de un programa de reconocimiento de voz). Asistentes digitales personales, tales como Siri de Apple, responden a comandos de voz y pueden responder a

preguntas sencillas y ejecutar comandos. Reconocimiento ptico de caracteres de texto manuscrito y mecanografiado se utiliza rutinariamente en aplicaciones como el correo de clasificacin y digitalizacin de documentos antiguos.66 Traduccin automtica sigue siendo imperfecto, pero es lo suficientemente bueno para muchas aplicaciones. Los primeros sistemas utilizan el enfoque BAIA de gramticas

de codificacin manual que tuvieron que ser desarrollada por lingistas calificados de cero para cada idioma. Los nuevos sistemas utilizan tcnicas de aprendizaje automtico

estadsticos que construyen automticamente modelos estadsticos de los patrones de uso observados. La mquina deduce los parmetros de estos modelos mediante el anlisis

de corpora bilinge. Este enfoque prescinde de los lingistas: los programadores que construyen estos sistemas necesitan ni siquiera hablar las lenguas con las que trabajan. 67 El reconocimiento facial ha mejorado lo suficiente en los ltimos aos que ahora

se utiliza en los pasos fronterizos automatizados en Europa y Australia. El Departamento de Estado de Estados Unidos opera un sistema de reconocimiento facial con ms de 75

millones de fotografas para la tramitacin de visados. Los sistemas de vigilancia utilizan tecnologas de minera de datos cada vez ms sofisticada IA y analizar de voz, vdeo o texto, grandes cantidades de las cuales estn rastreado desde los medios de comunicacin electrnicos en el mundo y se almacenan en centros de datos gigantes. Teorema-proving y la ecuacin de problemas son ahora tan bien establecidas que apenas se consideran como la IA ms. Solucionadores de ecuaciones se incluyen en los programas de computacin cientfica, tales como Mathematica. Mtodos de verificacin

formal, incluyendo demostradores de teoremas automatizadas, se utilizan de forma rutinaria por los fabricantes de chips para verificar el comportamiento de los diseos de circuitos antes de la produccin. Los establecimientos militares y de inteligencia de Estados Unidos han estado liderando el camino para el despliegue a gran escala de los robots de bombas, disponiendo de vigilancia y ataque aviones y otros vehculos no tripulados. Estos todava dependen principalmente de control remoto por los operadores humanos, pero se est trabajando para extender sus capacidades autnomas. Programacin inteligente es un rea importante de xito. La herramienta de DART para la planificacin logstica automatizada y la programacin se util iz en la Operacin Tormenta del Desierto en

1991 a tales efectos que DARPA (Agencia de Proyectos de Investigacin Avanzada de Defensa de los Estados Unidos) afirma que esta

sola aplicacin ms que pagado su inversin de treinta aos en la IA .68 Sistemas de reserva de avin utilizan sistemas de programacin y de precios sofisticados. Las empresas hacen un amplio uso de tcnicas de IA en los sistemas de control de

inventario. Tambin utilizan sistemas de reserva telefnica automticas y lneas de ayuda

relacionados con el software de reconocimiento de voz para marcar el comienzo de sus clientes a travs de desventurados laberintos de enclavamiento opciones del men. Tecnologas de IA subyacen muchos servicios de Internet. Software vigila el trfico de correo electrnico en el mundo, ya pesar de la adaptacin continua por los spammers para burlar las contramedidas que se les imputan, los filtros de spam bayesiano han logrado en gran medida para contener la marea de spam a raya. Software utilizando componentes de AI es responsable de aprobar o rechazar automticamente las transacciones de tarjetas de crdito, y un seguimiento continuo de la actividad de cuenta para detectar signos de uso fraudulento. Sistemas de recuperacin de informacin

tambin hacen un amplio uso de la mquina de aprendizaje. El motor de bsqueda de Google es, sin duda, el mayor sistema de inteligencia artificial que an se ha construido.

Ahora, hay que subrayar que la demarcacin entre la inteligencia artificial y el software en general no es agudo. Algunas de las aplicaciones mencionadas anteriormente podra ser visto ms como aplicaciones de software genricos en lugar de AI, en particular, aunque esto nos lleva de nuevo a la mxima de McCarthy que cuando algo funciona ya no se llama AI. Una distincin ms relevante para nuestros propsitos es que entre los sistemas que tienen un estrecho margen de capacidad cognitiva (llmense "AI" o no) y los sistemas que tienen ms en general la capacidad de resolucin de problemas aplicables. Esencialmente todos los sistemas actualmente en uso son del primer tipo: estrecho. Sin embargo, muchos de ellos contienen componentes que tambin podra desempear un

papel en el futuro inteligencia general artificial o estar al servicio de su desarrollo-componentes tales como clasificadores, algoritmos de bsqueda, los planificadores, los solucionadores, y los marcos de representacin. Uno de alto riesgo y entorno extremadamente competitivo en el que los sistemas

de IA operan hoy en da es el mercado financiero global. Los sistemas automatizados en acciones comerciales son ampliamente utilizados por las principales casas de inversin. Si

bien algunos de estos son simplemente formas de automatizar la ejecucin de determinados comprar o vender rdenes emitidas por un gestor de fondos humana, otros

persiguen estrategias comerciales complicadas que se adaptan a las condiciones cambiantes del mercado. Sistemas analticos utilizan una variedad de tcnicas de minera de datos y anlisis de series de tiempo para explorar en busca de patrones y tendencias en

los mercados de valores o para correlacionar los movimientos de precios histricos con variables externas tales como palabras clave en tickers de noticias. Proveedores de

noticias financieras venden paquetes de noticias que estn especialmente formateados para su uso por este tipo de programas de IA. Otros sistemas se especializan en la bsqueda de oportunidades de arbitraje dentro o entre los mercados, o en el comercio de alta frecuencia, que busca sacar provecho de los movimientos de precios minuto que se producen en el transcurso de milisegundos (una escala de tiempo en el que las latencias de comunicacin, incluso para la velocidad de la luz en seales pticas cable de fibra convertirse significativa, por lo que es ventajoso para localizar ordenadores cerca de la

central). Operadores de alta frecuencia algortmicos representan ms de la mitad de las acciones de renta variable negociados en mercados de Estados Unidos. 69 Comercio algortmico ha sido implicado en Flash Crash de 2010 (ver Cuadro 2). Recuadro 2 El flash crash de 2010

Por la tarde de mayo, 6, 2010, los mercados de acciones de Estados Unidos ya se redujeron un 4% por las preocupaciones sobre la crisis de la deuda europea. En 14:32, un gran vendedor (un complejo de fondos mutuos) inici un algoritmo de venta de disponer de un gran nmero de los E-mini S & P 500 contratos de futuros para ser vendido a un ritmo de venta vinculada a una medida de minuto-a- -Minuto liquidez en la bolsa. Estos contratos fueron comprados por comerciantes de alta frecuencia algortmicos, que fueron programados

para eliminar rpidamente sus posiciones largas temporales mediante la venta de los

contratos a otros comerciantes. Con la demanda de los compradores fundamentales tocado la barriga, la comerciantes algortmicos comenzaron a vender el E-Minis principalmente a otros operadores algortmicos, que a su vez les transmiten a los dems operadores algortmicos, creando un efecto "patata caliente" haciendo subir volumen esta negociacin se interpreta por el algoritmo de venta como un indicador de alta la liquidez, lo que llev a aumentar el ritmo al que se estaba poniendo contratos E-Mini en el mercado, empujando la espiral descendente. En algn momento, los operadores de alta frecuencia comenzaron

la retirada del mercado, secando la liquidez mientras que los precios siguieron cayendo. A las 2:45 de la tarde, la negociacin en el E-mini se detuvo por un interruptor automtico, funcionalidad lgica de parada de la central. Cuando se reinici el comercio, tan slo cinco segundos ms tarde, los precios se estabilizaron y pronto comenzaron a recuperar la mayor parte de las prdidas. Pero durante un tiempo, en el punto ms bajo de la crisis, un

billn de dlares se haban borrado del mercado, y los efectos secundarios se haban llevado a un nmero sustancial de las operaciones en valores individuales en ejecucin a

precios "absurdas", como un centavo o 100000 dlares. Despus del cierre del mercad o para el da, los representantes de las bolsas se reunieron con los reguladores y decidieron

romper todos los oficios que haban sido ejecutadas a precios 60% o ms lejos de sus niveles anteriores a la crisis (considerando este tipo de transacciones "claramente errnea" y por lo tanto sujetos a post facto

cancelacin bajo las reglas comerciales existentes) 0.70 El volver a contar aqu de este episodio es una digresin porque los programas

informticos que intervienen en el flash Crash no eran particularmente inteligente o sofisticado, y el tipo de amenaza que crean es fundamentalmente diferente de las preocupaciones nos recaudar ms adelante en este libro en relacin con la perspectiva de la mquina superinteligencia. Sin embargo, estos acontecimientos ilustran varias lecciones tiles. Uno de ellos es el recordatorio de que las interacciones entre los componentes de forma individual simples (como el algoritmo de venta y de los programas de negociacin algortmica de alta frecuencia) puede producir efectos complicados e inesperados. El

riesgo sistmico puede acumularse en un sistema de medida que se introducen nuevos elementos, los riesgos que no son evidentes hasta despus de que algo va mal (ya veces ni siquiera entonces). 71 Otra leccin es que los profesionales inteligentes pueden dar una instruccin a un programa basado en una suposicin razonable aparente y, normalmente, de sonido (por ejemplo, que el volumen de comercio es una buena medida de la liquidez del mercado), y que esto puede producir resultados catastrficos cuando el programa sigue actuando en la instruccin con frrea coherencia lgica, incluso en la situacin no prevista en la hiptesis resulta ser vlido. El algoritmo simplemente hace lo que hace; ya menos que se trata de un tipo muy especial de algoritmo, no importa que nos juntamos nuestras cabezas y jadeo de horror estupefacto a lo inapropiado absurdo de sus acciones. Este es un tema que nos encontraremos de nuevo. Una tercera observacin en relacin con el flash Crash es que mientras que la

automatizacin contribuy a la incidente, tambin contribuy a su resolucin. La lgica de

orden de suspensin pre-programada previamente, que suspendi el comercio cuando los precios se movieron demasiado fuera de control, se estableci para ejecutar automticamente porque se haba previsto correctamente que los eventos desencadenantes podran ocurrir en un plazo de tiempo demasiado rpido para que los humanos responden. La necesidad de seguridad pre-instalado y ejecutar automticamente la funcionalidad de oposicin a la dependencia de tiempo de ejecucin humana supervisin nuevo presagia un tema que ser importante en nuestra discusin de la mquina superinteligencia. 72 Las opiniones sobre el futuro de la inteligencia artificial

Progreso en dos grandes frentes hacia una ms slida base estadstica y teora de la informacin para la mquina de aprendizaje, por un lado, y hacia el xito prctico y comercial de varias aplicaciones de problemas especficos o de dominio especfico en el otro, se ha restaurado a la investigacin en IA algo de su prestigio perdido. Puede haber, sin embargo, ser una efecto cultural residual en la comunidad de la IA de su historia

anterior que hace que muchos investigadores principales renuentes a alinearse con el exceso de gran ambicin. As Nils Nilsson, uno de los veteranos en el campo, se queja de

que sus colegas de hoy en da carecen de la audacia de espritu que impuls a los pioneros de su propia generacin:

La preocupacin por la "respetabilidad" ha tenido, creo, un efecto embrutecedor en algunos investigadores de la IA. Los oigo decir cosas como, "AI sola ser criticado por su flossiness. Ahora que hemos hecho un progreso slido, no nos arriesgamos a perder

nuestra respetabilidad "Un resultado de este conservadurismo se ha aumentado la concentracin en" IA dbil ", la variedad dedicada a proporcionar ayudas a pensamiento y

humano de distancia de" IA fuerte ". - la variedad que los intentos de mecanizar inteligencia a nivel humano. 73 El sentimiento de Nilsson ha sido repetida por varios otros de los fundadores, entre ellos Marvin Minsky, John McCarthy, y Patrick Winston. 74 Los ltimos aos han visto un resurgimiento del inters en la IA, que an podra

extenderse a renovados esfuerzos hacia artificial general inteligencia (lo que llama Nilsson "IA fuerte"). Adems de hardware ms rpido, un proyecto contemporneo se beneficiara de los grandes avances que se han hecho en los muchos subcampos de AI, en ingeniera de software de manera ms general, y en los campos vecinos, como la neurociencia computacional. Un indicio de la demanda acumulada de la informacin y la educacin de calidad se muestra en la respuesta a la oferta gratuita en lnea de un curso de introduccin a la inteligencia artificial de l a Universidad de Stanford en el otoo de 2011, organizada por Sebastian Thrun y Peter Norvig. Algunos 160.000 estudiantes de todo el mundo firmaron desde la izquierda (y 23.000 completaron) 0.75 Opiniones de expertos sobre el futuro de la IA varan enormemente. Hay desacuerdo sobre escalas de tiempo, as como acerca de lo que constituye AI eventualmente podra tomar. Las predicciones sobre el futuro desarrollo de la inteligencia

artificial, un estudio reciente seal que "son tan seguros como lo son diversos."

76 Aunque la distribucin actual de la fe no se ha medido con mucho cuidado, podemos obtener una idea aproximada de diversas encuestas y observaciones informales ms pequeos. En particular, una serie de encuestas recientes han encuestados

miembros de varias comunidades de expertos pertinentes sobre la cuestin de cundo esperan que "la inteligencia artificial a nivel

humano" (HLMI) a desarrollar, que se define como "una que pueda llevar a cabo la mayora de las profesiones humanas, al menos , as

como un humano tpico ". 77 Los resultados se muestran en la Tabla 2. dio la siguiente (mediana) estiman La muestra combinada: 10% de probabilidad de HLMI en 2022, 50% de probabilidad para el 2040, y un 90% de probabilidades de 2075. (se les hizo a los encuestados que premisa de sus estimaciones en el supuesto que "la actividad cientfica humana contina sin

interrupcin importante negativo.") Estas cifras deben tomarse con algunos granos de sal: tamaos de muestra son bastante pequeas y no necesariamente representativos de la poblacin general de experto. Ellos son, sin embargo, en concordancia con los resultados de otras encuestas. 78 Los resultados de la encuesta tambin estn en lnea con algunas entrevistas publicadas

recientemente con aproximadamente dos docenas de investigadores en campos relacionados a Inteligencia Artificial. Por ejemplo, Nils Nilsson ha pasado una carrera larga

y productiva trabajando en problemas en la bsqueda, la planificacin, la representacin del conocimiento, y la robtica; es autor de los libros de texto en la inteligencia artificial; y

recientemente complet la historia ms completa del campo escrito hasta la fecha. 79 Cuando se le pregunt acerca de las fechas de llegada para HLMI, ofreci el siguiente

dictamen: 80 10% de probabilidad: 2030 50% de probabilidad: 2050 90% de probabilidad: 2100

Tabla 2 Cuando se alcanza la inteligencia artificial a nivel humano?81 A juzgar por las transcripciones de las entrevistas publicadas, distribucin de probabilidad del profesor Nilsson parece ser bastante representativa de muchos expertos en el rea, aunque de nuevo hay que destacar que existe una amplia difusin de la opinin: hay profesionales que son sustancialmente ms boosterish, con confianza esperando HLMI en

el rango de 2020 a 40, y otros que estn seguros de que o bien nunca va a suceder o que es indefinidamente lejos. 82 Adems, algunos de los entrevistados consideran que la nocin de un "nivel humano" de la inteligencia artificial es mal definido o engaosa, o por otras razones son reacios a dejar constancia con una prediccin cuantitativa. Mi propia opinin es que los nmeros reportados en la mediana de la encuesta de expertos no tienen masa de probabilidad suficiente en fechas posteriores de la llegada. Una probabilidad de 10% de HLMI no haber sido desarrollado por 2075 o incluso 2100 (despus conditionalizing en "actividad cientfica humana continua y sin interrupcin importante negativo") parece demasiado bajo. Histricamente, los investigadores de la IA no han tenido un fuerte rcord de ser capaz de predecir la velocidad de los avances en su propio campo o la forma que tales avances tomaran. Por una parte, algunas tareas, como el ajedrez de juego, resultaron ser alcanzable mediante programas sorprendentemente simples; y detractores que afirmaban

que las mquinas seran "nunca" ser capaz de hacer esto o aquello en repetidas ocasiones

se han equivocado. Por otro lado, los errores ms tpicos entre los practicantes han sido subestimar las dificultades de conseguir un sistema para llevar a cabo con firmeza en las tareas del mundo real, y para sobrestimar las ventajas de su propio proyecto personal o tcnica. La encuesta tambin pregunt a otras dos cuestiones de importancia para nuestra investigacin. Se inform de los encuestados acerca de cunto tiempo pensaban que se tardara en llegar superinteligencia asumiendo mquina-nivel humano se logra primero. Los resultados estn en la Tabla 3. Otra pregunta pregunt lo que pensaban sera el impacto general a largo plazo para la

humanidad de alcanzar la inteligencia artificial a nivel humano. Las respuestas se resumen en la figura 2. Mis propias opiniones nuevamente difieren un poco de las opiniones expresadas en la encuesta. Asigno una probabilidad ms alta de superinteligencia crendose relativamente pronto despus de la inteligencia artificial a nivel humano. Tambin tengo una perspectiva

ms polarizado sobre las consecuencias, pensando una muy buena o un muy mal resultado ser algo ms propensos que un resultado ms equilibrado. Las razones de

esto se aclararn ms adelante en el libro.

Tabla 3 Cunto tiempo desde el nivel humano a superinteligencia? Dentro de 2 aos despus de HLMI

Dentro de 30 aos despus de HLMI

TOP100 5% 50% Conjunto 10% 75% Figura 2 Impacto global a largo plazo de HLMI.83 Los tamaos pequeos de la muestra, los sesgos de seleccin, y -sobre todo- la falta de fiabilidad inherente de

opiniones personales provocaron quiere decir que no se debe leer demasiado en estas encuestas a expertos y entrevistas. Ellos no nos dejan sacar ninguna conclusin firme. Pero ellos apuntan a una conclusin dbil. Ellos sugieren que (al menos en lugar de mejores datos o anlisis) puede ser razonable para creer que la inteligencia de la mquina a nivel humano tiene una oportunidad bastante considerable de ser desarrollado a mediados de siglo, y que tiene la oportunidad no trivial de ser desarrollado considerablemente ms pronto o ms tarde; que podra tal vez muy pronto a partir de entonces como resultado superinteligencia; y que una amplia gama de resultados puede tener una posibilidad significativa de que ocurra, incluyendo muy buenos resultados y los resultados que son tan malos como la extincin humana.84 Por lo menos, sugieren que el tema merece una mirada ms cercana. CAPITULO 2 Caminos de superinteligencia

Las mquinas son actualmente muy inferiores a los humanos en la inteligencia

general. Sin embargo, un da (que hemos sugerido) sern superinteligente. Cmo podemos llegar desde aqu hasta all? Este captulo explora varios caminos tecnolgicos concebibles. Nos fijamos en la inteligencia artificial, la emulacin de todo el cerebro, la cognicin biolgica, y las interfaces hombre-mquina, as como redes y organizaciones. Evaluamos sus diferentes grados de plausibilidad como vas para superinteligencia. La existencia de mltiples caminos aumenta la probabilidad de que el destino se puede alcanzar a travs de al menos uno de ellos. Podemos definir tentativamente una superinteligencia como cualquier intelecto que supera en gran medida el rendimiento cognitivo de los seres humanos en

prcticamente todos los mbitos de inters0.1 Tendremos ms que decir sobre el concepto de superinteligencia en el prximo captulo, donde vamos a someterla a una especie de anlisis espectral para distinguir algunas diferentes formas posibles de superinteligencia. Pero por ahora, la caracterizacin aproximada acaba de dar suficiente. Tenga en cuenta que la definicin es evasivo acerca de cmo se implementa la

superinteligencia. Tambin es evasivo respecto qualia: si una superinteligencia tendra experiencia consciente subjetiva podra tener gran importancia para algunas preguntas

(en particular para algunas cuestiones morales), pero nuestro principal objetivo aqu es sobre los antecedentes causales y consecuencias de la superinteligencia, no en la

metafsica de la mind.2 El programa de ajedrez Deep Fritz no es una superinteligencia en esta definicin, ya que Fritz es slo es inteligente dentro del dominio estrecha de ajedrez. Ciertos tipos de superinteligencia de dominio especfico podran, sin embargo, ser

importante. Al referirse al desempeo superinteligente limitado a un dominio particular, vamos a notar explcitamente la restriccin. Por ejemplo, un "superinteligencia ingeniera"

sera un intelecto que supera ampliamente las mejores mentes humanas actuales en el campo de la ingeniera. A menos que se indique lo contrario, se utiliza el trmino para referirse a los sistemas que tienen un nivel sobrehumano de general inteligencia. Pero cmo podemos crear superinteligencia? Examinemos algunos caminos posibles. Inteligencia artificial Los lectores de este captulo no deben esperar un anteproyecto para la programacin de una inteligencia general artificial. No existe tal plan, sin embargo, por supuesto. Y si yo hubiera estado en posesin de un modelo tal, que con toda seguridad no

habra publicado en un libro. (Si las razones de esto no son inmediatamente evidentes, los argumentos en los captulos siguientes se hacen claras.) Podemos, sin embargo, discernir algunas de las caractersticas generales del tipo de sistema que se requerira. Ahora parece claro que la capacidad de aprender sera una caracterstica integral del diseo de la base de un sistema destinado a lograr la inteligencia general, no es algo que se insertan en adelante como una extensin o una ocurrencia tarda. Lo mismo ocurre con la capacidad de hacer frente eficazmente a la incertidumbre y la informacin probabilstica. Algunos profesores para extraer conceptos tiles a partir de los datos sensoriales y estados internos, y para el aprovechamiento de los conceptos adquiridos en representaciones combinatorias flexibles para su uso en el razonamiento lgico e intuitivo, tambin es probable que pertenecen entre las caractersticas de diseo de ncleo en una IA moderna destinadas a alcanzar la inteligencia general. Los primeros sistemas de Inteligencia Artificial buena pasada de moda no lo hicieron, en

su mayor parte, se centran en el aprendizaje, la incertidumbre, o la formacin de

conceptos, tal vez porque las tcnicas de tratar con estas dimensiones fueron poco desarrollada en el momento. Esto no quiere decir que las ideas subyacentes son tan novedoso. La idea de utilizar el aprendizaje como un medio de bootstrapping un sistema ms sencillo a la inteligencia de nivel humano se remonta al menos a la nocin de una "mquina de nio", que l escribi en 1950 de Alan Turing: En lugar de tratar de producir un programa para simular la mente adulta, por qu no ms bien tratar de producir uno que simula el nio? Si esto se somete entonces a un curso apropiado de la educacin se obtendra el cerebro adulto.3

Turing prevea un proceso iterativo para desarrollar una mquina tal nio: No podemos esperar encontrar una buena mquina nio en el primer intento. Hay que experimentar con la enseanza de uno de esos mquina y ver lo bien que aprende. Entonces se puede probar con otro y ver si es mejor o peor. Hay una conexin obvia entre

este proceso y la evolucin .... Uno puede Esperemos, sin embargo, que este proceso ser ms rpido que la