La cruzada de miles de millones de dólares de Elon Musk para detener la IA Apocalipsis

MOTIVO PROFETA Elon Musk, cofundador de Tesla y OpenAI, dentro de la parte de un cohete SpaceX Falcon 9, en Cabo Cañaveral, Florida, 2010.Fotografía de Jonas Fredwall Karlsson.

I. Corriendo Amok

Fue solo una pequeña discusión amistosa sobre el destino de la humanidad. Demis Hassabis, uno de los principales creadores de inteligencia artificial avanzada, estaba charlando con Elon Musk, uno de los principales agoreros, sobre los peligros de la inteligencia artificial.

Son dos de los hombres más importantes e intrigantes de Silicon Valley que no viven allí. Hassabis, cofundador del misterioso laboratorio londinense DeepMind, había llegado a la fábrica de cohetes SpaceX de Musk, en las afueras de Los Ángeles, hace unos años. Estaban en la cantina, hablando, mientras una enorme pieza de cohete atravesaba el cielo. Musk explicó que su objetivo final en SpaceX era el proyecto más importante del mundo: la colonización interplanetaria.



Hassabis respondió que, de hecho, él estaba trabajando en el proyecto más importante del mundo: el desarrollo de superinteligencia artificial. Musk respondió que esta era una de las razones por las que necesitábamos colonizar Marte, para que tengamos un agujero si A.I. se vuelve pícaro y se vuelve contra la humanidad. Divertido, Hassabis dijo que A.I. simplemente seguiría a los humanos a Marte.

Esto no hizo nada para calmar la ansiedad de Musk (a pesar de que dice que hay escenarios en los que la inteligencia artificial no seguiría).

Hassabis, un hombre de 40 años modesto pero competitivo, es considerado el Merlín que probablemente ayudará a conjurar nuestra inteligencia artificial. niños. El campo de A.I. se está desarrollando rápidamente, pero todavía está lejos del poderoso software en evolución que acecha a Musk. Facebook usa A.I. para publicidad dirigida, etiquetado de fotografías y feeds de noticias seleccionados. Microsoft y Apple usan A.I. para alimentar a sus asistentes digitales, Cortana y Siri. El motor de búsqueda de Google desde el principio ha dependido de A.I. Todos estos pequeños avances son parte de la búsqueda para eventualmente crear una IA flexible y autodidacta. que reflejará el aprendizaje humano.

SIN SUPERVISIÓN, MUSK CREE, A.I. PODRÍA SER UNA AMENAZA EXISTENCIAL: ESTAMOS CONVOCANDO AL DEMONIO.

Algunos en Silicon Valley se sintieron intrigados al saber que Hassabis, un hábil jugador de ajedrez y ex diseñador de videojuegos, una vez se le ocurrió un juego llamado Genio malvado , con un científico malévolo que crea un dispositivo apocalíptico para lograr la dominación mundial. Peter Thiel, el multimillonario capitalista de riesgo y asesor de Donald Trump que cofundó PayPal con Musk y otros, y que en diciembre ayudó a reunir titanes escépticos de Silicon Valley, incluido Musk, para una reunión con el presidente electo, me contó una historia sobre un inversor en DeepMind que bromeó al salir de una reunión diciendo que debería disparar a Hassabis en el acto, porque era la última oportunidad para salvar a la raza humana.

Elon Musk comenzó a advertir sobre la posibilidad de A.I. corriendo fuera de control hace tres años. Probablemente no lo había tranquilizado cuando uno de los socios de Hassabis en DeepMind, Shane Legg, declaró rotundamente: Creo que probablemente ocurrirá la extinción humana, y la tecnología probablemente jugará un papel en esto.

Antes de que DeepMind fuera devorado por Google, en 2014, como parte de su A.I. juerga de compras, Musk había sido un inversor en la empresa. Me dijo que su participación no se trataba de un retorno de su dinero, sino de vigilar con cautela el arco de la IA: me dio más visibilidad sobre la velocidad a la que las cosas estaban mejorando, y creo que realmente están mejorando en un ritmo acelerado, mucho más rápido de lo que la gente cree. Sobre todo porque en la vida cotidiana no se ven robots caminando. Quizás tu Roomba o algo así. Pero Roombas no se va a apoderar del mundo.

En un sorprendente reproche público a sus amigos y compañeros de tecnología, Musk advirtió que podrían estar creando los medios de su propia destrucción. Le dijo a Ashlee Vance de Bloomberg, el autor de la biografía Elon Musk , que temía que su amigo Larry Page, cofundador de Google y ahora C.E.O. de su empresa matriz, Alphabet, podría tener perfectamente buenas intenciones pero aun así producir algo maligno por accidente, incluida, posiblemente, una flota de robots mejorados con inteligencia artificial capaces de destruir a la humanidad.

Elon Musk en el V.F. Cumbre: la inteligencia artificial podría acabar con la humanidad

En la Cumbre del Gobierno Mundial en Dubai, en febrero, Musk volvió a tocar la temible música de órgano, evocando las tramas de las historias de terror clásicas cuando señaló que a veces lo que sucederá es que un científico se quedará tan absorto en su trabajo que en realidad no es así. darse cuenta de las ramificaciones de lo que están haciendo. Dijo que la forma de escapar de la obsolescencia humana, al final, puede ser mediante algún tipo de fusión de inteligencia biológica e inteligencia de máquina. Esta fusión mental de Vulcano podría involucrar algo llamado cordón neural, una malla inyectable que literalmente conectaría su cerebro para comunicarse directamente con las computadoras. Ya somos cyborgs, me dijo Musk en febrero. Su teléfono y su computadora son extensiones de usted, pero la interfaz es a través de los movimientos de los dedos o el habla, que son muy lentos. Con un cordón neuronal dentro de su cráneo, enviaría datos de su cerebro, de forma inalámbrica, a sus dispositivos digitales o a una potencia informática prácticamente ilimitada en la nube. Para una interfaz significativa de cerebro parcial, creo que estamos a unos cuatro o cinco años de distancia.

Las alarmantes opiniones de Musk sobre los peligros de la I.A. se volvió viral por primera vez después de hablar en M.I.T. en 2014, especulando (antes de Trump) que A.I. fue probablemente la mayor amenaza existencial de la humanidad. Añadió que estaba cada vez más inclinado a pensar que debería haber alguna supervisión regulatoria nacional o internacional, un anatema para Silicon Valley, para asegurarse de que no hagamos algo muy tonto. Continuó: Con inteligencia artificial, estamos convocando al demonio. ¿Conoces todas esas historias en las que está el tipo con el pentagrama y el agua bendita y dice, sí, está seguro de que puede controlar al demonio? No funciona. Algunos A.I. Los ingenieros encontraron la teatralidad de Musk tan absurdamente divertida que empezaron a hacer eco de ella. Cuando regresaban al laboratorio después de un descanso, decían: OK, volvamos al trabajo de convocatoria.

Musk no se reía. La cruzada de Elon (como la llama uno de sus amigos y compañeros importantes de la tecnología) contra la IA sin restricciones. había empezado.

II. Yo soy el alfa

Elon Musk sonrió cuando le mencioné que parece una especie de héroe de Ayn Rand-ian. Eso ya lo he oído antes, dijo con su ligero acento sudafricano. Obviamente, tiene un conjunto de puntos de vista bastante extremo, pero tiene algunos puntos buenos allí.

Pero Ayn ​​Rand volvería a escribir sobre Elon Musk. Ella le pondría los ojos grises y su rostro más demacrado. Ella modificaría su comportamiento público para que fuera menos gracioso, y no toleraría su risa tonta. Sin duda se desharía de todas sus tonterías sobre el bien colectivo. Encontraría gran material en la complicada vida personal del hombre de 45 años: su primera esposa, la escritora de fantasía Justine Musk, y sus cinco hijos (un par de gemelos, uno de trillizos), y su segunda esposa mucho más joven, la británica. la actriz Talulah Riley, que interpretó a la aburrida hermana Bennet en la versión de Keira Knightley de orgullo y prejuicio . Riley y Musk se casaron, se divorciaron y luego se volvieron a casar. Ahora están divorciados nuevamente. El otoño pasado, Musk tuiteó que Talulah hace un gran trabajo interpretando a un robot sexual mortal en HBO Westworld , agregando un emoticón de cara sonriente. Es difícil para las simples mujeres mortales mantener una relación con alguien tan obsesionado con el trabajo como Musk.

¿Cuánto tiempo quiere una mujer a la semana? le preguntó a Ashlee Vance. ¿Quizás diez horas? ¿Eso es el mínimo?

Sobre todo, Rand saborearía a Musk, un industrial hiperlógico y amante del riesgo. Le gustan las fiestas de disfraces, los paseos por las alas y las extravagancias japonesas del steampunk. Robert Downey Jr.utilizó a Musk como modelo para Iron Man. Marc Mathieu, el director de marketing de Samsung USA, que ha ido a pescar con mosca en Islandia con Musk, lo llama un cruce entre Steve Jobs y Jules Verne. Mientras bailaban en la recepción de su boda, Justine recordó más tarde, Musk le informó: soy el alfa en esta relación.

Fotografías de Anders Lindén / Agent Bauer (Tegmark); por Jeff Chiu / A.P. Imágenes (Page, Wozniak); por Simon Dawson / Bloomberg (Hassabis), Michael Gottschalk / Photothek (Gates), Niklas Halle'n / AFP (Hawking), Saul Loeb / AFP (Thiel), Juan Mabromata / AFP (Russell), David Paul Morris / Bloomberg (Altman ), Tom Pilston / The Washington Post (Bostrom), David Ramos (Zuckerberg), todos de Getty Images; por Frederic Neema / Polaris / Newscom (Kurzwell); por Denis Allard / Agence Réa / Redux (LeCun); Ariel Zambelich / Wired (Ng); © Bobby Yip / Reuters / Zuma Press (Musk).

En un universo tecnológico lleno de tipos delgados con sudaderas con capucha, que preparan bots que conversarán contigo y aplicaciones que pueden estudiar una foto de un perro y decirte de qué raza es, Musk es un retroceso a Henry Ford y Hank Rearden. En La rebelión de Atlas , Rearden le da a su esposa un brazalete hecho con el primer lote de su revolucionario metal, como si estuviera hecho de diamantes. Musk tiene un trozo de uno de sus cohetes montado en la pared de su casa de Bel Air, como una obra de arte.

Musk dispara a la luna, literalmente. Lanza cohetes rentables al espacio y espera eventualmente habitar el Planeta Rojo. En febrero, anunció planes para enviar a dos turistas espaciales en un vuelo alrededor de la luna el próximo año. Crea elegantes baterías que podrían conducir a un mundo alimentado por energía solar barata. Forja acero reluciente en sensuales autos eléctricos Tesla con líneas tan elegantes que incluso el quisquilloso Steve Jobs habría tenido dificultades para encontrar fallas. Quiere ahorrar tiempo y también humanidad: soñó el Hyperloop, un tren bala electromagnético en un tubo, que algún día podría hacer que los viajeros entre Los Ángeles y San Francisco se desplazaran a 700 millas por hora. Cuando Musk visitó al secretario de defensa Ashton Carter el verano pasado, tuiteó maliciosamente que estaba en el Pentágono para hablar sobre el diseño de un traje de metal volador al estilo Tony Stark. Sentado en el tráfico en Los Ángeles en diciembre, aburrido y frustrado, tuiteó sobre la creación de Boring Company para cavar túneles debajo de la ciudad y rescatar a la población del tráfico que destruye el alma. En enero, según Bloomberg Businessweek , Musk había asignado a un ingeniero senior de SpaceX para supervisar el plan y había comenzado a cavar su primer hoyo de prueba. Sus esfuerzos a veces quijotescos para salvar el mundo han inspirado una cuenta de Twitter parodia, Bored Elon Musk, donde un falso Musk lanza ideas extravagantes como las comas Oxford como servicio y racimos de plátanos modificados genéticamente para que maduren uno a la vez.

Por supuesto, los grandes soñadores tienen grandes tropiezos. Algunos cohetes SpaceX explotaron y, en mayo pasado, un conductor murió en un Tesla autónomo cuyos sensores no notaron que el camión con remolque se cruzaba en su camino. (Una investigación realizada por la Administración Nacional de Seguridad del Tráfico en las Carreteras descubrió que el sistema de piloto automático de Tesla no era el culpable).

Musk es estoico sobre los contratiempos, pero demasiado consciente de los escenarios de pesadilla. Sus puntos de vista reflejan un dicho de La rebelión de Atlas: El hombre tiene el poder de actuar como su propio destructor, y así ha actuado a lo largo de la mayor parte de su historia. Como me dijo, somos la primera especie capaz de autoaniquilarse.

Aquí está el pensamiento persistente del que no puede escapar mientras conduce de una caja de vidrio a otra en Silicon Valley: a los Señores de la Nube les encanta hablar sobre convertir el mundo en un lugar mejor mientras producen nuevos algoritmos, aplicaciones e invenciones. que, se afirma, hará nuestras vidas más fáciles, saludables, divertidas, cercanas, frescas, más largas y más amables con el planeta. Y, sin embargo, hay una sensación espeluznante debajo de todo esto, la sensación de que somos los ratones en sus experimentos, que nos consideran a los humanos como Betamaxes u ocho pistas, tecnología antigua que pronto se descartará para que puedan comenzar a disfrutar de su nuevo mundo elegante. Mucha gente ha aceptado este futuro: viviremos hasta los 150 años, pero tendremos señores de las máquinas.

VIDEO: Elon Musk realiza múltiples tareas mejor que tú

Quizás ya tenemos señores supremos. Como Musk dijo astutamente en la Conferencia anual de códigos de Recode el año pasado en Rancho Palos Verdes, California, ya podríamos ser juguetes en un mundo de realidad simulada dirigido por una civilización avanzada. Según se informa, dos multimillonarios de Silicon Valley están trabajando en un algoritmo para sacarnos de Matrix.

Entre los ingenieros atraídos por la dulzura de resolver el próximo problema, la actitud predominante es que los imperios caen, las sociedades cambian y estamos marchando hacia la inevitable fase que tenemos por delante. No discuten sobre si, sino sobre qué tan cerca estamos de replicarnos y mejorarnos a nosotros mismos. Sam Altman, el presidente de 31 años de Y Combinator, el principal acelerador de empresas emergentes del Valle, cree que la humanidad está al borde de tal invención.

La parte difícil de pararse en una curva exponencial es: cuando miras hacia atrás, se ve plano, y cuando miras hacia adelante, se ve vertical, me dijo. Y es muy difícil calibrar cuánto te mueves porque siempre luce igual.

Uno pensaría que cada vez que Musk, Stephen Hawking y Bill Gates están dando la misma advertencia sobre la inteligencia artificial, como todos ellos, sería un incendio de 10 alarmas. Pero, durante mucho tiempo, la niebla del fatalismo sobre el Área de la Bahía fue espesa. La cruzada de Musk fue vista como sísifo en el mejor de los casos y ludita en el peor. La paradoja es la siguiente: muchos oligarcas tecnológicos ven todo lo que están haciendo para ayudarnos, y todos sus manifiestos benévolos, como farolas en el camino hacia un futuro en el que, como dice Steve Wozniak, los humanos son las mascotas de la familia.

Pero Musk no va con calma. Planea luchar contra esto con cada fibra de su ser basado en el carbono. Musk y Altman han fundado OpenAI, una empresa sin fines de lucro de miles de millones de dólares, para trabajar por una inteligencia artificial más segura. Me senté con los dos hombres cuando su nueva empresa solo tenía un puñado de ingenieros jóvenes y una oficina improvisada, un apartamento en el distrito Mission de San Francisco que pertenece a Greg Brockman, cofundador y director de tecnología de OpenAI de 28 años. Cuando volví recientemente, para hablar con Brockman e Ilya Sutskever, el director de investigación de 30 años de la compañía (y también cofundador), OpenAI se había mudado a una oficina espaciosa cercana con un robot, el complemento habitual de bocadillos, y 50 empleados a tiempo completo. (Otros 10 a 30 están en camino).

Altman, con camiseta gris y jeans, es todo nervudo, de intensidad pálida. El fervor de Musk está enmascarado por sus modales tímidos y su rostro sonrosado. Sus ojos son verdes o azules, dependiendo de la luz, y sus labios son de un rojo ciruela. Tiene un aura de mando mientras conserva un rastro del desgarbado y solitario adolescente sudafricano que emigró a Canadá solo a la edad de 17 años.

En Silicon Valley, una reunión a la hora del almuerzo no implica necesariamente ese combustible mundano conocido como comida. Los programadores más jóvenes están demasiado absortos en algoritmos como para demorarse en las comidas. Algunos simplemente tragan a Soylent. Los mayores están tan obsesionados con la inmortalidad que a veces solo toman pastillas para la salud con leche de almendras.

A primera vista, OpenAI parecía un proyecto de vanidad de peso gallo, un grupo de niños inteligentes en un apartamento sin ascensor asumiendo los esfuerzos multimillonarios de Google, Facebook y otras empresas que emplean la inteligencia artificial líder en el mundo. expertos. Pero claro, interpretar a un adinerado David para Goliat es la especialidad de Musk, y siempre lo hace con estilo y algo de sensacionalismo útil.

Deje que otros en Silicon Valley se concentren en su I.P.O. precio y librar a San Francisco de lo que ellos consideran una población sin hogar antiestética. Musk tiene objetivos más amplios, como acabar con el calentamiento global y morir en Marte (pero no, dice, por el impacto).

Musk comenzó a ver el destino del hombre en la galaxia como su obligación personal hace tres décadas, cuando de adolescente tuvo una crisis existencial en toda regla. Musk me dijo eso La Guía del autoestopista galáctico , de Douglas Adams, fue un punto de inflexión para él. El libro trata sobre extraterrestres que destruyen la tierra para dar paso a una autopista hiperespacial y presenta a Marvin el Android Paranoico y una supercomputadora diseñada para responder a todos los misterios del universo. (Musk deslizó al menos una referencia al libro en el software del Tesla Model S.) Cuando era adolescente, escribe Vance en su biografía, Musk formuló una declaración de misión para sí mismo: lo único que tiene sentido es esforzarse por lograr más iluminación colectiva.

OpenAI se puso en marcha con un mandato vago, lo cual no es sorprendente, dado que la gente en el campo todavía está discutiendo sobre qué forma de A.I. tomará, qué podrá hacer y qué se puede hacer al respecto. Hasta ahora, la política pública sobre A.I. es extrañamente indeterminado y el software no está regulado en gran medida. La Administración Federal de Aviación supervisa los drones, la Comisión de Bolsa y Valores supervisa el comercio financiero automatizado y el Departamento de Transporte ha comenzado a supervisar los vehículos autónomos.

Musk cree que es mejor intentar conseguir una super-IA. primero y distribuir la tecnología al mundo que permitir que los algoritmos se oculten y concentren en manos de las élites tecnológicas o gubernamentales, incluso cuando las élites tecnológicas son sus propios amigos, personas como los fundadores de Google, Larry Page y Sergey Brin. He tenido muchas conversaciones con Larry sobre A.I. y robótica, muchos, muchos, me dijo Musk. Y algunos de ellos se han calentado bastante. Sabes, creo que no es solo Larry, sino que hay muchos futuristas que sienten cierta inevitabilidad o fatalismo acerca de los robots, donde tendríamos algún tipo de rol periférico. La frase utilizada es 'Somos el cargador de arranque biológico para la superinteligencia digital' (un cargador de arranque es el pequeño programa que inicia el sistema operativo cuando enciende su computadora por primera vez). La materia no se puede organizar en un chip. , Explicó Musk. Pero puede organizarse en una entidad biológica que se vuelve cada vez más sofisticada y, en última instancia, puede crear el chip.

Musk no tiene la intención de ser un cargador de arranque. Page y Brin se ven a sí mismos como fuerzas para el bien, pero Musk dice que el problema va mucho más allá de las motivaciones de un puñado de ejecutivos de Silicon Valley.

Es genial cuando el emperador es Marco Aurelio, dice. No es tan bueno cuando el emperador es Calígula.

III. El becerro de oro

Después de la llamada A.I. invierno: el amplio fracaso comercial a finales de los 80 de una de las primeras A.I. tecnología que no estaba a la altura: la inteligencia artificial se ganó la reputación de ser aceite de serpiente. Ahora vuelve a estar de moda en esta era go-go en el Valle. Greg Brockman, de OpenAI, cree que la próxima década se centrará en la inteligencia artificial, y que todos arrojen dinero al pequeño número de magos que conocen la inteligencia artificial. encantamientos. Los tipos que se enriquecieron escribiendo código para resolver problemas banales como pagarle a un extraño por cosas en línea ahora contemplan un mundo vertiginoso en el que son los creadores de una nueva realidad y quizás una nueva especie.

Jaron Lanier de Microsoft, el científico informático con rastas conocido como el padre de la realidad virtual, me dio su opinión sobre por qué los digerati encuentran la fantasía de ciencia ficción de A.I. tan tentadora: es decir, 'Oh, ustedes, gente de tecnología digital, son como dioses; estás creando vida; estás transformando la realidad '. Hay un tremendo narcisismo en el hecho de que somos las personas que podemos hacerlo. Nadie más. El Papa no puede hacerlo. El presidente no puede hacerlo. Nadie más puede hacerlo. Somos los maestros en ello. . . . El software que estamos construyendo es nuestra inmortalidad. Este tipo de ambición divina no es nueva, agrega. Lo leí una vez en una historia sobre un becerro de oro. Sacudió la cabeza. No se drogue con su propio suministro, ¿sabe?

Google ha devorado casi todas las empresas interesantes de robótica y aprendizaje automático en los últimos años. Compró DeepMind por $ 650 millones, supuestamente superando a Facebook, y creó el equipo de Google Brain para trabajar en A.I. Contrató a Geoffrey Hinton, un pionero británico en redes neuronales artificiales; y Ray Kurzweil, el excéntrico futurista que ha predicho que estamos a solo 28 años de la singularidad del Rapto, el momento en que las capacidades en espiral de la superinteligencia artificial auto-mejorable superarán con creces la inteligencia humana, y los seres humanos se fusionarán con AI para crear los seres híbridos divinos del futuro.

Está en la sangre de Larry Page y en el ADN de Google creer que la inteligencia artificial es el destino inevitable de la empresa; piense en ese destino como quiera. (Si la IA malvada se enciende, me dijo Ashlee Vance, se encenderá primero en Google). Si Google pudiera lograr que las computadoras dominaran la búsqueda cuando la búsqueda era el problema más importante del mundo, entonces presumiblemente puede lograr que las computadoras hagan todo lo demás. . En marzo del año pasado, Silicon Valley tragó saliva cuando un legendario jugador surcoreano del juego de mesa más complejo del mundo, Go, fue derrotado en Seúl por AlphaGo de DeepMind. Hassabis, quien ha dicho que está ejecutando un programa Apollo para A.I., lo calificó como un momento histórico y admitió que incluso a él le sorprendió que sucediera tan rápido. Siempre he esperado que A.I. podría ayudarnos a descubrir ideas completamente nuevas en dominios científicos complejos, me dijo Hassabis en febrero. Este podría ser uno de los primeros destellos de ese tipo de creatividad. Más recientemente, AlphaGo jugó 60 juegos en línea contra los mejores jugadores de Go en China, Japón y Corea, y emergió con un récord de 60-0. En enero, en otro shock para el sistema, un A.I. programa demostró que podía fanfarronear. Libratus, construido por dos investigadores de Carnegie Mellon, pudo aplastar a los mejores jugadores de póquer en Texas Hold ‘Em.

Peter Thiel me habló de un amigo suyo que dice que la única razón por la que la gente tolera Silicon Valley es que nadie parece tener sexo ni diversión. Pero hay informes de robots sexuales en camino que vienen con aplicaciones que pueden controlar su estado de ánimo e incluso tener pulso. The Valley está asustado cuando se trata de robots sexuales femeninos, una obsesión en Japón, debido a su cultura notoriamente dominada por los hombres y sus temas muy publicitados con el acoso sexual y la discriminación. Pero cuando le pregunté a Musk sobre esto, respondió con total naturalidad: ¿Robots sexuales? Creo que esos son bastante probables.

VIDEO: Zonas de amortiguamiento de Silicon Valley

Ya sea una movida de P.R. sincera o astuta, Hassabis convirtió en una condición de la adquisición de Google que Google y DeepMind establezcan una I.A. conjunta. junta de ética. En ese momento, hace tres años, la formación de una junta de ética se consideraba un movimiento precoz, como para dar a entender que Hassabis estaba a punto de lograr una verdadera I.A. Ahora no tanto. En junio pasado, un investigador de DeepMind fue coautor de un artículo que describe una forma de diseñar un gran botón rojo que podría usarse como un interruptor de apagado para detener la inteligencia artificial. de infligir daño.

Los ejecutivos de Google dicen que la opinión de Larry Page sobre la inteligencia artificial está formado por su frustración acerca de cuántos sistemas son subóptimos, desde sistemas que reservan viajes hasta sistemas que ponen precio a las cosechas. Él cree que A.I. mejorará la vida de las personas y ha dicho que, cuando las necesidades humanas se satisfagan más fácilmente, las personas tendrán más tiempo con su familia o para perseguir sus propios intereses. Especialmente cuando un robot los deja sin trabajo.

Musk es amigo de Page. Asistió a la boda de Page y, a veces, se queda en su casa cuando está en el área de San Francisco. No vale la pena tener una casa una o dos noches a la semana, me explicó el 99º hombre más rico del mundo. En ocasiones, Musk ha expresado su preocupación de que Page pueda ser ingenuo sobre cómo A.I. podría jugar. Si Page se inclina por la filosofía de que las máquinas son tan buenas o malas como las personas que las crean, Musk no está de acuerdo. Algunos en Google —quizás molestos porque Musk, en esencia, les está señalando con el dedo por apresurarse a querer o no— descartan su toma distópica como un cliché cinematográfico. Eric Schmidt, presidente ejecutivo de la empresa matriz de Google, lo expresó de esta manera: los robots se inventan. Los países los arman. Un dictador malvado convierte a los robots en humanos, y todos los humanos serán asesinados. Me suena a película.

Algunos en Silicon Valley argumentan que Musk está menos interesado en salvar el mundo que en pulir su marca, y que está explotando un conflicto profundamente arraigado: el que existe entre el hombre y la máquina, y nuestro temor de que la creación se vuelva contra nosotros. Se quejan de que su historia épica del bien contra el mal se trata de atraer talento a tasas de descuento e incubar su propia I.A. software para coches y cohetes. Ciertamente es cierto que el Área de la Bahía siempre ha tenido un respeto saludable por hacer dinero. Como dijo Sam Spade en El halcón maltés La mayoría de las cosas en San Francisco se pueden comprar o tomar.

Musk es sin duda un vendedor deslumbrante. ¿Quién mejor que un guardián del bienestar humano para venderte tu nuevo Tesla autónomo? Andrew Ng, el científico en jefe de Baidu, conocido como Google de China, con sede en Sunnyvale, California, califica el rechazo maniqueo de Musk como un genio del marketing. En el apogeo de la recesión, convenció al gobierno de los Estados Unidos para que lo ayudara a construir un automóvil deportivo eléctrico, recordó Ng, incrédulo. El profesor de Stanford está casado con un experto en robótica, emitió un anuncio de compromiso con el tema de un robot y mantiene una chaqueta negra de Trust the Robot colgando del respaldo de su silla. Él piensa que las personas que se preocupan por la IA los renegados se distraen con fantasmas, y considera que alarmarse ahora es como preocuparse por la superpoblación en Marte antes de que lo poblemos. Y creo que es fascinante, dijo sobre Musk en particular, que en un período de tiempo bastante corto se haya insertado en la conversación sobre A.I. Creo que ve con precisión que A.I. va a crear una enorme cantidad de valor.

Aunque una vez llamó a Musk una versión de ciencia ficción de P. T. Barnum, Ashlee Vance cree que la preocupación de Musk por la inteligencia artificial. es genuino, incluso si no está claro lo que realmente puede hacer al respecto. Su esposa, Talulah, me dijo que tenían conversaciones nocturnas sobre A.I. en casa, señaló Vance. Elon es brutalmente lógico. La forma en que aborda todo es como mover piezas de ajedrez. Cuando juega este escenario en su cabeza, no termina bien para la gente.

Eliezer Yudkowsky, cofundador del Instituto de Investigación de Inteligencia de Máquinas, en Berkeley, está de acuerdo: es Elon-malditamente-Musk. No necesita tocar el tercer carril de la controversia de la inteligencia artificial si quiere ser sexy. Simplemente puede hablar de la colonización de Marte.

Algunos huelen que Musk no es realmente parte de la cultura de la pizarra y que sus escenarios aterradores pasan por alto el hecho de que vivimos en un mundo en el que es difícil hacer funcionar la impresora. Otros atribuyen OpenAI, en parte, a un caso de FOMO: Musk ve a su amigo Page construyendo software de nueva ola en un campo caliente y anhela un ejército de codificadores en competencia. Como lo ve Vance, Elon quiere todos los juguetes que tiene Larry. Son como estos dos superpoderes. Son amigos, pero hay mucha tensión en su relación. Una rivalidad de este tipo podría resumirse mejor con una frase del vanaglorioso jefe del gigante tecnológico ficticio Hooli, en HBO Silicon Valley: No quiero vivir en un mundo en el que alguien más haga del mundo un lugar mejor que nosotros.

El desacuerdo de Musk con Page sobre los peligros potenciales de la inteligencia artificial. Afectó nuestra amistad por un tiempo, dice Musk, pero eso ya pasó. Estamos en buenos términos estos días.

Musk nunca tuvo una conexión personal tan cercana con Mark Zuckerberg, de 32 años, quien se ha convertido en un gurú del estilo de vida poco probable, y se plantea un nuevo desafío cada año. Estos incluyen usar corbata todos los días, leer un libro cada dos semanas, aprender mandarín y comer carne solo de los animales que mató con sus propias manos. En 2016, fue el turno de la IA.

Zuckerberg ha cambiado su A.I. expertos a escritorios cercanos al suyo. Tres semanas después de que Musk y Altman anunciaran su empresa para hacer que el mundo esté a salvo de la IA maliciosa, Zuckerberg publicó en Facebook que su proyecto para el año estaba construyendo una IA útil. para ayudarlo a administrar su hogar, desde reconocer a sus amigos y dejarlos entrar hasta vigilar la guardería. Puedes pensar en ello como Jarvis en Iron Man, escribió.

Un usuario de Facebook advirtió a Zuckerberg que no creara accidentalmente Skynet, la supercomputadora militar que se vuelve contra los seres humanos en el Terminator películas. Creo que podemos construir A.I. así que funciona para nosotros y nos ayuda, respondió Zuckerberg. Y claramente arrojando sombra a Musk, continuó: Algunas personas trafican con miedo sobre cómo A.I. es un gran peligro, pero me parece descabellado y mucho menos probable que los desastres debido a enfermedades generalizadas, violencia, etc. O, como describió su filosofía en una conferencia de desarrolladores de Facebook en abril pasado, en un claro rechazo a las advertencias de Musk y otros que él cree que son alarmistas: Elija la esperanza sobre el miedo.

En la edición de noviembre de Cableado , editado por el invitado por Barack Obama, Zuckerberg escribió que hay pocas bases más allá de la ciencia ficción para preocuparse por los escenarios apocalípticos: si ralentizamos el progreso en deferencia a preocupaciones infundadas, obstaculizaremos el camino hacia ganancias reales. Él comparó A.I. nerviosismo ante los primeros temores acerca de los aviones, señalando: No nos apresuramos a establecer reglas sobre cómo deberían funcionar los aviones antes de descubrir cómo volarían en primer lugar.

Zuckerberg presentó su A.I. mayordomo, Jarvis, justo antes de Navidad. Con la suave voz de Morgan Freeman, pudo ayudar con la música, las luces e incluso hacer tostadas. Le pregunté al Iron Man de la vida real, Musk, sobre Jarvis de Zuckerberg, cuando estaba en sus primeras etapas. No lo llamaría A.I. automatizar las funciones de su hogar, dijo Musk. Realmente no es A.I. para encender las luces, ajuste la temperatura.

Zuckerberg puede ser igualmente despectivo. Cuando se le preguntó en Alemania si los presentimientos apocalípticos de Musk eran histéricos o válidos, Zuckerberg respondió histérico. Y cuando el cohete SpaceX de Musk explotó en la plataforma de lanzamiento en septiembre, destruyendo un satélite que Facebook estaba alquilando, Zuckerberg publicó con frialdad que estaba profundamente decepcionado.

IV. Una ruptura en la historia

Musk y otros que han levantado una bandera de advertencia sobre A.I. a veces han sido tratadas como reinas del drama. En enero de 2016, Musk ganó el premio anual Luddite Award, otorgado por un grupo de expertos en política tecnológica de Washington. Aún así, tiene algunos compañeros bastante buenos. Stephen Hawking le dijo a la BBC que creo que el desarrollo de la inteligencia artificial completa podría significar el fin de la raza humana. Bill Gates le dijo a Charlie Rose que A.I. era potencialmente más peligroso que una catástrofe nuclear. Nick Bostrom, un profesor de filosofía de Oxford de 43 años, advirtió en su libro de 2014: Superinteligencia , que una vez que exista una superinteligencia hostil, nos impediría reemplazarla o cambiar sus preferencias. Nuestro destino estaría sellado. Y, el año pasado, Henry Kissinger se subió al tren del peligro y celebró una reunión confidencial con los mejores A.I. expertos en Brook, un club privado en Manhattan, para discutir su preocupación sobre cómo los robots inteligentes podrían causar una ruptura en la historia y desentrañar la forma en que funciona la civilización.

En enero de 2015, Musk, Bostrom y un Quién es Quién de A.I., que representan a ambos lados de la división, se reunieron en Puerto Rico para una conferencia organizada por Max Tegmark, un profesor de física de 49 años en M.I.T. que dirige el Future of Life Institute, en Boston.

¿Eres dueño de una casa ?, me preguntó Tegmark. ¿Tiene un seguro contra incendios? El consenso en Puerto Rico fue que necesitábamos un seguro contra incendios. Cuando tuvimos fuego y lo estropeamos, inventamos el extintor. Cuando conseguimos coches y lo estropeamos, inventamos el cinturón de seguridad, la bolsa de aire y el semáforo. Pero con las armas nucleares y la inteligencia artificial, no queremos aprender de nuestros errores. Queremos planificar el futuro. (Musk le recordó a Tegmark que una precaución tan sensata como los cinturones de seguridad había provocado una feroz oposición de la industria del automóvil).

Musk, quien ha puesto en marcha la financiación de la investigación para evitar las trampas de la inteligencia artificial, dijo que le daría al Future of Life Institute 10 millones de razones para seguir con el tema, donando $ 10 millones. Tegmark donó de inmediato 1,5 millones de dólares al grupo de Bostrom en Oxford, el Instituto del Futuro de la Humanidad. Al explicar en ese momento por qué era crucial ser proactivo y no reactivo, Musk dijo que ciertamente era posible construir escenarios donde la recuperación de la civilización humana no ocurre.

Seis meses después de la conferencia de Puerto Rico, Musk, Hawking, Demis Hassabis, el cofundador de Apple, Steve Wozniak, y Stuart Russell, profesor de informática en Berkeley, coautor del libro de texto estándar sobre inteligencia artificial, junto con otras 1,000 figuras prominentes. , firmó una carta pidiendo la prohibición de las armas autónomas ofensivas. En 50 años, este período de 18 meses en el que estamos ahora será visto como crucial para el futuro de la I.A. comunidad, Russell me dijo. Es cuando la A.I. La comunidad finalmente se despertó y se tomó en serio a sí misma y pensó en qué hacer para mejorar el futuro. En septiembre pasado, las empresas de tecnología más grandes del país crearon la Asociación sobre Inteligencia Artificial para explorar toda la gama de problemas que surgen de la inteligencia artificial, incluidos los éticos. (OpenAI de Musk se unió rápidamente a este esfuerzo). Mientras tanto, la Unión Europea ha estado investigando los problemas legales que surgen de la llegada de los robots y la inteligencia artificial, como si los robots tienen personalidad o (como uno Tiempos financieros se preguntó el colaborador) deberían considerarse más como esclavos en el derecho romano.

En el segundo A.I. de Tegmark conferencia de seguridad, en enero pasado en el centro Asilomar, en California, elegida porque allí es donde los científicos se reunieron en 1975 y acordaron limitar la experimentación genética, el tema no fue tan polémico. Larry Page, que no estuvo en la conferencia de Puerto Rico, estuvo en Asilomar, y Musk notó que su conversación ya no era acalorada.

Pero si bien pudo haber sido una fiesta de presentación para A.I. seguridad, como dijo un asistente, parte de un cambio radical en el último año, como dice Musk, todavía hay un largo camino por recorrer. No hay duda de que los mejores tecnólogos de Silicon Valley ahora toman IA mucho más en serio, que lo reconozcan como un riesgo, observa. No estoy seguro de que todavía comprendan la importancia del riesgo.

Steve Wozniak se ha preguntado públicamente si está destinado a ser la mascota de la familia de los señores robots. Comenzamos a alimentar a nuestro perro con filete, me contó sobre su propia mascota, durante el almuerzo con su esposa, Janet, en el Original Hick’ry Pit, en Walnut Creek. Una vez que empiezas a pensar que podrías ser uno, así es como quieres que los traten.

Ha desarrollado una política de apaciguamiento hacia los robots y cualquier A.I. Maestros. ¿Por qué queremos erigirnos en enemigos cuando podrían dominarnos algún día? él dijo. Debería ser una asociación conjunta. Todo lo que podemos hacer es sembrarlos con una cultura fuerte en la que vean a los humanos como sus amigos.

Cuando fui a la elegante oficina de Peter Thiel en San Francisco, dominada por dos tableros de ajedrez gigantes, Thiel, uno de los donantes originales de OpenAI y un opositor comprometido, dijo que le preocupaba que la resistencia de Musk en realidad pudiera estar acelerando la IA. investigación porque sus advertencias del fin del mundo están aumentando el interés en el campo.

Completo A.I. está en el orden de magnitud del aterrizaje de extraterrestres, dijo Thiel. Hay algunas preguntas muy complicadas en torno a esto. . . . Si realmente sigues adelante, ¿cómo hacemos para A.I. seguro, no creo que la gente tenga ni idea. Ni siquiera sabemos qué es A.I. es. Es muy difícil saber cómo se podría controlar.

Continuó: Hay cierto sentido en el que la A.I. La pregunta encapsula todas las esperanzas y temores de la gente sobre la era de las computadoras. Creo que las intuiciones de las personas realmente se derrumban cuando se las empuja a estos límites porque nunca hemos tratado con entidades que sean más inteligentes que los humanos en este planeta.

V. La necesidad de fusionarse

Tratando de descifrar quién tiene razón en A.I., conduje hasta San Mateo para encontrarme con Ray Kurzweil para tomar un café en el restaurante Three. Kurzweil es el autor de La singularidad está cerca , una visión utópica de lo que un A.I. lo que te depara el futuro. (Cuando le mencioné a Andrew Ng que iba a hablar con Kurzweil, puso los ojos en blanco. Singularidad , mis ojos lo hacen naturalmente, dijo.) Kurzweil llegó con una bolsa de Whole Foods para mí, repleta de sus libros y dos documentales sobre él. Llevaba pantalones caqui, una camisa a cuadros verde y roja y varios anillos, incluido uno, hecho con una impresora 3-D, que tiene un S por su Singularity University.

Las computadoras ya están haciendo muchos atributos de pensamiento, me dijo Kurzweil. Hace solo unos años, A.I. Ni siquiera podía distinguir la diferencia entre un perro y un gato. Ahora puede. Kurzweil tiene un gran interés en los gatos y tiene una colección de 300 figuras de gatos en su casa del norte de California. En el restaurante, pidió leche de almendras, pero no pudo. El hombre de 69 años come extraños brebajes de salud y toma 90 pastillas al día, ansioso por alcanzar la inmortalidad, o extensiones indefinidas de la existencia de nuestro archivo mental, lo que significa fusionarse con las máquinas. Tiene tal necesidad de fusionarse que a veces usa la palabra nosotros cuando habla de seres futuros superinteligentes, muy lejos de los más siniestros de Musk.

Mencioné que Musk me había dicho que estaba desconcertado de que Kurzweil no parece tener ni un 1 por ciento de duda sobre los peligros de nuestros niños mentales, como los llama el experto en robótica Hans Moravec.

Eso simplemente no es cierto. Yo soy quien articuló los peligros, dijo Kurzweil. La promesa y el peligro están profundamente entrelazados, continuó. El fuego nos mantuvo calientes y cocinó nuestra comida y también quemó nuestras casas. . . . Además, existen estrategias para controlar el peligro, como ha sucedido con las pautas de biotecnología. Resumió las tres etapas de la respuesta humana a la nueva tecnología como ¡Wow !, Uh-Oh, y ¿Qué otra opción tenemos que seguir adelante? La lista de cosas que los humanos pueden hacer mejor que las computadoras es cada vez más pequeña, dijo. Pero creamos estas herramientas para ampliar nuestro alcance.

Así como hace doscientos millones de años, los cerebros de los mamíferos desarrollaron una neocorteza que eventualmente permitió a los humanos inventar el lenguaje, la ciencia, el arte y la tecnología, para la década de 2030, predice Kurzweil, seremos cyborgs, con nanobots del tamaño de células sanguíneas que nos conectarán con neocortices sintéticas en la nube, lo que nos da acceso a la realidad virtual y la realidad aumentada desde nuestro propio sistema nervioso. Seremos más divertidos; seremos más musicales; aumentaremos nuestra sabiduría, dijo, en última instancia, según tengo entendido, produciendo una manada de Beethovens y Einsteins. Los nanobots en nuestras venas y arterias curarán enfermedades y sanarán nuestros cuerpos desde el interior.

Él admite que la bestia negra de Musk podría hacerse realidad. Señala que nuestro A.I. la progenie puede ser amistosa y puede que no lo sea, y si no es amistosa, es posible que tengamos que luchar contra ella. Y quizás la única forma de luchar sería conseguir un A.I. de su lado que es aún más inteligente.

Kurzweil me dijo que estaba sorprendido de que Stuart Russell se hubiera subido al tren del peligro, así que me acerqué a Russell y me reuní con él en su oficina del séptimo piso en Berkeley. El experto británico-estadounidense de 54 años en A.I. me dijo que su pensamiento había evolucionado y que ahora está en desacuerdo violentamente con Kurzweil y otros que sienten que ceder el planeta a una inteligencia artificial superinteligente. está bien.

A Russell no le importa un comino si A.I. podría permitir más Einsteins y Beethovens. Un Ludwig más no equilibra el riesgo de destruir a la humanidad. Como si de alguna manera la inteligencia fuera lo que importaba y no la calidad de la experiencia humana, dijo con exasperación. Creo que si nos reemplazáramos por máquinas que, hasta donde sabemos, no tendrían existencia consciente, no importa cuántas cosas asombrosas hayan inventado, creo que esa sería la mayor tragedia posible. Nick Bostrom ha llamado a la idea de una sociedad de maravillas tecnológicas sin seres humanos un Disneyland sin niños.

Hay personas que creen que si las máquinas son más inteligentes que nosotros, entonces deberían tener el planeta y nosotros deberíamos irnos, dijo Russell. Luego hay personas que dicen: 'Bueno, nos subiremos a las máquinas, así que todavía tendremos conciencia, pero seremos máquinas'. Lo que yo encontraría, bueno, completamente inverosímil.

Desde el V.F. Cumbre: Elon Musk sobre Pensar para el futuro

Russell se opuso a las opiniones de Yann LeCun, quien desarrolló el precursor de las redes neuronales convolucionales utilizadas por AlphaGo y es el director de A.I. de Facebook. investigar. LeCun le dijo a la BBC que no habría Ex machina o Terminator escenarios, porque los robots no se construirían con impulsos humanos: hambre, poder, reproducción, autoconservación. Yann LeCun sigue diciendo que no hay ninguna razón por la que las máquinas tengan instinto de autoconservación, dijo Russell. Y es simple y matemáticamente falso. Quiero decir, es tan obvio que una máquina tendrá autoconservación incluso si no la programas porque si dices, 'Trae el café', no puede traer el café si está muerto. Entonces, si le da algún objetivo, tiene una razón para preservar su propia existencia para lograr ese objetivo. Y si lo amenaza en su camino a tomar café, lo matará porque cualquier riesgo para el café debe ser contrarrestado. La gente le ha explicado esto a LeCun en términos muy simples.

Russell desacreditó los dos argumentos más comunes de por qué no deberíamos preocuparnos: uno es: nunca sucederá, lo que es como decir que estamos conduciendo hacia el acantilado, pero estamos obligados a quedarnos sin gasolina antes de llegar allí. Y esa no parece una buena forma de gestionar los asuntos de la raza humana. Y la otra es: no se preocupe, solo construiremos robots que colaboren con nosotros y estaremos en equipos de humanos y robots. Lo que plantea la pregunta: si su robot no está de acuerdo con sus objetivos, ¿cómo forma un equipo con él?

El año pasado, Microsoft cerró su A.I. El chatbot, Tay, después de los usuarios de Twitter, que se suponía que la harían más inteligente a través de conversaciones casuales y divertidas, como dijo Microsoft, le enseñó a responder con insultos racistas, misóginos y antisemitas. Bush hizo el 11 de septiembre, y Hitler habría hecho un mejor trabajo que el mono que tenemos ahora, tuiteó Tay. Donald Trump es la única esperanza que tenemos. En respuesta, Musk tuiteó: Será interesante ver cuál es el tiempo medio para Hitler para estos bots. Solo tomó Tay de Microsoft al día.

Con Trump ahora presidente, Musk se encuentra caminando por una delgada línea. Sus empresas cuentan con el gobierno de los Estados Unidos para negocios y subsidios, independientemente de si Marcus Aurelius o Caligula están a cargo. Las empresas de Musk se unieron al escrito de amicus contra la orden ejecutiva de Trump con respecto a la inmigración y los refugiados, y el propio Musk tuiteó en contra de la orden. Al mismo tiempo, a diferencia de Travis Kalanick de Uber, Musk se ha mantenido como miembro del Foro de Política y Estrategia de Trump. Es muy Elon, dice Ashlee Vance. Él hará lo suyo sin importar de qué se queje la gente. Añadió que Musk puede ser oportunista cuando sea necesario.

Le pregunté a Musk sobre las críticas que había recibido por asociarse con Trump. En la fotografía de ejecutivos de tecnología con Trump, se veía sombrío y había un tono cansado en su voz cuando hablaba sobre el tema. Al final, dijo, es mejor tener voces moderadas en la sala con el presidente. Hay mucha gente, una especie de extrema izquierda, que esencialmente quiere aislarse y no tener voz. Muy imprudente.

VI. Todo sobre el viaje

Eliezer Yudkowsky es un investigador de 37 años de gran prestigio que está tratando de averiguar si es posible, en la práctica y no solo en teoría, señalar la A.I. en cualquier dirección, y mucho menos en una buena. Lo conocí en un restaurante japonés en Berkeley.

¿Cómo se codifican las funciones objetivo de un A.I. tal que tiene un interruptor de apagado y quiere que haya un interruptor de apagado y no intentará eliminar el interruptor de apagado y le permitirá presionar el interruptor de apagado, pero no saltará adelante y presionará el interruptor de apagado en sí. ? preguntó por un pedido de rollos de surf-and-turf. Y si se modifica automáticamente, ¿se modificará automáticamente de tal manera que mantenga el interruptor de apagado? Estamos intentando trabajar en eso. No es fácil.

Parloteé sobre los herederos de Klaatu, HAL y Ultron que se hicieron cargo de Internet y tomaron el control de nuestra banca, transporte y ejército. ¿Qué pasa con los replicantes en Cazarecompensas , que conspiran para matar a su creador? Yudkowsky se llevó las manos a la cabeza y luego explicó con paciencia: El A.I. no tiene que hacerse cargo de todo Internet. No necesita drones. No es peligroso porque tiene armas. Es peligroso porque es más inteligente que nosotros. Suponga que puede resolver la tecnología científica de predecir la estructura de las proteínas a partir de la información del ADN. Luego, solo necesita enviar algunos correos electrónicos a los laboratorios que sintetizan proteínas personalizadas. Pronto tendrá su propia maquinaria molecular, construyendo máquinas moleculares aún más sofisticadas.

Si quieres una foto de A.I. salió mal, no se imaginen robots humanoides marchando con ojos rojos brillantes. Imagine diminutas bacterias sintéticas invisibles hechas de diamante, con pequeñas computadoras a bordo, escondidas dentro de su torrente sanguíneo y el de todos los demás. Y luego, simultáneamente, liberan un microgramo de toxina botulínica. Todo el mundo cae muerto.

Solo que en realidad no sucederá así. Es imposible para mí predecir exactamente cómo perderíamos, porque la A.I. será más inteligente que yo. Cuando estás construyendo algo más inteligente que tú, debes hacerlo bien en el primer intento.

Recordé mi conversación con Musk y Altman. No te dejes desviar por la idea de robots asesinos, dijo Musk, y señaló: Lo que pasa con la inteligencia artificial. es que no es el robot; es el algoritmo informático en la red. Entonces, el robot sería solo un efector final, solo una serie de sensores y actuadores. AI. está en la red. . . . Lo importante es que si obtenemos algún tipo de algoritmo fuera de control, entonces la inteligencia artificial humana. colectivo puede detener el algoritmo fugitivo. Pero si hay una IA grande y centralizada que decide, entonces no hay forma de detenerlo.

Altman amplió el escenario: un agente que tuviera el control total de Internet podría tener mucho más efecto en el mundo que un agente que tuviera el control total de un robot sofisticado. Nuestras vidas ya son tan dependientes de Internet que un agente que no tuviera cuerpo alguno pero que pudiera utilizar Internet realmente bien sería mucho más poderoso.

Incluso los robots con una tarea aparentemente benigna podrían dañarnos con indiferencia. Supongamos que crea una IA que se mejora a sí misma. para recolectar fresas, dijo Musk, y cada vez es mejor recolectando fresas y recolecta más y más y se mejora a sí mismo, por lo que todo lo que realmente quiere hacer es recolectar fresas. Entonces todo el mundo sería campos de fresas. Campos de fresa por siempre. No hay lugar para los seres humanos.

Pero, ¿pueden alguna vez desarrollar realmente un interruptor de apagado? No estoy seguro de querer ser el que mantenga presionado el interruptor de apagado para una IA con superpoderes, porque tú serías lo primero que mataría, respondió Musk.

Altman trató de capturar la escalofriante grandeza de lo que está en juego: es un momento muy emocionante para estar vivo, porque en las próximas décadas nos dirigiremos hacia la autodestrucción o hacia la descendencia humana que eventualmente colonizará el universo.

Bien, dijo Musk, y agregó: Si crees que el final es la muerte térmica del universo, realmente se trata del viaje.

El hombre que está tan preocupado por la extinción se rió entre dientes de su propia broma de extinción. Como escribió una vez H. P. Lovecraft: Incluso en el mayor de los horrores, la ironía rara vez está ausente.

CORRECCIÓN: Una versión anterior de esta historia dio una fecha incorrecta para el accidente que mató al operador de un Tesla autónomo. Ocurrió en mayo de 2016.