Uh, Google fingió su gran I.A. ¿Manifestación?

Por David Paul Morris / Bloomberg / Getty Images.

Google C.E.O. Sundar Pichai La demostración de la nueva tecnología de asistente virtual de la compañía, presentada en la conferencia anual de desarrolladores de la compañía la semana pasada, fue más desconcertante de lo que Pichai presumiblemente pretendía. Google Duplex, como se llama la tecnología, representa un gran paso adelante en los esfuerzos de Silicon Valley para producir robots que suenen como personas. Puede hacer llamadas telefónicas para programar citas, decir o reservar una mesa en un restaurante, utilizando tics verbales humanos familiares y palabras de relleno (uhm, mmhmm y te pillé) que hacen que sea inquietantemente difícil saber que la voz en la otra línea es una inteligencia artificial. Para mostrar la tecnología en acción, Pichai reprodujo una grabación del dispositivo Asistente de Google, la respuesta de Google a Siri de Apple y Alexa de Amazon, llamando e interactuando con alguien que supuestamente era un empleado de una peluquería para concertar una cita. Lo que vas a escuchar es que el asistente de Google realmente llama a un salón real para programar una cita para ti, dijo Pichai a la audiencia. Vamos a escuchar.

La demostración fue realmente impresionante. También fue bastante inquietante, como muchas personas notaron rápidamente. (Horripilante, escribió un crítico.) Pero, ¿es posible que la promesa de la tecnología avanzada de inteligencia artificial de Google sea demasiado buena para ser verdad? Como Axios señalado El jueves por la mañana, hubo algo pequeño en las conversaciones de la A.I. había hablado por teléfono con empresas, lo que sugiere que quizás Google había falsificado, o al menos editado, su demostración. A diferencia de una empresa típica (Axios llamó a más de dos docenas de peluquerías y restaurantes), los empleados que contestaron el teléfono en las demostraciones de Google no identifican el nombre de la empresa ni a ellos mismos. Tampoco hay ningún ruido ambiental en las grabaciones de Google, como cabría esperar en una peluquería o un restaurante. En ningún momento de las conversaciones de Google con las empresas, los empleados que contestaron el teléfono pidieron el número de teléfono u otra información de contacto del A.I. Además, California es un estado de consentimiento de dos partes, lo que significa que ambas partes deben dar su consentimiento para que una conversación telefónica se grabe legalmente. ¿Google buscó el permiso de estas empresas antes de llamarlas para la demostración? ¿Fue escenificado a la manera simulada de un reality show?

Google no lo dice. Cuando Axios solicitó comentarios para verificar que existían las empresas y que las llamadas no se establecieron con anticipación, un portavoz se negó a proporcionar los nombres de los establecimientos; cuando Axios preguntó si las llamadas estaban editadas (incluso solo para cortar el nombre de la empresa, para evitar atención no deseada), Google también se negó a comentar. La compañía no respondió de inmediato a una serie de preguntas de Hive.

Por supuesto, es muy posible que Google haya creado con éxito un asistente virtual realista que pueda replicar interacciones humanas por teléfono, y es posible que todos estemos usando e interactuando con este tipo de inteligencia artificial. antes de lo que nos gustaría. (Google respondió a parte de la controversia sobre las funciones de Duplex prometiendo que el bot incluiría una divulgación que se identificara a sí mismo como no humano). Los fragmentos de conversación durante la demostración de Pichai, que se pueden escuchar en este clip , parecen demasiado pulidos y poco realistas para ser reales. Pero los avances en inteligencia artificial también están progresando rápidamente. Tesla y Uber están desarrollando vehículos autónomos. Amazon es reemplazando a los cajeros humanos con A.I. en tiendas de abarrotes automatizadas. Facebook está extrayendo sus datos personales para predecir sus acciones futuras para los anunciantes . Y la carrera de armamentos tecnológicos apenas comienza. El gasto global en inteligencia artificial y aprendizaje automático es predice que crecerá de $ 12 mil millones en 2017 a $ 57.6 mil millones para 2021, y las inversiones de capital de riesgo en A.I. empresas es disparándose .

Algunos en Silicon Valley son justificadamente cautelosos con estos desarrollos que dan vueltas en la cabeza. Y los robots que imitan los patrones del habla humana son la menor de sus preocupaciones. Los bots de las redes sociales se han convertido en armas para difundir propaganda y desinformación. Los dispositivos activados por voz como el Asistente de Google pueden ser secuestrados por malos actores, como demostró recientemente un equipo de investigadores de la Universidad de California, Berkeley, mediante el uso de comandos de audio indetectables para el oído humano, ocultos en un video de YouTube, para secuestrar Alexa de Amazon y ordenarlo para realizar compras. En un mundo donde casi todos los electrodomésticos (televisores, refrigeradores, interruptores de luz, automóviles, cerraduras de puertas) pronto estarán habilitados para Wi-Fi, la capacidad de estas IA para ser manipuladas o deshonestas es una perspectiva aterradora. Como mi colega Nick Bilton ha informado, los rápidos avances en el aprendizaje automático también tendrán profundas implicaciones en la forma en que se forma la opinión pública. El mismo tipo de software que permite al Asistente de Google llamar a su salón sin alarmar al peluquero también se puede utilizar para que suene como Barack Obama respalda a la empresa de tecnología poniendo esas palabras en su boca O como Donald Trump es amenaza de guerra nuclear con Corea del Norte . Esas herramientas pronto estarán en manos de todos, desde los aburridos estudiantes de secundaria hasta los rebeldes sirios y los espías rusos. Ya sea que la tecnología de distorsión de la realidad del Asistente de Google esté lista para el horario de máxima audiencia o no, lo estará pronto.