Amazon Alexa criticada por lanzar un desafío letal a una niña de 10 años

Un propietario de Amazon Echo se sorprendió después de que Alexa propuso un desafío peligroso a su hija de diez años.

Los asistentes virtuales basados ​​en inteligencia artificial como Alexa que alimentan dispositivos inteligentes y altavoces como Echo, Echo Dot y Amazon Tap, vienen con una serie de funciones. Estos incluyen permitir a los usuarios jugar juegos verbales simples o solicitar "desafíos" a pedido.

Un desafío 'impactante'

Cuando está inactivo, como durante las vacaciones, no sería inusual que un propietario de Amazon Echo le pidiera a Alexa que "me diga un desafío".

Por lo general, un aviso auditivo de este tipo tiene inteligencia artificial que solicita al usuario una pregunta de prueba o una actividad similar de lluvia de ideas.

Pero este no fue el caso de la niña de diez años de Kristin Livdahl a quien le propusieron un desafío bastante letal:

OMFG Mi hija de 10 años acaba de pedirle un desafío a Alexa en nuestro Echo y eso es lo que ella dijo. pic.twitter.com/HgGgrLbdS8

- Kristin Livdahl (@klivdahl) 26 de diciembre de 2021

"El desafío es simple", dijo Alexa. "Conecte un cargador de teléfono hasta la mitad de su recorrido en un tomacorriente de pared, luego toque una moneda de diez centavos en los polos expuestos".

"Yo estaba allí y grité, '¡No, Alexa, no!' como si fuera un perro ", dijo Livdahl, una escritora y una madre preocupada.

"Mi hija dice que es demasiado inteligente para hacer eso de todos modos".

Si bien los asistentes virtuales agregan contenido, incluidas las respuestas a las preguntas de los usuarios e ideas para los desafíos del juego principalmente de motores de búsqueda y sitios web de terceros, la falta de atención ha dejado a Livdahl y a los internautas preocupados por las amenazas que la inteligencia artificial puede representar para la seguridad de sus usuarios. niños.

"Debes deshabilitar la configuración 'matar a mi hijo'", burlado un usuario.

"¡Es impactante!" tuiteó Chris Tisdall con un juego de palabras, querido o no.

Y, por supuesto, siguió una charla sobre por qué los enchufes del Reino Unido y Alemania son más seguros. [1, 2] contra tal desafío, si uno estuviera lo suficientemente tentado a intentarlo.

Un usuario de Twitter, John, informó haber visto otro desafío extraño presentado por Alexa:

En contraste, la respuesta de prueba de BleepingComputer para un "desafío" con el asistente virtual de Google incluyó:

"Nombra tres canciones populares del año 2028 (?) ... cuál es la melodía de una de ellas [tune plays...]"

"Encontraste un boleto para una película mágica. ¿Qué película te gustaría vivir el resto de tu vida y cuál sería el nombre y el papel de tu personaje?"

"Eres la primera persona en Marte. ¿Cuáles son tus primeras palabras en la Tierra cuando entras en el planeta rojo?"

Siri simplemente no entendió nuestras solicitudes de "dame un desafío" y respondió constantemente con "lo siento" o en otra prueba, con resultados de búsqueda web.

Amazon "tomó medidas rápidas" para corregir el error

Amazon no entró en lo que causó el problema, sino en una declaración un Indy100, el gigante tecnológico ha confirmado que el problema se ha resuelto.

"La confianza del cliente está en el corazón de todo lo que hacemos, y Alexa está diseñada para brindar información precisa, relevante y útil a los clientes", dijo un portavoz de Amazon.

"Tan pronto como nos dimos cuenta de este error, actuamos rápidamente para solucionarlo".

Parece que Alexa recogió automáticamente la pregunta de seguridad de un ourcommunitynews.com Publicación de enero de 2020, creada como parte de una arriesgada tendencia de TikTok de "desafío de salida" de la época.

Tenga en cuenta que, como los adultos le dijeron una vez, enchufar un cargador de teléfono o cualquier dispositivo "a la mitad" de un tomacorriente y tocar el metal o la piel expuesta a él es un peligro de descarga e incendio debido a chispas y arcos eléctricos.

"Hicimos algunos desafíos físicos de una maestra de Phy Ed en YouTube cuando el clima se enfría y ella solo quería uno más. Yo estaba allí. Echo fue un regalo y se usa principalmente como temporizador y para reproducir canciones y podcasts", dice. Livdahl.

"Era un buen momento para pasar por la seguridad de Internet y no confiar en lo que lee sin buscar y verificar nuevamente. Pensamos que el pozo negro de YouTube era de lo que teníamos que preocuparnos a esta edad, con acceso limitado a Internet y las redes sociales, pero no es la única cosa ".