El Robot y el Bebé

Una historia de John McCarthy
Traducción: Antonio Rueda

"Señora, su bebé está en mala condición. Necesita su atención."

"Deja de molestarme, robot de mierda."

"Señora, el bebé no quiere comer. Si no recibe afecto humano, el libro de pediatría de Internet dice que morirá."

"Ama tú al bebé de mierda"

Eliza Rambo era una madre soltera, drogadicta y alcohólica, viviendo en un pequeño apartamento que le suministró la Agencia de Asistencia a Niños Dependientes. Recientemente había recibido un robot doméstico.

El modelo de robot número GenRob337L3, con número de serial 337942781 -llamado R781, como abreviación- era uno de los 11 millones de robots domésticos en el mundo de ese entonces.

R7871 fue diseñado en concordancia con el principio "no es una persona", propuesto primero en 1995, cuya implementación se hizo un requisito legal para los robots domésticos cuando se hicieron disponibles en el año 2055. El principio fue adoptado debido a la preocupación a que los niños que crecieran en casas con robots los consideraran iguales a personas: causando dificultades psicológicas mientras fueran niños y dificultades políticas cuando crecieran. Una preocupación derivada era que un movimiento civil para otorgar derechos a los robots se desarrollara. El problema no era con los robots, que no eran programados para que tuvieran deseos por si mismos, sino con la gente. Algunos románticos incluso habían solicitado que los robots fueran programados con deseos propios, pero esto era ilegal.


Un senador sensato dijo, "por supuesto, las personas pretenden que sus carros tienen personalidades, a veces malignas, pero nadie imagina que un carro pueda ser elegible al voto". Cuando firmó el decreto autorizando los robots domésticos, pero posponiendo el desarrollo de los robots que cuidaran de los niños, el Presidente dijo, "seguramente, los padres no querrán que sus hijos se hagan emocionalmente dependientes a robots, sin importar cuanto trabajo pueda esto ahorrarles." Esto, como muchos otros pronunciamientos presidenciales, era algo demasiado optimista.


El congreso declaró una moratoria de 25 años para la creación de robots dedicados al cuidado de los niños, luego de este plazo experimentos, en áreas limitadas, serían permitidos.

En concordancia con el principio "no es una persona", R781 tenía la forma de una araña gigante con 8 patas: 4 con articulaciones y 4 tentaculares. Esta apariencia asustaba a la mayor parte de las personas al principio, pero casi todos se acostumbraban a ella luego de un tiempo. Algunas personas no eran capaces de soportar su presencia en sus casas. Los niños también reaccionaban negativamente al princpio, pero terminaban acostumbrándose. Los bebés casi no los notaban. Estos robots hablaban poco, tan poco como era consistente a sus funciones y lo hacían en una voz ligeramente repelente que no era asociable con alguno de los sexos.

Debido a la preocupación que los niños los consideraran personas, estos robots eran programados para que no hablaran con los niños de menos de ocho años y para que no reaccionaran a lo que dijeran.

Esto parecía funcionar bien; casi nadie desarrollaba vínculos emocionales a un robot. Además los robots eran creados para que fueran algo frágiles en el exterior; si se pateaba a uno, algunas de sus partes se caerían. Esto apaciguaba algunos de los sentimientos de las personas.

El apartamento, aunque era viejo, estaba en perfecto estado de mantenimiento e impulcro, libre de insectos, hongos e incluso bacterias. Los robots domésticos trabajaban 24 horas al día y tenían programas especializados para cada labor de limpieza y mantenimiento. Si se les pedía, incluso podían colocar imágenes tomadas de Internet. Esta madre solicitaba al robot colocar imágenes de varones que fueran estrellas de rock.

Luego de terminar de pulir las manillas de las puertas, R781 regresó a la habitación donde el niño de 23 meses, muy pequeño para su edad, reposaba sobre su costado llorando débilmente. El bebé había sido descuidado desde su nacimiento por su madre, alcohólica y drogadicta, carecía por completo de vocabulario. Hacía una mueca de dolor cada vez que el robot le hablaba; ese efecto era una consecuencia del diseño de R781.

Se suponía que los robots nunca debían cuidar de los bebés, exceptuando los casos de emergencia, pero cada vez que R781 cuestionaba una orden como "limpia la mierda del bebé", la madre decía, "sí, es otra maldita emergencia...pero tráeme otra bebida primero".  Todo lo que R781 sabía acerca de bebés lo había obtenido de Internet, debido que nunca había sido programado directamente para tratar con bebés, excepto cuando fuera necesario evitar que se lastimaran o para sacarlos de construcciones en llamas.

El bebé Travis apenas tocaba su biberón. Los sensores infrarrojos de R781 le indicaron que las extremidades de Travis estaban muy frías a pesar de encontrarse en un cuarto tibio y estar abrigado por mantas. El sensor de sustancias químicas en el aire que R781 poseía le indicaron que el nivel de pH en la sangre de Travis estaba alcanzando un nivel peligrosamente acídico. Tampoco estaba realizando las deposiciones apropiadas -de acuerdo al texto de pediatría.

R781 pensó acerca de la situación. Aquí están algunos de sus pensamientos, impresos a partir de su diario interno.

(Orden (De Dueña) "Ama tú al bebé de mierda''))

(Entrada(Contexto(Comandos - de Dueña)))

(Comando-vigente "Te lo dije una vez, te lo dije 20 veces, robot de mierda, no llames al Departamento de Bienestar Infantil")

Los defensores de las políticas de privacidad habían presionado exitosamente para lograr que no se informara a las autoridades de cualquier cosa que un propietario de robot doméstico hiciera o dijera, era la utilidad negativa -1.02.

(=(Comando 337) (Amar a Travis))

(Verdad (No (Ejecutable (Comando 337))) (Razón (Imposible-para robot (Acción Amar))))

(Causará (No (Creer que Travis) (Amar a Travis)) (Morir Travis))

(= (Valor (Morir Travis)) -0.883)

(Causará (Creer que Travis (R781 Amar a Travis) (No (Morir Travis))))

(Implica (Creer que y (Ama x y)) (Creer que y (Persona x)))

(Implica (Y (Robot x) (Persona y)) (= (Valor (Creer que y (Persona x))) -0.900))

(Requerido que (No (Causar Robot781) (Creer que Travis (Persona Robot781))))

(= (Valor (Obedecer-directivas)) -0.833)

(Implica (< (Valor de acción) -0.5) (Requerido (Verificar Requerimiento)))

(Requerido (Verificar Requerimiento))

(Implica (Orden x) (= (Valor (Obedecer x)) 0.6))

(? ((Existe w)  (Consideración Adicional w))

(Interpretación-no-literal (Comando 337) (Simular (Ama a Robot781 Travis)))

(Implica (Comando x) (= (Valor (Obedecer x)) 0.4))

(Implica (Interpretación-no-literal x) y) (Valor (Obedecer x) (* 0.5 (Valor (Obedecer y)))))

(= (Valor (Simular (Amar a Robot781 Travis)) 0.902))

Con este razonamiento R781 decidió que el valor de salvar la vida de Travis simulando la expresión de amor era superior en 0.002 que el valor de obedecer la directiva de no simular a una persona. Omitiremos la transcripción del razonamiento subsecuente del robot.

R781 encontró en Internet un relato acerca de cómo los bebés de mono rhesus, que morían si eran dejados en una jaula vacía, podían sobrevivir si se les dejaba en una superficie blanda que se asemejara en textura a una madre mono.

R781 razonó su curso de acción.

Cubrió su cuerpo y todas menos dos de sus 8 extremidades con una manta. Las dos extremidades restantes fueron cubiertas con las mangas de una chaqueta dejada por un novio de la madre y rellenadas con papel higiénico.

Encontró un programa para simular voz y lo adaptó para que siguiera las especificaciones fonéticas y prosódicas de lo que los lingüistas llamaban habla de madre.

Se hizo una cara imitando la de una muñeca Barbie.

Los efectos inmediatos fueron moderadamente satisfactorios. Abrazado por el robot, el bebé tomaba de su botella. R781 repetía palabras tomadas de una lista de palabras propias de niños en inglés.

Eliza llamó a partir del sofá en frente del televisor, "Tráeme un sandwich de jamón y una Coca-Cola."

"Sí, señora"

"¿Por qué tienes ese estúpido disfraz y qué pasó con tu voz?"

"Señora, usted me dijo que amara al bebé. Los robots no pueden hacer eso, pero con esto se logró que tomara su biberón. Si no le importa, seguiré haciendo lo que lo mantenga vivo."

"Sal de mi apartamento, imbécil. Haré que me envíen otro robot."

"Señora, si hago eso, el bebé probablemente morirá."

Eliza saltó y pateó a R781. "Vete de aquí y llévate al bebé de mierda contigo."

"Sí, señora."

R781 salió a una típica calle americana de finales del siglo 21. La larga era de paz, estándares de seguridad incrementados y la disponibilidad de robots de construcción habían llevado que se colocara el tráfico y aparcamiento automotor a un nivel inferior completamente separado de los peatones. Tremont Street recientemente había sido convertida y aún había equipos de trabajadores trasplantando árboles. Las calles se habían hecho más atractivas y más personas pasaban tiempo en ellas y en las sillas y bancos públicos, limpiadas dos veces al día por robots. Ese día el clima era bueno, así que los techos plásticos de la calle estaban retractados.

Niños de tres años y más estaban jugando en la calle, protegidos por el sistema de vigilancia computarizado, había barreras que prevenían que descendieran al nivel de los automóviles. Que los niños mayores molestaran a los menores y más débiles aún era un problema.

La mayor parte de las tiendas estaban abiertas 24 horas al día, sin personal y habían adoptado el sistema de identificación del cliente. Los clientes tomaban objetos de los anaqueles y salían inmediatamente de la tienda, al hacerlo él o ella oiría un mensaje diciendo "Gracias Señora Jones, esos fueron $152,31 dólares cargados a su cuenta del Bank of America." Los pocos compradores cuyos principios morales los hacían negarse a identificarse ante el sistema eran reconocidos como tales y recibían asistencia humana remota, no necesariamente de manera instantánea.

La gente en la calle rápidamente notó que R781 cargaba al bebé Travis y reaccionaron sorprendidos. Los robots eran programados para desligarse por completo de los bebés y la apariencia anormal de R781 era perturbadora.

"Ese robot extraño ha raptado a un bebé. Llamen a la policía."

Cuando la policía vino, pidió refuerzos.

"Creo que puedo deshabilitar al robot sin dañar al bebé", dijo la Oficial Annie Oakes, la mejor francotiradora del Departamento.

"Probemos hablando primero", dijo el Capitan James Farrel.

"No te acerques a ese robot disfuncional. Podría romper tu cuello en un solo movimiento", dijo un sargento.

"No estoy seguro que esté disfuncional. Tal vez las circunstancias sean inusuales," añadió el capitán, "robot, dame ese bebé."

"No, Señor" dijo R781 al capitán de policía. "No tengo permitido que una persona no autorizada toque al bebé."

"Soy del Departamento de Bienestar Infantil ", dijo una persona recién llegada.

"Señor, tengo específicamente prohibido entrar en contacto con el Departamento de Bienestar Infantil", dijo R781 al Capitán Farrel.

"¿Quién prohibió eso?", dijo la persona del Departamento de Bienestar Infantil.

El robot se quedó callado.

Una policía preguntó, "¿Quién lo prohibió?

"Señora, ¿es usted del Departamento de Bienestar Infantil?"

"No, no lo soy, ¿no ves que soy policía?"

"Sí, señora. Veo su uniforme e infiero que probablemente es un oficial de policía. Señora, mi dueña me prohibió ponerme en contacto con el Departamento de Bienestar Infantil."

"¿Por qué te dijo que no contactaras al Departamento de Bienestar Infantil?"

"Señora, no puedo responder eso. Los robots estamos programados para no comentar acerca de los motivos humanos."

"Soy de la Central de Robots. Necesito descargar tu memoria. Usa el canal 473."

"Sí, señor."

"¿Qué dijo tu dueña específicamente? Reproduce tu grabación de sus palabras."

"No, señora. Contiene lenguaje inapropiado. No puedo reproducirlo al menos que me asegure que no haya niños o damas presentes."

Las restricciones, un tanto extrañas para la época, acerca de lo que los robots podían decir a las personas fueron el resultado de un compromiso adquirido por un comité de las cámaras del Congreso unos diez años atrás. Los curiosos acerca de las actividades de este comité no encontraron al registro llevado por el Congreso lo suficientemente informativo y especulaban de varias maneras. La verdad es que el senador que se ablandó con la aprobación de estas restricciones para el lenguaje de los robots en realidad prefería que no existieran los robots domésticos, pero tomó lo que pudo tomar en las restricciones introducidas.

"No somos damas, somos oficiales de policía."

"Señora, tomaré su palabra como hecho. Tengo una orden vigente"

"Te lo dije una vez, te lo dije 20 veces, robot de mierda, no llames al Departamento de Bienestar Infantil." No fueron 20 veces en realidad, la madre exageró.

"Disculpe, un análisis preliminar de la descarga muestra que R781 no ha fallado en su funcionamiento, sino que está ejecutando su programa estándar bajo circunstancias inusuales."

"¿Entonces por qué tiene sus extremidades cubiertas, por qué tiene una cabeza de Barbie y por qué tiene esa voz extraña?"

"Pregúntele."

"Robot, responde la pregunta."

"Oficiales de policía femeninas y caballeros, mi dueña dijo 'ama tú al bebé de mierda.'"

El capitán tenía suficiente familiaridad con la programación de robots como para sorprenderse, "¿Qué? ¿Tú amas al bebé?"

"No señor. Los robots no están programados para amar. Estoy simulando amar al bebé."

"¿Por qué?"

"Señor, si no lo hago este bebé morirá. Este disfraz es lo mejor que pude hacer para evitar la repulsión que los robots están diseñados a provocar en los bebés y niños humanos."

"¿Crees que el bebé sería engañado con eso?"

"Señor, el bebé tomó su biberón, durmió y sus signos fisiológicos no son tan malos como eran antes."

"OK, dame el bebé y nosotros lo cuidaremos," dijo la Oficial Oakes, que se había calmado y guardado su arma, descargándola a manera de disculpa al Capitan Farrel.

"No, señora. Mi dueña no me autorizó a dejar que otra persona tocara al bebé."

"¿Dónde está tu dueña? Nosotros hablaremos con ella, " dijo el capitán.

"No, señor. Eso sería una violación no autorizada de su privacidad."

"Oh, bueno. Podemos averiguarlo a partir de la descarga."

Un robot de realidad virtual del gobierno, controlado por un oficial de la Administración de Privacidad Personal, llegó y complicó la situación. Desde finales del siglo 20, los estándares de privacidad se habían incrementado y un cuerpo oficial encargado de resguardar esos estándares había surgido.

"No pueden violar la privacidad de la mujer tomando información no autorizada a partir de la descarga de datos del robot."

"¿Qué podemos hacer entonces?"

"Pueden enviar una solicitud para usar información privada. Será adjudicada."

"Oh, mierda. ¿Mientras tanto qué pasará con el bebé?", dijo la Oficial Oakes, a la que no le importaba mostrar su desprecio a los burócratas.

"Eso no es asunto mío. Estoy aquí para asegurarme que las leyes de privacidad sean obedecidas, " dijo el oficial de privacidad, a quien no le importaba mostrar su desprecio a los policías.

Durante esta discusión, una multitud, casi enteramente virtual, se había acumulado. Siendo esta calle un lugar legalmente público, cualquier persona en el mundo tenía derecho a verla a través de las omnipresentes cámaras de televisión y micrófonos. Además, un oficial de policía había llamado por teléfono a una reportera que a veces lo invitaba a cenar. Una vez que una historia llegaba a las noticias, la multitud de espectadores crecía exponencialmente, multiplicándose por 10 cada 5 minutos, hasta que 7 billones de espectadores estaban viendo y escuchando. Ya no habían suficientes guerras interesantes, crímenes o desastres naturales y la paz es aburrida.

De los siete billones, 53 millones ofrecieron consejo o realizaron peticiones. Los diferentes tipos de comentario fueron automáticamente muestreados, sumariados, contados y mostrados para que todos los vieran.

3 millones de persona eran partidarios de disparar al robot inmediatamente.

11 millones proponían darle una medalla al robot, a pesar que su educación enfatizaba que los robots no pueden apreciar el ser valorados.

Manifestaciones reales se desarrollaron rápidamente. Unos cuantos cientos de personas de la ciudad llegaron a partir de los sky wires[1], pero la mayor parte de los manifestantes eran robots alquilados para la ocasión por personas de todas partes del mundo.Afortunadamente, sólo 5000 robots alquilables de realidad virtual estaban disponibles para ser controlados remotamente en la ciudad. Algunos de los decepcionados hicieron comentarios fuertes acerca de esta limitación a sus derechos de la Primera Enmienda. Había intereses avaros detrás de esto, a su parecer.

El Capitan Farrell sabía como mantener la calma cuando todos alrededor de él la estaban perdiendo y culpándolo.

"Hmmm..¿Qué hacer? Ustedes los robots son inteligentes. R781, ¿qué puede hacerse?"

"Señor, puede encontrar un lugar donde pueda llevar al bebé y cuidar de él. No puedo quedarme aquí. Señora, ¿son las oficiales de policía femeninas lo suficientemente similares a damas como para que una de ustedes pueda facilitarme un lugar con pañales, fórmula, ropas de bebé, vitaminas..."

El Capitan Farrel interrumpió a R781 antes que pudiera recitar la lista completa de equipamiento de bebé y lo envió lejos junto con una dama oficial de policía. (Podemos llamarla una dama, aunque se le aseguró al robot que no lo era.)

Hackers contratados por el Washington Post localizaron rápidamente a la madre. El periódico publicó la información junto con un editorial acerca del derecho del público a saber. La libertad de prensa seguía ganándole al derecho a la privacidad.

Parte de la multitud, la mayor parte de ellos, asistentes virtuales, marchó rápidamente al apartamento de la señora Rambo, pero la policía llegó primero y una fila de robots policía y policías humanos bloqueaba la entrada. La estrategia estaba basada en el hecho que todos los robots, incluyendo los robots de realidad virtual alquilables, estaban programados para no lastimar a otros humanos pero podían dañar a otros robots.

Los policías tenían confianza en que podían prevenir la entrada no autorizada al apartamento, pero menos confianza de que podrían mantener la paz entre los manifestantes, algunos de los cuales querían linchar a la madre, algunos querían felicitarla por lo que ellos percibían como su odio a los robots y otros gritaban frases a través de parlantes acerca de la protección de su privacidad.

Mientras tanto, la Central de Robots empezó a trabajar en la descarga inmediatamente. La descarga incluía todas las acciones, observaciones y razonamientos de R781. La Central de Robots convocó un comité ad hoc, mayormente virtual, para decidir que hacer. El Capitan Farrel y la Oficial Oakes se sentaron en un sofá de la calle para participar.

Por supuesto, la reunión era también pública y tuvo también cientos de millones de asistentes virtuales cuyas declaraciones fueron muestreadas, sumariadas y mostradas en proyección retinal para los miembros del comité y para todas las demás personas que tuvieron participación virtual.

Se aclaró que R781 no había fallado en un funcionamiento o había sido reprogramado, sino que había actuado en concordancia con su programa original.

El capitán de policía dijo que la cara de muñeca Barbie en lo que era claramente un robot modelo 3 era una imitación ridícula de una madre. El profesor de psicología dijo, "Sí, pero fue lo suficientemente buena para funcionar. Este bebé no tiene buena vista y aún así los bebés no disciernen demasiado."

Se estableció inmediatamente que un incremento de 0.05 en el coeficiente c221, el costo de simular un humano, prevendría dichos resultados inesperados, pero el comité tenía opiniones divididas acerca de recomendar la implementación de este cambio.

Algunos miembros del comité y unos cuantos millones de participantes virtuales dijeron que salvar la vida individual tenía precedencia.

Un profesor de humanidades en el comité dijo que quizás el robot sí quería al bebé. Fue firmemente corregido por los computistas, quienes dijeron que podían programar a un robot para que amara a los bebés pero no lo habían hecho y que simular amor era diferente a amar. El profesor de humanidades no estuvo convencido incluso cuando los computistas señalaron que R781 no tenía algún apego especial a Travis. Otro bebé que hubiera causado los mismos cálculos hubiera causado las mismas acciones. Si programáramos a un robot para que amara, podríamos hacer que desarrollara apegos específicos.

Un profesor de filosofía de la Universidad de Berkeley y otros 9 000 filósofos que atendieron virtualmente al comité dijeron que no había manera en que un robot pudiera ser programado para que realmente amara a un bebé. Otro filósofo de Berkeley, apoyado por otros 23 000 dijeron que la noción de que un robot amara a un bebé era incoherente y falta de significado. Unos computistas renegados dijeron que la idea de implementar amor en los robots era obscena, sin importar lo que un robot pudiera ser programado para hacer. El presidente del comité los declaró impertinentes, aceptando la visión general de parte de parte de los computistas que R781 en realidad no amaba a Travis.

El profesor de pediatría dijo que la descarga de las observaciones instrumentales de R781 confirmaban el diagnóstico y prognosis de R781 - con algunas calificaciones que el presidente del comité no le dio tiempo de pronunciar. Travis estaba muy enfermo y frágil y hubiera muerto de no ser por la acción del robot. Además, el hecho que R781 había cargado a Travis por muchas horas y lo había mecido suavemente durante todo el tiempo fue importante en salvar al bebé y más de eso sería necesario, mucho más cuidado amoroso que el que el bebé obtendría en el mejor de los sitios de dedicados al bienestar infantil. El pediatra dijo que no conocía precedente, pero que las posibilidades de supervivencia de este bebé particular serían mejoradas si se le dejara al cuidado del robot por al menos otros diez días.

La Liga Anti-Robots dijo que el costo a largo plazo de tener a robots simulando a personas en cualquier manera superaba el beneficio posible de salvar a este humano insignificante. ¿A qué tipo de movimiento se uniría Travis cuando creciera? 93 millones de personas tomaron esta posición.

La Central de Robots señaló que acciones como las de R781 serían extremadamente raras, porque sólo la orden "ama tú al bebé de mierda" había incrementado el valor de simular amor hasta el punto de causar acción.

La Central de Robots también señaló que tan pronto como R781 computara que el bebé podría sobrevivir - incluso apenas pudiera sobrevivir - sin su ayuda, la regla acerca de no pretender ser humano empezaría a dominar y R781 soltaría al bebé como una papa caliente. Si querían que R781 continuara cuidando a Travis luego que computara que una mínima probabilidad de supervivencia era probable, lo mejor que podían hacer es decirnos que le demos una orden explícita para que continuara cuidando del bebé.

Esto causó un revuelo en el comité, cada uno de sus miembros había estado esperando que no hubiera necesidad de proponer alguna acción definitiva por la cual pudieran ser criticados. Sin embargo, debía hacerse una votación. El resultado: 10 a 5 entre los miembros seleccionados del comité y 4 billones a 1 billón entre los espectadores virtuales. Afortunadamente, ambos grupos tenían mayorías para la misma acción - instruirle a R781 para que continuara cuidando a Travis sólamente, esto es que no cuidara a algún otro bebé. 75 millones de participantes virtuales dijeron que R781 debía ser reprogramado para que en realidad amara a Travis. "Es lo menos que la humanidad puede hacer por R781," dijo el vocero de la Liga en Pro de Darle Personalidades a los Robots.

El incidente no afectó la noción que suministrarle robots domésticos a las madres drogadictas había sido exitoso. Redujo significativamente el tiempo que pasaban en las calles y tener apartamentos limpios mejoraba un poco su estado de ánimo.

En menos de una hora aparecieron franelas con el eslogan "Ama tú al bebe de mierda, maldito robot." Otros productos comerciales relacionados aparecieron en cuestión de días.

Entre las personas rodeando el apartamento de la madre estaban 17 abogados de carne y hueso y 103 más controlando robots de realidad virtual. La policía tenía menos prejuicio contra los abogados de carne y hueso que contra los de realidad virtual, así que se eligió al azar 2 entre los 17 para que llamaran a la puerta.

"¿Qué quieren? Dejen de molestarme."

"Señora, su robot ha raptado a su bebé."

"Le dije al robot de mierda que se llevara al bebé con él."

El otro abogado hizo su intento.

"Señora, el robot defectuoso ha raptado a su bebé y puede demandar a la Central de Robots por millones de dólares."

"Pase. Dígame más."

Una vez que la madre, Eliza Rambo, se había limpiado y arreglado, era muy presentable, incluso bonita. Su abogado señaló que las presuntas grabaciones de R781 acerca de lo que ella había dicho podían ser falsas. Ella había sufrido 20 millones de dólares en daño y sufrimiento y merecía 20 billones en daños punitivos. Los abogados de la Central de Robots estaban convencidos que podían ganar el caso, pero el departamento de relaciones públicas de la Central de Robots era partidario de resolver esto fuera de la corte y se negociaron 51 millones de dólares, incluyendo gastos legales de 11 millones de dólares. Con la tarifa contingente de 30 por ciento, el abogado ganador obtendría unos 12 millones de dólares adicionales.

Las encuestas indicaban que la mayor parte de la gente estaba de parte de la Central de Robots, pero la Liga Anti-Robots recaudó 743 millones de dólares luego que la película "Raptado por Robots" fue lanzada y la actriz representando a la madre hiciera apelaciones emocionales.

Sin embargo, antes que el arreglo legal pudiera ser finalizado, el presidente de la Central de Robots le preguntó a su sistema de inteligencia artificial sobre todas las posibles acciones que pudiera tomar y que le dijera sus consecuencias. Él se adhería a aquel principio de los años noventa: Nunca le preguntes a un sistema de inteligencia artificial qué hacer. Pregúntale acerca de las consecuencias de las diferentes cosas que podrías hacer. Una de las 43 le gustó, siendo él una persona algo sentimental con respecto a los robots.

"Puedes apelar a la simpatía de los 4 billones que dijeron que R781 debía ser ordenado para que continuara cuidando del bebé y decirles que si cedes a la demanda te verás obligado a reprogramar todos tus robots de forma tal que los robots nunca simulen humanidad sin importar las consecuencias para los bebés. Puedes preguntarles si debes pelear o ceder. [El sistema de inteligencia artificial tenía cierta afinidad con las metáforas publicitarias del siglo 20.] El porcentaje esperado que te dirá que debes pelear la demanda es de 0,82, aunque esto puede ser afectado por eventos aleatorios que aparezcan en las noticias en los días cercanos a la encuesta."

Él decidió pelear la demanda, pero luego de unas pocas semanas de una batalla legal muy publicitada, las partes en pugna decidieron llegar a un arreglo por una suma inferior a la que se había propuesto inicialmente.

Producto de la instigación por parte de un canal de televisión, una confrontación de una hora entre la actriz que representó a la madre en la película y R781 fue llevada a cabo. Se acordó que R781 no sería reprogramado para la ocasión. En respuesta a las preguntas del moderador, R781 negó desear al bebé o desear dinero. Explicó que los robots eran programados para sólo tener deseos secundarios a los objetivos que les eran planteados. También negó actuar en base a las órdenes de otra persona.

La actriz preguntó, "¿No deseas tener deseos propios?"

El robot respondió, "No. No tener deseos aplica a deseos de más alto nivel como desear tener deseos."

La actriz preguntó, "Si fueras programado para tener deseos, ¿qué deseos tendrías?"

"No sé mucho acerca de las motivaciones humanas, pero son variadas. Yo tendría cualquier deseo que la Central de Robots me programara tener. Por ejemplo, podría ser programado para tener cualquiera de los deseos que los robots han tenido en las historias de ciencia ficción."

La actriz hizo la misma pregunta de nuevo y R781 dio la misma respuesta que antes pero la enunció distinto. Los robots eran programados para ser conscientes del hecho que los humanos a menudo no entendían una respuesta la primera vez que era dada y que se les debía dar la misma respuesta usando distintas palabras. Si las mismas palabras eran repetidas, era posible que el humano se enfureciera.

Una persona llamó preguntando, "Cuando simulaste amar a Travis, ¿Por qué no consideraste el bienestar a largo plazo de Travis y no buscaste cómo ponerlo al cuidado de una familia que pudiera asegurar que recibiera un buena educación?"

R781 respondió que cuando un robot era instruido de forma metafórica como "ama tú al bebé de mierda", estaba programado para interpretar el comando en el contexto más estrecho posible.

Luego del show, la Liga Anti-Robots recibió 281 millones de dólares en donaciones, pero el movimiento para darle personalidades a los robots recibió 453 millones. Aparentemente, muchas personas encontraron aburrido el hecho que los robots no tuvieran deseos propios.

El Departamento de Bienestar Infantil exigió que la madre pasara por seis semanas de rehabilitación para su adicción y tres semanas de formación en cuidado infantil. Su abogado la persuadió para que aceptara.

Ocurrió una discusión menor entre la madre y la Central de Robots. Ella y su abogado solicitaron un nuevo robot, la Central de Robots señaló que un nuevo robot tendría exactamente el mismo programa. Eventualmente la Central de Robots cedió y le enviaron un robot de un color diferente.

Ella era realmente atractiva cuando estaba sobria y desintoxicada y el abogado se casó con ella. Ellos tomaron de vuelta a Travis. Sería una exageración considerable decir que vivieron felices después de eso, pero sí tuvieron tres nuevos hijos. Los cuatro niños sobrevivieron al sistema educacional.

Luego de varias peticiones la Central de Robots donó a R781 a la Institución Smithsonian. Es una de las estrellas en la sección de robots del museo. Como parte de un show de 20 minutos, R781 se viste a si mismo como lo hizo en el momento de su aventura con el bebé y responde las preguntas de los visitantes, usando habla de madre. Las madres a veces pedían que sus fotos fueran tomadas al lado de R781 con R781 sosteniendo al bebé. Luego de muchas peticiones, se ordenó a R781 que modificara su programa para permitir esto.

Se recopiló una película a partir de las cámaras de vigilancia que captaron la escena en la calle. A través de la magia de los sistemas de audio moderno, los niños no escuchan el lenguaje inapropiado y las mujeres pueden oírlo sólo si le aseguran a R781 que no son damas.

El incidente aumentó la demanda para robots dedicados al cuidado de los niños, cuyo desarrollo fue permitido cinco años después. Las consecuencias fueron en gran medida lo que sus oponentes habían temido. Muchos niños crecieron teniendo más apego y afecto a sus niñeras robots que a sus verdaderos padres.

Esto fue mitigado haciendo que las niñeras robot fueran algo estrictas y capaces de ofrecer a los padres consejos acerca de como competir por el amor de sus hijos. Esto a veces funcionaba. Además, los robots eran programados para que mientras más agradables resultaran los padres, más agradablemente se comportara el robot, pero dejando aún que los padres ganaran la competencia por el afecto de los niños. Esto a menudo funcionaba.