Ética robótica

Súperinteligencias artificiales y sus derechos

¿Podrán los robots ser mejores administradores públicos? ¿Mejores compañeros de trabajo? ¿Hasta qué grado se incorporarán los robots a las guerras? ¿Qué mitos caerán cuando las inteligencias artificiales procesen la vasta cantidad de información que hemos acumulado?

* * *

En “Círculos viciosos”, un cuento de Isaac Asimov escrito en 1942, situado en el año 2015, se formulan las tres leyes de la robótica:

—Un robot no puede hacer daño a un humano.

—Un robot obedecerá las órdenes humanas, a menos que éstas contradigan la primera ley.

—Un robot protegerá su propia existencia excepto si esto entra en conflicto con la primera y segunda ley.

* * *

Andrew Lg, investigador de la Universidad de Stanford, se nutre de las neurociencias y las ciencias computacionales con la consigna de reproducir el cerebro humano a través de algoritmos. Programar y codificar. Hoy el reto es crear redes neurales capaces, por ejemplo, de percibir visual y auditivamente, o de tener capacidades analíticas de lenguaje. Para realizar este proyecto los inventores mapean el cerebro, estudian la naturaleza biológica del hombre y se alimentan de la infinidad de datos con que ahora contamos. Andrew utilizó 16 mil procesadores para crear un tejido neural con más de un billón de conexiones. Y así fue como una máquina logró identificar a un gato. Para sorpresa de nadie y consternación de algunos, él y su equipo se han adelantado al resto en sus indagaciones porque cuentan con el respaldo del más poderoso de los emporios informáticos. Los Google Glasses parecerán un invento de la prehistoria comparado con el Google Brain.

* * *

Por supuesto, ése no es el único proyecto para desarrollar una inteligencia artificial más poderosa que la humana, Henry Markram tiene su propia propuesta y para ello acaba de recibir un estímulo de más de un billón de euros. Su plan es integrar los datos de decenas de miles de trabajos de investigación del cerebro publicados cada año, para compilar todo lo que se conoce acerca de los sectores y las funciones del cerebro y usarlo para crear un modelo complejo “desde el nivel genético, el nivel molecular, las neuronas y las sinapsis, cómo se forman los microcircuitos, macrocircuitos, mesocircuitos, hasta que lleguemos a entender cómo vincular estos niveles, todo el camino hasta el comportamiento y la cognición”.

* * *

En el año 2011 el sistema informático Watson derrotó en una partida de Jeopardy al mayor ganador de dinero en toda la historia del programa, y al poseedor del récord por la racha más larga de campeonatos, ganador de 75 contiendas seguidas. La tecnología desarrollada por IBM fue capaz de responder a una pregunta críptica: “Este sombrero es elemental, querido concursante”. En pocos segundos contestó: “Sombrero de caza”. Fue capaz de asociar la frase a las novelas de Conan Doyle y a la prenda que llevaba Sherlock Holmes. Para Ramón López de Mantaras, director del Instituto de Investigación en Inteligencia Artificial, ésta es una señal evidente de que ha llegado la hora de legislar las responsabilidades y los derechos de los robots.

Spaun, un invento similar desarrollado en Canadá, es capaz de imitar ciertos procesos cognitivos de una persona, inclusive las carencias.

* * *

Corea del Sur, la Corea favorita de todos, pretende que para el año 2020 todos sus habitantes cuenten con un robot, por eso trabajan desde ahora en la Carta de Ética para Robots. “La medida se anticipa al día en que los robots, sobre todo los robots inteligentes de servicio, puedan ser parte de la vida cotidiana conforme se realicen mayores adelantos tecnológicos”, afirmó el ministro de Comercio, Industria y Energía de Corea del Sur en su declaración.

La preocupación se extiende a otras latitudes. En Inglaterra, por ejemplo, se realizó el Escaneos Sigma y Delta. En sus 250 páginas se abordan temas como la investigación espacial, la nanotecnología y los métodos que podrían alargar significativamente la duración de la vida. El capítulo dedicado a la robótica se titula “Sueño utópico o el surgimiento de las máquinas” y examina el desarrollo en el campo de la inteligencia artificial y cómo podría afectar al derecho y a la política.

En este otro documento la ONU detalla su postura en cuestiones de ética robótica y LARs (Letal Robótica Autónoma, es decir, dispositivos armamentísticos capaces de elegir a quién atacar sin la intervención de un operador humano):

La revolución de la robótica se ha descrito como la próxima gran revolución en los asuntos militares, a la par con la introducción de la pólvora y las bombas nucleares. Pero en un aspecto importante, las LARs son diferentes de esas revoluciones anteriores: su implementación implicaría no sólo una actualización de los tipos de armas utilizadas, sino también un cambio en la identidad de las personas que los utilizan. Con la contemplación de las LARs, la distinción entre armas y guerreros corre el riesgo de convertirse en borrosa, ya que el primero podría tomar decisiones autónomas sobre su propio uso.

* * *

http://www.youtube.com/watch?v=R6Tow8OiZ60

* * *

Nick Bostron, profesor de Filosofía en Oxford y director del Instituto del Futuro de la Humanidad, aborda el concepto de súperinteligencias artificiales, las cuales, advierte serán más desarrolladas en creatividad científica, cultura general y capacidades para socializar. Esto significa que las preguntas sobre ética, en la medida en que tienen respuestas correctas que se puede llegar por el razonamiento y la ponderación de las pruebas, podrán ser respondidas con mayor precisión por una súperinteligencia que por los seres humanos. Lo mismo ocurre con las cuestiones de planificación de la política y de largo plazo, cuando se trata de entender qué políticas podrían llevar a cuáles resultados y qué medios serían los más eficaces en el logro de los objetivos propuestos. Una súperinteligencia podría superar a los humanos.

Una súperinteligencia, por supuesto, no se dejaría seducir por las mezquinas motivaciones que dominan al hombre.

* * *

Susan Anderson (filósofa) y Michael Anderson (científico computacional), marido y mareada, se unieron para trabajar juntos en un campo de investigación con apenas una década de vida: la ética de las máquinas. Juntos dieron a luz a Nao, no un mocoso rapaz, sí un robot programado para comportarse éticamente. Susan cree que la interacción de los humanos con las máquinas puede inspirarnos a comportarnos de forma más ética. Nao fue diseñado para administrar los medicamentos de su dueño, es capaz de decidir cuándo dejar pasar una negligencia, cuándo recordar al paciente y cuándo denunciar con un tercero, como podría serlo el mismo doctor. Esto puede parecer un avance insustancial, sin embargo es un paso hacia, ciertamente, la incertidumbre.

* * *

En una esclarecedora entrevista titulada “La era de las máquinas morales”, Josh Storrs, científico y futurista, consultor de la NASA y experto en nanotecnologías, cree que sería mayor reto desarrollar máquinas con una inteligencia superior a la nuestra que máquinas con una moral más avanzada.

Creo, por el contrario, que es muy posible construir máquinas que sean más confiables que los seres humanos. Uno de los puntos brillantes en el futuro es que nuestras instituciones civiles probablemente serán tomadas por las máquinas. Esto probablemente generará una reevaluación muy crítica de su confiabilidad.

* * *

¿Podrán los robots ser mejores administradores públicos? ¿Mejores médicos? ¿Mejores compañeros de trabajo? ¿Hasta qué grado se incorporarán los robots a las guerras? ¿Qué mitos caerán cuando las inteligencias artificiales procesen la vasta cantidad de información que hemos acumulado? ¿Cómo mutará nuestro pensamiento cuando se potencie con tecnologías de inteligencia aumentada? ¿Qué implicaciones tendrán estos avances en otras áreas, como el entretenimiento, el empleo o la educación? ¿Y si los robots desarrollaran un lenguaje propio, incomprensible para el hombre?

* * *

¿Qué pasaría si protagonizaran los mejores conciertos de rock?

* * *

¿Qué pasaría si un oficinista de rostro caído entrara en una tienda departamental y…


Publicado en Invasión Abisal, “Archivo de Curiosidades y Asombros”.
Compartir:

Publicado en: Entre la ciencia y la ficción, Junio 2013


Te invitamos al curso Presencia en internet para escritores el próximo sábado 2 de septiembre.
Pide informes y confirma tu participación.

Suscríbete gratis a Replicante:

Aquí puedes Replicar

¿Quieres contribuir a la discusión o a la reflexión? Publicaremos tu comentario si éste no es ofensivo o irrelevante. Replicante cree en la libertad y está contra la censura, pero no tiene la obligación de publicar expresiones de los lectores que resulten contrarias a la inteligencia y la sensibilidad. Si estás de acuerdo con esto, adelante.